Databricks công bố Dolly, một mã nguồn mở “ngân sách” khác ChatGPT Đối thủ
Tóm lại
Dolly là một bản sao Alpaca do Databricks tạo ra để dân chủ hóa quyền truy cập vào các mô hình ngôn ngữ lớn.
Nó có thể được đào tạo trên một lượng nhỏ thông tin, chỉ tốn 30 đô la và 3 giờ làm việc.
Tuần trước, đã có cuộc nói chuyện về một ChatGPT-giống như sản phẩm có tên là Alpaca, với chi phí đào tạo thấp hơn hàng trăm lần so với OpenAI mô hình do sử dụng thông tin tổng hợp được tạo ra bằng cách sử dụng GPT. Bây giờ gặp nhau Dolly, một bản sao Alpaca được đặt tên theo bản sao cừu Dolly, có nhiệm vụ dân chủ hóa quyền truy cập vào các mô hình ngôn ngữ lớn. Lập trình viên tại Databricks nói rằng Dolly có thể được đào tạo về một lượng nhỏ thông tin chỉ với 30 đô la và 3 giờ làm việc. Trong trường hợp này, bạn không cần một siêu máy tính vài chục nghìn đô la.
Dolly được kỳ vọng sẽ là người thay đổi cuộc chơi trong lĩnh vực xử lý ngôn ngữ tự nhiên, vì nó sẽ cho phép các doanh nghiệp nhỏ và cá nhân phát triển các mô hình ngôn ngữ của riêng họ mà không phải trả quá nhiều chi phí. Việc dân chủ hóa quyền truy cập vào các mô hình ngôn ngữ lớn này có thể dẫn đến sự gia tăng đổi mới và sáng tạo trong lĩnh vực AI.
Dolly được tạo ra dựa trên năm 2020 Eleuther mô hình ngôn ngữ, chỉ có 6 tỷ tham số so với 135 tỷ trong GPT. Mô hình cũ đã được sửa đổi với sự trợ giúp của thông tin nhận được từ Alpaca được đề cập ở trên và đã đạt được khả năng làm theo lời nhắc của người dùng, điều mà phiên bản gốc không có. Giờ đây, nó có thể hoạt động như một chatbot, tạo văn bản và động não về một chủ đề nhất định.
Mặc dù chỉ có 6 tỷ tham số nhưng Dolly đã thể hiện hiệu suất ấn tượng trong các tác vụ ngôn ngữ và có tiềm năng trở thành giải pháp thay thế hiệu quả và tiết kiệm chi phí hơn cho các mô hình lớn hơn như GPT. Với sự phát triển và đào tạo hơn nữa, Dolly có thể trở thành một công cụ có giá trị cho các ứng dụng xử lý ngôn ngữ tự nhiên.
Từ đó, Databricks đưa ra giả định rằng độ mát của cùng ChatGPT chính xác là ở chất lượng thông tin mà chatbot được đào tạo chứ không phải ở sự tiến bộ kỹ thuật của chính mô hình. Rốt cuộc, Dolly, các nhà phát triển giải thích, đã học được những khả năng tương tự trong thời gian rất ngắn, mặc dù không ở mức cao như vậy. Điều này nhấn mạnh tầm quan trọng của dữ liệu đào tạo chất lượng cao trong việc xây dựng các chatbot hiệu quả. Nó cũng gợi ý rằng những tiến bộ kỹ thuật trong xử lý ngôn ngữ tự nhiên có thể không phải lúc nào cũng là yếu tố chính trong việc cải thiện hiệu suất của chatbot.
- OpenAI'S ChatGPT mô hình ngôn ngữ là thêm plugin mới để mở rộng khả năng của nó. Những cái này plugin kết nối ChatGPT cho các ứng dụng của bên thứ ba, cho phép nó truy xuất thông tin dựa trên tri thức và thời gian thực, cũng như thực hiện các hành động như đặt chuyến bay hoặc đặt đồ ăn. Các nhà phát triển có thể truy cập tài liệu để xây dựng plugin của họ và ChatGPT hoạt động như một trình gọi API thông minh bằng cách sử dụng đặc tả API và mô tả ngôn ngữ tự nhiên.
Đọc thêm các chủ đề liên quan:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
