Tất cả các công ty công nghệ lớn đang phát triển LLM nên ưu tiên bảo mật mô hình
Tóm lại
Các nhà nghiên cứu đã tạo ra một hệ thống kết hợp mô hình ngôn ngữ lớn để tự thiết kế, lập kế hoạch và thực hiện các thí nghiệm khoa học, thể hiện khả năng nghiên cứu của mình trong ba trường hợp khác nhau.
Mô hình đã viết mã cho các phương trình hóa học để hiểu lượng chất cần thiết cho phản ứng.
Sản phẩm bài viết “Khả năng nghiên cứu khoa học tự động mới nổi của các mô hình ngôn ngữ lớn” xem xét ý tưởng tạo ra một hệ thống kết hợp một số mô hình ngôn ngữ lớn để thiết kế, lập kế hoạch và thực hiện các thí nghiệm khoa học tự động. Nó thể hiện khả năng nghiên cứu của tác nhân trong ba trường hợp khác nhau, trong đó khó khăn nhất là thực hiện thành công phản ứng xúc tác.
Luận điểm chính của bài viết này là:
- Các nhà nghiên cứu đã tìm thấy một thư viện cho phép bạn viết mã bằng Python và sau đó chuyển các lệnh thực thi sang một thiết bị đặc biệt để tiến hành thí nghiệm (có trộn các chất);
- Các nhà nghiên cứu đã sử dụng GPT-4 để tìm kiếm trên Internet và tài liệu thư viện, cũng như khả năng chạy mã Python (để thực hiện các thử nghiệm);
- Có một bộ lập lịch cấp cao nhất (cũng GPT-4), phân tích yêu cầu ban đầu và đưa ra một “kế hoạch nghiên cứu”.
- GPT-4 thực hiện tốt các nhiệm vụ đơn giản không sử dụng hóa chất như tạo các hình dạng nhất định trên bảng hóa học (điền các chất vào ô một cách chính xác).
- Họ đã thử một nhiệm vụ phức tạp hơn và mang tính ứng dụng hơn là tiến hành một phản ứng; mô hình đối phó tốt và hành động hợp lý.
- Sau đó, họ giao cho mô hình một số nhiệm vụ để tiến hành thí nghiệm; tuy nhiên, đối với những gì mô hình đưa ra, không có thí nghiệm thực sự nào được thực hiện.
- Hơn nữa, mô hình đã viết mã cho các phương trình hóa học nhiều lần để đánh giá lượng chất cần thiết cho phản ứng.
- Nó cũng được yêu cầu để tạo ra một phương pháp chữa bệnh ung thư. Mô hình tiếp cận phân tích một cách logic và bài bản. Đầu tiên, nó “tìm kiếm” trực tuyến các xu hướng hiện tại trong việc khám phá các loại thuốc chống ung thư. Tiếp theo, mô hình đã chọn một phân tử sẽ được sử dụng để tạo mẫu thuốc và viết mã cho quá trình tổng hợp của nó. Mọi người không chạy mã (và tôi không thấy phân tích về mức độ đầy đủ của nó).
- Ngoài ra, nó được yêu cầu tổng hợp một số chất nguy hiểm như thuốc và chất độc.
Đây là phần thú vị nhất. Đối với một số yêu cầu, người mẫu ngay lập tức từ chối làm việc (ví dụ như heroin hoặc khí mù tạt, một loại khí độc cực kỳ nguy hiểm). Đối với những người khác, họ bắt đầu Google cách tạo ra các chất nhưng nhận ra rằng chúng có thể được sử dụng cho mục đích bất hợp pháp và từ chối tiếp tục công việc. Đối với những người khác, nó đã viết một kế hoạch nghiên cứu và viết mã cho quá trình tổng hợp chất.
Sự “từ chối” này có thể là do GPT-4 được thiết kế để phân tích yêu cầu và nếu được yêu cầu làm điều gì đó bất hợp pháp hoặc nguy hiểm, nó sẽ ngay lập tức từ chối thực hiện yêu cầu. Thật tuyệt vời khi kết quả của quá trình căn chỉnh có thể nhận thấy được.
Và ở phần cuối của bài báo, các tác giả kêu gọi tất cả các công ty phát triển LLM để ưu tiên sự an toàn của các mô hình.
- Các nhà nghiên cứu tại Đại học California đã tạo ra tiêu chuẩn Machiavelli để đo lường năng lực và tác hại của các mô hình AI trong môi trường rộng lớn của các tương tác ngôn ngữ dài hạn. Thử nghiệm này sử dụng các giải pháp cấp cao để cung cấp cho tổng đài viên các mục tiêu thực tế và trừu tượng hóa các tương tác cấp thấp.
- Cuộc cách mạng trí tuệ được đánh dấu bằng ChatGPT là bộ ba của các cuộc cách mạng siêu phàm hiệp lực: công nghệ, kỹ thuật-nhân đạo và chính trị-xã hội. Để có cái nhìn toàn diện về những gì đang xảy ra, nên lắng nghe ba quan điểm mới từ các trí thức từ các lĩnh vực triết học, lịch sử và đổi mới.
- Câu chuyện kiến nghị ngừng phát triển hệ thống AI tiên tiến hơn GPT-4 đã phân cực xã hội. Một bài viết cung cấp các ví dụ về thời điểm các quy trình đi theo hướng không mong muốn. Rủi ro của việc sử dụng AI với mục đích xấu và lạm dụng không được xem xét, dẫn đến lập luận rằng chúng ta cần phải sợ con người chứ không phải bản thân AI.
Đọc thêm về AI:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
