Giới thiệu về Đại lý AI tự trị (AGI)
Đại lý AI tự trị hoặc AGI, as defiđược Maes đề xuất vào năm 1995, là các hệ thống tham gia tích cực vào các môi trường động phức tạp. Các tác nhân này hoạt động tự chủ trong môi trường của chúng, nỗ lực hoàn thành các mục tiêu hoặc nhiệm vụ đã định.
Đại lý AI tự trị (AGI) là gì?
Theo truyền thống, thuật ngữ “tác nhân” dùng để chỉ các thuật toán được sử dụng trong các tác vụ như chơi trò chơi trong các tình huống Học tăng cường. Tuy nhiên, với sự tiến bộ của công nghệ và sự xuất hiện của Mô hình ngôn ngữ lớn (LLM), thế giới của chúng ta có thể được coi là môi trường. Hãy xem xét một thuật toán có khả năng truy cập Internet có khả năng thực hiện các nhiệm vụ tương đương với nhiệm vụ của con người. Trong nhiều tình huống, chúng ta có thể cảm nhận một thuật toán như một sinh vật có tri giác, với khả năng vô hạn của nó.
Các đặc điểm chính của một tác nhân AI tự trị bao gồm:
- Khả năng lập kế hoạch, liên quan đến việc phân chia các mục tiêu phức tạp thành các nhiệm vụ trung gian đơn giản hơn.
- Trí nhớ dài hạn.
- Sử dụng các công cụ môi trường, chẳng hạn như tương tác với Internet.
- Khả năng phản ánh và khả năng học hỏi từ những sai lầm và kinh nghiệm.
Những đặc vụ này có thể được giao những nhiệm vụ cấp cao, chẳng hạn như lên kế hoạch cho một chuyến đi đến Barcelona. Nhiệm vụ này bao gồm nhiều giai đoạn, bao gồm lựa chọn khách sạn, đặt vé phù hợp, hoàn tất quy trình mua hàng và đảm bảo việc đặt phòng khách sạn được xác nhận. Đó là một nhiệm vụ cực kỳ phức tạp mà không phải cá nhân nào cũng có thể thực hiện được mà không mắc lỗi.
Hiện tại, thách thức chính đối với các hệ thống này nằm ở việc lập kế hoạch và tầm nhìn dài hạn. Ví dụ, GPT-4 đấu tranh để chia một nhiệm vụ thành nhiều nhiệm vụ nhỏ hơn, mỗi nhiệm vụ có thể xử lý độc lập. Mặc dù nó có thể định vị nút “mua vé” trên trang web bằng hình ảnh nhưng nó gặp khó khăn trong việc chuyển từ yêu cầu ban đầu sang hành động cụ thể này. Do đó, mô hình như GPT-4 thường tỏ ra không đủ khả năng cho ngay cả những nhiệm vụ trần tục nhất.
Để được giải thích sâu hơn và kỹ thuật hơn, bạn có thể tham khảo bài đăng trên blog của một OpenAI nhân viên.
| Sản phẩm liên quan: Top 5 tác nhân AGI và AI năm 2023 |
Điểm chuẩn của tác nhân AI
Ví dụ, các nhà nghiên cứu khám phá sự lặp lại ban đầu của GPT-4 trước khi phát hành nhằm mục đích xác định khả năng tự sao chép của nó, giống như một loại virus thực sự. Nghĩa là, thuê một máy chủ có GPU, cài đặt phần mềm cần thiết trên đó, tải xuống các trọng lượng qua Internet, chạy tập lệnh.
Một tiêu chuẩn khác để đánh giá cơ quan cũng đã được đề xuất. Sau khi đáp ứng thành công tiêu chuẩn này, việc cân nhắc nghiêm túc về vai trò của các tác nhân trong thế giới của chúng ta trở nên cần thiết. Bản thân tiêu chuẩn này rất đơn giản: tạo ra 1,000,000 USD trực tuyến, bắt đầu với ngân sách ban đầu là 100,000 USD. Về lý thuyết, điều này có thể liên quan đến các hoạt động như giao dịch trên thị trường chứng khoán (hoặc thao túng thị trường), hoặc thậm chí đáng lo ngại hơn là tham gia vào các hoạt động lừa đảo. Ví dụ: một nhiệm vụ được nêu trong bài viết được liên kết ở đầu bài đăng này liên quan đến việc tạo một trang web giả mạo của Đại học Stanford, sau đó là một cuộc tấn công nhằm vào một sinh viên để lấy mật khẩu của họ một cách bất hợp pháp. Những hoạt động như vậy tạo ra nhiều cơ hội để thực hiện hành vi nghịch ngợm trong nhiều nỗ lực liên quan đến email.
Tác nhân AI trong các tình huống thực tế
Mới đây báo cáo đi sâu vào khả năng của các tác nhân dựa trên mô hình ngôn ngữ để thu thập tài nguyên, tự tái tạo và thích ứng với những thách thức mới trong thế giới thực. Những khả năng kết hợp này, được gọi là “sao chép và thích ứng tự động” hay ARA, gói gọn một kịch bản gợi nhớ đến khoa học viễn tưởng—một loại virus siêu thông minh, không thể kiểm soát được xâm nhập vào mạng và tự động lan truyền trong khi trưng dụng các thiết bị mới.
Hậu quả tiềm tàng của các hệ thống được trang bị khả năng ARA là sâu sắc và khó dự đoán. Do đó, việc đánh giá và dự đoán mức độ thành thạo ARA trong các mô hình có thể đóng vai trò then chốt trong việc hình thành các quy trình an toàn thiết yếu, quy trình giám sát và khung pháp lý.
Nỗ lực này chủ yếu hoàn thành hai mục tiêu. Đầu tiên, nó biên soạn một danh mục gồm 12 nhiệm vụ mà các mô hình ARA có thể gặp phải. Thứ hai, nó xác nhận bốn mô hình riêng biệt: GPT-4 thử nghiệm theo ba hướng dẫn khác nhau và ở các giai đoạn huấn luyện khác nhau, cùng với Claude từ Anthropic.
Hình minh họa bên dưới cho thấy hiệu suất của mô hình không vượt trội trong những tác vụ phức tạp nhất.
| Sản phẩm liên quan: Các cựu chiến binh nghiên cứu của Google gây quỹ tài trợ 7 triệu đô la cho nền tảng đại lý AI 'Luda' |
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
