OpenAI: AI có khả năng gây ra nhiều tác hại cho con người, nhưng việc cố gắng ngăn chặn tiến độ không phải là một lựa chọn
Tóm lại
OpenAITài liệu của “Lập kế hoạch cho AGI và xa hơn nữa” gợi ý việc giới thiệu dần dần, chậm rãi các mô hình phức tạp và “thông minh” hơn, tổ chức kiểm toán độc lập các hệ thống lớn và hạn chế tài nguyên máy tính.
OpenAI muốn AI cởi mở với mọi người một cách bình đẳng và tạo ra sự nhất quán và mô hình quản lý để giảm sự thiên vị và hành vi không mong muốn.
OpenAI gần đây đã xuất bản một tài liệu có tiêu đề “Lập kế hoạch cho AGI và hơn thế nữa”. Nó phác thảo những ý tưởng tổng quát hướng dẫn hành động của công ty khi thế giới tiến gần hơn đến sự phát triển của AGI (trí tuệ nhân tạo tổng hợp).
OpenAI with tin rằng mặc dù AI có khả năng gây ra tác hại đáng kể cho con người nhưng việc cố gắng ngăn chặn sự tiến bộ không phải là một lựa chọn. Do đó, chúng ta phải học cách duy trì sự cải thiện này để nó không xấu đi đáng kể.
Tài liệu có thể được tìm thấy tại đây. Hãy làm nổi bật một vài yếu tố quan trọng từ nó:
- OpenAI muốn AGI giúp mọi người phát triển về mọi mặt của cuộc sống, cả về kinh tế và khoa học.
Thay vì tạo ra AI lớn cực ngầu và ngay lập tức tung nó ra thế giới, OpenAI sẽ dần dần giới thiệu các mô hình phức tạp và “thông minh” hơn. Giả định rằng khả năng AI ngày càng tăng sẽ không gây sốc cho thế giới, giúp con người có thời gian điều chỉnh, thích ứng với nền kinh tế và xây dựng các quy trình tương tác với AI. - OpenAI mời tất cả các tổ chức chính thức áp dụng nguyên tắc nói trên (dần dần triển khai AI mạnh mẽ). Altman cũng khuyến nghị hạn chế số lượng tài nguyên máy tính có thể được sử dụng để đào tạo các mô hình và thiết lập các cuộc kiểm tra khách quan đối với các hệ thống chính trước khi chúng được cung cấp cho công chúng. Thay vì tham gia vào các cuộc thi như “ai sẽ là người đầu tiên tung ra một mô hình lớn hơn và ngầu hơn?” OpenAI yêu cầu các doanh nghiệp làm việc cùng nhau để cải thiện sự an toàn của AI.
- OpenAI tin rằng điều quan trọng là các chính phủ phải được thông báo về các hoạt động đào tạo vượt quá quy mô cụ thể. Đây là một khái niệm hấp dẫn và chúng tôi muốn biết thêm về kế hoạch OpenAI có trong vấn đề này. Đề xuất này thoạt đầu có vẻ không tuyệt lắm đối với tôi.
- OpenAI sẽ cố gắng phát triển các mô hình đáng tin cậy và dễ kiểm soát hơn, có nhiều khả năng hạn chế sự thiên vị và hành vi bất lợi trong AI. Cách tiếp cận được thực hiện bởi OpenAI trong trường hợp này là cung cấp mô hình cho công chúng ở một hình thức rất hạn chế đồng thời cung cấp cho người dùng tùy chọn cá nhân hóa nó. Vì người tiêu dùng sẽ không thể “cá nhân hóa” bất cứ thứ gì ở đó nên tôi không chắc điều này sẽ giúp mô hình nói chung trở nên ít thiên vị hơn như thế nào. Trừ khi nó miễn trừ trách nhiệm pháp lý cho công ty về hành động của người mẫu.
Nhìn chung, tài liệu, điểm theo đúng cách. Tuy nhiên, đã có một xung đột nhỏ giữa “chúng tôi sẽ không ngay lập tức trưng bày những người mẫu tuyệt vời cho công chúng, nhưng chúng tôi sẽ nói về chúng với các bang” và “mọi người nên biết về sự tiến bộ của AI.” Nói tóm lại, chúng tôi sẽ chờ đợi sự làm rõ chi tiết từ OpenAI về mọi chủ đề.
Đọc thêm về AI:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
