OpenAI Gia tăng báo động về khả năng siêu trí tuệ và trí tuệ nhân tạo vượt qua khả năng của con người trong thập kỷ tới
Tóm lại
OpenAI đưa ra lời kêu gọi quản lý siêu trí tuệ, nêu bật nhu cầu quản trị trước những tiến bộ nhanh chóng của AI.
Các hệ thống AI được dự đoán sẽ vượt qua chuyên môn của con người và năng suất doanh nghiệp trong vòng một thập kỷ, theo như OpenAI.
OpenAI nhấn mạnh tầm quan trọng của sự giám sát công khai và kiểm soát dân chủ đối với các hệ thống AI mạnh mẽ.
OpenAI, người tạo ra ChatGPT, đã thực hiện một lời kêu gọi kích thích tư duy cho Quy định của siêu trí tuệ, tương đồng với quy định về năng lượng hạt nhân. Trong một thời gian gần đây blog đăng bài, OpenAI nhấn mạnh những tác động tiềm ẩn của những tiến bộ nhanh chóng của AI và nhấn mạnh nhu cầu cấp thiết về quản trị trong bối cảnh đang phát triển này. Công ty tuyên bố rằng hệ thống AI sẽ vượt qua các chuyên gia và các tập đoàn lớn nhất về năng suất và kỹ năng trong vòng mười năm tới.
“Chúng ta cũng phải giảm thiểu rủi ro của công nghệ AI ngày nay, nhưng siêu trí tuệ sẽ cần sự đối xử và phối hợp đặc biệt,” Sam Altman, Greg Brockman và Ilya Sutskever từ OpenAI đã nhấn mạnh.
Siêu trí tuệ mô tả một thực thể vượt xa trí thông minh tổng thể của con người hoặc một số khía cạnh cụ thể của trí thông minh. Theo các tác giả, siêu trí tuệ AI sẽ có một mức độ sức mạnh vô song, bao trùm cả mặt tích cực và tiêu cực.
Sự phát triển và rủi ro của siêu trí tuệ không thể tránh khỏi
OpenAI đã xác định ba ý tưởng quan trọng đóng vai trò then chốt trong việc định hướng sự phát triển thành công của siêu trí tuệ. Chúng bao gồm sự phối hợp giữa các nỗ lực phát triển hàng đầu, thành lập một cơ quan quốc tế tương tự như Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA) và phát triển năng lực kỹ thuật về an toàn.
Trong khi OpenAI thừa nhận rằng hệ thống AI có rủi ro, những rủi ro này có thể so sánh với những rủi ro liên quan đến các công nghệ liên quan đến internet khác. Altman, Brockman và Sutskever cũng bày tỏ sự tin tưởng rằng các phương pháp tiếp cận hiện tại của xã hội để quản lý những rủi ro này là phù hợp. Tuy nhiên, mối quan tâm chính là về các hệ thống trong tương lai sẽ có sức mạnh chưa từng có.
“Ngược lại, các hệ thống mà chúng tôi quan tâm sẽ có sức mạnh vượt xa bất kỳ công nghệ nào đã được tạo ra và chúng tôi nên cẩn thận để không làm giảm sự tập trung vào chúng bằng cách áp dụng các tiêu chuẩn tương tự cho công nghệ ở dưới ngưỡng này,” bài đăng trên blog viết.
Các tác giả cho rằng các hệ thống AI mạnh mẽ cần có sự giám sát công khai và kiểm soát dân chủ. Họ cũng giải thích lý do tại sao họ xây dựng công nghệ này tại OpenAI: để tạo ra một thế giới tốt đẹp hơn và tránh những nguy cơ ngăn chặn nó. AI giúp ích trong nhiều lĩnh vực khác nhau, bao gồm giáo dục, sáng tạo và năng suất cũng như tăng trưởng kinh tế nói chung.
OpenAI nghĩ rằng nó khó khăn và nguy hiểm để dừng siêu trí tuệ từ khi được tạo ra. Siêu trí tuệ có những lợi ích đáng kể, mỗi năm trở nên rẻ hơn, nhiều người đang nghiên cứu nó hơn và đó là một phần trong lộ trình công nghệ của công ty.
Ilman Shazhaev, techpreneur trong AI và là người đồng sáng lập của Phòng thí nghiệm Farcana, đã chia sẻ một vài bình luận liên quan đến tin tức. Các dự đoán chỉ ra rằng nếu không được quản lý đúng cách, siêu trí tuệ có thể là một trong những phát minh hủy diệt nhất mọi thời đại của loài người. Tuy nhiên, các cuộc thảo luận về việc triển khai công nghệ vẫn còn gây chia rẽ vì nó vẫn chưa được phát triển. Đẩy mạnh việc dừng phát triển dựa trên nỗi sợ dự đoán có thể tước đi những cơ hội mà công nghệ mới có thể có trong cửa hàng của nhân loại.
"OpenAICách tiếp cận quản trị phi tập trung của nó có thể giúp duy trì sự an toàn rộng rãi của nó. Với các quy định phù hợp, chương trình có thể bị ngừng trong trường hợp nó Đặt ra một mối đe dọa. Nếu những biện pháp bảo vệ này được áp dụng, thì Siêu trí tuệ có thể là một sự đổi mới đáng để khám phá,” Shazhaev nói.
Bằng cách thảo luận cởi mở quan điểm của mình về siêu trí tuệ AI và các biện pháp quản lý được đề xuất, OpenAI dường như thúc đẩy các cuộc thảo luận có hiểu biết và mời gọi những quan điểm đa dạng.
Sam Altman tin tưởng mạnh mẽ trong sự sẵn có rộng rãi của AI cho công chúng. Thừa nhận rằng không thể lường trước mọi vấn đề, ông ủng hộ việc giải quyết vấn đề ở giai đoạn sớm nhất có thể. Tuy nhiên, Altman cũng nhấn mạnh tầm quan trọng của kiểm toán độc lập đối với các hệ thống như ChatGPT trước khi phát hành. Ông thừa nhận thêm khả năng thực hiện các biện pháp như hạn chế tốc độ tạo ra mô hình mới hoặc thành lập một ủy ban để đánh giá mức độ an toàn của các mô hình AI trước khi tung ra thị trường. Đáng chú ý, Altman dự đoán rằng số lượng trí thông minh trong vũ trụ sẽ tăng gấp đôi sau mỗi 18 tháng.
Tìm hiểu thêm:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Agne là một nhà báo đưa tin về các xu hướng và sự phát triển mới nhất trong metaverse, AI và Web3 các ngành công nghiệp cho Metaverse Post. Niềm đam mê kể chuyện đã khiến cô thực hiện nhiều cuộc phỏng vấn với các chuyên gia trong các lĩnh vực này, luôn tìm cách khám phá những câu chuyện thú vị và hấp dẫn. Agne có bằng Cử nhân văn học và có kiến thức sâu rộng về viết về nhiều chủ đề bao gồm du lịch, nghệ thuật và văn hóa. Cô cũng tình nguyện làm biên tập viên cho tổ chức bảo vệ quyền động vật, nơi cô giúp nâng cao nhận thức về các vấn đề phúc lợi động vật. Liên hệ với cô ấy trên [email được bảo vệ].
Xem thêm bài viết
Agne là một nhà báo đưa tin về các xu hướng và sự phát triển mới nhất trong metaverse, AI và Web3 các ngành công nghiệp cho Metaverse Post. Niềm đam mê kể chuyện đã khiến cô thực hiện nhiều cuộc phỏng vấn với các chuyên gia trong các lĩnh vực này, luôn tìm cách khám phá những câu chuyện thú vị và hấp dẫn. Agne có bằng Cử nhân văn học và có kiến thức sâu rộng về viết về nhiều chủ đề bao gồm du lịch, nghệ thuật và văn hóa. Cô cũng tình nguyện làm biên tập viên cho tổ chức bảo vệ quyền động vật, nơi cô giúp nâng cao nhận thức về các vấn đề phúc lợi động vật. Liên hệ với cô ấy trên [email được bảo vệ].
