Các chuyên gia AI và nhân vật của công chúng đưa ra cảnh báo về nguy cơ tuyệt chủng AI
Tóm lại
Các chuyên gia AI nổi tiếng và những nhân vật có ảnh hưởng bày tỏ sự chia sẻ của họ lo ngại về những rủi ro liên quan đến AI.
Mặc dù có những tiến bộ đáng kể trong AI, nhưng nhiều thách thức liên quan đến rủi ro AI vẫn chưa được giải quyết.
Các chuyên gia nổi tiếng về AI và các nhân vật của công chúng đã đưa ra tuyên bố cảnh báo rằng AI có thể gây ra mối đe dọa đối với sự tồn vong của nhân loại, tương đương hoặc thậm chí lớn hơn nguy cơ của đại dịch và chiến tranh hạt nhân. 350 bên ký kết lập luận rằng AI có thể gây ra những hậu quả thảm khốc và không lường trước được, chẳng hạn như giải phóng vũ khí tự trị, phá vỡ các hệ thống kinh tế và xã hội hoặc tạo ra các tác nhân siêu thông minh có thể thông minh hơn và chế ngự con người.
Họ kêu gọi các nhà hoạch định chính sách xem xét những rủi ro này một cách nghiêm túc và áp dụng các biện pháp để đảm bảo sự phát triển AI an toàn và có lợi. Các tuyên bố được ký bởi một số nhân vật hàng đầu trong nghiên cứu và phát triển AI, chẳng hạn như OpenAI Giám đốc điều hành Sam Altman, người đồng sáng lập Skype Jaan Tallinn, Giám đốc điều hành DeepMind Demis Hassabis và nhà khoa học máy tính AI Geoffrey Hinton, cũng như những nhân vật có ảnh hưởng đến công chúng, như nhạc sĩ Grimes và nhà phát thanh podcast Sam Harris.
Trong số những người ký tên có những người giành được Giải thưởng Turing 2018 vì những đóng góp của họ cho deep learning: Geoffrey Hinton và Yoshua Bengio. Họ có sự tham gia của các giáo sư từ các trường đại học danh tiếng như Harvard và Đại học Thanh Hoa ở Trung Quốc, cũng như Max Tegmark của MIT.
“Giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân,”
bức thư do các bang CAIS công bố.
Trung tâm An toàn AI (CAIS), một tổ chức phi lợi nhuận có trụ sở tại San Francisco, nhằm mục đích giải quyết các mối lo ngại về an toàn liên quan đến trí tuệ nhân tạo. Trong khi nhận ra những lợi ích tiềm năng của AI, CAIS nhấn mạnh nhu cầu phát triển và sử dụng nó một cách an toàn. Công ty tin rằng bất chấp những tiến bộ đáng kể trong AI, nhiều thách thức cơ bản về an toàn AI vẫn chưa được giải quyết. Theo trang web của mình, nhiệm vụ của CAIS là giảm thiểu rủi ro bằng cách tiến hành nghiên cứu an toàn, thúc đẩy cộng đồng các nhà nghiên cứu an toàn AI và ủng hộ các tiêu chuẩn an toàn.
“Có rất nhiều “rủi ro quan trọng và cấp bách từ AI,” không chỉ là nguy cơ tuyệt chủng; ví dụ: thiên vị hệ thống, thông tin sai lệch, sử dụng độc hại, tấn công mạng và vũ khí hóa. Đây đều là những rủi ro quan trọng cần được giải quyết. Xã hội có thể quản lý nhiều rủi ro cùng một lúc; nó không phải là “một trong hai/hoặc” mà là “có/và”. Từ góc độ quản lý rủi ro, sẽ là liều lĩnh nếu chỉ ưu tiên những tác hại hiện tại, thì cũng sẽ là liều lĩnh nếu bỏ qua chúng.”
Dan Hendrycks, giám đốc CAIS đã viết trên Twitter.
Vào tháng 1,100, hơn XNUMX chuyên gia công nghệ Ký kết một bức thư ngỏ yêu cầu tạm dừng sáu tháng việc đào tạo các hệ thống AI vượt trội GPT-4. Các nhà lập pháp châu Âu gần đây cũng phê duyệt dự thảo luật chặt chẽ hơn, được gọi là Đạo luật AI, quy định các công cụ AI như ChatGPT. Đạo luật này bao gồm các yêu cầu về kiểm tra an toàn, quản trị dữ liệu và giảm thiểu rủi ro cho các mô hình AI cơ bản, đồng thời cấm các hành vi như kỹ thuật thao túng và sử dụng sinh trắc học nhất định.
Tìm hiểu thêm:
- OpenAI Công bố phương pháp tiếp cận mới nhất để đảm bảo an toàn cho AI
- Google sẽ công bố trình tạo văn bản thành hình đại diện cho các game thủ?
- CodeWhisperer của Amazon mang đến cho các nhà phát triển lợi thế họ cần trong Đấu trường AI
- Vitalik Buterin và Giám đốc MIRI Nate Soares Đi sâu vào sự nguy hiểm của AI
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Agne là một nhà báo đưa tin về các xu hướng và sự phát triển mới nhất trong metaverse, AI và Web3 các ngành công nghiệp cho Metaverse Post. Niềm đam mê kể chuyện đã khiến cô thực hiện nhiều cuộc phỏng vấn với các chuyên gia trong các lĩnh vực này, luôn tìm cách khám phá những câu chuyện thú vị và hấp dẫn. Agne có bằng Cử nhân văn học và có kiến thức sâu rộng về viết về nhiều chủ đề bao gồm du lịch, nghệ thuật và văn hóa. Cô cũng tình nguyện làm biên tập viên cho tổ chức bảo vệ quyền động vật, nơi cô giúp nâng cao nhận thức về các vấn đề phúc lợi động vật. Liên hệ với cô ấy trên [email được bảo vệ].
Xem thêm bài viết
Agne là một nhà báo đưa tin về các xu hướng và sự phát triển mới nhất trong metaverse, AI và Web3 các ngành công nghiệp cho Metaverse Post. Niềm đam mê kể chuyện đã khiến cô thực hiện nhiều cuộc phỏng vấn với các chuyên gia trong các lĩnh vực này, luôn tìm cách khám phá những câu chuyện thú vị và hấp dẫn. Agne có bằng Cử nhân văn học và có kiến thức sâu rộng về viết về nhiều chủ đề bao gồm du lịch, nghệ thuật và văn hóa. Cô cũng tình nguyện làm biên tập viên cho tổ chức bảo vệ quyền động vật, nơi cô giúp nâng cao nhận thức về các vấn đề phúc lợi động vật. Liên hệ với cô ấy trên [email được bảo vệ].
