Tạm dừng 6 tháng trong đào tạo AI là một ý tưởng hay, nhưng nó có thể không đủ
Tóm lại
Câu chuyện về bản kiến nghị và việc phát hành bài báo của Yudkovsky đã gây chia rẽ xã hội.
Thế tiến thoái lưỡng nan của người tù và lý thuyết trò chơi gợi ý rằng cần phải có một lượng lớn những người lành mạnh ở những nơi khác nhau để giải quyết những vấn đề như vậy.
Tuy nhiên, có một số điểm trừ đối với ý tưởng này, chẳng hạn như thiếu ý thức, ý chí và quyền tự quyết trong quá trình phát triển kỹ thuật số.
Câu chuyện về kiến nghị ngừng phát triển hệ thống AI tiên tiến hơn GPT-4 đã phân cực rõ rệt xã hội. Việc phát hành của Yudkovsky bài viết yêu cầu ngừng phát triển thêm GPT các mô hình đã đổ thêm dầu vào lửa, đặc biệt là đoạn văn của anh ấy về vụ đánh bom các trung tâm dữ liệu.
Từ những gì quan sát được trên mạng, dường như có ít người ủng hộ bản kiến nghị hơn nhiều so với những người phản đối, những người có ba lập luận chính:
| 1 | - Tiến độ không thể dừng lại. – Lời thỉnh cầu được phát minh bởi OpenAI đối thủ cạnh tranh. – Trung Quốc sẽ không chờ đợi. |
| 2 | – Bạn không nên sợ AI mà sợ con người. – GPT không có ý thức, ý chí, khát vọng hay cơ quan nên không có gì phải sợ hãi. – GPT-4 hoàn toàn không thể làm nô lệ cho thế giới vì nó không hiểu gì cả, mắc những sai lầm ngớ ngẩn và nói chung là khá ngu ngốc. – GPT-4 sẽ không thể điều hành thế giới vì nó không có tay/chân. |
| 3 | – Nhóm thứ ba không hiểu thế nào GPT-4 hoạt động ngay từ đầu. |
Chúng tôi sẽ không tập trung vào nhóm thứ ba vì lập trường của họ xuất phát từ sự thiếu hiểu biết. Điều đó không có nghĩa là tất cả các đối thủ của AI đều biết mọi thứ về AI; bạn có thể tìm thấy rất nhiều người chống AI thiếu hiểu biết về công nghệ và những gì nó đòi hỏi, mặc dù bản thân Yudkovsky tìm hiểu rất sâu về chủ đề AI, vì vậy không thể bị buộc tội là thiếu hiểu biết.
Hãy xem xét nhóm người đầu tiên – những người tin rằng sự tiến bộ không thể bị dừng lại. Họ đưa ra những lập luận khác nhau nhưng giống nhau và nhìn chung, những người đó không phủ nhận khả năng của AI cũng như triển vọng mà việc áp dụng nó mang lại và tin rằng sự phát triển của AI sẽ tiếp tục cho dù thế nào đi chăng nữa.
Luận điểm đầu tiên về sự tiến bộ không thể ngăn cản là một khẩu hiệu không nhất thiết phải đúng. Mọi người dường như đã dừng một số thí nghiệm khoa học, và nhiều dự án nghiên cứu từng được chấp nhận không còn được coi là hợp đạo đức nữa, và những dự án tương tự sẽ không bao giờ được phép thực hiện ngày nay. Tuy nhiên, bao nhiêu tiến bộ trong quá khứ đã bị chặn lại bởi Tòa án dị giáo và các cuộc đàn áp tôn giáo khác, cấm sách và sát hại các nhà khoa học ở Trung Quốc (và các quốc gia khác)? Đó là điều mà chúng ta sẽ không bao giờ có thể nắm bắt được hoàn toàn do khuynh hướng sống sót.
Các luận điểm khác liên quan đến cách tiếp cận có thể được tóm tắt là “nếu không phải chúng tôi, thì sẽ là họ.” Mặc dù dòng suy nghĩ này có thể dễ hiểu hơn, nhưng nó dường như cũng không phải là giải pháp đúng đắn. Nó rất giống với thế tiến thoái lưỡng nan của người tù trong lý thuyết trò chơi.
Nhóm lập luận thứ hai là nhóm thú vị nhất. Mặc dù cá nhân tôi đồng ý với nó ở một mức độ nào đó, nhưng có một vài điểm trừ cần được giải quyết. Đúng vậy, AI không có ý thức, ý chí, cơ quan, v.v. COVID-19 cũng vậy, nhưng nó đã tàn phá toàn thế giới. Một cái gì đó không cần phải có ý thức của cơ quan và ý thức để trở nên nguy hiểm; viễn cảnh sự sống trên trái đất bị xóa sổ vì virus không phải là không tưởng. Sau khi hoàn thành công việc, nó có thể đặt ghế lên bàn, tắt đèn và rời đi mãi mãi.
Tiếp tục phép loại suy sinh học, có một bài báo tuyệt vời, “Sự sáng tạo đáng kinh ngạc của sự tiến hóa kỹ thuật số: Bộ sưu tập các giai thoại từ các cộng đồng nghiên cứu sự sống nhân tạo và máy tính tiến hóa,” cung cấp nhiều ví dụ về thời điểm các quá trình đi theo hướng không mong muốn. Ngay cả khi không có quá trình tiến hóa, mọi thứ đều có thể đi vào sự khái quát hóa sai lầm “Khái quát hóa sai mục tiêu: Tại sao các thông số kỹ thuật chính xác lại không đủ cho các mục tiêu chính xác”. Trao quyền tự do cho quy trình tối ưu hóa có thể xảy ra sai sót được thảo luận trong “Rủi ro từ Tối ưu hóa đã học trong Hệ thống học máy nâng cao".
Đồng thời, chúng tôi thường không xem xét các rủi ro của sử dụng AI độc hại và bất kỳ sử dụng sai, điều này chỉ đưa ra lập luận rằng chúng ta cần phải sợ con người chứ không phải bản thân AI. Tuy nhiên, sự thật của vấn đề là AI có thể trở nên tồi tệ ngay cả khi không có những kẻ độc ác.
Tôi cũng đồng ý về thực tế là mô hình mắc phải những sai lầm ngu ngốc, nhưng con người cũng vậy, nhưng chúng tôi biết chúng có thể gây hại. Mặc dù người mẫu mắc nhiều lỗi nhưng họ cũng có thể giải quyết được nhiều vấn đề hay, thú vị và phức tạp mà người bình thường không thể giải được. Từ tác phẩm khét tiếng “Tia lửa trí tuệ nhân tạo tổng hợp: Những thử nghiệm ban đầu với GPT-4,” Tôi rất ngạc nhiên khi thấy AI có thể giải quyết, mặc dù không phải lúc nào cũng chính xác, các bài toán Fermi, những bài toán khá phức tạp. Lý thuyết về trí tuệ và “giống như khả năng hiểu” hành động của người khác của nó cũng rất ấn tượng. Tất cả những điều này đều hướng tới trí thông minh của AI; hiện có, nhưng không hoàn toàn giống chúng ta.
Loại bỏ ít nhất một số sai lầm mà các mô hình AI mắc phải nói chung là có thể thực hiện được, vì vậy trí thông minh của chúng chỉ có thể phát triển. Tất cả những gì bạn cần làm là thêm một mô-đun để tính toán chính xác, cơ sở thực tế và xác thực bằng một mô hình khác.
Điều quan trọng nhất trong toàn bộ câu chuyện này là tốc độ phát triển của AI. GPT mô hình đã phát triển với tốc độ chóng mặt. Bây giờ, có ChatGPT bổ sung có sẵn, bạn có thể sử dụng GPT các mô hình viết mã, API có sẵn cho đại chúng và bạn có thể sử dụng các công cụ bên ngoài mà không cần đào tạo trước.
GPT-4, tất nhiên, sẽ không chinh phục được thế giới, nhưng nó có thể làm rung chuyển nền kinh tế rất nhiều. GPT-5và sự lặp lại trong tương lai của mô hình, có thể không tiến xa lắm và có thể sẽ đi kèm với những khả năng mạnh mẽ hơn nhiều. Và hãy đối mặt với nó, chúng ta không thể hy vọng hiểu được những mô hình chưa tồn tại; chúng ta thậm chí còn chưa hiểu được những mô hình đã tồn tại. Theo nghĩa này, thời gian nghỉ sáu tháng có thể là một ý tưởng hay, nhưng nó đơn giản là không đủ.
Và cho rằng cuộc đua trí tuệ nhân tạo đã bắt đầu, không có thời gian để học.
Nói chung, trước tất cả những điều này, tôi cũng đã ký tên thỉnh nguyện. Mặc dù tôi không tin rằng nó sẽ giúp ích theo bất kỳ cách nào.
Đọc thêm các chủ đề liên quan:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
