Vitalik Buterin và Giám đốc MIRI Nate Soares Đi sâu vào mối nguy hiểm của AI: Trí tuệ nhân tạo có thể gây ra sự tuyệt chủng của loài người không?
Tóm lại
Người sáng lập Ethereum Vitalik Buterin và giám đốc Viện nghiên cứu trí tuệ máy móc Nate Soares đã thảo luận về những rủi ro của AI tại Zuzalu ngày hôm nay.
Zuzalu là một cộng đồng thành phố pop-up ở Montenegro do Buterin và các đồng nghiệp của anh ấy trong cộng đồng tiền điện tử khởi xướng.
Trong cuộc thảo luận, Soares đã chia sẻ quan điểm của mình về lý do tại sao AI có khả năng cao sẽ chấm dứt mọi sự sống trên Trái đất.
Người sáng lập Ethereum Vitalik Buterin và giám đốc Viện Nghiên cứu Trí tuệ Máy móc (MIRI) Nate tăng vọt đã thảo luận về những rủi ro của AI tại Zuzalu ngày hôm nay.
Zuzalu là một “cộng đồng thành phố pop-up” ở Montenegro do Buterin và các đồng nghiệp của anh ấy trong cộng đồng tiền điện tử khởi xướng, hoạt động từ ngày 25 tháng 25 đến ngày 200 tháng XNUMX. Sự kiện quy tụ XNUMX cư dân nòng cốt với mong muốn chung là học hỏi, sáng tạo, sống lâu hơn và khỏe mạnh hơn cuộc sống, và xây dựng các cộng đồng tự duy trì. Trong suốt hai tháng, cộng đồng cũng sẽ tổ chức một số sự kiện về các chủ đề khác nhau như sinh học tổng hợp, công nghệ dành cho quyền riêng tư, hàng hóa công cộng, tuổi thọ, quản trị, v.v.
Sản phẩm thảo luận mở đầu bằng việc Soares giới thiệu công việc của anh ấy tại MIRI, một tổ chức phi lợi nhuận có trụ sở tại Berkeley đã tồn tại lâu hơn thời gian anh ấy điều hành nó. Trong 20 năm qua, MIRI đã cố gắng đặt nền móng để đảm bảo rằng sự phát triển AI diễn ra tốt đẹp. Với cuộc thảo luận, Vitalik hy vọng sẽ giải quyết được điều gì khiến AI trở nên rủi ro đặc biệt so với các công nghệ khác được phát hành trong lịch sử loài người.
Xác suất AI khiến loài người tuyệt chủng
Vitalik nói rằng anh ấy đã quan tâm đến chủ đề rủi ro AI từ lâu và nhớ rằng đã bị thuyết phục rằng có 0.5% -1% khả năng tất cả sự sống trên Trái đất sẽ không còn tồn tại nếu AI gặp trục trặc—một rủi ro hiện hữu sẽ gây ra sự diệt vong của loài người hay sự sụp đổ không thể đảo ngược của nền văn minh nhân loại.
Theo quan điểm của Soares, sự tuyệt chủng của loài người giống như kết quả mặc định của sự phát triển không an toàn của công nghệ AI. So sánh nó với sự tiến hóa, ông nói rằng sự phát triển của loài người dường như diễn ra nhanh hơn so với những thay đổi tiến hóa đơn thuần đang diễn ra. Trong cả quá trình tiến hóa của AI và con người, sự tối ưu hóa chiếm ưu thế – một quá trình tìm kiếm giải pháp tốt nhất cho một vấn đề khi có nhiều mục tiêu cần xem xét – đang thay đổi. Con người đã đạt đến điểm mà họ có thể truyền đạt kiến thức thông qua truyền miệng thay vì để thông tin được truyền vào gen thông qua chọn lọc tự nhiên.
“AI cuối cùng là trường hợp bạn có thể chuyển đổi lại quy trình tối ưu hóa vĩ mô. Tôi nghĩ bạn có thể làm tốt hơn nhiều so với con người về mặt tối ưu hóa. Tôi nghĩ chúng ta vẫn còn khá ngu ngốc khi nói đến việc tối ưu hóa môi trường xung quanh. Với AI, chúng ta đang trải qua quá trình chuyển đổi giai đoạn trong đó tối ưu hóa tự động là lực lượng đang xác định các tính năng vĩ mô của vũ trụ,” Soares giải thích.
Ông nói thêm rằng tương lai đó trông như thế nào là quá trình tối ưu hóa đang tối ưu hóa cho điều gì và điều đó có thể sẽ không còn có lợi cho nhân loại vì hầu hết các mục tiêu tối ưu hóa không có chỗ cho con người.
Liệu con người có thể đào tạo AI để làm điều tốt?
Buterin chỉ ra rằng con người là những người đào tạo AI và cho nó biết cách tối ưu hóa. Nếu cần, họ có thể thay đổi cách máy được tối ưu hóa. Về vấn đề đó, Soares nói rằng về nguyên tắc, có thể đào tạo AI để làm điều tốt, nhưng chỉ đơn giản là đào tạo AI để đạt được mục tiêu không có nghĩa là nó sẽ hoặc muốn làm điều đó, sôi sục với mong muốn.
Đưa ra quan điểm về việc học tăng cường trong các mô hình ngôn ngữ lớn đang thu được lượng lớn dữ liệu về sở thích của con người, Buterin đã hỏi tại sao nó không hoạt động, vì trí thông minh hiện tại đang ngày càng hiểu rõ hơn sở thích của chúng ta.
“Có một khoảng cách lớn giữa việc hiểu động cơ của chúng ta và việc bỏ đi,”
Soar đã trả lời.
“Tuyên bố của tôi không phải là một mô hình ngôn ngữ lớn hay AI sẽ không hiểu được những sở thích vụn vặt của con người. Tôi khẳng định rằng hiểu được những chi tiết vụn vặt trong sở thích của con người rất khác so với việc tối ưu hóa những điều tốt đẹp,” ông nói thêm.
Một khán giả đã so sánh giữa AI và con người, nói rằng, giống như trí tuệ nhân tạo, con người có xu hướng không hiểu những gì họ đang làm hoặc dự đoán, điều này cũng có thể nguy hiểm. Sau đó, anh ta yêu cầu Soares giả vờ rằng anh ta là người ngoài hành tinh và giải thích tại sao không nên có con người.
“Tôi sẽ không hào hứng khi trao sức mạnh thần thánh và quyền kiểm soát tương lai cho một cá nhân con người. Riêng biệt, tôi sẽ vui mừng hơn nhiều khi trao quyền cho một cá nhân con người hơn là cho một AI có vai trò ngẫu nhiên. Tôi hoàn toàn không nói rằng chúng ta không nên có AI. Tôi đang nói rằng chúng ta cần phải làm cho đúng. Chúng ta cần khiến họ quan tâm đến một tương lai tràn đầy niềm vui, hạnh phúc và những nền văn minh hưng thịnh, nơi những người chuyển giới đang tham gia vào các giao dịch tổng dương với người ngoài hành tinh, v.v.,” Soares giải thích. “Nếu bạn xây dựng một quy trình tối ưu hóa mạnh mẽ quan tâm đến những thứ khác nhau, điều đó có khả năng phá hủy mọi giá trị của vũ trụ.”
Ông nói thêm rằng những thứ mà con người coi trọng không có sức thuyết phục phổ biến và đạo đức không phải là thứ mà bất kỳ bộ óc nào nghiên cứu về nó sẽ theo đuổi. Thay vào đó, nó là kết quả của các động lực được tích hợp sẵn trong con người, trong môi trường tổ tiên, khiến chúng ta có khả năng sinh sản tốt và đặc trưng cho loài người.
Cuối cùng, Soares tin rằng chúng ta không nên xây dựng thứ gì đó thông minh tương tự hoặc thậm chí thông minh hơn mà không phù hợp với niềm vui, hạnh phúc và tương lai hưng thịnh. Mặt khác, ông cũng nói rằng nhân loại không nên xây dựng một siêu trí tuệ thân thiện nhằm tối ưu hóa một tương lai vui vẻ trong lần thử đầu tiên trong một cuộc chạy đua vũ trang. Trong ngắn hạn, AI nên được dành riêng để giúp nhân loại mua thời gian và không gian để tìm ra những gì họ thực sự muốn.
ChatGPT sẽ không tiêu thụ toàn bộ sinh quyển
Vì AI hiện đang được xây dựng để đạt được các mục tiêu cụ thể, bao gồm cả dự đoán, Buterin đã hỏi, điều gì sẽ xảy ra nếu AI không hướng đến mục tiêu? Soares cho biết thật dễ dàng để xây dựng những AI an toàn và không có khả năng, và chúng ta có thể sớm có những AI có khả năng nhưng đang theo đuổi những thứ khác. Anh ấy không nghĩ ChatGPT sẽ tiêu thụ toàn bộ sinh quyển vì nó không ở mức khả năng đó.
Soares lưu ý rằng hầu hết các ứng dụng AI thú vị, như tự động hóa nghiên cứu và phát triển khoa học và công nghệ, dường như đều yêu cầu theo đuổi các mục tiêu nhất định.
“Không sai khi bạn có thể có được GPT để viết một bài thơ haiku gọn gàng, nhưng bạn không thể viết được một cuốn tiểu thuyết. Những hạn chế của các hệ thống hiện tại liên quan đến thực tế là chúng không theo đuổi những mục tiêu sâu sắc hơn này, ít nhất là đối với tôi.”
Tìm hiểu thêm:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Cindy là một nhà báo tại Metaverse Post, bao gồm các chủ đề liên quan đến web3, NFT, metaverse và AI, tập trung vào các cuộc phỏng vấn với Web3 người chơi trong ngành. Cô đã nói chuyện với hơn 30 giám đốc điều hành cấp C và ngày càng tăng, mang đến cho độc giả những hiểu biết sâu sắc có giá trị của họ. Xuất thân từ Singapore, Cindy hiện sống ở Tbilisi, Georgia. Cô có bằng Cử nhân về Nghiên cứu Truyền thông & Truyền thông của Đại học Nam Úc và có mười năm kinh nghiệm trong lĩnh vực báo chí và viết lách. Hãy liên lạc với cô ấy qua [email được bảo vệ] với các bài báo, thông báo và cơ hội phỏng vấn.
Xem thêm bài viết
Cindy là một nhà báo tại Metaverse Post, bao gồm các chủ đề liên quan đến web3, NFT, metaverse và AI, tập trung vào các cuộc phỏng vấn với Web3 người chơi trong ngành. Cô đã nói chuyện với hơn 30 giám đốc điều hành cấp C và ngày càng tăng, mang đến cho độc giả những hiểu biết sâu sắc có giá trị của họ. Xuất thân từ Singapore, Cindy hiện sống ở Tbilisi, Georgia. Cô có bằng Cử nhân về Nghiên cứu Truyền thông & Truyền thông của Đại học Nam Úc và có mười năm kinh nghiệm trong lĩnh vực báo chí và viết lách. Hãy liên lạc với cô ấy qua [email được bảo vệ] với các bài báo, thông báo và cơ hội phỏng vấn.
