Các nhà lãnh đạo AI cảnh báo về rủi ro ngày càng tăng và mối lo ngại về đạo đức trong những tiến bộ nhanh chóng
Trong một tuyên bố chính sách gần đây, những nhân vật nổi bật trong lĩnh vực AI, bao gồm Bengio, Hinton, Russell, Harari và Kahneman, đã gióng lên hồi chuông cảnh báo về sự tiến bộ nhanh chóng và những rủi ro xã hội ngày càng tăng liên quan đến AI.
AI đang phát triển nhanh chóng. GPT-2 không thể đếm từ 0 đến 100 bốn năm trước, nhưng các mô hình hiện đại có thể viết mã, tạo ra những hình ảnh tuyệt vời và đưa ra những hướng dẫn mang tính trí tuệ. Và bởi vì chúng ta đang trong một cuộc đua nên sự tiến bộ có thể còn tăng nhanh hơn nữa. Hơn nữa, AI tiến bộ nhanh hơn, ví dụ, bằng cách hỗ trợ lập trình các hệ thống mới và thu thập dữ liệu để đào tạo chúng.
Một khi sự tiến bộ đạt đến trình độ con người, không có lý do gì để nghĩ rằng nó sẽ chậm lại hoặc dừng lại. Ở một số vùng nhất định, hệ thống nhân tạo đã vượt trội hơn con người về mặt này, thể hiện các khả năng như xử lý nhanh hơn tốc độ, khả năng xử lý dữ liệu lớn hơn và khả năng mở rộng quy mô lớn. Các doanh nghiệp có đủ nguồn tài chính để thực hiện các chương trình đào tạo vượt xa mức trần hiện tại.
Các tác giả nghĩ rằng rất có thể một nhà tổng quát về AI giỏi hơn sẽ xuất hiện trong vòng mười năm tới, vượt qua khả năng của con người trong nhiều lĩnh vực quan trọng.
Điều gì sẽ xảy ra tiếp theo? Mọi cuộc sống đều có thể được cải thiện nếu chúng được quản lý và phân phối hợp lý. Phương án được lựa chọn kém sẽ kéo theo những rủi ro đáng kể mà chúng ta chưa chuẩn bị sẵn sàng. Thay vì được phân bổ cho mục đích đảm bảo an toàn và ngăn ngừa tác hại, các nguồn lực quan trọng đang được sử dụng để xây dựng các hệ thống AI mạnh mẽ hơn bao giờ hết. Điều này cần phải thay đổi; tự mình theo đuổi các kỹ năng là không đủ. Và quá trình này mất nhiều thời gian hơn dự kiến. Chúng ta cần lập kế hoạch cho những rủi ro cao hơn trước khi chúng phát sinh bằng cách dự đoán sự leo thang của các mối đe dọa hiện tại và sự xuất hiện của những mối đe dọa mới. Chúng ta không có đủ thời gian dành cho AI vì nó phải mất hàng thập kỷ mới được chấp nhận. biến đổi khí hậu.
Nhiều rủi ro ở cấp độ xã hội đang tồn tại, bao gồm sự gia tăng bất công, sự suy thoái của sự ổn định và sự suy giảm nhận thức chung về thực tế. Ở đây, những kẻ khủng bố và tội phạm đang tham gia vào các hoạt động rộng rãi. AI có thể tập trung vào tay một số ít người chơi, dẫn đến gia tăng bất bình đẳng toàn cầu, tạo điều kiện thuận lợi cho chiến tranh tự động, thao túng hàng loạt phù hợp với từng cá nhân và giám sát khắp nơi.
Như tự chủ AI trở nên tinh vi hơn và có thể lập kế hoạch, hành động trên thế giới và đạt được mục tiêu của mình thì những rủi ro này sẽ chỉ tăng lên. Những mục tiêu này có thể không mang lại lợi ích tốt nhất cho chúng ta và trong trường hợp có kẻ xấu, thậm chí có thể gây bất lợi. Hiện tại vẫn chưa rõ cách giải quyết vấn đề Liên kết AI, liên quan đến việc kết hợp hành vi AI với các mục tiêu phức tạp của chúng tôi. Hơn nữa, rất dễ bỏ qua các biện pháp đảm bảo an toàn khi đua xe với mục đích giành chiến thắng.
Con người khó kiểm soát phần mềm thông thường, chưa nói đến các hệ thống AI phức tạp đang ngày càng trở nên thành thạo trong kỹ thuật xã hội, hack, lừa dối và lập kế hoạch chiến lược. Đây là thứ mà các hệ thống AI tự động có thể tiếp thu từ con người hoặc tự tạo ra.
Những hệ thống này có khả năng xây dựng liên minh với các cá nhân và các hệ thống khác, giành được lòng tin, đảm bảo nguồn tài trợ và tác động đến những người ra quyết định. Giống như sâu, chúng có khả năng tự sao chép trên toàn mạng. Một lượng lớn mã đã được viết với sự hỗ trợ của trợ lý AI; trong tương lai, các hệ thống có thể kết hợp các hoạt động khai thác vào nhiều hệ thống quan trọng. Hệ thống AI có khả năng sử dụng hoặc đe dọa vũ khí sinh học hoặc tự động trong chiến đấu mở. Đây chỉ đơn thuần là sự tiếp nối của các phong trào hiện nay hướng tới nghiên cứu sinh học, trí tuệ nhân tạo và tự động hóa chiến tranh. Mọi người có thể thấy quá khó để bước vào và chống cự.
Trong nhiều trường hợp, chúng tôi sẵn sàng trao quyền cho họ mà không cần họ phải yêu cầu. Nhiều cá nhân và doanh nghiệp sẵn sàng áp dụng những hệ thống như vậy trong môi trường cạnh tranh vì lo ngại rằng chúng sẽ bị tụt hậu so với đối thủ.
Có thể tìm thấy tài liệu đầy đủ tại đây.
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
