Các chuyên gia công nghệ ký thư ngỏ kêu gọi tạm dừng đào tạo các hệ thống AI tiên tiến hơn GPT-4
Tóm lại
Hơn 1100 bên ký kết đã ký vào bức thư ngỏ kêu gọi tạm dừng các thí nghiệm AI khổng lồ.
Những người ký kết bao gồm Elon Musk, Steve Wozniak và Emad Mostaque, trong số những người khác.
Bức thư ngỏ nêu lên mối lo ngại về sự thiên vị thông tin của AI, tự động hóa công việc và nguy cơ của AI đối với nền văn minh nhân loại.
Hơn 1,100 bên ký kết bao gồm các chuyên gia công nghệ hàng đầu đã ký một thỏa thuận mở thư kêu gọi tạm dừng sáu tháng để đào tạo các hệ thống AI tiên tiến hơn GPT-4.
Bức thư được viết bởi Future of Life Institute, một tổ chức phi lợi nhuận hoạt động nhằm giảm thiểu các rủi ro thảm khốc và hiện hữu toàn cầu mà nhân loại phải đối mặt, đặc biệt là rủi ro hiện hữu từ trí tuệ nhân tạo tiên tiến.
Trích dẫn Nguyên tắc AI của Asilomar được tán thành rộng rãi, trong đó nêu rõ rằng “AI tiên tiến có thể đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất, và nên được lên kế hoạch và quản lý với sự quan tâm và nguồn lực tương xứng”, bức thư nói rằng mức độ lập kế hoạch và quản lý không xảy ra.
Bức thư tiếp tục nói rằng các phòng thí nghiệm AI đang trong một cuộc chạy đua “ngoài tầm kiểm soát” để phát triển trí tuệ nhân tạo ngày càng mạnh mẽ mà không ai có thể hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy. Như các hệ thống AI đương đại như GPT-4 có thể cạnh tranh với con người về các nhiệm vụ chung, bức thư nêu lên mối lo ngại về sự sai lệch thông tin của AI, tự động hóa công việc và nguy cơ mất kiểm soát đối với nền văn minh nhân loại.
“Chúng tôi kêu gọi tất cả các phòng thí nghiệm AI ngay lập tức tạm dừng việc đào tạo các hệ thống AI mạnh hơn ít nhất 6 tháng. GPT-4. Việc tạm dừng này phải được công khai và có thể kiểm chứng, đồng thời bao gồm tất cả các bên tham gia chính. Nếu việc tạm dừng như vậy không thể được ban hành nhanh chóng, các chính phủ nên vào cuộc và đưa ra lệnh tạm dừng”.
bức thư nêu rõ.
Bức thư kêu gọi các phòng thí nghiệm AI và các chuyên gia công nghệ sử dụng khoảng thời gian tạm dừng để phát triển và triển khai các giao thức an toàn cho thiết kế và phát triển AI tiên tiến được kiểm tra và giám sát chặt chẽ bởi các chuyên gia độc lập bên ngoài.
Tuy nhiên, nhà báo người Mỹ Jeff Jarvis đã chỉ trích bức thư, nói rằng đó là một "mẫu vật chính của sự hoảng loạn về đạo đức."
Một số bộ óc hàng đầu trong lĩnh vực công nghệ và học máy đã ký vào bức thư cùng với các nhà khoa học nghiên cứu DeepMind và một số giáo sư đại học từ khắp nơi trên thế giới bao gồm:
- Yoshua Bengio, Đại học Montréal, Người đoạt giải Turing vì đã phát triển học sâu, người đứng đầu Viện thuật toán học thuật Montreal
- Stuart Russell, Berkeley, Giáo sư Khoa học Máy tính, Giám đốc Trung tâm Hệ thống Thông minh, đồng thời là đồng tác giả của cuốn sách giáo khoa tiêu chuẩn “Trí tuệ nhân tạo: Cách tiếp cận hiện đại”
- Elon Musk, CEO của SpaceX, Tesla & Twitter
- Emad Mostaque, Giám đốc điều hành, Stability AI
- Jaan Tallinn, Đồng sáng lập Skype, Trung tâm Nghiên cứu Rủi ro Hiện sinh, Viện Tương lai Cuộc sống
- Gary Marcus, Đại học New York, nhà nghiên cứu AI, Giáo sư danh dự
- Marc Rotenberg, Trung tâm AI và Chính sách kỹ thuật số (CAIDP), Chủ tịch
Trong một thư gần đây, Rotenberg đã viết rằng CAIDP sẽ nộp đơn khiếu nại lên Ủy ban Thương mại Liên bang, kêu gọi điều tra Open AI và ChatGPT, cũng như lệnh cấm tiếp tục phát hành sản phẩm cho mục đích thương mại cho đến khi các biện pháp bảo vệ được thiết lập.
OpenAI Giám đốc điều hành Sam Altman đã thừa nhận rằng “chúng tôi cũng cần có đủ thời gian để các tổ chức của chúng tôi tìm ra những việc cần làm” và rằng xã hội không còn xa với các công cụ AI sáng tạo “có khả năng đáng sợ”.
“Chúng tôi đang yêu cầu FTC “nhấn nút tạm dừng” để các thể chế, luật pháp và xã hội của chúng ta có cơ hội bắt kịp. Chúng tôi cần khẳng định quyền tự quyết đối với các công nghệ mà chúng tôi tạo ra trước khi chúng tôi mất quyền kiểm soát,” bức thư của CAIDP nêu rõ.
Ở những nơi khác, các nhà lập pháp EU đang đặt mục tiêu ký một thỏa thuận với các nước EU vào cuối năm nay để thực hiện các quy tắc về AI, mặc dù thỏa thuận này có thể gặp trở ngại khi các cuộc tranh luận về cách quản lý AI ngày càng gay gắt.
Tìm hiểu thêm:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Cindy là một nhà báo tại Metaverse Post, bao gồm các chủ đề liên quan đến web3, NFT, metaverse và AI, tập trung vào các cuộc phỏng vấn với Web3 người chơi trong ngành. Cô đã nói chuyện với hơn 30 giám đốc điều hành cấp C và ngày càng tăng, mang đến cho độc giả những hiểu biết sâu sắc có giá trị của họ. Xuất thân từ Singapore, Cindy hiện sống ở Tbilisi, Georgia. Cô có bằng Cử nhân về Nghiên cứu Truyền thông & Truyền thông của Đại học Nam Úc và có mười năm kinh nghiệm trong lĩnh vực báo chí và viết lách. Hãy liên lạc với cô ấy qua [email được bảo vệ] với các bài báo, thông báo và cơ hội phỏng vấn.
Xem thêm bài viết
Cindy là một nhà báo tại Metaverse Post, bao gồm các chủ đề liên quan đến web3, NFT, metaverse và AI, tập trung vào các cuộc phỏng vấn với Web3 người chơi trong ngành. Cô đã nói chuyện với hơn 30 giám đốc điều hành cấp C và ngày càng tăng, mang đến cho độc giả những hiểu biết sâu sắc có giá trị của họ. Xuất thân từ Singapore, Cindy hiện sống ở Tbilisi, Georgia. Cô có bằng Cử nhân về Nghiên cứu Truyền thông & Truyền thông của Đại học Nam Úc và có mười năm kinh nghiệm trong lĩnh vực báo chí và viết lách. Hãy liên lạc với cô ấy qua [email được bảo vệ] với các bài báo, thông báo và cơ hội phỏng vấn.
