Các công ty AI nên dành 30% nguồn tài trợ của mình cho R&D về an toàn và đạo đức
Thiệt hại do thành kiến và thông tin sai lệch gây ra đã quá rõ ràng. Có dấu hiệu cho thấy các mối nguy hiểm khác cũng có thể xuất hiện. Điều quan trọng là giảm thiểu những rủi ro hiện tại và lường trước những rủi ro mới nổi.
Chúng tôi sẽ không biết cách đảm bảo các hệ thống tự động tiên tiến hoặc AGI được an toàn hoặc cách kiểm tra chúng nếu chúng có sẵn ngay bây giờ. Hơn nữa, các chính phủ thiếu các thể chế cần thiết để ngăn chặn lạm dụng và áp dụng các biện pháp an toàn, ngay cả khi họ đã làm như vậy. Các tác giả ủng hộ việc phát triển khả năng giám sát hiệu quả của chính phủ và chuyển hướng các nỗ lực R&D theo hướng an toàn và đạo đức.
Kiểm soát và trung thực (các hệ thống phức tạp hơn có thể vượt qua thử nghiệm bằng cách đưa ra các câu trả lời sai nhưng thuyết phục), tính chắc chắn (trong điều kiện mới với sự thay đổi phân phối hoặc đầu vào đối nghịch), khả năng diễn giải (hiểu công việc), đánh giá rủi ro (các khả năng mới khó dự đoán xuất hiện), và sự xuất hiện của những thách thức mới (các dạng thất bại chưa từng có) là một số thách thức R&D sẽ không được giải quyết bằng phát triển hệ thống AI mạnh mẽ hơn.
Các tác giả cho rằng an toàn và đạo đức nên nhận được ít nhất một phần ba nguồn tài trợ cho R&D AI.
Các tiêu chuẩn cần phải được thực thi liên quan đến cả thể chế quốc gia và quản trị toàn cầu. AI thiếu những thứ này, nhưng ngành dược phẩm, tài chính và hạt nhân thì có. Hiện nay có nhiều động cơ khuyến khích các quốc gia và doanh nghiệp tiết kiệm nhưng phải trả giá bằng an ninh. Các công ty có thể thu lợi từ những tiến bộ của AI trong khi để xã hội gánh chịu hậu quả, giống như các ngành công nghiệp đổ chất thải xuống sông.
Bí quyết kỹ thuật vững chắc và khả năng di chuyển nhanh chóng là những yêu cầu đối với các tổ chức quốc gia. Trên trường toàn cầu, quan hệ đối tác và thỏa thuận là rất cần thiết. Phải tránh những trở ngại quan liêu đối với các mô hình nhỏ và có thể dự đoán được để bảo vệ nghiên cứu học thuật và các ứng dụng có rủi ro thấp. Các mô hình biên giới—một nhóm chọn lọc gồm các hệ thống mạnh nhất được đào tạo trên các siêu máy tính trị giá hàng tỷ đô la—sẽ nhận được nhiều sự chú ý nhất.
Các chính phủ phải cởi mở hơn về sự phát triển để các quy định có hiệu quả. Các cơ quan quản lý phải bắt buộc đăng ký mô hình, bảo vệ người cung cấp thông tin nội bộ, bắt buộc phải báo cáo sự cố và theo dõi sự phát triển của các mô hình cũng như việc sử dụng siêu máy tính.
Cơ quan quản lý cũng phải có quyền truy cập vào các hệ thống này trước khi đưa chúng vào sản xuất để đánh giá có khả năng gây hại các tính năng như tạo mầm bệnh, tự sao chép và xâm nhập hệ thống.
Các hệ thống có khả năng gây nguy hiểm cần có nhiều phương pháp kiểm soát khác nhau. Mô hình biên giới người sáng tạo cũng phải chịu trách nhiệm pháp lý về bất kỳ thiệt hại nào đối với hệ thống của họ mà lẽ ra có thể tránh được. Điều này sẽ khuyến khích đầu tư an ninh. Nhiều tính năng hơn, chẳng hạn như cấp phép của chính phủ, khả năng ngăn chặn sự phát triển để đáp ứng với nguy hiểm tiềm tàng khả năng, kiểm soát truy cập và các biện pháp bảo mật thông tin mà tin tặc cấp nhà nước không thể xâm nhập, có thể được yêu cầu đối với các hệ thống cực kỳ có năng lực.
Mặc dù không có quy tắc nào nhưng các doanh nghiệp nên nhanh chóng làm rõ trách nhiệm nếu-thì của mình bằng cách phác thảo các bước chính xác mà họ sẽ thực hiện nếu một số khả năng của mô hình nhất định vượt qua ranh giới đỏ. Những biện pháp này cần phải được giải thích kỹ lưỡng và được xác nhận một cách độc lập. Vì vậy, nó là như vậy. riêng biệt Bổ sung chính sách biên soạn một bản tóm tắt các luận văn.
- Vào tháng XNUMX, Diễn đàn Mô hình Biên giới đã giới thiệu Quỹ An toàn AI trị giá hơn 10 triệu đô la, nhằm mục đích thúc đẩy những tiến bộ trong nghiên cứu an toàn AI. Quỹ này là sự hợp tác giữa Diễn đàn Mô hình Biên giới và các đối tác từ thiện, sẽ hỗ trợ các nhà nghiên cứu độc lập trên toàn thế giới liên kết với các tổ chức học thuật, tổ chức nghiên cứu và các công ty khởi nghiệp. Những người đóng góp chính cho sáng kiến này là Anthropic, Google, Microsoft, OpenAI, cùng với các tổ chức từ thiện như Quỹ Patrick J. McGovern, Quỹ David và Lucile Packard, Eric Schmidt và Jaan Tallinn. Quỹ An toàn AI chủ yếu tập trung vào việc thúc đẩy phát triển các kỹ thuật đánh giá mới và phương pháp tiếp cận nhóm đỏ cho các mô hình AI, nhằm phát hiện các mối nguy tiềm ẩn. Diễn đàn có kế hoạch thành lập Ban cố vấn trong những tháng tới và sẽ đưa ra lời kêu gọi đầu tiên cho các đề xuất và trao giải thưởng ngay sau đó.
| Sản phẩm liên quan: Cơ quan cạnh tranh và thị trường của Vương quốc Anh đưa ra đánh giá về các mô hình AI khi các nỗ lực điều tiết của chính phủ tăng lên |
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
