OpenAI Công bố phương pháp tiếp cận mới nhất để đảm bảo an toàn cho AI
Tóm lại
OpenAI đã phát hành một bài đăng trên blog phác thảo cách tiếp cận an toàn được cải thiện sau những lo ngại gần đây về an toàn và quyền riêng tư cũng như các cuộc điều tra.
Công ty cam kết tiến hành kiểm tra nghiêm ngặt, thu hút các chuyên gia bên ngoài để nhận phản hồi và làm việc với các chính phủ để xác định giải pháp tốt nhất cách tiếp cận cho các quy định AI.
Sau khi đối mặt với những lo ngại về an toàn và quyền riêng tư và làm theo điều tra gần đây ở một số nước châu Âu, OpenAI có phát hành một bài đăng trên blog phác thảo cách tiếp cận an toàn được cải thiện của công ty.
OpenAI cam kết tiến hành thử nghiệm nghiêm ngặt, thu hút ý kiến phản hồi của các chuyên gia bên ngoài trước khi phát hành bất kỳ hệ thống mới nào và hợp tác với các chính phủ để xác định cách tiếp cận tốt nhất cho các quy định về AI.
Trước đây, công ty đã dành hơn sáu tháng để nghiên cứu sự an toàn và căn chỉnh của mẫu xe mới nhất của mình, GPT-4, trước khi phát hành nó một cách công khai. Để đảm bảo sự an toàn của mô hình ngôn ngữ mới nhất, GPT-4, OpenAI thuê một nhóm gồm hơn 50 chuyên gia: các chuyên gia về chính sách, đạo đức và an toàn AI, bao gồm cả các nhà nghiên cứu và kỹ sư.
“Điều quan trọng, chúng tôi tin rằng xã hội phải có thời gian để cập nhật và điều chỉnh theo khả năng ngày càng cao của AI và rằng tất cả những người bị ảnh hưởng bởi công nghệ này sẽ có tiếng nói quan trọng trong cách AI phát triển hơn nữa,”
OpenAI Đã viết.
OpenAI's Tập trung vào An toàn và Quyền riêng tư của Trẻ em
Ý cấm ChatGPT, trích dẫn OpenAIViệc không xác minh được tuổi của người dùng, mặc dù được thiết kế cho những người từ 13 tuổi trở lên, là một trong những lý do. Trọng tâm quan trọng trong các nỗ lực đảm bảo an toàn của công ty đã chuyển sang bảo vệ trẻ em bằng cách triển khai các tùy chọn xác minh độ tuổi. OpenAI hiện đang khám phá, đặc biệt là khi các công cụ AI dành cho những người từ 18 tuổi trở lên hoặc 13 tuổi trở lên với sự chấp thuận của cha mẹ.
Công ty nghiêm cấm việc tạo ra nội dung thù địch, quấy rối, bạo lực hoặc người lớn và GPT-4 đã có khả năng phản hồi các yêu cầu về nội dung không được phép thấp hơn 82% so với GPT-35.
OpenAI đã thiết lập một hệ thống mạnh mẽ để giám sát tình trạng lạm dụng và hy vọng sẽ thực hiện được GPT-4 có sẵn cho nhiều người hơn theo thời gian. Công ty làm việc với các nhà phát triển về các biện pháp giảm thiểu an toàn phù hợp, chẳng hạn như Học viện Khan phi lợi nhuận và đang nghiên cứu các tính năng để cho phép áp dụng các tiêu chuẩn chặt chẽ hơn cho đầu ra của mô hình.
Cải thiện quyền riêng tư là một khía cạnh an toàn khác OpenAI đang tập trung vào, đặc biệt là sau khi gần đây vi phạm dữ liệu. Các mô hình ngôn ngữ lớn của công ty AI được đào tạo trên một lượng lớn văn bản bao gồm nội dung có sẵn cho công chúng, nội dung được cấp phép và nội dung do người đánh giá tạo ra; nó sử dụng dữ liệu để làm cho các mô hình AI trở nên hữu ích hơn cho mọi người.
OpenAI đang thực hiện các bước để bảo vệ quyền riêng tư của các cá nhân bằng cách xóa thông tin cá nhân khỏi dữ liệu đào tạo của mình, tinh chỉnh các mô hình để từ chối yêu cầu cung cấp thông tin cá nhân và xóa thông tin cá nhân khỏi hệ thống của mình theo yêu cầu. Điều này làm giảm khả năng các mô hình AI tạo ra phản hồi bao gồm thông tin cá nhân.
OpenAIcách tiếp cận của để giải quyết các mối quan tâm về an toàn AI là nghiên cứu các biện pháp giảm thiểu hiệu quả và các kỹ thuật căn chỉnh và kiểm tra chúng trước sự lạm dụng trong thế giới thực. Nó cũng cam kết sẽ ngày càng thận trọng trong việc tạo và triển khai các mô hình có khả năng hơn và tăng cường các biện pháp phòng ngừa an toàn. Quản trị hiệu quả việc phát triển và triển khai AI là điều cần thiết để đảm bảo an toàn, đòi hỏi sự đổi mới về kỹ thuật và thể chế.
Tìm hiểu thêm:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Agne là một nhà báo đưa tin về các xu hướng và sự phát triển mới nhất trong metaverse, AI và Web3 các ngành công nghiệp cho Metaverse Post. Niềm đam mê kể chuyện đã khiến cô thực hiện nhiều cuộc phỏng vấn với các chuyên gia trong các lĩnh vực này, luôn tìm cách khám phá những câu chuyện thú vị và hấp dẫn. Agne có bằng Cử nhân văn học và có kiến thức sâu rộng về viết về nhiều chủ đề bao gồm du lịch, nghệ thuật và văn hóa. Cô cũng tình nguyện làm biên tập viên cho tổ chức bảo vệ quyền động vật, nơi cô giúp nâng cao nhận thức về các vấn đề phúc lợi động vật. Liên hệ với cô ấy trên [email được bảo vệ].
Xem thêm bài viết
Agne là một nhà báo đưa tin về các xu hướng và sự phát triển mới nhất trong metaverse, AI và Web3 các ngành công nghiệp cho Metaverse Post. Niềm đam mê kể chuyện đã khiến cô thực hiện nhiều cuộc phỏng vấn với các chuyên gia trong các lĩnh vực này, luôn tìm cách khám phá những câu chuyện thú vị và hấp dẫn. Agne có bằng Cử nhân văn học và có kiến thức sâu rộng về viết về nhiều chủ đề bao gồm du lịch, nghệ thuật và văn hóa. Cô cũng tình nguyện làm biên tập viên cho tổ chức bảo vệ quyền động vật, nơi cô giúp nâng cao nhận thức về các vấn đề phúc lợi động vật. Liên hệ với cô ấy trên [email được bảo vệ].
