OpenAI Geliştirmek İçin 50'den Fazla Uzmandan Oluşan Bir Ekip Kuruyor GPT-4Güvenlik
Kısaca
OpenAI en yenisini sağlamak için 50'den fazla uzmandan oluşan bir ekip kiraladı dil modeli, GPT-4, kullanımı güvenlidir.
Ekip, yapay zeka güvenliği, etik ve politika konusunda uzmanlaşmış araştırmacıları ve mühendisleri içerir.
Amaç engellemek GPT-4 Zararlı veya önyargılı içerik üretmekten kaçınmak ve bunların insani değerlere uygun olmasını sağlamak.
OpenAI gerçekleştirmek için çeşitli alanlardan 50'den fazla uzmanı işe aldı. GPT-4 daha emniyetli. Uzmanlar, potansiyel riskleri ve güvenlik açıklarını belirlemek için modelin çekişmeli testleri üzerinde çalışıyor. Bunlar çeşitli alanlardan uzmanlardır: uzun vadeli yapay zeka uyum riskleri, siber güvenlik, biyorisk ve uluslararası güvenlik. Bulguları yardımcı oldu OpenAI Niş uzmanlık gerektiren yüksek riskli alanlarda model davranışını değerlendirin.
En yeni dil modeli daha küçük dil modelleriyle benzer riskler taşısa da, ek yetenekler GPT-4 yeni tehditlere yol açıyor. Böylece uzmanların katılımı sağlanmıştır. teknolojinin güvenliğinin sağlanmasında hayati önem taşıyor.
OpenAI güvenliği artırmak için insan tercihlerinden (RLHF) eğitim istemlerinden ve kurala dayalı ödül modellerinden (RBRM'ler) güvenlikle ilgili takviyeli öğrenmenin ek bir setini uyguladı. GPT-4 modeli. RBRM'ler sıfır atışlıdır GPT-4 için ekstra bir ödül sinyali işlevi gören sınıflandırıcılar GPT-4 RLHF ince ayarı sırasında politika modeli. Amaçları, zararlı içerik üretmeyi reddetmek veya zararsız istekleri reddetmemek gibi uygun davranışları teşvik etmektir.
Ortamın güvenliğini sağlamak için GPT-4 modelleri, OpenAI stres testi, sınır testi ve rakip testleri de dahil olmak üzere "kırmızı ekip" çalışmaları yürütmek üzere Ağustos 2022'de dışarıdan uzmanlar işe almaya başladı. İlk versiyonlarına erişimleri vardı. GPT-4 modeli oluşturdu ve daha fazla güvenlik araştırmasını motive eden başlangıç risklerini belirledi.
Uzmanların geri bildirimleri, riskleri azaltmak için teknik hafifletmelere ve politika uygulama önlemlerine yol açtı. Ancak, pek çok tehdit devam etmektedir ve daha fazla değerlendirmeye ihtiyaç vardır.
Çalışanlar hakkında konuşuyoruz OpenAI, ChatGPT başlangıçta gelişmiş aracılığıyla dünyanın en fakir bölgelerinden bazılarındaki bireylerin yardımıyla OpenAI'nin, yoksul bölgelerden milyonlarca işçiyi çalıştıran Sama adlı bir şirketle ortaklığı. Yapay zeka etiği konusunda bazı uzmanlar eleştirdi OpenAIeğitimini dışarıdan temin etme kararı ChatGPT modeli, şirketi düşük maliyetli işgücünü sömürmekle suçlayan Sama'ya.
Daha fazla oku:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Agne, metaverse, yapay zeka ve dünyadaki en son trendleri ve gelişmeleri takip eden bir gazetecidir. Web3 için endüstriler Metaverse Post. Hikaye anlatıcılığına olan tutkusu, onu bu alanlardaki uzmanlarla çok sayıda röportaj yapmaya ve her zaman heyecan verici ve ilgi çekici hikayeleri ortaya çıkarmaya yöneltti. Agne, edebiyat alanında lisans derecesine sahiptir ve seyahat, sanat ve kültür de dahil olmak üzere çok çeşitli konularda yazma konusunda geniş bir geçmişe sahiptir. Ayrıca hayvan hakları örgütünde gönüllü olarak editör olarak çalıştı ve burada hayvan refahı sorunları hakkında farkındalığın artmasına yardımcı oldu. Onunla iletişime geç [e-posta korumalı].
Daha fazla haber
Agne, metaverse, yapay zeka ve dünyadaki en son trendleri ve gelişmeleri takip eden bir gazetecidir. Web3 için endüstriler Metaverse Post. Hikaye anlatıcılığına olan tutkusu, onu bu alanlardaki uzmanlarla çok sayıda röportaj yapmaya ve her zaman heyecan verici ve ilgi çekici hikayeleri ortaya çıkarmaya yöneltti. Agne, edebiyat alanında lisans derecesine sahiptir ve seyahat, sanat ve kültür de dahil olmak üzere çok çeşitli konularda yazma konusunda geniş bir geçmişe sahiptir. Ayrıca hayvan hakları örgütünde gönüllü olarak editör olarak çalıştı ve burada hayvan refahı sorunları hakkında farkındalığın artmasına yardımcı oldu. Onunla iletişime geç [e-posta korumalı].
