OpenAI Yapay Zeka Güvenliğini Sağlamaya Yönelik En Son Yaklaşımını Açıkladı
Kısaca
OpenAI güvenlik ve mahremiyet ve soruşturmalarla ilgili son endişelerin ardından güvenliğe yönelik geliştirilmiş yaklaşımını özetleyen bir blog yazısı yayınladı.
Şirket, titiz testler yürütmeyi, geri bildirim için harici uzmanlarla çalışmayı ve en iyisini belirlemek için hükümetlerle birlikte çalışmayı taahhüt eder. AI düzenlemeleri için yaklaşım.
Güvenlik ve mahremiyetle ilgili endişelerle karşılaştıktan ve takip ettikten sonra son araştırmalar bazı Avrupa ülkelerinde, OpenAI vardır serbest şirketin güvenlik konusundaki gelişmiş yaklaşımını özetleyen bir blog gönderisi.
OpenAI sıkı testler yürütmeyi, herhangi bir yeni sistemi piyasaya sürmeden önce geri bildirim için harici uzmanlarla çalışmayı ve yapay zeka düzenlemeleri için en iyi yaklaşımı belirlemek için hükümetlerle birlikte çalışmayı taahhüt eder.
Daha önce şirket, son modelinin güvenliği ve hizalanması üzerinde altı aydan fazla zaman harcamıştı. GPT-4, kamuya açıklanmadan önce. En yeni dil modelinin güvenliğini sağlamak için, GPT-4, OpenAI kiralanmış 50'den fazla uzmandan oluşan bir ekip: araştırmacılar ve mühendisler dahil yapay zeka güvenliği, etik ve politika uzmanları.
"Önemli olarak, toplumun giderek daha yetenekli yapay zekaya uyum sağlamak ve güncellemek için zamana sahip olması gerektiğine ve bu teknolojiden etkilenen herkesin yapay zekanın nasıl daha fazla gelişeceği konusunda önemli bir söz sahibi olması gerektiğine inanıyoruz."
OpenAI yazdı.
OpenAIÇocukların Güvenliği ve Mahremiyetine Odaklanma
İtalya yasaklandı ChatGPT, alıntı OpenAI13 yaş ve üstü bireyler için tasarlanmış olmasına rağmen kullanıcılarının yaşını doğrulayamaması da sebeplerden biri. Şirketin güvenlik çabalarının kritik bir odağı, yaş doğrulama seçeneklerini uygulayarak çocukları korumaya kaydı. OpenAI özellikle yapay zeka araçları, ebeveyn onayıyla 18 yaş ve üstü ya da 13 yaş ve üstü bireyler için tasarlandığından, artık keşfediyor.
Şirket, nefret dolu, taciz edici, şiddet içeren veya yetişkinlere yönelik içeriklerin oluşturulmasını kesinlikle yasaklar ve GPT-4 izin verilmeyen içerikle ilgili taleplere yanıt verme olasılığı halihazırda %82 daha düşük GPT-3. 5.
OpenAI kötüye kullanımı izlemek için sağlam bir sistem kurmuştur ve bunu yapmayı umuyor GPT-4 zamanla daha fazla kişinin kullanımına sunulacaktır. Şirket, kar amacı gütmeyen Khan Academy gibi özel güvenlik azaltımları konusunda geliştiricilerle birlikte çalışıyor ve model çıktıları için daha katı standartlara izin verecek özellikler üzerinde çalışıyor.
Gizliliği artırmak, başka bir güvenlik yönüdür OpenAI odaklanıyor, özellikle son dönemden sonra veri ihlalleri. Yapay zeka şirketinin büyük dil modelleri, halka açık içerik, lisanslı içerik ve insan gözden geçirenler tarafından oluşturulan içeriği içeren çok büyük miktarda metin üzerinde eğitilmiştir; AI modellerini insanlara daha faydalı hale getirmek için verileri kullanır.
OpenAI kişisel bilgileri eğitim verilerinden kaldırarak, modellerde kişisel bilgi taleplerini reddedecek şekilde ince ayar yaparak ve talep üzerine kişisel bilgileri sistemlerinden silerek bireylerin gizliliğini korumak için adımlar atmaktadır. Bu, AI modellerinin kişisel bilgileri içeren yanıtlar üretme şansını azaltır.
OpenAIyaklaşımı Yapay zeka güvenlik endişelerini ele almanın yolu, etkili azaltmaları araştırmaktır. ve hizalama teknikleri ve bunları gerçek dünyadaki kötüye kullanıma karşı test edin. Ayrıca, daha yetenekli modeller oluşturma ve uygulama konusunda giderek daha dikkatli olmayı ve güvenlik önlemlerini artırmayı taahhüt eder. Teknik ve kurumsal yenilik gerektiren güvenliği sağlamak için yapay zeka geliştirme ve dağıtımının etkin yönetişimi esastır.
Daha fazla oku:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Agne, metaverse, yapay zeka ve dünyadaki en son trendleri ve gelişmeleri takip eden bir gazetecidir. Web3 için endüstriler Metaverse Post. Hikaye anlatıcılığına olan tutkusu, onu bu alanlardaki uzmanlarla çok sayıda röportaj yapmaya ve her zaman heyecan verici ve ilgi çekici hikayeleri ortaya çıkarmaya yöneltti. Agne, edebiyat alanında lisans derecesine sahiptir ve seyahat, sanat ve kültür de dahil olmak üzere çok çeşitli konularda yazma konusunda geniş bir geçmişe sahiptir. Ayrıca hayvan hakları örgütünde gönüllü olarak editör olarak çalıştı ve burada hayvan refahı sorunları hakkında farkındalığın artmasına yardımcı oldu. Onunla iletişime geç [e-posta korumalı].
Daha fazla haber
Agne, metaverse, yapay zeka ve dünyadaki en son trendleri ve gelişmeleri takip eden bir gazetecidir. Web3 için endüstriler Metaverse Post. Hikaye anlatıcılığına olan tutkusu, onu bu alanlardaki uzmanlarla çok sayıda röportaj yapmaya ve her zaman heyecan verici ve ilgi çekici hikayeleri ortaya çıkarmaya yöneltti. Agne, edebiyat alanında lisans derecesine sahiptir ve seyahat, sanat ve kültür de dahil olmak üzere çok çeşitli konularda yazma konusunda geniş bir geçmişe sahiptir. Ayrıca hayvan hakları örgütünde gönüllü olarak editör olarak çalıştı ve burada hayvan refahı sorunları hakkında farkındalığın artmasına yardımcı oldu. Onunla iletişime geç [e-posta korumalı].
