OpenAISuperalignment Ekibi Yapay Zeka Sistem Gözetimi için Yenilikçi Yöntemi Açıkladı
Kısaca
OpenAI'nin Superalignment ekibi, son derece gelişmiş yapay zeka sistemlerini denetlemek için potansiyel bir çözüm vaat eden yeni araştırma makalesini yayınladı.
Yapay zeka (AI) araştırma organizasyonu OpenAI'S Süper hizalama ekibi daha gelişmiş olanları denetlemek için daha küçük yapay zeka modellerinden yararlanma kavramını tanıtan yeni bir araştırma makalesi yayınladı. Bu yaklaşım etkileyici sonuçlar ortaya koyuyor ve gelecekte insanlar için son derece gelişmiş yapay zeka sistemlerinin denetiminin potansiyel olarak basitleştirilmesini vaat ediyor.
Geleneksel makine öğreniminde insanlar, kendilerinden daha az akıllı olan yapay zeka sistemlerini denetler. Ancak süper akıllı yapay zeka ile insanların kendilerinden daha akıllı sistemleri denetlemesi gerekecek.
Süper akıllı yapay zeka sistemlerini yönlendirmek ve kontrol etmek isteyen araştırmacılar, daha az güçlü bir yapay zeka modelinin daha güçlü bir yapay zeka modelini denetleyebileceği bir yöntem önerdiler.
Normalde güçlü bir modelin zayıf bir denetleyiciden daha iyi performans göstermesi pek olası değildir, ancak önceden eğitilmiş güçlü modeller mükemmel yeteneklere sahiptir. Araştırmacılar bu yaklaşımı denetleyerek uyguladılar. GPT-4 Birlikte GPT-2seviye modeli. Ortaya çıkan model genellikle şu tarihler arasında gerçekleştirilir: GPT-3 ve GPT-3.5Bu, daha zayıf denetimle güçlü yapay zeka yetenekleri elde edilebileceğini gösteriyor.
Genel olarak sonuçlar, temel insan denetiminin süperzeki modellere göre iyi ölçeklenememesine rağmen, bu modellerin daha az yetenekli denetçilerden ne kadar iyi öğrendiğini önemli ölçüde artırmanın yolları olduğunu gösteriyor.
Araştırmacılar, yaklaşımlarının gelecekteki insanüstü modellerin uyumlaştırılmasındaki temel zorlukları yakaladığını ve onların ilerleme kaydetmesini sağladığına inanıyor.
Araştırma bulgularını duyurmanın yanı sıra, OpenAI öğrencileri, akademisyenleri ve diğer araştırmacıları insanüstü yapay zeka uyumunun geniş alanına katkıda bulunmaya teşvik etti. Şirket bu soruna odaklanan 10 milyon dolarlık bir hibe programı başlattı.
OpenAI Yapay Zekanın Gelişen Ortamını İlerletiyor
Göre OpenAIÖnümüzdeki on yıl içinde insan yeteneklerini aşan süper akıllı yapay zeka modelleri geliştirilebilir. Ancak bu karmaşık yapay zeka sistemlerini yönetmek ve yönlendirmek insanlar için ciddi bir zorluk teşkil ediyor.
İnsan geri bildiriminden takviyeli öğrenme (RLHF) gibi mevcut hizalama yöntemleri insan rehberliğine bağlıdır. Ancak gelecekteki yapay zeka sistemleri, insanların onları güvenilir bir şekilde denetlemesini zorlaştıracak son derece karmaşık ve yaratıcı davranışlara sahip olacak. Bu nedenle şirket, yapay zeka gelişiminin gelişen ortamına hitap etmek için aktif olarak yenilikçi çözümler araştırıyor.
Son zamanlarda, OpenAI iddiaya göre açıklandı Şirketin en son gelişiminin piyasaya sürülmesi – GPT-4.5 modeli. İddia edilen ekran görüntüsü; dil, ses, görüntü, video, 3D, karmaşık akıl yürütme ve modeller arası anlayışı kapsayan gelişmiş yetenekleri öne sürüyordu. Ancak kurucusu Sam Altman OpenAI, söylentileri yalanladı.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Alisa, kendini işine adamış bir gazetecidir. MPost, kripto para birimi, sıfır bilgi kanıtları, yatırımlar ve geniş kapsamlı bilgi alanında uzmanlaşmıştır. Web3. Gelişmekte olan trendlere ve teknolojilere yönelik keskin bir bakış açısıyla, okuyucuları sürekli gelişen dijital finans ortamı hakkında bilgilendirmek ve etkileşime geçirmek için kapsamlı bir kapsam sunuyor.
Daha fazla haber
Alisa, kendini işine adamış bir gazetecidir. MPost, kripto para birimi, sıfır bilgi kanıtları, yatırımlar ve geniş kapsamlı bilgi alanında uzmanlaşmıştır. Web3. Gelişmekte olan trendlere ve teknolojilere yönelik keskin bir bakış açısıyla, okuyucuları sürekli gelişen dijital finans ortamı hakkında bilgilendirmek ve etkileşime geçirmek için kapsamlı bir kapsam sunuyor.
