Teknoloji Uzmanları, Eskisinden Daha Gelişmiş Yapay Zeka Sistemlerinin Eğitimine Geçici Duraklatma Çağrısında Bulunan Açık Mektubu İmzaladı GPT-4
Kısaca
1100'den fazla imza sahibi, dev yapay zeka deneylerine ara verilmesi çağrısında bulunan açık mektubu imzaladı.
İmzacılar arasında Elon Musk, Steve Wozniak ve Emad Mostaque yer alıyor.
Açık mektup, yapay zekanın bilgi önyargılarına ilişkin endişeleri dile getirdi. iş otomasyonu ve yapay zekanın insan uygarlığı üzerindeki riski.
Önde gelen teknoloji uzmanları da dahil olmak üzere 1,100'den fazla imza sahibi bir sözleşme imzaladı. açık mektup daha gelişmiş yapay zeka sistemlerinin eğitimi için altı aylık bir duraklama çağrısında bulunuyor GPT-4.
Mektup, insanlığın karşı karşıya olduğu küresel felaket ve varoluşsal riskleri, özellikle de gelişmiş yapay zekadan kaynaklanan varoluşsal riski azaltmak için çalışan, kar amacı gütmeyen bir kuruluş olan Future of Life Enstitüsü tarafından yazıldı.
Geniş çapta kabul gören Asilomar AI İlkelerinden alıntı yapan ve "Gelişmiş AI, Dünya üzerindeki yaşam tarihinde derin bir değişikliği temsil edebilir ve orantılı özen ve kaynaklarla planlanmalı ve yönetilmelidir" diyen mektup, planlama seviyesinin ve yönetim olmuyor.
Mektupta, yapay zeka laboratuvarlarının, hiç kimsenin anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği, giderek daha güçlü bir yapay zeka geliştirmek için "kontrolden çıkmış" bir yarışta olduğu belirtiliyor. Çağdaş yapay zeka sistemleri gibi GPT-4 yapabilmek insanlarla rekabet etmek Mektup, genel görevlerle ilgili olarak yapay zekanın bilgi önyargıları, iş otomasyonu ve insan uygarlığı üzerindeki kontrolü kaybetme riskiyle ilgili endişeleri artırıyor.
“Tüm yapay zeka laboratuvarlarını, bizden daha güçlü yapay zeka sistemlerinin eğitimini en az 6 ay süreyle derhal durdurmaya çağırıyoruz. GPT-4. Bu duraklama halka açık ve doğrulanabilir olmalı ve tüm önemli aktörleri içermelidir. Eğer böyle bir duraklama hızla hayata geçirilemezse, hükümetler devreye girip moratoryum başlatmalı” dedi.
mektup devletler.
Mektup, yapay zeka laboratuvarlarına ve teknoloji uzmanlarına, bağımsız dış uzmanlar tarafından titizlikle denetlenen ve denetlenen gelişmiş yapay zeka tasarımı ve geliştirmesi için güvenlik protokolleri geliştirmek ve uygulamak üzere duraklama süresini kullanmalarını tavsiye ediyor.
Ancak Amerikalı gazeteci Jeff Jarvis mektubu eleştirdi, söz bunun "ahlaki paniğin en iyi örneği" olduğunu.
DeepMind araştırma bilim adamları ve dünyanın dört bir yanından birkaç üniversite profesörü ile birlikte mektubu imzalayan teknoloji ve makine öğrenimindeki önde gelen beyinlerden bazıları şunlardır:
- Yoshua Bengio, Montréal Üniversitesi, derin öğrenmeyi geliştirdiği için Turing Ödülü sahibi, Montreal Öğrenme Algoritmaları Enstitüsü başkanı
- Stuart Russell, Berkeley, Bilgisayar Bilimi Profesörü, Akıllı Sistemler Merkezi direktörü ve "Yapay Zeka: Modern Bir Yaklaşım" adlı standart ders kitabının ortak yazarı
- SpaceX, Tesla ve Twitter'ın CEO'su Elon Musk
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, Skype'ın Kurucu Ortağı, Varoluşsal Risk Çalışmaları Merkezi, Yaşamın Geleceği Enstitüsü
- Gary Marcus, New York Üniversitesi, AI araştırmacısı, Fahri Profesör
- Marc Rotenberg, Yapay Zeka ve Dijital Politika Merkezi (CAIDP), Başkan
İçinde son mektup, Rotenberg, CAIDP'nin Federal Ticaret Komisyonu'na şikayette bulunacağını ve Açık AI'nın soruşturulması çağrısında bulunacağını yazdı ve ChatGPTve güvenlik önlemleri alınana kadar ürünün daha fazla ticari olarak piyasaya sürülmesinin yasaklanması.
OpenAI CEO Sam Altman'ın sahip olduğu kabul edilmiş "kurumlarımızın ne yapacaklarını anlaması için de yeterli zamana ihtiyacımız var" ve toplum "potansiyel olarak korkutucu" üretken yapay zeka araçlarından çok da uzak değil.
“Kurumlarımızın, yasalarımızın ve toplumumuzu yakalama fırsatı olması için FTC'den “duraklat düğmesine basmasını” istiyoruz. CAIDP mektubunda, "Kontrolümüzü kaybetmeden önce yarattığımız teknolojiler üzerinde aracılık yapmamız gerekiyor" ifadesi yer alıyor.
Başka bir yerde, AB yasa koyucuları AI kurallarını uygulamak için yıl sonuna kadar AB ülkeleriyle bir anlaşma imzalamayı hedefliyor, ancak AI'nın nasıl yönetilmesi gerektiğine dair tartışmalar yoğunlaştıkça bir darboğaza çarpabilir.
Daha fazla oku:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Cindy bir gazetecidir. Metaverse Postile ilgili konuları kapsayan web3, NFT, metaverse ve AI ile yapılan görüşmelere odaklanarak Web3 endüstri oyuncuları. 30'dan fazla C düzeyindeki yöneticiyle konuştu ve onların değerli görüşlerini okuyuculara aktardı. Aslen Singapurlu olan Cindy şu anda Gürcistan'ın Tiflis şehrinde yaşıyor. Güney Avustralya Üniversitesi'nden İletişim ve Medya Çalışmaları alanında lisans derecesine sahiptir ve gazetecilik ve yazarlık alanında on yıllık deneyime sahiptir. Onunla iletişime geçin [e-posta korumalı] basın açıklamaları, duyurular ve röportaj imkanları ile.
Daha fazla haber
Cindy bir gazetecidir. Metaverse Postile ilgili konuları kapsayan web3, NFT, metaverse ve AI ile yapılan görüşmelere odaklanarak Web3 endüstri oyuncuları. 30'dan fazla C düzeyindeki yöneticiyle konuştu ve onların değerli görüşlerini okuyuculara aktardı. Aslen Singapurlu olan Cindy şu anda Gürcistan'ın Tiflis şehrinde yaşıyor. Güney Avustralya Üniversitesi'nden İletişim ve Medya Çalışmaları alanında lisans derecesine sahiptir ve gazetecilik ve yazarlık alanında on yıllık deneyime sahiptir. Onunla iletişime geçin [e-posta korumalı] basın açıklamaları, duyurular ve röportaj imkanları ile.
