Yapay Zeka Eğitimine 6 Ay Ara Vermek İyi Bir Fikir Ama Yeterli Olmayabilir
Kısaca
Dilekçenin hikayesi ve Yudkovsky'nin makalesinin yayınlanması toplumu kutuplaştırdı.
Mahkum ikilemi ve oyun teorisi, bu tür sorunların çözülmesi için farklı yerlerde bulunan kritik bir aklı başında insan kitlesine ihtiyaç olduğunu öne sürüyor.
Bununla birlikte, dijital evrimde bilinç, irade ve faillik eksikliği gibi, bu fikrin birkaç ama vardır.
Hikayesi olduğundan daha gelişmiş yapay zeka sistemleri geliştirmeyi durdurma dilekçesi GPT-4 toplumu gözle görülür şekilde kutuplaştırdı. Yudkovsky'nin serbest bırakılması göre daha fazla gelişmesinin durdurulmasını istemek GPT modeller, özellikle de veri merkezlerinin bombalanmasıyla ilgili pasajları yangını körükledi.
Çevrimiçi olarak gözlemlenebilenlere göre, dilekçeyi destekleyenlerin sayısı, üç ana argümana sahip olan muhaliflere göre çok daha az görünüyor:
| 1 | – İlerleme durdurulamaz. – Dilekçe tarafından icat edildi OpenAI rakipler. – Çin beklemeyecek. |
| 2 | – Yapay zekadan değil, insanlardan korkmalısın. - GPT bilinci, iradesi, arzusu ya da failliği yoktur, dolayısıyla korkacak hiçbir şey yoktur. - GPT-4 dünyayı köleleştirmekten delicesine uzak çünkü hiçbir şey anlamıyor, aptalca hatalar yapıyor ve genellikle oldukça aptal. - GPT-4 kolları/bacakları olmadığı için dünyayı yönetemeyecek. |
| 3 | – Üçüncü grup nasıl olduğunu anlamıyor GPT-4 ilk etapta faaliyet göstermektedir. |
Üçüncü grup üzerinde yoğunlaşmayacağız çünkü onların duruşu cehaletten geliyor. Bu, tüm AI rakiplerinin AI hakkında her şeyi bildiği anlamına gelmez; Yudkovsky'nin kendisi yapay zeka konusunda çok derinlere inmiş olsa da, teknoloji ve onun neyi gerektirdiği konusunda bir anlayışa sahip olmayan pek çok yapay zeka karşıtı insan bulabilirsiniz, bu nedenle cehaletle suçlanamaz.
İlk insan grubuna, ilerlemenin durdurulamayacağına inananlara bir göz atalım. Farklı ama benzer argümanlar sunuyorlar ve genel olarak, bu insanlar AI'nın yeteneklerini ve benimsenmesinin getirdiği beklentileri inkar etmiyorlar ve AI gelişiminin ne olursa olsun devam edeceğine inanıyorlar.
Durdurulamaz ilerleme hakkındaki ilk tez, doğru olması gerekmeyen bir slogandır. İnsanlar bazı bilimsel deneyleri durdurmuş gibi görünüyor ve bir zamanlar kabul gören pek çok araştırma projesi artık etik sayılmıyor ve benzerlerine bugün asla izin verilmeyecek. Bununla birlikte, Çin'de (ve diğer ülkelerde) Engizisyon ve diğer dini zulümler, kitap yasakları ve bilim adamlarının öldürülmesi geçmişte ne kadar ilerlemeyi durdurdu? Bu, hayatta kalma önyargısı nedeniyle asla tam olarak kavrayamayacağımız bir şey.
Diğer tezler ise “biz olmazsak onlar olacak” şeklinde özetlenebilecek bir yaklaşım içeriyor. Bu düşünce tarzı daha anlaşılır olsa da doğru çözüm gibi de görünmüyor. Oyun teorisindeki mahkumun ikilemine çok benziyor.
İkinci argüman grubu en ilginç olanıdır. Kişisel olarak bir dereceye kadar buna katılsam da, ele alınması gereken birkaç ama var. Evet, AI'nın bilinci, iradesi, aracısı vb. Yoktur. COVID-19 da yoktur ve yine de dünya çapında ortalığı kasıp kavurmuştur. Bir şeyin tehlikeli olabilmesi için bir faillik duygusuna ve bilince sahip olması gerekmez; Bir virüs yüzünden yeryüzündeki yaşamın yok olması senaryosu düşünülemez değil. İşi bittiğinde sandalyeleri masaların üzerine koyabilir, ışıkları söndürebilir ve sonsuza kadar oradan ayrılabilir.
Biyolojik analojiye devam ederek, süreçlerin beklenmedik bir yöne gittiğine dair pek çok örnek sunan “Dijital Evrimin Şaşırtıcı Yaratıcılığı: Evrimsel Hesaplama ve Yapay Yaşam Araştırma Topluluklarından A Collection of Anekdotlar” adlı harika bir makale var. Evrimsel bir süreç olmasa bile, her şey yanlış genellemelere gidebilir “Hedef Yanlış Genelleme: Neden Doğru Spesifikasyonlar Doğru Hedefler İçin Yeterli Değildir.” Bir optimizasyon sürecinin dizginlerini serbest bırakmanın ters gidebileceği "Gelişmiş Makine Öğrenimi Sistemlerinde Öğrenilmiş Optimizasyondan Kaynaklanan Riskler".
Aynı zamanda, genellikle riskleri dikkate almayız. AI'nın kötü niyetli kullanımı Ve herhangi biri yanlış kullanım, yapay zekanın kendisinden değil, yalnızca insanlardan korkmamız gerektiği argümanını besliyor. Ancak işin gerçeği, kötü niyetli insanlar olmadan da yapay zekanın kötü olabileceğidir.
Modelin aptalca hatalar yaptığı gerçeğine de katılıyorum, ama insanlar da öyle, ama yine de onların zarar verebileceğini biliyoruz. Modeller pek çok hata yaparken, aynı zamanda ortalama bir insanın çözemeyeceği pek çok harika, harika ve karmaşık sorunu da çözebilirler. Ünlü çalışmadan “Yapay Genel Zekanın Kıvılcımları: İle Erken Deneyler GPT-4Yapay zekanın her zaman doğru olmasa da oldukça karmaşık matematik problemleri olan Fermi problemlerini çözebilmesi beni çok etkiledi. Zihin teorisi ve başkalarının eylemlerini "anlama yeteneği gibi" de oldukça etkileyicidir. Bütün bunlar yapay zekanın zekasına işaret ediyor; mevcut ama bizimkine pek benzemiyor.
AI modellerinin yaptığı hataların en azından bazılarını ortadan kaldırmak genellikle yapılabilir, bu nedenle zekaları yalnızca gelişebilir. Tek yapmanız gereken, doğru hesaplamalar, bir olgu tabanı ve başka bir modelle doğrulama için bir modül eklemek.
Tüm bu hikayedeki en önemli şey yapay zekanın gelişim hızıdır. GPT modelleri baş döndürücü bir hızla muazzam bir şekilde büyüdüler. Şimdi, var ChatGPT eklentileri mevcut, kullanabilirsiniz GPT kod yazmaya yönelik modeller, API'ler geniş bir kitlenin kullanımına açıktır ve herhangi bir ön eğitim gerektirmeden harici araçları kullanabilirsiniz.
GPT-4Elbette dünyayı fethetmeyecek ama ekonomiyi çok sarsabilir. GPT-5ve modelin gelecekteki yinelemesi çok ileride olmayabilir ve muhtemelen çok daha güçlü yeteneklerle gelecek. Ve kabul edelim ki henüz var olmayan modelleri de anlamayı umut edemeyiz; zaten var olan modelleri anlamaya yaklaşamadık bile. Bu anlamda altı aylık bir ara iyi bir fikir olabilir ama yeterli olmayabilir.
Ve göz önüne alındığında yapay zeka yarışı başladı, öğrenmeye zaman yok.
Genel olarak tüm bunları göz önünde bulundurarak dilekçeyi ben de imzaladım. Herhangi bir şekilde yardımcı olacağına inanmasam da.
Daha fazla ilgili konu okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
