Vitalik Buterin ve MIRI Direktörü Nate Soares, Yapay Zekanın Tehlikelerini Araştırıyor: Yapay Zeka İnsan Yok Oluşuna Neden Olabilir mi?
Kısaca
Ethereum'un kurucusu Vitalik Buterin ve Makine Zekası Araştırma Enstitüsü yöneticisi Nate Soares, bugün Zuzalu'da yapay zekanın risklerini tartıştı.
Zuzalu, Karadağ'da Buterin ve kripto topluluğundaki akranları tarafından başlatılan bir pop-up şehir topluluğudur.
Tartışmada Soares, yapay zekanın neden dünyadaki tüm yaşamı sona erdirme olasılığının yüksek olduğuna dair bakış açısını paylaştı.
Ethereum kurucusu Vitalik Buterin ve Machine Intelligence Research Institute (MIRI) direktörü Nate Soares bugün Zuzalu'da yapay zekanın risklerini tartıştı.
Zuzalu, Karadağ'da Buterin ve kripto topluluğundaki akranları tarafından 25 Mart - 25 Mayıs tarihleri arasında başlatılan bir "pop-up şehir topluluğudur". Etkinlik, ortak bir öğrenme, yaratma, daha uzun ve daha sağlıklı yaşama arzusuyla 200 çekirdek sakini bir araya getiriyor. yaşar ve kendi kendini idame ettiren topluluklar oluşturur. Topluluk, iki ay boyunca sentetik biyoloji, mahremiyet için teknoloji, kamu malları, uzun ömür, yönetişim ve daha fazlası gibi çeşitli konularda bir dizi etkinliğe de ev sahipliği yapıyor.
The tartışma Soares'in, yürüttüğünden daha uzun süredir var olan, Berkeley merkezli kar amacı gütmeyen bir kuruluş olan MIRI'deki çalışmalarını tanıtmasıyla açıldı. Son 20 yıldır MIRI, yapay zeka gelişiminin iyi gitmesini sağlamak için zemin hazırlamaya çalışıyor. Tartışma ile Vitalik, AI'yı insanlık tarihinde piyasaya sürülen diğer teknolojilere kıyasla benzersiz bir şekilde riskli yapan şeyin ne olduğunu ele almayı umuyordu.
AI'nın insan neslinin tükenmesine neden olma olasılığı
Vitalik, uzun süredir yapay zeka riskleri konusuyla ilgilendiğini ve yapay zekanın yanlış gitmesi durumunda Dünya'daki tüm yaşamın %0.5 ila %1 oranında sona ereceğine ikna olduğunu hatırladığını söyledi. insan ırkının yok oluşu ya da insan uygarlığının geri dönülmez çöküşü.
Soares'in bakış açısına göre, insan neslinin tükenmesi, AI teknolojisinin güvenli olmayan gelişiminin varsayılan bir sonucu gibi görünüyor. Bunu evrimle karşılaştırarak, insanlığın gelişiminin, salt evrim değişimlerinden daha hızlı gerçekleştiğini söyledi. Hem yapay zeka hem de insan evrimi süreçlerinde, dikkate alınması gereken birden fazla hedef olduğunda bir soruna en iyi çözümü bulma süreci olan baskın optimizasyon değişiyordu. İnsanlar, bilgiyi doğal seçilim yoluyla genlere fiziksel olarak bağlamak yerine, bilgiyi ağızdan ağza aktarabilecekleri bir noktaya ulaşmıştı.
"AI, nihayetinde makroskopik optimizasyon sürecini tekrar değiştirebileceğiniz bir durumdur. Optimizasyon açısından insanlardan çok daha iyisini yapabileceğinizi düşünüyorum. Çevremizi optimize etmeye gelince hala oldukça aptal olduğumuzu düşünüyorum. Yapay zeka ile, evrenin makroskopik özelliklerini belirleyen gücün otomatikleştirilmiş optimizasyon olduğu bir tür aşama geçişinden geçiyoruz,” diye açıklıyor Soares.
Optimizasyon sürecinin optimize ettiği geleceğin neye benzediğini ve çoğu optimizasyon hedefinde insanlara yer olmadığı için bunun muhtemelen insanlık için faydalı olmayacağını da sözlerine ekledi.
| Okuyun: Danışmanlık Firması Axon Partners Group "2023'te Yapay Zekayı Kucaklamak" Raporunu Yayınladı |
İnsanlar AI'yı iyilik yapmak için eğitebilir mi?
Buterin, yapay zekayı eğiten ve ona nasıl optimize edileceğini söyleyenlerin insanlar olduğuna dikkat çekti. Gerekirse, makinenin optimize edilme şeklini değiştirebilirler. Buna göre Soares, yapay zekayı iyilik yapması için eğitmenin prensipte mümkün olduğunu, ancak yalnızca bir yapay zekayı bir hedefe ulaşmak için eğitmenin, onun bunu yapacağı veya yapmak istediği anlamına gelmediğini, kısaca arzuya dönüştüğünü söyledi.
Buterin, insan tercihlerinin ne olduğu hakkında büyük miktarda veri toplayan büyük dil modellerinde takviyeli öğrenme hakkında bir noktaya değinerek, mevcut zeka tercihlerimizin ne olduğunu anlamada daha iyi hale geldiği için bunun neden işe yaramadığını sordu.
“Motivasyonlarımızı anlamakla umursamamak arasında büyük bir boşluk var”
Soares yanıtladı.
"Benim iddiam, büyük bir dil modelinin veya yapay zekanın insan tercihlerinin ayrıntılarını anlayamayacağı değil. Benim iddiam, insan tercihlerinin inceliklerini anlamanın, iyilik için optimize etmekten çok farklı olduğudur” diye ekledi.
Seyircilerden biri yapay zeka ile insanlar arasında bir karşılaştırma yaptı ve yapay zeka gibi insanların da ne yaptıklarını veya tahmin ettiklerini anlamama eğiliminde olduklarını ve bunun da tehlikeli olabileceğini söyledi. Daha sonra Soares'ten kendisini bir uzaylı gibi davranmasını ve neden insanların olmaması gerektiğini açıklamasını istedi.
“Tek bir insana tanrısal güçler ve gelecek üzerinde kontrol vermek beni heyecanlandırmaz. Ayrı olarak, tek bir insana güç vermekten rastgele rol alan bir yapay zekaya vermekten çok daha heyecanlanırdım. AI'ya sahip olmamamız gerektiğini kesinlikle söylemiyorum. Bunu düzeltmemiz gerektiğini söylüyorum. Transhümanların uzaylılarla pozitif toplamlı ticaret yaptığı vb. eğlence ve mutluluk dolu bir geleceği ve gelişen medeniyetleri önemsemelerini sağlamalıyız,” diye açıkladı Soares. "Farklı şeyleri önemseyen güçlü bir optimizasyon süreci oluşturursanız, bu potansiyel olarak evrenin tüm değerlerini yok edebilir."
İnsanların değer verdiği şeylerin evrensel olarak zorlayıcı olmadığını ve ahlakın onu inceleyen herhangi bir zihnin peşinden koşacağı bir şey olmadığını ekledi. Bunun yerine, atasal çevrede üremede iyi olmamızı sağlayan ve insanlara özgü olan insanlarda yerleşik olan dürtülerin sonucudur.
Nihayetinde Soares, eğlence, mutluluk ve gelişen geleceklerle tutarsız, benzer şekilde zeki veya hatta daha zeki bir şey inşa etmememiz gerektiğine inanıyor. Öte yandan, insanlığın bir silahlanma yarışı sırasında ilk denemesinde eğlenceli bir geleceği optimize eden dostça bir süper zeka inşa etmemesi gerektiğini de söyledi. Kısa vadede yapay zeka, insanlığın gerçekte ne istediğini anlaması için zaman ve alan satın almasına yardım etmeye kendini adamıştır.
ChatGPT biyosferin tamamını tüketmeyecek
Yapay zeka şu anda tahmin de dahil olmak üzere belirli hedeflere ulaşmak için geliştirildiğinden Buterin şunu sordu: Peki ya yapay zeka hedefe yönelik değilse? Soares, güvenli ve yetenekli olmayan yapay zekalar oluşturmanın kolay olduğunu ve yakında yetenekli ancak farklı şeyler peşinde koşan yapay zekalara sahip olabileceğimizi söyledi. O düşünmüyor ChatGPT o seviyede olmadığı için biyosferin tamamını tüketecek.
Soares, bilimsel ve teknolojik geliştirme ve araştırmayı otomatikleştirmek gibi en ilginç AI uygulamalarının belirli bir hedef takibi gerektirdiğini belirtti.
“Alabileceğin bir hata değil GPT düzgün bir haiku yazmak için ama bunu bir roman yazmayı başaramazsınız. Mevcut sistemlerin sınırlamaları, en azından bana göre, bu daha derin hedeflerin peşinden gitmemeleriyle ilgili.”
Daha fazla oku:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Cindy bir gazetecidir. Metaverse Postile ilgili konuları kapsayan web3, NFT, metaverse ve AI ile yapılan görüşmelere odaklanarak Web3 endüstri oyuncuları. 30'dan fazla C düzeyindeki yöneticiyle konuştu ve onların değerli görüşlerini okuyuculara aktardı. Aslen Singapurlu olan Cindy şu anda Gürcistan'ın Tiflis şehrinde yaşıyor. Güney Avustralya Üniversitesi'nden İletişim ve Medya Çalışmaları alanında lisans derecesine sahiptir ve gazetecilik ve yazarlık alanında on yıllık deneyime sahiptir. Onunla iletişime geçin [e-posta korumalı] basın açıklamaları, duyurular ve röportaj imkanları ile.
Daha fazla haber
Cindy bir gazetecidir. Metaverse Postile ilgili konuları kapsayan web3, NFT, metaverse ve AI ile yapılan görüşmelere odaklanarak Web3 endüstri oyuncuları. 30'dan fazla C düzeyindeki yöneticiyle konuştu ve onların değerli görüşlerini okuyuculara aktardı. Aslen Singapurlu olan Cindy şu anda Gürcistan'ın Tiflis şehrinde yaşıyor. Güney Avustralya Üniversitesi'nden İletişim ve Medya Çalışmaları alanında lisans derecesine sahiptir ve gazetecilik ve yazarlık alanında on yıllık deneyime sahiptir. Onunla iletişime geçin [e-posta korumalı] basın açıklamaları, duyurular ve röportaj imkanları ile.
