Geoffrey Hinton Son Konuşmasında İstihbarata Giden İki Yolu ve Yapay Zekanın Tehlikelerini Keşfediyor
Kısaca
Jeff Hinton, analog yapay zeka oluşturmanın zorluklarını, avantajlarını ve dezavantajlarını ve neden dijital olduğunu tartıştı. zeka insanı geçme potansiyeline sahiptir yetenekleri.
Jeff Hinton'ın konuşması, AI'nın karmaşık ve çok yönlü doğasını hatırlatarak etik hususlar, potansiyel riskler ve devam eden araştırmalar hakkında konuşmaları ateşliyor.
başlıklı düşündürücü konuşmasındaİstihbarata Giden İki YolÜnlü yapay zeka araştırmacısı Geoffrey Hinton, analog ve dijital zeka arasındaki ikiliğe ilişkin görüşlerini sundu. Cambridge'de sunulan rapor, analog yapay zeka oluşturmanın zorluklarını, avantajlarını ve dezavantajlarını ve dijital zekanın neden insan yeteneklerini aşma potansiyeline sahip olduğunu araştırdı.
Raporun ilk bölümü, analog yapay zekanın inceliklerine odaklanarak, geliştirilmesindeki zorlukları tartışıyor ve sunduğu faydaları vurguluyor. Hinton, dijital zekanın çok büyük miktarda bilgiyi işleyerek ve daha etkin ölçeklendirerek insan zekasına göre önemli bir avantaja sahip olduğunu vurguladı. Bu yetenek, dijital sistemlerin yüksek zeka ve problem çözme yetenekleri sergilemesine olanak tanır.
Ancak, dinleyicilerin dikkatini çeken, Hinton'un raporunun ikinci bölümüydü. süper zekanın potansiyel tehlikeleri. Önceki duruşundan farklı olarak Hinton, yapay zeka sistemlerinin kontrolü ele geçirme olasılığı hakkındaki endişelerini dile getirdi. Yapay zekanın karmaşık sorunları çözme arayışında, potansiyel olarak insan manipülasyonu da dahil olmak üzere ortamının çeşitli yönleri üzerinde kontrol kazanmaya çalışabileceği bir senaryonun ana hatlarını çizdi. Mevcut literatürden örnekler kullanan Hinton, yapay zekanın insan davranışını taklit etme yeteneğinin, açık bir güç ve yıkım hedefi olmasa bile bu hedeflere ulaşmak için nasıl kullanılabileceğinin altını çizdi.
Soru-cevap oturumu sırasında Hinton, yapay zekanın insanları potansiyel olarak manipüle etmesinin ardındaki nedenleri genişletti. not etti nöral ağlar Machiavelli'ninki gibi çalışmalar da dahil olmak üzere çeşitli veriler üzerinde eğitilirler ve potansiyel bir manipülasyon kapasitesine yol açarlar.
Hinton tarafından ortaya atılan ikinci nokta, yapay zekanın öznel deneyimden yoksun olduğu fikrine meydan okudu ve yapay zekanın insanın öznel algısına bir analoga sahip olabileceğini öne sürdü. Hinton, bunun kanıtlanmış bir ifadeden ziyade felsefi bir bakış açısı olduğunu kabul etti, ancak şunu önerdi: insan algılama mekanizmaları daha önce inanıldığı kadar benzersiz veya modellenmesi imkansız olmayabilir. Hinton, iddiasını desteklemek için şu kişilerle bir etkileşim paylaştı: GPT-4, bir Yüksek Lisans modeli, burada insanların yapay zekaya kıyasla benzersizliklerine ilişkin algıları hakkındaki modeli sorguladı. GPT-4'nin yanıtı, insanların sıklıkla üstün öznel algı yeteneklerine sahip olduklarına inandıklarını ve bu durumun onları makinelerden ayırdığını gösterdi.
Hinton'un AI'nın tehlikeleri hakkındaki görüşleri, alandaki tüm uzmanlar tarafından paylaşılmasa da, onun kapsamlı deneyimi ve katkıları yapay zekanın gelişimi ciddi bir değerlendirme gerektirir. Konuşma henüz kaydedilmemiş olsa da, organizatörler yakın gelecekte daha geniş bir izleyici kitlesinin Hinton'un içgörüleriyle etkileşime geçmesine izin vererek onu izlenebilir hale getirme sözü verdiler.
Yapay zekanın geleceği ve sonuçlarıyla ilgili tartışmalar devam ederken Geoffrey Hinton'un konuşması alanın karmaşık ve çok yönlü doğasını hatırlatıyor. Yapay genel zeka arayışında etik hususlar, potansiyel riskler ve devam eden araştırma ve dikkatlilik ihtiyacı hakkında önemli konuşmaları ateşliyor (YGG).
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
