Dan Hendrycks: Yapay Zeka ve İnsanlar Arasında Seçim Yapan Evrim Bizi Seçmeyecek
Kısaca
Dan Hendrycks'in “Doğal seçilim yapay zekayı insanlara tercih ediyor” araştırması ürkütücü bir sonuçtur.
AI sistemlerinin güvenliğini değerlendirme konusunda düzinelerce bilimsel makale yayınlamış, deneyimli ve tanınmış bir araştırmacıdır.
Dan Hendrycks'in araştırması Homo Sapiens için ölüm cezası gibi geliyor. Çalışmanın sonucu “Doğal Seçilim Yapay Zekaları İnsanlara Tercih Ediyor” gerçekten korkutucu. Bu, Dan Brown gibi popüler bir vizyoner tarafından değil, AI güvenliğinde araştırma ve saha çalışmasında uzmanlaşmış kar amacı gütmeyen bir kuruluş olan California AI Security Merkezi'nin (CAIS) direktörü Dan Hendrycks tarafından yazılmıştır.
Dan Hendrycks, AI ilerlemeleri konusunda paniğe kapılan bir uç deli değil. O, AI sistemlerinin güvenliğini değerlendirme - kodlama, akıl yürütme, yasaları anlama vb. konularda ne kadar iyi olduklarını test etme - konusunda düzinelerce bilimsel makale yayınlamış deneyimli ve geniş çapta saygın bir araştırmacıdır. Gauss Doğrusal Hata Birimleri (GELU).
Jack Clark, kurucu ortağı ChatGPT rakip Anthropic, Stanford Üniversitesi Yapay Zeka Endeksi eş başkanı, OECD Yapay Zeka ve Bilgi İşlem bölümünün eş başkanı ve ABD Hükümetinin Yapay Zeka Ulusal Danışma Komitesi üyesi, Hendrycks'in çalışmasının sonucunu tartışıyor. “İnsanlar refleks olarak orman kulübesinde yaşayan çılgın bakışlı bir delinin ağzından gelen böyle bir açıklamayı görmezden gelmek istiyorlar. Bunu şimdiden çürütmek isterim. Yalnızca yapay zeka araştırmalarında değil aynı zamanda yapay zeka araştırmalarında da deneyime sahip bir uzman AI sistemlerinin güvenliğini değerlendirme gelecekteki AI sistemlerinin bencilce hareket edebileceğini ve insanların çıkarlarına uygun davranmayabileceğini savunan bir makale yazıyor, bununla ilgilenmemiz gerekiyor!
Hendrycks'in makalesinin bir özeti:
- Yapay zeka ajanları daha fazla hale gelirse insanlardan daha akıllıBu, insanlığın geleceğinin kontrolünü kaybetmesine yol açabilir.
- Bunun, insanların veya makinelerin bazı özel kötü niyetli niyetlerinin bir sonucu olarak değil, yalnızca Darwinci mantığa göre yapay zekaya evrimsel gelişim ilkelerinin uygulanabilirliğinin bir sonucu olarak olma şansı yüksektir.
- Bunun riskini en aza indirmek için, yapay zeka aracılarının içsel motivasyonlarının dikkatli bir şekilde tasarlanması, eylemlerine kısıtlamalar getirilmesi ve yapay zeka işbirliğini teşvik edecek kurumların oluşturulması gerekir.
Yani Hendrycks'in 43 sayfalık bilimsel yazısında değindiği en önemli noktalar:
1. Terminatörün gelişinden korkuyorduk ama bu korkuların temelleri yanlıştı. İki hata vardı:
A. Motivasyonlarımızın ona atfedilmesiyle yapay zekanın antropomorfizasyonu vb. ChatGPT Yapay zekanın, ondan kaynaklanan tüm sonuçlarıyla birlikte temelde farklı bir zihin olduğunu gösterdi.
B. Yapay zekanın bir tür tek varlık olduğu fikri: akıllı ya da çok akıllı değil, nazik ya da pek nazik değil, ama aslında, bu çok farklı yapay zeka varlıkları yakında mümkün olduğunca dünyada olacak.
2. Yapay zeka ile gelecek hakkındaki fikirlerimizde başka bir temel kusur daha var - en önemli geliştirme mekanizmasını unuttuk - sadece biyoajanların değil, aynı zamanda fikirlerin ve anlamların, maddi araçların ve maddi olmayan kurumların gelişimini de yönlendiren evrim.
3. Dünya üzerinde birçok yapay zekanın gelişip evrimleşeceği bir ortam şimdiden şekillenmeye başladı. Bu evrim, Darwin'in mantığına göre, yapay zekanın kendi aralarında rekabet ederek, "ana" kurumlarının (şirketler, ordu vb.) çıkarlarını dikkate alarak ilerleyecektir.
4. Rekabetçi evrimin mantığı, insanlarda olduğu gibi aynı şeye yol açacaktır: giderek daha zeki olan yapay zeka ajanları, giderek daha bencil hale gelecek ve asıl amaç güç olmak üzere aldatma ve güç kullanarak hedeflere ulaşmaya hazır olacaktır.
5. Yapay zeka ajanlarının doğal seçilimi, daha bencil türleri daha özgecil olanlara tercih etme eğilimindedir. AI ajanları bencilce davranacak ve insanlara çok az saygı duyarak kendi çıkarlarının peşinden koşacak, bu da insanlık için feci risklere yol açabilir.
- Dilekçe olduğundan daha gelişmiş yapay zeka sistemleri geliştirmeyi durdurmak GPT-4 toplumu kutuplaştırdı. İlk grup ilerlemenin durdurulamayacağına inanırken, diğeri ilerlemenin durdurulabileceğine ve bazen de durdurulması gerektiğine inanıyor. Üçüncü grup nasıl olduğunu anlamıyor GPT-4 ilk etapta faaliyet göstermektedir. Bu metindeki en önemli ayrıntı, yapay zekanın hiçbir bilinci, iradesi ve failliği olmadığı ve kötü niyetli kişiler olmasa bile kötü olabileceğidir.
- Geoffrey Hinton'a genellikle "Yapay Zekanın Vaftiz Babası" denir ve derin öğrenme topluluğunun önde gelen isimlerinden biri olarak kabul edilir. 40 dakikalık röportajı ChatGPT anlaşılması kolay olması ve çok az kişinin erişebileceği bir anlayış derinliğine sahip olması bakımından benzersizdir. Devam eden “entelektüel devrimin” ve insanlık dışı zekanın önemini vurguluyor. ChatGPTgelişmiş dijital iletişim yeteneklerine sahip yapay olarak akıllı bir aracıya dayanmaktadır.
Daha fazla ilgili makale okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
