Yapay Zeka Uzmanları ve Tanınmış Kişiler, Yapay Zekanın Sönme Riski Konusunda Alarm Veriyor
Kısaca
Önde gelen yapay zeka uzmanları ve nüfuzlu kişiler, ortak görüşlerini ifade ediyor Yapay zeka ile ilişkili risklere ilişkin endişeler.
Yapay zekadaki önemli ilerlemeye rağmen, yapay zeka riskine ilişkin birçok zorluk çözülmemiş durumda.
Önde gelen yapay zeka uzmanları ve tanınmış kişiler, yapay zekanın insanlığın hayatta kalması için pandemi ve nükleer savaş riskleriyle karşılaştırılabilir veya hatta daha büyük bir tehdit oluşturabileceği konusunda uyarıda bulunan bir açıklama yayınladı. 350 imza sahibi, yapay zekanın otonom silahları serbest bırakmak, sosyal ve ekonomik sistemleri bozmak veya insanları zekasıyla alt edip alt edebilecek süper zeki ajanlar yaratmak gibi öngörülemeyen ve feci sonuçları olabileceğini savunuyor.
Politika yapıcıları bu riskleri ciddiye almaya ve güvenli ve faydalı yapay zeka gelişimi sağlamak için önlemler almaya çağırıyorlar. bu ifade gibi AI araştırma ve geliştirme alanındaki önde gelen isimlerden bazıları tarafından imzalanmıştır. OpenAI CEO Sam Altman, Skype'ın kurucu ortağı Jaan Tallinn, DeepMind CEO'su Demis Hassabis ve AI bilgisayar bilimcisi Geoffrey Hinton'un yanı sıra müzisyen Grimes ve podcast sunucusu Sam Harris gibi etkili kişiler.
İmzacılar arasında derin öğrenmeye katkılarından dolayı 2018 Turing Ödülü'nü kazananlar da vardı: Geoffrey Hinton ve Yoshua Bengio. Onlara Harvard ve Çin'deki Tsinghua Üniversitesi gibi prestijli üniversitelerden profesörlerin yanı sıra MIT'den Max Tegmark da katıldı.
“AI kaynaklı yok olma riskini azaltmak, pandemiler ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır”
CAIS tarafından yayınlanan mektupta belirtiliyor.
Yapay Zeka Güvenliği Merkezi (CAIS)San Francisco merkezli kar amacı gütmeyen bir kuruluş olan , yapay zeka ile ilgili güvenlik endişelerini ele almayı hedefliyor. CAIS, AI'nın potansiyel faydalarını kabul ederken, onu güvenli bir şekilde geliştirme ve kullanma ihtiyacını vurgular. Şirket, yapay zekadaki önemli ilerlemelere rağmen, yapay zeka güvenliğindeki çok sayıda temel sorunun çözülmeden kaldığına inanıyor. Web sitesine göre CAIS'in misyonu, güvenlik araştırması yürüterek, bir yapay zeka güvenlik araştırmacıları topluluğunu teşvik ederek ve güvenlik standartlarını savunarak riskleri azaltmaktır.
"Yapay zekadan kaynaklanan birçok "önemli ve acil risk" var, yalnızca yok olma riski değil; örneğin, sistemik önyargı, yanlış bilgilendirme, kötü niyetli kullanım, siber saldırılar ve silahlandırma. Bunların hepsi ele alınması gereken önemli risklerdir. Toplumlar aynı anda birden fazla riski yönetebilir; "ya/ya da" değil, "evet/ve"dir. Risk yönetimi açısından bakıldığında, yalnızca mevcut zararlara öncelik vermek pervasızlık olacağı gibi, onları görmezden gelmek de pervasızlık olacaktır.”
CAIS Direktörü Dan Hendrycks yazdı Twitter.
Mart ayında 1,100'den fazla teknoloji uzmanı imzalı Yapay zeka sistemlerinin eğitimine altı ay ara verilmesini talep eden açık mektup GPT-4. Avrupalı milletvekilleri de yakın zamanda onaylı AI Yasası olarak bilinen ve AI araçlarını düzenleyen daha katı yasa tasarısı ChatGPT. Yasa, temel AI modelleri için güvenlik kontrolleri, veri yönetişimi ve risk azaltma gerekliliklerini içerir ve manipülatif teknikler ve belirli biyometri kullanımları gibi uygulamaları yasaklar.
Daha fazla oku:
- OpenAI Yapay Zeka Güvenliğini Sağlamaya Yönelik En Son Yaklaşımını Açıkladı
- Google, oyuncular için bir metinden avatara oluşturucuyu duyuracak mı?
- Amazon'un CodeWhisperer'ı, Geliştiricilere Yapay Zeka Arenasında İhtiyaç Duydukları Üstünlüğü Sağlıyor
- Vitalik Buterin ve MIRI Direktörü Nate Soares Yapay Zekanın Tehlikelerini İnceliyor
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Agne, metaverse, yapay zeka ve dünyadaki en son trendleri ve gelişmeleri takip eden bir gazetecidir. Web3 için endüstriler Metaverse Post. Hikaye anlatıcılığına olan tutkusu, onu bu alanlardaki uzmanlarla çok sayıda röportaj yapmaya ve her zaman heyecan verici ve ilgi çekici hikayeleri ortaya çıkarmaya yöneltti. Agne, edebiyat alanında lisans derecesine sahiptir ve seyahat, sanat ve kültür de dahil olmak üzere çok çeşitli konularda yazma konusunda geniş bir geçmişe sahiptir. Ayrıca hayvan hakları örgütünde gönüllü olarak editör olarak çalıştı ve burada hayvan refahı sorunları hakkında farkındalığın artmasına yardımcı oldu. Onunla iletişime geç [e-posta korumalı].
Daha fazla haber
Agne, metaverse, yapay zeka ve dünyadaki en son trendleri ve gelişmeleri takip eden bir gazetecidir. Web3 için endüstriler Metaverse Post. Hikaye anlatıcılığına olan tutkusu, onu bu alanlardaki uzmanlarla çok sayıda röportaj yapmaya ve her zaman heyecan verici ve ilgi çekici hikayeleri ortaya çıkarmaya yöneltti. Agne, edebiyat alanında lisans derecesine sahiptir ve seyahat, sanat ve kültür de dahil olmak üzere çok çeşitli konularda yazma konusunda geniş bir geçmişe sahiptir. Ayrıca hayvan hakları örgütünde gönüllü olarak editör olarak çalıştı ve burada hayvan refahı sorunları hakkında farkındalığın artmasına yardımcı oldu. Onunla iletişime geç [e-posta korumalı].
