Yapay Zeka Liderleri Hızlı Gelişmelerde Artan Riskler ve Etik Kaygılar Konusunda Uyardı
Yakın zamanda yapılan bir politika açıklamasındaBengio, Hinton, Russell, Harari ve Kahneman gibi yapay zeka alanında önde gelen isimler, yapay zeka ile ilgili hızlı ilerleme ve artan toplumsal riskler konusunda alarma geçti.
Yapay zeka hızla gelişiyor. GPT-2 dört yıl önce 0'dan 100'e kadar sayamıyordu, ancak modern modeller kod yazabiliyor, harika görüntüler oluşturabiliyor ve entelektüel rehberlik sunabiliyor. Ve bir yarış içinde olduğumuz için ilerleme daha da hızlanabilir. Ayrıca yapay zeka, örneğin yeni sistemlerin programlanmasına ve bunların eğitimi için veri toplanmasına yardımcı olarak daha hızlı ilerlemektedir.
İlerleme insan düzeyine ulaştığında yavaşlayacağını veya duracağını düşünmek için hiçbir neden yok. Bazı bölgelerde yapay sistemler bu konuda insanlardan daha iyi performans gösteriyor. daha hızlı işlem yapma gibi yetenekler hızlar, daha yüksek veri işleme kapasiteleri ve büyük ölçekli ölçeklenebilirlik. İşletmeler, mevcut sınırın çok üzerinde eğitim programlarını uygulayacak mali araçlara sahiptir.
Yazarlar, önümüzdeki on yıl içinde daha iyi bir yapay zeka uzmanının ortaya çıkma ihtimalinin yüksek olduğunu düşünüyor. insan yeteneklerini aşan birçok önemli alanda.
Bundan sonra ne olacak? Düzgün yönetilip dağıtılırsa tüm yaşamlar iyileştirilebilir. Kötü seçilmiş seçenek, hazırlıksız olduğumuz önemli riskleri beraberinde getirir. Önemli kaynaklar, güvenliğe ve zarar önlemeye tahsis edilmek yerine, her zamankinden daha güçlü yapay zeka sistemleri oluşturmak için kullanılıyor. Bunun değişmesi gerekiyor; becerilerin geliştirilmesi tek başına yeterli değildir. Ve bu süreç beklenenden uzun sürüyor. Mevcut tehditlerin artmasını ve yenilerinin ortaya çıkmasını öngörerek daha yüksek riskler ortaya çıkmadan önce plan yapmamız gerekiyor. Yapay zeka için kabul edilmesi onlarca yıl sürdüğünden, yapay zeka için aynı miktarda zamanımız yok. iklim değişikliği.
Adaletsizliğin artması, istikrarın bozulması ve ortak gerçeklik algısının bozulması gibi toplumsal düzeyde çok sayıda risk mevcuttur. Burada teröristler ve suçlular yoğun bir faaliyet içerisindedir. Yapay zeka birkaç oyuncunun elinde yoğunlaşabilir, bu da küresel eşitsizliğin artmasına, otomatik savaşların kolaylaşmasına, her bireye özel kitle manipülasyonuna ve her yerde gözetime yol açabilir.
Özerk olarak Yapay zeka daha karmaşık hale geliyor ve plan yapabiliyorEğer dünyada harekete geçer ve hedeflerine ulaşırsa bu riskler daha da artacaktır. Bu hedefler çıkarlarımıza uygun olmayabilir ve kötü aktörler söz konusu olduğunda zararlı bile olabilir. Yapay zeka davranışını karmaşık hedeflerimiz ile eşleştirmeyi içeren Yapay Zeka Hizalama sorununun nasıl çözüleceği şu anda belirsizdir. Üstelik kazanma niyetiyle yarışırken güvenlik önlemlerini gözden kaçırmak çok kolaydır.
Bırakın sosyal mühendislik, bilgisayar korsanlığı, aldatma ve stratejik planlama konularında giderek daha usta hale gelen karmaşık yapay zeka sistemlerini, sıradan yazılımları bile insanlar için kontrol etmek zordur. Bu, otonom yapay zeka sistemlerinin insanlardan alabileceği veya kendi başlarına yaratabileceği bir şeydir.
Bu sistemler bireylerle ve diğer sistemlerle koalisyon kurma, güven kazanma, finansman sağlama ve karar vericileri etkileme yeteneğine sahiptir. Bir solucan gibi, ağ boyunca kendi kendini çoğaltma yeteneğine sahiptirler. Yapay zeka asistanlarının yardımıyla çok büyük miktarlarda kod zaten yazılıyor; Gelecekte sistemler, çok sayıda önemli sisteme açıklardan yararlanma olanağı sunabilir. Yapay zeka sistemleri, açık savaşta biyolojik veya otonom silahları kullanma veya tehdit etme yeteneğine sahiptir. Bu sadece bir devamı biyolojik araştırmalara, yapay zekaya ve savaşın otomasyonuna yönelik güncel hareketler. İnsanlar devreye girip direnmeyi çok zor bulabilirler.
Çoğu durumda, onların istemesine bile gerek kalmadan dizginleri onlara vermeye hazırız. Birçok kişi ve işletme, rekabetin gerisinde kalacakları endişesiyle bu tür sistemleri rekabetçi bir ortamda kendileri uygulamaya isteklidir.
Belgenin tamamı bulunabilir okuyun.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
