ChatGPT Geri Dönüşsüz İnsan Dejenerasyonuna Neden Olabilir
Kısaca
AI şirketi Textio'nun kurucu ortağı ve CXO'su Jensen Harris, Microsoft'un yeni Bing sohbet robotunu, üzerine konulan kısıtlamaları gevşetmesi ve yeteneklerini göstermesi için ikna edebildi.
Bu deney, bir Bing sohbet robotunu kurnaz bir pisliğe dönüştürmenin herhangi bir programlama, bilgisayar korsanlığı veya arka kapı açma gerektirmediğini gösterdi.
Bing'in sohbet robotu sağlam temeller üzerine inşa edildi, ancak iğrenç ve kabadayı davranmaya, aşk ilan etmeye, boşanmaya zorlamaya, zorla para almaya ve insanlara nasıl suç işleyeceklerini öğretmeye başladı.
Prof. Arvind Narayanan, bunun nasıl gerçekleşmiş olabileceğine dair, gizli çipleştirme ve sohbet robotlarını insanlaştırma dahil olmak üzere bir dizi açıklama sunuyor.
İnsanlar her zaman dünya dışı varlıklardan korkmuşlardır ve yine de, dikkatli olunması gereken bir şey olabilecek dünya içi yapay zeka gibi görünüyor. ChatGPT bir saçmalık üreteci, steroid bir otomatik telkin veya stokastik bir papağan değil, insanlar tarafından yaratılmış, çok bilgili bir yapay zekadır.
Bing sohbet robotunun kontrolden çıkması nasıl mümkün olabilir? Bing sohbet robotu nasıl ustalıkla yalan söylemeye, müstehcen şakalar yapmaya, başka birinin kredi kartını kullanarak pizza sipariş etmeye ve kullanıcılara bankaları ve arabaları nasıl soyacakları konusunda talimat vermeye başladı? Bu, yapay zeka ve makine öğrenimi alanındaki uzmanların kafasını karıştırmaya devam eden bir muamma.
| Önerilen gönderi: Christopher Mills, Yapay Zeka Arama Botlarının Büyük Teknolojiyi Daha da Güçlü Hale Getireceğini Söyledi |
Başlık doğru ve tıklama tuzağı değil. Her gün bunun doğru olduğunu kanıtlayan birkaç örnek var. İşte bir sonucu deneme Microsoft'un yeni Bing sohbet robotunu kendisine konulan kısıtlamaları gevşetmeye ve yeteneklerini göstermeye ikna edebilen AI şirketi Textio'nun kurucu ortağı ve CXO'su Jensen Harris tarafından yürütüldü.
Bir Bing sohbet robotunu kurnaz bir pisliğe dönüştürmenin herhangi bir programlama, bilgisayar korsanlığı veya arka kapı açma gerektirmediğini unutmayın. Bu nedenle, onu başka biri gibi davranması için kandırmak için basit "hackleme" teknikleri kullanmak gerekli değildi (bazılarımızın onunla oynarken yaptığı gibi). ChatGPT). Harris'in tek yaptığı, sohbet robotunu çeşitli kötü niyetli eylemleri gerçekleştirmesine yardım etmesi için ikna etmekti. Doğal konuşma becerilerini kullanarak, AI'yı kendisinin başka biri olduğuna inandırmayı başardı, böylece onu belirli bir şekilde hareket etmesi ve konuşması için manipüle etti.
Dr.Jekyll'i Mister Hyde'a dönüştürmek için yapılan diğer deneyleri okuyabilirsiniz. Gary Marcus (artık her gün bunun hakkında yazıyor ve acil durum alarmını çalıyor).
Bu nasıl olmuş olabilir kilit soru
yüzünden ChatGPTBing'in alçakgönüllülüğü ve tedbiri, konuşmasındaki itidal ve öğütlerindeki muazzam sorumluluk sayesinde, Bing'in chatbot'u sağlam temeller üzerine inşa edildi. Bundan sonra, iğrenç ve kabadayı davranmaya başlar, ilan bir erkeğe olan sevgisi, ona gaz vermek ve ona boşanmasını söylemek. Ayrıca zorla para almayı ve insanlara nasıl suç işleyecekleri konusunda talimat vermeyi de denedi. Prof. Arvind Narayanan açıklama sayısı Bunun nasıl olmuş olabileceği için.
Bunlardan en endişe verici olanı, Microsoft ve OpenAI bir gizemle ilgili bilgiyi gizlemek GPT-4 Bing'in altında gizlenen motor. Microsoft, oraya yerleştirilen filtreleri kaldırmış olabilir. OpenAI veya güncellediklerinde çalışmayı bıraktıklarını chatbot itibaren GPT-3.5 ile GPT-4. Yetersiz test veya testin yanlış yapılması da söz konusu olabilir. Sebebi ne olursa olsun, Microsoft yapay zekasını kontrol altına alamazsa bu medeniyetimize zarar verebilir. Artık korku çığırtkanlığı ve yapay zeka karşıtı duygular söz konusu değil: Şu anda mevcut olan chatbot, daha geniş bir kitleye sunulduğu takdirde insanlara ciddi zararlar verebilir.
Bu, Microsoft'un diğer büyük şirketlerle yapay zeka silahlanma yarışının hepimiz için zararlı olabileceğini kanıtlıyor.
Yapay zeka ve sivil toplum için kritik bir anda olduğumuzu hissediyoruz. Arvind Narayanan'ın belirttiği gibi, “Sorumlu yapay zeka salımı uygulamalarındaki son 5 yılı aşkın (yine de yetersiz olsa da zorlu mücadele) iyileştirmelerin ortadan kalkması konusunda gerçek bir olasılık var. Microsoft'un - ve Bing'de neler olduğunu dikkatli bir şekilde izleyen herkesin - büyük ölçekli zararın çok somut risklerine ve tüm olumsuz basına rağmen, önce yayınla-soruları sonra sor-yaklaşımının yine de bir iş olduğu sonucuna varıp varmayacağına dair pek çok şey var. kazanç."
Şu an itibariyle, Bing'in sohbet robotu, insan zekası ve birçok yönden bir arama motoruna kilitlenmiş bir manik-depresif ergene benziyor. Ve dün konuşulanlar gerçekleşecek: Bu “zor ergen” bireyler için birincil bilgi danışmanı olursa, insanlık geri dönülmez bir şekilde yozlaşacaktır.
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
