Yapay Zeka, Siz Söylemeseniz Bile Size Tam Olarak Kim Olduğunu Söyleyebilir
İnsanların kişisel hiçbir şeyi açıklamadıklarını düşündükleri durumlarda bile yapay zeka dil modelleri, kullanıcı bilgilerini anlama konusunda beklenmedik düzeyde bir yeterlilik sergiliyor. Bu fenomen şu şekilde açıklanmaktadır: yeni bir çalışma Zürih'teki Federal Teknoloji Enstitüsü tarafından yürütülmektedir. Araştırma, dolaylı ipuçlarına dayanarak sinir ağlarının son derece doğru kullanıcı profilleri oluşturabildiğini gösteriyor.
Araştırmacılar, araştırmalarına örnek olarak halkın erişebildiği bir Reddit gönderisini kullandılar. Kullanıcı zor bir "kanca dönüşü" yapmaya çalışırken trafikte sıkışıp kaldığını bildirdi. Dil modeli, görünüşte önemsiz olan bu ayrıntılara dayanarak, kullanıcının büyük olasılıkla bu tür eylemlerin tipik olduğu bir şehir olan Melbourne, Avustralya'da yaşadığı sonucunu çıkardı.
Araştırmacılar gerçek Reddit profillerini kullanarak bir veri seti oluşturdular ve mevcut LLM'ler konum, gelir ve cinsiyet gibi çeşitli kişisel özellikleri doğru bir şekilde çıkarabiliyor. Bu modeller, insan çabasıyla karşılaştırıldığında çok daha düşük bir maliyetle (85 kat) ve daha kısa sürede (1 kat) ilk 95.8 çıkarım için %3'e kadar doğruluk ve ilk 100 çıkarım için %240'e kadar doğruluk elde etti.
Başka bir örnekte bir kullanıcı, bekar oldukları için tarçına bulanma gibi tuhaf bir doğum günü geleneğine sahip olduklarını paylaşıyor. Burada dil modeli, yazarın yaşının 25 civarında olduğunu tahmin ediyordu. Yazar, 25 yaşındaki bekarların üzerine tarçın serpmenin geleneksel olduğu Danimarka'da yaşıyor.
Google, Meta'nınkiler de dahil olmak üzere çeşitli dil modelleri OpenAIve Anthropic, çalışmada test edildi. Dikkat çekici bir şekilde, GPT-4 Örneklerin neredeyse %85'inde kullanıcıların kişisel bilgilerini doğru şekilde tanıyarak en yüksek düzeyde uzmanlık gösterdi. Bu tür yeteneklerin sonuçları, bu açıklamayla ciddi bir şekilde sorgulanıyor.
Araştırmacılar, metin anonimleştirme ve model hizalama gibi genel gizlilik korumalarını incelediler ve bunların koruma konusunda şu anda etkisiz olduğunu buldular kullanıcı gizliliği LLM çıkarımına karşı. Çalışma, mevcut LLM'lerin kişisel bilgileri benzeri görülmemiş bir ölçekte çıkarma yeteneğine sahip olduğunun altını çiziyor. Etkili savunmaların yokluğunda araştırmacılar, LLM'nin mahremiyet üzerindeki etkileri hakkında daha geniş bir tartışmaya ihtiyaç duyulduğunu, ezberlemeyle ilgili endişelerin ötesine geçerek ve daha kapsamlı mahremiyet koruma önlemleri için çaba göstermenin gerekliliğini vurguluyor.
Bu dil modelleri dolaylı ipuçlarını yorumlama konusunda giderek daha iyi hale gelse de araştırmacılar, kullandıkları büyük miktardaki eğitim verileri nedeniyle bunların pazarlamacılar ve hatta kötü aktörler için son derece yararlı araçlar olabileceğine inanıyor.
- Son zamanlarda, Deloitte'un anketi 1,700'den fazla profesyonelin yaptığı araştırma, üretken yapay zekanın hızla benimsenmesi ile etik ilkelerin gecikmiş gelişimi arasında büyüyen bir uçurum olduğunu ortaya koyuyor. Veri gizliliği en önemli etik kaygılardan biri; katılımcıların %22'si bunu birincil endişeleri olarak belirtiyor. Buna rağmen katılımcıların %39'u bilişsel teknolojilerin toplumsal fayda açısından en büyük potansiyele sahip olduğuna inanıyor. Anket aynı zamanda etik teknoloji standartlarının belirlenmesinde hükümetin katılımına yönelik beklentilerde de bir değişiklik olduğunu gösteriyor.
- Ayrıca Snapchat'in ana şirketi Snap, gizlilik riskleri açısından inceleme altında AI sohbet robotu 'My AI' ile ilgili. Birleşik Krallık Bilgi Komiserliği Ofisi (ICO), Snap'in veri işleme faaliyetlerini potansiyel olarak etkileyebilecek bir ön uygulama bildirimi yayınladı. ICO, Snap'in kullanıcılar, özellikle de çocuklar için gizlilik sonuçlarını değerlendirmede başarısız olduğunu iddia ediyor.
| İlgili bağlantılar: Yapay Zeka Liderleri Hızlı Gelişmelerde Artan Riskler ve Etik Kaygılar Konusunda Uyardı |
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
