Yapay Zeka Soğuk Savaşı Başladı, Ama Acaba Asıl Noktayı Kaçırıyor Muyuz?
Kısaca
Anthropic'ten Claude LLM'ye yönelik iddia edilen damıtma saldırılarıyla öne çıkan yeni "Yapay Zeka Soğuk Savaşı", fikri mülkiyet, ulusal güvenlik ve yapay zekanın etik kullanımı açısından artan risklerin altını çizerken, merkezi olmayan ve izole edilmiş yapay zeka geliştirme yöntemleri üzerine bir tartışmayı da beraberinde getiriyor.
Olması kaçınılmazdı. Ancak yine de, ortaya çıkan "Yapay Zeka Soğuk Savaşı"nın ilk dalgaları hâlâ endişe verici ve şirketlerin uyguladığı koruma önlemlerini, fikri mülkiyeti kötü niyetli kişilerden güvenilir bir şekilde koruma yeteneğimizi ve bu soğuk savaşın nasıl tırmanabileceğini sorgulatıyor. Bununla birlikte, her şeyden önemlisi, yapay zekaya nasıl değer verdiğimiz, hangi sorunları çözmesini istediğimiz ve dünyanın en büyük potansiyel oyun değiştiricisinin kontrolünü nihayetinde kimin elinde tutması gerektiği konusunda bir tartışmayı tetiklemelidir.
Soğuk Savaş Eylem Halinde
Peki tam olarak ne oldu? Çeşitli kaynaklara göre... raporlarıAnthropic AI, üç Çinli yapay zeka laboratuvarı olan DeepSeek, Moonshot AI ve MiniMax tarafından gerçekleştirilen uzun süreli ve istilacı bir eylemin merkezinde yer aldığını kamuoyuna açıkladı. İddialara göre, bu laboratuvarlar Anthropic veri merkezine doğrudan sızmak yerine, Anthropic'in Claude LLM'sini kullanarak bilgi çekip kendi modellerini geliştirmek için kullanabilecekleri akıllı bot orduları oluşturdu.
Daha spesifik olarak, saldırı dalgaları "damıtma" adı verilen bir casusluk biçimini kullandı. Esasen, bu, bir hesabın Claude gibi bir LLM'ye birçok farklı, hedefli soru sorması ve ardından yanıtları yapay zeka modelinin nasıl çalıştığını daha iyi anlamak için kullanması anlamına gelir. Bu, kötü niyetli aktörün kendi modellerini bu yeni bilgilerle güncellemesine olanak tanır. Bu son saldırılar örneğinde, Anthropic, saldırının çok büyük olduğunu, 24,000'den fazla hesap ve Claude arasında 16 milyondan fazla işlemi kapsadığını, sonuçları kaydettiğini ve modelin nasıl düşündüğü ve davrandığına dair önemli bilgiler geliştirdiğini belirtti. Anthropic'in duyurusuÜç Çinli firma bu işe karıştı. Vekil hizmetlerde gizlenmiş sahte hesaplar kullanan firmaların görünen amacı, özellikle yapay zeka modelinin en güçlü olduğu alanlarda Claude hakkında olabildiğince çok entelektüel bilgi edinmekti. DeepSeek, muhakeme yetenekleri, rubrik tarzı notlandırma görevleri ve siyasi/toplumsal açıdan hassas konularda sansürü nasıl atlatacağına dair daha iyi bir anlayış gibi alanları hedefledi. Moonshot AI, ajansal muhakeme, kodlama ve bilgisayar görüşü süreçlerine odaklandı. MiniMax ise Claude'un ajansal kodlamasını ve yapay zeka ajanlarının araç kullanımını hedefledi.
Açıkça belirtmek gerekirse, Çinli şirketlerin çeşitli riskler (bunlardan biri de veri işleme) nedeniyle Claude'u kullanmaları zaten yasaklanmıştır. Şirketler, geçerli hesap istekleriyle karışık binlerce bot hesabı çalıştıran proxy'ler kullandılar; bu da birçok bot hesabını yakalamayı zorlaştırdı ve ortak bir kaynakları olmadığı için hepsini kapatmayı neredeyse imkansız hale getirdi. Bu başarısızlık güçlü bir ilk savunma hattı olmalıydı, ancak bunun yerine kolayca atlatıldı. Claude bu tür saldırılara karşı önlemler açıkladıysa da, bunların etkinliği şu anda kanıtlanmış olmaktan çok uzaktır.
Yapay Zeka İçin Ne Anlama Geliyor?
İşin ironik yanı, bu firmaların Claude'u doğrudan hacklememiş olmaları. Bunun yerine, Claude'u belirli amaçlar doğrultusunda etkili bir şekilde kullanmak için çok sayıda bot oluşturdular. Bir bakıma, bu botlar Claude ile "20 Soru" oyunu oynadılar, ancak doğru cevabı tahmin etmek yerine, Claude'un verdiği her cevap, düşünme biçimi hakkında daha fazla bilgi sağladı.
İster bir güvenlik duvarını aşmak, isterse Claude ile amaçlandığı gibi etkileşim kuracak botlar oluşturmak olsun, sonuç fikri mülkiyet hırsızlığı oldu. Çeşitli vakalarda, suçlu firmalar, son derece karmaşık bir yapay zeka modeli olan Claude hakkında çok şey öğrenmiş olabilirler. Bu, bir rakibe, modeli eğitmek için gereken verileri bulma, düzenleme ve depolama gibi devasa görevleri atlayarak kendi modelini oluşturmak için yeterli bilgi sağlayabilir. Bunun yerine, bu firmalar iddiaya göre gerçek işin hiçbirini yapmadan fikri mülkiyeti elde ettiler.
Ancak riskler, fikri mülkiyet hırsızlığının çok ötesine uzanıyor. Damıtılmış modeller çoğu zaman düzgün eğitilmiş modeller gibi davranabilir, ancak yanlış eğitim, damıtılmış bir modelin akıl yürütme ve araç kullanımında bazı büyük boşluklar yaratır. Hassas bilgileri ifşa edebilecek gerekli güvenlik önlemleri olmadan oluşturulabilir, ancak aynı zamanda kullanıcılara tehlikeli bilgiler sağlayarak kullanıcılara zarar verebilir. Dahası, Claude gibi bir modelin nasıl çalıştığını anlamak, ulusal güvenlik riskleri yaratabilir, çünkü kötü niyetli kişi, modelin tahmin edilebilir bir şekilde davranmasını sağlayacak şekilde eğitim verileriyle besleyebilir ve bu da kötü niyetli kişinin modelin sonuçlarını manipüle etmesine olanak tanır. Anthropic ve diğer yapay zeka devlerinin Savunma Bakanlığı ile anlaşmalar görüştüğü göz önüne alındığında, bunun endişe verici sonuçları vardır.
Anthropic bu durumdan ders çıkardığını açıklasa da, yapay zekâ için Soğuk Savaş başladı ve ancak tırmanabilir. Kötü niyetli aktörler karşı önlemleri aşmanın bir yolunu bulacak, Anthropic karşılık verecek ve silahlanma yarışı devam edecek. Sonuç olarak bu, yapay zekâ şirketlerinin modelleri doğru şekilde eğitmek için yaptıkları yatırımlarda güvenlik açıkları yaratmakla kalmaz, aynı zamanda rakip bir şirket zaman veya para harcamadan bu fikri mülkiyeti tersine mühendislikle ele geçirebilirse, bunun için gereken büyük yatırımları da caydırır.
Durdurulabilir mi? Durdurulmalı mı?
Bu tür gerilimlerin doğası göz önüne alındığında, bu durum küresel yapay zeka rekabetinde muhtemelen gerçeklik haline gelecektir. Bununla birlikte, yapay zeka soğuk savaşını tamamen atlatmanın da bir gerekçesi vardır. Dünyanın yapay zeka devleri, çalışmalarını korumaya ve her türlü fikri mülkiyeti sıkı bir şekilde muhafaza etmeye odaklanmıştır. Bu durum doğal olarak birkaç kişinin omuzlarına büyük bir güç yığarak küresel güç dengesinde büyük bir dengesizliğe yol açmaktadır.
Yapay zekâ oyuncularının giderek büyüyen bir ittifakı, ASI İttifakıBazı uzmanlar, savunulamaz fikri mülkiyet siloları oluşturmak yerine, belki de dünyanın açık ve merkeziyetsiz yapay zekâ kullanımıyla daha güçlü bir yapay zekâ geliştirebileceğini öne sürmüştür. ASI İttifakı, veri, analiz ve araçlar (geliştirici odaklı LLM'ler ve ajan çerçeveleri gibi) üzerine kurulu merkeziyetsiz yapay zekânın geliştirilmesini desteklemek için çalışmakta ve yapay zekânın yeteneklerinin herkese açık olması durumunda en başarılı olacağı görüşünü savunmaktadır. Bu, fikri mülkiyet korumacılığına karşı çıkmakla birlikte, şirketlerin modelleri, verileri ve yenilikleri çalmanın yollarını bulma arzusunu da engellemektedir. Yapay zekâ gibi bir sektör bile, merkeziyetsiz ve herkese açık olduğunda, aslında korunabilecek yenilik ve yatırımlar için çok verimli bir ortam yaratacaktır.
Son Düşüncelerimiz
Yapay zekâ soğuk savaşının daha da tırmanmasından önce, kendi fikri mülkiyetimizi nasıl daha fazla koruyacağımızı değil, tamamen izole edilmiş yeniliklere olan ihtiyacı nasıl ortadan kaldıracağımızı düşünmeliyiz. İzole edilmiş yapay zekâ fikri mülkiyeti önümüzdeki birçok yeni tehditle karşı karşıya kalırken, merkezi olmayan yapay zekâ geleceğin yolu olabilir ve bu da yapay zekânın geliştirilmesi, paylaşılması ve gelir akışlarının önemli ölçüde farklı bir şekilde oluşturulması için istikrarlı bir temel yaratabilir.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Polonya'dan gelen dijital bir göçebe olan Gregory, yalnızca bir finansal analist değil aynı zamanda çeşitli çevrimiçi dergilere değerli katkılarda bulunan bir kişidir. Finans sektöründeki zengin deneyimi, içgörüleri ve uzmanlığı sayesinde çok sayıda yayında tanındı. Boş zamanlarını etkili bir şekilde kullanan Gregory, şu anda kripto para birimi ve blockchain hakkında bir kitap yazmaya kendini adamıştır.
Daha fazla haber
Polonya'dan gelen dijital bir göçebe olan Gregory, yalnızca bir finansal analist değil aynı zamanda çeşitli çevrimiçi dergilere değerli katkılarda bulunan bir kişidir. Finans sektöründeki zengin deneyimi, içgörüleri ve uzmanlığı sayesinde çok sayıda yayında tanındı. Boş zamanlarını etkili bir şekilde kullanan Gregory, şu anda kripto para birimi ve blockchain hakkında bir kitap yazmaya kendini adamıştır.
