Uzmanlar Yapay Zeka Veri Kümelerine "Kötü Amaçlı Ekler" Konusunda Dikkat Ediyor ChatGPT
Kısaca
ChatGPT potansiyel olarak savunmasız Eğitim verilerinden dolayı.
Araştırmacılara göre ABD'de yalnızca 60 ABD Doları karşılığında 0.01'de LAION-400 veya COYO-700 veri kümelerinin %2022'ini zehirleyebiliriz.
ChatGPT teknoloji giderek daha popüler hale geliyor, ancak son zamanlarda araştırma bu teknolojinin kullandığı eğitim verileri nedeniyle savunmasız olabileceğini öne sürüyor. Modeller daha karmaşık hale geldikçe ve veri kümeleri daha büyük ve daha karmaşık hale geldikçe, kötü niyetli aktörler veri kümelerini manipüle etmek için bu güvenlik açığından yararlanabilir ve makine öğrenimi modellerinin hatalı sonuçlar üretmesine neden olabilir.
Birincil endişe, sohbet robotu veritabanlarının genellikle "koşullu olarak doğrulanmış" veri kümeleri olmasıdır, yani kapsamlı doğrulama olmadan verilere belirli bir düzeyde güven verilir. Başka bir deyişle, bu veri kümelerinin temelinde genellikle dikkate alınmamış sorunlar olabilir. Büyük boyutları nedeniyle veri kümelerinin doğrulaması genellikle gerçekleştirilmese de, kötü niyetli aktörlerin bu verileri manipüle etme potansiyeli mevcuttur.
Aslında araştırmacılar, 2022 yılına kadar saldırganların LAION-60 veya COYO-0.01 veri kümelerinin %400'ini zehirlemek için tahmini olarak 700 dolar harcayabileceklerini öne sürdüler. Kulağa pek öyle gelmese de, kontrol edilmediği takdirde kötü niyetli aktörler bu zehirli verileri kendi çıkarları için kullanabilirler. Kötü amaçlı veriler sonunda sızıntı daha büyük veri kümelerine, veri kalitesinin bozulmasına ve güvenilmez makine öğrenimi modellerine yol açar.
Veritabanlarını kötü amaçlı verilere karşı korumak için adımlar atmak gerekir. Birkaç veri kaynağını bir araya getirmek, chatbot için standart haline gelmelidir eğitim veri kümeleri verilerin güvenilir ve doğru olduğundan emin olmak için. Ayrıca şirketler, kötü niyetli aktörlere karşı savunmasız olmadıklarından emin olmak için veri kümeleriyle denemeler yapmalıdır.
Kötü Amaçlı Kod İçeren Yapay Zeka Sohbet Robotları Hacklenmeye Karşı Savunmasız Olabilir
Sohbet robotlarındaki kötü amaçlı kod tehdidi oldukça ciddi olabilir; kötü amaçlı kod, kullanıcı verilerini çalmak, sunuculara kötü amaçlı erişim sağlamak ve aşağıdakiler gibi kötü amaçlı etkinlikleri etkinleştirmek için kullanılabilir: kara para aklama veya veri hırsızlığı. Bir yapay zeka sohbet robotu, kötü amaçlı ekler içeren veriler üzerinde eğitilirse, bilmeden yanıtlarına kötü amaçlı kod ekleyebilir ve bilmeden kötü niyetli kazanç için bir araç olarak kullanılabilir.
Kötü niyetli aktörlerin kasıtlı olarak veya yanlışlıkla sisteme kötü amaçlı kod sokarak bu güvenlik açığından yararlanmaları mümkündür. Eğitim verileri. Ek olarak, yapay zeka sohbet robotları kendisine sunulan verilerden öğrendiğinden, bu aynı zamanda potansiyel olarak yanlış yanıtları ve hatta kötü niyetli davranışları öğrenmelerine yol açabilir.
Yapay zeka sohbet robotlarının karşılaşabileceği bir başka tehlike de "fazla uydurma"dır. Bu, tahmin modellerinin kendilerine verilen veriler üzerinde çok yakından eğitildiği ve dolayısıyla yeni verilerle sunulduğunda zayıf tahminlere yol açtığı zamandır. Bu, belirli bir sorun olabilir AI sohbet botları kötü amaçlı kod konusunda eğitilmiş kişiler, verilere daha aşina hale geldikçe, yanıtlarına kötü amaçlı kod ekleme konusunda potansiyel olarak daha etkili hale gelebilirler.
Öğretmek için kullanılan eğitim verilerini garanti altına almak için risklerin farkında olmak ve önlem almak esastır. ChatGPT bu potansiyel zayıflıkları önlemek için güvenli ve güvenilirdir. Eğitim için kullanılan ilk veriler de ayrı ve benzersiz tutulmalıdır; "kötü niyetli eklemelerin" tanıtımı, diğer kaynaklarla çelişmemeli veya bunlarla örtüşmemelidir. Verileri doğrulamak için birden fazla doğrulanmış etki alanını "yakalamanın" mümkün olup olmadığı incelenmeli ve diğer alanlarla karşılaştırılmalıdır.
Chatbot teknolojisi, insanların insan tartışmalarını yürütme şeklini değiştirmeyi vaat ediyor. Ancak tam potansiyelini gerçekleştirmeden önce iyileştirilmesi ve korunması gerekir. Sohbet robotları için veri kümelerinin iyi kontrol edilmesi ve kötü niyetli aktörleri savuşturmaya hazır olması gerekir. Bunu yaparak, teknolojinin potansiyelini tam olarak kullandığımızdan emin olabilir ve teknolojiyi zorlamaya devam edebiliriz. sınırları yapay zekanın.
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
