Araştırmacılar, Yapay Zeka Tarafından Oluşturulan Metni Algılamanın Yeni Bir Yolunu Keşfediyor
Kısaca
Araştırmacılar, metin belirteçlerinin gömülmelerini çıkaran ve bunları çok boyutlu bir alanda noktalar olarak görselleştiren RoBERTa modelini kullanarak yapay zeka tarafından üretilen metni tespit etmek için bir yöntem geliştirdiler.
tarafından oluşturulan metni keşfettiler. GPT-3.5 modelleri gibi ChatGPT ve Davinci, insan yazısı metinden önemli ölçüde daha düşük ortalama boyutlara sahipti.
Araştırmacılar, yaygın kaçınma tekniklerine dirençli, sağlam, boyut tabanlı bir detektör yarattılar.
Dedektörün doğruluğu, alanlar ve modeller değiştirildiğinde, sabit bir eşik ve DIPPER tekniği ile test edildiğinde %40 doğruluk düşüşü ile tutarlı bir şekilde yüksek kaldı.
Araştırmacılar yapay zeka tarafından üretilen metin alanını araştırdılar ve yapay zeka tarafından oluşturulan içeriği tespit etmek için bir yöntem geliştirdi gibi modeller GPT ve Llama. Kesirli boyut kavramını kullanarak oluşturulan metnin doğası hakkında ilginç içgörüler keşfettiler. Bulguları, insanlar tarafından yazılan metin ile AI modelleri tarafından oluşturulan metin arasındaki doğal farklılıklara ışık tutuyor.
Doğal dil metninden türetilen bir nokta bulutunun boyutu, kaynağı hakkında yararlı bilgiler sağlayabilir mi? Araştırmacılar, bunu araştırmak için metin belirteçlerinin gömülmelerini çıkarmak ve bunları çok boyutlu bir alanda noktalar olarak görselleştirmek için RoBERTa modelini kullandılar. Önceki çalışmalardan ilham alan karmaşık teknikler kullanarak bu nokta bulutlarının kesirli boyutunu tahmin ettiler.
Araştırmacılar, tarafından oluşturulan metni keşfettiklerinde hayrete düştüler. GPT-3.5 modelleri gibi ChatGPT ve Davinci'nin ortalama boyutları, insan tarafından yazılan metinlerden önemli ölçüde daha düşüktü. Bu ilgi çekici model, alanlar arasında ve hatta aşağıdaki gibi alternatif modeller kullanıldığında bile devam etti: GPT-2 veya OPT kullanıldı. Dikkat çekici bir şekilde, tespit edilmekten kaçınmak için özel olarak tasarlanmış DIPPER açıklaması kullanıldığında bile boyut yalnızca yaklaşık %3 oranında değişti. Bu keşifler, araştırmacıların yaygın kaçınma tekniklerine dayanıklı, sağlam, boyut tabanlı bir dedektör oluşturmasını sağladı.
Özellikle, alanlar ve modeller değiştirildiğinde detektörün doğruluğu sürekli olarak yüksek kalmıştır. Sabit bir eşikle algılama doğruluğu (gerçek pozitif oran) %75'in üzerinde kalırken yanlış pozitif oran (FPR) %1'in altında kaldı. DIPPER tekniği ile algılama sistemine meydan okunduğunda bile, doğruluk %40'a düşerek, tarafından geliştirilenler de dahil olmak üzere mevcut dedektörlerden daha iyi performans gösterdi. OpenAI.
Ayrıca araştırmacılar, çok dilli RoBERTa gibi çok dilli modellerin uygulanmasını da araştırdılar. Bu onların İngilizce dışındaki diller için benzer dedektörler geliştirmelerine olanak sağladı. Gömmelerin ortalama iç boyutu farklı diller arasında değişiklik gösterse de, oluşturulan metinlerin boyutu, her bir dil için insan tarafından yazılan metinlerden sürekli olarak daha düşük kaldı.
Bununla birlikte, dedektör, özellikle yüksek üretim sıcaklıkları ve ilkel durumlarla karşı karşıya kaldığında bazı zayıflıklar sergiledi. jeneratör modelleri. Daha yüksek sıcaklıklarda, oluşturulan metinlerin iç boyutu, insan tarafından yazılan metni aşabilir ve bu da detektörü etkisiz hale getirebilir. Neyse ki, bu tür jeneratör modelleri, alternatif yöntemler kullanılarak zaten tespit edilebilir. Ek olarak, araştırmacılar, RoBERTa'nın ötesindeki metin gömmelerini çıkarmak için alternatif modelleri keşfetmeye yer olduğunu kabul ettiler.
İnsan ve Yapay Zeka Yazılı Metin Arasındaki Fark
Ocak ayında, OpenAI açıkladı insanlar tarafından yazılan metin ile yapay zeka sistemleri tarafından oluşturulan metin arasında ayrım yapmak için tasarlanmış yeni bir sınıflandırıcının lansmanı. Bu sınıflandırıcı, yanlış bilgilendirme kampanyaları ve akademik sahtekârlık gibi yapay zeka tarafından üretilen içeriğin artan yaygınlığının getirdiği zorlukları ele almayı amaçlamaktadır.
Yapay zeka tarafından yazılan tüm metinleri tespit etmek karmaşık bir görev olsa da, bu sınıflandırıcı, yapay zekayla ilgili yanlış iddiaları azaltmak için değerli bir araç görevi görüyor. Yapay zeka tarafından oluşturulan metinde insan yazarlığı. Geliştiriciler, bir dizi İngilizce metin üzerinde yapılan titiz değerlendirmeler sonucunda, bu sınıflandırıcının yapay zeka tarafından yazılmış metnin %26'sını "muhtemelen yapay zeka tarafından yazılmış" (gerçek pozitifler) olarak doğru bir şekilde tanımladığını, bazen de insan tarafından yazılan metni yapay zeka tarafından oluşturulmuş olarak yanlış etiketlediğini (yanlış) buldular. pozitifler) %9 oranında azaldı. Giriş metninin uzunluğu arttıkça sınıflandırıcının güvenilirliğinin de arttığını unutmamak önemlidir. Önceki sınıflandırıcılarla karşılaştırıldığında bu yeni sürüm, daha yeni yapay zeka sistemleri tarafından oluşturulan metinlerde önemli ölçüde daha yüksek güvenilirlik sergiliyor.
Geliştiriciler, bu sınıflandırıcı gibi kusurlu araçların kullanışlılığı hakkında değerli geri bildirimler toplamak için bunu yaptı. halka açık. Devam eden çalışma sınıflandırıcımızı ücretsiz deneyebilirsiniz. Bununla birlikte, sınırlamalarını anlamak önemlidir. Sınıflandırıcı, bir metnin kaynağını belirlemek için birincil karar verme kaynağından ziyade tamamlayıcı bir araç olarak kullanılmalıdır. Kısa metinlerde yüksek düzeyde güvenilmezlik sergiler ve insanlar tarafından yazılan metnin yanlışlıkla yapay zeka tarafından oluşturulmuş olarak etiketlenebileceği durumlar vardır.
İlk 1,000 asal sayının listesi gibi, oldukça tahmin edilebilir metinlerin tutarlı bir şekilde tanımlanamayacağını belirtmekte fayda var. Yapay zeka tarafından oluşturulan metni düzenlemek, sınıflandırıcıdan kurtulmaya da yardımcı olabilir ve başarılı saldırılara dayalı olarak sınıflandırıcıyı güncelleyip yeniden eğitebilsek de, algılamanın uzun vadeli avantajı belirsizliğini koruyor. Ayrıca, sınıflandırıcılara dayalı nöral ağlar genellikle eğitim verilerinin dışında yetersiz kalibre edilirler, bu da eğitim setinden önemli ölçüde farklı olan girdiler için yanlış tahminlerde aşırı güvene yol açar.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
