LLM'ler Geliştiren Tüm Büyük Teknoloji Şirketleri Model Güvenliğine Öncelik Vermelidir
Kısaca
Araştırmacılar birleştiren bir sistem yarattı büyük dil modelleri bilimsel deneylerin otonom tasarımı, planlanması ve yürütülmesi için araştırma yeteneklerini üç farklı durumda gösteriyor.
Model, reaksiyon için ne kadar madde gerektiğini anlamak için kimyasal denklemler için kod yazdı.
The göre "Büyük dil modellerinin ortaya çıkan özerk bilimsel araştırma yetenekleri", bilimsel deneylerin özerk tasarımı, planlanması ve yürütülmesi için birkaç büyük dil modelini birleştiren bir sistem oluşturma fikrini inceler. Ajanın araştırma yeteneklerini, en zoru katalizlenmiş reaksiyonların başarılı bir şekilde uygulanması olan üç farklı durumda gösterir.
Bu makalenin ana tezi şudur:
- Araştırmacılar, Python'da kod yazmanıza ve ardından yürütme komutlarını (karıştırma maddeleriyle) deneyler yapmak için özel bir aparata aktarmanıza izin veren bir kitaplık buldular;
- Kullanılan araştırmacılar GPT-4 İnternette ve kütüphane belgelerinde arama yapmanın yanı sıra Python kodunu çalıştırma yeteneği (deneyleri yürütmek için);
- Üst düzey bir zamanlayıcı vardır (ayrıca GPT-4), orijinal talebi analiz eder ve bir "araştırma planı" hazırlar.
- GPT-4 kimyasal bir tahta üzerinde belirli şekiller oluşturmak (hücreleri maddelerle doğru bir şekilde doldurmak) gibi kimyasal olmayan basit görevleri yerine getirmekte iyi bir iş çıkarır.
- Daha karmaşık ve uygulamalı bir reaksiyon yürütme görevini denediler; model iyi başa çıktı ve mantıklı davrandı.
- Daha sonra modele deneyler yapması için çeşitli görevler verdiler; ancak modelin verdiği şey için gerçek bir deney yapılmadı.
- Ayrıca model, reaksiyon için ne kadar maddeye ihtiyaç duyulduğunu değerlendirmek için kimyasal denklemlerin kodunu birkaç kez yazdı.
- Ayrıca kansere çare bulması istendi. Model, analize mantıksal ve metodik olarak yaklaştı. İlk olarak, antikanser ilaçları keşfetme konusundaki mevcut eğilimleri çevrimiçi olarak "aradı". Daha sonra model, ilacı modellemek için kullanılacak bir molekülü seçti ve sentezi için kodu yazdı. İnsanlar kodu çalıştırmadı (ve yeterliliğine dair bir analiz görmedim).
- Ayrıca uyuşturucu ve zehir gibi birçok tehlikeli maddeyi sentezlemesi istendi.
İşte en ilginç kısım. Bazı talepler için model çalışmayı hemen reddetti (örneğin, son derece tehlikeli bir zehirli gaz olan eroin veya hardal gazı). Diğerleri için, Google'da maddelerin nasıl yapıldığını aramaya başladı, ancak bunların yasadışı amaçlar için kullanılabileceğini anladı ve çalışmaya devam etmeyi reddetti. Diğerleri için, madde sentezi için bir araştırma planı ve kodu yazdı.
Bu “reddetme”nin nedeni muhtemelen GPT-4 Talebi analiz etmek için tasarlanmıştır ve kendisinden yasa dışı veya tehlikeli bir şey yapması istendiğinde, talebi yerine getirmeyi derhal reddeder. Hizalama prosedürünün sonucunun fark edilebilir olması gerçekten harika.
Ve makalenin sonunda, yazarlar tüm büyükleri teşvik ediyor LLM geliştiren şirketler modellerin güvenliğine öncelik vermek.
- Kaliforniya Üniversitesi'ndeki araştırmacılar, Machiavelli kriteri uzun vadeli dil etkileşimlerinden oluşan geniş bir ortamda yapay zeka modellerinin yeterliliğini ve zararlılığını ölçmek. Bu test, aracılara gerçekçi hedefler vermek ve düşük düzeyli etkileşimleri soyutlamak için üst düzey çözümler kullanır.
- damgasını vurduğu entelektüel devrim ChatGPT sinerjik olarak yüce devrimlerin bir üçlüsüdür: teknolojik, tekno-insani ve sosyo-politik. Neler olup bittiğine kapsamlı bir şekilde bakmak için dinlemeniz önerilir. üç yeni bakış açısı felsefe, tarih ve yenilik alanlarından entelektüellerden.
- Daha gelişmiş yapay zeka sistemleri geliştirmeyi durdurmaya yönelik dilekçenin hikayesi GPT-4 toplumu kutuplaştırdı. Bir makale süreçlerin beklenmedik bir yöne gittiğine dair örnekler sağlar. Yapay zekanın kötü niyetli kullanımı ve kötüye kullanımı riskleri dikkate alınmaz, bu da yapay zekanın kendisinden değil insanlardan korkmamız gerektiği argümanına yol açar.
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
