Yapay Zeka Şirketleri Fonlarının %30'unu Güvenlik ve Etik Konularındaki Ar-Ge'ye Harcamalı
Önyargının ve yanlış bilginin verdiği zarar zaten ortada. Başka tehlikelerin de ortaya çıkabileceğine dair göstergeler var. Mevcut riskleri azaltmak ve ortaya çıkacak riskleri öngörmek kritik önem taşıyor.
Gelişmiş otonom sistemlerin veya YGZ'nin güvenli olduğundan nasıl emin olacağımızı veya şu anda mevcut olsalardı bunları nasıl test edeceğimizi bilemezdik. Dahası, hükümetler suiistimali durdurmak ve güvenli uygulamaları hayata geçirmek için gerekli kurumlara sahip olmasalar bile yoksundur. Yazarlar, etkili hükümet gözetiminin geliştirilmesini ve Ar-Ge çabalarının güvenlik ve etiğe yönlendirilmesini desteklemektedir.
Kontrol ve dürüstlük (daha karmaşık sistemler yanlış ama ikna edici cevaplar üreterek testleri geride bırakabilir), sağlamlık (dağıtım değişikliği veya karşıt girdilerin olduğu yeni koşullarda), yorumlanabilirlik (işin anlaşılması), risk değerlendirmesi (tahmin edilmesi zor olan yeni yetenekler ortaya çıkar), ve yeni zorlukların ortaya çıkması (benzeri görülmemiş başarısızlık modları), Ar-Ge'nin çözemeyeceği zorluklardan bazılarıdır. daha güçlü yapay zeka sistemleri geliştirmek.
Yazarlar, yapay zeka Ar-Ge finansmanının en az üçte birinin güvenlik ve etiğe ayrılması gerektiğini öne sürüyor.
Standartların hem ulusal kurumlar hem de küresel yönetişim açısından uygulanması gerekmektedir. Yapay zeka bunlardan yoksundur ancak ilaç, finans ve nükleer endüstrilerde bunlar vardır. Artık ulusların ve işletmelerin güvenlik pahasına tasarruf yapmalarına yönelik teşvikler var. Şirketler, tıpkı endüstrilerin atıklarını nehirlere atması gibi, toplumun sonuçlarına katlanmasına izin verirken yapay zeka gelişmelerinden kâr elde edebilir.
Güçlü teknik bilgi birikimi ve hızlı hareket etme yeteneği, ulusal kurumların gereksinimleridir. Küresel arenada ortaklıklar ve anlaşmalar esastır. Akademik araştırmaları ve düşük riskli uygulamaları güvence altına almak için küçük ve öngörülebilir modellerin önündeki bürokratik engellerden kaçınılmalıdır. Milyar dolarlık süper bilgisayarlarla eğitilmiş en güçlü sistemlerden oluşan seçilmiş bir grup olan Frontier modelleri en fazla odaklanılmalıdır.
Düzenlemelerin etkili olabilmesi için hükümetlerin gelişmelere daha açık olması gerekiyor. Düzenleyiciler model kaydını zorunlu kılmalı, şirket içi muhbirleri korumalı, olay raporlamayı zorunlu kılmalı ve modellerin geliştirilmesine ve süper bilgisayarların kullanımına dikkat etmelidir.
Düzenleyicilerin ayrıca, değerlendirme amacıyla bu sistemlere üretime sunulmadan önce erişebilmeleri gerekir. potansiyel olarak zararlı Patojen üretimi, kendi kendini kopyalama ve sisteme nüfuz etme gibi özellikler.
Tehlikeli olma potansiyeline sahip sistemler çeşitli kontrol yöntemlerine ihtiyaç duyar. Sınır modeli İçerik oluşturucular ayrıca sistemlerinde meydana gelebilecek önlenebilecek herhangi bir zarardan yasal olarak sorumlu tutulmalıdır. Bu güvenlik yatırımlarını teşvik etmelidir. Devlet lisanslaması, gelişmelere yanıt olarak geliştirmeyi durdurma kapasitesi gibi daha fazla özellik Potansiyel olarak tehlikeli Son derece yetenekli sistemler için, devlet düzeyindeki bilgisayar korsanlarına karşı dayanıklı yetenekler, erişim kontrolleri ve bilgi güvenliği önlemleri gerekli olabilir.
Her ne kadar herhangi bir kural olmasa da işletmeler, belirli model yeteneklerinin kırmızı çizgiyi aşması durumunda atacakları kesin adımların ana hatlarını çizerek eğer-o zaman sorumluluklarını hızlı bir şekilde netleştirmelidir. Bu önlemlerin kapsamlı bir şekilde açıklanması ve bağımsız olarak onaylanması gerekir. Yani öyle. Ayrı bir Politika eki tezlerin özetini derler.
- Ekim ayında Frontier Model Forumu 10 milyon doların üzerinde bir Yapay Zeka Güvenlik Fonu başlattıYapay zeka güvenlik araştırmalarında ilerlemeler sağlamayı amaçlıyor. Frontier Model Forum ve hayırsever ortaklar arasındaki bir işbirliği olan fon, dünya çapında akademik kurumlara, araştırma kuruluşlarına ve yeni kurulan girişimlere bağlı bağımsız araştırmacılara destek sağlayacak. Girişime başlıca katkıda bulunanlar Anthropic, Google, Microsoft, OpenAIPatrick J. McGovern Vakfı, David ve Lucile Packard Vakfı, Eric Schmidt ve Jaan Tallinn gibi hayırsever kuruluşların yanı sıra. Yapay Zeka Güvenliği Fonu öncelikle potansiyel tehlikeleri ortaya çıkarmayı amaçlayan yapay zeka modelleri için yeni değerlendirme tekniklerinin ve kırmızı ekip oluşturma yaklaşımlarının geliştirilmesini desteklemeye odaklanıyor. Forum, önümüzdeki aylarda bir Danışma Kurulu oluşturmayı planlıyor ve kısa bir süre sonra ilk teklif çağrısını yayınlayacak ve ödülleri verecek.
| İlgili bağlantılar: Birleşik Krallık Rekabet ve Piyasa Otoritesi, Hükümet Düzenleme Çabaları Arttıkça Yapay Zeka Modellerinin İncelemesini Başlattı |
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
