AI kompaniyalari o'z mablag'larining 30 foizini xavfsizlik va axloq sohasidagi ilmiy-tadqiqot ishlariga sarflashlari kerak
Noto'g'ri fikr va yolg'on ma'lumotlarning zarari allaqachon ko'rinib turibdi. Boshqa xavflar ham yuzaga kelishi mumkinligiga ishoralar mavjud. Mavjud xavflarni kamaytirish va paydo bo'lishini oldindan bilish juda muhimdir.
Biz ilg'or avtonom tizimlar yoki AGI xavfsizligini qanday ta'minlashni yoki hozir mavjud bo'lsa, ularni qanday sinab ko'rishni bilmaymiz. Bundan tashqari, hukumatlarda suiiste'mollikni to'xtatish va xavfsiz amaliyotlarni joriy etish uchun zarur bo'lgan institutlar yo'q, hatto ular bo'lsa ham. Mualliflar samarali davlat nazoratini rivojlantirish va ilmiy-tadqiqot ishlarini xavfsizlik va axloq qoidalariga yo'naltirishni qo'llab-quvvatlaydi.
Nazorat va halollik (yaxshiroq tizimlar noto'g'ri, ammo ishonchli javoblar berish orqali testdan ustun turishi mumkin), mustahkamlik (tarqatish o'zgarishi yoki qarama-qarshilik kiritishlari bilan yangi sharoitlarda), talqin qilish (tushunish ish), xavfni baholash (yangi qobiliyatlar paydo bo'ladi, ularni oldindan aytish qiyin), va yangi muammolarning paydo bo'lishi (misli ko'rilmagan muvaffaqiyatsizlik usullari) AR-GE muammolaridan ba'zilari bo'lib, ularni hal qilib bo'lmaydi. yanada kuchli AI tizimlarini ishlab chiqish.
Mualliflar xavfsizlik va etika AI ilmiy-tadqiqot ishlarini moliyalashtirishning kamida uchdan bir qismini olishi kerakligini taklif qilmoqdalar.
Standartlar ham milliy institutlarga, ham global boshqaruvga nisbatan qo'llanilishi kerak. AIda bular etishmaydi, ammo farmatsevtika, moliya va yadro sanoatida yo'q. Endi davlatlar va korxonalar uchun xavfsizlik hisobiga iqtisod qilish uchun imtiyozlar mavjud. Kompaniyalar AI yutuqlaridan foyda olishlari mumkin, shu bilan birga, sanoat chiqindilarni daryolarga tashlab yuborishi kabi, jamiyatni oqibatlarini ko'tarish uchun tark etadi.
Kuchli texnik nou-xau va tez harakat qilish qobiliyati milliy muassasalar uchun talablardir. Global maydonda hamkorlik va kelishuvlar muhim ahamiyatga ega. Akademik tadqiqotlar va past xavfli ilovalarni himoya qilish uchun kichik va bashorat qilinadigan modellarga byurokratik to'siqlardan qochish kerak. Chegara modellari - milliard dollarlik superkompyuterlarda o'qitilgan eng kuchli tizimlarning tanlangan guruhi - eng ko'p e'tiborni jalb qilishi kerak.
Hukumatlar tartibga solish samarali bo'lishi uchun o'zgarishlar haqida ochiqroq bo'lishi kerak. Regulyatorlar modellarni ro'yxatdan o'tkazish, ichki ma'lumot beruvchilarni himoya qilish, hodisalar haqida hisobot berishni buyurishi va modellarning rivojlanishi va superkompyuterlardan foydalanishni kuzatishi kerak.
Regulyatorlar, shuningdek, baholash uchun ishlab chiqarishga chiqarilgunga qadar ushbu tizimlarga kirish huquqiga ega bo'lishi kerak potentsial zararli patogen hosil qilish, o'z-o'zini ko'paytirish va tizimga kirish kabi xususiyatlar.
Xavfli bo'lishi mumkin bo'lgan tizimlar turli xil nazorat usullariga muhtoj. Chegara modeli ijodkorlar, shuningdek, ularning oldini olish mumkin bo'lgan tizimlari uchun har qanday zarar uchun qonuniy javobgar bo'lishi kerak. Bu xavfsizlik investitsiyalarini rag'batlantirishi kerak. Hukumat litsenziyalash kabi ko'proq xususiyatlar, bunga javoban rivojlanishni to'xtatish qobiliyati potentsial xavfli Imkoniyatlar, kirishni boshqarish vositalari va davlat darajasidagi xakerlar tomonidan o'tkazilmaydigan axborot xavfsizligi choralari o'ta qobiliyatli tizimlar uchun talab qilinishi mumkin.
Hech qanday qoidalar yo'q bo'lsa-da, korxonalar, agar ba'zi model imkoniyatlari qizil chiziqni kesib o'tgan bo'lsa, ular bajaradigan aniq qadamlarni ko'rsatib, o'zlarining majburiyatlarini tezda aniqlashtirishlari kerak. Ushbu chora-tadbirlarni har tomonlama tushuntirish va mustaqil ravishda tasdiqlash kerak. Shunday qilib, shunday. Alohida Siyosat qo'shimchasi tezislarning qisqacha mazmunini tuzadi.
- Oktyabr oyida Frontier Model Forumi 10 million dollardan ortiq AI xavfsizligi fondini joriy qildi, AI xavfsizligini tadqiq etishda yutuqlarni qo'llab-quvvatlashga qaratilgan. Fond, Frontier Model Forum va xayriya hamkorlari o'rtasidagi hamkorlik bo'lib, butun dunyo bo'ylab akademik institutlar, tadqiqot tashkilotlari va startaplar bilan bog'liq mustaqil tadqiqotchilarga yordam beradi. Tashabbusning asosiy ishtirokchilari: Anthropic, Google, Microsoft, OpenAI, Patrik J. MakGovern jamg'armasi, Devid va Lucile Packard jamg'armasi, Erik Shmidt va Yaan Tallin kabi xayriya tashkilotlari bilan birga. AI Xavfsizlik jamg'armasi birinchi navbatda potentsial xavflarni aniqlashga qaratilgan AI modellari uchun yangi baholash usullari va qizil jamoaviy yondashuvlarni ishlab chiqishni kuchaytirishga qaratilgan. Forum kelgusi oylarda Maslahat kengashini tashkil etishni rejalashtirmoqda va tez orada takliflar va grant mukofotlari uchun birinchi chaqiruvini e'lon qiladi.
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
