Süni intellekt şirkətləri maliyyələrinin 30%-ni təhlükəsizlik və etika sahəsində elmi-tədqiqat işlərinə xərcləməlidirlər
Qərəz və yalan məlumatın vurduğu ziyan artıq göz qabağındadır. Digər təhlükələrin də üzə çıxa biləcəyinə dair əlamətlər var. Mövcud riskləri azaltmaq və yaranan riskləri qabaqcadan görmək çox vacibdir.
Qabaqcıl avtonom sistemlərin və ya AGI-nin təhlükəsiz olmasını necə təmin edəcəyimizi və ya hazırda mövcud olsaydı, onları necə sınaqdan keçirəcəyimizi bilmirik. Bundan əlavə, hökumətlərdə sui-istifadəni dayandırmaq və təhlükəsiz təcrübələri tətbiq etmək üçün lazım olan institutlar yoxdur, hətta əgər belə olsa. Müəlliflər səmərəli hökumət nəzarətinin inkişaf etdirilməsini və R&D səylərinin təhlükəsizlik və etikaya yönləndirilməsini dəstəkləyirlər.
Nəzarət və dürüstlük (daha mürəkkəb sistemlər yalan, lakin inandırıcı cavablar verməklə testdən üstün ola bilər), möhkəmlik (paylanma dəyişikliyi və ya rəqib girişləri olan yeni şəraitdə), şərh edilə bilənlik (işi başa düşmək), risk qiymətləndirməsi (proqnozlaşdırmaq çətin olan yeni qabiliyyətlər ortaya çıxır), və yeni problemlərin ortaya çıxması (görünməmiş uğursuzluq rejimləri) R&D ilə həll edilməyəcək bəzi problemlərdir. daha güclü AI sistemlərinin inkişafı.
Müəlliflər təhlükəsizlik və etikanın AI R&D üçün maliyyənin ən azı üçdə birini almasını təklif edirlər.
Standartlar həm milli institutlar, həm də qlobal idarəetmə ilə bağlı tətbiq edilməlidir. Süni intellektdə bunlar yoxdur, lakin əczaçılıq, maliyyə və nüvə sənayesi yoxdur. İndi dövlətlər və şirkətlər üçün təhlükəsizlik hesabına qənaət etmək üçün stimullar var. Sənayelərin tullantıları çaylara atması kimi, şirkətlər cəmiyyəti nəticələrini daşımaq üçün tərk edərkən süni intellekt sahəsindəki irəliləyişlərdən faydalana bilərlər.
Güclü texniki bilik və sürətli hərəkət etmək bacarığı milli qurumlar üçün tələblərdir. Qlobal arenada tərəfdaşlıq və razılaşmalar vacibdir. Akademik tədqiqatları və aşağı riskli tətbiqləri qorumaq üçün kiçik və proqnozlaşdırıla bilən modellərə bürokratik maneələrdən qaçınmaq lazımdır. Sərhəd modelləri - milyard dollarlıq superkompüterlərdə təlim keçmiş ən güclü sistemlərin seçilmiş qrupu - ən çox diqqət mərkəzində olmalıdır.
Tənzimləmələrin effektiv olması üçün hökumətlər inkişaflar haqqında daha açıq olmalıdırlar. Tənzimləyici orqanlar model qeydiyyatına mandat verməli, daxili məlumat verənləri qorumalı, insidentlər barədə hesabat verməli və modellərin hazırlanmasına və superkompüterlərin istifadəsinə nəzarət etməlidir.
Qiymətləndirmək üçün tənzimləyicilər də istehsala buraxılmazdan əvvəl bu sistemlərə çıxış əldə etməlidirlər potensial zərərlidir patogenin yaranması, özünü təkrarlama və sistemə nüfuz etmə kimi xüsusiyyətlər.
Təhlükəli olma potensialı olan sistemlər müxtəlif nəzarət üsullarına ehtiyac duyur. Sərhəd modeli yaradıcılar həmçinin öz sistemlərinə qarşısı alına biləcək hər hansı zərərə görə qanuni olaraq məsuliyyət daşımalıdırlar. Bu təhlükəsizlik sərmayəsini təşviq etməlidir. Hökumətin lisenziyası kimi daha çox xüsusiyyət, cavab olaraq inkişafı dayandırmaq qabiliyyəti potensial təhlükəli dövlət səviyyəli hakerlərə məruz qalmayan imkanlar, giriş nəzarətləri və informasiya təhlükəsizliyi tədbirləri son dərəcə bacarıqlı sistemlər üçün tələb oluna bilər.
Heç bir qayda olmasa da, bizneslər müəyyən model imkanları qırmızı xətti keçərsə, atacaqları dəqiq addımları qeyd etməklə, əgər-onda məsuliyyətlərini tez bir zamanda aydınlaşdırmalıdırlar. Bu tədbirlər hərtərəfli izah edilməli və müstəqil şəkildə təsdiqlənməlidir. Beləliklə, belədir. Ayrı bir Siyasət əlavəsi tezislərin xülasəsini tərtib edir.
- Oktyabr ayında Sərhəd Modeli Forumu 10 milyon dollardan çox süni intellektlə təhlükəsizlik fondu təqdim etdi, AI təhlükəsizlik tədqiqatlarında irəliləyişləri təmin etmək məqsədi daşıyır. Sərhəd Modeli Forumu və xeyriyyə tərəfdaşları arasında əməkdaşlıq olan fond dünya üzrə akademik institutlar, tədqiqat təşkilatları və startaplarla əlaqəli müstəqil tədqiqatçılara dəstək verəcək. Təşəbbüsün əsas töhfəçiləri Anthropic, Google, Microsoft, OpenAI, Patrick J. McGovern Foundation, David and Lucile Packard Foundation, Eric Schmidt və Jaan Tallinn kimi xeyriyyə təşkilatları ilə birlikdə. Süni İntellekt Təhlükəsizliyi Fondu ilk növbədə potensial təhlükələri üzə çıxarmaq məqsədi ilə yeni qiymətləndirmə üsullarının və AI modelləri üçün qırmızı komanda yanaşmalarının inkişafının gücləndirilməsinə diqqət yetirir. Forum yaxın aylarda Məsləhət Şurasının yaradılmasını planlaşdırır və qısa müddət sonra ilk təkliflər və qrant mükafatları çağırışını elan edəcək.
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
