Podjetja z umetno inteligenco bi morala porabiti 30 % svojih sredstev za raziskave in razvoj na področju varnosti in etike
Škoda zaradi predsodkov in napačnih informacij je že očitna. Obstajajo znaki, da se lahko pojavijo tudi druge nevarnosti. Ključnega pomena je ublažiti trenutna tveganja in predvideti nastajajoča.
Ne bi vedeli, kako zagotoviti, da so napredni avtonomni sistemi ali AGI varni ali kako jih preizkusiti, če bi bili trenutno na voljo. Poleg tega vlade nimajo institucij, potrebnih za zaustavitev zlorab in uvedbo varnih praks, tudi če bi jih. Avtorji podpirajo razvoj učinkovitega vladnega nadzora in preusmeritev prizadevanj za raziskave in razvoj k varnosti in etiki.
Nadzor in poštenost (bolj sofisticirani sistemi lahko prelisičijo testiranje z lažnimi, a prepričljivimi odgovori), robustnost (v novih razmerah s premikom distribucije ali kontradiktornimi vložki), interpretabilnost (razumevanje dela), ocena tveganja (pojavijo se nove sposobnosti, ki jih je težko predvideti), in pojav novih izzivov (načini odpovedi brez primere) so nekateri izzivi raziskav in razvoja, ki jih ne bo mogoče rešiti razvoj zmogljivejših sistemov AI.
Avtorji predlagajo, da morata varnost in etika prejeti vsaj eno tretjino sredstev za raziskave in razvoj umetne inteligence.
Standarde je treba uveljaviti v zvezi z nacionalnimi institucijami in globalnim upravljanjem. Teh primanjkuje umetni inteligenci, pač pa farmacevtski, finančni in jedrski industriji. Zdaj obstajajo spodbude za države in podjetja, da varčujejo na račun varnosti. Podjetja lahko izkoristijo napredek umetne inteligence, medtem ko prepustijo družbi, da nosi posledice, podobno kot industrije odlagajo odpadke v reke.
Močno tehnično znanje in izkušnje ter sposobnost hitrega premikanja sta zahteva za nacionalne institucije. V svetovnem prostoru so partnerstva in dogovori bistveni. Izogniti se je treba birokratskim oviram za majhne in predvidljive modele, da bi zaščitili akademske raziskave in aplikacije z nizkim tveganjem. Mejni modeli – izbrana skupina najzmogljivejših sistemov, usposobljenih na superračunalnikih v vrednosti milijarde dolarjev – bi morali dobiti največjo pozornost.
Vlade morajo biti bolj odprte glede razvoja dogodkov, da bodo predpisi učinkoviti. Regulatorji bi morali zahtevati registracijo modelov, zaščititi notranje informatorje, zahtevati poročanje o incidentih in paziti na razvoj modelov in uporabo superračunalnikov.
Regulatorji morajo imeti tudi dostop do teh sistemov pred njihovo sprostitvijo v proizvodnjo, da lahko ocenijo potencialno škodljivo lastnosti, kot so nastajanje patogenov, samopodvajanje in prodor v sistem.
Sistemi, ki bi lahko bili nevarni, potrebujejo različne metode nadzora. Model Frontier ustvarjalci morajo biti tudi pravno odgovorni za kakršno koli škodo na svojih sistemih, ki bi se ji lahko izognili. To bi moralo spodbuditi naložbe v varnost. Več funkcij, kot je vladno licenciranje, zmožnost zaustavitve razvoja kot odgovor na potencialno nevarno zmogljivosti, nadzor dostopa in ukrepi za varnost informacij, neprepustni za hekerje na državni ravni, so morda potrebni za izjemno zmogljive sisteme.
Čeprav ni pravil, bi morala podjetja hitro razjasniti svoje če-potem odgovornosti z orisom natančnih korakov, ki jih bodo sprejela, če določene zmogljivosti modela prestopijo rdečo črto. Te ukrepe je treba temeljito pojasniti in neodvisno potrditi. Tako je. Ločeno Dodatek k pravilniku sestavi povzetek tez.
- Oktobra Forum Frontier Model je uvedel varnostni sklad za AI v višini več kot 10 milijonov USD, katerega cilj je spodbuditi napredek v raziskavah varnosti umetne inteligence. Sklad, ki je rezultat sodelovanja med Frontier Model Forumom in človekoljubnimi partnerji, bo zagotavljal podporo neodvisnim raziskovalcem po vsem svetu, ki so povezani z akademskimi institucijami, raziskovalnimi organizacijami in startupi. K pobudi so glavni prispevali Anthropic, Google, Microsoft, OpenAI, skupaj s človekoljubnimi organizacijami, kot so fundacija Patrick J. McGovern, fundacija David in Lucile Packard, Eric Schmidt in Jaan Tallinn. Varnostni sklad za umetno inteligenco se osredotoča predvsem na spodbujanje razvoja novih tehnik vrednotenja in pristopov rdečega združevanja za modele umetne inteligence, katerih namen je odkriti potencialne nevarnosti. Forum namerava v prihodnjih mesecih ustanoviti svetovalni odbor, kmalu zatem pa bo objavil svoj prvi razpis za zbiranje predlogov in dodelitev nepovratnih sredstev.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
