Stručnjaci za umjetnu inteligenciju zagovaraju potrebu za većim ulaganjima vlada i tvrtki u sigurnost umjetne inteligencije
Ukratko
Grupa istraživača umjetne inteligencije objavila je zajedničko pismo u kojem poziva tvrtke za umjetnu inteligenciju i vlade da dodijele više sredstava za davanje prioriteta sigurnoj i etičkoj upotrebi sustava umjetne inteligencije.
Stručnjaci izražavaju zabrinutost zbog brzog napretka AI tehnologije i njezinog potencijala da pogorša društvene nepravde, destabilizira društvo i predstavlja globalnu sigurnosnu prijetnju.
Vodeći istraživači umjetne inteligencije, uključujući dobitnike Turingove nagrade i dobitnike Nobelove nagrade, pozivaju tvrtke za umjetnu inteligenciju i vlade da dodijele najmanje jednu trećinu svog financiranja istraživanja i razvoja umjetne inteligencije kako bi osigurali sigurnu i etičku upotrebu sustava umjetne inteligencije.
U zajedničko pismo objavljen neposredno prije međunarodnog summita o sigurnosti umjetne inteligencije u Londonu, stručnjaci su predstavili mjere za rješavanje rizika povezanih s umjetnom inteligencijom. Oni također zagovaraju da vlade zakonski pozovu tvrtke na odgovornost za predvidivu štetu koju prouzroče njihovi napredni AI sustavi.
"Sustavi umjetne inteligencije mogli bi brzo nadmašiti ljude u sve većem broju zadataka... Prijete pojačati društvenu nepravdu, narušiti društvenu stabilnost i oslabiti naše zajedničko razumijevanje stvarnosti koja je temelj društva", istaknute osobe u području umjetne inteligencije, poput Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song i Yuval Noah Harari, napisali su u pismu.
“Također bi mogli omogućiti kriminalne ili terorističke aktivnosti velikih razmjera. Osobito u rukama nekolicine moćnih aktera, umjetna inteligencija bi mogla zacementirati ili pogoršati globalne nejednakosti, ili olakšati automatizirano ratovanje, prilagođenu masovnu manipulaciju i sveprisutni nadzor.”
Potrebne su hitne radnje za siguran i etičan razvoj umjetne inteligencije
Hitnost ove molbe proizlazi iz uvjerenja da trenutni propisi ne uspijevaju adekvatno odgovoriti na brzi napredak AI tehnologije.
U razvoju umjetne inteligencije, stručnjaci prepoznaju hitnu potrebu za suočavanjem sa složenim izazovima. Tvrde da samo jačanje AI sposobnosti neće postići cilj. Ovi izazovi obuhvaćaju nadzor i poštenje, pri čemu napredna umjetna inteligencija može iskoristiti ranjivosti testiranja, kao i probleme povezane s robusnošću, interpretabilnošću, procjenom rizika i novim izazovima.
Budući sustavi umjetne inteligencije mogu pokazati neočekivane načine kvarova, naglašavajući važnost velikih tehnoloških tvrtki i javnih financijera koji izdvajaju značajan dio svog proračuna za istraživanje i razvoj umjetne inteligencije davanju prioriteta sigurnosti i etici uz poboljšanje sposobnosti umjetne inteligencije.
Prema pismu, nepostojanje upravljanja umjetnom inteligencijom može dovesti tvrtke i države u iskušenje da daju prioritet sposobnostima nad sigurnošću ili delegiraju važne društvene funkcije sustavima umjetne inteligencije uz ograničeni ljudski nadzor.
Za učinkovitu regulaciju, vlade hitno trebaju sveobuhvatne uvide u razvoj umjetne inteligencije. Štoviše, dodatne mjere bitne su za visoko moćne AI sustave, uključujući licenciranje njihovog razvoja, privremena zaustavljanja kao odgovor na zabrinjavajuće sposobnosti, kontrole pristupa i snažnu informacijsku sigurnost.
Unatoč određenim zabrinutostima tvrtki koje se bave umjetnom inteligencijom u vezi s troškovima usklađenosti i rizicima odgovornosti, zagovornici tvrde da su strogi propisi ključni za ublažavanje potencijalnih rizika povezanih s nekontroliranim razvojem umjetne inteligencije.
“AI je možda tehnologija koja oblikuje ovo stoljeće. Dok sposobnosti umjetne inteligencije brzo napreduju, napredak u sigurnosti i upravljanju zaostaje. Kako bismo usmjerili AI prema pozitivnim ishodima i dalje od katastrofe, moramo se preorijentirati. Postoji odgovoran put, ako imamo mudrosti da njime krenemo”, zaključuje se u pismu.
Pročitajte više:
- Što tehnološki lideri traže u umjetnoj inteligenciji? Tehnički vizionari dijele uvide
- OpenAI: AI potencijalno može učiniti mnogo štete ljudima, ali pokušaj zaustavljanja napretka nije opcija
- AI prelazi u smjeru operativnih sustava, prema Sequoii
- Dobitnik Nobelove nagrade Paul Krugman kaže da kripto procvat izgleda kao balon nekretnina
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
Više članaka
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
