Dario Amodei upozorava na jaz u upravljanju jer umjetna inteligencija napreduje brže od politike, potiče obvezujuće sigurnosne i ekonomske reforme
Ukratko
Izvršni direktor tvrtke Anthropic, Dario Amodei, ističe rizike umjetne inteligencije i predlaže strožu regulaciju, ekonomske zaštitne mjere i globalnu koordinaciju za upravljanje brzim napretkom umjetne inteligencije.
Dario Amodei, izvršni direktor antropski, rekao je u novom eseju da umjetna inteligencija napreduje daleko brže nego što politički sustavi mogu reagirati te tvrdio da se kreatori politika moraju brzo prilagoditi jer granični modeli počinju preoblikovati sigurnost, gospodarstvo i javne institucije. Usporedio je jaz u tempu između razvoja umjetne inteligencije i zakonodavstva s kontrastom između brzih Hobita i sporog Drvobrada, rekavši da je neusklađenost postala sve hitnija kako se modeli poboljšavaju u kodiranju, znanosti i drugim znanstvenim radovima.
Poduzetnik je naglasio da su se raniji napori politike uglavnom ograničavali na mjere transparentnosti, kontrolu izvoza i prikupljanje podataka jer su rizici još uvijek bili u nastajanju i nejasni. Rekao je da se slika sada promijenila, ukazujući na mogućnosti graničnog modela koje su otkrile ozbiljne probleme u kibernetičkoj sigurnosti i pokazale da napredni sustavi umjetne inteligencije mogu utjecati na financijsku stabilnost, kritičnu infrastrukturu i nacionalnu sigurnost. Tvrdio je da bi sljedeća faza politike trebala ići dalje od samog objavljivanja i prema obvezujućim pravilima za modele visokog rizika.
Regulacija, ekonomski poremećaji i novi politički prioriteti u eri umjetne inteligencije
Što se tiče regulacije i javne sigurnosti, Dario Amodei predložio je okvir sličan nadzoru zrakoplovstva, s obveznim testiranjem naprednih modela od strane treće strane prije implementacije. Rekao je da bi modele iznad određenog računalnog praga trebalo procijeniti na rizike u kibernetičkoj sigurnosti, biološkoj zlouporabi, gubitku kontrole i automatiziranim istraživanjima koja bi mogla pojačati te prijetnje. Također je rekao da bi vlade trebale moći odgoditi ili blokirati implementaciju ako se ti rizici smatraju neprihvatljivima, uz zahtjev za snažnim sigurnosnim praksama, redovitim crvenim timovima, testiranjem penetracije i brzim prijavljivanjem incidenata od strane programera umjetne inteligencije.
Esej se također usredotočio na ekonomske poremećaje. Amodei je rekao da bi moćna umjetna inteligencija mogla ubrzati rast, a istovremeno istisnuti velik broj radnika brže zamjenjujući ljudski kognitivni rad od prethodnih tehnologija. Upozorio je da bi to moglo stvoriti svijet vrlo brzog rasta uz trajnu nejednakost, što bi otežalo osiguravanje široke raspodjele koristi. Rekao je da bi se politika trebala usredotočiti na mjerenje, podršku radnoj snazi, osiguranje plaća, prekvalifikaciju i eventualno dugoročnu podršku prihodima ako potražnja za radnom snagom značajno padne.
U drugom dijelu, izvršni direktor tvrtke Anthropic rekao je da bi umjetna inteligencija mogla ubrzati znanstveni napredak, posebno u biomedicini, ali da postojeći regulatorni sustavi mogu biti prespori da bi se nosili s valom inovacija potpomognutih umjetnom inteligencijom. Predložio je pripremu agencija za odobravanje lijekova poput FDA i EMA za prihvaćanje simulacije temeljene na umjetnoj inteligenciji, sintetičkih kontrolnih skupina i drugih metoda koje bi mogle skratiti razvoj lijekova bez smanjenja sigurnosti.
Dario Amodei također je upozorio da bi umjetna inteligencija mogla povećati moć države i stvoriti nove rizike za građanske slobode, uključujući autonomno oružje, masovni nadzor i nepoštenu upotrebu umjetne inteligencije od strane vlade. Pozvao je na stroža pravila odgovornosti, ograničenja domaće upotrebe potpuno autonomnog oružja i strožu zaštitu privatnosti.
Konačno, rekao je da bi demokracije trebale surađivati na lancima opskrbe umjetnom inteligencijom, sigurnosnim standardima i ekonomskoj koordinaciji, tvrdeći da umjetna inteligencija postaje strateška tehnologija usporediva s nuklearnom energijom po svojoj geopolitičkoj važnosti.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Alisa, predana novinarka u MPost, specijaliziran za kriptovalute, umjetnu inteligenciju, ulaganja i široko područje Web3. S oštrim okom za nove trendove i tehnologije, ona pruža sveobuhvatnu pokrivenost kako bi informirala i uključila čitatelje u krajolik digitalnih financija koji se neprestano razvija.
Više članaka
Alisa, predana novinarka u MPost, specijaliziran za kriptovalute, umjetnu inteligenciju, ulaganja i široko područje Web3. S oštrim okom za nove trendove i tehnologije, ona pruža sveobuhvatnu pokrivenost kako bi informirala i uključila čitatelje u krajolik digitalnih financija koji se neprestano razvija.
