Čelnici AI-ja upozoravaju na rastuće rizike i etičku zabrinutost u brzom napretku
U nedavnoj izjavi o politici, istaknute osobe u području umjetne inteligencije, uključujući Bengia, Hintona, Russella, Hararija i Kahnemana, oglasile su uzbunu zbog brzog napretka i rastućih društvenih rizika povezanih s umjetnom inteligencijom.
AI se brzo razvija. GPT-2 prije četiri godine nisu mogli brojati od 0 do 100, ali moderni modeli mogu pisati kod, stvarati nevjerojatne slike i nuditi intelektualno vodstvo. A budući da smo u utrci, napredak može još više ubrzati. Nadalje, AI brže napreduje tako što, na primjer, pomaže u programiranju novih sustava i prikupljanju podataka za njihovu obuku.
Jednom kad napredak dosegne ljudsku razinu, nema razloga misliti da će se usporiti ili zaustaviti. U određenim su regijama umjetni sustavi već nadmašili ljude u tom pogledu, izlažući se mogućnosti kao što je brža obrada brzine, veće kapacitete obrade podataka i skalabilnost velikih razmjera. Poduzeća posjeduju financijska sredstva za provedbu programa obuke koji daleko premašuju trenutnu gornju granicu.
Autori smatraju da postoji dobra šansa da će se bolji stručnjak za umjetnu inteligenciju pojaviti u sljedećih desetak godina, nadilazi ljudske mogućnosti u mnogim važnim domenama.
Što će se sljedeće dogoditi? Svi se životi mogu poboljšati ako se njima pravilno upravlja i distribuira. Loše odabrana opcija nosi značajne rizike za koje smo loše pripremljeni. Umjesto da se dodijele sigurnosti i prevenciji štete, značajni resursi se koriste za izgradnju sustava umjetne inteligencije koji su sve moćniji. Ovo se mora promijeniti; samo potraga za vještinama nije dovoljna. I ovaj proces traje duže od očekivanog. Moramo planirati veće rizike prije nego što se pojave predviđajući eskalaciju trenutnih prijetnji i pojavu novih. Nemamo toliko vremena za umjetnu inteligenciju koliko su joj potrebna desetljeća da bude prihvaćena klimatske promjene.
Postoje brojni rizici na društvenoj razini, uključujući porast nepravde, pogoršanje stabilnosti i pogoršanje uobičajene percepcije stvarnosti. Ovdje su teroristi i kriminalci uključeni u opsežne aktivnosti. AI bi se mogla koncentrirati u rukama malog broja igrača, što bi dovelo do povećanja globalne nejednakosti, olakšavanja automatiziranog ratovanja, masovne manipulacije koja je prilagođena svakom pojedincu i sveprisutnog nadzora.
Kao autonomna AI postaje sofisticiraniji i sposoban je planiratidjelovati u svijetu i postići svoje ciljeve, ti će rizici samo rasti. Ti ciljevi možda nisu u našem najboljem interesu, a u slučaju loših aktera, mogu biti čak i štetni. Trenutačno nije jasno kako riješiti problem usklađivanja umjetne inteligencije, što uključuje usklađivanje ponašanja umjetne inteligencije s našim zamršenim ciljevima. Nadalje, vrlo je jednostavno zanemariti sigurnosne mjere opreza kada se utrkujete s namjerom pobjede.
Ljudima je teško kontrolirati obični softver, a kamoli sofisticirane AI sustave koji postaju sve vještiji u društvenom inženjeringu, hakiranju, prijevarama i strateškom planiranju. To je nešto što autonomni AI sustavi mogu preuzeti od ljudi ili stvoriti sami.
Ovi sustavi imaju sposobnost graditi koalicije s pojedincima i drugim sustavima, pridobiti povjerenje, osigurati financiranje i utjecati na donositelje odluka. Poput crva, oni su sposobni samoreplicirati se kroz mrežu. Ogromne količine koda već su napisane uz pomoć AI pomoćnika; u budućnosti bi sustavi mogli uključiti exploite u brojne ključne sustave. Sustavi umjetne inteligencije imaju mogućnost upotrebe ili prijetnje biološkim ili autonomnim oružjem u otvorenoj borbi. Ovo je samo nastavak trenutna kretanja prema biološkim istraživanjima, umjetnoj inteligenciji i automatizaciji ratovanja. Ljudima bi moglo biti previše teško uskočiti i oduprijeti se.
U mnogim smo slučajevima voljni prepustiti im uzde, a da ne moraju ni tražiti. Mnogi pojedinci i tvrtke voljni su sami postaviti takve sustave u konkurentnom okruženju zbog zabrinutosti da će zaostati za konkurencijom.
Cijeli dokument možete pronaći ovdje.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
