AI juhid hoiatavad kasvavate riskide ja eetiliste murede eest seoses kiirete edusammudega
Hiljutises poliitikaavalduses, on tehisintellektiga seotud silmapaistvad tegelased, sealhulgas Bengio, Hinton, Russell, Harari ja Kahneman, löönud häirekella tehisintellektiga seotud kiirete edusammude ja kasvavate ühiskondlike riskide pärast.
AI areneb kiiresti. GPT-2 ei suutnud neli aastat tagasi lugeda 0–100, kuid kaasaegsed mudelid suudavad kirjutada koodi, teha hämmastavaid pilte ja pakkuda intellektuaalseid juhiseid. Ja kuna oleme võistlusel, võib areng veelgi kiirendada. Lisaks areneb tehisintellekt kiiremini, näiteks aidates programmeerida uusi süsteeme ja koguda andmeid nende treenimiseks.
Kui edu saavutab inimliku taseme, pole põhjust arvata, et see aeglustub või peatub. Teatud piirkondades on tehissüsteemid selles osas juba inimesi edestanud, eksponeerides sellised võimalused nagu kiirem töötlemine kiirused, suurem andmetöötlusvõimsus ja ulatuslik mastaapsus. Ettevõtetel on rahalised vahendid, et viia ellu koolitusprogramme, mis ületavad tunduvalt praegust ülemmäära.
Autorid arvavad, et on hea võimalus, et järgmise kümne aasta jooksul tekib parem tehisintellekti generalist, ületades inimvõimeid paljudes olulistes valdkondades.
Mis juhtub järgmisena? Kõiki elusid saab parandada, kui neid õigesti hallata ja jaotada. Halvasti valitud variant kätkeb endas olulisi riske, milleks oleme halvasti ette valmistatud. Selle asemel, et eraldada ohutusele ja kahjude ennetamisele, kasutatakse märkimisväärseid ressursse üha võimsamate tehisintellektisüsteemide ehitamiseks. Seda tuleb muuta; oskuste taotlemisest üksi ei piisa. Ja see protsess võtab oodatust kauem aega. Peame planeerima suuremaid riske enne nende tekkimist, ennetades praeguste ohtude eskaleerumist ja uute tekkimist. Meil ei ole tehisintellekti jaoks nii palju aega, kuivõrd selle aktsepteerimiseks kulub aastakümneid kliimamuutused.
Ühiskondlikul tasandil on palju riske, sealhulgas ebaõigluse kasv, stabiilsuse halvenemine ja üldise reaalsustaju halvenemine. Siin tegelevad terroristid ja kurjategijad ulatusliku tegevusega. Tehisintellekt võib koonduda mõne mängija kätte, mis toob kaasa globaalse ebavõrdsuse suurenemise, automatiseeritud sõjapidamise hõlbustamise, igale inimesele kohandatud massimanipulatsiooni ja üldlevinud järelevalve.
Nagu autonoomne AI muutub keerukamaks ja suudab planeerida, tegutseda maailmas ja saavutada oma eesmärgid, need riskid ainult suurenevad. Need eesmärgid ei pruugi olla meie huvides ja halbade tegijate puhul võivad need isegi kahjulikud olla. Praegu on ebaselge, kuidas lahendada AI joondamise probleem, mis hõlmab AI käitumise sobitamist meie keeruliste eesmärkidega. Lisaks on võidukavatsusega sõites väga lihtne ohutusabinõusid eirata.
Tavalist tarkvara on inimestel raske juhtida, rääkimata keerukatest tehisintellektisüsteemidest, mis on üha osavamad sotsiaalses konstrueerimises, häkkimises, pettuses ja strateegilises planeerimises. See on midagi, mida autonoomsed AI-süsteemid saavad inimestelt kätte saada või ise luua.
Need süsteemid suudavad luua koalitsioone üksikisikute ja muude süsteemidega, võita usaldust, kindlustada rahastamise ja mõjutada otsustajaid. Nagu uss, on nad võimelised kogu võrgus ise paljunema. AI-assistentide abiga kirjutatakse juba tohutul hulgal koodi; tulevikus võivad süsteemid hõlmata paljusid olulisi süsteeme. AI-süsteemidel on võimalus kasutada või ähvardada bioloogilisi või autonoomseid relvi avatud võitluses. See on vaid jätk praegused liikumised bioloogiliste uuringute, tehisintellekti ja sõjapidamise automatiseerimise suunas. Inimestel võib olla liiga keeruline sekkuda ja vastu seista.
Paljudel juhtudel oleme valmis neile ohjad andma, ilma et nad peaksid isegi küsima. Paljud üksikisikud ja ettevõtted on valmis sellised süsteemid konkurentsitingimustes ise paika panema, kuna kardavad, et nad jäävad konkurentsist maha.
Täielik dokument on leitav siin.
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
