Dan Hendrycks: tehisintellekti ja inimeste vahel valides ei vali evolutsioon meid
Põgusalt
Dan Hendrycksi uurimus “Looduslik valik eelistab tehisintellekti inimestele” on hirmutav järeldus.
Ta on kogenud ja tuntud teadlane, kes on avaldanud kümneid teadustöid tehisintellektisüsteemide turvalisuse hindamisest.
Dan Hendrycksi uurimus kõlab nagu surmaotsus Homo Sapiensile. Uuringu järeldus "Looduslik valik eelistab tehisintellekti inimestele” on tõesti hirmutav. Seda ei kirjutanud mitte populaarne visionäär nagu Dan Brown, vaid Dan Hendrycks, California AI turvalisuse keskuse (CAIS) direktor, mittetulundusorganisatsioon, mis on spetsialiseerunud tehisintellekti turvalisuse uurimisele ja välitöödele.
Dan Hendrycks ei ole hull hull, kes paanitseb tehisintellekti edusammude pärast. Ta on kogenud ja laialdaselt tunnustatud teadlane, kes on avaldanud kümneid teadusartikleid tehisintellektisüsteemide turvalisuse hindamisest – testides, kui head need on kodeerimises, arutlemises, seaduste mõistmises jne. Muuhulgas on ta ka AI-süsteemide kaasleiutaja. Gaussi lineaarsed veaühikud (GELU).
Jack Clark, ettevõtte kaasasutaja ChatGPT konkurent Anthropic, Stanfordi ülikooli tehisintellekti indeksi kaasesimees, OECD tehisintellekti ja arvutamise sektsiooni kaasesimees ning USA valitsuse AI riikliku nõuandekomitee liige arutleb Hendrycksi uuringu järelduste üle. «Inimesed tahavad refleksiivselt kõrvale heita sellise väite nagu mõnelt metsiku pilguga hullult, kes elab metsaonnis. Tahaksin selle eelnevalt ümber lükata. Kui ekspert, kellel on kogemusi mitte ainult AI-uuringutes, vaid ka tehisintellektisüsteemide ohutuse hindamine kirjutab referaadi väites, et tulevased AI-süsteemid võivad käituda isekalt ja mitte inimeste huvidega kooskõlas, peaksime selle eest hoolt kandma!
Hendrycksi töö kokkuvõte:
- Kui tehisintellekti agente tuleb juurde intelligentsem kui inimesed, võib see viia selleni, et inimkond kaotab kontrolli oma tuleviku üle.
- Sellel on hea võimalus juhtuda mitte inimeste või masinate mingi erilise pahatahtliku kavatsuse tagajärjel, vaid ainult evolutsiooniliste arengupõhimõtete kohaldatavuse tõttu tehisintellektile Darwini loogika järgi.
- Selle riski minimeerimiseks tuleb tehisintellekti agentide sisemised motivatsioonid hoolikalt kavandada, nende tegevusele seada piirangud ja luua institutsioonid, mis soodustavad tehisintellekti koostööd.
See tähendab, et kõige olulisemad punktid Hendrycks oma 43-leheküljelises teaduslikus töös välja toob:
1. Kartsime Terminaatori tulekut, kuid nende hirmude alused olid valed. Tekkis kaks viga:
a. Tehisintellekti antropomorfiseerimine meie motiivide omistamisega sellele jne – nagu ChatGPT näitas, et AI on põhimõtteliselt teistsugune mõistus koos kõigi sellest tulenevate tagajärgedega.
b. Mõte, et AI on mingi üksik üksus: tark või mitte väga tark, lahke või mitte eriti lahke, kuid tegelikult on neid väga erinevaid AI-olemeid varsti maailmas nii palju kui võimalik.
2. Tehisintellektiga seotud tuleviku ideedel on veel üks fundamentaalne viga — me unustasime kõige olulisema arengumehhanismi — evolutsiooni, mis juhib mitte ainult bioagentide, vaid ka ideede ja tähenduste, materiaalsete tööriistade ja mittemateriaalsete institutsioonide arengut.
3. Maal on juba hakanud kujunema keskkond, milles arenevad ja arenevad paljud tehisintellektid. See areng toimub Darwini loogika kohaselt, tehisintellekti omavahelisel konkurentsil, võttes arvesse nende „ema“ institutsioonide huve: korporatsioonid, sõjavägi jne.
4. Konkurentsivõimelise evolutsiooni loogika toob kaasa sama, mis inimestel: järjest intelligentsemad tehisintellekti agendid muutuvad üha isekamaks ning on valmis pettuse ja jõuga eesmärke saavutama, peamiseks eesmärgiks on võim.
5. AI-agentide loomulik valik kaldub eelistama isekamaid liike altruistlikumatele. Tehisintellekti agendid käituvad isekalt ja järgivad oma huve inimestest vähe arvestamata, mis võib viia inimkonnale katastroofiliste ohtudeni.
- Petitsioon lõpetada arenenumate tehisintellektisüsteemide arendamine GPT-4 on ühiskonna polariseerinud. Esimene rühm usub, et progressi ei saa peatada, samas kui teine usb, et progress ja mõnikord tuleks see peatada. Kolmas rühm ei saa aru, kuidas GPT-4 tegutseb esiteks. Selle teksti kõige olulisemad üksikasjad on see, et tehisintellektil pole teadvust, tahet ega tegutsemisvõimet ning see võib olla halb ka ilma pahatahtlike inimesteta.
- Geoffrey Hintonit nimetatakse sageli "AI ristiisaks" ja teda peetakse sügava õppimise kogukonna juhtfiguuriks. Tema 40-minutiline intervjuu ChatGPT on ainulaadne selle poolest, et seda on lihtne mõista ja selle mõistmise sügavus on kõigile kättesaadav. Ta rõhutab käimasoleva "intellektuaalse revolutsiooni" tähtsust ja ebainimlikku intelligentsust. ChatGPT, mis põhineb kunstlikult intelligentsel, täiustatud digitaalse suhtlusvõimalusega agendil.
Loe rohkem seotud artikleid:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
