6-kuuline paus AI-koolituses on hea mõte, kuid sellest ei pruugi piisata
Põgusalt
Petitsioonilugu ja Yudkovski artikli avaldamine on ühiskonna polariseerinud.
Vangi dilemma ja mänguteooria viitavad sellele, et selliste probleemide lahendamiseks on vaja kriitilist massi terve mõistusega inimesi erinevates kohtades.
Sellel ideel on aga mõned miinused, näiteks teadvuse, tahte ja agentsuse puudumine digitaalses evolutsioonis.
Lugu petitsiooniga lõpetada arenenumate tehisintellektisüsteemide arendamine GPT-4 on ühiskonda märgatavalt polariseerinud. Judkovski vabastamine artikkel taotledes edasiarenduse peatamist GPT mudelid valasid õli tulle, eriti tema lõigud andmekeskuste pommitamise kohta.
Internetis nähtu põhjal näib, et petitsiooni pooldajaid on palju vähem kui vastaseid, kellel on kolm peamist argumenti:
| 1 | – Edusamme ei saa peatada. – Petitsiooni mõtles välja OpenAI võistlejad. – Hiina ei oota. |
| 2 | – Te ei tohiks karta AI-d, vaid inimesi. - GPT tal pole teadvust, tahet, püüdlusi ega tegutsemisvõimet, seega pole midagi karta. - GPT-4 on meeletult kaugel maailma orjastamisest, sest ei saa millestki aru, teeb rumalaid vigu ja on üldiselt üsna rumal. - GPT-4 ei saa maailma juhtida, sest tal pole käsi/jalgu. |
| 3 | – Kolmas rühm ei saa aru, kuidas GPT-4 tegutseb esiteks. |
Me ei keskendu kolmandale kambale, sest nende seisukoht tuleneb teadmatusest. See ei tähenda, et kõik tehisintellekti vastased teavad tehisintellektist kõike; võib leida palju AI-vastaseid, kellel puudub arusaam tehnoloogiast ja sellega kaasnevast, kuigi Yudkovski ise on tehisintellekti teemasse väga süvenenud, nii et teadmatuses teda süüdistada ei saa.
Vaatame esimest inimeste rühma – neid, kes usuvad, et edusamme ei saa peatada. Nad pakuvad erinevaid, kuid sarnaseid argumente ja üldiselt ei eita need inimesed tehisintellekti võimeid ja väljavaateid selle kasutuselevõtuga ning usuvad, et tehisintellekti areng jätkub, olenemata sellest, mida.
Esimene tees peatamatust progressist on loosung, mis ei pea olema tõsi. Näib, et inimesed on mõned teaduslikud katsed peatanud ja paljusid kunagi heaks kiidetud uurimisprojekte ei peeta enam eetiliseks ning sarnaseid ei lubataks tänapäevalgi. Ent kui palju suuremaid edusamme peatasid minevikus inkvisitsioon ja muu usuline tagakiusamine, raamatukeelud ja teadlaste mõrvad Hiinas (ja teistes riikides)? See on midagi, mida me ellujäämise eelarvamuse tõttu kunagi täielikult mõista ei saa.
Teised teesid hõlmavad lähenemisviisi, mille võib kokku võtta järgmiselt: "Kui mitte meie, siis need on nemad". Kuigi see mõttekäik võib olla arusaadavam, ei tundu see ka õige lahendus. See on väga sarnane vangi dilemmaga mänguteoorias.
Teine argumentide rühm on kõige huvitavam. Kuigi ma isiklikult olen sellega mingil määral nõus, on mõned agad, millega tuleb tegeleda. Jah, tehisintellektil pole teadvust, tahet, tegutsemisvõimet jne. Mitte ka COVID-19, kuid ometi põhjustas see kogu maailmas kaose. Miski ei pea omama tegutsemisvõimet ja teadvust, et muutuda ohtlikuks; stsenaarium, et elu maa peal hävib viiruse tõttu, ei ole kujuteldamatu. Kui töö on tehtud, saab ta toolid laudadele panna, tuled kustutada ja igaveseks lahkuda.
Jätkates bioloogilist analoogiat, on suurepärane artikkel "Digitaalse evolutsiooni üllatav loovus: evolutsioonilise arvutuse ja tehiselu uurimiskogukondade anekdootide kogumik", mis toob palju näiteid selle kohta, kui protsessid lähevad ootamatus suunas. Isegi ilma evolutsioonilise protsessita võib kõik minna vale üldistusse "Eesmärgi vale üldistamine: miks õigetest spetsifikatsioonidest ei piisa õigete eesmärkide saavutamiseks". Optimeerimisprotsessile vaba voli andmine võib valesti minna, mida arutatakse artiklis "Õppitud optimeerimisest tulenevad riskid täiustatud masinõppesüsteemides. "
Samal ajal me üldiselt ei arvesta sellega kaasnevaid riske AI pahatahtlik kasutamine ja kõik kuritarvitamine, mis toidab vaid argumenti, et peame kartma inimesi, mitte AI-d ennast. Tõde on aga see, et tehisintellekt võib olla halb ka ilma pahatahtlike inimesteta.
Nõustun ka sellega, et modell teeb rumalaid vigu, aga ka inimesed, ja ometi teame, et nad võivad kurja teha. Kuigi modellid teevad palju vigu, suudavad nad lahendada ka palju ägedaid, lahedaid ja keerulisi probleeme, mida tavainimene lahendada ei suuda. Kurikuulsast teosest “Sparks of Artificial General Intelligence: Early Experiments with GPT-4”, Mind hämmastas see, et tehisintellekt suutis lahendada, kuigi mitte alati õigesti, Fermi ülesandeid, üsna keerukaid matemaatilisi ülesandeid. Väga muljetavaldavad on ka selle vaimuteooria ja "nagu võime mõista" teiste tegusid. Kõik need asjad viitavad AI intelligentsusele; olemas, kuid mitte päris nagu meie.
Vähemalt mõnede AI-mudelite tehtud vigade kõrvaldamine on üldiselt teostatav, nii et nende intelligentsus võib ainult kasvada. Kõik, mida pead tegema, on lisada moodul täpsete arvutuste tegemiseks, faktibaasi ja teise mudeliga valideerimiseks.
Kõige olulisem kogu selle loo juures on AI arengu kiirus. GPT mudelid on tohutult peadpööritava kiirusega kasvanud. Nüüd on neid ChatGPT pluginad saadaval, saate kasutada GPT mudelid koodi kirjutamiseks, API-d on suurele avalikkusele kättesaadavad ja saate kasutada väliseid tööriistu ilma eelneva koolituseta.
GPT-4, loomulikult ei valluta maailma, kuid see võib majandust kõvasti raputada. GPT-5, ja mudeli tulevane iteratsioon, ei pruugi olla väga kaugel ees ja tõenäoliselt tulevad palju tugevamad võimed. Ja olgem ausad, me ei saa loota, et mõistame veel mitte-olemasolevaid mudeleid; me pole jõudnud juba olemasolevate mudelite mõistmisele ligilähedalegi. Selles mõttes võib kuuekuuline paus olla hea mõte, kuid sellest ei pruugi piisata.
Ja arvestades seda AI rass on alanud, pole aega õppida.
Üldiselt seda kõike silmas pidades kirjutasin ka petitsioonile alla. Kuigi ma ei usu, et see kuidagi aitab.
Loe rohkem seotud teemasid:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
