Saprāta daudzums Visumā dubultosies ik pēc 18 mēnešiem, saka Sems Altmans
Īsumā
Ir sākusies mākslīgā intelekta apokalipse, un intelekta apjoms Visumā dubultojas ik pēc 18 mēnešiem.
OpenAISems Altmens reiz jokoja, ka AI novedīs pie pasaules gala, bet pirms tam tas būtu milzīgs bizness.
Amerikāņu neirozinātnieks un filozofs Tufta universitātē Ēriks Hoels apgalvo, ka AI sistēmas šobrīd nevar uzskatīt par inteliģentām, jo tās neizprot pasauli un tām nav personības, kas izpaužas viņu nodomos un rīcībā.
Bajesa smadzeņu hipotēze apgalvo, ka smadzeņu galvenā funkcija ir samazināt pārsteigumu. Ja tā ir taisnība, AI apokalipse varētu būt jau sākusies.
Tas liek domāt, ka ChatGPT un citi jau ir daudzpusīgāki savā intelektā nekā jebkurš cilvēks.
Ir sākusies mākslīgā intelekta apokalipse, mainot Mūra likuma nozīmi. Tagad intelekta apjoms Visumā dubultosies ik pēc 18 mēnešiem, liecina informācija Sems Altmans, Izpilddirektors OpenAI, uzņēmums aiz muguras ChatGPT. Tikai pirms septiņiem gadiem Sems jokoja: "AI, visticamāk, novedīs pie pasaules gala, bet pirms tam būs milzīgs bizness." Tagad cilvēki joko viņš nešķiras no “kodolsomas”, lai varētu attālināti detonēt datu centrus, ja GPT izkļūst no kontroles.
Ieteicamā ziņa: ChatGPT Var izraisīt neatgriezenisku cilvēka deģenerāciju |
Lai labāk saprastu, uz ko Altmans atsaucas savā tvītā, un lai uzzinātu, kā AI uzplaukuma laikā nejukt prātā, iesakām izlasīt Ērika Hoela “Kā saprātīgam cilvēkam orientēties AI apokalipsē”. Hoels ir amerikāņu neirozinātnieks un filozofs Tufta universitātē. Tā ir laba lasāmviela, jo Hoels ir lielisks rakstnieks, tāpēc mēs definoteikti iesaku pārbaudīt šo ziņu.
Apskatīsim vienu no galvenajiem punktiem, jo tas apkopo dziļu izpratni par notiekošo un jau notikušās apokalipses tuvāko nākotni. Galvenais arguments "racionālajiem tehnooptimistiem", kuri uzskata, ka nekas ārkārtējs un pārāk riskants nenotika līdz ar ChatGPT, ir šāds:
- Neskatoties uz izcilajiem ģeneratīvās sarunvalodas AI rezultātiem (piemēram, ChatGPT, Bing utt.), šīs AI sistēmas nevar uzskatīt par viedām. Viņi nesaprot pasauli un viņiem nav aģenta motivācijas. Viņiem nav personības, kas izpaužas viņu nodomos un rīcībā, un viņu uztvertais intelekts nav nekas vairāk kā intelekta simulakrs. Savā pamatā šis simulakrs ir tikai automātisks nākamo vārdu aizpildījums, kas savā varbūtības spogulī atspoguļo kolosālo, nefiltrēto cilvēku rakstīto tekstu korpusu no interneta.
- Ja tā, tad nav ne tuvu izredžu, ka parādīsies superinteliģents, ne ar to saistītie riski (lai gan, protams, jums ir jāsagatavojas tam, visticamāk, gadu desmitu horizontā).
Ieteicamā ziņa: AI meklēšanas roboti padarīs lielo tehnoloģiju vēl jaudīgāku, saka Kristofers Millsjumu |
Hoela atbilde uz šo argumentāciju ir šāda:
- Fakts, ka ChatGPT, piemēram, ir vienkārši nākamo vārdu automātiska pabeigšana, tas nenozīmē, ka tas nevar kļūt (vai jau ir kļuvis) par inteliģentu aģentu. Atšķirībā no apziņas, intelekts ir pilnībā funkcionāls jēdziens: ja kaut kas darbojas saprātīgi, tas ir saprātīgs. Ja tas darbojas kā aģents, tas ir aģents.
- Šeit ir paskaidrojošs piemērs. Ir ietekmīga zinātnieku grupa — Karls Fristons (visvairāk citētais neirozinātnieks) un virkne citu slavenu vārdu —, kuri apgalvo, ka mūsu smadzeņu mērķis ir mazināt pārsteigumu. Šī "Bayesian smadzeņu hipotēze" ir viena no galvenajām mūsdienu hipotēzēm. Teorija apgalvo, ka globālā līmenī pārsteiguma samazināšana ir smadzeņu galvenā funkcija. Un, lai gan šī ir tikai viena no vairākām galvenajām hipotēzēm par smadzeņu darbību, pieņemsim, ka tā ir patiesība. Tagad iedomājieties, ka citplanētieši atrod cilvēka smadzenes, paskatās uz tām un saka: “Ak, šī lieta vienkārši samazina pārsteigumu! Tas nevar būt intelekta pamats un tāpēc nevar būt bīstams patiesajiem prāta nesējiem. Padomājiet: vai “pārsteigumu samazināšana” patiešām ir daudz grūtāks mērķis nekā teksta automātiska pabeigšana? Vai arī patiesībā tas ir ļoti līdzīgs?
- Un ja tā, tad necilvēka superinteliģence jau var būt tuvumā. Un ar to saistītie riski jau ir diezgan reāli. Ko tur vēl piebilst? Varbūt ChatGPT un citi jau ir daudzpusīgāki savās intelekts nekā jebkurš cilvēks. ChatGPT un citi, visticamāk, būs aktīvi vienlaikus šādu iemeslu dēļ: saprātīgi, neuzticami un nelīdzīgi cilvēka prātam, nekontrolējami nevienā fundamentālā nozīmē, izņemot dažus pārsteidzīgi veidotus žogus.
Un, ja tas viss ir taisnība, tad AI apokalipse jau ir sākusies.
Lasiet vairāk saistītās tēmas:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstusDamirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.