AI dilemma: Yann LeCun un Judea Pearl par dominēšanu un izdzīvošanu
Pārdomas rosinošā sadursme starp Janu Lekunu un Jūdu Pērli izceļ dziļos jautājumus, kas saistīti ar mākslīgā superinteliģenta rašanos un tā iespējamo ietekmi uz cilvēka eksistenci. Diskurss ir strauji attīstījies no spekulatīviem scenārijiem līdz kritiskiem apsvērumiem par cilvēku sugas izdzīvošanu, ko katalizēja praktiskie AI sasniegumi.
| saistīts: 8 labākās grāmatas AI apguvei 2023. gadā |
Gadu desmitiem jēdziens par superinteliģence, kas rada eksistenciālus draudus cilvēce lielā mērā aprobežojās ar zinātniskās fantastikas un kinematogrāfiskās iztēles sfēru. Pētnieki un inženieri pārrunāja pašu superinteliģences sasniedzamību. Šis gads ir ieviesis paradigmas maiņu, jo diskusija pārsniedz Holivudas naratīvus un caurvij zinātnes un inženierzinātņu aprindas.
Nesenā apmaiņa starp Yann LeCun un Judea Pearl kalpo kā atšķirīgu viedokļu mikrokosms šajā jomā.
LeCun apgalvo, ka galvenā kundzība ir sugām, kas var veidot visaptverošo stāstījumu. Pēc viņa domām, dominējošā stāvokļa jēdziens ir cieši saistīts ar ietekmi uz kolektīvajiem mērķiem un sabiedrības virzību. Lekuna nostāja apstrīd korelāciju starp intelektu un dominējošo stāvokli, apgalvojot, ka pat cilvēku rasē mazāk inteliģentie bieži izmanto autoritāti, pateicoties spējai noteikt dienaskārtības. Ekstrapolējot, viņš paredz nākotni, kurā mākslīgais superinteliģents, vienlaikus pārspējot cilvēku inteliģence, joprojām ir pakļauts cilvēka kontrolei. LeCun velk paralēles no dabas, uzsverot, ka dominēšana nav sinonīms intelektam, kā to parāda sociālās sugas, piemēram, šimpanzes, paviāni un vilki. Viņš norāda, ka mākslīgā intelekta augšupeja atspoguļos gudru darbinieku dinamiku, kuri pakļaujas saviem vadītājiem, apgalvojot, ka augstākajām sugām ir raksturīga spēja vadīt kolektīvos likteņus.
Pērla skatījums atspēko Lekuna optimismu, norādot, ka apstākļi, kādos superinteliģence varētu apdraudēt cilvēka izdzīvošanu, ir vienkāršāki, nekā gaidīts. Pērla apgalvo, ka galvenais faktors ir izdzīvošanas vērtība, kas tiek attiecināta uz dominējošo stāvokli noteiktā vidē. Pēc viņa domām, ja viens mākslīgā vispārējā intelekta (AGI) variants saskarsies ar apstākļiem, kas dod priekšroku dominēšanai kā evolucionārai priekšrocībai, varētu rasties scenārijs, kas līdzinās e-Sapiens pārspēj e-neandertāliešus. Pērla viedoklis uzsver vides faktoru nozīmi AI sistēmu uzvedības veidošanā, radot bažas par neparedzētiem rezultātiem, jo AGI reaģē uz izdzīvošanas instinktiem.
LeCun-Pearl dialogs uzsver notiekošā diskursa nopietnību ar dziļu ietekmi uz cilvēces likteni. Diskusijās pārejot no teorētiskiem apsvērumiem uz taustāmiem apsvērumiem, rūpīgi jāapsver jautājums par to, vai AI sistēmas ievēros cilvēka norādījumus vai parādīsies autonomi motīvi. Galvenā dilemma ir saistīta ar virzību uz tehnoloģiskā progresa un ētiskās atbildības konverģenci, jo AI tuvojas superinteliģences slieksnim.
Diskursā nav vieglu atbilžu, tomēr steidzamība pārdomāt sekas joprojām ir nenoliedzama. Attīstoties mākslīgā intelekta trajektorijai, starpdisciplināra sadarbība un ētiskie pamati kļūst par vissvarīgākajiem, veidojot nākotne, kurā cilvēce harmoniski sadzīvos ar saviem darinājumiem. Likmes ir augstas, un sekas ir tālejošas, kas garantē nepārtrauktu izpēti, pārdomas un atbildīgu progresu.
AI dominēšana pret cilvēka kontroli
Teksts norāda uz pāreju no teorētiskā AI ietekmes apsvēruma uz tā eksistenciālo seku praktiskāku novērtējumu. Neandertāliešu un Homo sapiens vēsturiskā konflikta analoģija liecina par scenāriju, kurā tehnoloģiski attīstīta vienība varētu potenciāli aizstāt vai izskaust cilvēkus, līdzīgi kā neandertāliešu liktenis.
LeCun un Pearl kontrastējošās perspektīvas ilustrē šīs nākotnes nenoteiktību un sarežģītību. LeCun apgalvo, ka intelekts ne vienmēr nozīmē dominējošo stāvokli, uzsverot, ka cilvēki kā AI radītāji saglabātu kontroli. No otras puses, Pearl uzskata, ka īpašos apstākļos mākslīgais intelekts ar izdzīvošanu orientētu mērķi var novest pie jaunas sugas dominēšanas pār cilvēci.
Šīs debates izvirza nozīmīgus ētiskus, sabiedriskus un filozofiskus jautājumus par iespējamo AI attīstības trajektoriju. Tas uzsver nepieciešamību rūpīgi apsvērt AI ietekmi, nodrošinot, ka tā attīstība atbilst cilvēka vērtībām un mērķiem. Tā kā mākslīgais intelekts turpina attīstīties, šo problēmu risināšanai būs izšķiroša nozīme nākotnes tehnoloģiju ainavas un to saistību ar cilvēci veidošanā.
Raksts tika uzrakstīts ar Telegrammu kopiena palīdzību.
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
