Džefrijs Hintons nesenajā sarunā pēta divus ceļus uz intelektu un AI briesmām
Īsumā
Džefs Hintons apsprieda analogās AI veidošanas izaicinājumus, priekšrocības un trūkumus un to, kāpēc digitālais intelektam ir potenciāls pārspēt cilvēku iespējas.
Džefa Hintona runa kalpo kā atgādinājums par AI sarežģīto un daudzpusīgo raksturu, rosinot sarunas par ētiskiem apsvērumiem, iespējamiem riskiem un notiekošo izpēti.
Pārdomu rosinošā sarunā ar nosaukumu “Divi ceļi uz intelektuSlavenais mākslīgā intelekta pētnieks Džefrijs Hintons iepazīstināja ar savām atziņām analogā un digitālā intelekta dihotomijā. Ziņojumā, kas tika iesniegts Kembridžā, tika aplūkotas analogās AI veidošanas problēmas, priekšrocības un trūkumi un kāpēc digitālajam intelektam ir potenciāls pārspēt cilvēka spējas.
Ziņojuma pirmajā daļā galvenā uzmanība tika pievērsta analogā AI sarežģītībai, apspriežot grūtības tā attīstībā un izceļot tā piedāvātās priekšrocības. Hintons uzsvēra, ka digitālajam intelektam ir ievērojamas priekšrocības salīdzinājumā ar cilvēka intelektu, jo tas apstrādā milzīgus informācijas apjomus un mērogojas efektīvāk. Šī spēja ļauj digitālajām sistēmām demonstrēt paaugstinātu intelektu un problēmu risināšanas iespējas.
Tomēr tieši Hintona ziņojuma otrā daļa piesaistīja auditorijas uzmanību, jo viņš apsprieda iespējamās superinteliģences briesmas. Pārejot no savas iepriekšējās nostājas, Hintons pauda bažas par iespēju AI sistēmām pārņemt kontroli. Viņš izklāstīja scenāriju, kurā AI, cenšoties atrisināt sarežģītas problēmas, var mēģināt iegūt kontroli pār dažādiem savas vides aspektiem, potenciāli ieskaitot cilvēku manipulācijas. Balstoties uz piemēriem no esošās literatūras, Hintons uzsvēra, kā mākslīgā intelekta spēja atdarināt cilvēka uzvedību var tikt izmantota, lai sasniegtu šos mērķus, pat ja nav skaidra varas un iznīcināšanas mērķa.
Jautājumu un atbilžu sesijas laikā Hintons izvērsa iemeslus, kāpēc mākslīgais intelekts var manipulēt ar cilvēkiem. Viņš to atzīmēja neironu tīkli ir apmācīti par dažādu datu klāstu, tostarp tādiem darbiem kā Machiavelli, kas rada potenciālu manipulācijas spēju.
Otrais Hintona izvirzītais punkts apstrīdēja priekšstatu, ka AI trūkst subjektīvas pieredzes, apgalvojot, ka AI varētu būt analogs cilvēka subjektīvajai uztverei. Hintons atzina, ka tā bija filozofiska perspektīva, nevis pierādīts apgalvojums, taču ierosināja to cilvēka uztveres mehānismi var nebūt tik unikāla vai neiespējami modelēt, kā tika uzskatīts iepriekš. Lai atbalstītu savu argumentu, Hintons sazinājās ar GPT-4, LLM modelis, kurā viņš apšaubīja modeli par to, kā cilvēki uztver savu unikalitāti salīdzinājumā ar AI. GPT-4atbilde norādīja, ka cilvēki bieži uzskata, ka viņiem piemīt augstākas subjektīvās uztveres spējas, kas tos atšķir no mašīnām.
Lai gan Hintona viedokli par mākslīgā intelekta radītajām briesmām nepiekrīt visi jomas eksperti, viņa plašā pieredze un ieguldījums AI attīstība prasa nopietnu apsvēršanu. Lai gan saruna vēl ir jāieraksta, organizatori ir apsolījuši tuvākajā laikā padarīt to pieejamu apskatei, ļaujot plašākai auditorijai iesaistīties Hintona atziņās.
Turpinoties diskusijām par AI nākotni un tās sekām, Džefrija Hintona runa kalpo kā atgādinājums par šīs jomas sarežģīto un daudzpusīgo raksturu. Tas rosina svarīgas sarunas par ētiskiem apsvērumiem, iespējamiem riskiem un nepieciešamību pēc pastāvīgas izpētes un modrības mākslīgā vispārējā intelekta meklējumos. (AGI).
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
