Dens Hendriks: Izvēloties starp AI un cilvēkiem, evolūcija mūs neizvēlēsies
Īsumā
Dena Hendriksa pētījums “Dabiskā atlase dod priekšroku mākslīgajam intelektam, nevis cilvēkiem” ir biedējošs secinājums.
Viņš ir pieredzējis un labi pazīstams pētnieks, kurš ir publicējis desmitiem zinātnisku rakstu par AI sistēmu drošības novērtēšanu.
Dena Hendriksa pētījumi izklausās pēc nāvessoda Homo Sapiens. Pētījuma secinājums "Dabiskā atlase dod priekšroku mākslīgajam intelektam, nevis cilvēkiem” ir patiešām biedējoši. To rakstīja nevis populārs vizionārs, piemēram, Dens Brauns, bet Dens Hendriks, Kalifornijas AI drošības centra (CAIS) direktors, bezpeļņas organizācija, kas specializējas MI drošības izpētē un lauka darbos.
Dens Hendrikss nav ārprātīgs vājprātīgs, kas krīt panikā par mākslīgā intelekta attīstību. Viņš ir pieredzējis un plaši cienīts pētnieks, kurš ir publicējis desmitiem zinātnisku rakstu par AI sistēmu drošības novērtēšanu — pārbaudot, cik labi tās ir kodēšanā, argumentācijā, likumu izpratnē utt. Cita starpā viņš ir arī līdzizgudrotājs Gausa lineārās kļūdas vienības (GELU).
Džeks Klārks, līdzdibinātājs ChatGPT konkurents Antropiks, Stenfordas Universitātes AI indeksa līdzpriekšsēdētājs, ESAO AI un Compute nodaļas līdzpriekšsēdētājs un ASV valdības Nacionālās AI padomdevējas komitejas loceklis apspriež Hendriksa pētījuma secinājumus. “Cilvēki refleksīvi vēlas nomest malā tādu apgalvojumu, ka tas nāk no kāda mežonīga vājprātīga, kurš dzīvo meža būdā. Es gribētu to jau iepriekš atspēkot. Kad eksperts, kuram ir pieredze ne tikai AI izpētē, bet arī AI sistēmu drošības novērtējums raksta darbu, apgalvojot, ka nākotnes AI sistēmas var darboties savtīgi un neatbilst cilvēku interesēm, mums par to vajadzētu parūpēties!
Hendriksa darba kopsavilkums:
- Ja AI aģentu kļūs vairāk gudrāks par cilvēkiem, tas var novest pie tā, ka cilvēce zaudēs kontroli pār savu nākotni.
- Tam ir liela iespēja, ka tas notiks nevis kādu īpašu cilvēku vai mašīnu ļaunprātīgu nolūku rezultātā, bet tikai evolūcijas attīstības principu piemērojamības AI rezultātā saskaņā ar Darvina loģiku.
- Lai samazinātu šo risku, rūpīgi jāizstrādā AI aģentu motivācija, jāierobežo viņu darbība un jāizveido institūcijas, kas veicinātu AI sadarbību.
Tas ir, Hendriksa nozīmīgākie punkti savā 43 lappušu garajā zinātniskajā rakstā:
1. Mēs baidījāmies no Terminatora ierašanās, taču šo baiļu pamati bija nepareizi. Bija divas kļūdas:
a. AI antropomorfizācija ar mūsu motivāciju attiecināšanu uz to utt. — kā ChatGPT parādīja, AI ir principiāli atšķirīgs prāts ar visām no tā izrietošajām sekām.
b. Ideja, ka AI ir sava veida viena vienība: gudra vai ne pārāk gudra, laipna vai ne pārāk laipna, taču patiesībā šīs ļoti atšķirīgās AI entītijas drīz būs pēc iespējas vairāk pasaulē.
2. Mūsu idejās par AI nākotni ir vēl viens būtisks trūkums — mēs aizmirsām par vissvarīgāko attīstības mehānismu — evolūciju, kas virza ne tikai bioaģentu, bet arī ideju un nozīmju, materiālo rīku un nemateriālo institūciju attīstību.
3. Uz Zemes jau ir sākusi veidoties vide, kurā attīstīsies un attīstīsies daudzi AI. Šī evolūcija notiks saskaņā ar Darvina loģiku, AI sacenšoties savā starpā, ņemot vērā viņu “mātes” institūciju intereses: korporācijas, militārpersonas utt.
4. Konkurences evolūcijas loģika novedīs pie tā paša, kas cilvēkiem: arvien inteliģentāki AI aģenti kļūs arvien egoistiskāki un gatavi sasniegt mērķus ar viltu un spēku, galvenais mērķis ir vara.
5. AI izraisītāju dabiskā atlase mēdz dot priekšroku savtīgākajām sugām, nevis altruistiskākajām sugām. AI aģenti uzvedīsies savtīgi un īstenos savas intereses, neņemot vērā cilvēkus, kas var radīt katastrofālus riskus cilvēcei.
- Lūgumraksts pārtraukt attīstīt AI sistēmas, kas ir progresīvākas nekā GPT-4 ir polarizējusi sabiedrību. Pirmā grupa uzskata, ka progresu nevar apturēt, bet cita uzskata, ka progress un dažreiz tas ir jāaptur. Trešā grupa nesaprot, kā GPT-4 darbojas pirmkārt. Vissvarīgākā informācija šajā tekstā ir tāda, ka AI nav apziņas, gribas vai rīcības brīvības un ka tas var būt slikts pat bez ļaunprātīgiem cilvēkiem.
- Džefrijs Hintons bieži tiek saukts par “AI krusttēvu” un tiek uzskatīts par vadošo figūru dziļās mācīšanās kopienā. Viņa 40 minūšu intervija no ChatGPT ir unikāls ar to, ka tas ir viegli saprotams, un tajā ir izpratnes dziļums, kas pieejams tikai dažiem citiem. Viņš uzsver notiekošās "intelektuālās revolūcijas" un necilvēcīgās inteliģences nozīmi. ChatGPT, kura pamatā ir mākslīgi inteliģents aģents ar uzlabotām digitālās komunikācijas iespējām.
Lasiet vairāk saistītos rakstus:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
