Dan Hendrycks: Birajući između umjetne inteligencije i ljudi, evolucija neće izabrati nas
Ukratko
Istraživanje Dana Hendrycksa “Prirodna selekcija preferira umjetnu inteligenciju od ljudi” zastrašujući je zaključak.
Iskusan je i poznati istraživač koji je objavio desetke znanstvenih radova o procjeni sigurnosti AI sustava.
Istraživanje Dana Hendrycksa zvuči kao smrtna presuda za Homo Sapiensa. Zaključak studije “Prirodna selekcija daje prednost umjetnoj inteligenciji u odnosu na ljude” stvarno je strašno. Ovo nije napisao popularni vizionar poput Dana Browna, već Dan Hendrycks, direktor Kalifornijskog centra za sigurnost umjetne inteligencije (CAIS), neprofitne organizacije specijalizirane za istraživanje i rad na terenu u sigurnosti umjetne inteligencije.
Dan Hendrycks nije obični luđak koji paničari zbog napretka umjetne inteligencije. On je iskusan i široko cijenjen istraživač koji je objavio desetke znanstvenih radova o procjeni sigurnosti AI sustava — testirajući koliko su dobri u kodiranju, zaključivanju, razumijevanju zakona itd. Između ostalog, on je također suizumitelj Gaussove jedinice linearne pogreške (GELU).
Jack Clark, suosnivač ChatGPT natjecatelj Anthropic, supredsjedatelj AI Indexa Sveučilišta Stanford, supredsjedatelj odjela za umjetnu inteligenciju i računarstvo OECD-a i član Nacionalnog savjetodavnog odbora za AI američke vlade raspravlja o zaključku Hendrycksove studije. “Ljudi refleksno žele odbaciti takvu izjavu kao da dolazi od nekog luđaka s divljim očima koji živi u šumskoj kolibi. Želio bih to unaprijed demantirati. Kada stručnjak koji ima iskustva ne samo u istraživanju umjetne inteligencije, već iu procjena sigurnosti AI sustava piše rad u kojem tvrdi da bi budući sustavi umjetne inteligencije mogli djelovati sebično i ne u skladu s interesima ljudi, trebali bismo se pobrinuti za to!
Sažetak Hendrycksovog rada:
- Ako AI agenata postane više inteligentniji od ljudi, to bi moglo dovesti do toga da čovječanstvo izgubi kontrolu nad svojom budućnošću.
- Postoji velika vjerojatnost da se to dogodi ne kao rezultat neke posebne zlonamjerne namjere ljudi ili strojeva, već isključivo kao rezultat primjenjivosti evolucijskih načela razvoja na AI prema darvinističkoj logici.
- Kako bi se rizik od ovoga sveo na najmanju moguću mjeru, intrinzične motivacije agenata umjetne inteligencije treba pažljivo osmisliti, postaviti ograničenja na njihove radnje i stvoriti institucije za poticanje suradnje umjetne inteligencije.
To jest, najvažnije točke koje Hendrycks iznosi u svom znanstvenom radu na 43 stranice:
1. Bojali smo se dolaska Terminatora, ali temelji tih strahova bili su pogrešni. Bile su dvije greške:
a. Antropomorfizacija umjetne inteligencije s pripisivanjem naših motivacija njoj, itd.—kao ChatGPT pokazalo, AI je bitno drugačiji um, sa svim posljedicama koje iz toga proizlaze.
b. Ideja da je umjetna inteligencija svojevrsni jedinstveni entitet: pametan ili ne baš pametan, ljubazan ili ne baš ljubazan, ali zapravo će ovih vrlo različitih entiteta umjetne inteligencije uskoro biti što više u svijetu.
2. Postoji još jedan temeljni nedostatak u našim idejama o budućnosti s umjetnom inteligencijom — zaboravili smo na najvažniji razvojni mehanizam — evoluciju, koja pokreće razvoj ne samo bioagensa, već i ideja i značenja, materijalnih alata i nematerijalnih institucija.
3. Okolina se već počela oblikovati na Zemlji u kojoj će se mnoge umjetne inteligencije razvijati i razvijati. Ova će evolucija ići po Darwinovoj logici, kroz međusobno natjecanje AI-a, vodeći računa o interesima svojih “matičnih” institucija: korporacija, vojske itd.
4. Logika natjecateljske evolucije dovest će do istoga kao i kod ljudi: sve inteligentniji agenti AI-a postat će sve sebičniji i spremniji na postizanje ciljeva prijevarom i silom, a glavni cilj je moć.
5. Prirodna selekcija agenata umjetne inteligencije ima tendenciju favorizirati sebičnije vrste u odnosu na altruističnije. AI agenti će se ponašati sebično i slijediti vlastite interese bez obzira na ljude, što bi moglo dovesti do katastrofalnih rizika za čovječanstvo.
- Peticija prestati razvijati AI sustave naprednije od GPT-4 polarizirao je društvo. Prva skupina vjeruje da se napredak ne može zaustaviti, dok druga vjeruje da napredak, a ponekad i treba, biti zaustavljen. Treća skupina ne razumije kako GPT-4 djeluje na prvom mjestu. Najvažniji detalji u ovom tekstu su da umjetna inteligencija nema svijest, volju ni djelovanje te da može biti loša i bez zlonamjernih ljudi.
- Geoffrey Hinton se često naziva "Kumom umjetne inteligencije" i smatra se vodećom figurom u zajednici dubokog učenja. Njegov 40-minutni intervju od ChatGPT jedinstven je po tome što ga je lako razumjeti i ima dubinu razumijevanja dostupnu nekolicini drugih. Ističe važnost tekuće "intelektualne revolucije" i neljudske inteligencije ChatGPT, koji se temelji na umjetno inteligentnom agentu s naprednim mogućnostima digitalne komunikacije.
Pročitajte više povezanih članaka:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
