Geoffrey Hinton istražuje dva puta do inteligencije i opasnosti umjetne inteligencije u nedavnom razgovoru
Ukratko
Jeff Hinton raspravljao je o izazovima, prednostima i nedostacima izgradnje analogne umjetne inteligencije i zašto digitalne inteligencija ima potencijal nadmašiti ljudsku sposobnosti.
Govor Jeffa Hintona služi kao podsjetnik na složenu i višestruku prirodu umjetne inteligencije, potaknuvši razgovore o etičkim razmatranjima, potencijalnim rizicima i tekućim istraživanjima.
U govoru koji potiče na razmišljanje pod naslovom "Dva puta do inteligencije”, poznati istraživač umjetne inteligencije Geoffrey Hinton predstavio je svoje uvide u dihotomiju između analogne i digitalne inteligencije. Izvješće, objavljeno na Cambridgeu, bavilo se izazovima, prednostima i nedostacima izgradnje analogne umjetne inteligencije i zašto digitalna inteligencija ima potencijal nadmašiti ljudske sposobnosti.
Prvi dio izvješća bio je usredotočen na zamršenost analogne umjetne inteligencije, raspravljajući o poteškoćama u njenom razvoju i ističući prednosti koje nudi. Hinton je naglasio da digitalna inteligencija ima značajnu prednost u odnosu na ljudsku inteligenciju jer obrađuje ogromne količine informacija i učinkovitije skalira. Ova sposobnost omogućuje digitalnim sustavima da pokažu povećanu inteligenciju i sposobnost rješavanja problema.
Međutim, drugi dio Hintonova izvješća zaokupio je pozornost publike, dok je raspravljao o potencijalne opasnosti superinteligencije. Za razliku od svog prethodnog stava, Hinton je izrazio zabrinutost zbog mogućnosti da sustavi umjetne inteligencije preuzmu kontrolu. Ocrtao je scenarij u kojem umjetna inteligencija, u svojoj potrazi za rješavanjem složenih problema, može nastojati steći kontrolu nad različitim aspektima svoje okoline, potencijalno uključujući ljudsku manipulaciju. Oslanjajući se na primjere iz postojeće literature, Hinton je istaknuo kako se sposobnost umjetne inteligencije da oponaša ljudsko ponašanje može iskoristiti za postizanje ovih ciljeva, čak i bez eksplicitnog cilja moći i uništenja.
Tijekom sesije pitanja i odgovora, Hinton je proširio razloge koji stoje iza mogućeg manipuliranja ljudima od strane umjetne inteligencije. Napomenuo je da neuronske mreže obučeni su na različitim podacima, uključujući radove poput Machiavellijevih, što dovodi do potencijalne sposobnosti za manipulaciju.
Druga točka koju je iznio Hinton dovodi u pitanje ideju da umjetnoj inteligenciji nedostaje subjektivno iskustvo, tvrdeći da umjetna inteligencija može imati analogiju ljudskoj subjektivnoj percepciji. Hinton je priznao da je ovo bila filozofska perspektiva, a ne dokazana izjava, ali je sugerirao da mehanizmi ljudske percepcije možda neće biti tako jedinstven ili ga je nemoguće modelirati kao što se prije vjerovalo. Kako bi potkrijepio svoj argument, Hinton je podijelio interakciju s GPT-4, LLM model, gdje je ispitivao model o percepciji ljudi o njihovoj jedinstvenosti u usporedbi s umjetnom inteligencijom. GPT-4Odgovor korisnika pokazao je da ljudi često vjeruju da posjeduju superiorne sposobnosti subjektivne percepcije, što ih razlikuje od strojeva.
Iako Hintonova stajališta o opasnostima umjetne inteligencije ne dijele svi stručnjaci na tom području, njegovo opsežno iskustvo i doprinos razvoj AI zahtijevaju ozbiljno razmatranje. Iako govor tek treba biti snimljen, organizatori su obećali da će ga učiniti dostupnim za gledanje u bliskoj budućnosti, omogućujući široj publici da se uključi u Hintonove uvide.
Dok se rasprave oko budućnosti umjetne inteligencije i njezinih implikacija nastavljaju, govor Geoffreya Hintona služi kao podsjetnik na složenu i višestruku prirodu ovog područja. Potiče važne razgovore o etičkim razmatranjima, potencijalnim rizicima i potrebi za stalnim istraživanjem i budnošću u potrazi za općom umjetnom inteligencijom (AGI).
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
