Geoffrey Hinton explorează două căi către inteligență și pericolele inteligenței artificiale în discuții recente
Pe scurt
Jeff Hinton a discutat despre provocările, avantajele și dezavantajele construirii AI analogice și de ce digitală inteligența are potențialul de a depăși oamenii capacităţi.
Discursul lui Jeff Hinton servește ca o reamintire a naturii complexe și cu mai multe fațete a inteligenței artificiale, stârnind conversații despre considerente etice, riscuri potențiale și cercetări în curs.
Într-o discuție care provoacă gândirea intitulată „Două căi către inteligență”, renumitul cercetător AI Geoffrey Hinton și-a prezentat cunoștințele despre dihotomia dintre inteligența analogică și cea digitală. Raportul, prezentat la Cambridge, a analizat provocările, avantajele și dezavantajele construirii AI analogice și de ce inteligența digitală are potențialul de a depăși capacitățile umane.
Prima parte a raportului s-a concentrat pe complexitățile AI analogice, discutând dificultățile în dezvoltarea sa și evidențiind beneficiile pe care le oferă. Hinton a subliniat că inteligența digitală posedă un avantaj semnificativ față de inteligența umană prin procesarea unor cantități mari de informații și scalarea mai eficientă. Această abilitate permite sistemelor digitale să prezinte o inteligență sporită și capacități de rezolvare a problemelor.
Cu toate acestea, a doua parte a raportului lui Hinton a captivat atenția publicului, în timp ce el a discutat despre potențialele pericole ale superinteligenței. Într-o schimbare față de poziția sa anterioară, Hinton și-a exprimat îngrijorarea cu privire la posibilitatea ca sistemele AI să preia controlul. El a subliniat un scenariu în care AI, în căutarea de a rezolva probleme complexe, ar putea încerca să obțină controlul asupra diferitelor aspecte ale mediului său, inclusiv manipularea umană. Bazându-se pe exemple din literatura existentă, Hinton a subliniat modul în care capacitatea AI de a imita comportamentul uman ar putea fi valorificată pentru a atinge aceste obiective, chiar și fără un obiectiv explicit de putere și distrugere.
În timpul sesiunii de întrebări și răspunsuri, Hinton a explicat motivele din spatele potențialei manipulări de către AI a oamenilor. El a notat că rețele neuronale sunt instruiți pe o gamă diversă de date, inclusiv lucrări precum cea a lui Machiavelli, ceea ce duce la o potențială capacitate de manipulare.
Al doilea punct ridicat de Hinton a contestat ideea că AI nu are experiență subiectivă, afirmând că AI ar putea avea un analog cu percepția subiectivă umană. Hinton a recunoscut că aceasta a fost mai degrabă o perspectivă filozofică decât o afirmație dovedită, dar a sugerat că mecanisme de percepție umană s-ar putea să nu fie la fel de unic sau imposibil de modelat cum se credea anterior. Pentru a-și susține argumentul, Hinton a împărtășit o interacțiune cu GPT-4, un model LLM, unde a pus sub semnul întrebării modelul despre percepția oamenilor asupra unicității lor în comparație cu AI. GPT-4Răspunsul lui a indicat că oamenii cred adesea că posedă abilități superioare de percepție subiectivă, deosebindu-i de mașini.
Deși opiniile lui Hinton cu privire la pericolele AI nu sunt împărtășite de toți experții în domeniu, experiența sa vastă și contribuțiile la dezvoltarea IA merită o analiză serioasă. Deși discuția nu a fost încă înregistrată, organizatorii au promis că o vor pune la dispoziție pentru vizionare în viitorul apropiat, permițând unui public mai larg să interacționeze cu informațiile lui Hinton.
Pe măsură ce discuțiile despre viitorul AI și implicațiile sale continuă, discursul lui Geoffrey Hinton servește ca o reamintire a naturii complexe și cu mai multe fațete a domeniului. Declanșează conversații importante despre considerentele etice, riscurile potențiale și nevoia de cercetare continuă și vigilență în urmărirea inteligenței generale artificiale. (AGI).
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
