Dan Hendrycks: Alegând între AI și oameni, evoluția nu ne va alege pe noi
Pe scurt
Cercetarea lui Dan Hendrycks „Selecția naturală preferă inteligența artificială oamenilor” este o concluzie înfricoșătoare.
Este un cercetător experimentat și binecunoscut, care a publicat zeci de lucrări științifice despre evaluarea securității sistemelor AI.
Cercetarea lui Dan Hendrycks sună ca o condamnare la moarte pentru Homo Sapiens. Concluzia studiului „Selecția naturală favorizează IA față de oameni” este cu adevărat înfricoșător. Acest lucru a fost scris nu de un vizionar popular precum Dan Brown, ci de Dan Hendrycks, directorul Centrului California pentru Securitate AI (CAIS), o organizație non-profit specializată în cercetare și lucru pe teren în securitatea AI.
Dan Hendrycks nu este un nebun marginal panicat de progresele AI. Este un cercetător cu experiență și larg respectat, care a publicat zeci de lucrări științifice despre evaluarea securității sistemelor AI — testând cât de buni sunt la codificare, raționament, înțelegere a legilor etc. Printre altele, el este și co-inventatorul unitățile de eroare liniară gaussiană (GELU).
Jack Clark, co-fondator al ChatGPT concurentul Anthropic, copreședinte al Indexului AI al Universității Stanford, copreședinte al secțiunii AI și Calcul a OCDE și membru al Comitetului Consultativ Național pentru IA al Guvernului SUA discută concluzia studiului lui Hendrycks. „Oamenii vor în mod reflex să lase deoparte o astfel de afirmație, cum ar fi venită de la un nebun cu ochi sălbatici care locuiește într-o colibă de pădure. Aș dori să infirm acest lucru în avans. Când un expert care are experiență nu numai în cercetarea AI, ci și în evaluarea siguranței sistemelor AI scrie o lucrare susținând că viitoarele sisteme AI pot acționa egoist și nu în conformitate cu interesele oamenilor, ar trebui să avem grijă de asta!
Un rezumat al lucrării lui Hendrycks:
- Dacă agenții AI devin mai mulți inteligent decât oamenii, acest lucru ar putea duce la pierderea controlului umanității asupra viitorului său.
- Acest lucru are șanse mari să se întâmple nu ca urmare a unor intenții speciale rău intenționate a oamenilor sau a mașinilor, ci doar ca urmare a aplicabilității principiilor evolutive ale dezvoltării la AI conform logicii darwiniste.
- Pentru a minimiza riscul acestui lucru, motivațiile intrinseci ale agenților AI trebuie proiectate cu atenție, restricții impuse acțiunilor lor și instituții create pentru a încuraja colaborarea AI.
Adică, cele mai semnificative puncte pe care Hendrycks le face în lucrarea sa științifică de 43 de pagini:
1. Ne era teamă de sosirea Terminatorului, dar fundamentele acestor temeri erau greșite. Au fost doua erori:
A. Antropomorfizarea IA cu atribuirea motivațiilor noastre etc.—as ChatGPT a arătat, AI este o minte fundamental diferită, cu toate consecințele care vin din aceasta.
b. Ideea că AI este un fel de entitate unică: inteligentă sau nu foarte inteligentă, amabilă sau nu foarte bună, dar, de fapt, aceste entități AI foarte diferite vor fi în curând în lume cât mai mult posibil.
2. Există un alt defect fundamental în ideile noastre despre viitorul cu inteligența artificială - am uitat de cel mai important mecanism de dezvoltare - evoluția, care conduce la dezvoltarea nu numai a agenților biologici, ci și a ideilor și a semnificațiilor, a instrumentelor materiale și a instituțiilor nemateriale.
3. Un mediu a început deja să prindă contur pe Pământ în care multe IA se vor dezvolta și evolua. Această evoluție va merge conform logicii lui Darwin, prin competiția AI între ei, ținând cont de interesele instituțiilor lor „mamă”: corporații, armata etc.
4. Logica evoluției competitive va duce la aceeași ca la oameni: agenții AI din ce în ce mai inteligenți vor deveni din ce în ce mai egoiști și gata să atingă obiectivele prin înșelăciune și forță, scopul principal fiind puterea.
5. Selecția naturală a agenților AI tinde să favorizeze speciile mai egoiste față de cele mai altruiste. Agenții AI se vor comporta în mod egoist și își vor urmări propriile interese cu puțină atenție pentru oameni, ceea ce ar putea duce la riscuri catastrofale pentru umanitate.
- Petiția pentru a opri dezvoltarea sistemelor AI mai avansate decât GPT-4 a polarizat societatea. Primul grup consideră că progresul nu poate fi oprit, în timp ce altul consideră că progresul și, uneori, ar trebui să fie oprit. Al treilea grup nu înțelege cum GPT-4 operează în primul rând. Cele mai importante detalii din acest text sunt că AI nu are conștiință, voință sau agenție și că poate fi rău chiar și fără oameni rău intenționați.
- Geoffrey Hinton este adesea numit „Nașul AI” și este considerat o figură importantă în comunitatea de învățare profundă. Interviul său de 40 de minute cu ChatGPT este unic prin faptul că este ușor de înțeles și are o înțelegere profundă accesibilă pentru puțini alții. El subliniază importanța „revoluției intelectuale” în curs și a inteligenței inumane a ChatGPT, care se bazează pe un agent inteligent artificial cu capabilități avansate de comunicare digitală.
Citiți mai multe articole conexe:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
