Fost OpenAI Un cercetător dezvăluie creșterea exponențială a capacităților AI și calea către AGI
Pe scurt
Leopold Aschenbrenner, fost OpenAI membru, explorează progresele AI și potențiala cale AGI, examinând probleme științifice, morale și strategice, evidențiind atât pericolele potențiale, cât și potențiale.
În lucrarea sa Hârtie cu pagini 165, fost membru al OpenAI'S Echipa de Superalignment, Leopold Aschenbrenner, oferă o perspectivă amănunțită și provocatoare asupra direcției pe care o ia inteligența artificială. Aschenbrenner încearcă să atragă atenția asupra evoluțiilor rapide ale capabilităților AI, precum și asupra posibilei drumuri către Inteligența Generală Artificială (AGI) și nu numai. Condus de perspectivele de neegalat, precum și de pericolele semnificative pe care le aduc aceste descoperiri, el investighează problemele științifice, morale și strategice din jurul inteligenței generale artificiale.
Aschenbrenner Despre calea de la GPT-4 la AGI
În acest capitol, autorul explorează creșterea exponențială a capabilităților AI care a fost observată recent, în special odată cu inventarea GPT-2 și GPT-4. Leopold Aschenbrenner evidențiază acest lucru ca fiind o perioadă de progres extraordinar, în care inteligența artificială a avansat de la îndeplinirea sarcinilor de bază la atingerea unei înțelegeri și a unei producții de limbaj mai sofisticate, asemănătoare omului.
Foto: Progres de-a lungul a patru ani. Conștientizarea situației
Ideea de ordine de mărime sau „OOM” este esențială pentru această conversație. Aschenbrenner utilizează un ordin de mărime (OOM), care este o măsură pentru creșterea de zece ori într-o anumită măsură, pentru a evalua progresele în capabilitățile AI, puterea de calcul și consumul de date. În ceea ce privește puterea de calcul și scalabilitatea datelor, treceți de la GPT-2 la GPT-4 reprezintă multe MOO, rezultând performanțe și capacități semnificativ îmbunătățite.
Fotografie: Conștientizarea situației
Trei factori principali - legile de scalare, inovația algoritmică și utilizarea unor seturi de date enorme - sunt responsabili pentru aceste câștiguri, care nu sunt doar liniare, ci exponențiale. Conform principiilor de scalare, performanța modelelor se îmbunătățește în mod fiabil atunci când sunt antrenate folosind cantități mai mari de date și capacitate de procesare. Dezvoltarea de modele mai mari și mai puternice, cum ar fi GPT-4, a fost ghidat de această idee.
Fotografie: Conștientizarea situației
Inovația în algoritmi a fost, de asemenea, foarte importantă. Eficacitatea și eficiența modelelor AI au fost sporite de progresele în metodologia de instruire, strategiile de optimizare și arhitecturile subiacente. Aceste evoluții permit modelelor să profite mai bine de puterea de procesare în creștere și de datele disponibile.
Aschenbrenner subliniază, de asemenea, calea posibilă către AGI până în 2027. Pe baza proiecției tendințelor actuale, această predicție sugerează că investițiile susținute în puterea de calcul și eficiența algoritmică pot avea ca rezultat sisteme AI care sunt capabile să îndeplinească sarcini care fie se potrivesc, fie depășesc intelectul uman în o gamă largă de domenii. Fiecare dintre OOM-urile care alcătuiesc ruta către AGI semnifică un progres major în capabilitățile AI.
Fotografie: Conștientizarea situației
Integrarea AGI are consecințe de amploare. Aceste tipuri de sisteme ar putea fi capabile să rezolve singure probleme complicate, să inoveze în moduri care sunt în prezent rezervate profesioniștilor umani și să desfășoare sarcini complicate. Acest lucru implică potențialul sistemelor AI de a continua cercetarea AI, accelerând ritmul cu care domeniul progresează.
Dezvoltarea AGI are potențialul de a transforma industriile și de a crește producția și eficiența. De asemenea, aduce în discuție probleme importante, cum ar fi pierderea locurilor de muncă, aplicarea morală a IA și cerința unor structuri de guvernanță puternice pentru a controla pericolele prezentate de sistemele complet autonome.
Fotografie: Conștientizarea situației
Aschenbrenner îndeamnă comunitatea internațională – care include savanți, legislatori și directori de afaceri – să lucreze împreună pentru a fi pregătiți pentru oportunitățile și problemele pe care le va aduce inteligența artificială (AI). Pentru a aborda caracterul global al acestor preocupări, aceasta presupune finanțarea cercetării privind siguranța și alinierea AI, crearea de reguli care să garanteze partajarea echitabilă a avantajelor AI și încurajarea cooperării internaționale.
Leopold Aschenbrenner își împărtășește gândurile despre superinteligență
Aschenbrenner discută acolo ideea superinteligenței, precum și posibilitatea unei tranziții rapide de la inteligența artificială la sisteme care sunt mult peste capacitatea cunoașterii umane. Ideea centrală a argumentului este că principiile care conduc evoluția AI pot produce o buclă de feedback care explodează în intelect odată ce atinge nivelul uman.
Conform conceptului de explozie de inteligență, un AGI și-ar putea dezvolta propriile algoritmi și abilități pe cont propriu. Sistemele AGI își pot perfecționa propriile design mai rapid decât cercetătorii umani, deoarece sunt mai pricepuți în cercetarea și dezvoltarea AI. Acest ciclu de auto-îmbunătățire poate duce la o creștere exponențială a intelectului.
Fotografie: Conștientizarea situației
Aschenbrenner oferă o examinare amănunțită a variabilelor care ar putea fi implicate în această escaladare rapidă. În primul rând, sistemele AGI ar fi capabile să recunoască modele și perspective cu mult dincolo de înțelegerea umană, datorită vitezei și capacității lor de neegalat de a accesa și procesa volume masive de date.
În plus, se pune accent pe paralelizarea lucrărilor de cercetare. Sistemele AGI, spre deosebire de cercetătorii umani, sunt capabile să efectueze mai multe teste simultan, îmbunătățind paralel diferite părți ale designului și performanței lor.
Consecințele superinteligenței sunt, de asemenea, tratate în acest capitol. Aceste sisteme ar fi mult mai puternice decât orice persoană, având capacitatea de a dezvolta noi tehnologii, de a rezolva puzzle-uri științifice și tehnologice complicate și poate chiar să guverneze sistemele fizice în moduri care sunt de neconceput astăzi. Aschenbrenner vorbește despre posibilele avantaje, cum ar fi progresele în știința materialelor, energie și sănătate, care ar putea îmbunătăți semnificativ productivitatea economică și bunăstarea umană.
Fotografie: Conștientizarea situației
Leopold, totuși, evidențiază și pericolele grave care vin cu superinteligența. Controlul este printre problemele principale. Devine foarte dificil să ne asigurăm că un sistem se comportă într-un mod care este în concordanță cu valorile și interesele umane odată ce depășește intelectul uman. Riscurile existențiale apar din posibilitatea de dezaliniere, în care obiectivele sistemului suprainteligent diferă de cele ale umanității.
În plus, există și alte situații în care sistemele superinteligente ar putea avea consecințe dezastruoase. Acestea sunt situații în care sistemul ia în mod intenționat sau accidental acțiuni sau rezultate care sunt dăunătoare oamenilor pentru a-și atinge obiectivele.
Aschenbrenner solicită un studiu amănunțit asupra alinierii și siguranței AI pentru a reduce aceste amenințări. Crearea de metode puternice pentru a garanta că obiectivele și acțiunile sistemelor superinteligente rămân în conformitate cu valorile umane este un aspect al acestui lucru. Pentru a gestiona problemele complexe puse de superinteligență, el propune o abordare multidisciplinară care încorporează perspective din domenii precum tehnologia, moralitatea și științele umaniste.
Leopold împărtășește la ce provocări ar trebui să ne așteptăm cu dezvoltarea AGI
Autorul abordează problemele și provocările legate de crearea și utilizarea inteligenței artificiale (AGI) și a sistemelor superinteligente în acest pasaj. El discută problemele care trebuie rezolvate la nivel tehnologic, moral și de securitate pentru a garanta că avantajele IA sofisticate pot fi atinse fără a prezenta pericole extrem de mari.
Mobilizarea industrială masivă necesară pentru a construi infrastructura de calcul necesară pentru AGI este una dintre principalele probleme care sunt luate în considerare. Potrivit lui Aschenbrenner, atingerea AGI va avea nevoie de mult mai multă putere de procesare decât este accesibilă acum. Aceasta acoperă îmbunătățiri ale eficienței dispozitivului, utilizarea energiei și capacitățile de procesare a informațiilor, în plus față de capacitatea de calcul absolută.
Foto: Cele mai mari grupuri de antrenament. Conștientizarea situației
Fotografie: Conștientizarea situației
Problemele de securitate sunt încă un alt subiect important în acest capitol. Aschenbrenner subliniază pericolele care ar putea apărea din cauza națiunilor necinstite sau a altor actori răi care folosesc tehnologia AGI. Datorită semnificației strategice a tehnologiei AGI, țările și organizațiile se pot angaja într-o nouă formă de cursă a înarmărilor pentru a crea și a dobândi controlul asupra acestor sisteme puternice. El subliniază cât de important este să existe mecanisme de securitate puternice pentru a se proteja împotriva sabotajului, spionajului și accesului ilegal atunci când se dezvoltă AGI.
Un alt obstacol major este dificultatea tehnologică a gestionării sistemelor AGI. Aceste sisteme se apropie și chiar depășesc inteligența umană. Prin urmare, trebuie să ne asigurăm că acțiunile lor sunt avantajoase și în concordanță cu idealurile umane. Și, fără îndoială, este o provocare chiar acum. „Problema de control”, care are de-a face cu crearea de sisteme AGI care pot fi în mod constant dirijate și controlate de către operatorii umani, este un subiect abordat de Aschenbrenner. Aceasta presupune crearea de măsuri de siguranță, a fi deschis și sincer cu privire la procedurile de luare a deciziilor și a avea puterea de a anula sau opri sistemul după cum este necesar.
Fotografie: Conștientizarea situației
Ramificațiile etice și culturale ale producției de ființe cu un intelect comparabil sau mai mare decât oamenii sunt profund accentuate de dezvoltarea inteligenței generale artificiale (AGI). Drepturile sistemelor de inteligență artificială, efectul asupra locurilor de muncă și economiei și posibilitatea de a escalada injustițiile deja existente sunt alte preocupări. Pentru a aborda pe deplin aceste provocări complexe, Leopold pledează pentru implicarea părților interesate în procesul de dezvoltare a IA.
Posibilitatea unor consecințe neașteptate – în care sistemele AI și-ar putea urmări obiectivele în moduri care sunt dăunătoare sau în contradicție cu intențiile umane – este o altă problemă pe care autorul o abordează. Situațiile în care AGI își interpretează greșit obiectivele sau maximizează obiectivele în moduri neprevăzute și dăunătoare sunt două exemple. Aschenbrenner subliniază cât de crucial este testarea, validarea și urmărirea temeinică a sistemelor AGI.
El vorbește, de asemenea, despre cât de importante sunt cooperarea și guvernanța internațională. Deoarece cercetarea AI este un efort internațional, nicio țară sau instituție nu poate gestiona eficient problemele puse de AGI pe cont propriu.
Venirea proiectului AGI condus de guvern (2027/2028)
Aschenbrenner consideră că, pe măsură ce inteligența generală artificială (AGI) avansează, agențiile de securitate națională – în special cele din SUA – vor avea un rol mai important în crearea și gestionarea acestor tehnologii.
Leopold compară semnificația strategică a inteligenței generale artificiale (AGI) cu realizările tehnice din trecut, cum ar fi bomba atomică și explorarea spațiului. Serviciile de securitate națională ar trebui să acorde prioritate dezvoltării AGI ca o chestiune de interes național, deoarece beneficiile potențiale ale obținerii AGI mai întâi ar putea conferi o influență geopolitică enormă. Potrivit acestuia, aceasta va avea ca rezultat crearea unui proiect AGI sub control guvernamental, care va fi comparabil ca amploare și aspirații cu Programul Apollo sau Proiectul Manhattan.
Proiectul AGI propus ar fi găzduit într-o locație sigură, secretă și ar putea implica corporații din sectorul privat, agenții guvernamentale și instituții academice eminente care lucrează împreună. Pentru a aborda problemele complexe ale dezvoltării AGI, Aschenbrenner subliniază necesitatea unei strategii multidisciplinare care să reunească specialiști în securitate cibernetică, etică, cercetare AI și alte domenii științifice.
Obiectivele proiectului ar fi să se asigure că AGI este în conformitate cu valorile și interesele umane, pe lângă dezvoltarea acestuia. Leopold subliniază cât de crucial este să existe proceduri stricte de testare și validare pentru a garanta că sistemele AGI funcționează într-un mod sigur și previzibil.
Autorul dedică mult spațiu posibilelor efecte ale acestui tip de efort asupra dinamicii puterii globale. Potrivit lui Aschenbrenner, dacă AGI este dezvoltat cu succes, echilibrul de putere se poate schimba, iar țara dominantă va avea avantaje considerabile din punct de vedere tehnologic, economie și putere militară.
Pentru a controla pericolele legate de AGI, autorul abordează și posibilitatea cooperării internaționale și crearea cadrelor de guvernanță globală. Pentru a supraveghea creșterea AGI, a încuraja deschiderea și a garanta că avantajele AGI sunt împărțite în mod echitabil, Leopold este un avocat pentru stabilirea de acorduri internaționale și agenții de reglementare.
Ultimele gânduri ale lui Leopold Aschenbrenner
Aschenbrenner subliniază ramificațiile semnificative ale AGI și ale superinteligenței pentru viitorul omenirii, în timp ce rezumă descoperirile și previziunile abordate în capitolele anterioare. Părțile interesate sunt îndemnate să ia măsurile necesare pentru a se pregăti pentru efectele revoluționare ale IA sofisticate.
Aschenbrenner începe prin a sublinia că prognozele făcute în acest document sunt ipotetice. Modelele care stau la baza creșterii AI implică faptul că apariția AGI și a superinteligenței este fezabilă în următoarele câteva decenii, chiar dacă calendarul și evoluțiile exacte sunt necunoscute. Leopold subliniază importanța luării în considerare a acestor opțiuni cu atenție și a fi pregătit pentru o varietate de eventualități.
Subiectul principal al acestui capitol este nevoia de pregătire proactivă și gândire anticipată. Potrivit lui Aschenbrenner, există puțin spațiu pentru automulțumire, având în vedere viteza cu care se dezvoltă IA. Este imperativ ca factorii de decizie, cercetătorii și liderii de afaceri să prevadă și să gestioneze în mod proactiv dificultățile și posibilitățile prezentate de inteligența artificială (AGI) și superinteligența. De exemplu, finanțarea cercetării în domeniul siguranței AI, crearea unor structuri de guvernanță puternice și încurajarea colaborării globale.
Leopold ia în considerare și consecințele morale și culturale ale inteligenței artificiale. Problemele fundamentale referitoare la natura conștiinței, a inteligenței și a drepturilor entităților AI sunt ridicate de apariția sistemelor cu inteligență comparabilă sau mai mare decât cea a oamenilor. Aschenbrenner îndeamnă eticienii, filozofii și publicul larg să se angajeze într-o conversație amplă și incluzivă pentru a rezolva aceste probleme și a crea o înțelegere comună a viitorului AI.
Posibilitatea ca AGI să agraveze disparitățile sociale și economice deja existente este un subiect suplimentar semnificativ de discuție. Leopold avertizează că, dacă AGI nu este gestionat cu atenție, avantajele sale se pot concentra în mâinile unui număr mic de oameni, provocând nemulțumirea societății și mai multă inegalitate.
El lansează o provocare pentru cooperarea globală pe măsură ce încheie acest capitol. O singură țară nu poate face față beneficiilor și dificultăților legate de AGI din cauza naturii globale a dezvoltării AI. Aschenbrenner îndeamnă națiunile să colaboreze pentru a crea acorduri și convenții internaționale care să susțină dezvoltarea AGI într-un mod care este și etic și sigur. Aceasta presupune schimbul de informații, organizarea de studii și crearea de sisteme pentru a gestiona eventualele dispute și a garanta securitatea internațională.
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Victoria aduce o experiență analitică în domeniul cripto și Web3 spațiu. Ea se ocupă de active digitale, tendințe blockchain și inteligență artificială, traducând evoluții complexe în conținut editorial accesibil.
Mai multe articole
Victoria aduce o experiență analitică în domeniul cripto și Web3 spațiu. Ea se ocupă de active digitale, tendințe blockchain și inteligență artificială, traducând evoluții complexe în conținut editorial accesibil.
