O pauză de 6 luni în instruirea AI este o idee bună, dar poate să nu fie suficientă
Pe scurt
Povestea petiției și lansarea articolului lui Iudkovski au polarizat societatea.
Dilema prizonierului și teoria jocurilor sugerează că este nevoie de o masă critică de oameni sănătoși în diferite locuri pentru ca astfel de probleme să fie rezolvate.
Cu toate acestea, există câteva minusuri la această idee, cum ar fi lipsa de conștiință, voință și agenție în evoluția digitală.
Povestea petiție pentru a opri dezvoltarea sistemelor AI mai avansate decât GPT-4 a polarizat vizibil societatea. Eliberarea lui Yudkovsky articol cerând oprirea dezvoltării ulterioare a GPT modelele au adăugat combustibil incendiului, în special pasajele sale despre bombardarea centrelor de date.
Din ceea ce se poate observa online, se pare că există mult mai puțini susținători ai petiției decât oponenți, care au trei argumente principale:
| 1 | – Progresul nu poate fi oprit. – Petiția a fost inventată de OpenAI concurenți. – China nu va aștepta. |
| 2 | – Nu ar trebui să vă fie frică de AI, ci de oameni. - GPT nu are conștiință, voință, aspirații sau agenție, așa că nu este nimic de care să te temi. - GPT-4 este nebunește departe de a înrobiza lumea pentru că nu înțelege nimic, face greșeli prostești și, în general, este destul de prost. - GPT-4 nu va putea conduce lumea pentru că nu are brațe/picioare. |
| 3 | – Al treilea grup nu înțelege cum GPT-4 operează în primul rând. |
Nu ne vom concentra pe al treilea grup, deoarece poziția lor vine din ignoranță. Asta nu înseamnă că toți adversarii AI știu totul despre AI; puteți găsi o mulțime de oameni anti-AI cărora le lipsește o înțelegere a tehnologiei și a ceea ce presupune aceasta, deși Yudkovsky însuși este foarte aprofundat în subiectul AI, așa că nu poate fi acuzat de ignoranță.
Să aruncăm o privire la primul grup de oameni – cei care cred că progresul nu poate fi oprit. Ele oferă argumente diferite, dar asemănătoare și, în general, acești oameni nu neagă capacitățile AI și perspectivele pe care le aduce adoptarea acesteia și cred că dezvoltarea AI va continua indiferent de ce.
Prima teză despre progresul de neoprit este un slogan care nu trebuie să fie adevărat. Oamenii par să fi oprit unele experimente științifice, iar multe proiecte de cercetare acceptate cândva nu mai sunt considerate etice, iar altele similare nu ar fi permise astăzi. Cu toate acestea, cât de mult mai mult progres în trecut a fost oprit de Inchiziție și alte persecuții religioase, interzicerea cărților și uciderea oamenilor de știință în China (și în alte țări)? Este ceva ce nu vom putea niciodată să înțelegem pe deplin din cauza părtinirii supraviețuirii.
Alte teze implică abordarea care poate fi rezumată ca „dacă nu noi, vor fi ei”. Deși această linie de gândire poate fi mai de înțeles, nici nu pare a fi soluția potrivită. Este foarte asemănătoare cu dilema prizonierului în teoria jocurilor.
Al doilea grup de argumente este cel mai interesant. Deși personal sunt de acord cu asta într-o oarecare măsură, există câteva dar care trebuie abordate. Da, AI nu are conștiință, voință, agenție etc. Nici COVID-19, și totuși a făcut ravagii în întreaga lume. Ceva nu trebuie să aibă un simț al agenției și al conștiinței pentru a deveni periculos; nu este de neimaginat un scenariu conform căruia viața pe pământ va fi distrusă din cauza unui virus. Odată terminată treaba, poate pune scaunele pe mese, poate stinge luminile și poate pleca pentru totdeauna.
Continuând analogia biologică, există un articol minunat, „Creativitatea surprinzătoare a evoluției digitale: o colecție de anecdote din comunitățile de cercetare în domeniul calculului evolutiv și al vieții artificiale”, care oferă multe exemple despre când procesele merg într-o direcție neașteptată. Chiar și fără un proces evolutiv, totul poate merge în generalizarea greșită „Generalizare greșită a obiectivelor: de ce specificațiile corecte nu sunt suficiente pentru obiectivele corecte”. A da frâu liber unui proces de optimizare poate merge prost este discutat în „Riscuri din optimizarea învățată în sistemele avansate de învățare automată. "
În același timp, în general, nu luăm în considerare riscurile utilizarea rău intenționată a AI și orice folosire greșită, care alimentează doar argumentul că trebuie să ne fie frică de oameni și nu de IA în sine. Cu toate acestea, adevărul este că inteligența artificială poate fi proastă chiar și fără persoane rău intenționate.
De asemenea, sunt de acord cu faptul că modelul face greșeli stupide, dar și oamenii, și totuși știm că pot face rău. În timp ce modelele fac multe greșeli, ele pot rezolva, de asemenea, multe probleme minunate, interesante și complexe pe care omul obișnuit nu le poate rezolva. Din lucrarea notorie „Scântei de inteligență generală artificială: experimente timpurii cu GPT-4,” M-a surprins, că AI poate rezolva, deși nu întotdeauna corect, probleme Fermi, probleme matematice destul de complexe. Teoria minții și „cum ar fi capacitatea de a înțelege” acțiunile celorlalți sunt, de asemenea, foarte impresionante. Toate aceste lucruri indică inteligența AI; existente, dar nu chiar ca ale noastre.
Eliminarea cel puțin a unora dintre greșelile pe care modelele AI le fac este, în general, fezabilă, astfel încât inteligența lor poate crește doar. Tot ce trebuie să faceți este să adăugați un modul pentru calcule precise, o bază de date și validare cu alt model.
Cel mai important lucru din toată această poveste este viteza de dezvoltare a AI. GPT Modele au crescut enorm într-un ritm amețitor. Acum, există ChatGPT Plugin-uri disponibil, puteți folosi GPT modele pentru a scrie cod, API-urile sunt disponibile pentru publicul larg și puteți utiliza instrumente externe fără nicio pregătire prealabilă.
GPT-4, desigur, nu va cuceri lumea, dar poate zgudui foarte mult economia. GPT-5, și viitoarea iterație a modelului, s-ar putea să nu fie foarte departe și probabil va veni cu abilități mult mai puternice. Și să recunoaștem, nu putem spera să înțelegem modelele care nu există încă; nici nu ne-am apropiat de a înțelege modelele care există deja. În acest sens, o pauză de șase luni ar putea fi o idee bună, dar pur și simplu poate să nu fie suficientă.
Și având în vedere că Cursa AI a început, nu este timp să înveți.
În general, având în vedere toate acestea, am semnat și petiția. Deși nu cred că va ajuta în vreun fel.
Citiți mai multe subiecte conexe:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
