Experții în tehnologie semnează o scrisoare deschisă prin care solicită o pauză temporară pentru instruirea sistemelor AI mai avansate decât GPT-4
Pe scurt
Peste 1100 de semnatari au semnat scrisoarea deschisă cerând o pauză a experimentelor gigantice de IA.
Printre semnatari se numără Elon Musk, Steve Wozniak și Emad Mostaque, printre alții.
Scrisoarea deschisă a ridicat îngrijorări cu privire la prejudecățile informaționale din partea AI, automatizarea locurilor de muncă și riscul AI asupra civilizației umane.
Peste 1,100 de semnatari, inclusiv experți de top în tehnologie, au semnat un scrisoare deschisă cerând o pauză de șase luni în instruirea sistemelor AI mai avansate decât GPT-4.
Scrisoarea a fost scrisă de Institutul Viitorul Vieții, o organizație nonprofit care lucrează pentru a reduce riscurile catastrofale și existențiale globale cu care se confruntă umanitatea, în special riscul existențial din inteligența artificială avansată.
Citând Principiile Asilomar AI larg aprobate, care afirmă că „IA avansată ar putea reprezenta o schimbare profundă în istoria vieții pe Pământ și ar trebui să fie planificată și gestionată cu atenție și resurse pe măsură”, scrisoarea spune că nivelul de planificare și managementul nu se întâmplă.
Scrisoarea continuă spunând că laboratoarele de inteligență artificială se află într-o cursă „scăpată de control” pentru a dezvolta o inteligență artificială din ce în ce mai puternică, pe care nimeni nu o poate înțelege, prezice sau controla în mod fiabil. Așa cum ar fi sistemele AI contemporane GPT-4 poate să concurează cu oamenii În ceea ce privește sarcinile generale, scrisoarea ridică îngrijorări cu privire la prejudecățile informaționale din partea AI, automatizarea locurilor de muncă și riscul de a pierde controlul asupra civilizației umane.
„Solicităm tuturor laboratoarelor de inteligență artificială să întrerupă imediat pentru cel puțin șase luni pregătirea sistemelor de inteligență artificială mai puternice decât GPT-4. Această pauză ar trebui să fie publică și verificabilă și să includă toți actorii cheie. Dacă o astfel de pauză nu poate fi adoptată rapid, guvernele ar trebui să intervină și să instituie un moratoriu.”
se spune în scrisoare.
Scrisoarea imploră laboratoarele de inteligență artificială și experții în tehnologie să folosească perioada de pauză pentru a dezvolta și implementa protocoale de siguranță pentru proiectarea și dezvoltarea avansată a inteligenței artificiale, care sunt auditate și supravegheate riguros de experți externi independenți.
Cu toate acestea, jurnalistul american Jeff Jarvis a criticat scrisoarea, spunând că este „un prim specimen de panică morală”.
Unele dintre mințile de frunte în tehnologie și învățare automată care au semnat scrisoarea alături de cercetători DeepMind și mai mulți profesori universitari din întreaga lume includ:
- Yoshua Bengio, Universitatea din Montréal, laureat Turing pentru dezvoltarea învățării profunde, șef al Institutului de Algoritmi de Învățare din Montreal
- Stuart Russell, Berkeley, profesor de informatică, director al Centrului pentru sisteme inteligente și coautor al manualului standard „Inteligenta artificială: o abordare modernă”
- Elon Musk, CEO al SpaceX, Tesla și Twitter
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, co-fondator al Skype, Centrul pentru Studiul Riscului Existențial, Institutul Viitorul Vieții
- Gary Marcus, Universitatea din New York, cercetător AI, profesor emerit
- Marc Rotenberg, Centrul pentru AI și Politică Digitală (CAIDP), Președinte
Într-o scrisoare recentă, Rotenberg a scris că CAIDP va depune o plângere la Comisia Federală pentru Comerț, solicitând o investigare a Open AI și ChatGPT, precum și interzicerea lansărilor comerciale ulterioare ale produsului până la stabilirea măsurilor de protecție.
OpenAI CEO-ul Sam Altman are admise că „avem nevoie și de suficient timp pentru ca instituțiile noastre să-și dea seama ce să facă” și că societatea nu este departe de instrumentele AI generative „potențial înfricoșătoare”.
„Solicităm FTC să „apăseze butonul de pauză”, astfel încât să existe o oportunitate pentru instituțiile noastre, legile și societatea noastră să ajungă din urmă. Trebuie să ne asumăm agenție asupra tehnologiilor pe care le creăm înainte de a pierde controlul”, se arată în scrisoarea CAIDP.
În altă parte, legiuitorii UE își propun să semneze un acord cu țările UE până la sfârșitul anului pentru a implementa regulile IA, deși s-ar putea atinge un blocaj pe măsură ce dezbaterile asupra modului în care ar trebui guvernată AI se intensifică.
Citeşte mai mult:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Cindy este jurnalist la Metaverse Post, acoperind subiecte legate de web3, NFT, metavers și AI, cu accent pe interviuri cu Web3 jucători din industrie. Ea a vorbit cu peste 30 de directori de nivel C și nu mai mult, aducând cunoștințele lor valoroase cititorilor. Originară din Singapore, Cindy are acum sediul în Tbilisi, Georgia. Ea deține o diplomă de licență în Comunicații și Studii Media de la Universitatea din Australia de Sud și are un deceniu de experiență în jurnalism și scris. Luați legătura cu ea prin intermediul [e-mail protejat] cu prezentari de presă, anunțuri și oportunități de interviuri.
Mai multe articole
Cindy este jurnalist la Metaverse Post, acoperind subiecte legate de web3, NFT, metavers și AI, cu accent pe interviuri cu Web3 jucători din industrie. Ea a vorbit cu peste 30 de directori de nivel C și nu mai mult, aducând cunoștințele lor valoroase cititorilor. Originară din Singapore, Cindy are acum sediul în Tbilisi, Georgia. Ea deține o diplomă de licență în Comunicații și Studii Media de la Universitatea din Australia de Sud și are un deceniu de experiență în jurnalism și scris. Luați legătura cu ea prin intermediul [e-mail protejat] cu prezentari de presă, anunțuri și oportunități de interviuri.
