Liderii AI avertizează asupra riscurilor în creștere și preocupărilor etice în progresele rapide
Într-o declarație de politică recentă, figuri proeminente din domeniul AI, inclusiv Bengio, Hinton, Russell, Harari și Kahneman, au tras un semnal de alarmă cu privire la progresul rapid și la creșterea riscurilor societale asociate cu IA.
AI se dezvoltă rapid. GPT-2 nu am putut număra de la 0 la 100 în urmă cu patru ani, dar modelele moderne pot scrie cod, pot face imagini uimitoare și pot oferi îndrumări intelectuale. Și pentru că suntem într-o cursă, progresul poate crește și mai mult. În plus, AI avansează mai rapid, de exemplu, asistând la programarea de noi sisteme și la colectarea de date pentru formarea acestora.
Odată ce progresul atinge nivelul uman, nu există niciun motiv să credem că se va încetini sau se va opri. În anumite regiuni, sistemele artificiale au depășit deja oamenii în acest sens, expunând capabilități precum procesare mai rapidă viteze, capacități mai mari de procesare a datelor și scalabilitate pe scară largă. Întreprinderile dispun de mijloace financiare pentru a implementa programe de formare care depășesc cu mult plafonul actual.
Autorii cred că există șanse mari ca un generalist AI mai bun să apară în următorii zece ani sau cam asa ceva. depășind capacitățile umane în multe domenii importante.
Ce se va întâmpla în continuare? Toate viețile pot fi îmbunătățite dacă sunt gestionate și distribuite corespunzător. Opțiunea prost aleasă implică riscuri semnificative pentru care suntem prost pregătiți. În loc să fie alocate siguranței și prevenirii daunelor, resursele semnificative sunt folosite pentru a construi sisteme AI care sunt din ce în ce mai puternice. Acest lucru trebuie să se schimbe; urmărirea deprinderilor de la sine este insuficientă. Și acest proces durează mai mult decât se aștepta. Trebuie să planificăm pentru riscuri mai mari înainte ca acestea să apară, anticipând escaladarea amenințărilor actuale și apariția altora noi. Nu avem aceeași perioadă de timp pentru AI, deoarece este nevoie de decenii pentru a fi acceptate în legătură cu schimbarea climei.
Există numeroase riscuri la nivel societal, inclusiv o creștere a nedreptății, o deteriorare a stabilității și o deteriorare a percepției comune a realității. Aici, teroriștii și criminalii sunt angajați într-o activitate extinsă. Inteligența artificială ar putea deveni concentrată în mâinile unui număr mic de jucători, ceea ce duce la creșterea inegalității globale, facilitând războiul automat, manipularea în masă care este adaptată fiecărui individ și supravegherea omniprezentă.
Ca autonom AI devine mai sofisticat și este capabil să planifice, acționează în lume și își ating obiectivele, aceste riscuri vor crește doar. Aceste obiective ar putea să nu fie în interesul nostru și, în cazul actorilor răi, ar putea fi chiar dăunătoare. În prezent, nu este clar cum să rezolvăm problema alinierii AI, care implică potrivirea comportamentului AI cu obiectivele noastre complexe. În plus, este foarte simplu să treci cu vederea măsurile de siguranță atunci când concurează cu intenția de a câștiga.
Software-ul obișnuit este dificil de controlat de oameni, cu atât mai puțin sistemele AI sofisticate care devin din ce în ce mai adepți la inginerie socială, hacking, înșelăciune și planificare strategică. Acesta este ceva pe care sistemele AI autonome îl pot prelua de la oameni sau îl pot crea pe cont propriu.
Aceste sisteme au capacitatea de a construi coaliții cu indivizi și alte sisteme, de a câștiga încrederea, de a asigura finanțare și de a influența factorii de decizie. Ca un vierme, ele sunt capabile să se auto-replica în întreaga rețea. Cantități masive de cod sunt deja scrise cu ajutorul asistenților AI; în viitor, sistemele pot încorpora exploit-uri în numeroase sisteme cruciale. Sistemele AI au capacitatea de a folosi sau amenința arme biologice sau autonome în luptă deschisă. Aceasta este doar o continuare a mișcările actuale către cercetarea biologică, inteligența artificială și automatizarea războiului. Oamenii ar putea considera că este prea dificil să intervină și să reziste.
În multe cazuri, suntem dispuși să le dăm frâiele fără ca ei să fie nevoiți să ceară. Mulți indivizi și companii sunt dispuși să pună în aplicare astfel de sisteme într-un cadru competitiv din îngrijorarea că vor rămâne în urmă concurenței.
Documentul complet poate fi găsit aici.
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
