Vitalik Buterin și directorul MIRI, Nate Soares, cercetează pericolele inteligenței artificiale: ar putea inteligența artificială să provoace dispariția umană?
Pe scurt
Fondatorul Ethereum, Vitalik Buterin, și directorul Machine Intelligence Research Institute, Nate Soares, au discutat astăzi despre riscurile AI la Zuzalu.
Zuzalu este o comunitate de oraș pop-up din Muntenegru inițiată de Buterin și colegii săi din comunitatea cripto.
În discuție, Soares și-a împărtășit perspectiva despre motivul pentru care AI este foarte probabil să pună capăt vieții de pe Pământ.
Fondatorul Ethereum, Vitalik Buterin și directorul Institutului de Cercetare pentru Inteligența Mașinilor (MIRI) Nate Soares a discutat astăzi la Zuzalu despre riscurile AI.
Zuzalu este o „comunitate de oraș pop-up” din Muntenegru, inițiată de Buterin și colegii săi din comunitatea cripto, care se desfășoară între 25 martie și 25 mai. Evenimentul reunește 200 de rezidenți de bază cu o dorință comună de a învăța, crea, trăi mai mult și mai sănătos. vieți și construiți comunități care se autosusțin. Pe parcursul a două luni, comunitatea găzduiește și o serie de evenimente pe diverse subiecte precum biologia sintetică, tehnologia pentru confidențialitate, bunuri publice, longevitate, guvernare și multe altele.
discuţie a început cu Soares prezentându-și munca la MIRI, o organizație non-profit din Berkeley, care a existat mai mult decât a condus-o. În ultimii 20 de ani, MIRI a încercat să pună bazele pentru a se asigura că dezvoltarea AI merge bine. Odată cu discuția, Vitalik a sperat să abordeze ceea ce face AI unic riscant în comparație cu alte tehnologii lansate în istoria umanității.
Probabilitatea ca IA să provoace dispariția umană
Vitalik a spus că este interesat de subiectul riscurilor AI de multă vreme și și-a amintit că este convins că există o șansă de 0.5%-1% ca toată viața de pe Pământ să înceteze să existe dacă AI nu merge bine - un risc existențial care ar provoca dispariția rasei umane sau prăbușirea ireversibilă a civilizației umane.
Din perspectiva lui Soares, dispariția umană pare un rezultat implicit al dezvoltării nesigure a tehnologiei AI. Comparând-o cu evoluția, el a spus că dezvoltarea umanității părea să se întâmple mai repede decât au avut loc simplele schimbări ale evoluției. Atât în procesele de IA, cât și în cele de evoluție umană, optimizarea dominantă – un proces de găsire a celei mai bune soluții la o problemă atunci când există mai multe obiective de luat în considerare – se schimba. Oamenii ajunseseră într-un punct în care erau capabili să transmită cunoștințele prin gură în gură, în loc să aibă informațiile conectate în gene prin selecție naturală.
„AI este în cele din urmă un caz în care puteți comuta din nou procesul de optimizare macroscopică. Cred că poți face mult mai bine decât oamenii în ceea ce privește optimizarea. Cred că suntem încă destul de proști când vine vorba de optimizarea mediului înconjurător. Cu AI, trecem printr-o tranziție de fază în care optimizarea automată este forța care determină caracteristicile macroscopice ale universului”, a explicat Soares.
El a adăugat că ceea ce arată viitorul este ceea ce optimizează procesul de optimizare și că probabil că nu va mai fi benefic pentru umanitate, deoarece majoritatea obiectivelor de optimizare nu au loc pentru oameni.
Pot oamenii să antreneze AI să facă bine?
Buterin a subliniat că oamenii sunt cei care antrenează IA și îi spun cum să se optimizeze. Dacă este necesar, ar putea schimba modul în care mașina este optimizată. La asta, Soares a spus că este posibil, în principiu, să antrenezi AI să facă bine, dar pur și simplu antrenarea unei AI pentru a atinge un obiectiv nu înseamnă că ar face sau vrea să facă asta, rezumându-se la dorință.
Făcând un punct despre învățarea prin întărire în modele mari de limbă care primesc cantități mari de date despre preferințele umane, Buterin a întrebat de ce nu ar funcționa, deoarece inteligența existentă devine din ce în ce mai bună în a înțelege care sunt preferințele noastre.
„Există un decalaj mare între a ne înțelege motivațiile și a da un rahat”,
a răspuns Soares.
„Pretenția mea nu este că un model de limbaj mare sau AI nu va înțelege detaliile preferințelor umane. Afirmația mea este că înțelegerea detaliilor preferințelor umane este foarte diferită de optimizarea pentru bunătate”, a adăugat el.
Un membru al audienței a făcut o comparație între inteligența artificială și oameni, spunând că, la fel ca inteligența artificială, oamenii tind să nu înțeleagă ce fac sau ce prezic, ceea ce ar putea fi, de asemenea, periculos. Apoi i-a cerut lui Soares să pretindă că este un extraterestru și să explice de ce nu ar trebui să existe oameni.
„Nu aș fi încântat să ofer puteri asemănătoare lui Dumnezeu și control asupra viitorului unui singur om. Separat, aș fi mult mai încântat să dau putere unui singur om decât unui AI cu rol aleatoriu. Nu spun cu tărie că nu ar trebui să avem AI. Spun că trebuie să facem bine. Trebuie să-i facem să-i pese de un viitor plin de distracție și fericire și civilizații înfloritoare în care transumanii se angajează în schimburi cu sume pozitive cu extratereștri și așa mai departe”, a clarificat Soares. „Dacă construiești un proces de optimizare puternic, căruia îi pasă de lucruri diferite, asta ar putea distruge toate valorile universului.”
El a adăugat că lucrurile pe care oamenii le prețuiesc nu sunt universal convingătoare și că moralitatea nu este ceva pe care orice minte care o studiază l-ar urmări. În schimb, este rezultatul impulsurilor încorporate în oameni care, în mediul ancestral, ne-au făcut să fim buni la reproducere și sunt specifice oamenilor.
În cele din urmă, Soares consideră că nu ar trebui să construim ceva care este la fel de inteligent sau chiar mai inteligent, care nu este în concordanță cu distracția, fericirea și viitorul înfloritor. Pe de altă parte, el a mai spus că omenirea nu ar trebui să construiască o superinteligență prietenoasă care să optimizeze un viitor distractiv la prima încercare în timpul unei curse înarmărilor. Pe termen scurt, AI ar trebui să fie dedicată să ajute omenirea să cumpere timp și spațiu pentru a-și da seama ce își dorește de fapt.
ChatGPT nu va consuma întreaga biosferă
Întrucât AI este în prezent construită pentru a atinge anumite obiective, inclusiv predicții, Buterin a întrebat, ce se întâmplă dacă AI nu ar fi condusă de obiective? Soares a spus că este ușor să construim AI care sunt sigure și incapabile și că este posibil să avem în curând AI care sunt capabile, dar urmăresc lucruri diferite. El nu se gândește ChatGPT va consuma întreaga biosferă, deoarece nu se află la acel nivel de capacitate.
Soares a remarcat că cele mai interesante aplicații AI, cum ar fi automatizarea dezvoltării și cercetării științifice și tehnologice, par să necesite o anumită urmărire a obiectivelor.
„Nu este o greșeală pe care o poți obține GPT să scrii un haiku îngrijit, dar nu îl poți obține pentru a scrie un roman. Limitările sistemelor actuale sunt legate de faptul că ele nu urmăresc aceste obiective mai profunde, cel puțin pentru mine.”
Citeşte mai mult:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Cindy este jurnalist la Metaverse Post, acoperind subiecte legate de web3, NFT, metavers și AI, cu accent pe interviuri cu Web3 jucători din industrie. Ea a vorbit cu peste 30 de directori de nivel C și nu mai mult, aducând cunoștințele lor valoroase cititorilor. Originară din Singapore, Cindy are acum sediul în Tbilisi, Georgia. Ea deține o diplomă de licență în Comunicații și Studii Media de la Universitatea din Australia de Sud și are un deceniu de experiență în jurnalism și scris. Luați legătura cu ea prin intermediul [e-mail protejat] cu prezentari de presă, anunțuri și oportunități de interviuri.
Mai multe articole
Cindy este jurnalist la Metaverse Post, acoperind subiecte legate de web3, NFT, metavers și AI, cu accent pe interviuri cu Web3 jucători din industrie. Ea a vorbit cu peste 30 de directori de nivel C și nu mai mult, aducând cunoștințele lor valoroase cititorilor. Originară din Singapore, Cindy are acum sediul în Tbilisi, Georgia. Ea deține o diplomă de licență în Comunicații și Studii Media de la Universitatea din Australia de Sud și are un deceniu de experiență în jurnalism și scris. Luați legătura cu ea prin intermediul [e-mail protejat] cu prezentari de presă, anunțuri și oportunități de interviuri.
