Experții în inteligență artificială și personalitățile publice ridică alarme cu privire la riscul de dispariție a inteligenței artificiale
Pe scurt
Experți proeminenți în IA și figuri influente își exprimă părerile preocupări cu privire la riscurile asociate cu IA.
În ciuda progresului semnificativ în AI, multe provocări legate de riscul AI rămân nerezolvate.
Experți proeminenți în IA și personalități publice au emis o declarație în care avertizează că IA ar putea reprezenta o amenințare pentru supraviețuirea umanității, comparabilă sau chiar mai mare decât riscurile de pandemie și război nuclear. Cei 350 de semnatari susțin că inteligența artificială ar putea avea consecințe neprevăzute și catastrofale, cum ar fi dezlănțuirea armelor autonome, perturbarea sistemelor sociale și economice sau crearea de agenți suprainteligenti care ar putea depăși și depăși oamenii.
Ei solicită factorilor de decizie să ia în serios aceste riscuri și să adopte măsuri pentru a asigura dezvoltarea sigură și benefică a IA. The declaraţie este semnat de unele dintre figurile de top în cercetarea și dezvoltarea AI, cum ar fi OpenAI CEO-ul Sam Altman, co-fondatorul Skype Jaan Tallinn, CEO-ul DeepMind Demis Hassabis și informaticianul AI Geoffrey Hinton, precum și personalități publice influente, cum ar fi muzicianul Grimes și podcasterul Sam Harris.
Printre semnatari s-au numărat câștigători ai Premiului Turing 2018 pentru contribuțiile lor la învățarea profundă: Geoffrey Hinton și Yoshua Bengio. Lor li s-au alăturat profesori de la universități prestigioase precum Harvard și Universitatea Tsinghua din China, precum și Max Tegmark de la MIT.
„Atenuarea riscului de dispariție din cauza inteligenței artificiale ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.”
scrisoarea publicată de CAIS precizează.
Centrul pentru Siguranța AI (CAIS), o organizație nonprofit cu sediul în San Francisco, își propune să abordeze preocupările legate de siguranță legate de inteligența artificială. Recunoscând potențialele beneficii ale AI, CAIS subliniază necesitatea dezvoltării și utilizării acestuia în siguranță. În ciuda progreselor semnificative în AI, numeroase provocări fundamentale în siguranța AI rămân nerezolvate, crede compania. Potrivit site-ului său web, misiunea CAIS este de a atenua riscurile prin efectuarea de cercetări în materie de siguranță, promovarea unei comunități de cercetători în domeniul siguranței AI și promovarea standardelor de siguranță.
„Există multe „riscuri importante și urgente din IA”, nu doar riscul de dispariție; de exemplu, părtinire sistemică, dezinformare, utilizare rău intenționată, atacuri cibernetice și armament. Toate acestea sunt riscuri importante care trebuie abordate. Societățile pot gestiona mai multe riscuri simultan; nu este „ori/sau” ci „da/și”. Din perspectiva managementului riscului, așa cum ar fi nechibzuit să acordăm prioritate exclusiv daunelor prezente, ar fi, de asemenea, nesăbuit să le ignorăm.”
Dan Hendrycks, directorul CAIS scris pe Twitter.
În martie, peste 1,100 de experți în tehnologie semnat o scrisoare deschisă prin care se cere oprirea de șase luni a instruirii sistemelor AI GPT-4. Legislatorii europeni, de asemenea, recent aprobat proiect legislativ mai strict, cunoscut sub numele de Legea AI, care reglementează instrumente AI precum ChatGPT. Actul include cerințe pentru verificări de siguranță, guvernanța datelor și atenuarea riscurilor pentru modelele fundamentale de IA și interzice practici precum tehnicile de manipulare și anumite utilizări ale biometriei.
Citeşte mai mult:
- OpenAI Dezvăluie cea mai recentă abordare pentru asigurarea siguranței AI
- Va anunța Google un generator de text-to-avatar pentru jucători?
- CodeWhisperer de la Amazon oferă dezvoltatorilor avantajul de care au nevoie în Arena AI
- Vitalik Buterin și directorul MIRI Nate Soares se adâncesc în pericolele inteligenței artificiale
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].
Mai multe articole
Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].
