Esperti di intelligenza artificiale e personaggi pubblici lanciano allarmi sul rischio di estinzione dell'IA
In Breve
Eminenti esperti di intelligenza artificiale e figure influenti esprimono la loro condivisione preoccupazioni riguardo ai rischi associati all’intelligenza artificiale.
Nonostante i significativi progressi nell'IA, molte sfide legate al rischio dell'IA rimangono irrisolte.
Importanti esperti di intelligenza artificiale e personaggi pubblici hanno rilasciato una dichiarazione in cui avvertono che l'IA potrebbe rappresentare una minaccia per la sopravvivenza dell'umanità, paragonabile o addirittura maggiore dei rischi di pandemie e guerre nucleari. I 350 firmatari sostengono che l'intelligenza artificiale potrebbe avere conseguenze impreviste e catastrofiche, come il rilascio di armi autonome, l'interruzione dei sistemi sociali ed economici o la creazione di agenti superintelligenti in grado di superare in astuzia e sopraffare gli esseri umani.
Chiedono ai responsabili politici di prendere sul serio questi rischi e di adottare misure per garantire uno sviluppo sicuro e vantaggioso dell'IA. IL dichiarazione è firmato da alcune delle figure di spicco nella ricerca e sviluppo dell'IA, come ad esempio OpenAI Il CEO Sam Altman, il co-fondatore di Skype Jaan Tallinn, il CEO di DeepMind Demis Hassabis e lo scienziato informatico AI Geoffrey Hinton, nonché personalità pubbliche influenti, come il musicista Grimes e il podcaster Sam Harris.
Tra i firmatari c'erano i vincitori del Turing Award 2018 per i loro contributi al deep learning: Geoffrey Hinton e Yoshua Bengio. A loro si sono uniti professori di prestigiose università come Harvard e Tsinghua University in Cina, oltre a Max Tegmark del MIT.
"Mitigare il rischio di estinzione dell'IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare",
afferma la lettera pubblicata dal CAIS.
Il Centro per la sicurezza dell'IA (CAIS), un'organizzazione senza scopo di lucro con sede a San Francisco, mira ad affrontare i problemi di sicurezza legati all'intelligenza artificiale. Pur riconoscendo i potenziali benefici dell'IA, CAIS sottolinea la necessità di svilupparla e utilizzarla in modo sicuro. Nonostante i significativi progressi nell'IA, numerose sfide fondamentali nella sicurezza dell'IA rimangono irrisolte, ritiene l'azienda. Secondo il suo sito Web, la missione di CAIS è mitigare i rischi conducendo ricerche sulla sicurezza, promuovendo una comunità di ricercatori sulla sicurezza dell'IA e sostenendo gli standard di sicurezza.
“Ci sono molti “rischi importanti e urgenti derivanti dall'IA”, non solo il rischio di estinzione; ad esempio, pregiudizi sistemici, disinformazione, uso dannoso, attacchi informatici e armamento. Questi sono tutti rischi importanti che devono essere affrontati. Le società possono gestire più rischi contemporaneamente; non è "o/o" ma "sì/e". Dal punto di vista della gestione del rischio, proprio come sarebbe sconsiderato dare la priorità esclusivamente ai danni presenti, sarebbe anche sconsiderato ignorarli".
Dan Hendrycks, direttore del CAIS ha scritto su Twitter.
A marzo, oltre 1,100 esperti di tecnologia firmato una lettera aperta che chiede una sospensione di sei mesi della formazione dei sistemi di intelligenza artificiale superati GPT-4. Anche i legislatori europei di recente approvato bozza di legislazione più severa, nota come AI Act, che regola strumenti di intelligenza artificiale come ChatGPT. La legge include requisiti per i controlli di sicurezza, la governance dei dati e la mitigazione del rischio per i modelli di intelligenza artificiale di base e vieta pratiche come tecniche manipolative e determinati usi della biometria.
Leggi di più:
- OpenAI Svela il suo ultimo approccio per garantire la sicurezza dell'IA
- Google annuncerà un generatore di testo in avatar per i giocatori?
- CodeWhisperer di Amazon offre agli sviluppatori il vantaggio di cui hanno bisogno nell'arena AI
- Vitalik Buterin e il direttore del MIRI Nate Soares approfondiscono i pericoli dell'IA
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
Altri articoli
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
