Esperti tecnologici firmano una lettera aperta chiedendo una pausa temporanea sulla formazione di sistemi di intelligenza artificiale più avanzati di GPT-4
In Breve
Più di 1100 firmatari hanno firmato la lettera aperta chiedendo una pausa sui giganteschi esperimenti di intelligenza artificiale.
I firmatari includono Elon Musk, Steve Wozniak ed Emad Mostaque, tra gli altri.
La lettera aperta ha sollevato preoccupazioni circa i pregiudizi informativi da parte dell’intelligenza artificiale, automazione del lavoro e il rischio dell’intelligenza artificiale sulla civiltà umana.
Più di 1,100 firmatari, inclusi i principali esperti di tecnologia, hanno firmato un lettera aperta chiedendo una pausa di sei mesi sulla formazione dei sistemi di intelligenza artificiale più avanzati GPT-4.
La lettera è stata scritta dal Future of Life Institute, un'organizzazione senza scopo di lucro che lavora per ridurre i rischi catastrofici ed esistenziali globali che l'umanità deve affrontare, in particolare il rischio esistenziale derivante dall'intelligenza artificiale avanzata.
Citando gli Asilomar AI Principles, ampiamente approvati, in cui si afferma che "l'IA avanzata potrebbe rappresentare un profondo cambiamento nella storia della vita sulla Terra e dovrebbe essere pianificata e gestita con cure e risorse adeguate", la lettera afferma che il livello di pianificazione e la gestione non sta accadendo.
La lettera prosegue affermando che i laboratori di intelligenza artificiale sono in una corsa “fuori controllo” per sviluppare un’intelligenza artificiale sempre più potente che nessuno può comprendere, prevedere o controllare in modo affidabile. Come piace ai sistemi di intelligenza artificiale contemporanei GPT-4 può competere con gli umani sui compiti generali, la lettera solleva preoccupazioni sui pregiudizi informativi da parte dell'intelligenza artificiale, dell'automazione del lavoro e del rischio di perdere il controllo sulla civiltà umana.
“Chiediamo a tutti i laboratori di intelligenza artificiale di sospendere immediatamente per almeno 6 mesi l’addestramento dei sistemi di intelligenza artificiale più potenti GPT-4. Questa pausa dovrebbe essere pubblica e verificabile e includere tutti gli attori chiave. Se tale pausa non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria”,
la lettera afferma.
La lettera implora i laboratori di intelligenza artificiale e gli esperti di tecnologia di utilizzare il periodo di pausa per sviluppare e implementare protocolli di sicurezza per la progettazione e lo sviluppo avanzati di intelligenza artificiale che sono rigorosamente controllati e supervisionati da esperti esterni indipendenti.
Tuttavia, il giornalista americano Jeff Jarvis ha criticato la lettera, detto che è un "primo esempio di panico morale".
Alcune delle menti di spicco della tecnologia e dell'apprendimento automatico che hanno firmato la lettera insieme ai ricercatori di DeepMind e a diversi professori universitari di tutto il mondo includono:
- Yoshua Bengio, Università di Montréal, Turing Laureate per lo sviluppo del deep learning, capo del Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, professore di informatica, direttore del Center for Intelligent Systems e coautore del libro di testo standard "Artificial Intelligence: a Modern Approach"
- Elon Musk, CEO di SpaceX, Tesla e Twitter
- Emad Mostaque, amministratore delegato, Stability AI
- Jaan Tallinn, co-fondatore di Skype, Centro per lo studio del rischio esistenziale, Future of Life Institute
- Gary Marcus, New York University, ricercatore di intelligenza artificiale, professore emerito
- Marc Rotenberg, Centro per l'intelligenza artificiale e la politica digitale (CAIDP), Presidente
In un lettera recente, Rotenberg ha scritto che la CAIDP presenterà un reclamo alla Federal Trade Commission, chiedendo un'indagine su Open AI e ChatGPT, nonché il divieto di ulteriori immissioni commerciali del prodotto finché non saranno stabilite misure di salvaguardia.
OpenAI Il CEO Sam Altman ha ammesso che "abbiamo anche bisogno di tempo sufficiente perché le nostre istituzioni capiscano cosa fare" e che la società non è lontana da strumenti di intelligenza artificiale generativa "potenzialmente spaventosi".
“Chiediamo alla FTC di “premere il pulsante di pausa” in modo che ci sia un'opportunità per le nostre istituzioni, le nostre leggi e la nostra società di mettersi al passo. Dobbiamo affermare l'autorità sulle tecnologie che creiamo prima di perdere il controllo", afferma la lettera del CAIDP.
Altrove, legislatori dell'UE mirano a firmare un accordo con i paesi dell'UE entro la fine dell'anno per attuare le norme sull'IA, anche se potrebbe incontrare un collo di bottiglia man mano che si intensificano i dibattiti su come governare l'IA.
Leggi di più:
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Cindy è una giornalista di Metaverse Post, che copre argomenti relativi a web3, NFT, metaverso e intelligenza artificiale, con particolare attenzione alle interviste con Web3 attori del settore. Ha parlato con oltre 30 dirigenti di livello C e oltre, portando ai lettori le loro preziose intuizioni. Originaria di Singapore, Cindy ora vive a Tbilisi, in Georgia. Ha conseguito una laurea in comunicazioni e studi sui media presso l'Università dell'Australia Meridionale e ha dieci anni di esperienza nel giornalismo e nella scrittura. Mettiti in contatto con lei tramite [email protected] con presentazioni per la stampa, annunci e opportunità di interviste.
Altri articoli
Cindy è una giornalista di Metaverse Post, che copre argomenti relativi a web3, NFT, metaverso e intelligenza artificiale, con particolare attenzione alle interviste con Web3 attori del settore. Ha parlato con oltre 30 dirigenti di livello C e oltre, portando ai lettori le loro preziose intuizioni. Originaria di Singapore, Cindy ora vive a Tbilisi, in Georgia. Ha conseguito una laurea in comunicazioni e studi sui media presso l'Università dell'Australia Meridionale e ha dieci anni di esperienza nel giornalismo e nella scrittura. Mettiti in contatto con lei tramite [email protected] con presentazioni per la stampa, annunci e opportunità di interviste.
