Vitalik Buterin e il direttore del MIRI Nate Soares approfondiscono i pericoli dell'intelligenza artificiale: l'intelligenza artificiale potrebbe causare l'estinzione umana?
In Breve
Il fondatore di Ethereum Vitalik Buterin e il direttore del Machine Intelligence Research Institute Nate Soares hanno discusso oggi dei rischi dell'IA a Zuzalu.
Zuzalu è una comunità cittadina pop-up in Montenegro avviata da Buterin e dai suoi colleghi nella comunità crittografica.
Nella discussione, Soares ha condiviso la sua prospettiva sul motivo per cui è molto probabile che l'IA metta fine a tutta la vita sulla Terra.
Fondatore di Ethereum Vitalik Buterin e direttore del Machine Intelligence Research Institute (MIRI) Nate Soares ha discusso i rischi dell'IA a Zuzalu oggi.
Zuzalu è una "comunità cittadina pop-up" in Montenegro avviata da Buterin e dai suoi colleghi nella comunità crittografica che si svolgerà dal 25 marzo al 25 maggio. L'evento riunisce 200 residenti principali con un desiderio condiviso di imparare, creare, vivere più a lungo e in modo più sano vite e costruire comunità autosufficienti. Nel corso di due mesi, la comunità ospiterà anche una serie di eventi su vari argomenti come la biologia sintetica, la tecnologia per la privacy, i beni pubblici, la longevità, la governance e altro ancora.
I discussione si è aperto con Soares che ha presentato il suo lavoro al MIRI, un'organizzazione no-profit con sede a Berkeley che esiste da più tempo di quanto lo gestisse. Negli ultimi 20 anni, MIRI ha cercato di gettare le basi per garantire che lo sviluppo dell'IA vada bene. Con la discussione, Vitalik sperava di affrontare ciò che rende l'IA particolarmente rischiosa rispetto ad altre tecnologie rilasciate nella storia umana.
La probabilità che l'intelligenza artificiale causi l'estinzione umana
Vitalik ha affermato di essere stato a lungo interessato all'argomento dei rischi dell'IA e ha ricordato di essere convinto che esiste una probabilità dello 0.5%-1% che tutta la vita sulla Terra cesserebbe di esistere se l'IA va storta, un rischio esistenziale che causerebbe l'estinzione della razza umana o il collasso irreversibile della civiltà umana.
Dal punto di vista di Soares, l'estinzione umana sembra un risultato predefinito dello sviluppo non sicuro della tecnologia AI. Confrontandolo con l'evoluzione, ha detto che lo sviluppo dell'umanità sembrava avvenire più velocemente dei semplici cambiamenti evolutivi. Sia nei processi di intelligenza artificiale che di evoluzione umana, l'ottimizzazione dominante - un processo per trovare la migliore soluzione a un problema quando ci sono più obiettivi da considerare - stava cambiando. Gli umani avevano raggiunto un punto in cui erano in grado di trasmettere la conoscenza attraverso il passaparola invece di avere le informazioni cablate nei geni attraverso la selezione naturale.
“In definitiva, l'intelligenza artificiale è un caso in cui è possibile cambiare nuovamente il processo di ottimizzazione macroscopica. Penso che tu possa fare molto meglio dell'ottimizzazione umana. Penso che siamo ancora piuttosto stupidi quando si tratta di ottimizzare ciò che ci circonda. Con l'intelligenza artificiale, stiamo attraversando una sorta di transizione di fase in cui l'ottimizzazione automatizzata è la forza che sta determinando le caratteristiche macroscopiche dell'universo", ha spiegato Soares.
Ha aggiunto che l'aspetto di quel futuro è ciò per cui il processo di ottimizzazione sta ottimizzando e che probabilmente smetterà di essere vantaggioso per l'umanità poiché la maggior parte degli obiettivi di ottimizzazione non ha spazio per gli umani.
Gli esseri umani possono addestrare l'IA a fare del bene?
Buterin ha sottolineato che gli esseri umani sono quelli che addestrano l'intelligenza artificiale e le dicono come ottimizzare. Se necessario, potrebbero cambiare il modo in cui la macchina è ottimizzata. A questo, Soares ha affermato che in linea di principio è possibile addestrare l'IA a fare del bene, ma semplicemente addestrare un'IA a raggiungere un obiettivo non significa che lo farebbe o lo vorrebbe, riducendosi al desiderio.
Facendo un punto sull'apprendimento per rinforzo in modelli linguistici di grandi dimensioni che stanno ottenendo grandi quantità di dati su quali sono le preferenze umane, Buterin ha chiesto perché non avrebbe funzionato, poiché l'intelligenza esistente sta migliorando nel capire quali sono le nostre preferenze.
"C'è un grande divario tra capire le nostre motivazioni e dare un cazzo,"
Soares ha risposto.
“La mia affermazione non è che un grande modello linguistico o un'intelligenza artificiale non capiranno le minuzie delle preferenze umane. La mia affermazione è che comprendere le minuzie delle preferenze umane è molto diverso dall'ottimizzare per la bontà", ha aggiunto.
Un membro del pubblico ha fatto un confronto tra l'intelligenza artificiale e gli esseri umani, affermando che, come l'intelligenza artificiale, gli esseri umani tendono a non capire cosa stanno facendo o prevedendo, il che potrebbe anche essere pericoloso. Ha poi chiesto a Soares di fingere di essere un alieno e di spiegare perché non dovrebbero esserci umani.
“Non sarei entusiasta di dare poteri divini e controllo sul futuro a un singolo essere umano. Separatamente, sarei molto più entusiasta di dare potere a un singolo individuo umano piuttosto che a un'IA giocata a caso. Non sto decisamente dicendo che non dovremmo avere l'intelligenza artificiale. Sto dicendo che dobbiamo fare le cose per bene. Dobbiamo convincerli a preoccuparsi di un futuro pieno di divertimento e felicità e civiltà fiorenti in cui i transumani sono impegnati in scambi di somme positive con alieni e così via ", ha chiarito Soares. "Se costruisci un forte processo di ottimizzazione che si preoccupa di cose diverse, ciò potrebbe potenzialmente distruggere tutti i valori dell'universo."
Ha aggiunto che le cose che gli umani apprezzano non sono universalmente convincenti e che la moralità non è qualcosa che qualsiasi mente che la studi perseguirebbe. Invece, è il risultato delle pulsioni insite nell'uomo che, nell'ambiente ancestrale, ci hanno portato a essere bravi a riprodurci e sono specifici dell'uomo.
In definitiva, Soares crede che non dovremmo costruire qualcosa che sia altrettanto intelligente o anche più intelligente che sia incoerente con il divertimento, la felicità e un futuro fiorente. D'altra parte, ha anche affermato che l'umanità non dovrebbe costruire una superintelligenza amichevole che ottimizzi un futuro divertente al primo tentativo durante una corsa agli armamenti. A breve termine, l'intelligenza artificiale dovrebbe dedicarsi ad aiutare l'umanità a guadagnare tempo e spazio per capire cosa vuole veramente.
ChatGPT non consumerà l'intera biosfera
Poiché l'IA è attualmente in fase di costruzione per raggiungere obiettivi particolari, inclusa la previsione, Buterin ha chiesto, e se l'IA non fosse guidata dagli obiettivi? Soares ha affermato che è facile costruire IA sicure e non capaci, e presto potremmo avere IA capaci ma che perseguono cose diverse. Non pensa ChatGPT consumerà l'intera biosfera poiché non è a quel livello di capacità.
Soares ha osservato che le applicazioni di intelligenza artificiale più interessanti, come l'automazione dello sviluppo e della ricerca scientifici e tecnologici, sembrano richiedere un certo perseguimento di obiettivi.
“Non è un errore quello che puoi ottenere GPT per scrivere un bel haiku, ma non puoi farcela per scrivere un romanzo. I limiti dei sistemi attuali sono legati al fatto che non perseguono questi obiettivi più profondi, almeno per me”.
Leggi di più:
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Cindy è una giornalista di Metaverse Post, che copre argomenti relativi a web3, NFT, metaverso e intelligenza artificiale, con particolare attenzione alle interviste con Web3 attori del settore. Ha parlato con oltre 30 dirigenti di livello C e oltre, portando ai lettori le loro preziose intuizioni. Originaria di Singapore, Cindy ora vive a Tbilisi, in Georgia. Ha conseguito una laurea in comunicazioni e studi sui media presso l'Università dell'Australia Meridionale e ha dieci anni di esperienza nel giornalismo e nella scrittura. Mettiti in contatto con lei tramite [email protected] con presentazioni per la stampa, annunci e opportunità di interviste.
Altri articoli
Cindy è una giornalista di Metaverse Post, che copre argomenti relativi a web3, NFT, metaverso e intelligenza artificiale, con particolare attenzione alle interviste con Web3 attori del settore. Ha parlato con oltre 30 dirigenti di livello C e oltre, portando ai lettori le loro preziose intuizioni. Originaria di Singapore, Cindy ora vive a Tbilisi, in Georgia. Ha conseguito una laurea in comunicazioni e studi sui media presso l'Università dell'Australia Meridionale e ha dieci anni di esperienza nel giornalismo e nella scrittura. Mettiti in contatto con lei tramite [email protected] con presentazioni per la stampa, annunci e opportunità di interviste.
