Una pausa di 6 mesi nella formazione sull'IA è una buona idea, ma potrebbe non essere sufficiente
In Breve
La storia della petizione e la pubblicazione dell'articolo di Yudkovsky hanno polarizzato la società.
Il dilemma del prigioniero e la teoria dei giochi suggeriscono che è necessaria una massa critica di persone sane in luoghi diversi per risolvere tali problemi.
Tuttavia, ci sono alcuni ma in questa idea, come la mancanza di coscienza, volontà e azione nell'evoluzione digitale.
La storia del petizione per fermare lo sviluppo di sistemi di intelligenza artificiale più avanzati di GPT-4 ha notevolmente polarizzato la società. Il rilascio di Yudkovsky articolo chiedendo di interrompere l'ulteriore sviluppo di GPT i modelli hanno aggiunto benzina sul fuoco, in particolare i suoi passaggi sul bombardamento dei data center.
Da quanto si può osservare online, sembrano esserci molti meno sostenitori della petizione rispetto agli oppositori, che hanno tre argomenti principali:
| 1 | – Il progresso non può essere fermato. – La petizione è stata inventata da OpenAI concorrenti. – La Cina non aspetterà. |
| 2 | – Non dovresti avere paura dell'intelligenza artificiale ma delle persone. - GPT non ha coscienza, volontà, aspirazioni o libero arbitrio, quindi non c'è nulla da temere. - GPT-4 è follemente lontano dallo schiavizzare il mondo perché non capisce nulla, commette errori stupidi ed è generalmente piuttosto stupido. - GPT-4 non sarà in grado di governare il mondo perché non ha braccia/gambe. |
| 3 | – Il terzo gruppo non capisce come GPT-4 opera in primo luogo. |
Non ci concentreremo sul terzo gruppo perché la loro posizione deriva dall'ignoranza. Questo non vuol dire che tutti gli avversari IA sappiano tutto sull'IA; puoi trovare molte persone anti-IA che non hanno una comprensione della tecnologia e di ciò che comporta, sebbene lo stesso Yudkovsky sia molto più approfondito nell'argomento dell'IA, quindi non può essere accusato di ignoranza.
Diamo un'occhiata al primo gruppo di persone: coloro che credono che il progresso non possa essere fermato. Offrono argomenti diversi ma simili e, nel complesso, quelle persone non negano le capacità dell'IA e le prospettive che la sua adozione comporta e credono che lo sviluppo dell'IA continuerà qualunque cosa accada.
La prima tesi sul progresso inarrestabile è uno slogan che non deve essere vero. Le persone sembrano aver interrotto alcuni esperimenti scientifici, e molti progetti di ricerca una volta accettati non sono più considerati etici, e simili non sarebbero mai consentiti oggi. Tuttavia, quanti altri progressi in passato sono stati fermati dall'Inquisizione e da altre persecuzioni religiose, divieti di libri e omicidi di scienziati in Cina (e in altri paesi)? Questo è qualcosa che non saremo mai in grado di comprendere appieno a causa del pregiudizio della sopravvivenza.
Altre tesi riguardano l'approccio che può essere riassunto come "se non noi, saranno loro". Sebbene questa linea di pensiero possa essere più comprensibile, non sembra nemmeno essere la soluzione giusta. È molto simile al dilemma del prigioniero nella teoria dei giochi.
Il secondo gruppo di argomenti è il più interessante. Anche se personalmente sono d'accordo con esso in una certa misura, ci sono alcuni ma che devono essere affrontati. Sì, l'intelligenza artificiale non ha coscienza, volontà, agenzia, ecc. Nemmeno COVID-19, eppure ha causato il caos in tutto il mondo. Qualcosa non ha bisogno di avere un senso di azione e coscienza per diventare pericoloso; uno scenario in cui la vita sulla terra viene spazzata via a causa di un virus non è inimmaginabile. Una volta terminato il suo lavoro, può mettere le sedie sui tavoli, spegnere le luci e andarsene per sempre.
Continuando l'analogia biologica, c'è un meraviglioso articolo, "The Surprising Creativity of Digital Evolution: A Collection of Aneddotes from the Evolutionary Computation and Artificial Life Research Communities", che fornisce molti esempi di quando i processi vanno in una direzione inaspettata. Anche senza un processo evolutivo, tutto può andare nella generalizzazione sbagliata "Errata generalizzazione degli obiettivi: perché le specifiche corrette non sono sufficienti per gli obiettivi corretti". Dare libero sfogo a un processo di ottimizzazione può andare storto è discusso in "Rischi dell'ottimizzazione appresa nei sistemi avanzati di apprendimento automatico. "
Allo stesso tempo, generalmente non consideriamo i rischi di uso dannoso dell'IA e qualsiasi uso improprio, che alimenta solo l'argomento secondo cui dobbiamo avere paura delle persone e non dell'IA stessa. Tuttavia, la verità è che l'intelligenza artificiale può essere cattiva anche senza malintenzionati.
Sono d’accordo anche sul fatto che il modello commette errori stupidi, ma lo stesso fanno anche gli esseri umani, eppure sappiamo che possono causare danni. Sebbene i modelli commettano molti errori, possono anche risolvere molti problemi fantastici, interessanti e complessi che la persona media non è in grado di risolvere. Dal famigerato lavoro “Sparks of Artificial General Intelligence: Early Experiments with GPT-4”, mi ha colpito il fatto che l’intelligenza artificiale sia in grado di risolvere, anche se non sempre correttamente, i problemi di Fermi, problemi matematici piuttosto complessi. Anche la sua teoria della mente e “una sorta di capacità di comprendere” le azioni degli altri sono molto impressionanti. Tutte queste cose indicano l'intelligenza dell'intelligenza artificiale; esistente, ma non proprio come il nostro.
Eliminare almeno alcuni degli errori commessi dai modelli di intelligenza artificiale è generalmente fattibile, quindi la loro intelligenza può solo crescere. Tutto quello che devi fare è aggiungere un modulo per calcoli accurati, una base di fatti e la convalida con un altro modello.
La cosa più importante in tutta questa storia è la velocità di sviluppo dell'intelligenza artificiale. GPT modelli sono cresciuti enormemente, a un ritmo vertiginoso. Ora ci sono ChatGPT i plugin disponibile, è possibile utilizzare GPT modelli per scrivere codice, le API sono disponibili al grande pubblico ed è possibile utilizzare strumenti esterni senza alcuna formazione preventiva.
GPT-4, ovviamente, non conquisterà il mondo, ma può scuotere molto l’economia. GPT-5, e la futura iterazione del modello, potrebbero non essere molto avanti e probabilmente arriveranno con abilità molto più forti. E diciamocelo, non possiamo sperare di comprendere i modelli non ancora esistenti; non ci siamo nemmeno avvicinati alla comprensione dei modelli che già esistono. In questo senso, una pausa di sei mesi potrebbe essere una buona idea, ma semplicemente potrebbe non essere sufficiente.
E dato che il Gara AI è iniziato, non c'è tempo per imparare.
In generale, alla luce di tutto ciò, ho anche firmato la petizione. Anche se non credo che sarà d'aiuto in alcun modo.
Leggi altri argomenti correlati:
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
Altri articoli
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
