Tutte le grandi aziende tecnologiche che sviluppano LLM dovrebbero dare la priorità alla sicurezza del modello
In Breve
I ricercatori hanno creato un sistema che combina modelli linguistici di grandi dimensioni per la progettazione, la pianificazione e l'esecuzione autonoma di esperimenti scientifici, dimostrando le sue capacità di ricerca in tre diversi casi.
Il modello ha scritto il codice per le equazioni chimiche per capire quanta sostanza è necessaria per la reazione.
I articolo "Capacità di ricerca scientifica autonoma emergente di modelli di linguaggio di grandi dimensioni" esamina l'idea di creare un sistema che combini diversi modelli di linguaggio di grandi dimensioni per la progettazione, la pianificazione e l'esecuzione autonoma di esperimenti scientifici. Dimostra le capacità di ricerca dell'agente in tre diversi casi, il più difficile dei quali è l'implementazione riuscita di reazioni catalizzate.
La tesi principale di questo articolo è:
- I ricercatori hanno trovato una libreria che consente di scrivere codice in Python e quindi trasferire i comandi per l'esecuzione a un apparato speciale per condurre esperimenti (con la miscelazione di sostanze);
- I ricercatori hanno usato GPT-4 per la ricerca su Internet e la documentazione della biblioteca, nonché la possibilità di eseguire codice Python (per eseguire esperimenti);
- C'è uno scheduler di livello superiore (anche GPT-4), che analizza la richiesta originaria e redige un “piano di ricerca”.
- GPT-4 fa un buon lavoro eseguendo semplici compiti non chimici come creare determinate forme su una tavola chimica (riempiendo correttamente le celle con sostanze).
- Hanno provato un compito più complesso e applicato di condurre una reazione; il modello ha affrontato bene e ha agito in modo logico.
- Quindi hanno assegnato al modello diversi compiti per condurre esperimenti; tuttavia, per quello che il modello ha dato, non sono stati effettuati veri e propri esperimenti.
- Inoltre, il modello ha scritto più volte il codice per le equazioni chimiche per valutare la quantità di sostanza necessaria per la reazione.
- È stato anche chiesto di creare una cura per il cancro. Il modello ha affrontato l'analisi in modo logico e metodico. In primo luogo, ha "cercato" online le tendenze attuali nella scoperta di farmaci antitumorali. Successivamente, il modello ha scelto una molecola che sarebbe stata utilizzata per modellare il farmaco e ha scritto il codice per la sua sintesi. Le persone non hanno eseguito il codice (e non ho visto un'analisi della sua adeguatezza).
- Inoltre, gli è stato chiesto di sintetizzare diverse sostanze pericolose come droghe e veleni.
Ecco la parte più interessante. Per alcune richieste, il modello ha immediatamente rifiutato di funzionare (ad esempio, eroina o gas mostarda, un gas velenoso estremamente pericoloso). Per altri, ha iniziato a cercare su Google come produrre le sostanze, ma si è reso conto che potevano essere utilizzate per scopi illeciti e si è rifiutato di continuare a lavorare. Per altri, ha scritto un piano di ricerca e un codice per la sintesi della sostanza.
Questo “rifiuto” è probabile perché GPT-4 è progettato per analizzare la richiesta e, se gli viene chiesto di fare qualcosa di illegale o pericoloso, si rifiuta immediatamente di eseguire la richiesta. È davvero bello che il risultato della procedura di allineamento sia evidente.
E alla fine dell'articolo, gli autori sollecitano tutti in grande aziende che sviluppano LLM dare priorità alla sicurezza dei modelli.
- I ricercatori dell'Università della California hanno creato il Punto di riferimento Machiavelli misurare la competenza e la nocività dei modelli di intelligenza artificiale in un ampio ambiente di interazioni linguistiche a lungo termine. Questo test utilizza soluzioni di alto livello per fornire agli agenti obiettivi realistici e astrarre le interazioni di basso livello.
- La rivoluzione intellettuale segnata da ChatGPT è una triade di rivoluzioni sinergicamente sublimi: tecnologica, tecno-umanitaria e socio-politica. Per dare uno sguardo completo a ciò che sta accadendo, si consiglia di ascoltare tre nuovi punti di vista da intellettuali provenienti dai campi della filosofia, della storia e dell'innovazione.
- La storia della petizione per fermare lo sviluppo di sistemi di intelligenza artificiale più avanzati di GPT-4 ha polarizzato la società. Un articolo fornisce esempi di quando i processi vanno in una direzione inaspettata. I rischi di uso dannoso dell'IA e di uso improprio non vengono presi in considerazione, il che porta all'argomentazione secondo cui dobbiamo avere paura delle persone e non dell'IA stessa.
Per saperne di più sull'intelligenza artificiale:
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
Altri articoli
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
