Antropico, Google, Microsoft e OpenAI Nomina direttore esecutivo del Frontier Model Forum e svela un fondo per la sicurezza dell'intelligenza artificiale da 10 milioni di dollari
In Breve
Antropico, Google, Microsoft e OpenAI hanno presentato Chris Meserole come direttore esecutivo inaugurale del Frontier Model Forum.
Allo stesso tempo, hanno annunciato un sostanzioso Fondo per la sicurezza dell’intelligenza artificiale, con oltre 10 milioni di dollari di finanziamenti.
Antropico, Google, Microsoft e OpenAI avere designato Chris Meserole come direttore esecutivo inaugurale del Frontier Model Forum. Il consorzio industriale è dedicato a promuovere la progressione sicura ed etica di modelli di intelligenza artificiale all’avanguardia a livello globale. Allo stesso tempo, Forum ha introdotto un fondo per la sicurezza dell’intelligenza artificiale di oltre 10 milioni di dollari. L'obiettivo del fondo è promuovere i progressi nella ricerca sulla sicurezza dell'intelligenza artificiale.
Direttore esecutivo Chris Meserole porta una vasta esperienza nella politica tecnologica e nella governance delle tecnologie emergenti. Prima della sua nomina, è stato direttore dell'Iniziativa sull'intelligenza artificiale e le tecnologie emergenti presso la Brookings Institution. Nella sua nuova veste, Meserole guiderà gli sforzi per far avanzare la ricerca sulla sicurezza dell’intelligenza artificiale, identificare le migliori pratiche per lo sviluppo sicuro di modelli di intelligenza artificiale, diffondere la conoscenza alle parti interessate e sostenere iniziative che sfruttano l’intelligenza artificiale per affrontare le sfide sociali.
“I modelli di intelligenza artificiale più potenti rappresentano un’enorme promessa per la società, ma per realizzare il loro potenziale, dobbiamo capire meglio come svilupparli e valutarli in modo sicuro. Sono entusiasta di affrontare questa sfida con il Frontier Model Forum”,
disse Meserole.
L’AI Safety Fund è emerso in risposta alla rapida progressione delle capacità dell’IA nell’ultimo anno, rendendo necessarie ulteriori ricerche accademiche sulla sicurezza dell’IA. Questo fondo, una collaborazione tra il Frontier Model Forum e partner filantropici, fornirà supporto a ricercatori indipendenti in tutto il mondo affiliati a istituzioni accademiche, organizzazioni di ricerca e startup.
I principali contributori a questa iniziativa sono Anthropic, Google, Microsoft e OpenAI, insieme a organizzazioni filantropiche come la Patrick J. McGovern Foundation, la David and Lucile Packard Foundation, Eric Schmidt e Jaan Tallinn. I loro contributi complessivi superano i 10 milioni di dollari, con la previsione di ulteriori donazioni da parte di altri partner.
All’inizio di quest’anno, i membri del Forum si sono impegnati volontariamente alla Casa Bianca, inclusa la possibilità di scoprire e segnalare a terze parti le vulnerabilità nei loro sistemi di intelligenza artificiale. L’AI Safety Fund si allinea a questo impegno offrendo finanziamenti alle comunità esterne per esaminare i sistemi di intelligenza artificiale di frontiera. Una diversità di voci e prospettive arricchirà il discorso globale sulla sicurezza dell’IA e amplierà la base generale delle conoscenze sull’IA.
Rafforzare la sicurezza e la collaborazione dell’IA
L’AI Safety Fund si concentra principalmente sul rafforzamento dello sviluppo di nuove tecniche di valutazione e approcci di red teaming per i modelli di intelligenza artificiale, con l’obiettivo di scoprire potenziali pericoli. Il Red Teaming è un processo strutturato per esaminare i sistemi di intelligenza artificiale per identificare capacità, risultati o minacce infrastrutturali dannosi. Maggiori finanziamenti in questo settore potrebbero elevare gli standard di sicurezza e protezione e fornire preziose informazioni su come mitigare le sfide poste dai sistemi di intelligenza artificiale.
Inoltre, il Fondo cercherà presto proposte di ricerca e sarà gestito dal Meridian Institute con la consulenza di un comitato consultivo, che comprende esperti indipendenti, professionisti dell’intelligenza artificiale ed esperti di sovvenzioni.
È in corso un processo di divulgazione responsabile, che consente ai laboratori di intelligenza artificiale di frontiera di condividere informazioni sulle vulnerabilità e sulle capacità pericolose nei modelli di intelligenza artificiale di frontiera, insieme alle loro soluzioni. Alcune società del Forum hanno già identificato tali problemi nel contesto della sicurezza nazionale, fungendo da casi di studio per guidare altri laboratori nell’implementazione di procedure di divulgazione responsabile.
Guardando al futuro, il Frontier Model Forum prevede di istituire un comitato consultivo nei prossimi mesi, con il compito di indirizzare le sue priorità strategiche e rappresentare diverse competenze e prospettive. Il Forum rilascerà regolarmente aggiornamenti, inclusa l'aggiunta di nuovi membri. Contemporaneamente, l’AI Safety Fund pubblicherà il suo primo invito a presentare proposte, con sovvenzioni assegnate poco dopo. Inoltre, il Forum continuerà a pubblicare i risultati tecnici non appena saranno disponibili.
L'obiettivo generale del Forum è collaborare con Chris Meserole ed espandere l'impegno con la più ampia comunità di ricerca. Ciò include partnership con organizzazioni come Partnership on AI, MLCommons e altre importanti ONG, enti governativi e organizzazioni multinazionali. Insieme, mirano a sfruttare il potenziale dell’intelligenza artificiale garantendone al tempo stesso lo sviluppo e l’utilizzo sicuri ed etici.
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
Altri articoli
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
