Anthropic, Google, Microsoft i OpenAI Imenujte izvršnog direktora za Frontier Model Forum i otkrijte AI Safety Fund od 10 milijuna dolara
Ukratko
Anthropic, Google, Microsoft i OpenAI predstavili su Chrisa Meserolea kao inauguracijskog izvršnog direktora Frontier Model Foruma.
Istodobno su najavili značajan fond za sigurnost umjetne inteligencije, s više od 10 milijuna dolara financiranja.
Anthropic, Google, Microsoft i OpenAI imaju postavljen Chris Meserole kao inauguracijski izvršni direktor Frontier Model Foruma. Industrijski konzorcij posvećen je promicanju sigurnog i etičkog napretka vrhunskih AI modela na globalnoj razini. Istovremeno, Forum je uveo fond za sigurnost umjetne inteligencije od više od 10 milijuna dolara. Cilj fonda je potaknuti napredak u istraživanju sigurnosti umjetne inteligencije.
Izvršni direktor Chris Meserole donosi opsežno iskustvo u tehnološkoj politici i upravljanju tehnologijama u nastajanju. Prije imenovanja, radio je kao direktor Inicijative za umjetnu inteligenciju i tehnologiju u nastajanju na Institutu Brookings. U svom novom svojstvu, Meserole će predvoditi napore za unaprjeđenje istraživanja sigurnosti umjetne inteligencije, utvrđivanje najboljih praksi za siguran razvoj modela umjetne inteligencije, širenje znanja dionicima i podupiranje inicijativa koje koriste umjetnu inteligenciju za rješavanje društvenih izazova.
“Najmoćniji modeli umjetne inteligencije imaju ogromno obećanje za društvo, ali da bismo ostvarili njihov potencijal, moramo bolje razumjeti kako ih sigurno razvijati i evaluirati. Uzbuđen sam što ću prihvatiti taj izazov s Frontier Model Forumom,”
rekao je Meserole.
Fond za sigurnost umjetne inteligencije pojavio se kao odgovor na brzo napredovanje sposobnosti umjetne inteligencije tijekom prošle godine, što je zahtijevalo daljnja akademska istraživanja sigurnosti umjetne inteligencije. Ovaj fond, suradnja između Frontier Model Foruma i filantropskih partnera, pružit će potporu neovisnim istraživačima diljem svijeta koji su povezani s akademskim institucijama, istraživačkim organizacijama i startupima.
Primarni sudionici ove inicijative su Anthropic, Google, Microsoft i OpenAI, zajedno s filantropskim organizacijama kao što su Zaklada Patrick J. McGovern, Zaklada David i Lucile Packard, Eric Schmidt i Jaan Tallinn. Njihovi zajednički doprinosi premašuju 10 milijuna dolara, uz očekivanje dodatnih donacija od drugih partnera.
Ranije ove godine, članovi Foruma obećali su dobrovoljne obveze u Bijeloj kući, uključujući omogućavanje otkrivanja trećih strana i prijavljivanja ranjivosti u njihovim AI sustavima. Fond za sigurnost umjetne inteligencije usklađuje se s ovom obvezom nudeći financiranje vanjskih zajednica za ispitivanje graničnih sustava umjetne inteligencije. Raznolikost glasova i perspektiva obogatit će globalni diskurs o sigurnosti umjetne inteligencije i proširiti opću bazu znanja o umjetnoj inteligenciji.
Povećanje AI sigurnosti i suradnje
Fond za sigurnost umjetne inteligencije prvenstveno se usredotočuje na poticanje razvoja novih tehnika evaluacije i pristupa crvenim timovima za modele umjetne inteligencije, s ciljem otkrivanja potencijalnih opasnosti. Red teaming je strukturirani proces za ispitivanje AI sustava kako bi se identificirale štetne mogućnosti, rezultati ili infrastrukturne prijetnje. Povećano financiranje u ovoj domeni moglo bi podići sigurnosne standarde i pružiti vrijedne uvide u ublažavanje izazova koje postavljaju sustavi umjetne inteligencije.
Štoviše, Fond će uskoro tražiti prijedloge istraživanja, a njime će upravljati Institut Meridian uz savjete savjetodavnog odbora koji uključuje neovisne stručnjake, stručnjake za umjetnu inteligenciju i stručnjake za dodjelu bespovratnih sredstava.
U tijeku je proces odgovornog otkrivanja, koji Frontier AI laboratorijima omogućuje dijeljenje informacija o ranjivostima i opasnim mogućnostima u graničnim AI modelima, zajedno s njihovim rješenjima. Neke tvrtke Foruma već su identificirale takve probleme u kontekstu nacionalne sigurnosti, služeći kao studije slučaja za usmjeravanje drugih laboratorija u provedbi postupaka odgovornog otkrivanja podataka.
Gledajući unaprijed, Frontier Model Forum planira u nadolazećim mjesecima uspostaviti Savjetodavni odbor sa zadatkom da usmjerava njegove strateške prioritete i predstavlja različita stručnost i perspektive. Forum će redovito objavljivati ažuriranja, uključujući dodavanje novih članova. Istodobno, Fond za sigurnost umjetne inteligencije objavit će svoj prvi poziv za dostavu prijedloga, s dodjelom bespovratnih sredstava ubrzo nakon toga. Osim toga, Forum će nastaviti objavljivati tehničke nalaze čim budu dostupni.
Sveobuhvatni cilj Foruma je surađivati s Chrisom Meseroleom i proširiti angažman sa širom istraživačkom zajednicom. To uključuje partnerstva s organizacijama kao što su Partnership on AI, MLCommons i drugim vodećim nevladinim organizacijama, državnim tijelima i multinacionalnim organizacijama. Zajedno imaju za cilj iskoristiti potencijal umjetne inteligencije, istovremeno osiguravajući njezin siguran i etičan razvoj i korištenje.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
Više članaka
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
