Anthropic, Google, Microsoft och OpenAI Utse verkställande direktör för Frontier Model Forum och avslöja $10 miljoner AI Safety Fund
I korthet
Anthropic, Google, Microsoft och OpenAI har introducerat Chris Meserole som den tillträdande verkställande direktören för Frontier Model Forum.
Samtidigt har de tillkännagett en betydande AI-säkerhetsfond, med över 10 miljoner dollar i finansiering.
Anthropic, Google, Microsoft och OpenAI ha utsedd Chris Meserole som konstituerande verkställande direktör för Frontier Model Forum. Industrikonsortiet är dedikerat till att främja en säker och etisk utveckling av banbrytande AI-modeller globalt. Samtidigt introducerade Forum en AI-säkerhetsfond på mer än 10 miljoner dollar. Fondens mål är att driva framsteg inom AI-säkerhetsforskning.
Verkställande direktör Chris Meserole ger en omfattande bakgrund inom teknikpolitik och styrning av framväxande teknologier. Innan han tillträdde tjänstgjorde han som chef för Artificiell Intelligens och Emerging Technology Initiative vid Brookings Institution. I sin nya egenskap kommer Meserole att leda ansträngningar för att främja AI-säkerhetsforskning, identifiera bästa praxis för säker AI-modellutveckling, sprida kunskap till intressenter och stödja initiativ som utnyttjar AI för att möta samhälleliga utmaningar.
"De mest kraftfulla AI-modellerna har enorma löften för samhället, men för att förverkliga deras potential måste vi bättre förstå hur man säkert utvecklar och utvärderar dem. Jag är glad över att ta mig an den utmaningen med Frontier Model Forum,”
sa Meserole.
AI Safety Fund har vuxit fram som svar på den snabba utvecklingen av AI-kapaciteten under det senaste året, vilket nödvändiggör ytterligare akademisk forskning om AI-säkerhet. Denna fond, ett samarbete mellan Frontier Model Forum och filantropiska partners, kommer att ge stöd till oberoende forskare världen över som är anslutna till akademiska institutioner, forskningsorganisationer och startups.
De främsta bidragsgivarna till detta initiativ är Anthropic, Google, Microsoft och OpenAI, tillsammans med filantropiska organisationer som Patrick J. McGovern Foundation, David och Lucile Packard Foundation, Eric Schmidt och Jaan Tallinn. Deras sammanlagda bidrag överstiger $10 miljoner, med förväntan på ytterligare donationer från andra partners.
Tidigare i år lovade forummedlemmar frivilliga åtaganden i Vita huset, inklusive att möjliggöra tredje parts upptäckt och rapportering av sårbarheter i deras AI-system. AI Safety Fund överensstämmer med detta åtagande genom att erbjuda externa gemenskaper finansiering för att granska frontier AI-system. En mångfald av röster och perspektiv kommer att berika den globala diskursen om AI-säkerhet och utöka den allmänna AI-kunskapsbasen.
Öka AI-säkerhet och samarbete
AI Safety Fund koncentrerar sig i första hand på att stärka utvecklingen av nya utvärderingstekniker och red teaming-metoder för AI-modeller, i syfte att avslöja potentiella faror. Red teaming är en strukturerad process för att granska AI-system för att identifiera skadliga kapaciteter, utdata eller infrastrukturella hot. Ökad finansiering inom denna domän kan höja säkerhets- och säkerhetsstandarder och ge värdefulla insikter om att mildra utmaningar från AI-system.
Dessutom kommer fonden snart att söka forskningsförslag och kommer att hanteras av Meridian Institute med råd från en rådgivande kommitté, inklusive oberoende experter, AI-proffs och anslagsexperter.
En ansvarsfull avslöjandeprocess pågår, vilket gör det möjligt för Frontier AI-labb att dela information om sårbarheter och farliga funktioner i frontier AI-modeller, tillsammans med deras lösningar. Vissa forumföretag har redan identifierat sådana problem i samband med nationell säkerhet, och fungerar som fallstudier för att vägleda andra laboratorier i genomförandet av ansvarsfulla avslöjandeförfaranden.
Framöver planerar Frontier Model Forum att inrätta en Advisory Board under de kommande månaderna, med uppgift att styra dess strategiska prioriteringar och representera olika expertis och perspektiv. Forumet kommer regelbundet att släppa uppdateringar, inklusive tillägg av nya medlemmar. Samtidigt kommer AI Safety Fund att utfärda sin första ansökningsomgång, med anslag strax därefter. Dessutom kommer forumet att fortsätta att släppa tekniska resultat när de blir tillgängliga.
Forumets övergripande mål är att samarbeta med Chris Meserole och utöka engagemanget med det bredare forskarsamhället. Detta inkluderar partnerskap med organisationer som Partnership on AI, MLCommons och andra ledande icke-statliga organisationer, statliga enheter och multinationella organisationer. Tillsammans strävar de efter att utnyttja potentialen hos AI och samtidigt säkerställa dess säker och etiska utveckling och användning.
Ansvarsfriskrivning
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Agne är en journalist som täcker de senaste trenderna och utvecklingen inom metaversen, AI och Web3 industrier för Metaverse Post. Hennes passion för berättande har lett till att hon har genomfört ett flertal intervjuer med experter inom dessa områden och alltid försökt avslöja spännande och engagerande berättelser. Agne har en kandidatexamen i litteratur och har en omfattande bakgrund i att skriva om ett brett spektrum av ämnen, inklusive resor, konst och kultur. Hon har också varit volontär som redaktör för djurrättsorganisationen, där hon hjälpt till att öka medvetenheten om djurskyddsfrågor. Kontakta henne på [e-postskyddad].
fler artiklar
Agne är en journalist som täcker de senaste trenderna och utvecklingen inom metaversen, AI och Web3 industrier för Metaverse Post. Hennes passion för berättande har lett till att hon har genomfört ett flertal intervjuer med experter inom dessa områden och alltid försökt avslöja spännande och engagerande berättelser. Agne har en kandidatexamen i litteratur och har en omfattande bakgrund i att skriva om ett brett spektrum av ämnen, inklusive resor, konst och kultur. Hon har också varit volontär som redaktör för djurrättsorganisationen, där hon hjälpt till att öka medvetenheten om djurskyddsfrågor. Kontakta henne på [e-postskyddad].
