Antropické, Google, Microsoft a OpenAI Jmenujte výkonného ředitele fóra Frontier Model Forum a odhalte fond pro bezpečnost umělé inteligence v hodnotě 10 milionů USD
Stručně
Antropické, Google, Microsoft a OpenAI představili Chrise Meserolea jako inauguračního výkonného ředitele Frontier Model Forum.
Současně oznámili významný fond pro bezpečnost AI s více než 10 miliony dolarů na financování.
Antropické, Google, Microsoft a OpenAI mít jmenován Chris Meserole jako inaugurační výkonný ředitel Frontier Model Forum. Průmyslové konsorcium se věnuje celosvětové podpoře bezpečného a etického vývoje špičkových modelů umělé inteligence. Fórum současně zavedlo bezpečnostní fond AI ve výši více než 10 milionů dolarů. Cílem fondu je podporovat pokrok ve výzkumu bezpečnosti AI.
Výkonný ředitel Chris Meserole přináší rozsáhlé zázemí v technologické politice a řízení nově vznikajících technologií. Před svým jmenováním působil jako ředitel iniciativy pro umělou inteligenci a nové technologie v Brookings Institution. Meserole ve své nové funkci povede úsilí o pokrok ve výzkumu bezpečnosti umělé inteligence, identifikuje nejlepší postupy pro vývoj bezpečného modelu umělé inteligence, bude šířit znalosti mezi zúčastněné strany a podporovat iniciativy, které využívají umělou inteligenci k řešení společenských výzev.
„Nejvýkonnější modely umělé inteligence jsou pro společnost obrovským příslibem, ale abychom mohli využít jejich potenciál, musíme lépe pochopit, jak je bezpečně vyvíjet a vyhodnocovat. Jsem nadšený, že mohu přijmout tuto výzvu s Frontier Model Forum,“
řekl Meserole.
Fond pro bezpečnost umělé inteligence vznikl v reakci na rychlý vývoj schopností umělé inteligence za poslední rok, což si vyžádalo další akademický výzkum bezpečnosti umělé inteligence. Tento fond, spolupráce mezi Frontier Model Forum a filantropickými partnery, bude poskytovat podporu nezávislým výzkumníkům po celém světě přidruženým k akademickým institucím, výzkumným organizacím a startupům.
Hlavními přispěvateli do této iniciativy jsou Anthropic, Google, Microsoft a OpenAI, spolu s filantropickými organizacemi, jako je Patrick J. McGovern Foundation, David a Lucile Packard Foundation, Eric Schmidt a Jaan Tallinn. Jejich společné příspěvky přesahují 10 milionů dolarů, s očekáváním dalších darů od jiných partnerů.
Začátkem tohoto roku členové Fóra přislíbili dobrovolné závazky v Bílém domě, včetně umožnění třetím stranám objevovat a hlásit zranitelnosti v jejich systémech AI. Fond pro bezpečnost AI se s tímto závazkem shoduje tím, že nabízí externím komunitám financování pro kontrolu hraničních systémů umělé inteligence. Rozmanitost názorů a pohledů obohatí globální diskurz o bezpečnosti umělé inteligence a rozšíří obecnou znalostní základnu umělé inteligence.
Posílení bezpečnosti a spolupráce umělé inteligence
AI Safety Fund se primárně soustředí na podporu vývoje nových hodnotících technik a červených týmových přístupů pro modely AI s cílem odhalit potenciální rizika. Red teaming je strukturovaný proces pro zkoumání systémů umělé inteligence za účelem identifikace škodlivých schopností, výstupů nebo infrastrukturních hrozeb. Zvýšené financování v této oblasti by mohlo zvýšit úroveň bezpečnosti a zabezpečení a poskytnout cenné poznatky o zmírňování problémů, které představují systémy umělé inteligence.
Fond navíc bude brzy hledat návrhy na výzkum a bude řízen institutem Meridian s radami od poradního výboru, včetně nezávislých odborníků, odborníků na umělou inteligenci a odborníků na granty.
Probíhá odpovědný proces zveřejňování, který laboratořím Frontier AI umožňuje sdílet informace o zranitelnostech a nebezpečných schopnostech v modelech Frontier AI spolu s jejich řešeními. Některé společnosti Fóra již takové problémy identifikovaly v kontextu národní bezpečnosti a slouží jako případové studie pro vedení jiných laboratoří při zavádění odpovědných postupů při zveřejňování.
Při pohledu do budoucna plánuje Frontier Model Forum v nadcházejících měsících zřídit poradní výbor, jehož úkolem bude řídit jeho strategické priority a reprezentovat různé odborné znalosti a perspektivy. Fórum bude pravidelně vydávat aktualizace, včetně přidávání nových členů. Současně AI Safety Fund vyhlásí svou první výzvu k předkládání návrhů, přičemž granty budou uděleny krátce poté. Kromě toho bude fórum nadále zveřejňovat technická zjištění, jakmile budou k dispozici.
Zastřešujícím cílem fóra je spolupracovat s Chrisem Meserole a rozšířit zapojení do širší výzkumné komunity. To zahrnuje partnerství s organizacemi, jako je Partnership on AI, MLCommons a dalšími předními nevládními organizacemi, vládními subjekty a nadnárodními organizacemi. Společně se snaží využít potenciál AI a zároveň zajistit její bezpečný a etický vývoj a využití.
| Související: 5 klíčových postřehů o budoucnosti AI a LLM od Daria Amodeie, generálního ředitele společnosti Anthropic |
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
Další články
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
