Antropické, Google, Microsoft a OpenAI Vymenujte výkonného riaditeľa pre Frontier Model Forum a odhaľte fond bezpečnosti AI v hodnote 10 miliónov USD
Stručne
Antropické, Google, Microsoft a OpenAI predstavili Chrisa Meserolea ako inauguračného výkonného riaditeľa Frontier Model Forum.
Súčasne oznámili značný bezpečnostný fond AI s financovaním viac ako 10 miliónov dolárov.
Antropické, Google, Microsoft a OpenAI mať menovaný Chris Meserole ako inauguračný výkonný riaditeľ Frontier Model Forum. Odvetvové konzorcium sa venuje celosvetovej podpore bezpečného a etického vývoja špičkových modelov AI. Fórum súčasne zaviedlo bezpečnostný fond AI vo výške viac ako 10 miliónov dolárov. Cieľom fondu je podporovať pokrok vo výskume bezpečnosti AI.
Výkonný riaditeľ Chris Meserole prináša rozsiahle pozadie v technologickej politike a správe nových technológií. Pred vymenovaním pôsobil ako riaditeľ Iniciatívy pre umelú inteligenciu a nové technológie v Brookings Institution. Vo svojej novej funkcii bude Meserole viesť úsilie o pokrok vo výskume bezpečnosti AI, identifikovať najlepšie postupy pre vývoj bezpečného modelu AI, šíriť poznatky medzi zainteresované strany a podporovať iniciatívy, ktoré využívajú AI na riešenie spoločenských výziev.
„Najvýkonnejšie modely umelej inteligencie sú pre spoločnosť obrovským prísľubom, ale na realizáciu ich potenciálu musíme lepšie pochopiť, ako ich bezpečne vyvíjať a vyhodnocovať. Som nadšený, že môžem prijať túto výzvu s Frontier Model Forum,“
povedal Meserole.
Fond pre bezpečnosť AI vznikol v reakcii na rýchly vývoj schopností AI za posledný rok, čo si vyžaduje ďalší akademický výskum bezpečnosti AI. Tento fond, spolupráca medzi Frontier Model Forum a filantropickými partnermi, bude poskytovať podporu nezávislým výskumníkom na celom svete pridruženým k akademickým inštitúciám, výskumným organizáciám a startupom.
Hlavnými prispievateľmi do tejto iniciatívy sú Anthropic, Google, Microsoft a OpenAI, spolu s filantropickými organizáciami ako Patrick J. McGovern Foundation, David and Lucile Packard Foundation, Eric Schmidt a Jaan Tallinn. Ich spoločné príspevky presahujú 10 miliónov dolárov, pričom sa očakávajú ďalšie dary od iných partnerov.
Začiatkom tohto roka členovia fóra prisľúbili v Bielom dome dobrovoľné záväzky vrátane umožnenia objavovania a hlásenia zraniteľností v ich systémoch AI tretími stranami. Bezpečnostný fond AI sa prispôsobuje tomuto záväzku tým, že ponúka financovanie externým komunitám na kontrolu hraničných systémov AI. Rozmanitosť názorov a pohľadov obohatí globálny diskurz o bezpečnosti AI a rozšíri všeobecnú základňu vedomostí o AI.
Zvyšovanie bezpečnosti a spolupráce AI
AI Safety Fund sa primárne sústreďuje na podporu vývoja nových techník hodnotenia a červených tímových prístupov pre modely AI s cieľom odhaliť potenciálne nebezpečenstvá. Red teaming je štruktúrovaný proces na skúmanie systémov AI s cieľom identifikovať škodlivé schopnosti, výstupy alebo infraštruktúrne hrozby. Zvýšené financovanie v tejto oblasti by mohlo zvýšiť úroveň bezpečnosti a bezpečnostných noriem a poskytnúť cenné poznatky o zmierňovaní výziev, ktoré predstavujú systémy AI.
Okrem toho bude fond čoskoro hľadať návrhy na výskum a bude ho spravovať inštitút Meridian s poradenstvom od poradného výboru vrátane nezávislých odborníkov, profesionálov v oblasti AI a odborníkov na poskytovanie grantov.
Prebieha zodpovedný proces zverejňovania, ktorý umožňuje laboratóriám Frontier AI zdieľať informácie o zraniteľnostiach a nebezpečných schopnostiach v modeloch Frontier AI spolu s ich riešeniami. Niektoré spoločnosti Fóra už identifikovali takéto problémy v kontexte národnej bezpečnosti, pričom slúžia ako prípadové štúdie pre usmernenie iných laboratórií pri implementácii zodpovedných postupov zverejňovania.
Čo sa týka budúcnosti, Frontier Model Forum plánuje v nadchádzajúcich mesiacoch zriadiť poradný výbor, ktorého úlohou bude riadiť jeho strategické priority a zastupovať rôzne odborné znalosti a perspektívy. Fórum bude pravidelne vydávať aktualizácie, vrátane pridávania nových členov. Bezpečnostný fond AI zároveň vydá svoju prvú výzvu na predkladanie návrhov, pričom granty budú udelené krátko nato. Fórum bude okrem toho naďalej zverejňovať technické zistenia, keď budú k dispozícii.
Hlavným cieľom fóra je spolupracovať s Chrisom Meserole a rozšíriť zapojenie do širšej výskumnej komunity. To zahŕňa partnerstvá s organizáciami, ako je Partnership on AI, MLCommons a ďalšími poprednými mimovládnymi organizáciami, vládnymi subjektmi a nadnárodnými organizáciami. Spoločne sa snažia využiť potenciál AI a zároveň zabezpečiť jej bezpečný a etický vývoj a využitie.
| Súvisiace: 5 kľúčových pohľadov na budúcnosť AI a LLM od Daria Amodeiho, generálneho riaditeľa Anthropic |
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie články
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
