Anthropic, Google, Microsoft és OpenAI Nevezd ki a Frontier Model Forum ügyvezető igazgatóját, és mutasd be a 10 millió dolláros AI biztonsági alapot
Röviden
Anthropic, Google, Microsoft és OpenAI bemutatták Chris Meserole-t a Frontier Model Forum első ügyvezető igazgatójaként.
Ezzel egyidejűleg jelentős AI biztonsági alapot jelentettek be, több mint 10 millió dolláros támogatással.
Anthropic, Google, Microsoft és OpenAI ajánlatunkra kijelölt Chris Meserole a Frontier Model Forum bevezető igazgatója. Az iparági konzorcium elkötelezett az élvonalbeli AI-modellek biztonságos és etikus fejlődésének előmozdítása mellett világszerte. Ezzel egyidejűleg a Forum több mint 10 millió dolláros mesterségesintelligencia-biztonsági alapot vezetett be. Az alap célja, hogy előrelépéseket tegyen az AI biztonsági kutatásában.
Ügyvezető igazgató Chris Meserole kiterjedt hátteret hoz a technológiai politikában és a feltörekvő technológiák irányításában. Kinevezése előtt a Brookings Institution Mesterséges Intelligencia és Feltörekvő Technológiai Kezdeményezés igazgatójaként dolgozott. Új minőségében Meserole az AI-biztonsági kutatás előmozdítására, a biztonságos mesterségesintelligencia-modell fejlesztésének legjobb gyakorlatainak azonosítására, az ismeretek terjesztésére az érdekelt felek számára, valamint az AI-t a társadalmi kihívások kezelésére hasznosító kezdeményezések támogatására irányuló erőfeszítésekben fog vezetni.
„A legerősebb mesterségesintelligencia-modellek óriási ígéretet rejtenek a társadalom számára, de a bennük rejlő lehetőségek kiaknázásához jobban meg kell értenünk, hogyan lehet biztonságosan kifejleszteni és értékelni őket. Izgatottan várom, hogy vállaljam ezt a kihívást a Frontier Model Fórummal”
- mondta Meserole.
Az AI Biztonsági Alap az AI-képességek elmúlt év során tapasztalt gyors fejlődésére válaszul jött létre, amely további tudományos kutatást tesz szükségessé a mesterséges intelligencia biztonságával kapcsolatban. Ez az alap, a Frontier Model Forum és a jótékonysági partnerek együttműködése, támogatást nyújt azoknak a független kutatóknak, akik világszerte kapcsolatban állnak tudományos intézményekkel, kutatószervezetekkel és startupokkal.
A kezdeményezés elsődleges közreműködői az Anthropic, a Google, a Microsoft és OpenAI, valamint olyan jótékonysági szervezetekkel, mint a Patrick J. McGovern Alapítvány, a David és Lucile Packard Alapítvány, Eric Schmidt és Jaan Tallinn. Összesített hozzájárulásuk meghaladja a 10 millió dollárt, más partnerek további adományaival együtt.
Az év elején a Fórum tagjai önkéntes kötelezettségvállalást tettek a Fehér Házban, többek között lehetővé teszik, hogy harmadik felek fedezzék fel és jelentsék a mesterséges intelligencia-rendszereik sebezhetőségét. Az AI Biztonsági Alap e kötelezettségvállaláshoz igazodik azáltal, hogy külső közösségek számára finanszírozást kínál a határ menti AI-rendszerek ellenőrzésére. A hangok és nézőpontok sokfélesége gazdagítja a mesterséges intelligencia biztonságáról szóló globális diskurzust, és bővíti az általános mesterséges intelligencia tudásbázist.
Az AI biztonságának és együttműködésének fokozása
Az AI Biztonsági Alap elsősorban az AI-modellek új értékelési technikáinak és red teaming megközelítéseinek fejlesztésére összpontosít, a lehetséges veszélyek feltárása érdekében. A Red teaming egy strukturált folyamat az AI-rendszerek átvizsgálására a káros képességek, kimenetek vagy infrastrukturális fenyegetések azonosítása érdekében. A megnövekedett finanszírozás ezen a területen javíthatja a biztonsági és védelmi szabványokat, és értékes betekintést nyújthat az AI-rendszerek jelentette kihívások mérséklésére.
Ezenkívül az Alap hamarosan kutatási javaslatokat fog kérni, és a Meridian Institute irányítja majd egy tanácsadó bizottság tanácsaival, amely független szakértőket, mesterséges intelligencia-szakértőket és támogatási szakértőket is magában foglal.
Folyamatban van egy felelősségteljes nyilvánosságra hozatali folyamat, amely lehetővé teszi a Frontier AI-laboratóriumok számára, hogy információkat osszanak meg a határ menti AI-modellek sebezhetőségeiről és veszélyes képességeiről, valamint azok megoldásairól. A Forum egyes vállalatai már azonosítottak ilyen problémákat a nemzetbiztonsággal összefüggésben, esettanulmányként szolgálva más laboratóriumok számára a felelősségteljes közzétételi eljárások végrehajtásában.
A jövőre nézve a Frontier Model Forum az elkövetkező hónapokban egy tanácsadó testület felállítását tervezi, amelynek feladata a stratégiai prioritások irányítása és sokrétű szakértelem és perspektíva képviselete. A Fórum rendszeresen frissítéseket tesz közzé, beleértve az új tagok felvételét is. Ezzel egyidejűleg az AI Biztonsági Alap is közzéteszi első pályázati felhívását, a támogatásokat röviddel ezután ítélik oda. Ezenkívül a fórum továbbra is közzéteszi a technikai megállapításokat, amint azok elérhetővé válnak.
A Fórum átfogó célja, hogy együttműködjön Chris Meserole-lal, és bővítse a szélesebb kutatói közösséggel való együttműködést. Ez magában foglalja a partnerségeket olyan szervezetekkel, mint a Partnership on AI, MLCommons, valamint más vezető nem kormányzati szervezetekkel, kormányzati szervekkel és multinacionális szervezetekkel. Együtt az MI-ben rejlő lehetőségek kiaknázását célozzák, miközben biztosítják biztonságos és etikus fejlesztését és felhasználását.
| Kapcsolódó: 5 kulcsfontosságú betekintés az AI és az LLM jövőjébe Dario Amodeitől, az Anthropic vezérigazgatójától |
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Agne újságíró, aki a metaverzum legújabb trendjeivel és fejleményeivel foglalkozik, az AI és Web3 iparágak számára Metaverse Post. A történetmesélés iránti szenvedélye arra késztette, hogy számos interjút készített e területek szakértőivel, mindig izgalmas és lebilincselő történetek feltárására törekedve. Agne irodalomból bachelor diplomát szerzett, és széleskörű írási háttérrel rendelkezik számos témakörben, beleértve az utazást, a művészetet és a kultúrát. Önkéntesként jelentkezett szerkesztőként az állatvédő szervezetnél is, ahol segített felhívni a figyelmet az állatjóléti kérdésekre. Vegye fel vele a kapcsolatot [e-mail védett].
További cikkek
Agne újságíró, aki a metaverzum legújabb trendjeivel és fejleményeivel foglalkozik, az AI és Web3 iparágak számára Metaverse Post. A történetmesélés iránti szenvedélye arra késztette, hogy számos interjút készített e területek szakértőivel, mindig izgalmas és lebilincselő történetek feltárására törekedve. Agne irodalomból bachelor diplomát szerzett, és széleskörű írási háttérrel rendelkezik számos témakörben, beleértve az utazást, a művészetet és a kultúrát. Önkéntesként jelentkezett szerkesztőként az állatvédő szervezetnél is, ahol segített felhívni a figyelmet az állatjóléti kérdésekre. Vegye fel vele a kapcsolatot [e-mail védett].
