Anthropic, Google, Microsoft ir OpenAI Paskirti „Frontier Model Forum“ vykdomąjį direktorių ir atskleisti 10 mln. USD AI saugos fondą
Trumpai
Anthropic, Google, Microsoft ir OpenAI pristatė Chrisą Meserole kaip „Frontier Model Forum“ vykdomąjį direktorių.
Tuo pačiu metu jie paskelbė apie didelį AI saugos fondą, kuriam skiriama daugiau nei 10 mln.
Anthropic, Google, Microsoft ir OpenAI turėti paskirtas Chrisas Meserole'as tapo „Frontier Model Forum“ vykdomuoju direktoriumi. Pramonės konsorciumas siekia skatinti saugų ir etišką pažangiausių AI modelių progresą visame pasaulyje. Tuo pačiu metu „Forum“ pristatė daugiau nei 10 mln. USD vertės AI saugos fondą. Fondo tikslas – skatinti dirbtinio intelekto saugos tyrimų pažangą.
Vykdantysis direktorius Krisas Meserolis suteikia daug žinių apie technologijų politiką ir naujų technologijų valdymą. Prieš paskyrimą jis dirbo Brukingso instituto Dirbtinio intelekto ir naujų technologijų iniciatyvos direktoriumi. Eidamas naujas pareigas, Meserole vadovaus pastangoms tobulinti AI saugos tyrimus, nustatyti geriausią saugaus AI modelio kūrimo praktiką, skleisti žinias suinteresuotosioms šalims ir remti iniciatyvas, kuriomis dirbtinis intelektas naudojamas sprendžiant visuomenės iššūkius.
„Galingiausi dirbtinio intelekto modeliai visuomenei žada didžiulį pažadą, tačiau norėdami realizuoti jų potencialą, turime geriau suprasti, kaip juos saugiai kurti ir įvertinti. Džiaugiuosi galėdamas priimti šį iššūkį „Frontier Model Forum“
pasakė Meserolė.
AI saugos fondas atsirado reaguojant į spartų DI pajėgumų progresą per pastaruosius metus, todėl reikėjo atlikti tolesnius akademinius DI saugos tyrimus. Šis fondas, bendradarbiaujantis tarp Frontier Model Forum ir filantropinių partnerių, teiks paramą nepriklausomiems tyrėjams visame pasaulyje, susijusiems su akademinėmis institucijomis, mokslinių tyrimų organizacijomis ir startuoliais.
Pagrindiniai šios iniciatyvos dalyviai yra Anthropic, Google, Microsoft ir OpenAI, kartu su filantropinėmis organizacijomis, tokiomis kaip Patrick J. McGovern Foundation, David and Lucile Packard fondas, Eric Schmidt ir Jaan Tallinn. Jų bendras įnašas viršija 10 milijonų JAV dolerių, tikimasi papildomų aukų iš kitų partnerių.
Anksčiau šiais metais forumo nariai Baltuosiuose rūmuose prisiėmė savanoriškus įsipareigojimus, įskaitant galimybę trečiosioms šalims aptikti ir pranešti apie jų AI sistemų pažeidžiamumą. AI saugos fondas laikosi šio įsipareigojimo, siūlydamas išorės bendruomenėms finansavimą, kad jos galėtų tikrinti pasienio dirbtinio intelekto sistemas. Balsų ir požiūrių įvairovė praturtins pasaulinį diskursą apie AI saugą ir išplės bendrą AI žinių bazę.
AI saugos ir bendradarbiavimo didinimas
AI saugos fondas daugiausia dėmesio skiria naujų vertinimo metodų kūrimui ir AI modeliams skirtų raudonųjų komandų sudarymo metodams, siekiant atskleisti galimus pavojus. Red teaming yra struktūrizuotas AI sistemų tikrinimo procesas, siekiant nustatyti kenksmingas galimybes, rezultatus ar infrastruktūros grėsmes. Padidėjęs finansavimas šioje srityje galėtų pakelti saugos ir saugumo standartus ir suteikti vertingų įžvalgų, kaip sušvelninti AI sistemų keliamus iššūkius.
Be to, fondas netrukus sieks mokslinių tyrimų pasiūlymų, o jį valdys Meridian Institute, remdamasis patariamojo komiteto patarimais, įskaitant nepriklausomus ekspertus, AI specialistus ir dotacijų teikimo ekspertus.
Vykdomas atsakingas atskleidimo procesas, leidžiantis „Frontier AI“ laboratorijoms dalytis informacija apie pažeidžiamumą ir pavojingas galimybes pažangiuose AI modeliuose kartu su jų sprendimais. Kai kurios Forumo įmonės jau nustatė tokias problemas nacionalinio saugumo kontekste, o tai yra atvejų analizė, padedanti kitoms laboratorijoms įgyvendinti atsakingas informacijos atskleidimo procedūras.
Žvelgiant į ateitį, „Frontier Model Forum“ artimiausiais mėnesiais planuoja įsteigti patariamąją tarybą, kuriai pavesta vadovauti jos strateginiams prioritetams ir atstovauti įvairioms žinioms bei perspektyvoms. Forumas reguliariai išleis atnaujinimus, įskaitant naujų narių įtraukimą. Tuo pačiu metu AI saugos fondas paskelbs pirmąjį kvietimą teikti paraiškas, o dotacijos bus skirtos netrukus po to. Be to, forumas ir toliau skelbs technines išvadas, kai tik jos bus prieinamos.
Pagrindinis forumo tikslas yra bendradarbiauti su Chrisu Meserole ir išplėsti bendradarbiavimą su platesne mokslinių tyrimų bendruomene. Tai apima partnerystę su tokiomis organizacijomis kaip Partnerystė dėl AI, MLCommons ir kitos pirmaujančios NVO, vyriausybės subjektai ir tarptautinės organizacijos. Kartu jie siekia išnaudoti AI potencialą, kartu užtikrindami saugų ir etišką jo plėtojimą ir naudojimą.
| Susiję: 5 pagrindinės įžvalgos apie AI ir LLM ateitį iš Dario Amodei, Anthropic generalinio direktoriaus |
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Agnė yra žurnalistė, kuri pasakoja apie naujausias tendencijas ir pokyčius metaverse, AI ir Web3 pramonės šakoms Metaverse Post. Jos aistra pasakojimui paskatino ją vesti daugybę interviu su šių sričių ekspertais, visada siekdama atskleisti įdomių ir įtraukiančių istorijų. Agnė yra įgijusi literatūros bakalauro laipsnį ir daug rašo įvairiomis temomis, įskaitant keliones, meną ir kultūrą. Ji taip pat savanoriavo gyvūnų teisių organizacijos redaktore, kur padėjo didinti informuotumą apie gyvūnų gerovės problemas. Susisiekite su ja [apsaugotas el. paštu].
Daugiau straipsnių
Agnė yra žurnalistė, kuri pasakoja apie naujausias tendencijas ir pokyčius metaverse, AI ir Web3 pramonės šakoms Metaverse Post. Jos aistra pasakojimui paskatino ją vesti daugybę interviu su šių sričių ekspertais, visada siekdama atskleisti įdomių ir įtraukiančių istorijų. Agnė yra įgijusi literatūros bakalauro laipsnį ir daug rašo įvairiomis temomis, įskaitant keliones, meną ir kultūrą. Ji taip pat savanoriavo gyvūnų teisių organizacijos redaktore, kur padėjo didinti informuotumą apie gyvūnų gerovės problemas. Susisiekite su ja [apsaugotas el. paštu].
