Business Nieuwsverslag
25 oktober 2023

Antropisch, Google, Microsoft en OpenAI Benoem een ​​uitvoerend directeur voor het Frontier Model Forum en onthul het AI Safety Fund van $10 miljoen

In het kort

Antropisch, Google, Microsoft en OpenAI hebben Chris Meserole geïntroduceerd als de inaugurele uitvoerend directeur van het Frontier Model Forum.

Tegelijkertijd hebben ze een substantieel AI-veiligheidsfonds aangekondigd, met meer dan $ 10 miljoen aan financiering.

Antropisch, Google, Microsoft en OpenAI Benoem een ​​uitvoerend directeur voor het Frontier Model Forum en onthul het AI Safety Fund van $10 miljoen

Antropisch, Google, Microsoft en OpenAI hebben benoemd Chris Meserole als de inaugurele uitvoerend directeur van het Frontier Model Forum. Het industrieconsortium zet zich in voor het bevorderen van de veilige en ethische vooruitgang van geavanceerde AI-modellen wereldwijd. Tegelijkertijd introduceerde Forum een ​​AI Safety Fund van ruim $10 miljoen. Het doel van het fonds is om vooruitgang te boeken in het AI-veiligheidsonderzoek.

Leidinggevend directeur Chris Meserole brengt een uitgebreide achtergrond met zich mee in technologiebeleid en het bestuur van opkomende technologieën. Vóór zijn benoeming was hij directeur van het Artificial Intelligence and Emerging Technology Initiative bij de Brookings Institution. In zijn nieuwe hoedanigheid zal Meserole leiding geven aan de inspanningen om AI-veiligheidsonderzoek te bevorderen, beste praktijken voor de ontwikkeling van veilige AI-modellen te identificeren, kennis te verspreiden onder belanghebbenden en initiatieven te ondersteunen die AI benutten om maatschappelijke uitdagingen aan te pakken.

“De krachtigste AI-modellen houden een enorme belofte in voor de samenleving, maar om hun potentieel te realiseren moeten we beter begrijpen hoe we ze veilig kunnen ontwikkelen en evalueren. Ik ben blij om die uitdaging aan te gaan met het Frontier Model Forum,”

zei Meserole.

Het AI Safety Fund is ontstaan ​​als reactie op de snelle vooruitgang van AI-capaciteiten het afgelopen jaar, waardoor verder academisch onderzoek naar AI-veiligheid noodzakelijk was. Dit fonds, een samenwerking tussen het Frontier Model Forum en filantropische partners, zal steun bieden aan onafhankelijke onderzoekers over de hele wereld die verbonden zijn aan academische instellingen, onderzoeksorganisaties en startups. 

De belangrijkste bijdragers aan dit initiatief zijn Anthropic, Google, Microsoft en OpenAI, samen met filantropische organisaties zoals de Patrick J. McGovern Foundation, de David and Lucile Packard Foundation, Eric Schmidt en Jaan Tallinn. Hun gezamenlijke bijdragen bedragen meer dan $10 miljoen, waarbij wordt geanticipeerd op aanvullende donaties van andere partners.

Eerder dit jaar hebben Forum-leden vrijwillige toezeggingen gedaan in het Witte Huis, waaronder het mogelijk maken van de ontdekking en rapportage van kwetsbaarheden in hun AI-systemen door derden. Het AI Safety Fund sluit aan bij deze belofte door externe gemeenschappen financiering aan te bieden om grensverleggende AI-systemen onder de loep te nemen. Een diversiteit aan stemmen en perspectieven zal het mondiale discours over AI-veiligheid verrijken en de algemene AI-kennisbasis vergroten.

Verbetering van de veiligheid en samenwerking van AI

Het AI Safety Fund concentreert zich in de eerste plaats op het versterken van de ontwikkeling van nieuwe evaluatietechnieken en red teaming-benaderingen voor AI-modellen, met als doel potentiële gevaren bloot te leggen. Red teaming is een gestructureerd proces voor het onderzoeken van AI-systemen om schadelijke capaciteiten, outputs of infrastructurele bedreigingen te identificeren. Meer financiering op dit gebied zou de veiligheids- en beveiligingsnormen kunnen verhogen en waardevolle inzichten kunnen verschaffen in het verzachten van de uitdagingen die AI-systemen met zich meebrengen.

Bovendien zal het Fonds binnenkort onderzoeksvoorstellen zoeken en worden beheerd door het Meridian Institute met advies van een adviescommissie, waaronder onafhankelijke experts, AI-professionals en deskundigen op het gebied van subsidieverlening.

Er is een verantwoord openbaarmakingsproces aan de gang, waardoor Frontier AI-labs informatie kunnen delen over kwetsbaarheden en gevaarlijke mogelijkheden in frontier AI-modellen, samen met hun oplossingen. Sommige Forum-bedrijven hebben dergelijke kwesties al geïdentificeerd in de context van de nationale veiligheid en dienen als casestudy's om andere laboratoria te begeleiden bij het implementeren van procedures voor verantwoorde openbaarmaking.

Vooruitkijkend is het Frontier Model Forum van plan om in de komende maanden een adviesraad op te richten, belast met het sturen van de strategische prioriteiten en het vertegenwoordigen van diverse expertise en perspectieven. Het Forum zal regelmatig updates uitbrengen, waaronder de toevoeging van nieuwe leden. Tegelijkertijd zal het AI Safety Fund zijn eerste oproep tot het indienen van voorstellen uitbrengen, waarna kort daarna subsidies worden toegekend. Daarnaast zal het Forum technische bevindingen blijven vrijgeven zodra deze beschikbaar komen.

Het overkoepelende doel van het Forum is om samen te werken met Chris Meserole en de betrokkenheid bij de bredere onderzoeksgemeenschap uit te breiden. Dit omvat partnerschappen met organisaties zoals het Partnership on AI, MLCommons en andere toonaangevende NGO's, overheidsinstanties en multinationale organisaties. Samen willen ze het potentieel van AI benutten en tegelijkertijd de veilige en ethische ontwikkeling en het gebruik ervan garanderen.

Zie ook: 5 belangrijke inzichten over de toekomst van AI en LLM's van Dario Amodei, CEO van Anthropic

Disclaimer

In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.

Over de auteur

Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].

Meer artikelen
Agne Cimerman
Agne Cimerman

Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].

Van Ripple tot The Big Green DAO: hoe cryptocurrency-projecten bijdragen aan liefdadigheid

Laten we initiatieven onderzoeken die het potentieel van digitale valuta voor goede doelen benutten.

Meer weten

AlphaFold 3, Med-Gemini en anderen: de manier waarop AI de gezondheidszorg transformeert in 2024

AI manifesteert zich op verschillende manieren in de gezondheidszorg, van het blootleggen van nieuwe genetische correlaties tot het versterken van robotchirurgische systemen...

Meer weten
Sluit u aan bij onze innovatieve technologiegemeenschap
Lees meer
Lees meer
Pyth Network implementeert Oracle op Solana, waardoor ontwikkelaars toegang krijgen tot Oracle-prijzen
Nieuwsverslag Technologie
Pyth Network implementeert Oracle op Solana, waardoor ontwikkelaars toegang krijgen tot Oracle-prijzen
17 June 2024
Aethir's AI- en gamingpartners Airdrop Tokens voor de Checker-knooppunthouders
Featured Nieuwsverslag Technologie
Aethir's AI- en gamingpartners Airdrop Tokens voor de Checker-knooppunthouders
17 June 2024
Notional Finance gaat V2 eind juli volledig afschaffen en spoort gebruikers aan om over te stappen naar V3
Nieuwsverslag Technologie
Notional Finance gaat V2 eind juli volledig afschaffen en spoort gebruikers aan om over te stappen naar V3
17 June 2024
Tether lanceert een legeringsplatform ondersteund door Tether Gold en introduceert het eerste token, een USD₮
markten Nieuwsverslag Technologie
Tether lanceert een legeringsplatform ondersteund door Tether Gold en introduceert het eerste token, een USD₮
17 June 2024