Anthropic, Google, Microsoft ja OpenAI Nimitä Frontier Model Forumin toiminnanjohtaja ja julkista 10 miljoonan dollarin tekoälyn turvarahasto
Lyhyesti
Anthropic, Google, Microsoft ja OpenAI ovat esitelleet Chris Meserolen Frontier Model Forumin toiminnanjohtajana.
Samaan aikaan he ovat ilmoittaneet merkittävästä tekoälyn turvarahastosta, jonka rahoitus on yli 10 miljoonaa dollaria.
Anthropic, Google, Microsoft ja OpenAI omistaa nimitetty Chris Meserole Frontier Model Forumin toiminnanjohtajaksi. Alan konsortio on omistautunut edistämään huippuluokan tekoälymallien turvallista ja eettistä etenemistä maailmanlaajuisesti. Samaan aikaan Forum otti käyttöön yli 10 miljoonan dollarin tekoälyn turvarahaston. Rahaston tavoitteena on edistää tekoälyn turvallisuustutkimusta.
Pääjohtaja Chris Meserole tuo laajan taustan teknologiapolitiikasta ja nousevien teknologioiden hallinnasta. Ennen nimittämistään hän toimi Brookings Institutionin tekoälyn ja kehittyvän teknologian aloitteen johtajana. Uudessa tehtävässään Meserole johtaa ponnisteluja tekoälyn turvallisuustutkimuksen edistämiseksi, parhaiden käytäntöjen tunnistamiseksi turvallisen tekoälymallin kehittämiseksi, jakaa tietoa sidosryhmille ja tukee aloitteita, jotka valjastavat tekoälyä vastaamaan yhteiskunnallisiin haasteisiin.
"Tehokkaimmilla tekoälymalleilla on valtava lupaus yhteiskunnalle, mutta niiden potentiaalin toteuttamiseksi meidän on ymmärrettävä paremmin, kuinka niitä voidaan turvallisesti kehittää ja arvioida. Olen innoissani voidessani ottaa haasteen vastaan Frontier Model Forumin kanssa.
sanoi Meserole.
Tekoälyn turvallisuusrahasto on syntynyt vastauksena tekoälyvalmiuksien nopeaan kehittymiseen kuluneen vuoden aikana, mikä vaatii lisää akateemista tutkimusta tekoälyn turvallisuudesta. Tämä rahasto, Frontier Model Forumin ja hyväntekeväisyyskumppaneiden yhteistyö, tarjoaa tukea riippumattomille tutkijoille maailmanlaajuisesti, jotka ovat sidoksissa akateemisiin instituutioihin, tutkimusorganisaatioihin ja startup-yrityksiin.
Tämän aloitteen ensisijaiset osallistujat ovat Anthropic, Google, Microsoft ja OpenAI, sekä hyväntekeväisyysjärjestöt, kuten Patrick J. McGovern Foundation, David and Lucile Packardin säätiö, Eric Schmidt ja Jaan Tallinn. Heidän yhteenlaskettu lahjoituksensa ylittävät 10 miljoonaa dollaria, ja lisälahjoituksia odotetaan muilta kumppaneilta.
Aiemmin tänä vuonna foorumin jäsenet lupasivat vapaaehtoisia sitoumuksia Valkoisessa talossa, mukaan lukien mahdollistavat kolmannen osapuolen löytämisen ja raportoinnin haavoittuvuuksista tekoälyjärjestelmiensä. Tekoälyturvarahasto noudattaa tätä sitoumusta tarjoamalla ulkopuolisille yhteisöille rahoitusta rajallisten tekoälyjärjestelmien tarkastamiseen. Monipuoliset äänet ja näkökulmat rikastuttavat tekoälyn turvallisuutta koskevaa maailmanlaajuista keskustelua ja laajentavat yleistä tekoälytietopohjaa.
Tehostetaan tekoälyn turvallisuutta ja yhteistyötä
Tekoälyn turvarahasto keskittyy ensisijaisesti uusien arviointitekniikoiden ja punaisten ryhmittymismenetelmien kehittämisen tukemiseen tekoälymalleja varten, jotta voidaan paljastaa mahdolliset vaarat. Red teaming on jäsennelty prosessi tekoälyjärjestelmien tarkastamiseksi haitallisten ominaisuuksien, tulosten tai infrastruktuurin uhkien tunnistamiseksi. Lisääntynyt rahoitus tällä alalla voisi nostaa turvallisuusstandardeja ja tarjota arvokkaita oivalluksia tekoälyjärjestelmien aiheuttamien haasteiden lieventämiseen.
Lisäksi rahasto hakee pian tutkimusehdotuksia, ja sitä hallinnoi Meridian Institute neuvoa-antavan komitean neuvonantajana, johon kuuluu riippumattomia asiantuntijoita, tekoälyn ammattilaisia ja apurahojen myöntämisen asiantuntijoita.
Vastuullinen julkistamisprosessi on meneillään, minkä ansiosta Frontier AI -laboratoriot voivat jakaa tietoa rajatylittävien tekoälymallien haavoittuvuuksista ja vaarallisista ominaisuuksista sekä ratkaisuistaan. Jotkut Forum-yritykset ovat jo tunnistaneet tällaisia ongelmia kansallisen turvallisuuden yhteydessä, ja ne ovat toimineet tapaustutkimuksina, jotka ohjaavat muita laboratorioita vastuullisten julkistamismenettelyjen toteuttamisessa.
Tulevaisuudessa Frontier Model Forum suunnittelee perustavansa lähikuukausina neuvottelukunnan, jonka tehtävänä on ohjata sen strategisia prioriteetteja ja edustaa monipuolista asiantuntemusta ja näkökulmia. Foorumi julkaisee säännöllisesti päivityksiä, mukaan lukien uusien jäsenten lisääminen. Samaan aikaan tekoälyn turvarahasto julkaisee ensimmäisen ehdotuspyyntönsä, ja apurahat myönnetään pian sen jälkeen. Lisäksi foorumi jatkaa teknisten havaintojen julkaisemista sitä mukaa, kun niitä tulee saataville.
Foorumin päätavoitteena on tehdä yhteistyötä Chris Meserolen kanssa ja laajentaa vuorovaikutusta laajemman tutkimusyhteisön kanssa. Tämä sisältää kumppanuudet organisaatioiden, kuten Partnership on AI, MLCommons, ja muiden johtavien kansalaisjärjestöjen, valtion tahojen ja monikansallisten organisaatioiden kanssa. Yhdessä ne pyrkivät hyödyntämään tekoälyn potentiaalia varmistaen samalla sen turvallisen ja eettisen kehittämisen ja käytön.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
lisää artikkeleita
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
