Tekoälyyritysten tulisi käyttää 30 % rahoituksestaan turvallisuuden ja eettisten asioiden tutkimukseen ja kehitykseen
Ennakkoluulojen ja väärien tietojen aiheuttamat vahingot ovat jo nähtävissä. On viitteitä siitä, että myös muita vaaroja saattaa ilmaantua. On tärkeää lieventää nykyisiä riskejä ja ennakoida uusia.
Emme tietäisi, miten varmistetaan edistyneiden autonomisten järjestelmien tai AGI:n turvallisuus tai miten testataan niitä, jos niitä olisi saatavilla juuri nyt. Lisäksi hallituksilta puuttuu instituutioita, jotka ovat välttämättömiä väärinkäytösten lopettamiseksi ja turvallisten käytäntöjen käyttöönottamiseksi, vaikka ne olisivatkin. Kirjoittajat tukevat tehokkaan hallituksen valvonnan kehittämistä ja T&K-toiminnan suuntaamista kohti turvallisuutta ja etiikkaa.
Hallinta ja rehellisyys (kehittyneemmät järjestelmät voivat ylittää testauksen tuottamalla vääriä, mutta vakuuttavia vastauksia), kestävyys (uusissa olosuhteissa jakelun vaihtuessa tai kontradiktorisissa panoksissa), tulkittavuus (työn ymmärtäminen), riskinarviointi (uusia kykyjä, joita on vaikea ennustaa), ja uusien haasteiden ilmaantuminen (ennennäkemättömät vikatilat) ovat joitakin T&K-haasteita, joita ei ratkaista kehittää tehokkaampia tekoälyjärjestelmiä.
Kirjoittajat ehdottavat, että turvallisuuden ja etiikan tulisi saada vähintään kolmasosa tekoälyn T&K:n rahoituksesta.
Standardit on pantava täytäntöön suhteessa sekä kansallisiin instituutioihin että maailmanlaajuiseen hallintoon. Tekoälystä puuttuvat nämä, mutta lääke-, rahoitus- ja ydinteollisuudesta puuttuvat. Kansakunnille ja yrityksille on nyt kannustimia säästää turvallisuuden kustannuksella. Yritykset voivat hyötyä tekoälyn kehityksestä jättäen yhteiskunnan kantamaan seuraukset, aivan kuten teollisuus kaataa jätettä jokiin.
Kansallisilta instituutioilta vaaditaan vahvaa teknistä osaamista ja kykyä siirtyä nopeasti. Globaalilla areenalla kumppanuudet ja sopimukset ovat välttämättömiä. Byrokraattisia esteitä pienten ja ennakoitavien mallien tieltä on vältettävä akateemisen tutkimuksen ja vähäriskisten sovellusten turvaamiseksi. Rajamallit – valittu ryhmä tehokkaimpia järjestelmiä, jotka on koulutettu miljardien dollarin supertietokoneisiin – tulisi keskittyä eniten.
Hallitusten on oltava avoimempia kehityksen suhteen, jotta säädökset olisivat tehokkaita. Sääntelyviranomaisten tulisi velvoittaa mallien rekisteröinti, turvata sisäiset tiedottajat, velvoittaa raportoimaan tapauksista ja seurata mallien kehitystä ja supertietokoneiden käyttöä.
Sääntelyviranomaisilla on myös oltava pääsy näihin järjestelmiin ennen niiden tuomista tuotantoon arvioidakseen mahdollisesti haitallinen ominaisuuksia, kuten patogeenien tuottaminen, itsereplikaatio ja järjestelmän tunkeutuminen.
Järjestelmät, jotka voivat olla vaarallisia, tarvitsevat erilaisia ohjausmenetelmiä. Frontier malli tekijöiden on myös oltava laillisesti vastuussa kaikista heidän järjestelmilleen kohdistuvista vahingoista, jotka olisi voitu välttää. Tämän pitäisi rohkaista turvallisuusinvestointeja. Lisää ominaisuuksia, kuten valtion lisensointi, kyky pysäyttää kehitys vastauksena mahdollisesti vaarallinen Osavaltiotason hakkereita läpäisemättömiä ominaisuuksia, kulunvalvontaa ja tietoturvatoimenpiteitä voidaan tarvita erittäin suorituskykyisissä järjestelmissä.
Vaikka sääntöjä ei ole, yritysten tulisi nopeasti selventää jos-niin-vastuunsa hahmottelemalla tarkat toimenpiteet, joita ne tekevät, jos tietyt mallin ominaisuudet ylittävät punaisen viivan. Nämä toimenpiteet on selitettävä perusteellisesti ja vahvistettava riippumattomasti. Näin se on. Erillinen Politiikan lisäys tekee tiivistelmän opinnäytetyöstä.
- Lokakuussa Frontier Model Forum on ottanut käyttöön yli 10 miljoonan dollarin tekoälyn turvarahaston, jonka tavoitteena on edistää tekoälyn turvallisuustutkimusta. Frontier Model Forumin ja hyväntekeväisyyskumppaneiden yhteistyönä toimiva rahasto tarjoaa tukea riippumattomille tutkijoille maailmanlaajuisesti, jotka ovat sidoksissa akateemisiin instituutioihin, tutkimusorganisaatioihin ja startup-yrityksiin. Aloitteen ensisijaiset osallistujat ovat Anthropic, Google, Microsoft, OpenAI, sekä hyväntekeväisyysjärjestöt, kuten Patrick J. McGovern Foundation, David and Lucile Packardin säätiö, Eric Schmidt ja Jaan Tallinn. Tekoälyn turvarahasto keskittyy ensisijaisesti uusien arviointitekniikoiden ja punaisten ryhmittymismenetelmien kehittämiseen tekoälymalleille, joiden tavoitteena on paljastaa mahdolliset vaarat. Foorumi aikoo perustaa neuvottelukunnan lähikuukausina, ja se julkaisee pian sen jälkeen ensimmäisen ehdotuspyyntönsä ja myöntää apurahoja.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
