NIST:n julkaisematon tekoälyriskitutkimus on jäänyt hyllyyn hallinnollisen muutoksen vuoksi
Lyhyesti
NISTin johtamassa red teaming -harjoituksessa CAMLISissa arvioitiin edistyneiden tekoälyjärjestelmien haavoittuvuuksia ja arvioitiin riskejä, kuten väärää tietoa, tietovuotoja ja emotionaalista manipulointia.
Kansallinen standardointi- ja teknologiainstituutti (NIST) sai valmiiksi raportin edistyneiden tekoälymallien turvallisuudesta Joe Bidenin hallinnon loppupuolella, mutta dokumenttia ei julkaistu Donald Trumpin hallinnon siirtymisen jälkeen.
Viime vuoden lokakuussa Arlingtonissa, Virginiassa, järjestetty tietoturvakonferenssi kokosi yhteen joukon tekoälytutkijoita, jotka osallistuivat uraauurtavaan "red teaming" -harjoitukseen, jonka tavoitteena oli testata perusteellisesti huippuluokan kielimallia ja muita tekoälyjärjestelmiä. Kahden päivän aikana nämä tiimit löysivät 139 uutta menetelmää järjestelmien toimintahäiriöiden aiheuttamiseksi, kuten väärän tiedon tuottamiseksi tai arkaluonteisten tietojen paljastamiseksi. Ratkaisevasti heidän löydöksensä paljastivat myös heikkouksia Yhdysvaltain hallituksen äskettäisessä standardissa, jonka tarkoituksena on ohjata yrityksiä tekoälyjärjestelmien turvallisuuden arvioinnissa.
Vaikka raportti oli suunniteltu auttamaan organisaatioita tekoälyjärjestelmiensä arvioinnissa, se oli yksi useista NIST:n laatimista tekoälyasiakirjoista, joita ei julkaistu mahdollisten ristiriitojen vuoksi uuden hallinnon poliittisen suunnan kanssa.
Ennen virkaanastujaistaan presidentti Donald Trump ilmoitti aikomuksestaan kumota Bidenin aikakauden tekoälyyn liittyvät presidentin määräykset. Siirtymän jälkeen hallinto on ohjannut asiantuntijoiden huomion pois esimerkiksi algoritmien vinoumasta ja tekoälyn oikeudenmukaisuudesta. Heinäkuussa julkaistu tekoälytoimintasuunnitelma vaatii erityisesti NIST:n tekoälyriskienhallintakehyksen tarkistamista ja suosittelee poistamaan viittaukset misinformaatioon, monimuotoisuuteen, tasa-arvoon ja osallisuuteen (DEI) sekä ilmastonmuutokseen.
Samaan aikaan tekoälytoimintasuunnitelma sisältää ehdotuksen, joka muistuttaa julkaisemattoman raportin tavoitteita. Se ohjeistaa useita liittovaltion virastoja, mukaan lukien NIST:n, järjestämään koordinoidun tekoälyhackathon-aloitteen, jonka tavoitteena on testata tekoälyjärjestelmiä läpinäkyvyyden, toimivuuden, käyttäjähallinnan ja mahdollisten tietoturvahaavoittuvuuksien osalta.
NIST:n johtama Red Teaming -harjoitus tutkii tekoälyjärjestelmien riskejä ARIA-kehyksen avulla CAMLIS-konferenssissa
Punaisen tiimin muodostaminen tehtiin NIST:n Assessing Risks and Impacts of AI (ARIA) -ohjelman puitteissa yhteistyössä tekoälyjärjestelmien arviointiin keskittyvän Humane Intelligence -yrityksen kanssa. Tämä aloite järjestettiin sovelletun koneoppimisen tietoturvakonferenssin (CAMLIS) aikana, jossa osallistujat tutkivat useiden edistyneiden tekoälyteknologioiden haavoittuvuuksia.
CAMLIS Red Teaming -raportissa dokumentoidaan useiden tekoälytyökalujen arviointi, mukaan lukien Metan Llama, avoimen lähdekoodin laaja kielimalli (LLM); Anote, tekoälymallien kehittämis- ja jalostustelusta; Robust Intelligencen turvajärjestelmä, jonka CISCO on sittemmin ostanut; ja Synthesian tekoälyavatareiden luontialusta. Kunkin organisaation edustajat osallistuivat red teaming -toimintaan.
Osallistujat käyttivät NIST AI 600-1 -viitekehystä analysoidakseen kyseisiä työkaluja. Tämä viitekehys hahmottelee useita riskialueita, kuten tekoälyn mahdollisuuden tuottaa väärää tietoa tai kyberturvallisuusuhkia, paljastaa yksityisiä tai arkaluonteisia tietoja tai edistää emotionaalista riippuvuutta käyttäjien ja tekoälyjärjestelmien välillä.
Julkaisematon tekoälyn Red Teaming -raportti paljastaa mallien haavoittuvuuksia, herättää huolta poliittisesta sorrosta ja menetetyistä tutkimusnäkemyksistä
Tutkimusryhmä löysi useita menetelmiä arvioitavien työkalujen tarkoitettujen suojatoimien kiertämiseksi, mikä johti muun muassa väärän tiedon levittämiseen, yksityisten tietojen paljastumiseen ja apuun kyberhyökkäysstrategioiden laatimisessa. Raportin mukaan jotkin NIST-kehyksen osa-alueet osoittautuivat sovellettavissa olevaksi paremmin kuin toiset. Siinä todettiin myös, että tietyistä riskiluokista puuttui käytännön käytön edellyttämä selkeys.
Punaisen tiimin muodostamiseen perehtyneet henkilöt kertoivat, että harjoituksen tulokset olisivat voineet tarjota arvokkaita näkemyksiä laajemmalle tekoälyn tutkimus- ja kehitysyhteisölle. Yksi osallistujista, Carnegie Mellon -yliopiston tohtorikoulutettava Alice Qian Zhang, totesi, että raportin julkinen jakaminen olisi saattanut auttaa selventämään, miten NIST:n riskikehys toimii todellisissa testausympäristöissä. Hän korosti myös, että suora vuorovaikutus työkalujen kehittäjien kanssa arvioinnin aikana lisäsi kokemukseen arvoa.
Eräs toinen nimettömänä pysyttelevä osallistuja ilmoitti, että harjoituksessa paljastui tiettyjä kehotustekniikoita – käyttäen kieliä, kuten venäjää, gudžaratia, marathia ja telugua – jotka olivat erityisen onnistuneita kiellettyjen tulosteiden saamisessa esiin malleista, kuten Llama, mukaan lukien ohjeet ääriryhmiin liittymiseen. Tämä henkilö ehdotti, että päätös olla julkaisematta raporttia saattaa heijastaa laajempaa siirtymää pois monimuotoisuuteen, tasa-arvoon ja osallisuuteen liittyviksi koetuilta alueilta ennen uuden hallinnon virkaanastujaisia.
Jotkut osallistujat spekuloivat, että raportin poisjättäminen saattaa johtua myös hallituksen lisääntyneestä keskittymisestä merkittäviin riskeihin – kuten tekoälyjärjestelmien mahdolliseen käyttöön joukkotuhoaseiden kehittämisessä – ja rinnakkaisista pyrkimyksistä vahvistaa suhteita suuriin teknologiayrityksiin. Yksi punaisen tiimin osallistuja huomautti nimettömästi, että poliittiset näkökohdat todennäköisesti vaikuttivat raportin pimittämiseen ja että raportissa oli edelleen tieteellisesti relevantteja oivalluksia.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Alisa, omistautunut toimittaja MPost, on erikoistunut kryptovaluuttaan, nollatietotodisteisiin, sijoituksiin ja laajaan Web3. Hän tarkkailee tarkasti nousevia trendejä ja teknologioita, ja hän tarjoaa kattavan kattavuuden tiedottaakseen ja saadakseen lukijat mukaan digitaalisen rahoituksen jatkuvasti kehittyvään maisemaan.
lisää artikkeleita
Alisa, omistautunut toimittaja MPost, on erikoistunut kryptovaluuttaan, nollatietotodisteisiin, sijoituksiin ja laajaan Web3. Hän tarkkailee tarkasti nousevia trendejä ja teknologioita, ja hän tarjoaa kattavan kattavuuden tiedottaakseen ja saadakseen lukijat mukaan digitaalisen rahoituksen jatkuvasti kehittyvään maisemaan.
