Asiantuntijat varoittavat "haitallisia lisäyksiä" tekoälytietosarjoihin ChatGPT
Lyhyesti
ChatGPT on mahdollisesti haavoittuva harjoitustietojen takia.
Tutkijoiden mukaan vain 60 dollarilla Yhdysvalloissa voisimme myrkyttää 0.01 % LAION-400- tai COYO-700-tietosarjoista vuonna 2022.
ChatGPT teknologia on tulossa yhä suositummaksi, mutta viime aikoina tutkimus ehdottaa, että tämä tekniikka voi olla haavoittuvainen sen käyttämien harjoitustietojen vuoksi. Kun malleista tulee monimutkaisempia ja tietojoukot kasvavat ja monimutkaisempia, haitalliset toimijat voivat hyödyntää tätä haavoittuvuutta manipuloidakseen tietojoukkoja ja saada koneoppimismallit tuottamaan epätarkkoja tuloksia.
Ensisijainen huolenaihe on, että chatbot-tietokannat ovat usein "ehdollisesti varmennettuja" tietojoukkoja, mikä tarkoittaa, että tietoihin laitetaan tietty luottamus ilman laajaa todentamista. Toisin sanoen näissä tietojoukoissa voi usein olla taustalla olevia ongelmia, joita ei ole otettu huomioon. Vaikka tietojoukkojen validointia ei useinkaan suoriteta niiden suuren koon vuoksi, on olemassa mahdollisuus, että haitalliset toimijat voivat manipuloida näitä tietoja.
Itse asiassa tutkijat ovat ehdottaneet, että vuoteen 2022 mennessä hyökkääjät voisivat käyttää arviolta 60 dollaria myrkyttääkseen 0.01 % LAION-400- tai COYO-700-tietosarjoista. Vaikka tämä ei kuulosta paljolta, pahantahtoiset toimijat voivat käyttää tätä myrkytettyä dataa omaksi hyödykseen, jos niitä ei valvota. Haitalliset tiedot voivat lopulta vuotaa suurempiin tietokokonaisuuksiin, mikä heikentää tiedon laatua ja johtaa epäluotettaviin koneoppimismalleihin.
On tarpeen ryhtyä toimiin tietokantojen suojaamiseksi haitallisilta tiedoilta. Useiden tietolähteiden yhdistämisestä pitäisi tulla chatbotin standardi koulutustietojoukot varmistaaksesi, että tiedot ovat luotettavia ja tarkkoja. Lisäksi yritysten tulisi kokeilla tietojoukkoja varmistaakseen, etteivät ne ole alttiita haitallisille toimijoille.
Haitallista koodia sisältävät AI-chatbotit voivat olla haavoittuvia
Haitallisen koodin uhka chatboteissa voi olla melko vakava; haitallista koodia voidaan käyttää käyttäjätietojen varastamiseen, haitallisen pääsyn mahdollistamiseen palvelimille ja haitallisten toimintojen, kuten esim. rahanpesu tai tietojen suodattaminen. Jos AI-chatbot on koulutettu käyttämään haitallisia lisäyksiä sisältäviä tietoja, se voi tietämättään ruiskuttaa haitallisen koodin vastauksiinsa ja tietämättään käyttää haitallisen hyödyn työkaluna.
Haitalliset toimijat voivat hyödyntää tätä haavoittuvuutta joko tarkoituksella tai vahingossa lisäämällä haitallista koodia harjoitustiedot. Lisäksi, koska AI-chatbotit oppivat niille esitetyistä tiedoista, tämä voi myös johtaa siihen, että ne oppivat vääriä vastauksia tai jopa haitallista käyttäytymistä.
Toinen vaara, jonka tekoäly-chatbotit voivat kohdata, on "yliasennus". Tämä on silloin, kun ennustemalleja koulutetaan liian tarkasti niille annettujen tietojen perusteella, mikä johtaa huonoihin ennusteisiin, kun niitä esitetään uusien tietojen kanssa. Tämä voi olla erityinen ongelma kuten AI chatbotit Haittakoodiin koulutetut voisivat mahdollisesti tulla tehokkaammin syöttämään haitallista koodia vastauksiinsa, kun he tutustuvat tietoihin paremmin.
On tärkeää olla tietoinen riskeistä ja ryhtyä varotoimiin opetuksessa käytetyn harjoitusdatan takaamiseksi ChatGPT on turvallinen ja luotettava näiden mahdollisten heikkouksien estämiseksi. Koulutukseen käytetyt lähtötiedot on myös säilytettävä erillisinä ja yksilöityinä; "haitallisten lisäosien" mainostaminen ei saa olla ristiriidassa muiden lähteiden kanssa tai olla päällekkäin muiden lähteiden kanssa. On tutkittava ja verrattava muihin verkkotunnuksiin, onko useiden vahvistettujen verkkotunnusten "kaappaus" mahdollista tietojen validoimiseksi.
Chatbot-teknologia lupaa muuttaa ihmisten tapaa käydä ihmisten keskusteluja. Mutta ennen kuin se voi toteuttaa täyden potentiaalinsa, sitä on parannettava ja turvattava. Chatbottien tietojoukot on tarkistettava huolellisesti ja valmiita torjumaan haitalliset toimijat. Näin voimme varmistaa, että hyödynnämme teknologian potentiaalia täysimääräisesti ja jatkamme sen työntämistä rajat tekoälyn hyödyntämistä.
Lue lisää tekoälystä:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
