A szakértők óvatosságra intnek a mesterséges intelligencia-adatkészletek „rosszindulatú beszúrásaival” szemben ChatGPT
Röviden
ChatGPT potenciálisan sebezhető az edzési adatok miatt.
A kutatók szerint az Egyesült Államokban mindössze 60 dollárért a LAION-0.01 vagy COYO-400 adatkészletek 700%-át mérgezhetjük meg 2022-ben.
ChatGPT a technológia egyre népszerűbb, de új kutatás azt sugallja, hogy ez a technológia sebezhető lehet az általa használt képzési adatok miatt. Ahogy a modellek egyre összetettebbek, az adatkészletek pedig egyre összetettebbé válnak, a rosszindulatú szereplők kihasználhatják ezt a sebezhetőséget az adatkészletek manipulálására, és pontatlan eredményeket idézhetnek elő a gépi tanulási modellekben.
Az elsődleges gond az, hogy a chatbot-adatbázisok gyakran „feltételesen ellenőrzött” adathalmazok, ami azt jelenti, hogy kiterjedt ellenőrzés nélkül bizonyos szintű bizalmat helyeznek az adatokba. Más szavakkal, ezeknek az adatkészleteknek gyakran lehetnek olyan mögöttes problémái, amelyeket nem vettek figyelembe. Bár az adatkészletek ellenőrzését gyakran nem hajtják végre nagy méretük miatt, fennáll a lehetőség, hogy rosszindulatú szereplők manipulálják ezeket az adatokat.
Valójában a kutatók azt sugallták, hogy 2022-re a támadók becslések szerint 60 dollárt költhetnek a LAION-0.01 vagy COYO-400 adatkészletek 700%-ának megmérgezésére. Bár ez nem hangzik soknak, a rosszindulatú szereplők saját hasznukra használhatják ezeket a megmérgezett adatokat, ha figyelmen kívül hagyják őket. A rosszindulatú adatok végül szivárog nagyobb adatkészletekbe, rontva az adatminőséget, és megbízhatatlan gépi tanulási modellekhez vezet.
Lépéseket kell tenni az adatbázisok rosszindulatú adatok elleni védelme érdekében. Több adatforrás összesítése a chatbot szabványává kell, hogy váljon képzési adatkészletek hogy az adatok megbízhatóak és pontosak legyenek. Ezenkívül a vállalatoknak kísérletezniük kell adatkészletekkel annak biztosítása érdekében, hogy ne legyenek sebezhetőek a rosszindulatú szereplőkkel szemben.
A rosszindulatú kódot tartalmazó AI chatbotok sebezhetőek lehetnek a feltöréssel szemben
A rosszindulatú kódok fenyegetése a chatbotokban meglehetősen komoly lehet; a rosszindulatú kód felhasználható felhasználói adatok ellopására, rosszindulatú hozzáférés engedélyezésére a szerverekhez, valamint rosszindulatú tevékenységek engedélyezésére, mint pl. pénzmosás vagy adatkiszűrés. Ha egy mesterséges intelligencia chatbotot rosszindulatú beszúrásokat tartalmazó adatokra tanítanak, akkor tudtán kívül rosszindulatú kódot fecskendezhet a válaszaiba, és tudtukon kívül rosszindulatú haszonszerzés eszközeként használható fel.
Lehetséges, hogy a rosszindulatú szereplők kihasználják ezt a biztonsági rést azáltal, hogy szándékosan vagy véletlenül rosszindulatú kódot juttatnak be a képzési adatok. Ezenkívül, mivel az AI chatbotok tanulnak a bemutatott adatokból, ez arra is vezethet, hogy helytelen válaszokat vagy akár rosszindulatú viselkedést tanulnak meg.
Egy másik veszély, amellyel az AI chatbotok szembesülhetnek, a „túlillesztés”. Ez az az eset, amikor az előrejelzési modelleket túl szorosan képezik a kapott adatokon, ami rossz előrejelzésekhez vezet új adatokkal. Ez különös probléma lehet pl AI csevegőrobotok A rosszindulatú kódokra oktatottak potenciálisan hatékonyabbá tehetik a rosszindulatú kód bejuttatását válaszaikba, ahogy jobban megismerik az adatokat.
Alapvető fontosságú, hogy tisztában legyünk a kockázatokkal, és óvintézkedéseket tegyünk a tanításhoz használt képzési adatok garantálása érdekében ChatGPT biztonságos és megbízható, hogy megelőzze ezeket a lehetséges gyengeségeket. A képzéshez felhasznált kiindulási adatokat is elkülönítve és egyedileg kell tárolni; a „rosszindulatú betétek” reklámozása nem ütközhet más forrásokkal, illetve nem fedhet átfedést más forrásokkal. Meg kell vizsgálni és összehasonlítani más tartományokkal, hogy több megerősített tartomány „befogása” megvalósítható-e az adatok validálásához.
A Chatbot technológia azt ígéri, hogy átalakítja az emberek emberi megbeszéléseit. Mielőtt azonban teljes mértékben kiaknázza a benne rejlő lehetőségeket, javítani és meg kell őrizni. A chatbotok adatkészleteit alaposan ellenőrizni kell, és fel kell készíteni a rosszindulatú szereplők kivédésére. Ezzel biztosíthatjuk, hogy teljes mértékben kiaknázzuk a technológiában rejlő lehetőségeket, és folyamatosan nyomjuk a technológiát határértékek a mesterséges intelligencia.
Tudjon meg többet az AI-ról:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
