2024-es technológiai trendek: az iparág vezetői a mesterséges intelligencia felkarolása érdekében a hamisított fenyegetések ellen
Röviden
A mélyhamisítási technológia elleni harcban az iparágak mesterséges intelligencia eszközöket és megoldásokat használnak a manipulált tartalom terjedésének leküzdésére.
A folyamatban lévő orosz-ukrán háború alatt megjelent egy videó, amelyen Volodimir Zelenszkij ukrán elnök arra kéri csapatait, hogy adják meg magukat a háború közepén. Ez később kiderült, hogy a deepfake videó.
A folyamatosan fejlődő harcban ellen deepfake technológia, az iparágak egyre inkább egy kifinomult technológiai arzenálhoz fordulnak a manipulált tartalmak elterjedése elleni küzdelemben. A tartalom hitelesítését célzó kezdeményezésektől a láthatatlan vízjel-technikákig, algoritmikus észlelési eszközökig, együttműködési projektekig és platformpolitikai változásokig – a mélyhamisítások elleni küzdelem sokrétűvé és dinamikussá válik.
A tartalom hitelessége és eredete
Az iparági szereplők által vezetett Content Authenticity Initiative (Tartalom Authenticity Initiative) célja a tartalomra vonatkozó hozzárendelési információk titkosítása, lehetővé téve az ellenőrzést a létrehozástól a fogyasztásig. Ezzel egyidejűleg a Coalition for Content Provenance and Authentication (C2PA) kiadott egy nyílt szabványú műszaki specifikációt, amely a tartalom eredetére, módosításaira és közreműködőire vonatkozó adatok szolgáltatására összpontosít.
A Microsoft még egy lépést tett a „Content Credentials as a Service” bejelentésével, amely a C2PA digitális vízjel hitelesítő adatait használja fel, hogy segítse a választási jelölteket és kampányokat a tartalom feletti ellenőrzés fenntartásában.
Vízjelezési technikák
A Meta bemutatta a Stable Signature-t, egy láthatatlan vízjelezési technikát, amelyet a nyílt forráskódú tartalmak megkülönböztetésére terveztek generatív AI modellek. Ez a láthatatlan vízjel, amely szabad szemmel nem észlelhető, de algoritmusokkal nyomon követhető, segít azonosítani a manipulált képeket. A Google DeepMind a SynthID-vel is beszállt a harcba, lehetővé téve a felhasználók számára, hogy digitális vízjelet ágyazzanak be közvetlenül az AI által generált képekbe vagy hanganyagokba.
A technológia lehetővé teszi a felhasználók számára, hogy vízjeleket keressenek a tartalomban, betekintést nyújtva abba, hogy a tartalmat a Google mesterséges intelligencia modelljeivel hozták-e létre vagy módosították-e.
Algoritmikus észlelés
Az ipar a mélyhamisításokhoz automatikus észlelő szoftvert telepít, különféle mesterséges intelligencia-alapú stratégiákra támaszkodva, mint például a hangszórófelismerés, a hangélesség észlelése, arcfelismerőés időbeli elemzés. Figyelemre méltó példa a Microsoft Video Authenticator és az Intel által támogatott FakeCatcher.
A kihívás azonban az észlelőeszközök átmeneti jellegében rejlik, mivel a fejlődő mélyhamisítási technikák folyamatosan megkérdőjelezik megbízhatóságukat. A tanulmány eltérő pontossági szintet (30-97%) talált az egyes adatkészletekben, ami azt jelzi, hogy folyamatos innovációra van szükség, hogy lépést tartsunk a feltörekvő mélyhamisítási technológiákkal.
Projekt eredete
Médiaszervezetek, köztük a BBC és microsoft, együttműködött a Project Originben. Ez a kezdeményezés egy mérnöki megközelítést kíván kialakítani a szintetikus médiával kapcsolatban, digitálisan aláírt hivatkozásokat biztosítva a médiatartalomnak a kiadóig való ellenőrizhető nyomon követéséhez. A projekt célja érvényesítési ellenőrzések végrehajtása is annak biztosítására, hogy a tartalom változatlan maradjon a terjesztés során.
Platformházirend-módosítások
A politikai hirdetések magas kockázatú kontextusára reagálva a nagy platformok kedvelik meta és a Google az átláthatóság fokozása érdekében irányelvmódosításokat jelentett be. A Meta frissített politikai hirdetésekre vonatkozó közzétételi irányelve arra kötelezi a hirdetőket, hogy a választásokkal kapcsolatos vagy politikai hirdetésekben tárjanak fel digitálisan módosított tartalmat.
Youtube megköveteli az alkotóktól, hogy hozzák nyilvánosságra a szintetikus médiatartalom használatát, és ennek elmulasztása szankciókat vonhat maga után, beleértve a tartalom eltávolítását vagy a YouTube Partnerprogramból való felfüggesztését. A Google Play Áruház egy irányelvet is bevezetett a mesterséges intelligencia által generált tartalmakra vonatkozóan, amely a káros vagy megtévesztő tartalom generatív AI-alkalmazásokon keresztül történő létrehozásának és terjesztésének megakadályozására összpontosít.
Ahogy a mélyhamisítások elleni küzdelem fokozódik, az iparági beavatkozások és technológiai megoldások elengedhetetlennek bizonyulnak a digitális tartalmak hitelességének és megbízhatóságának megőrzésében. A különböző ágazatok jelentős szereplőinek együttműködési erőfeszítései tükrözik azt az elkötelezettséget, hogy a szintetikus média fejlődő tája előtt maradjanak.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
További cikkek
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
