2024. gada tehnoloģiju tendences: nozares līderi izmanto AI, lai cīnītos pret viltus draudiem
Īsumā
Cīņā pret dziļi viltotām tehnoloģijām nozares izmanto AI rīkus un risinājumus, lai cīnītos pret manipulēta satura izplatību.
Notiekošā Krievijas un Ukrainas kara laikā parādījās video, kurā Ukrainas prezidents Volodimirs Zelenskis lūdz savus karavīrus kara vidū padoties. Tas vēlāk izrādījās a dziļi viltus video.
Nemitīgi mainīgajā cīņā pret deepfake tehnoloģija, nozares arvien vairāk pievēršas sarežģītam tehnoloģiju arsenālam, lai cīnītos pret manipulēta satura izplatību. No satura autentiskuma iniciatīvām līdz neredzamām ūdenszīmēm, algoritmu noteikšanas rīkiem, sadarbības projektiem un platformas politikas izmaiņām — cīņa pret dziļo viltojumu kļūst daudzpusīga un dinamiska.
Satura autentiskums un satura izcelsme
Satura autentiskuma iniciatīvas, ko vada nozares dalībnieki, mērķis ir kriptogrāfiski aizzīmogot attiecinājuma informāciju par saturu, ļaujot veikt pārbaudi no izveides līdz patēriņam. Vienlaikus Satura izcelsmes un autentifikācijas koalīcija (C2PA) ir izlaidusi atvērtā standarta tehnisko specifikāciju, koncentrējoties uz datu sniegšanu par satura izcelsmi, izmaiņām un līdzstrādniekiem.
Microsoft ir spēris soli tālāk, paziņojot par “Content Credentials as a Service”, izmantojot C2PA digitālās ūdenszīmes akreditācijas datus, lai palīdzētu vēlēšanu kandidātiem un kampaņām saglabāt kontroli pār to saturu.
Ūdenszīmju veidošanas paņēmieni
Meta ieviesa Stable Signature — neredzamu ūdenszīmju uzlikšanas paņēmienu, kas paredzēts, lai atšķirtu saturu, kas izveidots ar atvērtā koda palīdzību ģeneratīvie AI modeļi. Šī neredzamā ūdenszīme, kas nav nosakāma ar neapbruņotu aci, bet ir izsekojama ar algoritmiem, palīdz identificēt manipulētos attēlus. Google DeepMind ir iesaistījies arī cīņā ar SynthID, ļaujot lietotājiem iegult digitālo ūdenszīmi tieši AI ģenerētajos attēlos vai audio.
Šī tehnoloģija ļauj lietotājiem skenēt saturā ūdenszīmes, sniedzot ieskatu par to, vai saturs ir izveidots vai mainīts, izmantojot Google AI modeļus.
Algoritmiskā noteikšana
Nozare izvieto automātisku atklāšanas programmatūru dziļiem viltojumiem, paļaujoties uz dažādām uz AI balstītām stratēģijām, piemēram, skaļruņu atpazīšanu, balss dzīvīguma noteikšanu, sejas atpazīšanaun laika analīze. Ievērojami piemēri ir Microsoft video autentifikators un Intel atbalstītais FakeCatcher.
Tomēr izaicinājums ir atklāšanas rīku pārejošs raksturs, jo attīstošās dziļās viltojumu ražošanas metodes pastāvīgi apšauba to uzticamību. A studēt atklāja dažādus precizitātes līmeņus (30–97%) dažādās datu kopās, norādot uz nepieciešamību pēc nepārtrauktiem jauninājumiem, lai neatpaliktu no jaunajām dziļās viltošanas tehnoloģijām.
Projekta izcelsme
Plašsaziņas līdzekļu organizācijas, tostarp BBC un microsoft, sadarbojās ar Project Origin. Šīs iniciatīvas mērķis ir izveidot inženiertehnisku pieeju sintētiskiem medijiem, nodrošinot digitāli parakstītas saites, lai pārbaudāmi izsekotu multivides saturu līdz izdevējam. Projekta mērķis ir arī ieviest validācijas pārbaudes, lai nodrošinātu, ka saturs izplatīšanas laikā netiek mainīts.
Platformas politikas izmaiņas
Reaģējot uz politiskās reklāmas augsta riska kontekstu, lielākās platformas, piemēram, meta un Google ir paziņojuši par izmaiņām politikā, lai uzlabotu pārredzamību. Meta atjauninātā politisko reklāmu atklāšanas politika uzliek reklāmdevējiem pienākumu atklāt digitāli mainītu saturu ar vēlēšanām saistītās vai politiskās reklāmās.
YouTube pieprasa satura veidotājiem atklāt sintētiskā multivides satura izmantošanu, un noteikumu neievērošana var izraisīt sankcijas, tostarp satura noņemšanu vai apturēšanu no YouTube partneru programmas. Google Play veikals ir arī ieviesis politiku attiecībā uz AI radītu saturu, koncentrējoties uz kaitīga vai maldinoša satura radīšanas un izplatīšanas novēršanu, izmantojot ģeneratīvas AI lietojumprogrammas.
Pastiprinoties cīņai pret viltojumiem, nozares iejaukšanās un tehnoloģiskie risinājumi ir izrādījušies būtiski, lai saglabātu digitālā satura autentiskumu un uzticamību. Galveno dalībnieku sadarbības centieni dažādās nozarēs atspoguļo apņemšanos palikt priekšā sintētisko mediju ainavai, kas attīstās.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
Vairāk rakstus
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
