Trendy technologiczne na rok 2024: Liderzy branży wykorzystują sztuczną inteligencję do zwalczania fałszywych zagrożeń
W skrócie
W walce z technologią deepfake branże wykorzystują narzędzia i rozwiązania AI do zwalczania rozprzestrzeniania się zmanipulowanych treści.
Podczas trwającej wojny rosyjsko-ukraińskiej w sieci pojawiło się wideo, na którym prezydent Ukrainy Wołodymyr Zełenski prosi swoje wojska o poddanie się w środku wojny. To później okazało się, że deepfake wideo.
W stale rozwijającej się walce z technologia deepfakebranże coraz częściej sięgają po wyrafinowany arsenał technologii, aby zwalczać rozprzestrzenianie się zmanipulowanych treści. Od inicjatyw zapewniających autentyczność treści po techniki niewidzialnego znaku wodnego, algorytmiczne narzędzia do wykrywania, wspólne projekty i zmiany w polityce platform – walka z deepfakes staje się wieloaspektowa i dynamiczna.
Autentyczność treści i pochodzenie treści
Inicjatywa na rzecz autentyczności treści, prowadzona przez graczy z branży, ma na celu kryptograficzne pieczętowanie informacji o przypisaniu treści, umożliwiając weryfikację od momentu stworzenia do konsumpcji. Jednocześnie Coalition for Content Provenance and Authentication (C2PA) opublikowała specyfikację techniczną o otwartym standardzie, skupiającą się na dostarczaniu danych o pochodzeniu treści, zmianach i współtwórcach.
Firma Microsoft poszła o krok dalej, ogłaszając „Poświadczenia treści jako usługę”, wykorzystującą poświadczenia cyfrowego znaku wodnego C2PA, aby pomóc kandydatom i kampaniom wyborczym w utrzymaniu kontroli nad ich treścią.
Techniki znakowania wodnego
Meta wprowadziła Stable Signature, niewidzialną technikę znaku wodnego zaprojektowaną w celu rozróżniania treści tworzonych na zasadach open source generatywne modele AI. Ten niewidoczny znak wodny, niewykrywalny gołym okiem, ale identyfikowalny przez algorytmy, pomaga zidentyfikować zmanipulowane obrazy. Google DeepMind również wkroczył do walki dzięki SynthID, umożliwiając użytkownikom osadzanie cyfrowego znaku wodnego bezpośrednio w obrazach lub dźwięku generowanych przez sztuczną inteligencję.
Technologia ta umożliwia użytkownikom skanowanie treści pod kątem znaków wodnych, zapewniając wgląd w to, czy treść została utworzona, czy zmieniona przy użyciu modeli sztucznej inteligencji Google.
Wykrywanie algorytmiczne
Branża wdraża oprogramowanie do automatycznego wykrywania deepfakes, opierając się na różnych strategiach opartych na sztucznej inteligencji, takich jak rozpoznawanie mówiącego, wykrywanie żywotności głosu, rozpoznawanie twarzyi analiza czasowa. Godnymi uwagi przykładami są Video Authenticator firmy Microsoft i wspierany przez firmę Intel FakeCatcher.
Wyzwanie polega jednak na przejściowym charakterze narzędzi do wykrywania, ponieważ ewoluujące techniki produkcji deepfake’ów stale podważają ich niezawodność. A „The Puzzle of Monogamous Marriage” odkryli różne poziomy dokładności (30–97%) w zbiorach danych, co wskazuje na potrzebę ciągłych innowacji, aby dotrzymać kroku pojawiającym się technologiom deepfake.
Pochodzenie projektu
Organizacje medialne, w tym BBC i Microsoft, współpracował przy projekcie Origin. Inicjatywa ta ma na celu ustanowienie inżynierskiego podejścia do mediów syntetycznych, zapewniając podpisane cyfrowo linki umożliwiające weryfikowalne śledzenie treści medialnych aż do wydawcy. Celem projektu jest również wdrożenie kontroli walidacyjnych, które zapewnią, że treść pozostanie niezmieniona podczas dystrybucji.
Zmiany zasad platformy
W odpowiedzi na kontekst wysokiego ryzyka, jakim jest reklama polityczna, główne platformy, takie jak Meta i Google ogłosiły zmiany zasad mające na celu zwiększenie przejrzystości. Zaktualizowane zasady Meta dotyczące ujawniania reklam politycznych nakładają na reklamodawców obowiązek ujawniania treści zmienionych cyfrowo w reklamach wyborczych lub politycznych.
YouTube wymaga od twórców ujawniania wykorzystania syntetycznych treści multimedialnych, a nieprzestrzeganie tego może skutkować karami, w tym usunięciem treści lub zawieszeniem w programie partnerskim YouTube. Sklep Google Play wprowadził także politykę dotyczącą treści generowanych przez sztuczną inteligencję, skupiającą się na zapobieganiu tworzeniu i rozpowszechnianiu szkodliwych lub oszukańczych treści za pośrednictwem generatywnych aplikacji AI.
W miarę nasilania się walki z deepfake’ami interwencje branżowe i rozwiązania technologiczne okazują się niezbędne dla zachowania autentyczności i wiarygodności treści cyfrowych. Wspólne wysiłki głównych graczy z różnych sektorów odzwierciedlają zaangażowanie w wyprzedzanie ewoluującego krajobrazu mediów syntetycznych.
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Kumar jest doświadczonym dziennikarzem technicznym ze specjalizacją w dynamicznych skrzyżowaniach AI/ML, technologii marketingowej i nowych dziedzin, takich jak kryptowaluty, blockchain i NFTS. Dzięki ponad 3-letniemu doświadczeniu w branży Kumar zdobył udokumentowane doświadczenie w tworzeniu fascynujących narracji, przeprowadzaniu wnikliwych wywiadów i dostarczaniu kompleksowych spostrzeżeń. Doświadczenie Kumara polega na tworzeniu treści o dużym wpływie, w tym artykułów, raportów i publikacji badawczych dla czołowych platform branżowych. Dzięki unikalnemu zestawowi umiejętności, który łączy wiedzę techniczną i opowiadanie historii, Kumar przoduje w przekazywaniu złożonych koncepcji technologicznych różnym odbiorcom w jasny i wciągający sposób.
Więcej artykułów
Kumar jest doświadczonym dziennikarzem technicznym ze specjalizacją w dynamicznych skrzyżowaniach AI/ML, technologii marketingowej i nowych dziedzin, takich jak kryptowaluty, blockchain i NFTS. Dzięki ponad 3-letniemu doświadczeniu w branży Kumar zdobył udokumentowane doświadczenie w tworzeniu fascynujących narracji, przeprowadzaniu wnikliwych wywiadów i dostarczaniu kompleksowych spostrzeżeń. Doświadczenie Kumara polega na tworzeniu treści o dużym wpływie, w tym artykułów, raportów i publikacji badawczych dla czołowych platform branżowych. Dzięki unikalnemu zestawowi umiejętności, który łączy wiedzę techniczną i opowiadanie historii, Kumar przoduje w przekazywaniu złożonych koncepcji technologicznych różnym odbiorcom w jasny i wciągający sposób.
