Tendenze tecnologiche 2024: i leader del settore abbracciano l’intelligenza artificiale per contrastare le minacce deepfake
In Breve
Nella battaglia contro la tecnologia deepfake, le industrie utilizzano strumenti e soluzioni di intelligenza artificiale per combattere la proliferazione di contenuti manipolati.
Durante la guerra in corso tra Russia e Ucraina, è emerso un video del presidente ucraino Volodymyr Zelenskyy che chiedeva alle sue truppe di arrendersi nel bel mezzo della guerra. Questo in seguito si rivelò essere un video deepfake.
Nella battaglia in continua evoluzione contro tecnologia deepfake, le industrie si rivolgono sempre più a un sofisticato arsenale tecnologico per combattere la proliferazione di contenuti manipolati. Dalle iniziative di autenticità dei contenuti alle tecniche di watermarking invisibile, agli strumenti di rilevamento algoritmico, ai progetti di collaborazione e ai cambiamenti delle politiche della piattaforma: la lotta contro i deepfake sta diventando multiforme e dinamica.
Autenticità e provenienza dei contenuti
La Content Authenticity Initiative, guidata da operatori del settore, mira a sigillare crittograficamente le informazioni di attribuzione sui contenuti, consentendo la verifica dalla creazione al consumo. Allo stesso tempo, la Coalition for Content Provenance and Authentication (C2PA) ha rilasciato una specifica tecnica standard aperta, concentrandosi sulla fornitura di dati sull’origine, le alterazioni e i contributori del contenuto.
Microsoft ha fatto un ulteriore passo avanti annunciando "Content Credentials as a Service", utilizzando le credenziali di filigrana digitale C2PA per aiutare i candidati e le campagne elettorali a mantenere il controllo sui propri contenuti.
Tecniche di filigrana
Meta ha introdotto Stable Signature, una tecnica di watermarking invisibile progettata per distinguere i contenuti creati da open source modelli di intelligenza artificiale generativa. Questa filigrana invisibile, non rilevabile a occhio nudo ma tracciabile da algoritmi, aiuta a identificare le immagini manipolate. Anche Google DeepMind è entrato nella mischia con SynthID, consentendo agli utenti di incorporare una filigrana digitale direttamente nelle immagini o nell'audio generati dall'intelligenza artificiale.
La tecnologia consente agli utenti di scansionare i contenuti alla ricerca di filigrane, fornendo informazioni sul fatto che il contenuto sia stato creato o modificato utilizzando i modelli di intelligenza artificiale di Google.
Rilevazione algoritmica
L'industria sta implementando software di rilevamento automatico dei deepfake, basandosi su varie strategie basate sull'intelligenza artificiale come il riconoscimento degli oratori, il rilevamento della vivacità vocale, riconoscimento faccialee analisi temporale. Il Video Authenticator di Microsoft e il FakeCatcher supportato da Intel sono esempi degni di nota.
Tuttavia, la sfida risiede nella natura transitoria degli strumenti di rilevamento poiché l’evoluzione delle tecniche di produzione di deepfake ne mette continuamente alla prova l’affidabilità. UN studio hanno riscontrato livelli di accuratezza variabili (30-97%) tra i set di dati, indicando la necessità di un’innovazione continua per tenere il passo con le tecnologie deepfake emergenti.
Origine del progetto
Organizzazioni dei media, inclusa la BBC e Microsoft, ha collaborato al progetto Origin. Questa iniziativa mira a stabilire un approccio ingegneristico ai media sintetici, fornendo collegamenti firmati digitalmente per tracciare in modo verificabile i contenuti multimediali fino all'editore. Il progetto mira inoltre a implementare controlli di validazione per garantire che i contenuti rimangano inalterati durante la distribuzione.
Modifiche alle policy della piattaforma
In risposta al contesto ad alto rischio della pubblicità politica, le principali piattaforme come Meta e Google hanno annunciato modifiche alle politiche per migliorare la trasparenza. La politica aggiornata di Meta sulla divulgazione degli annunci politici impone agli inserzionisti di rivelare contenuti alterati digitalmente negli annunci politici o relativi alle elezioni.
YouTube impone ai creatori di divulgare l'utilizzo di contenuti multimediali sintetici e la mancata osservanza di tale norma può comportare sanzioni, tra cui la rimozione dei contenuti o la sospensione dal Programma partner di YouTube. Il Google Play Store ha inoltre introdotto una politica per i contenuti generati dall’intelligenza artificiale, concentrandosi sulla prevenzione della creazione e distribuzione di contenuti dannosi o ingannevoli attraverso applicazioni di intelligenza artificiale generativa.
Con l’intensificarsi della battaglia contro i deepfake, gli interventi del settore e le soluzioni tecnologiche si stanno rivelando essenziali per preservare l’autenticità e l’affidabilità dei contenuti digitali. Gli sforzi di collaborazione dei principali attori di vari settori riflettono l’impegno a stare al passo con il panorama in evoluzione dei media sintetici.
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Kumar è un giornalista tecnologico esperto con una specializzazione nelle intersezioni dinamiche di AI/ML, tecnologia di marketing e campi emergenti come criptovaluta, blockchain e NFTS. Con oltre 3 anni di esperienza nel settore, Kumar ha stabilito una comprovata esperienza nella creazione di narrazioni avvincenti, nella conduzione di interviste approfondite e nella fornitura di approfondimenti completi. L'esperienza di Kumar risiede nella produzione di contenuti di grande impatto, inclusi articoli, rapporti e pubblicazioni di ricerca per importanti piattaforme di settore. Con un insieme di competenze uniche che combina conoscenze tecniche e narrazione, Kumar eccelle nel comunicare concetti tecnologici complessi a un pubblico diversificato in modo chiaro e coinvolgente.
Altri articoliKumar è un giornalista tecnologico esperto con una specializzazione nelle intersezioni dinamiche di AI/ML, tecnologia di marketing e campi emergenti come criptovaluta, blockchain e NFTS. Con oltre 3 anni di esperienza nel settore, Kumar ha stabilito una comprovata esperienza nella creazione di narrazioni avvincenti, nella conduzione di interviste approfondite e nella fornitura di approfondimenti completi. L'esperienza di Kumar risiede nella produzione di contenuti di grande impatto, inclusi articoli, rapporti e pubblicazioni di ricerca per importanti piattaforme di settore. Con un insieme di competenze uniche che combina conoscenze tecniche e narrazione, Kumar eccelle nel comunicare concetti tecnologici complessi a un pubblico diversificato in modo chiaro e coinvolgente.