Allarme Deepfake: il rivoluzionario strumento che smaschera i video falsi in 60 secondi

La Crescente Minaccia dei Deepfake e le Soluzioni Innovative

Negli ultimi anni, la rapida evoluzione dei software basati sull’intelligenza artificiale ha portato alla creazione di video “deepfake” sempre più sofisticati e difficilmente distinguibili da quelli autentici. Questi video, in grado di imitare persone note o comuni nei loro aspetti visivi e vocali, sono sovente impiegati per scopi fraudolenti, creando potenziali pericoli per la società. In risposta a queste minacce, un team di ricercatori dell’Università di Buffalo, guidato dall’esperto Siwei Lyu, ha sviluppato un programma innovativo per smascherare i filmati fasulli: il DeepFake-o-Meter.

Accessibilità e Trasparenza del DeepFake-o-Meter

Il DeepFake-o-Meter è una piattaforma open-source e accessibile a chiunque con una semplice registrazione gratuita, che permette di analizzare contenuti sospetti in modo rapido ed efficace. Questo strumento è stato realizzato per essere utilizzato facilmente dal pubblico generale, non solo dagli specialisti del settore. Persone di varia estrazione, che vanno dai frequentatori dei social media, ai giornalisti, fino agli agenti delle forze dell’ordine, possono caricare video, audio o immagini sulla piattaforma. In meno di sessanta secondi, riceveranno un’analisi dettagliata del documento caricato. Il sistema sfrutta sofisticati algoritmi di rilevamento, ognuno dei quali ottimizzato per criteri diversi come precisione, rapidità e data di sviluppo, per offrire una valutazione complessiva. Piuttosto che emettere un giudizio categorico, il DeepFake-o-Meter fornisce una stima probabilistica, indicando la percentuale di possibile manipolazione tramite IA e lasciando all’utente la valutazione finale.

Lotta ai Deepfake: Un Approccio Collaborativo

Un aspetto cruciale di questa applicazione è la sua natura collaborativa e trasparente. Gli utenti hanno la facoltà di condividere i file caricati con i ricercatori, supportando il miglioramento costante degli algoritmi. Il vantaggio della piattaforma open-source sta nella possibilità per chiunque di accedere al codice sorgente per verificare come il sistema funziona internamente. Questo metodo assicura un livello di trasparenza che la maggior parte degli altri strumenti disponibili non raggiungono. In un esperimento recente, per esempio, la piattaforma ha confermato la sua efficacia nel determinare un deepfake audio falsamente attribuito a Joe Biden, raggiungendo una probabilità del 69,7%, superiore ad altri strumenti nella medesima analisi.

Nonostante i progressi tecnologici, Siwei Lyu sottolinea l’importanza continua dell’intervento umano. Mentre gli algoritmi possono individuare manipolazioni sottili spesso invisibili ad occhio nudo, essi non possiedono ancora una comprensione profonda della realtà come quella umana. A tal fine, il DeepFake-o-Meter non solo amplifica l’efficacia del rilevamento automatizzato, ma mira anche a costruire una comunità digitale di utenti impegnati nella lotta ai contenuti adulterati. In ottica futura, Lyu e il suo team ambiscono a implementare funzionalità che possano identificare persino gli strumenti di intelligenza artificiale responsabili della creazione dei deepfake, con l’intento non solo di verificarne la falsità, ma anche di rintracciare i colpevoli e le loro finalità, affinché possano essere segnalati alle autorità competenti.

Il Crescente Impatto delle Frodi tramite Deepfake

Nel 2024, le aziende di tutto il mondo hanno segnalato un significativo incremento di incidenti legati a frodi tramite deepfake, evidenziando una tendenza in crescita nei reati legati all’IA negli ultimi due anni. Un sondaggio commissionato da Regula, azienda specializzata in soluzioni di verifica dell’identità e strumenti forensi, ha rivelato che il 49% delle aziende ha già subito frodi audio e video. I dati indicano un aumento del 20% nel numero di aziende che hanno segnalato incidenti rispetto al 2022. Questo incremento sottolinea l’urgenza di sviluppare misure più efficaci per il rilevamento e la prevenzione.

Il sondaggio ha identificato un aumento del 12% negli incidenti di deepfake audio e del 20% nei deepfake video dal 2022 al 2024. Questi numeri mettono in evidenza la necessità di sviluppare tecnologie avanzate per fronteggiare queste minacce. Le frodi attuate tramite documenti falsi o alterati ora superano quelle generate con l’IA, ma la crescente sofisticazione dei deepfake rappresenta una sfida significativa per le aziende e le forze dell’ordine.

Interventi Legislativi e Regolamentazioni

L’intervento europeo e quello italiano sulle questioni dell’intelligenza artificiale sono stati estremamente celeri. L’AI Act dell’Unione Europea, che diventerà operativo tra un anno, rappresenta un notevole avanzamento nella regolamentazione dell’IA. Alberto Barachini, sottosegretario con delega all’Informazione e all’Editoria, ha evidenziato l’importanza di questa iniziativa durante il convegno “Deep fake tra realtà e illusione” a Roma. Barachini ha auspicato che il ddl in materia, attualmente in esame presso le Commissioni del Senato, possa essere votato nel corso di quest’anno a Palazzo Madama.

Il sottosegretario ha sottolineato che il ddl affronta vari temi cruciali, come la protezione del diritto d’autore e la tracciabilità dei contenuti generati dall’IA. Sul fronte dei deepfake, si è compiuto un passo avanti con l’introduzione di una nuova figura di reato autonoma. Questo è cruciale per contrastare l’abuso dei deepfake, che possono danneggiare la dignità di una persona senza che questa abbia fatto nulla. È fondamentale dunque proteggere la propria identità digitale e capire che operare in questo contesto non è un gioco.

Conclusione: La Sfida dei Media Sintetici e il Ruolo dell’AI Act

Il documento “Beyond illusions,” di recente pubblicazione da parte dell’INTERPOL, offre un’analisi approfondita dei media sintetici e delle loro implicazioni in termini di rischio informatico per persone e organizzazioni pubbliche e private. Il rapporto esplora vari tipi di media sintetici, come deepfake, audio sintetico e testo generato dall’IA, oltre ai rispettivi metodi tecnici utilizzati per crearli. Le principali sfide identificate includono le difficoltà nel riconoscimento dei media sintetici, la diffusione di disinformazione e propaganda, e le preoccupazioni concernenti la privacy.

Il rapporto menziona tecniche avanzate per l’autenticazione dei media, tra cui l’analisi dei metadati, la verifica delle fonti e l’analisi statistica pixel per pixel. È sottolineata l’importanza della collaborazione internazionale e del continuo progresso tecnologico per affrontare queste sfide. INTERPOL raccomanda un impegno collettivo fra paesi membri, attori del settore e istituzioni accademiche per attenuare gli effetti negativi dei media sintetici. È incentivato un uso responsabile dell’IA, lo sviluppo di norme per l’autenticazione dei media, e una costante valutazione delle minacce.

Il nuovo tassello promosso dall’UE per il nuovo mondo dell’IT, il Regolamento UE 2024/1689 (AI Act), include diverse misure per contrastare l’uso illecito delle tecnologie IA, incluso il fenomeno dei media sintetici. Questo atto si focalizza sulla classificazione dei sistemi IA in base al rischio, imponendo requisiti e obbligazioni specifici per sviluppatori e utilizzatori. L’AI Act distingue i sistemi IA in categorie di rischio (basso, medio, alto e inaccettabile) e prescrive obblighi rigorosi per i sistemi IA ad alto rischio, tra cui la valutazione del rischio, la trasparenza e la sorveglianza post-market.

Conclusione: La Necessità di una Collaborazione Globale

L’AI Act dell’Unione Europea include misure significative per contrastare i rischi associati ai media sintetici. Le norme illustrate sostengono un ambiente che promuove l’utilizzo sicuro e responsabile delle tecnologie IA, proteggendo al contempo i consumatori e la società da possibili abusi. Un’analisi combinata del rapporto INTERPOL e dell’AI Act dell’UE mostra come ambedue i documenti trattino il tema delle tecnologie basate su IA e dei media sintetici da prospettive diverse ma sinergiche. Mentre il Regolamento Europeo fornisce una struttura normativa, le attività di formazione ed educazione suggerite da INTERPOL potrebbero essere integrate nelle strategie nazionali di sicurezza informatica e alfabetizzazione digitale.

Una nozione base di intelligenza artificiale correlata al tema principale dell’articolo è il concetto di machine learning, che permette ai sistemi di IA di apprendere e migliorare dalle esperienze senza essere esplicitamente programmati. Questo è fondamentale per la creazione e il rilevamento dei deepfake, poiché gli algoritmi possono analizzare enormi quantità di dati per generare contenuti sempre più realistici.

Una nozione avanzata di intelligenza artificiale applicabile al tema dell’articolo è il Generative Adversarial Network (GAN), un tipo di rete neurale che consiste in due modelli: un generatore e un discriminatore. Il generatore crea contenuti falsi, mentre il discriminatore cerca di identificarli. Questo processo di competizione continua tra i due modelli migliora la qualità dei deepfake, rendendoli sempre più difficili da rilevare.

Riflettendo su queste tecnologie, è evidente che la lotta contro i deepfake richiede un approccio multidisciplinare che combina innovazione tecnologica, collaborazione internazionale e regolamentazione rigorosa. Solo attraverso uno sforzo collettivo possiamo sperare di mitigare i rischi associati a questa potente tecnologia, proteggendo al contempo la nostra società e le nostre istituzioni.