Le truffe deepfake si stanno trasformando in un’industria milionaria

Durante il telegiornale, Enrico Mentana lancia un servizio sconvolgente nel quale compaiono la presidente del Consiglio Giorgia Meloni e il miliardario Elon Musk. I due annunciano di aver trovato un metodo per far guadagnare montagne di soldi a tutti gli italiani. Ovviamente, nella realtà tutto ciò non è mai avvenuto, non esiste alcuna formula magica e nessuno diventerà ricco in poco tempo. Ma decine di migliaia di persone si sono ritrovate questo video sui propri social nelle scorse settimane, l’ennesimo deepfake. 

Esistono varie forme di questi contenuti, anche le chiamate della “truffa Crosetto” impiegavano questa tecnologia. Alcuni ignoti usavano la voce del ministro della Difesa per tentare di estorcere denaro a imprenditori come Massimo Moratti, Giorgio Armani e Diego Della Valle. L’ultimo caso riguarda il gruppo georgiano degli skameri, hacker che creavano tg falsi per truffare piccole aziende e anziani: negli anni sono riusciti a rubare trentatré milioni di euro.

Nel vademecum del Garante della privacy, i deepfake sono definiti come «foto, filmati e audio creati grazie a software di intelligenza artificiale che, partendo da contenuti reali, riescono a ricreare, in modo estremamente realistico, le caratteristiche e i movimenti di un volto o di un corpo e a imitare fedelmente una determinata voce». Nell’episodio che ha coinvolto Crosetto si tratta di voice cloning. Qui i truffatori seguono solitamente due strade: si può preparare in anticipo un audio già elaborato oppure telefonare e in tempo reale per modificare la voce attraverso alcuni software prontamente addestrati. Negli ultimi anni, sono stati sviluppati numerosi strumenti, sia per dispositivi mobili che per il web, i quali rendono il procedimento estremamente semplice. Basta caricare alcune registrazioni della persona da emulare e, in pochissimo tempo, il server riproduce la sua voce in maniera sorprendentemente realistica, proprio come è avvenuto nella truffa contro gli imprenditori. Questa tecnologia è accessibile a tutti e, in molti casi, è completamente gratuita.

Sembra complicato? È molto più facile di quello che sembra. «In pochi minuti si può commissionare ogni tipo di deepfake», spiega a Linkiesta Paolo Attivissimo, divulgatore scientifico e giornalista informatico. Le società che producono questi contenuti «hanno solitamente sede in Estremo Oriente», una zona in cui è difficile risalire ai responsabili.

È importante sottolineare che la realizzazione di contenuti, di per sé, non configura un reato: il vero problema è nell’uso che se ne fa. Negli anni questi contenuti hanno raggiunto livelli di realismo tali da renderli sempre più difficili da smascherare e la loro diffusione online è in costante crescita. Secondo l’Istituto internazionale delle Nazioni Unite per la ricerca sul crimine e la giustizia, sono stati registrati oltre novantacinquemila esempi di materiali falsificati tramite intelligenza artificiale nel solo 2023, segnando una crescita del cinquecentocinquanta per cento rispetto al 2019.

Ma è difficile monitorare i video deepfake, a causa della rapidità con cui vengono diffusi e cancellati sulla rete. Infatti secondo Onifido (una delle società tra le più autorevoli sull’identità digitale), l’aumento sarebbe ancora più vertiginoso: più tremila per cento dal 2022 al 2023. Altri dati aggiornati sul fenomeno non esistono, semplicemente perché è molto difficile da quantificare. Perché sono così pericolosi? «Vengono usati per creare ricatti e truffe estremamente credibili, e in alcuni Paesi, come Cina, Stati Uniti e Russia, governi od organizzazioni filogovernative investono fortemente sui deepfake per destabilizzare governi ritenuti rivali o anche solo per seminare il dubbio e la disinformazione», dice ancora Paolo Attivissimo.

Un esempio? «Immaginiamo un video falso, diffuso sui social, nel quale la premier Meloni annuncia che dal 2025 raddoppierà la tassazione sulle auto diesel. Il mercato dell’auto ne verrebbe facilmente sconvolto, con danni per milioni di euro. Il vero problema riguarda le tempistiche: quando l’esecutivo pubblicherà la smentita, il contenuto sarà già stato visualizzato da centinaia di migliaia di persone, se non milioni», spiega Attivissimo. E quindi in molti potrebbero credere che quel messaggio sia vero.

Molti di questi falsi hanno finalità economica, come nel caso citato all’inizio. Dopo larghe promesse di guadagni facili, i truffatori forniscono un conto su cui effettuare un pagamento attraverso PayPal per far partire presunti investimenti. Chiaramente quel denaro farà tutt’altra fine. E spesso sono proprio le istituzioni a essere colpite. Lo scorso luglio il volto del governatore di Banca d’Italia Fabio Panetta era stato utilizzato per un video falso, in cui chiedeva di fare alcuni investimenti che avrebbero risanato l’economia.

Sul tema, Linkiesta ha interpellato l’ente, in prima linea sul contrasto ai deepfake, il quale ha risposto con una nota: «La Banca d’Italia, attraverso il proprio Computer Emergency Response Team, segue costantemente i profili evolutivi dello scenario della minaccia cyber (incluse le tattiche, tecniche e procedure che prevedono l’utilizzo delle nuove tecnologie per la conduzione di attacchi efficaci, come i deepfake) e individua le strategie di contrasto in raccordo con le altre istituzioni preposte per interrompere la catena d’attacco prima che possa generare impatti, in linea con il principio della difesa partecipata e dell’intelligence led cyber security».

I danni possono essere devastanti e in tutto il mondo si sono verificati precedenti. Lo scorso luglio la voce del Premier del Queensland Steven Miles è stata contraffatta per promuovere un ingannevole investimento in Bitcoin: decine di cittadini sono caduti nella trappola. Un episodio simile si è verificato negli Emirati Arabi, dove i truffatori, replicando il tono e lo stile di un dirigente d’azienda attraverso un software deepfake, sono riusciti a sottrarre ben cinquantuno milioni di dollari ad alcuni suoi clienti.

Tornando al 2019, un dipendente di una società britannica ricevette una chiamata da chi si presentava come il suo superiore, il quale gli ordinò il trasferimento di duecentocinquantamila dollari su un conto specifico. Solo dopo aver eseguito il bonifico, fu scoperto che la conversazione era stata interamente simulata tramite intelligenza artificiale. Deloitte, multinazionale britannica di consulenza e revisione, prevede che negli Stati Uniti le perdite economiche legate ai video falsi raggiungeranno i quaranta miliardi di dollari entro il 2027, segnando un incremento del 27,7 per cento rispetto al 2023.

Ma cosa è possibile creare dei danni così ingenti? Oltre al pubblico, come già spiegato sopra, esiste anche la possibilità di danneggiare aziende private o cittadini: «Alcune società di deepfake minacciano imprese e figure famose di diffondere contenuti falsi se non ricevono ingenti bonifici. Per questo motivo, molti vip acquistano abiti che, pur apparendo normali, riflettono il flash e rendono le foto completamente bianche».