Cosa sono i deepfake e quanto sono pericolosi?

Woman looking at two deepfakes and being confused as to which one is real
Clicca qui per una breve sintesi
Cosa sono i deepfake? Una rapida spiegazione

I deepfake sono contenuti multimediali video o audio sintetizzati, nei quali le sembianze di una persona reale sono applicate a una persona diversa. L’aspetto preoccupante è che i deepfake sono sempre più facili da creare. Ciò può avere gravi conseguenze sulla nostra vita. Infatti, c’è il rischio che i deepfake siano utilizzati per ricattare vittime ignare. Talvolta vengono anche utilizzati per diffondere notizie false, tramite video ingannevoli di persone famose.

Puoi proteggerti dai deepfake. Ecco le misure da adottare:

  • Informati sui deepfake e su come individuarli
  • Evita di pubblicare foto che ti ritraggono su account pubblici dei social media.
  • Proteggi i tuoi dispositivi in modo che le foto, insieme a qualsiasi altra forma di dati, non vengano rubate e utilizzate per scopi dannosi.
  • Spiega i rischi dei deepfake alla tua famiglia e ai tuoi amici se non vuoi che pubblichino foto con la tua immagine.

Se le tue sembianze vengono utilizzate in un contenuto deepfake, fai una segnalazione alla piattaforma social dove il post è stato condiviso e contatta le autorità locali. Puoi anche rivolgerti a un esperto legale del tuo paese di residenza.

Leggi il nostro articolo completo per saperne di più sui deepfake e su come proteggerti.

Nel secondo film di Terminator, il robot T-1000 era in grado di modificare il proprio aspetto per assomigliare a chiunque volesse. I deepfake si avvicinano molto al robot T-1000. Sono contenuti multimediali ingannevoli, che possono “trasformare” il loro aspetto per assomigliare a qualunque persona, viva o morta. Il futuro è già qui… e non sempre è una cosa positiva!

Cos’è un deepfake?

Un deepfake è un contenuto multimediale falso, di solito un video, dall’aspetto molto realistico. Viene realizzato applicando la tecnologia AI e l’apprendimento automatico per manipolare video e voce. Ne è un esempio questo deepfake di Mark Zuckerberg di Facebook. Nel video postato su Instagram sembra che il “falso Mark” pronunciasse queste minacciose parole:

“Immaginate questo per un secondo: un uomo solo, con il controllo totale dei dati rubati a miliardi di persone, tutti i loro segreti, le loro vite, il loro futuro… Devo tutto a Spectre. Spectre mi ha dimostrato che chi controlla i dati, controlla il futuro”.

Ma i deepfake sono relativamente complicati da realizzare. L’apprendimento automatico richiede set di dati molto ampi per addestrare le reti neurali. La creazione di un deepfake in genere avviene con molte migliaia di immagini di due persone, che vengono trasformate e unite con un software specializzato. Poi viene aggiunta la voce e sincronizzato il labiale.

I deepfake con le celebrità possono essere divertenti per alcuni, ma la tecnologia che sta dietro di essi è davvero spaventosa. Può essere persino pericolosa: le brevi clip di celebrità che affermano cose oltraggiose sono solo la punta dell’iceberg.

Come vengono utilizzati i deepfake

Ci sono molti deepfake in circolazione. Nel mese di giugno del 2020, Facebook da solo ne ha raccolti 100.000 per insegnare al suo algoritmo come individuare i video deepfake. Questo aumento nell’uso della tecnologia deepfake dimostra che questa sta diventando sempre più accessibile. Una maggiore accessibilità equivale a nuovi utilizzi, con scopi buoni o cattivi. Di seguito riportiamo alcuni degli ultimi utilizzi dei deepfake e il modo in cui stanno danneggiando le persone.

Fake news

In un’epoca dove le “fake news” sembrano avere un ruolo in molti problemi del mondo, i deepfake sono diventati uno strumento di propaganda.

Questo video deepfake di Barack Obama mostra come i deepfake possano essere usati per manipolare la verità e diffondere informazioni su vasta scala. I deepfake offrono una potente arma a coloro che tentano di manipolare le abitudini di voto delle persone.

Ci si preoccupava molto dell’effetto che i deepfake avrebbero potuto avere sulle elezioni americane del 2020. All’epoca, come spiega questa analisi, i deepfake non sono stati un problema. Il motivo principale è che i deepfake sono ancora difficili da creare, se si vuole ottenere un risultato realistico. Ma in futuro la disponibilità dei deepfake per l’uso di massa potrebbe aumentare. E a quel punto, c’è il rischio che diventino una minaccia per le elezioni future.

Crimine informatico

I deepfake sono il veicolo perfetto per portare la criminalità online a un livello superiore. I criminali informatici possono utilizzare i deepfake per ricattare le persone e indurle a eseguire i loro ordini in diversi modi, ad esempio negli attacchi di phishing e nel sextortion.

Con l’aumento della sua accessibilità, è sempre più probabile che la tecnologia deepfake venga utilizzata per l’ingegneria sociale, una tattica usata in molti crimini informatici per manipolare il comportamento umano facendo leva su fiducia, senso di urgenza, vergogna e così via.

Sextortion

Un esempio emblematico dei danni enormi che i deepfake possano causare nella vita reale delle persone è il sextortion. Il sextortion è una truffa nella quale i criminali informatici estorcono denaro alle persone minacciandole di diffondere video compromettenti che le riguardano. La truffa può avvenire anche in assenza di un video autentico. Infatti, il deepfake è un meccanismo con cui i criminali possono creare materiale realmente compromettente.

Anche se la vittima sa che il video non è reale, può pensare di non avere altra scelta se non quella di pagare, poiché i video a volte possono essere estremamente realistici. Anche questo non è un problema di piccola entità. Nel gennaio 2021, Avast ha ricercato, identificato e bloccato oltre 500.000 casi di sextortion contro i propri clienti, in tutto il mondo.

Phishing e revenge porn

E si tratta solo di una parte di un problema più grande. La stessa tecnologia usata per il sextortion può essere usata anche per il phishing. Nelle campagne di phishing, i criminali informatici fingono di essere qualcun altro per incentivare a determinate azioni. Possono chiamarti e usare la voce del tuo capo, ottenuta attraverso la sintetizzazione deepfake, per chiederti dati dell’azienda.

Non si tratta di un esempio ipotetico. Un paio di anni fa, un CEO britannico è stato indotto a trasferire 240.000 dollari a un truffatore. Il CEO credeva di parlare al telefono con il responsabile della società capogruppo, che gli ha chiesto di trasferire urgentemente il denaro. Si ritiene si sia trattato di un inganno per mezzo di una voce “deepfake”.

La tecnologia deepfake è anche usata per il revenge porn, che ha un impatto particolarmente pesante sulle donne. Per maggiori informazioni al riguardo puoi leggere questo editoriale di Forbes.

Creazione di deepfake tramite app

L’app Zao è il primo software ad aver reso ampiamente accessibile alle persone la creazione di deepfake. Il suo utilizzo è stato limitato nella maggior parte dei paesi, ma le persone possono ancora accedervi da alcune parti del mondo, come l’India.

Zao non è l’unica app che permette di creare video deepfake. Ne sono uscite molte altre simili, tra cui:

  • Deepfakesweb: un’app a pagamento per il browser che consente di unire immagini e video.
  • DeepFaceLab: un programma più complesso realizzato da Microsoft. Il suo scopo principale è quello di aiutare studenti e ricercatori a comprendere meglio le produzioni di deepfake, ma le persone possono usarlo per creare i propri video. È un po’ più difficile da usare rispetto a Deepfakesweb e richiede un set di dati multimediali molto più ampio per creare materiali convincenti.
  • Wombo: un’app di sincronizzazione labiale che consente di adeguare i volti ai video musicali. Se vuoi vederla in azione, guarda questa clip con Elon Musk che canta un brano probabilmente inaspettato:

Come puoi notare, la maggior parte delle app di deepfake disponibili al pubblico produce video non necessariamente realistici. Ma le cose potranno cambiare in futuro, quindi è importante che impari a proteggerti.

Come proteggerti dai deepfake

Nel tentativo di contrastare il mercato dei deepfake, Google ha rilasciato un archivio di dati sui deepfake. I dati forniti da questo database saranno utilizzati per la creazione degli strumenti necessari a rilevare i video falsi. in modo da poterli rimuovere. Facebook ha intrapreso un’iniziativa simile, organizzando un concorso per creare un software di rilevamento dei deepfake. Microsoft ha sviluppato uno strumento di rilevamento dei deepfake pienamente efficace.

Ma questi sforzi sono sufficienti a tenerti al riparo dai pericoli del deepfake? Potranno esserlo in futuro. Adesso è ancora necessario che tu prenda delle precauzioni se non vuoi diventare vittima dei deepfake.

Condividere immagini pubblicamente: una cattiva idea?

Condividere alcune immagini online non è una tragedia. Tuttavia, se scatti molte foto di te e le rendi disponibili pubblicamente, sei un bersaglio più facile per i criminali informatici che utilizzano la tecnologia deepfake.

Nelle impostazioni della maggior parte delle piattaforme di social media, puoi scegliere di rendere privato il tuo account. Incoraggia i membri della famiglia e gli amici più stretti a rispettare le stesse linee guida. Ricorda che i video deepfake più realistici possono essere creati solo con un ampio set di immagini di una persona. Se riesci almeno a limitare le foto che ti ritraggono e che sono ampiamente disponibili, avrai meno probabilità di cadere vittime di crimini informatici che coinvolgono i deepfake.

Maggiore sicurezza dei dispositivi

Oltre a prestare attenzione alle immagini che pubblichi, puoi anche assicurarti che i tuoi dispositivi siano protetti, in modo che i dati (come foto e video) non vengano mai divulgati. A tal fine, assicurati di utilizzare una VPN (Virtual Private Network) che ti aiuta a rimanere anonimo online modificando il tuo IP. Anche un software anti-malware può esserti utile, soprattutto per i dispositivi mobili.

Contattare le autorità

Infine, se sei vittima di un crimine informatico che coinvolge i deepfake, segnala i contenuti multimediali che ti riguardano alla piattaforma social su cui sono stati condivisi. Oltre a ciò, dovresti anche contattare le autorità locali e presentare una denuncia formale. Se sei presente in un contenuto multimediale creato con i deepfake, possono esserci gli estremi della diffamazione. Quindi valuta anche di contattare un avvocato per analizzare le opzioni legali a tua disposizione.

Uno scenario del deepfake in futuro

Sebbene i deepfake possano servire a divertirsi in modo spensierato, questa tecnologia è anche usata dai criminali informatici per produrre danni seri. I personaggi noti sono i bersagli più facili per la creazione di deepfake, in particolare se vengono utilizzati per diffondere notizie false. Ma i pericoli del deepfake possono riguardare chiunque. La cosa più importante in fatto di sicurezza e uso di internet è vagliare in modo critico tutto ciò che si vede online. Ora che sai dell’esistenza dei deepfake, potresti pensarci due volte prima di credere al video di un funzionario governativo che fa un’affermazione oltraggiosa.

Se vuoi maggiori informazioni su come proteggerti dalla criminalità informatica, leggi anche i nostri articoli su truffe WhatsApp e revenge porn.

Cosa sono i deepfake? - Domande frequenti

I deepfake stanno diventando sempre più disponibili e facili da diffondere. Hai ancora domande su questo nuovo modo di creare “falsi contenuti multimediali”? Qui sotto trovi le risposte alle domande più frequenti sui deepfake.

Un video deepfake è un contenuto multimediale creato con la tecnologia deepfake, che incorpora elementi video e audio. La tecnologia deepfake utilizza algoritmi di intelligenza artificiale e di apprendimento automatico per modificare video esistenti e aggiungere volti o voci differenti al file originale. I video deepfake più popolari presentano una celebrità che dice o fa qualcosa di ridicolo o oltraggioso. Per saperne di più, consulta il nostro articolo sui deepfake.

Sconsigliamo vivamente di utilizzare i deepfake per scopi dannosi. Creare un video deepfake e condividerlo pubblicamente può essere considerato diffamazione, e persino estorsione se entri in contatto con la persona protagonista del video.

Detto questo, se vuoi solo divertirti con gli amici, ad esempio facendo un deepfake del tuo viso in un video musicale, puoi usare le applicazioni online. Deepfakesweb permette di creare video deepfake, ma non è gratuito. La creazione di video può costare tra i 5 e i 75 dollari, a seconda della lunghezza del deepfake. Altre opzioni sono Wombo e DeepFaceLab.

Stabilire quale sia stato il primo video deepfake è difficile. Questo perché i deepfake non sono apparsi all’improvviso e non è possibile tracciare una linea di demarcazione netta tra l’epoca dell’editing manuale dei video e quella dell’editing con l’intelligenza artificiale. In realtà, le due forme di manipolazione dei media all’inizio si confondevano, fino a quando la manipolazione dei video con l’IA è diventata per così dire “autonoma”.

Tuttavia, il termine “deepfake” ha una chiara origine. È stato usato per la prima volta da un utente di Reddit con lo stesso nome nel 2017. Quindi è lecito pensare che i primi “veri” deepfake non risalgano a un’epoca molto diversa.

International security coordinator
Marko has a Bachelor's degree in Computer and Information Sciences. He coordinates and manages VPNOverview.com's team of international VPN researchers and writers.