Per imparare a proteggersi dal rischio di cadere vittima di informazioni false, è necessario innanzitutto capire cosa sono i deepfake. I deepfake sono immagini o video generati dall'intelligenza artificiale per produrre contenuti altamente realistici.
Come vengono realizzati i deepfake?
Il deep learning è un metodo avanzato di intelligenza artificiale (IA) che utilizza più livelli di algoritmi di apprendimento automatico per estrarre caratteristiche di livello progressivamente più elevato da input grezzi. È in grado di impiegare anche dati non strutturati, ad esempio le caratteristiche di un volto umano.
Tali dati vengono elaborati per creare un video Deepfake tramite una GAN (Generative Adversarial Network), un sistema specializzato di apprendimento automatico. Vengono utilizzate due reti neurali in competizione fra loro per apprendere le caratteristiche di un set di dati iniziali (ad esempio le fotografie dei volti) e quindi generare nuovi dati con le stesse caratteristiche (nuove "fotografie").
Man mano che la rete confronta le immagini create con il set di addestramento, le immagini, i video e gli audio falsi diventano più convincenti. Ciò rende i Deepfake una minaccia ancora più potente, poiché possono utilizzare tecniche di sintesi per replicare le voci.
Un altro metodo per creare deepfake è quello di utilizzare l'architettura autoencoder. Una rete neurale autoencoder è progettata per codificare i dati (ad esempio un'immagine) in una rappresentazione latente di dimensione inferiore (ad esempio in vettori matematici anziché in pixel), comprimere i dati e quindi ricostruire gli stessi dati all'altra estremità della pipeline. Gli autoencoder vengono utilizzati per molteplici scopi nella visione artificiale, come l'analisi della scrittura a mano e il riconoscimento facciale.
Poiché gli autoencoder ricercano i dati "essenziali" da un'immagine (ad esempio l'immagine di un volto), sono molto efficaci nell'eliminare il rumore visivo. Nel caso del software deepfake, ciò significa che un'architettura autoencoder può apprendere caratteristiche e tratti fondamentali da un'immagine di un volto ignorando in gran parte fattori estranei come grana, ombre e altri elementi "non facciali" che potrebbero essere presenti nell'immagine, dando origine a modelli versatili e ben generalizzati (ovvero modelli in grado di eseguire trasformazioni utili su dati diversi dai loro dati di addestramento originali).
Come vengono utilizzati i deepfake
Sebbene il concetto di deepfake venga utilizzato anche per creare effetti visivi nei film, i deepfake online hanno molteplici scopi:
Campagne di disinformazione, soprattutto durante le elezioni, per influenzare l'opinione pubblica.
Il ricatto si verifica quando qualcuno crea un video o un'immagine deepfake che ti ritrae e minaccia di pubblicarlo se non cedi alle sue richieste.
Il phishing deepfake consiste nell'impersonare qualcuno in tempo reale, fingendo di voler aiutare un amico, un familiare o un collega.
Frode finanziaria mediante furto di identità mediante deepfake.
I pericoli dei deepfake
Con l'evoluzione della tecnologia e dell'intelligenza artificiale, i video e le immagini deepfake online diventano più facili da generare e più convincenti. I pericoli di cadere vittima dei deepfake rappresentano un rischio elevato per aziende, celebrità, dipendenti, candidati elettorali e cittadini comuni.
Frodi
Nel 2023, un impiegato della finanza di Hong Kong ha pagato 25 milioni di dollari a un truffatore a causa di una tecnologia deepfake. Il lavoratore è stato invitato a partecipare a una videochiamata con i colleghi e il direttore finanziario dell'azienda. Durante la chiamata, il dipendente ha accettato di versare 200 milioni di dollari di Hong Kong.
Nonostante avesse visto gli altri dipendenti e il direttore finanziario durante la riunione, si è trattato di un'intelligenza artificiale deepfake che ha manipolato le caratteristiche del riconoscimento facciale per farle sembrare i colleghi e il direttore finanziario.
Ricatto e diffamazione
Nel 2020, la polizia sudcoreana ha scoperto una banda di uomini che scattavano foto di studentesse delle superiori per poi crearle e distribuirle sull'app di messaggistica Telegram. Ad aiutare gli uomini c'erano degli studenti delle superiori che scattavano foto dei loro compagni di classe, alcuni dei quali erano minorenni, e poi le inviavano ai creatori.
Questi video venivano distribuiti su diverse piattaforme , lasciando le ragazze impotenti. Anche se non sono loro a commettere il fatto, le false prove hanno un impatto sul modo in cui vengono percepiti dalla società e risultano comunque traumatizzanti.
Phishing deepfake
Nel 2024, una donna britannica di 77 anni, Nikki, è stata truffata per 17.000 sterline tramite video deepfake. La donna ha incontrato un'altra donna online e tra loro è nata una relazione, o almeno così pensava. Il truffatore ha affermato che stavano lavorando su una piattaforma petrolifera e che non potevano effettuare videochiamate; la sua vittima ha dovuto pagare dei buoni per avere accesso a Internet. Quando Nikki cominciò a sospettare qualcosa, il malfattore iniziò a inviarle video di se stessa "sulla piattaforma petrolifera", mettendo a tacere i sospetti di Nikki. Mentre la relazione andava avanti, Nikki chiedeva spesso una videochiamata, che le veniva sempre negata, ma poco dopo riceveva documenti, immagini e video generati dall'intelligenza artificiale per tranquillizzarla, per poi chiedere altri soldi.
Nikki è stata informata della truffa solo quando ha provato a trasferire denaro sul conto bancario del suo partner.
Deepfake innocui
Alcuni deepfake online possono avere solo scopo di intrattenimento, nel tentativo di aumentare il numero di follower sulle piattaforme dei social media.
Uno dei deepfake più popolari è quello di Tom Cruise , pubblicato su TikTok. L'account aveva un milione di follower e alcuni video avevano quasi raggiunto i 50 milioni di visualizzazioni, nonostante non fossero di Tom Cruise. Inizialmente la gente pensava che la celebrità si fosse iscritta alla piattaforma perché i video, la sua somiglianza, la sua voce e persino la sua personalità erano molto convincenti.
Nel 2022 , un creatore di YouTube, Shamook, ha preso il trailer del nuovo film di Spider-Man e ha sostituito l'attore Tom Holland con l'attore originale Tobey Maguire. Il video è etichettato come Deepfake nel titolo e ha solo scopo di intrattenimento.
Come prevenire i deepfake
Poiché i deepfake stanno rapidamente diventando una preoccupazione crescente e un rischio per la sicurezza, ci sono delle azioni che puoi intraprendere per impedire che ciò accada a te o alla tua azienda.
Verifica tutte le richieste
Se ti vengono richiesti dati personali o sensibili, conferma l'identità del chiamante tramite un canale secondario, ad esempio richiamandolo presso l'azienda da cui ha dichiarato di provenire.
Utilizza le impostazioni sulla privacy su tutti gli account online
Limita l'accesso agli account dei social media che contengono video o immagini che ti ritraggono per ridurre le possibilità che qualcuno possa replicare la tua immagine.
Protezione tramite password
Cambiare regolarmente le password. Assicurati che tutte le password siano forti , univoche, complesse e lunghe almeno 16 caratteri. Per gli account condivisi, utilizza un software di condivisione delle password, così non dovrai comunicarla a familiari o dipendenti.
Aggiungere l'autenticazione a due fattori per gli account
Assicurati che tutti gli account online richiedano di verificare la tua identità prima di accedere tramite autenticazione a due fattori. In questo modo diventa più difficile per i truffatori hackerare i tuoi account.
Aggiornare regolarmente il software
Gli aggiornamenti software sono fondamentali per garantire che i tuoi dispositivi siano protetti dai malware , dagli spyware e dai bug più recenti.
Formare regolarmente i dipendenti
Proprio come la tecnologia si evolve, evolve anche il modus operandi delle frodi deepfake. È fondamentale rimanere aggiornati sulle ultime truffe e collaborare con i dipendenti per spiegare come riconoscerle.
Scopri come riconoscere un video deepfake
Osserva i tratti del viso dell'individuo nel video per verificare che siano coerenti con i normali movimenti umani.
Il video è mosso a scatti o la sua nitidezza non è uniforme?
Controllare i movimenti naturali, come il battito delle palpebre. È troppo poco o troppo?
Osserva le ombre e le luci nel video per vedere se sono coerenti.
Fai uno screenshot e caricalo su Google per autenticare la fonte.
Cosa fare se l'azienda viene attaccata
Documentare le prove
Assicurati di salvare i deepfake e tutto ciò a essi correlato, inclusi commenti, piattaforme su cui sono stati condivisi (se applicabile), screenshot e tutti i dati associati. Prendi nota della data, dell'ora e della piattaforma in cui è avvenuto.
Notificare le piattaforme
Se il contenuto deepfake proviene da una piattaforma, segnalalo alla piattaforma host su cui lo hai visto, ad esempio YouTube, Facebook o X. La maggior parte delle piattaforme ha delle policy per la rimozione dei contenuti multimediali manipolati .
Contattare le autorità
I deepfake che implicano il furto di identità o di denaro sono reati. Informare le forze dell'ordine locali e presentare le prove affinché le autorità possano redigere un rapporto formale. Questo rapporto può essere utilizzato per la tua banca, la tua assicurazione e altri resoconti ufficiali sul crimine.
Cercare un'azione legale
Fai ricerche sulle leggi sulla diffamazione, sul copyright o sulla privacy nella tua giurisdizione per assicurarti di avere un caso convincente. Controlla che altre persone non siano state vittime della stessa truffa e, se possibile, avvia un'azione collettiva.
Assumi un'agenzia di pubbliche relazioni
Se la tua reputazione o quella della tua azienda è in gioco, collaborare con un esperto di pubbliche relazioni può aiutarti a elaborare una risposta e a distribuirla alle parti interessate per attenuare eventuali danni.
Tecnologia anti-contraffazione all'avanguardia
Diverse aziende tecnologiche stanno sviluppando strumenti di rilevamento dei deepfake per contribuire a fermare la diffusione di informazioni errate, frodi e truffe di phishing.
Alcune tecnologie emergenti oggi aiutano i videomaker ad autenticare i propri video. È possibile utilizzare un algoritmo di crittografia per inserire hash a intervalli prestabiliti durante il video. Se il video viene alterato, gli hash vengono modificati. Le tecnologie IA e blockchain consentono di registrare un'impronta digitale anti-manomissione per i video. È simile alla filigrana per i documenti, ma il problema è che questi hash devono sopravvivere anche in caso di compressione del video per l'uso con codec diversi.
Un altro modo per scoraggiare i tentativi di Deepfake è costituito dall'utilizzo di un programma che inserisce nei video artefatti digitali espressamente concepiti per nascondere gli schemi di pixel utilizzati dal software di rilevamento dei volti. Questo rallenta gli algoritmi Deepfake e riduce la qualità dei risultati, limitando le probabilità di successo del Deepfaking.
Protezione di sicurezza preventiva:
Assicurarsi che dipendenti e familiari sappiano come funziona il Deepfaking e i problemi che comporta.
Imparare a identificare un Deepfake e spiegare agli altri come fare.
Assicurarsi di usare solo fonti di notizie attendibili.
Avere buoni protocolli di base. Un atteggiamento scettico verso video e messaggi vocali non impedisce di farsi ingannare, ma aiuta a evitare numerosi tranelli.
I backup regolari proteggono i dati dal ransomware e offrono la possibilità di ripristinare i dati danneggiati.
È importante utilizzare più password complesse per i diversi account, perché la violazione di un servizio o di una rete non deve comportare la compromissione degli altri. Se un estraneo accede al tuo account Facebook, non deve riuscire a entrare anche negli altri account.
Utilizza un buon pacchetto di sicurezza come Kaspersky Antivirus per proteggere la tua rete domestica, il tuo laptop e il tuo smartphone dalle minacce informatiche. Questo pacchetto fornisce un software antivirus, una VPN per impedire che le tue connessioni Wi-Fi vengano hackerate e anche protezione per le tue webcam.
Quale futuro per i Deepfake?
Il Deepfake continua a evolversi. Due anni fa era facile riconoscere i video Deepfake a causa della scarsa qualità dei movimenti e del fatto che le persone simulate non sbattevano mai le palpebre. Assicurarti di rimanere al sicuro online e di essere vigile e sospettoso verso qualsiasi attività online, soprattutto quando si tratta di informazioni personali, aiuta le persone a identificare la frode prima che si verifichi.
Domande frequenti
Cos'è il phishing?
Gli attacchi di inganno basati sull'ingegneria sociale sono un tipo di truffa di phishing che truffa e manipola gli individui impersonandoli. L'obiettivo di queste truffe è quello di estorcere informazioni sensibili e indurre le vittime a trasferire denaro o ad accedere ai sistemi.
Dovrei preoccuparmi delle truffe basate sui deepfake vocali?
Sì. Ora i truffatori possono generare audio deepfake che riproducono esattamente la tua voce, per estorcere denaro ad amici, familiari o colleghi con il pretesto di aiutarti. Per aggirare questo ostacolo, stabilisci una parola in codice o una domanda di sicurezza da porre ai tuoi cari, a cui il truffatore non saprà rispondere, durante una chiamata, per verificare la loro identità.
Come avviene il furto di identità?
I truffatori possono usare la tua immagine o la tua voce per falsificare documenti, modificare i numeri di conto o impersonarti al telefono.
Come vengono realizzati i deepfake?
I video, gli audio e le immagini deepfake sono realizzati dall'intelligenza artificiale. L'apprendimento automatico acquisisce tutti i dati del tuo aspetto fisico e ne crea una versione sintetizzata.
Prodotti consigliati:
