Voce AI e truffe deepfake: perché non ci si può più fidare di una voce familiare

Sembra un tropo di fantascienza, ma la tecnologia è qui proprio ora: le truffe vocali basate sull'IA utilizzano l'intelligenza artificiale per copiare voci reali e impersonare persone di cui ti fidi. Questo porta a uno scenario spaventoso in cui una voce familiare non è più la prova dell'autenticità di una chiamata.

Le truffe di spoofing vocale con intelligenza artificiale non si basano sull'hacking dei dispositivi o sull'intrusione dei sistemi di sicurezza. I truffatori sfruttano l'urgenza e la pressione per spingere le persone a recitare prima che abbiano il tempo di mettere in discussione ciò che stanno sentendo. Le chiamate possono sembrare calme o potrebbero essere molto emotive e invadenti.

La reazione più sicura è semplice. Arrestare la chiamata e verificare la richiesta in modo indipendente utilizzando un metodo attendibile. Con poche abitudini e pochi strumenti di base è possibile ridurre il rischio di cadere in queste truffe senza la necessità di conoscenze tecniche.

Cosa c'è da sapere:

• le truffe vocali basate sull'IA utilizzano voci clonate o deepfake per impersonare persone di fiducia, quindi una voce familiare non è più la prova che una chiamata è reale.
• Queste truffe si basano sull'urgenza e sulla pressione emotiva, non sull'hacking tecnico, per impedire all'utente di verificare le richieste.
• Le emergenze familiari e la rappresentazione delle autorità (capi e funzionari aziendali) sono gli scenari reali più comuni.
• La reazione più sicura consiste nel terminare la chiamata e nella verifica in modo indipendente utilizzando dettagli di contatto attendibili.
• Abitudini semplici come la verifica e l'utilizzo di strumenti di filtro delle chiamate possono ridurre notevolmente i rischi.

Che cos'è una truffa vocale basata sull'IA?

Una truffa vocale basata sull'IA è una frode in cui gli aggressori utilizzano l'intelligenza artificiale per generare o clonare la voce di una persona e utilizzarla durante le telefonate o i messaggi vocali per indurre qualcuno a fare qualcosa.

Queste truffe appartengono alla categoria più ampia del phishing , spesso denominata voice phishing o vishing . Invece di e-mail o messaggi falsi, i truffatori si affidano a voci realistiche per creare fiducia e spingere le persone ad agire rapidamente.

Questo tipo di criminalità informatica sta già avendo un enorme impatto su alcuni settori , soprattutto nelle aree in cui le richieste, le approvazioni o le interazioni con l'assistenza telefonica sono comuni.

I truffatori possono impersonare un membro della famiglia che chiede aiuto o denaro urgenti. Potrebbero fingere di essere un manager che richiede il pagamento o un agente dell'assistenza che afferma che si è verificato un problema con un account. La voce suona reale perché è stata abilmente costruita sulla base delle registrazioni di una persona reale.

Le truffe vocali basate sull'IA sono mirate e interattive. Il chiamante può rispondere in modo naturale e regolare il tono durante la chiamata. Può far sembrare la situazione reale e personale, anziché automatizzata come un vecchio robocaller.

Che cos'è una voce deepfake e come viene utilizzata nelle truffe?

Una voce deepfake è una copia generata dall'IA della voce di una persona reale che può essere utilizzata come una truffa convincente. Questa tecnologia viene utilizzata per impersonare qualcuno che la vittima già conosce o di cui si fida.

Molti di noi ora utilizzano assistenti IA che mostrano quanto possono essere efficaci le voci sintetizzate. Le cose stanno diventando sempre più convincenti in un modo che può offuscare i confini di ciò che è reale.

Le voci deepfake sono uno strumento all'interno delle truffe vocali basate sull'IA. Sono spesso combinati con dettagli personali rubati per rendere le chiamate credibili e urgenti. Questo è il motivo per cui la richiesta può sembrare ragionevole o realistica.

Molte persone associano i deepfake a video falsi online anziché alle chiamate vocali. Questo divario di aspettative è ciò che sfruttano i truffatori. Le persone potrebbero non essere attente ai rischi. Quando una voce suona familiare, è più probabile che le persone agiscano rapidamente senza fermarsi per verificare.

In che modo i truffatori clonano la voce di qualcuno?

I truffatori clonano le voci raccogliendo brevi campioni audio e utilizzando gli strumenti di intelligenza artificiale per ricreare il suono di una persona. Potrebbero essere necessari solo pochi secondi di discorso chiaro per ottenere un'approssimazione della voce e dell'intonazione di qualcuno.

A volte può essere facile trovare campioni di voci. I video pubblici sui social media e anche brevi conversazioni telefoniche possono fornire materiale sufficiente. L'audio viene immesso in strumenti di clonazione della voce che apprendono il tono e la pronuncia di qualcuno. Pensa se sono presenti clip audio disponibili sui social media che qualcuno potrebbe potenzialmente prendere e utilizzare.

La clonazione vocale moderna è veloce e scalabile. Ciò che una volta avrebbe richiesto competenze altamente specialistiche ora può essere eseguito rapidamente utilizzando strumenti ampiamente disponibili. Questa è una preoccupazione in quanto consente ai truffatori di creare voci convincenti e riutilizzarle per molte chiamate o target.

Perché le truffe vocali basate sull'IA sono così convincenti?

Le truffe vocali basate sull'IA sono convincenti perché ascoltare una voce familiare fornisce immediatamente un elevato livello di fiducia. In situazioni emotive o urgenti le persone non si aspettano un inganno.

I truffatori spesso creano pressione denunciando emergenze o problemi urgenti come rimanere bloccati in una città o addirittura all'estero senza i mezzi per tornare indietro. I sentimenti di panico e urgenza riducono le possibilità che qualcuno si fermi e metta in dubbio ciò che sta ascoltando, anche se la richiesta sembra insolita o fuori carattere.

Questo è il motivo per cui anche le persone più attente alla sicurezza possono essere ingannate. La truffa non si basa su debolezze tecniche. Sfrutta le normali reazioni umane allo stress e alle emozioni.

Quali sono gli scenari più comuni di truffe vocali basate sull'IA?

La maggior parte delle truffe vocali basate sull'IA segue situazioni familiari in cui le persone si aspettano chiamate urgenti e sentono la pressione di rispondere rapidamente. Rende difficile o addirittura superflua la verifica sul momento.

Truffe vocali per le emergenze familiari

Le truffe per le emergenze familiari utilizzano voci clonate per creare problemi falsi che coinvolgono i parenti e le persone a cui tieni di più.

Le vittime spesso segnalano telefonate in cui si afferma che qualcuno è stato arrestato o ferito e che ha urgente bisogno di denaro. Il chiamante potrebbe chiedere aiuto o sembrare angosciato. È probabile che esorteranno l'ascoltatore a non riattaccare o a non contattare nessun altro poiché questa pressione emotiva è progettata per interrompere la verifica e mantenere privata la situazione.

Il truffatore potrebbe chiedere il pagamento immediato o dare istruzioni per rimanere in linea e spiegazioni sul motivo per cui i normali metodi di contatto non funzionano. L'obiettivo è la velocità e l'inganno piuttosto che lunghe conversazioni.

Truffe per impersonificazione di lavoro e autorità

Queste truffe impersonano dirigenti o persone che ricoprono ruoli ufficiali e luoghi di lavoro utilizzando voci calme e sicure che suonano familiari o professionali.

Un livello di autorità percepito a volte può aumentare le possibilità che le persone si conformino. Quando una richiesta sembra provenire da un capo o da un istituto di fiducia, è più probabile che le persone seguano le istruzioni senza metterle in discussione. Le chiamate possono comportare pagamenti urgenti o attività riservate (entrambi dovrebbero essere considerati segnali d'allarme).

Queste truffe colpiscono sia i telefoni personali che quelli di lavoro, poiché gli aggressori prendono di mira ovunque la fiducia esista già. Una chiamata può essere indirizzata a un dispositivo di lavoro durante l'orario di lavoro o a un telefono personale fuori orario.

Quali segnali di pericolo dovrebbero destare immediatamente sospetti?

Una chiamata vocale dovrebbe destare sospetti se crea urgenza o pressione che impedisce di verificare la richiesta nel modo preferito. Se il chiamante richiede il segreto o chiama da un numero che non riconosci, i campanelli d'allarme dovrebbero suonare.

La persona che tenta di truffare l'utente potrebbe insistere per mantenere segreta la chiamata o dire che gli altri non possono essere contattati. Questo isolamento è intenzionale e ha lo scopo di interrompere la verifica o la realizzazione di ciò che sta effettivamente accadendo durante la chiamata.

Prestare particolare attenzione alle richieste relative a metodi di pagamento insoliti o irreversibili come buoni regalo o criptovalute. Queste richieste sono progettate per spostare rapidamente denaro e rendere difficile il ripristino. La richiesta di buoni regalo è un vero e proprio omaggio di una truffa.

Cosa fare se si riceve una chiamata vocale sospetta?

L'azione più sicura consiste nel terminare la chiamata e allontanarsi dalle pressioni. Ogni accenno di sospetto dovrebbe farti interrompere il fidanzamento.

Riagganciare. Questo rompe la presa emotiva e ti dà il tempo di pensare chiaramente. Non rimanere in linea per capirlo o porre domande di follow-up, poiché i truffatori utilizzano la conversazione per adattare la propria storia e escogitano altri modi per renderla più convincente.

Verificare la richiesta in modo indipendente utilizzando dettagli di contatto attendibili. Insistere per discutere delle cose tramite un numero di telefono salvato o un indirizzo e-mail noto. Evitare di continuare la conversazione o di richiamare sullo stesso numero. I chiamanti legittimi capiranno la verifica. I truffatori cercheranno di fermarlo.

Come è possibile proteggersi dalle truffe vocali dell'IA a lungo termine?

Protezione a lungo termine significa sia ridurre la frequenza di essere presi di mira, sia rendere più difficile il successo dei truffatori.

Le truffe vocali basate sull'IA si basano sulla fiducia e sull'urgenza. Abitudini semplici e salvaguardie realistiche contribuiscono a ridurre i rischi senza modificare l'utilizzo quotidiano del telefono.

Abitudini personali che riducono i rischi

Piccole abitudini possono fare una grande differenza. Alcune famiglie e contatti stretti ora utilizzano parole in codice per vere emergenze. Ciò significa che una chiamata autentica può essere verificata rapidamente (basta non divulgare la parola in codice).

Prestare attenzione alle registrazioni vocali pubbliche. Video, note vocali e messaggi di saluto della segreteria telefonica possono essere utilizzati come materiale di partenza per la clonazione. Non è necessario evitare del tutto la condivisione, ma limitare le registrazioni lunghe o nitide riduce l'esposizione.

Trattare la verifica come normale e non scortese. Riattaccare per richiamare o verificare con un'altra persona dovrebbe essere normale. L'utilizzo di un metodo di contatto attendibile è una risposta ragionevole e chiunque sia legittimo capirà. I truffatori scoraggeranno questa operazione e cercheranno di tenerti in linea in modo da poter fornire un filtro e un test utili.

Il software può contribuire a ridurre le chiamate truffe vocali basate sull'IA?

Solo fino a un certo punto. Gli strumenti di filtro delle chiamate e rilevamento dello spam funzionano analizzando i modelli di chiamata e il comportamento insolito per bloccare o contrassegnare le chiamate sospette prima che tu possa rispondere. Può inoltre eseguire la scansione di numeri di spam sospetti o noti.

Le protezioni a livello di telefono possono ridurre l'esposizione interrompendo le campagne di truffe note e avvertendo di possibili frodi. Non possono ricevere ogni chiamata. Esistono molte truffe altamente mirate che utilizzano nuovi numeri.

Questo è il motivo per cui il software dovrebbe essere visto come un livello di supporto e non un sostituto del buon senso. La tecnologia può ridurre la frequenza con cui vengono raggiunte le truffe, ma la verifica umana rimane la difesa più efficace quando una chiamata sembra reale.

Cosa dovresti fare se hai già condiviso denaro o informazioni?

Contattare immediatamente la banca o il provider dei servizi di pagamento in caso di trasferimento di denaro o se sono stati forniti i dettagli del conto. Modificare le password e abilitare subito l'autenticazione a più fattori. Se le informazioni personali sono state condivise, monitorare attentamente gli account per rilevare eventuali attività insolite.

Agire rapidamente dopo aver condiviso denaro o fatto trapelare informazioni può limitare ulteriori danni e aumentare le possibilità di recupero.

Documentare cosa è successo finché è fresco. Salvare i dettagli delle chiamate come numeri e orari in modo da averli come prova. È inoltre possibile annotare le istruzioni impartite. Questo record aiuta i provider e le autorità a rispondere più velocemente e può impedire che la stessa truffa riguardi altri utenti.

È probabile che le truffe vocali basate sull'IA aumentino e come rimanere al sicuro

È probabile che le truffe vocali basate sull'IA aumentino perché la voce offre ai truffatori un modo per impersonare qualcuno in modo convincente. È più facile per i truffatori sfruttare questa fiducia su vasta scala e la situazione sta migliorando.

La sola familiarità non può più essere utilizzata come prova. Questo non significa che le persone siano impotenti. La verifica funziona ancora, anche se le truffe diventano più convincenti. Riagganciare e verificare l'identità sono strumenti efficaci in grado di fermare una truffa.

Trattare la verifica come normale e prevedibile rimette il controllo nelle tue mani. Lo sviluppo di buone abitudini può comunque avere un enorme impatto e aiutare le persone a evitare di farsi sorprendere. Consapevolezza significa anche sapere che quando le persone ti chiamano potrebbe non essere tutto come sembra.

Articoli correlati:

• Cosa c'è da sapere sulle truffe di phishing
• Come evitare di diventare vittima delle truffe online
• Che cos'è Vishing?
• Come stare al sicuro dall'hacking dell'IA?

Prodotti correlati:

• Kaspersky Premium
  
• Scaricare una prova gratuita di 30 giorni del nostro piano premium

FAQ

I truffatori possono clonare la tua voce a tua insaputa?

Sì. Video pubblici o brevi registrazioni possono essere sufficienti per clonare una voce senza contatto diretto.

A chi prendono di mira le truffe vocali basate sull'IA?

Chiunque può essere preso di mira, ma i truffatori spesso si concentrano su persone le cui voci o i cui dettagli personali sono facili da trovare online.

Le truffe vocali basate sull'IA sono illegali?

Le frodi, incluso l'utilizzo di voci clonate a scopo di inganno, sono illegali in molti paesi, anche se la tecnologia stessa è legale.