Una dimostrazione dal vivo, tenutasi in occasione della principale conferenza europea Kaspersky HORIZONS, ha evidenziato come i sistemi di riconoscimento facciale siano in grado di identificare le persone anche dopo che strumenti di intelligenza artificiale generativa (GenAI) ne hanno modificato radicalmente l’aspetto, ad esempio attraverso effetti di invecchiamento o ringiovanimento. In alcuni casi, le immagini ottenute risultano all’occhio umano così alterate da sembrare ritratti di persone completamente diverse.
Con l’integrazione sempre più diffusa delle tecnologie di riconoscimento facciale in ambiti quali sicurezza, controllo delle frontiere, sanità, finanza e marketing, i progressi nell’intelligenza artificiale generativa stanno parallelamente rendendo possibile la creazione di immagini sintetiche altamente realistiche e modifiche sofisticate dei volti. Le applicazioni basate sull’IA sono ormai ampiamente utilizzate per migliorare le immagini, effettuare ritocchi, alterare i volti e trasformare l’identità, producendo risultati spesso indistinguibili dalle fotografie autentiche.
Per comprendere meglio come i sistemi di verifica facciale reagiscano a tali trasformazioni, il Global Research and Analysis Team (GReAT) di Kaspersky ha condotto un esperimento indipendente, utilizzando un software open source di computer vision e machine learning ampiamente diffuso, ampiamente diffusa nella ricerca sul riconoscimento facciale e nei sistemi di analisi visiva automatizzata.
Nel corso dell’esperimento, fotografie dei volti originali sono state elaborate con strumenti di intelligenza artificiale generativa per simulare scenari sia di invecchiamento sia di ringiovanimento. In molti casi, le immagini risultanti apparivano agli osservatori umani come ritratti di persone completamente diverse. Nonostante queste marcate variazioni visive, il sistema di riconoscimento facciale ha costantemente associato le immagini modificate dall’IA alle identità originali in 10 casi di test indipendenti.
L’esperimento ha incluso scenari di invecchiamento e ringiovanimento generati dall’intelligenza artificiale, confronti tra ritratti visivamente divergenti e verifiche effettuate tramite software moderni di riconoscimento facciale.
I risultati suggeriscono che i sistemi più avanzati si basano su caratteristiche geometriche e strutturali profonde del volto, piuttosto che su somiglianze visive superficiali percepite dagli esseri umani. Anche quando l’aspetto cambia in modo significativo, gli algoritmi riescono infatti a individuare marcatori biometrici persistenti, che restano stabili nonostante le trasformazioni sintetiche.
Dal punto di vista della sicurezza informatica, emerge un quadro caratterizzato da un duplice rischio sempre più rilevante. Da un lato, viene dimostrata la resilienza dei sistemi di autenticazione facciale rispetto ad alcune forme di manipolazione visiva basata sull’intelligenza artificiale. Dall’altro, si sollevano interrogativi importanti sul potenziale uso improprio della GenAI per la falsificazione dell’identità, la creazione di identità sintetiche e l’elusione dei processi di verifica umana.
“Sebbene l’esperimento non costituisca uno studio su larga scala, rappresenta una prova di fattibilità di un potenziale attacco basato sull’intelligenza artificiale che il settore dovrebbe considerare. Evidenzia inoltre un’implicazione pratica fondamentale: le trasformazioni facciali generate dall’IA possono preservare l’identità biometrica anche quando la percezione umana interpreta le immagini come individui completamente diversi. Questo apre nuove sfide per la fiducia digitale, la verifica dell’identità e la prevenzione delle frodi, in un’era di media sintetici in rapida evoluzione”, ha spiegato Maher Yamout, Lead Security Research at Kaspersky Global Research & Analysis Team.
Con la continua evoluzione delle tecnologie dei media sintetici, i ricercatori di Kaspersky sottolineano la necessità di una maggiore attenzione da parte degli sviluppatori di sistemi di identità digitale, dei professionisti della sicurezza informatica e delle autorità di regolamentazione, al fine di garantire che le tecnologie biometriche restino sicure, affidabili e resilienti di fronte alle minacce emergenti legate all’intelligenza artificiale.
