AI
L’intelligenza artificiale sta rapidamente diventando parte integrante della vita quotidiana. Ci aiuta a lavorare, comunicare, creare contenuti e persino a difenderci dalle minacce informatiche. Ma man mano che l’IA si evolve da un utile assistente a una tecnologia in grado di agire autonomamente, influenzare le decisioni e rimodellare le esperienze online, emergono nuove domande.
Al Kaspersky HORIZONS 2026 di Roma, ricercatori di cybersicurezza, esperti di IA, responsabili politici ed educatori si sono riuniti per esplorare queste domande. Un messaggio ha risuonato in tutto l’evento: il futuro della cybersicurezza non riguarda più solo la protezione di sistemi e dati. Riguarda sempre più la protezione della fiducia, dell’identità e dell’autonomia umana.
1.Gli agenti IA stanno creando una nuova superficie di attacco
I criminali informatici hanno sempre sfruttato la fiducia. Oggi, stanno sfruttando la fiducia nell’IA.
Una ricerca presentata a HORIZONS ha rivelato che tra gennaio e l’inizio di maggio 2026, le tecnologie Kaspersky hanno rilevato oltre 92.000 attacchi malware mascherati da popolari servizi di IA. Versioni false di ChatGPT, Claude, Gemini e altri strumenti di IA emergenti sono state utilizzate per indurre gli utenti a scaricare software dannoso.
La minaccia si estende oltre le applicazioni false. Gli aggressori prendono sempre più di mira le catene di fornitura dell’IA, le librerie open source e gli ecosistemi di IA interconnessi, dove un singolo componente compromesso può colpire migliaia di utenti o organizzazioni.
Come ha spiegato Dmitry Galov, responsabile del Global Research and Analysis Team (GReAT) di Kaspersky per Russia e CSI:
L’introduzione di agenti di intelligenza artificiale negli ambienti aziendali cambia la natura stessa della fiducia. Ogni azione automatizzata diventa parte di una catena più ampia di sistemi e scambi di dati, il che significa che la sicurezza non riguarda più solo la protezione degli endpoint, ma il controllo di come informazioni, autorizzazioni e decisioni si propagano attraverso processi interconnessi basati sull’IA
Dmitry Galov, Head of Kaspersky’s Global Research and Analysis Team (GReAT) Russia and CIS Unit, at Kaspersky HORIZONS 2026
Con l’adozione dell’intelligenza artificiale da parte delle organizzazioni, la protezione di questi ecosistemi intelligenti sta diventando altrettanto importante quanto la protezione delle reti tradizionali.
2. L’automazione necessita di supervisione umana.
L’intelligenza artificiale promette maggiore efficienza, rilevamento più rapido delle minacce e automazione migliorata. Tuttavia, l’autonomia introduce anche nuovi rischi.
Gli esperti hanno discusso di come i sistemi di intelligenza artificiale possano essere manipolati tramite iniezione di prompt, dataset compromessi, plugin dannosi e catene di approvvigionamento compromesse. Quando i sistemi automatizzati operano su larga scala, errori e vulnerabilità possono diffondersi rapidamente.
La sfida non è più solo la resilienza tecnica, ma anche il mantenimento della responsabilità.
Come ha osservato Luana Lo Piccolo, Senior Advisor in materia di diritto tecnologico, governance dell’IA e affari digitali globali:
Con l’evoluzione dei sistemi di intelligenza artificiale da assistenti ad attori autonomi, la sfida non è più solo la resilienza tecnica, ma anche l’autonomia responsabile.
Luana Lo Piccolo, Senior Advisor on Tech Law, AI Governance and Digital Global Affairs, at Kaspersky HORIZONS 2026
Quanto più le organizzazioni si affidano alle decisioni guidate dall’intelligenza artificiale, tanto più importanti diventano la governance, la trasparenza e la supervisione umana.
3.L’intelligenza artificiale sta iniziando a comprendere il comportamento umano.
Una delle discussioni più interessanti di HORIZONS si è concentrata sull’intelligenza artificiale cognitiva: sistemi progettati per interpretare il comportamento umano, anticipare le decisioni e adattare le interazioni di conseguenza.
Sebbene le tecnologie attuali non possano leggere nel pensiero, influenzano già le scelte attraverso motori di raccomandazione, algoritmi di personalizzazione e previsione del comportamento.
I ricercatori hanno identificato quattro rischi emergenti:
- Attacchi di ingegneria sociale più sofisticati
- Manipolazione su larga scala dell’opinione pubblica
- Profilazione predittiva e abusi mirati
- Convergenza futura tra interfacce cervello-computer e dispositivi connessi
Noushin Shabab, Lead Security Researcher at Kaspersky GReAT, ritiene che questi rischi meritino attenzione oggi, non domani:
Sebbene l’intelligenza artificiale cognitiva sia ancora in una fase iniziale e lontana da una diffusione di massa, si sta sviluppando rapidamente. Si prevede che i modelli avanzati di interazione uomo-IA si diffonderanno in modo significativo nei prossimi decenni. Con la crescita dell’adozione, aumenteranno anche i rischi associati e, quando ciò accadrà, dovremo essere preparati.
Noushin Shabab, Lead Security Researcher at Kaspersky GReAT, at Kaspersky HORIZONS
La conversazione ha messo in luce una realtà sempre più diffusa: la sicurezza informatica potrebbe implicare, in misura crescente, la protezione non solo dei dispositivi, ma anche dei processi decisionali umani.
4.L’autonomia umana sta diventando una questione di sicurezza informatica.
Man mano che i sistemi di intelligenza artificiale diventano più abili nella comprensione del comportamento, crescono le preoccupazioni circa la loro capacità di influenzarlo.
Le piattaforme social utilizzano già algoritmi per plasmare ciò che gli utenti vedono, leggono e con cui interagiscono. I futuri sistemi di intelligenza artificiale potrebbero diventare ancora più efficaci nel personalizzare le informazioni, prevedere le reazioni e influenzare le decisioni.
Per la giornalista e divulgatrice scientifica sull’IA Teresa Potenza, è qui che il dibattito va oltre la tecnologia stessa:
Il vero rischio dell’intelligenza artificiale cognitiva è che plasmi le nostre menti, silenziosamente e su vasta scala. Abbiamo imparato che i sistemi ottimizzati per il coinvolgimento erodono la capacità di giudizio.
Ha aggiunto:
La tecnologia deve essere al servizio delle persone, non il contrario. L’autonomia non è solo una questione di privacy. È una questione di democrazia.
Teresa Potenza, journalist and responsible AI educator, at Kaspersky HORIZONS 2026
Proteggere gli utenti nell’era dell’intelligenza artificiale richiederà più che semplici controlli di sicurezza. Dipenderà anche da trasparenza, formazione e governance responsabile.
5.Vedere non significa più credere
Una dimostrazione dal vivo a HORIZONS ha messo in discussione uno dei presupposti più basilari sull’identità online.
I ricercatori hanno dimostrato come i sistemi di riconoscimento facciale possano ancora identificare gli individui anche dopo che l’intelligenza artificiale generativa ne ha alterato drasticamente l’aspetto attraverso effetti di invecchiamento e ringiovanimento. Agli occhi degli osservatori umani, le immagini spesso sembravano ritrarre persone completamente diverse.
Eppure, gli algoritmi di riconoscimento facciale sono riusciti ad associare le immagini modificate alle rispettive identità originali.
Secondo Maher Yamout, Lead Security Researcher di Kaspersky GReAT:
Le trasformazioni facciali generate dall’intelligenza artificiale possono preservare l’identità biometrica anche quando la percezione umana interpreta le immagini come appartenenti a individui completamente diversi. Ciò crea nuove sfide per la fiducia digitale, la verifica dell’identità e la prevenzione delle frodi in un’era di media sintetici in rapida evoluzione.
Maher Yamout, Lead Security Researcher at Kaspersky GReAT, at Kaspersky HORIZONS 2026
I risultati mettono in luce sia la resilienza dei moderni sistemi biometrici, sia le crescenti sfide poste dai deepfake e dalle identità sintetiche.
Il futuro della sicurezza informatica è in definitiva umano.
Kaspersky HORIZONS 2026 ha dimostrato che l’intelligenza artificiale sta rimodellando la sicurezza informatica in modi che vanno ben oltre la protezione da malware e reti.
Man mano che i sistemi intelligenti diventano più autonomi, persuasivi e integrati nella vita quotidiana, l’attenzione si sposta sulla protezione della fiducia, dell’identità e dell’autonomia umana.
La prossima frontiera della sicurezza informatica potrebbe non essere rappresentata dai nostri dispositivi o dalle nostre reti, ma dalla nostra capacità di fidarci di ciò che vediamo, di ciò che sappiamo e persino di come prendiamo decisioni in un mondo sempre più guidato dall’intelligenza artificiale.
Consigli