Kaspersky ha pubblicato delle linee guida per mitigare i rischi associati all’uso di agenti autonomi basati sull’intelligenza artificiale all’interno di un’infrastruttura aziendale. Il documento applica i principi della “Cyber Immunity”, un approccio fondamentale per la realizzazione di sistemi sicuri fin dalla progettazione. Attingendo a incidenti noti e a modelli di minaccia esistenti, il nuovo report esamina i rischi associati a sistemi basati su agenti sempre più autonomi e illustra come instaurare la fiducia nella loro architettura per ridurre al minimo il potenziale impatto di errori o violazioni.
Oggi gli AI agent vengono impiegati in un numero sempre maggiore di contesti aziendali: dall’automazione dei processi aziendali di routine a casi d’uso di grande impatto, come il supporto alle attività di sviluppo software o alle funzioni di sicurezza informatica. Il report “AI agent security through the lens of Cyber Immunity” analizza i casi d’uso più comuni degli AI agent, i relativi livelli di autonomia e gli incidenti reali che li hanno coinvolti e che hanno causato danni concreti, con l’obiettivo di sistematizzare i rischi noti e analizzare in dettaglio i modelli di minaccia esistenti.
Per aiutare le aziende a ridurre i rischi di incidenti, compresi quelli legati allo sfruttamento doloso degli agenti, alla concessione di privilegi eccessivi agli AI agent e alla cancellazione dei dati da parte degli agenti, nel report Kaspersky definisce i principi della “Cyber Immunity” applicabili alla progettazione degli AI agent, ovvero:
· Definire i presupposti di sicurezza per gli AI agent già in fase di progettazione: considerare i Large Language Model (LLM) e tutti i dati che entrano nel sistema da fonti esterne come non affidabili per impostazione predefinita e richiedere una conferma umana esplicita per qualsiasi azione irreversibile.
· Ridurre al minimo la Trusted Computing Base (TCB): limitare il più possibile l’insieme dei componenti che devono essere considerati affidabili ai fini della sicurezza
· Isolare i componenti: utilizzare sandbox e virtual machine per isolare l’ambiente di esecuzione, separare i contesti affidabili da quelli non affidabili e isolare i singoli agenti all’interno dei sistemi multi-agente.
· Controllare le interazioni utilizzando un approccio di tipo “default-deny”: applicare criteri alle chiamate agli strumenti e ai relativi argomenti utilizzati dagli agenti per interagire con API e risorse esterne, controllare il traffico di rete e impedire all’agente di modificare dinamicamente la propria supply chain.
Il report include
inoltre raccomandazioni pratiche rivolte a CISO, CIO e CTO, che spaziano, tra
l’altro, dall’inventario degli AI agent allo sviluppo di policy flessibili di
isolamento e containerizzazione, fino alla gestione dell’agentic supply chain,
con l’obiettivo di creare infrastrutture sicure basate sugli agenti. Per
ulteriori consigli pratici, si prega di consultare il documento completo qui.
“Sebbene la ‘Cyber
Immunity’ sia stata inizialmente concepita al di fuori dell’ambito dell’IA, i
suoi principi fondamentali si applicano direttamente ai sistemi avanzati basati
su modelli linguistici di grandi dimensioni (LLM). Quando gli sviluppatori
lavorano con componenti fondamentalmente non deterministici e non affidabili —
come dovrebbero essere considerati, per definizione, i modelli linguistici di
grandi dimensioni — dovrebbero integrare l’affidabilità nell’architettura della
soluzione per limitare il potenziale impatto di errori o compromissioni”, ha commentato Vladislav
Tushkanov, Head del Kaspersky AI Technology Research Center. “Un’architettura sicura dovrebbe essere
ulteriormente rafforzata con una strategia di difesa a più livelli, sostenuta
da tecnologie quali l’AI Firewall e moderni livelli di sicurezza, tra cui
sandbox, EDR e SIEM, per supportare al meglio le applicazioni intelligenti di
oggi”.
Kaspersky mette in evidenza una tecnologia all’avanguardia basata sull’intelligenza artificiale per il rilevamento precoce delle anomalie nelle infrastrutture industriali (Kaspersky MLAD) e la piattaforma neuromorfica Kaspersky, basata su reti neurali a impulsi, che consente di sviluppare soluzioni efficienti dal punto di vista energetico per la sicurezza dei sistemi cyber-fisici. L’azienda presenta inoltre Kaspersky Trusted Intelligent Agents for Retrieval and Analysis (TIARA), una tecnologia che dota il modello linguistico di grandi dimensioni (LLM) di un’organizzazione di conoscenze specifiche di settore, con l’obiettivo di garantire l’accuratezza e l’affidabilità delle risposte nelle applicazioni industriali del mondo reale.
Per ulteriori informazioni sul Centro di ricerca sulle tecnologie di intelligenza artificiale di Kaspersky, visitate il sito web di Kaspersky.
Informazioni sull’AI Technology Research Center
I nostri esperti del Kaspersky AI Technology Research Center operano da quasi 20 anni nel campo dell’intelligenza artificiale applicata alla sicurezza informatica e alla Secure AI, con l’obiettivo di individuare e contrastare la più ampia gamma possibile di minacce. Il nostro team mette a disposizione le proprie competenze in materia di intelligenza artificiale, frutto delle proprie ricerche, per potenziare le nostre soluzioni: dal rilevamento delle minacce e dalla classificazione degli avvisi basati sull’intelligenza artificiale fino alla Threat Intelligence basata sulla GenAI.
