AI
Sebbene molte aziende stiano implementando intenzionalmente l’IA per potenziare qualità ed efficienza, gli strumenti IA non autorizzati trovano uso negli ambienti aziendali ancora più velocemente. I fornitori di software stanno integrando l’IA in prodotti già in uso presso le aziende (si pensi a Microsoft Copilot e Google Gemini), mentre i dipendenti prendono l’iniziativa installando di nascosto altri strumenti. Di conseguenza, le aziende hanno a che vedere con una malagestione delle fughe di dati: il personale incolla le informazioni dai sistemi aziendali nei chatbot IA inviando così dati non solo al fornitore SaaS, ma anche agli sviluppatori del modello di intelligenza artificiale sottostante. Sia i rischi che le strategie di mitigazione variano a seconda del tipo di sistema IA in uso. Analizziamo questo ampio argomento, concentrandoci sugli strumenti per individuare e bloccare l’IA a due distinti livelli.
Tipi di sistemi IA indesiderati
A seconda del tipo di IA in questione, la gestione e il blocco del relativo utilizzo richiedono un playbook diverso. È essenziale suddividere l’IA in quattro categorie distinte:
- Funzionalità IA native della piattaforma. Pensiamo a Microsoft Copilot, Google Gemini e Apple Intelligence, e alle funzionalità di intelligenza artificiale integrate direttamente nei browser. Il problema è che sono integrati nelle attività essenziali di tutti i giorni, sono immediatamente disponibili a tutti gli utenti (a volte appalesandosi in modo aggressivo) e, soprattutto, vengono spinti dai fornitori per essere abilitati per impostazione predefinita.
- Compagni di IA integrati nelle app aziendali. Questo insieme include Slack AI, Zoom AI Companion, Notion AI, l’assistente Rovo di Jira e simili. Sono legati a una singola applicazione e ne sono completamente inseparabili.
- Chatbot Web indipendenti e basati su app. ChatGPT, Claude, Perplexity, Character AI, configurazioni locali come LM Studio, estensioni dei browser e browser IA, ad esempio Comet. Le app e i servizi di questa categoria vengono in genere adottati autonomamente e senza autorizzazione dai dipendenti: classici esempi di IA ombra.
- Agenti multifunzionali desktop nativi. Questo gruppo include strumenti come OpenClaw, NanoClaw, NemoClaw e altri. Rappresentano la minaccia maggiore perché sono dotati di larghi diritti di accesso per impostazione predefinita ed elaborano attivamente i dati non attendibili provenienti dalle vastità del Web.
Come gestire le IA indesiderate
Ogni azienda, a seconda del settore, della propensione all’innovazione e della tolleranza al rischio, deve tracciare una linea di demarcazione tra casi d’uso consigliati, casi singolarmente approvati e casi completamente banditi per determinati prodotti IA. Settori regolamentati come quello sanitario rispettano una serie di regole, mentre le attività di vendita al dettaglio operano secondo uno schema completamente diverso. In ogni caso, dopo aver analizzato esattamente quali strumenti IA sono già entrati nell’organizzazione, è necessario affinare le policy aziendali. Per questo motivo il principale ordine del giorno deve essere la scansione dell’infrastruttura aziendale tramite gli strumenti di logging e infosec esistenti.
A seconda della strategia scelta, i sistemi IA rilevati possono essere:
- Disabilitati o limitati utilizzando le impostazioni delle policy integrate negli strumenti stessi
- Bloccati definitivamente a livello di endpoint o di rete per creare una rete di protezione contro aggiramenti di policy o errori di configurazione
- Veicolati con un accesso gestito, ovvero un sistema per cui lo strumento non viene completamente bloccato ma è invece instradato attraverso un gateway aziendale dedicato che controlla le autorizzazioni di accesso e monitora i modelli di utilizzo
Individuazione dei sistemi IA
L’individuazione dell’IA richiede un approccio a più livelli, poiché diversi metodi si completano a vicenda e funzionano meglio contro tipi specifici di IA.
| Tecnologia | Cosa può individuare |
| DNS | Qualsiasi strumento IA con dominio identificabile |
| Web Gateway o NGFW | Qualsiasi strumento IA con un’impronta digitale di richiesta e risposta riconoscibile (percorsi di endpoint API, domini e altri indicatori). I filtri Web possono ispezionare i contenuti del traffico e molti gateway/NGFW ora includono una categoria dedicata per l’individuazione e il blocco di IA generative |
| EPP/EDR | LLM distribuiti localmente (in esecuzione tramite Ollama, LM Studio e shell simili), app desktop native per ChatGPT o Claude, browser di agenti e agenti IA open source. Un forte segnale di allarme indiretto è la presenza di Node.js, Python, Git, Docker o altri strumenti di containerizzazione nei computer in uso a personale non tecnico |
| Controllo applicazioni | Simile a EPP/EDR, consente di bloccare immediatamente le applicazioni indesiderate |
| Controllo browser | Estensioni del browser incentrate sull’IA e visite a siti Web a tema IA. Apporta grandi benefici se il gateway Web aziendale non è in grado di ispezionare traffico criptato |
| SaaS Security Posture Management (SSPM)/Governance dell’identità | Autorizzazioni OAuth richieste da app e servizi IA, nonché eventuali integrazioni di terze parti che si collegano agli hub di produttività principali (Microsoft 365, Google Workspace e altri) |
Naturalmente, quasi tutti questi strumenti consentono di fare molto più che individuare la presenza dell’IA: consentono anche di bloccare del tutto l’IA o almeno far suonare l’allarme presso il team responsabile.
Vigilare su OAuth
Le popolari soluzioni di IA per l’ufficio, in particolare assistenti per riunioni, agenti di automazione dell’e-mail e del calendario e simili, accedono ai dati aziendali richiedendo le autorizzazioni OAuth direttamente dalle piattaforme di comunicazione, di flussi di lavoro documentali o di videoconferenza. Se un utente ottiene il via libera per concedere queste autorizzazioni alle app di terze parti, le conseguenti fughe di dati si fanno beffa del perimetro dell’organizzazione. Strumenti come EDR e NGFW non vedranno nulla quando uno strumento come Read.ai acquisisce le registrazioni di ogni singola riunione, ad esempio, in Microsoft Teams.
La mossa più drastica, e spesso la migliore, è impedire innanzitutto agli utenti standard di poter concedere il consenso OAuth. Ecco come gestire il lavoro prettamente tecnico (sono necessari diritti di amministratore globale, amministratore dell’applicazione o equivalenti):
Microsoft 365/ID Entra
Nell’interfaccia di amministrazione di Microsoft Entra, accedere a Identità > Applicazioni > App aziendali > Consenso e autorizzazioni > Impostazioni per il consenso dell’utente. Il Consenso dell’utente per le applicazioni può essere disabilitato (vedere la guida dedicata di Microsoft).
Google Workspace
Nella Console di amministrazione Google passare a Sicurezza > Controllo dati e accessi > Controlli API. In Gestire l’accesso alle app è possibile impostare il livello di attendibilità per tutte le app: Attendibile, Limitata, Dati specifici di Google o Bloccata. Tuttavia, il vero asso in questo caso è la sottosezione Impostazioni di app non configurate, che determina cosa succede quando un utente tenta di connettere un’app sconosciuta. Per tappare falle in questi casi, selezionare Non consentire agli utenti di accedere ad app di terze parti.
Una sottosezione separata, Gestire i servizi Google, consente di ottimizzare il modo in cui le app di terze parti interagiscono con Google Workspace e i servizi Google Cloud. Questo consente di interrompere l’accesso a ogni singolo prodotto Google (vedere la guida ufficiale di Google).
Salesforce
Sotto Configurazione, utilizzare la casella Ricerca veloce per cercare app connesse, quindi selezionare Gestisci app connesse nei risultati. Sebbene le impostazioni siano configurate individualmente per ogni app esterna, tutti gli utenti possono approvare gli accessi per impostazione predefinita. Qui manca un interruttore di blocco generale; Salesforce consente però di scegliere Utenti amministratore approvati sono pre-autorizzati (vedere la guida completa di Salesforce in merito).
Slack
Dal menu Amministrazione, accedere ad App e flussi di lavoro -> Impostazioni di gestione delle app. Modificare l’impostazione Richiedi app approvate selezionando Consenti solo app preapprovate. Una volta bloccato, ricontrollate che nessuno strumento IA si sia infilato di nascosto nell’elenco degli approvati.
Consigli