Qual \u00e8 il modo pi\u00f9 semplice per trovare una minaccia nelle vostre e-mail (che si tratti di spam o phishing)? Una variet\u00e0 di intestazioni tecniche e altri marcatori indiretti di un messaggio indesiderato possono indicarci la strada, ma non dobbiamo dimenticare la parte pi\u00f9 ovvia: il contenuto del messaggio. Si potrebbe pensare che sia la prima cosa da analizzare; dopotutto, il testo \u00e8 ci\u00f2 che i criminali informatici o gli inserzionisti senza scrupoli usano per manipolare i destinatari. La realt\u00e0 non \u00e8 cos\u00ec semplice, per\u00f2; mentre in passato l\u2019analisi delle firme poteva far fronte a questo compito, ora \u00e8 necessario analizzare il testo utilizzando algoritmi di apprendimento automatico. E se il modello di apprendimento automatico deve essere adattato per classificare correttamente i messaggi, deve basarsi su grandi quantit\u00e0 di messaggi e questo non \u00e8 sempre pratico, anche per ragioni di privacy. Tuttavia, abbiamo trovato una soluzione.<\/p>\n
Dieci anni fa, catturare un\u2019enorme percentuale di e-mail indesiderate basate esclusivamente sul contenuto del messaggio era relativamente facile perch\u00e9 i criminali informatici utilizzavano gli stessi modelli, il testo dei messaggi di spam (e di phishing) non cambiava quasi mai. Oggi, i criminali informatici migliorano continuamente l\u2019efficienza dei loro messaggi e utilizzano milioni di esche: nuovi videogiochi, serie TV o modelli di smartphone, notizie politiche, persino emergenze (si pensi, ad esempio, all\u2019abbondanza di phishing e spam relativi al COVID-19). L\u2019enorme variet\u00e0 di argomenti complica il processo di rilevamento. Inoltre, i cybercriminali possono anche variare il testo all\u2019interno di un\u2019unica ondata di mailing per eludere i filtri di posta elettronica.<\/p>\n
Naturalmente gli approcci basati sulle firme sono ancora in uso, anche se il loro successo dipende fondamentalmente dall\u2019incontro con un messaggio che qualcuno ha gi\u00e0 classificato come indesiderato o dannoso. Non possono funzionare in modo proattivo perch\u00e9 gli spammer possono aggirarli apportando modifiche al testo. L\u2019unico modo per affrontare questo problema \u00e8 l\u2019apprendimento automatico.<\/p>\n
Negli ultimi anni, i metodi di apprendimento automatico hanno mostrato buoni risultati nella soluzione di molti problemi. Analizzando una grande quantit\u00e0 di dati, i modelli imparano a prendere decisioni e a trovare caratteristiche comuni non banali in un flusso di informazioni. Utilizziamo reti neurali addestrate sugli header tecnici di posta elettronica, insieme al protocollo DMARC, per rilevare le minacce nella posta elettronica. Quindi, perch\u00e9 non possiamo fare la stessa cosa con il contenuto dei messaggi?<\/p>\n
Come abbiamo gi\u00e0 detto, i modelli hanno bisogno di un\u2019enorme quantit\u00e0 di dati. In questo caso, i dati sono costituiti da e-mail, e non solo da quelle dannose, abbiamo bisogno anche di messaggi legittimi. Senza di essi, insegnare al modello a distinguere un attacco da e-mail legittime sarebbe impossibile. Abbiamo a disposizione numerose trappole e-mail che catturano ogni sorta di messaggi indesiderati (le usiamo per le firme), ma ottenere messaggi legittimi per l\u2019apprendimento \u00e8 un compito pi\u00f9 complicato.<\/p>\n
Di solito i dati vengono raccolti su server per l\u2019apprendimento centralizzato. Ma quando si parla di testo, sorgono ulteriori difficolt\u00e0: le e-mail possono contenere dati privati, per cui la loro memorizzazione ed elaborazione nella loro forma originale non sarebbe possibile. Quindi, come possiamo ottenere una raccolta abbastanza ampia di e-mail legittime?<\/p>\n
Risolviamo il problema utilizzando il metodo dell\u2019apprendimento federato, eliminando in tronco la necessit\u00e0 di raccogliere e-mail legittime e creando invece modelli di allenamento in modo decentralizzato. La creazione dei modelli si svolge direttamente sui server del client di posta e il server centrale riceve solo i dati formati dai modelli di apprendimento automatico, non accede al contenuto del messaggio. Sul server centrale, gli algoritmi combinano i dati con la versione risultante del modello, e poi li rimandano alle soluzioni client, dove il modello procede di nuovo ad analizzare il flusso delle e-mail.<\/p>\n
Abbiamo presentato un quadro leggermente semplificato: prima che il modello appena formato si occupi di e-mail reali, passa attraverso diverse iterazioni di formazione supplementare. In altre parole, due modelli lavorano contemporaneamente sul server di posta elettronica: uno in modalit\u00e0 di formazione, l\u2019altro in modalit\u00e0 attiva. Dopo diversi viaggi sul server centrale, il modello allenato sostituisce quello attivo.<\/p>\n
\u00c8 impossibile recuperare il testo di specifiche e-mail dai dati del modello; in questo modo la privacy durante l\u2019elaborazione \u00e8 garantita. Tuttavia, la formazione su delle e-mail reali migliora notevolmente la qualit\u00e0 del modello di rilevamento.<\/p>\n