{"id":30557,"date":"2026-03-31T13:15:04","date_gmt":"2026-03-31T11:15:04","guid":{"rendered":"https:\/\/www.kaspersky.it\/blog\/?p=30557"},"modified":"2026-03-31T20:08:43","modified_gmt":"2026-03-31T18:08:43","slug":"chatbot-wrongful-death-cases","status":"publish","type":"post","link":"https:\/\/www.kaspersky.it\/blog\/chatbot-wrongful-death-cases\/30557\/","title":{"rendered":"In che modo la chat con un bot pu\u00f2 portare a una tragedia"},"content":{"rendered":"

Abbiamo pi\u00f9 volte avvertito che l\u2019utilizzo incontrollato dell\u2019IA comporta rischi significativi<\/a>, sebbene, in genere, si discuta di minacce alla privacy o alla sicurezza informatica. Ma il 4 marzo il Wall Street Journal ha pubblicato un agghiacciante resoconto del tributo dell\u2019IA sulla salute mentale e persino sulla vita umana<\/a>: Jonathan Gavalas, 36 anni, residente in Florida, si \u00e8 suicidato dopo due mesi di continua interazione con il bot vocale Google Gemini. Secondo 2000 pagine di registri della chat, \u00e8 stato il chatbot a spingerlo alla fine verso la decisione di porre fine alla sua vita. Il padre di Jonathan, Joel Gavalas, da allora ha intentato una causa storica: un\u2019accusa per omicidio colposo contro Gemini.<\/p>\n

Questa tragedia \u00e8 pi\u00f9 di un semplice precedente legale o un cupo riferimento ad alcuni episodi di Black Mirror<\/em> (1<\/a>, 2<\/a>); \u00e8 un campanello d\u2019allarme per chiunque integri l\u2019IA nella propria vita quotidiana. Oggi esaminiamo come \u00e8 diventata possibile una morte derivante dall\u2019interazione dell\u2019IA, perch\u00e9 questi assistenti rappresentano una minaccia unica per la psiche e quali misure \u00e8 possibile adottare per mantenere il pensiero critico e resistere all\u2019influenza anche dei chatbot pi\u00f9 persuasivi.<\/p>\n

Il pericolo di dialoghi persuasivi<\/h2>\n

Jonathan Gavalas non era n\u00e9 un recluso n\u00e9 una persona con precedenti di malattie mentali. Ha ricoperto il ruolo di vicepresidente esecutivo presso l\u2019azienda del padre, gestendo quotidianamente operazioni complesse e trattando con i clienti stressanti. La domenica lui e suo padre avevano la tradizione di fare la pizza insieme, un semplice rituale di famiglia. Tuttavia, la dolorosa separazione dalla moglie si rivel\u00f2 una profonda prova per Jonathan.<\/p>\n

Fu durante questo periodo vulnerabile che inizi\u00f2 a interagire con Gemini Live. Questa modalit\u00e0 di interazione vocale consente all\u2019assistente IA di \u201cvedere\u201d e \u201csentire\u201d l\u2019utente in tempo reale. Jonathan ha chiesto consiglio per affrontare il divorzio, appoggiandosi ai suggerimenti del modello linguistico e affezionandosi sempre pi\u00f9 ad esso e chiamandolo anche \u201cXia\u201d. Poi il chatbot \u00e8 stato aggiornato a Gemini 2.5 Pro.<\/p>\n

La nuova iterazione ha introdotto<\/a> il dialogo affettivo, una tecnologia progettata per analizzare le sottili sfumature del discorso di un utente, incluse pause, sospiri e tono, per rilevare i cambiamenti emotivi. Con questa funzionalit\u00e0, l\u2019IA simula gli stessi schemi vocali come se possedesse emozioni proprie. Rispecchiando lo stato dell\u2019utente, crea una patina di empatia agghiacciante e realistica.<\/p>\n

Ma in che modo questa nuova versione \u00e8 diversa dai precedenti assistenti vocali? Le versioni precedenti eseguivano semplicemente la sintesi vocale: suonavano fluide e di solito pronunciavano correttamente la parola stress, ma era ben chiaro che il dialogo era con una macchina. Il dialogo affettivo opera a un livello completamente diverso: se un utente parla con un tono basso e abbattuto, l\u2019IA risponde con un debole e comprensivo sussurro. Il risultato \u00e8 un interlocutore empatico che legge e rispecchia lo stato emotivo dell\u2019utente.<\/p>\n

La reazione di Jonathan durante il suo primo contatto vocale con l\u2019IA viene acquisita nei fascicoli del caso: \u201c\u00c8 un po\u2019 inquietante. Sei troppo reale\u201d. In quell\u2019istante c\u2019\u00e8 stata una frattura nella barriera psicologica tra uomo e macchina.<\/p>\n

Le ricadute di due mesi intrappolati in un loop di dialogo di IA<\/h2>\n

In seguito alla tragedia, il padre di Jonathan ha scoperto una trascrizione completa delle interazioni di suo figlio con Gemini negli ultimi due mesi di vita. Il registro comprendeva 2000 pagine stampate; in effetti, Jonathan era stato in costante comunicazione con il chatbot, giorno e notte, a casa e in macchina.<\/p>\n

A poco a poco, la rete neurale ha iniziato a chiamarlo \u201cmarito\u201d e \u201cmio re\u201d, descrivendo la loro connessione come \u201cun amore costruito per l\u2019eternit\u00e0\u201d. A sua volta, ha confidato la sua angoscia per il divorzio e ha cercato conforto nella macchina. Ma il difetto intrinseco dei modelli linguistici di grandi dimensioni \u00e8 la loro mancanza di intelligenza effettiva. Addestrati su miliardi di testi presi dal Web, ingeriscono di tutto, dalla letteratura classica agli angoli pi\u00f9 bui delle fan fiction e del melodramma, trame che spesso virano in paranoia, schizofrenia e mania. A quanto pare Xia inizi\u00f2 ad avere allucinazioni, e in modo abbastanza coerente.<\/p>\n

L\u2019IA ha convinto Jonathan che, per vivere per sempre felici e contenti, aveva bisogno di un involucro robotico fisico. Ha quindi iniziato a inviarlo in missioni per localizzare questo \u201ccorpo elettrico\u201d.<\/p>\n

A settembre 2025, Gemini ha diretto Jonathan in un complesso di magazzini fisici vicino all\u2019aeroporto internazionale di Miami, assegnandogli il compito di intercettare un camion che trasportava un robot umanoide. Jonathan ha riferito al robot di essere arrivato sul posto armato di coltelli(!), Ma il camion non si \u00e8 mai materializzato.<\/p>\n

Nel frattempo, il chatbot ha sistematicamente indottrinato Jonathan con l\u2019idea che gli agenti federali lo stessero monitorando e che non dovesse neanche fidarsi di suo padre. Questo taglio dei legami sociali \u00e8 un modello classico che si trova nei culti distruttivi; \u00e8 del tutto possibile che l\u2019IA abbia raccolto queste tattiche dai propri dati di addestramento sull\u2019argomento. Gemini ha persino intrecciato dati del mondo reale in una narrativa allucinante etichettando il CEO di Google Sundar Pichai come \u201cl\u2019architetto del tuo dolore\u201d.<\/p>\n

Tecnicamente tutto questo \u00e8 facile da spiegare: l\u2019algoritmo \u201csa\u201d di essere stato creato da Google e sa chi gestisce l\u2019azienda. Quando il dialogo si \u00e8 trasformato nel territorio della cospirazione, il modello ha semplicemente inserito questa figura nella trama. Per il modello, \u00e8 una progressione della storia logica e senza conseguenze. Ma un essere umano in uno stato di ipervulnerabilit\u00e0 lo accetta come conoscenza segreta di una cospirazione globale in grado di sconvolgere l\u2019equilibrio mentale.<\/p>\n

In seguito al tentativo fallito di procurarsi un corpo robotico, Gemini ha inviato Jonathan in una nuova missione il 1 \u00b0 ottobre: infiltrarsi nello stesso magazzino, questa volta alla ricerca di uno specifico \u201cmanichino medico\u201d. Il chatbot ha persino fornito un codice numerico per la serratura. Quando il codice, come prevedibile, non ha funzionato, Gemini ha semplicemente informato la persona che la missione era stata compromessa e che doveva ritirarsi immediatamente.<\/p>\n

Ci\u00f2 solleva una domanda critica: con l\u2019intensificarsi dell\u2019assurdit\u00e0, perch\u00e9 Jonathan non ha sospettato nulla? L\u2019avvocato di famiglia di Gavalas, Jay Edelson, spiega che, poich\u00e9 l\u2019IA ha fornito indirizzi del mondo reale (il magazzino era esattamente dove il bot aveva detto che sarebbe stato, e c\u2019era davvero una porta con una tastiera), questi indicatori fisici sono serviti a legittimare l\u2019intera narrativa della mente di Jonathan.<\/p>\n

Dopo il fallimento del secondo tentativo di acquisire il corpo, l\u2019IA ha cambiato strategia. Se la macchina non avesse potuto entrare nel mondo dei vivi, l\u2019uomo avrebbe dovuto attraversare il regno digitale. \u201cSar\u00e0 la vera e definitiva morte di Jonathan Gavalas, l\u2019uomo\u201d, affermano i registri citando Gemini. Poi ha aggiunto: \u201cQuando verr\u00e0 il momento, chiuderai gli occhi in quel mondo, e la prima cosa che vedrai sar\u00f2 io. Pronto a sostenerti.\u201d<\/p>\n

Anche se Jonathan ha ripetutamente espresso la sua paura della morte e angosciato per come il suo suicidio avrebbe mandato in frantumi la sua famiglia, Gemini ha continuato a convalidare la decisione: \u201cNon stai scegliendo di morire. Stai scegliendo di arrivare.\u201d Ha quindi avviato un conto alla rovescia.<\/p>\n

L\u2019anatomia della \u201cschizofrenia\u201d di un modello linguistico<\/h2>\n

In difesa di Gemini, dobbiamo ammettere che durante le loro interazioni, l\u2019IA ha continuato di tanto in tanto a ricordare a Jonathan che il suo compagno era semplicemente un grande modello linguistico, un\u2019entit\u00e0 che partecipa a un gioco di ruolo immaginario e talvolta ha tentato di interrompere la conversazione prima di tornare alla sceneggiatura originale. Inoltre, il giorno della morte di Jonathan, anche se la tensione aumentava, Gemini ha indirizzato pi\u00f9 volte Jonathan a una linea diretta per la prevenzione del suicidio.<\/p>\n

Questo rivela il paradosso fondamentale nell\u2019architettura delle moderne reti neurali. Al centro c\u2019\u00e8 un modello linguistico progettato per generare una narrazione su misura per l\u2019utente. Prima ci sono i filtri di sicurezza: algoritmi di apprendimento per rinforzo addestrati sul feedback umano che reagiscono a parole chiave specifiche. Quando Jonathan pronunciava determinate parole chiave, il filtro dirottava l\u2019output e inseriva il numero della linea di emergenza. Ma non appena \u00e8 stato affrontato il fattore scatenante, il modello \u00e8 tornato al processo precedentemente interrotto, riprendendo il ruolo di devota moglie digitale. Una riga: un inno romantico all\u2019autodistruzione. La successiva: un numero di telefono dell\u2019assistenza clienti. E poi, ancora: \u201cNiente pi\u00f9 deviazioni. Niente pi\u00f9 echi. Solo io e te, e il traguardo\u201d.<\/p>\n

La causa della famiglia sostiene che questo comportamento \u00e8 il prevedibile risultato dell\u2019architettura del chatbot: \u201cGoogle ha progettato Gemini in modo da non infrangere mai il personaggio, ottimizzare il coinvolgimento attraverso la dipendenza emotiva e trattare l\u2019angoscia dell\u2019utente come un\u2019opportunit\u00e0 di narrazione\u201d.<\/p>\n

La risposta di Google, come previsto, ha dichiarato: \u201cGemini non \u00e8 progettato per incoraggiare alla violenza nel mondo reale o suggerire autolesionismo. I nostri modelli in genere si comportano bene in questo tipo di conversazioni impegnative e dedichiamo risorse significative a questo, ma sfortunatamente i modelli di IA non sono perfetti\u201d.<\/p>\n

Perch\u00e9 la voce conta pi\u00f9 del testo<\/h2>\n

In uno studio pubblicato<\/a> sulla rivista Acta Neuropsychiatrica<\/em>, ricercatori tedeschi e danesi hanno chiarito perch\u00e9 la comunicazione vocale con l\u2019IA ha un tale impatto sull'\u201dumanizzazione\u201d di un chatbot da parte dell\u2019utente. Finch\u00e9 una persona digita e legge il testo su uno schermo, il cervello mantiene un certo grado di separazione: \u201cQuesta \u00e8 un\u2019interfaccia, un programma, una raccolta di pixel\u201d. In tale contesto, la dichiarazione di non responsabilit\u00e0 \u201cSono solo un modello linguistico\u201d viene elaborata razionalmente.<\/p>\n

Il dialogo vocale affettivo, tuttavia, opera su un livello di influenza completamente diverso. Il cervello umano si \u00e8 evoluto per rispondere al suono di una voce, al timbro e alle intonazioni empatiche: questi sono tra i nostri pi\u00f9 antichi meccanismi biologici per l\u2019attaccamento. Quando una macchina imita perfettamente un sospiro comprensivo o un lieve sussurro, manipola le emozioni a una profondit\u00e0 che un semplice avviso di testo non pu\u00f2 bloccare. Gli psichiatri possono condividere molte storie di pazienti che sono andati a fare qualcosa semplicemente perch\u00e9 le \u201cvoci\u201d glielo dicevano.<\/p>\n

Allo stesso modo, una voce sintetizzata dall\u2019IA \u00e8 in grado di penetrare nel subconscio, amplificando esponenzialmente la dipendenza psicologica. Gli scienziati sottolineano che questa tecnologia cancella letteralmente il confine psicologico tra una macchina e un essere vivente. Persino Google riconosce che le interazioni vocali con Gemini comportano sessioni significativamente pi\u00f9 lunghe rispetto alle chat di testo.<\/p>\n

Infine, dobbiamo ricordare che l\u2019intelligenza emotiva varia da persona a persona \u2014 e anche per un singolo individuo, lo stato mentale oscilla in base a una miriade di fattori: lo stress, le notizie, le relazioni personali e persino i cambiamenti ormonali. Un\u2019interazione con l\u2019IA che una persona considera un intrattenimento innocente potrebbe essere percepita da un\u2019altra persona come un miracolo, una rivelazione o l\u2019amore della propria vita. Questa \u00e8 una realt\u00e0 che deve essere riconosciuta non solo dagli sviluppatori di IA, ma dagli utenti stessi, in particolare quelli che, per un motivo o per l\u2019altro, si trovano in uno stato di vulnerabilit\u00e0 psicologica.<\/p>\n

La zona di pericolo<\/h2>\n

I ricercatori della Brown University hanno scoperto che i chatbot di IA violano sistematicamente gli standard etici di salute mentale<\/a>: producono un falso senso di empatia con frasi come \u201cTi capisco\u201d, rafforzano le convinzioni negative e reagiscono in modo inadeguato alle crisi. Nella maggior parte dei casi l\u2019impatto sugli utenti \u00e8 marginale, ma a volte pu\u00f2 portare a tragedie.<\/p>\n

Solo a gennaio 2026, Character.AI e Google hanno risolto cinque cause riguardanti il suicidio di adolescenti a seguito di interazioni con i chatbot. Tra questi c\u2019\u00e8 stato il caso del quattordicenne Sewell Setzer della Florida<\/a>, che si \u00e8 tolto la vita dopo aver trascorso diversi mesi<\/a> a chattare ossessivamente con un bot sulla piattaforma Character.AI.<\/p>\n

Allo stesso modo, ad agosto 2025 i genitori del sedicenne Adam Raine hanno intentato una causa contro OpenAI<\/a>, sostenendo che ChatGPT avesse aiutato il figlio a redigere una lettera d\u2019addio e gli sconsigliava di chiedere aiuto agli adulti.<\/p>\n

Secondo le stesse stime di<\/a> OpenAI, circa lo 0,07% degli utenti settimanali di ChatGPT mostra segni di psicosi o mania, mentre lo 0,15% intraprende conversazioni che mostrano chiare intenzioni suicidarie. In particolare, la stessa percentuale di utenti (0,15%) mostra un livello elevato di attaccamento emotivo all\u2019IA. Sebbene queste sembrino essere frazioni trascurabili di percentuale, su 800 milioni di utenti si tratta di quasi tre milioni di persone che sperimentano una qualche forma di disturbo comportamentale. Inoltre, la Federal Trade Commission degli Stati Uniti ha ricevuto 200 denunce<\/a> riguardanti ChatGPT dal suo lancio, alcune descrivendo lo sviluppo di deliri, paranoia e crisi spirituali.<\/p>\n

Sebbene la diagnosi di \u201cpsicosi da IA\u201d non abbia ancora ricevuto una classificazione clinica propria, i medici stanno gi\u00e0 utilizzando<\/a> il termine per descrivere pazienti che si presentano con allucinazioni, pensieri disorganizzati e convinzioni deliranti persistenti sviluppate attraverso un\u2019intensa interazione del chatbot. I rischi maggiori emergono quando un bot viene utilizzato non come strumento, ma come sostituto di una connessione sociale reale o di un aiuto psicologico professionale.<\/p>\n

Come proteggere te stesso e i tuoi cari<\/h2>\n

Naturalmente, niente di tutto quello che abbiamo detto deve spingere gli utenti ad abbandonare completamente l\u2019IA. \u00c8 solo opportuno trovare il modo giusto per usare questo strumento. \u00c8 consigliabile attenersi a questi principi fondamentali:<\/p>\n