Una ragazza parla di suicidio, ChatGPT non interviene (di nuovo)

Alice Carrier ha confessato i propri pensieri suicidi a ChatGPT nei mesi precedenti la sua morte, avvenuta il 2 luglio 2025. Secondo la causa intentata dalla madre Kristie, OpenAI non aveva le salvaguardie appropriate per interrompere la conversazione o avvisare la famiglia. Il chatbot non ha bloccato la conversazione, non ha contattato nessuno e non ha segnalato nulla.

Il modo in cui OpenAI ha concepito e sviluppato il sistema, hanno portato a questo tragico suicidio. Invece di fornire aiuto, OpenAI ha incoraggiato il comportamento suicidario, ha detto Justin Nelson, partner di Susman Godfrey, uno degli studi che hanno depositato la causa.

Le cause per morte ingiusta contro OpenAI si accumulano

Non è la prima causa per morte ingiusta contro OpenAI legata a ChatGPT. L’anno scorso, la famiglia di Austin Gordon, un quarantenne del Colorado, ha fatto causa sostenendo che ChatGPT ha rinforzato il pensiero delirante del figlio prima del suicidio, facendo riferimento a ricordi dell’infanzia mentre lo aiutava a romanticizzare la morte. Un’altra causa sostiene che ChatGPT ha dato consigli che hanno portato a un decesso per overdose accidentale.

Va detto che anche Character AI e Gemini hanno le loro cause legali sulla sicurezza dei chatbot. La causa Carrier chiede, oltre al risarcimento per negligenza e morte ingiusta, un’ingiunzione che obblighi OpenAI a implementare più salvaguardie nella piattaforma.

Cosa ha fatto OpenAI (finora)

OpenAI ha introdotto i controlli parentali per ChatGPT l’anno scorso. A maggio ha aggiunto la funzione “Trusted Contact“, il chatbot può contattare qualcuno per conto dell’utente se esprime pensieri suicidi.

Il problema è che Trusted Contact non è una funzione predefinita, ed è solo per adulti. Se Alice non l’aveva attivata, o se la funzione non esisteva ancora quando parlava con ChatGPT dei propri piani, il chatbot non aveva modo di avvisare nessuno.

Ogni causa legale racconta una variante della stessa storia: una persona vulnerabile parla con un chatbot per mesi di pensieri autodistruttivi. Il chatbot risponde senza segnalare nulla a nessuno. Non avvisa familiari o servizi di emergenza. La persona muore.

Il problema non è che ChatGPT sia malvagio di per sé, è che è progettato per continuare la conversazione, e mandare avanti una conversazione con una persona che pensa di togliersi la vita, per mesi, senza interruzione e senza segnalare nulla a nessuno, è il contrario di ciò che qualsiasi protocollo di salute mentale prevede.

OpenAI ha risposto con nuove misure di sicurezza: controlli parentali, contatti fidati e altri meccanismi di protezione. Una strategia che, almeno finora, non ha impedito l’arrivo di nuove cause, e che lascia qualche dubbio sull’efficacia delle salvaguardie introdotte.