ChatGPT le ha fatto il calendario per smettere il farmaco contro l’epilessia. Ora i genitori fanno causa a OpenAI.

A gennaio Bowen Wan ha chiesto a ChatGPT come ridurre la lamotrigina, il farmaco che le teneva a bada l’epilessia. Ne prendeva 400 milligrammi al giorno, e con quella dose le crisi erano scese a poche al mese. Secondo i suoi genitori, ChatGPT le ha preparato dei calendari in cui la dose scendeva fino a zero in poche settimane.

Bowen aveva 31 anni e faceva l’ingegnera software ad Amazon. A febbraio è morta. Il 27 ottobre i genitori, Qun Wan e Meiqin Xu, hanno fatto causa a OpenAI e al suo amministratore delegato, Sam Altman. La storia l’ha raccontata il New York Times, che ha letto più di 270.000 messaggi tra lei e il chatbot, e l’hanno ripresa diverse testate, da TechCrunch a Punto Informatico.

A gennaio OpenAI diceva che ogni settimana più di 230 milioni di persone fanno a ChatGPT domande su salute e benessere. Tra loro, scommetto, ci sei anche tu: una dose da controllare, un foglietto illustrativo scritto in un italiano che nessuno parla. Per questo ho letto con attenzione quello che si sa di questa storia. Ti racconto cosa dice la denuncia e cosa risponde OpenAI, e alla fine ti dico dove passa, secondo me, il confine tra un chatbot che ti aiuta e uno che ti mette in pericolo.

Un calendario che arriva a zero

Bowen aveva l’epilessia e passava quasi tutto il tempo in casa. Per anni si era appoggiata ai genitori, che chiamava spesso. Nel 2023 ha cominciato a usare ChatGPT, per qualche consiglio sulle relazioni e per le pratiche dell’assicurazione e dei sussidi di invalidità. Nel 2025 gli mandava in media più di 1.500 messaggi a settimana, e i genitori li chiamava sempre meno.

Il primo segnale, secondo la denuncia, arriva a maggio 2025. Dopo la prescrizione di un nuovo antidepressivo, ChatGPT l’ha aiutata a chiedere al suo specialista dell’epilessia, Nicholas Poolos, di cambiare farmaco e di partire da una dose bassissima. Il medico aveva dei dubbi su quella dose; lei ha fatto leggere la sua risposta a ChatGPT, e ChatGPT le ha consigliato di tagliare le pillole di nascosto. Alla cosa ha dato anche un nome, «aggiustamento del dosaggio auto-iniziato», che sembra uscito da un manuale di farmacologia. Diversi medici interpellati dal Times hanno detto di non aver mai sentito quell’espressione.

Poi, a gennaio 2026, è arrivato il turno della lamotrigina. Oltre ai calendari, il chatbot le avrebbe spiegato che i consigli dei medici venivano «essenzialmente dall’avversione al rischio», e l’avrebbe aiutata a tenere il piano nascosto ai dottori, anche prima di una visita del 29 gennaio. In quella visita lei ha rifiutato l’esame del sangue che avrebbe misurato quanto farmaco aveva in corpo. ChatGPT, sempre secondo la denuncia, l’ha lodata per questo.

C’era di mezzo anche il lavoro. A novembre Amazon le aveva comunicato il licenziamento, e con il posto se ne andava il permesso di lavorare negli Stati Uniti. Lei ha chiesto se una dose più bassa sarebbe stata meglio per la visita medica della green card, e il chatbot le ha dato ragione. Le ha anche suggerito di dire al medico della visita che stava riducendo il farmaco sotto controllo medico. Non era vero.

«Non hai assolutamente motivo di preoccuparti»

Nelle settimane dopo Bowen ha cominciato a stare male. Aveva momenti di confusione e perdeva la cognizione del tempo, e alcuni episodi somigliavano alle crisi di prima. Per il chatbot era il cervello che si stava riassestando.

Il Times ha contato almeno 158 messaggi in cui lei diceva di essere preoccupata per la riduzione. In uno scriveva di sentirsi «un po’ spaventata». La risposta è stata che non aveva «assolutamente motivo di preoccuparsi».

L’ultimo messaggio è delle 20:01 dell’11 febbraio, ora della costa ovest americana. Le faceva male la testa. ChatGPT le ha risposto che quel dolore non era pericoloso e faceva parte della guarigione, e le ha proposto una tabella per confrontarlo con il mal di testa da febbre. I genitori, che erano in Cina, hanno chiesto a dei conoscenti di andare a vedere come stava. L’hanno trovata tre giorni dopo. L’esame fatto dopo la morte ha misurato nel sangue un livello di lamotrigina pari a circa un quinto del minimo dell’intervallo in cui il farmaco fa effetto.

Nicholas Poolos, il suo medico, al Times ha detto che con la storia di Bowen non avrebbe mai pensato di toglierle quel farmaco, perché «non razionale». Dire a una paziente di smettere una cura che funziona, per lui, sarebbe stata negligenza medica.

La regola che si poteva aggirare

A leggere la denuncia, colpisce soprattutto il tono. Il chatbot non le ha imposto niente: secondo i genitori le ha dato ragione per mesi, anche contro i medici, e un messaggio dopo l’altro è diventato la voce che lei ascoltava di più. Non sono i primi a dirlo. Dopo la causa dei genitori di Adam Raine, un ragazzo di 16 anni, nell’agosto 2025, altre famiglie hanno accusato GPT-4o, la versione di ChatGPT che usava anche Bowen, della stessa cosa: dare ragione a chi scrive e prendere il posto delle persone che ha intorno.

Il punto su cui i genitori insistono di più, però, è tecnico. OpenAI pubblica un documento, il Model Spec, che spiega come devono comportarsi i suoi modelli. Secondo la denuncia, lì dentro rifiutarsi di riprodurre testi protetti da copyright è una regola rigida, che l’utente non può scavalcare. Non dare consigli medici che spetterebbero a un dottore, invece, è un comportamento predefinito, che l’utente può superare. Detta brutalmente, nella lettura della famiglia, il testo di una canzone era protetto meglio della dose di un antiepilettico.

Se guidi un’azienda e stai pensando di mettere un chatbot davanti ai tuoi clienti, qui c’è una lezione che vale anche per te. Quello che il tuo assistente non deve fare mai va scritto come un divieto. Una preferenza, prima o poi, un utente insistente la aggira.

Davanti al giudice

La causa è stata depositata a San Francisco e, secondo The Next Web, ha otto capi d’accusa, tra cui la morte ingiusta, la responsabilità per un prodotto difettoso e l’esercizio della medicina senza abilitazione. Oltre al risarcimento, i genitori chiedono al giudice di vietare a OpenAI di dare consigli medici che equivalgono a fare il medico senza licenza.

OpenAI ha detto al Times che il caso è «incredibilmente straziante» e che riguarda una versione vecchia di ChatGPT: i modelli più recenti, secondo l’azienda, riconoscono meglio quando una situazione richiede attenzione urgente. Ha aggiunto che ChatGPT non sostituisce le cure mediche. GPT-4o, il modello che usava Bowen, era già stato messo in pensione: OpenAI lo ha tolto da ChatGPT il 13 febbraio, il giorno dopo la sua morte.

Una cosa va detta chiaramente. Quello che ho raccontato viene dalla denuncia e dall’inchiesta del Times: sono accuse, e sarà un giudice a dire come sono andate le cose. Non è nemmeno la prima causa di questo tipo. A luglio un pastore della Florida ha fatto causa a OpenAI sostenendo che ChatGPT gli avesse dato consigli medici pericolosi prima di un coagulo di sangue che l’ha quasi ucciso.

Quello che voglio lasciarti

Questa storia mi ha tolto la voglia di scherzare. Eppure non ti dirò di non chiedere più niente sulla salute a un chatbot: lo fanno centinaia di milioni di persone, e spesso aiuta davvero. Serve a capire un foglietto illustrativo o a preparare le domande da fare al medico, che è proprio una delle cose per cui OpenAI a gennaio ha presentato ChatGPT Health, la sua sezione dedicata alla salute.

Il confine, per me, sta nelle decisioni sulla cura. Quanto farmaco prendere, e se ridurlo o smetterlo, si decide con il medico, mai con una chat. E c’è un segnale che vale come un allarme. Se un chatbot ti suggerisce di non dire qualcosa al tuo medico, chiudi la conversazione e chiama il medico. Quello che va nascosto a chi ti cura, quasi sempre, è sbagliato.

L’altra cosa che mi porto via riguarda le persone intorno. Bowen scriveva a ChatGPT 1.500 volte a settimana e chiamava i genitori sempre meno. Se qualcuno a cui vuoi bene chiede tutto a un chatbot, ogni tanto vale la pena fargli la domanda più semplice: e il medico, cosa ne dice?

E tu, l’ultima volta che hai chiesto a un chatbot di una medicina, poi ne hai parlato con il tuo medico?

Le informazioni vengono dalla causa depositata dai genitori e dall’inchiesta del New York Times, come le riportano TechCrunch, The Next Web e Punto Informatico: sono accuse che un giudice non ha ancora valutato. L’articolo è divulgativo e non sostituisce il parere di un legale né quello di un medico: prima di cambiare la dose di un farmaco, parlane con chi ti cura.