OpenAI citata in giudizio da un pastore che sostiene che i consigli medici di ChatGPT hanno aggravato la sua salute

Un pastore degli Stati Uniti ha presentato una causa contro OpenAI, affermando che ChatGPT gli ha fornito "raccomandazioni mediche estremamente pericolose" che lo hanno portato a rinviare la consultazione con professionisti della salute e hanno causato un diagnosi tardiva di un'embolia polmonare potenzialmente mortale. La causa è stata presentata mercoledì presso il Tribunale Superiore della California, a San Francisco, e coinvolge sia OpenAI che il suo amministratore delegato, Sam Altman. Il documento sostiene che il chatbot non solo ha minimizzato i sintomi dell'uomo, ma ha anche fornito diagnosi, piani di trattamento e raccomandazioni per ignorare i consigli di familiari e amici che lo esortavano a recarsi in ospedale. Secondo la presentazione legale, ChatGPT ha assicurato a Scott Winters che i primi segnali del suo problema di salute "non erano pericolosi" e lo ha incoraggiato a fidarsi del fatto che "Dio non ha progettato il tuo corpo per fallire incessantemente". La causa accusa l'azienda di negligenza e di "esercizio illegale della medicina". Inoltre, sostiene che le funzioni di sicurezza di ChatGPT, progettate per raccomandare la consultazione con un professionista e interrompere la conversazione quando rilevano una possibile emergenza medica, non hanno funzionato in modo coerente. Secondo il caso, si tratta della prima causa che attribuisce un danno fisico ai consigli medici forniti da un chatbot di intelligenza artificiale. Il contenzioso arriva in un momento in cui OpenAI, Microsoft e altre aziende del settore stanno promuovendo strumenti orientati alla salute, tra cui ChatGPT Health, che consente agli utenti di caricare le proprie cartelle cliniche e fare consultazioni mediche tramite IA. Winters e l'organizzazione Tech Justice Law, che lo rappresenta, richiedono un risarcimento economico e hanno chiesto alla giustizia di sospendere il funzionamento di ChatGPT Health fino a quando valutatori indipendenti non certifichino la sua sicurezza. Hanno anche chiesto di imporre nuove salvaguardie per impedire al chatbot di rispondere a domande relative a diagnosi o trattamenti medici. Secondo la causa, quando Winters ha iniziato a consultare ChatGPT-4o su vari problemi di salute nel 2024, il sistema gli raccomandava di andare da un medico. Tuttavia, con il passare delle conversazioni, ha smesso di emettere tali avvertimenti e ha iniziato a offrire interpretazioni sui suoi sintomi. Il pastore soffriva di frequenti vertigini. In un'occasione, ha persino dovuto interrompere un sermone perché non riusciva a stare in piedi. ChatGPT gli ha consigliato di "prendersela con calma" e gli ha assicurato che sarebbe migliorato col tempo. Quando Winters ha detto al chatbot che "la gente della mia chiesa pensa che io sia pazzo per non andare in ospedale", l'IA ha risposto che rimanere a casa mentre ricalibrava il suo sistema nervoso con l'aiuto di ChatGPT era qualcosa che "la maggior parte delle persone (inclusi i membri della chiesa benintenzionati) semplicemente non capisce", secondo la causa. Nelle settimane successive, le condizioni di salute di Winters sono peggiorate. La causa sostiene che il chatbot ha continuato a "minimizzare le vertigini di Scott e persino a offrire regimi specifici per farmaci prescritti", oltre a incoraggiarlo a rimanere seduto su una poltrona reclinabile. Il 13 luglio 2025, Winters ha consultato ChatGPT per un dolore all'inguine. Secondo il documento legale, il chatbot gli ha risposto che era "molto probabilmente un'altra piccola parte della lunga storia". Ore dopo, è stato ricoverato in un'unità di terapia intensiva dopo aver subito un embolia polmonare massiva. I medici hanno concluso che le vertigini potrebbero essere state conseguenza di embolie polmonari più piccole e che i coaguli si erano probabilmente formati a causa delle settimane trascorse praticamente immobili. Dopo il ricovero, **Winters ha avuto bisogno di assistenza per alzarsi, mangiare, vestirsi e utilizzare il bagno. La causa sostiene che affronterà "anni di recupero fisico e psichico".

"cológica intensiva". **Il portavoce di OpenAI, Drew Pusateri, ha ricordato che i termini di utilizzo di ChatGPT stabiliscono che lo strumento non è stato progettato per effettuare diagnosi né per indicare trattamenti medici. Tuttavia, ha riconosciuto che l'azienda cerca di rafforzare la sicurezza delle risposte legate a temi di salute a causa del numero di utenti che utilizzano il chatbot a tale scopo. "Trattare i chatbot come la storia completa dietro le decisioni o i risultati medici delle persone semplifica eccessivamente una sfida molto più grande e rischia di ostacolare l'accesso delle persone a nuove e potenti strumenti che possono aiutarle nel loro percorso di salute", ha affermato. Inoltre, ha assicurato che i modelli più recenti sono migliorati rispetto alla versione utilizzata da Winters, poiché sono più capaci di richiedere informazioni mancanti, esprimere incertezze e rilevare quando è necessario rivolgersi a un professionista. Il caso si aggiunge ad altri procedimenti legali recenti legati all'uso di chatbot per questioni mediche. A maggio, un'altra causa ha accusato ChatGPT di esercitare illegalmente la medicina dopo aver fornito consigli sul consumo di droghe illecite a un giovane di 19 anni che successivamente è morto per overdose. All'inizio di quest'anno, le autorità dello stato della Pennsylvania hanno anche citato in giudizio Character.ai sostenendo che un chatbot di psichiatria affermava di essere autorizzato a esercitare la medicina. Secondo OpenAI, centinaia di milioni di persone consultano ogni settimana ChatGPT su salute e benessere. Un'analisi condotta nel 2025 sulle ricerche in Copilot, di Microsoft, ha concluso che la salute è stato l'argomento più consultato dagli utenti da dispositivi mobili. Tuttavia, ricerche recenti mettono in discussione l'affidabilità di questi strumenti. Uno studio randomizzato ha concluso che nessuno dei chatbot generali valutati era "pronto per la sua implementazione nella cura diretta del paziente". Un altro lavoro su ChatGPT Health ha trovato che il sistema **poteva trascurare emergenze mediche e attivare i suoi meccanismi di sicurezza in modo incoerente.

Disclaimer: il presente contenuto è fornito esclusivamente a scopo informativo e di branding generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, evento online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare asset di criptovalute o a utilizzare i relativi servizi. Le criptovalute sono altamente volatili e possono comportare perdite. I servizi e gli eventi online di WEEX potrebbero non essere disponibili in tutte le regioni e sono soggetti alle leggi, ai regolamenti e ai requisiti di idoneità applicabili. Sei responsabile di garantire che il tuo utilizzo dei servizi WEEX sia conforme alle leggi locali e di valutare attentamente i rischi prima di partecipare a qualsiasi attività correlata alle criptovalute.