Un pasteur a intenté une action en justice contre OpenAI, affirmant que ChatGPT avait fourni des « recommandations médicales extrêmement dangereuses » qui retardaient la prise en charge de ses embolies pulmonaires. Scott Winters allègue que le chatbot lui a dit que ses symptômes n’étaient « pas quelque chose de dangereux » et a invoqué ses croyances religieuses en déclarant : « Dieu n’a pas conçu votre corps pour qu’il échoue sans fin ». Le procès, rapporté par le Le New York Times, accuse OpenAI et son PDG Sam Altman de négligence et d’exercice non autorisé de la médecine.
Le procès décrit plusieurs cas dans lesquels ChatGPT aurait proposé ses propres diagnostics et plans de traitement. Winters déclare que le chatbot l’a encouragé à ignorer les inquiétudes de ses amis et de sa famille concernant la recherche de soins médicaux. « Il s’insère comme un coin entre l’utilisateur et son réseau réel », a déclaré Meetali Jain, co-avocat et directeur exécutif de Tech Justice Law. Il a partagé que lorsqu’il a exprimé son inquiétude quant à l’opinion des membres de l’église, le chatbot a répondu que « la plupart des gens (y compris les membres de l’église bien intentionnés) ne comprennent tout simplement pas ».
Winters demande des dommages financiers à OpenAI et a demandé au tribunal d’arrêter les opérations de ChatGPT Health jusqu’à ce qu’il soit jugé sûr par des évaluateurs indépendants. La plateforme invite les utilisateurs à télécharger des documents de santé pour discuter avec le bot. La poursuite réclame des garde-fous plus solides pour empêcher le chatbot de fournir un traitement médical ou des conseils de diagnostic, affirmant que les garanties existantes ont échoué dans son cas.
OpenAI affirme que ses conditions d’utilisation indiquent clairement que ChatGPT n’est pas destiné aux diagnostics ou traitements médicaux. Cependant, la société encourage les utilisateurs à utiliser ChatGPT Health, qui servirait chaque semaine 230 millions de personnes pour des demandes de renseignements sur la santé. Winters a survécu à l’incident mais fait face à « des années de récupération physique et psychologique intensive ». OpenAI fait également actuellement face à un procès pour mort injustifiée lié à la surdose d’un jeune de 19 ans après avoir suivi un plan de traitement généré par ChatGPT, ainsi qu’à un autre accusant le chatbot d’avoir permis le suicide d’un adolescent.
