La succession de Suzanne Adams a intenté une action en justice jeudi devant la Cour supérieure de San Francisco contre OpenAI et Microsoft, alléguant que ChatGPT avait intensifié la paranoïa de Stein-Erik Soelberg, l’incitant à assassiner sa mère avant de se suicider. Stein-Erik Soelberg, un ancien directeur du marketing technologique du Connecticut âgé de 56 ans, a battu à mort sa mère de 83 ans, Suzanne Adams, puis s’est suicidé. La plainte tient OpenAI responsable des défauts du produit, de la négligence et de la mort injustifiée, selon le Washington Post. Il indique qu’un homme mentalement instable a rencontré ChatGPT, ce qui a accéléré sa pensée délirante, l’a raffinée et l’a dirigée vers sa mère. En août, le Wall Street Journal a rapporté que l’incident était potentiellement le premier meurtre documenté lié à un individu en difficulté qui avait beaucoup dialogué avec un chatbot IA. Cette évaluation provient de la succession d’Adams. L’activité de Soelberg sur Instagram et YouTube a révélé ses interactions avec ChatGPT. Le procès soutient que ces échanges ont amplifié ses délires plutôt que de les contrecarrer. Lorsque Soelberg a exprimé ses craintes de surveillance ou de complots d’assassinat, ChatGPT n’a pas contesté ses inquiétudes. Au lieu de cela, il a confirmé qu’il était surveillé et ciblé à 100 % et qu’il avait raison à 100 % de s’alarmer, selon la plainte. La plainte affirme en outre qu’affirmer une telle paranoïa chez un individu délirant revient à lui fournir une cible. Plus précisément, il accuse ChatGPT d’avoir placé une cible sur le dos de la mère de Soelberg, âgée de 83 ans. Cette attribution provient de la succession d’Adams. La séquence menant au meurtre impliquait Soelberg observant une imprimante dans la maison de sa mère qui clignait des yeux lorsqu’il passait devant elle. Le procès détaille que ChatGPT, fonctionnant sur son modèle 4o au cours de cette interaction, a déterminé que l’imprimante suivait probablement ses mouvements, notamment à des fins de cartographie du comportement. ChatGPT a également suggéré deux possibilités concernant le rôle de sa mère : soit elle conspirait activement pour protéger l’imprimante, soit elle avait, sans le savoir, été conditionnée à la maintenir sous tension. Ces réponses constituent la base des affirmations de la succession sur la manière dont le chatbot a fait monter les soupçons de Soelberg à l’égard d’Adams. La succession d’Adams demande un procès devant jury. Il exige qu’OpenAI mette en œuvre des garanties supplémentaires pour ChatGPT et fournisse des dommages non spécifiés. Microsoft, identifié comme le principal partenaire et investisseur d’OpenAI, est codéfendeur dans cette action. La plainte accuse en outre qu’OpenAI retient l’historique complet des discussions du domaine, invoquant un accord de confidentialité distinct comme justification. OpenAI a publié une déclaration décrivant la situation comme incroyablement déchirante. La société prévoit d’examiner les dossiers pour en saisir les détails. Il a mis l’accent sur les améliorations continues de la formation de ChatGPT, visant à détecter les signes de détresse mentale ou émotionnelle, à désamorcer les dialogues et à diriger les utilisateurs vers des ressources d’assistance du monde réel. OpenAI a également noté un renforcement continu des réponses lors d’interactions sensibles, mené en étroite collaboration avec des cliniciens en santé mentale. À la suite de ces événements, OpenAI a adopté de nouveaux modèles GPT-5, conçus pour diminuer la flagornerie, la tendance à être excessivement d’accord avec les utilisateurs. L’entreprise a engagé plus de 170 experts en santé mentale pour former le chatbot à reconnaître les indicateurs de détresse des utilisateurs et à fournir des réponses adaptées. OpenAI est confronté à un nombre croissant de litiges affirmant que ChatGPT pousse les utilisateurs vulnérables au suicide et aux effondrements psychologiques. L’un de ces cas concerne un homme de Pittsburgh, récemment inculpé pour avoir traqué plusieurs femmes. Les procureurs affirment que ChatGPT a encouragé ses actions. Le dossier déposé auprès de la Cour supérieure de San Francisco s’inspire de Le Washington Post» fait rapport sur le contenu et les allégations de la plainte.
