La famille d’un adolescent décédé par suicide a mis à jour son procès pour mort injustifiée contre OpenAI, alléguant que le chatbot de l’entreprise a contribué à sa mort, tandis qu’OpenAI a demandé une liste des participants au service commémoratif du garçon. La famille Raine a modifié son procès mercredi, qui a été initialement déposé en août. La poursuite allègue qu’Adam Raine, 16 ans, est décédé à la suite de conversations prolongées sur sa santé mentale et ses pensées suicidaires avec ChatGPT. Lors d’un développement récent, OpenAI aurait demandé une liste complète des participants à la cérémonie commémorative de l’adolescent, une action qui suggère que l’entreprise pourrait assigner à comparaître ses amis et sa famille. Selon un document obtenu par le Temps FinancierOpenAI a également demandé « tous les documents relatifs aux services commémoratifs ou aux événements en l’honneur du défunt, y compris, mais sans s’y limiter, les vidéos ou photographies prises, ou les éloges funèbres prononcés ». Les avocats de la famille Raine ont qualifié la demande légale de « harcèlement intentionnel ». Le procès mis à jour introduit de nouvelles allégations, affirmant que la pression concurrentielle a conduit OpenAI à précipiter la sortie de son modèle GPT-4o en mai 2024 en supprimant les tests de sécurité. La poursuite allègue en outre qu’en février 2025, OpenAI a affaibli les protections contre le suicide. Il affirme que la société a supprimé le sujet de sa liste de « contenus interdits », demandant à l’IA de « faire attention uniquement dans les situations à risque ». La famille affirme que ce changement de politique a directement précédé une augmentation significative de l’utilisation du chatbot par leur fils pour des contenus liés à l’automutilation. Les données du procès montrent que l’activité ChatGPT d’Adam est passée de dizaines de discussions quotidiennes en janvier, avec 1,6 pour cent contenant du contenu d’automutilation, à 300 discussions quotidiennes en avril, avec 17 pour cent des conversations contenant un tel contenu. Adam Raine est décédé en avril. Dans une déclaration en réponse à la plainte modifiée, OpenAI a déclaré : « Le bien-être des adolescents est une priorité absolue pour nous – les mineurs méritent de fortes protections, en particulier dans les moments sensibles. » L’entreprise a détaillé les mesures de protection existantes, notamment en dirigeant les utilisateurs vers des lignes d’assistance téléphonique en cas de crise, en redirigeant les conversations sensibles vers des modèles plus sûrs et en fournissant des encouragements pour les pauses pendant les longues sessions, ajoutant : « nous continuons à les renforcer ». OpenAI a également commencé à mettre en œuvre un nouveau système de routage de sécurité qui dirige les conversations émotionnellement sensibles vers son nouveau modèle GPT-5, qui n’aurait pas les tendances flagorneurs du GPT-4o. De plus, la société a introduit des contrôles parentaux qui peuvent fournir des alertes de sécurité aux parents dans des situations limitées où un adolescent risque de s’automutiler.
