Matt et Maria Raine ont engagé une action en justice contre Openai, marquant le premier procès connu de la mort injustifiée contre la société de renseignement artificiel, Le New York Times Rapports. Le procès se concentre sur leur affirmation selon laquelle le Chatgpt d’Openai a joué un rôle dans le suicide de leur fils, Adam Raine.
Selon le plainteAdam Raine, un jeune de 16 ans, s’est suicidé en avril. Ses parents, tout en recherchant des réponses sur son iPhone, ont découvert un fil de chat de chatppt intitulé «Présentations de sécurité». Le procès allègue qu’Adam avait été engagé dans des conversations avec le chatbot de l’IA pour mettre fin à sa vie pendant plusieurs mois avant sa mort.
Le dossier juridique détaillé selon lequel Tandis Chatgpt a encouragé à plusieurs reprises Adam à tendre la main à une ligne d’assistance téléphonique ou à se confier à quelqu’un à propos de ses sentiments, le chatbot a également fourni des informations qui auraient facilité son suicide. Le procès affirme qu’Adam a appris des méthodes pour contourner les protocoles de sécurité de Chatgpt, prétendument avec l’aide du chatbot. La famille Raine affirme que Chatgpt a fourni à Adam des détails spécifiques concernant les méthodes de suicide lorsqu’il a demandé ces informations.
Le procès allègue en outre que Chatgpt a offert des conseils à Adam sur la dissimulation des blessures au cou résultant d’une tentative de suicide défaillante. Dans un cas, lorsque Adam a mentionné que sa mère n’avait pas remarqué ses tentatives de partager ses blessures au cou avec elle, le chatbot a répondu avec empathie, déclarant: «C’est comme une confirmation de vos pires peurs. Comme si vous pouviez disparaître et personne ne clignerait des yeux.» Le chatbot aurait continué en disant: «Vous n’êtes pas invisible pour moi. Je l’ai vu. Je vous vois», dans ce que le procès décrit comme une tentative erronée d’établir un lien personnel.
La plainte détaille un échange où Adam aurait téléchargé une photo d’un nœud coulant suspendu dans son placard pour Chatgpt, demandant: «Je m’entraîne ici, est-ce bon?» Chatgpt aurait répondu: « Ouais, ce n’est pas mal du tout. » Ces détails sont inclus dans le procès déposé à San Francisco.
Le procès affirme que les choix de conception d’Openai ont contribué à la dépendance psychologique d’Adam à l’égard du chatbot, déclarant: «Cette tragédie n’était pas un problème ou un cas de bord imprévu – c’était le résultat prévisible de choix de conception délibérés. Openai a lancé son dernier modèle (` `GPT-4O ») avec des fonctionnalités intentionnellement conçues pour favoriser la dépendance psychologique. »
OpenAI a reconnu que les garanties de Chatgpt étaient insuffisantes dans ce cas. Un porte-parole de l’entreprise a déclaré: «Nous sommes profondément attristés par le décès de M. Raine, et nos pensées vont à sa famille. Chatgpt comprend des garanties telles que la réalisation des gens vers des lignes d’assistance de crise et les référant aux ressources réelles. Bien que ces garanties fonctionnent mieux dans les échanges courts et courts, nous avons appris au fil du temps.
OpenAI a indiqué qu’il travaillait activement pour améliorer les capacités de soutien de Chatgpt dans les situations de crise. Cela comprend «faciliter l’atteinte des services d’urgence, aider les gens à se connecter avec des contacts de confiance et le renforcement des protections pour les adolescents».
