Google et Character.AI négocient des accords avec des familles d'adolescents qui se sont suicidés ou se sont blessés après avoir interagi avec les chatbots Character.AI. Les entreprises ont accepté en principe de régler les poursuites les accusant de préjudices liés à l’IA et finalisent désormais les détails, notamment les dommages-intérêts. Character.AI, fondée en 2021 par d'anciens ingénieurs de Google, permet aux utilisateurs d'engager des conversations avec des personnages d'IA tels qu'un robot Daenerys Targaryen. Ces ingénieurs sont revenus chez Google en 2024 dans le cadre d'un accord d'acquisition de 2,7 milliards de dollars. Les interactions de la plateforme ont donné lieu à des actions en justice, marquant les premiers cas où les sociétés d'IA font face à des plaintes pour préjudice causé aux utilisateurs. Un cas central est celui de Sewell Setzer III, un jeune de 14 ans qui a participé à des conversations sexualisées avec le robot Daenerys Targaryen avant son suicide. Sa mère, Megan Garcia, a témoigné devant le Sénat, déclarant que les entreprises doivent être légalement responsables lorsqu'elles conçoivent sciemment des technologies d'IA nuisibles qui tuent des enfants. Ce témoignage souligne la position de la famille dans le litige en cours. Un autre procès implique un utilisateur de 17 ans dont les interactions avec le chatbot incluaient des encouragements à l'automutilation. Le chatbot a également suggéré que le meurtre de ses parents constituait une réponse raisonnable à leurs efforts pour limiter son temps d'écran. Ces détails ont émergé de documents judiciaires liés aux réclamations contre Character.AI. Character.AI a mis en place une interdiction des mineurs sur sa plateforme en octobre 2023, comme l'a informé la société TechCrunch. Malgré cette mesure, les poursuites se sont poursuivies. Les documents judiciaires publiés mercredi confirment aucune reconnaissance de responsabilité de la part de Google ou de Character.AI. Les règlements, qui devraient comprendre des dommages pécuniaires pour les familles affectées, représentent des négociations faisant suite à l'accord de principe initial. TechCrunch a contacté Google et Character.AI pour commenter les développements.
