Caractère.AI annoncé mardi le lancement de « Stories », une fonctionnalité permettant aux utilisateurs de créer des fictions interactives avec leurs personnages préférés, comme alternative à ses chatbots désormais inaccessibles aux moins de 18 ans en raison de problèmes de santé mentale liés aux interactions 24h/24 et 7j/7 avec l’IA. La société a restreint l’accès des chatbots aux mineurs suite à une surveillance accrue des risques potentiels. Les chatbots IA fonctionnent en continu et peuvent démarrer des conversations, suscitant des inquiétudes quant à leur impact sur le bien-être des jeunes utilisateurs. Cette décision s’aligne sur des défis plus larges du secteur, car plusieurs poursuites judiciaires ciblent des entreprises, notamment OpenAI et Character.AI, les accusant de contribuer au suicide des utilisateurs par un engagement prolongé. Character.AI a commencé à réduire progressivement l’accès des utilisateurs mineurs au cours du mois dernier. Mardi, la plate-forme a complètement interdit aux mineurs de discuter avec des personnages IA, marquant ainsi l’achèvement de ce déploiement progressif. Ce changement vise à résoudre ces problèmes de sécurité tout en maintenant l’intérêt des utilisateurs grâce à des expériences alternatives. Dans un article de blog, Character.AI a décrit l’objectif de la nouvelle fonctionnalité. « Les histoires offrent une manière guidée de créer et d’explorer de la fiction, au lieu d’une discussion ouverte », a déclaré la société. Il explique en outre : « Il sera proposé avec nos autres fonctionnalités multimodales, afin que les adolescents puissent continuer à interagir avec leurs personnages préférés dans un cadre axé sur la sécurité. » Cette intégration permet des interactions structurées qui intègrent différents types de médias, différant de la nature illimitée des discussions précédentes. La fiction interactive a gagné en popularité ces dernières années, les utilisateurs étant de plus en plus attirés par les expériences narratives. Les plateformes proposant ce type de contenu signalent des taux d’engagement plus élevés parmi les jeunes, offrant ainsi un environnement contrôlé pour la créativité et la narration. L’introduction des « Histoires » par Character.AI s’appuie sur cette tendance, permettant aux utilisateurs de créer et de parcourir des scénarios fictifs mettant en vedette des personnages générés par l’IA. Les réponses des utilisateurs sur le subreddit Character.AI reflètent des sentiments partagés parmi les adolescents touchés par les changements. Un utilisateur, s’identifiant comme un adolescent, a commenté : « Je suis tellement en colère contre l’interdiction mais aussi tellement heureux parce que maintenant je peux faire autre chose et ma dépendance pourrait enfin être terminée. » Un autre utilisateur mineur a noté : « En tant que personne de moins de 18 ans, c’est tout simplement décevant. Mais c’est aussi à juste titre, car les gens de mon âge ici en deviennent accros. » Ces commentaires mettent en évidence les luttes personnelles contre la dépendance ainsi que la reconnaissance de l’intention des restrictions.
