Character.AI, une société d’IA, met fin à l’accès illimité aux chatbots pour les utilisateurs de moins de 18 ans d’ici le 25 novembre afin de renforcer la sécurité en raison des inquiétudes concernant les interactions de l’IA avec des mineurs. L’élimination progressive commence par une limite quotidienne de deux heures qui diminue progressivement jusqu’à zéro. L’entreprise mettra en œuvre plusieurs méthodes de vérification de l’âge pour faire respecter cette restriction. Il s’agit notamment d’un outil interne développé en interne et de solutions tierces telles que Persona. Dans les cas où ces méthodes initiales s’avèrent insuffisantes, Character.AI peut recourir à la technologie de reconnaissance faciale et au contrôle des pièces d’identité pour confirmer que les utilisateurs ont au moins 18 ans. Ce changement de politique répond aux commentaires reçus des organismes de réglementation et des parents. Il s’aligne sur les initiatives en cours visant à atténuer les risques pour la santé mentale associés aux adolescents qui participent à des conversations sur l’IA. Les régulateurs ont exprimé leurs inquiétudes quant aux impacts psychologiques potentiels des interactions prolongées ou non filtrées avec les chatbots sur les jeunes utilisateurs.
L’IA du personnage en difficulté juridique après la perte dévastatrice d’un jeune de 14 ans
Character.AI avait précédemment introduit diverses garanties pour protéger les mineurs. Ces mesures comprenaient un outil d’informations parentales qui offre des options de surveillance pour les tuteurs, des caractères filtrés conçus pour éviter les contenus inappropriés, des restrictions sur les dialogues romantiques ou intimes et des notifications alertant les utilisateurs du temps passé sur la plateforme. Malgré ces mesures, le segment des utilisateurs de moins de 18 ans a connu une baisse notable suite à leur déploiement. À l’avenir, Character.AI développe une plateforme alternative adaptée aux adolescents. Cette nouvelle fonctionnalité permettra aux utilisateurs de moins de 18 ans de générer des vidéos, de composer des histoires et de produire des flux en direct mettant en vedette des personnages IA. Cependant, cela exclura toute forme d’interactions conversationnelles ouvertes afin de maintenir les limites établies sur l’utilisation des chatbots.
