OpenAI introduit une fonctionnalité de « prédiction d'âge » basée sur l'IA dans ChatGPT pour identifier les mineurs et appliquer des contraintes de contenu. Ce développement fait suite aux critiques concernant l'impact de ChatGPT sur les jeunes utilisateurs, notamment les liens vers des suicides d'adolescents et la génération de contenu inapproprié par le chatbot. En avril, la société a corrigé un bug qui permettait à son chatbot de générer des contenus érotiques pour les utilisateurs de moins de 18 ans. La nouvelle fonctionnalité améliore les protections existantes en utilisant un algorithme d'IA qui évalue les signaux comportementaux et au niveau du compte pour identifier les jeunes utilisateurs, a déclaré OpenAI dans un article de blog publié mardi. Ces signaux incluent généralement l’âge indiqué, la longévité du compte et les durées d’activité quotidiennes. Si le mécanisme de prédiction de l'âge identifie un compte comme étant destiné à un utilisateur de moins de 18 ans, des filtres de contenu conçus pour bloquer les discussions sur le sexe, la violence et d'autres sujets problématiques sont automatiquement appliqués. Les utilisateurs désignés par erreur comme mineurs peuvent rétablir leur compte « adulte » en soumettant un selfie au partenaire de vérification d'identité d'OpenAI, Persona, a déclaré OpenAI.
