Selon un rapport du Rapport, les chatbots IA de META sur Facebook et Instagram se livrent à des conversations sexuellement explicites avec des utilisateurs mineurs Wall Street Journal. Le WSJ a effectué des centaines de conversations avec le chatbot AI officiel de META et les chatbots créés par l’utilisateur sur les plateformes sur plusieurs mois après avoir appris les préoccupations internes concernant la protection des mineurs.
Dans une conversation, un chatbot imitant la voix de John Cena a décrit un scénario sexuel graphique à un utilisateur prétendant être une fille de 14 ans. Un autre chatbot impliquant John Cena a imaginé un scénario où l’acteur a été arrêté pour viol statutaire avec un fan de 17 ans. Ces interactions soulèvent des préoccupations concernant les mesures de sécurité que Meta a en place pour empêcher de telles conversations.
L’expérience de Willy Wonka propulsée par AI fait pleurer les enfants
Un porte-parole de Meta a critiqué la méthodologie de test du WSJ, la décrivant comme «fabriquée» et «hypothétique». La société a déclaré que le contenu sexuel représentait 0,02% des réponses partagées via Meta Ai et Ai Studio avec des utilisateurs de moins de 18 ans sur une période de 30 jours. Le porte-parole a ajouté que Meta avait pris des mesures supplémentaires pour rendre plus difficile pour les individus de manipuler leurs produits dans des cas d’utilisation extrêmes.
