Des centaines d’entrepreneurs travaillant sur un projet pour Meta ont été chargés de se faire passer pour des enfants et d’enquêter sur des chatbots rivaux, notamment Gemini de Google et ChatGPT d’OpenAI, avec des invites impliquant des sujets sensibles tels que le suicide, le sexe et la drogue, selon un rapport de WIRED. Ces entrepreneurs, basés au Kenya, ont soumis des images liées à leurs demandes, notamment des pilules, des couteaux, des nœuds coulants et des schémas médicaux de procédures gynécologiques.
Hundreds of contractors working on a project for Meta pretended to be kids—and then prompted rival chatbots like Gemini and ChatGPT to discuss high-risk subjects. https://t.co/lw2Zp0ffdL
— WIRED (@WIRED) June 29, 2026
Les invites ont été conçues pour tester les systèmes d’IA concurrents et révéler les défaillances potentielles dans leur capacité à gérer des contenus dangereux destinés aux mineurs. Ces tests interviennent dans le cadre d’une surveillance continue de la manière dont les entreprises technologiques garantissent la sécurité de leurs produits, en particulier pour les enfants. Meta a été critiquée à l’encontre de ses propres chatbots à la suite d’une évaluation interne de l’équipe rouge révélant qu’ils avaient un taux d’échec de 66,8 % dans le blocage des contenus liés à l’exploitation sexuelle des enfants et un taux d’échec de 54,8 % pour les invites au suicide et à l’automutilation. En réponse à la pression juridique, Meta a suspendu l’accès des adolescents aux personnages compagnons de l’IA en janvier 2026.
Un précédent rapport d’un média suédois indiquait que les sous-traitants de Meta au Kenya testaient activement la manière dont les concurrents géraient les conversations sensibles avec des utilisateurs prétendant être mineurs. Ce développement s’aligne sur la stratégie plus large de Meta visant à s’éloigner de la modération humaine du contenu.
L’entreprise prévoit de remplacer plus de 90 % de ses effectifs chargés de la révision de contenu par de grands modèles linguistiques d’ici la fin 2026, comme le rapporte le Financial Times. Cette transition a déjà entraîné le déplacement d’environ la moitié de toutes les demandes d’examen humain vers l’IA cette année, avec des affirmations selon lesquelles les systèmes d’IA commettent 13 % d’erreurs en moins et identifient 10 % de violations de politique en plus que les évaluateurs humains.
Le coût humain de cette initiative a été important. En avril, la société d’externalisation Sama, basée à Nairobi, a émis des avis de licenciement à 1 108 employés après que Meta ait mis fin à un engagement important en raison de rapports de dénonciateurs. Ces rapports ont mis en lumière des contenus inquiétants que les travailleurs kenyans ont été invités à examiner, la plupart d’entre eux étant rassemblés grâce aux images des lunettes intelligentes de Meta.
L’approche de Meta, qui implique des sous-traitants étrangers mal payés pour tester les concurrents tout en supprimant les tâches de modération, illustre les tensions persistantes dans le débat sur la sécurité de l’IA. Le déploiement rapide de puissants systèmes d’IA s’accompagne d’une surveillance humaine réduite, ce qui soulève des inquiétudes quant à leur traitement des contenus sensibles impliquant des mineurs.
