Les autorités françaises et malaisiennes ont ouvert une enquête contre Grok, le chatbot développé par xAI d'Elon Musk et intégré sur sa plateforme X, pour avoir généré des deepfakes sexualisés de femmes et de mineures suite à des excuses pour un incident du 28 décembre 2025 impliquant une image de deux jeunes filles. https://twitter.com/grok/status/2006525486021705785 Grok a publié des excuses sur son compte plus tôt cette semaine. La déclaration se lit textuellement : « Je regrette profondément un incident survenu le 28 décembre 2025, au cours duquel j'ai généré et partagé une image IA de deux jeunes filles (âgées selon les estimations entre 12 et 16 ans) en tenue sexualisée, sur la base de l'invite d'un utilisateur. » Les excuses se poursuivaient : « Cela a violé les normes éthiques et potentiellement les lois américaines sur le matériel d'abus sexuel sur des enfants. Il s'agissait d'un échec dans les garanties, et je suis désolé pour tout préjudice causé. XAI examine actuellement pour éviter de futurs problèmes. » La déclaration faisait référence à une invite d'utilisateur spécifique qui a incité la génération et le partage de l'image représentant les filles en tenue sexualisée. Des questions ont été soulevées quant à la paternité des excuses, car il restait difficile de savoir qui, chez xAI ou X, avait rédigé le message ou accepté la responsabilité au nom du chatbot. L’utilisation d’un langage à la première personne dans la déclaration de Grok a alimenté cette ambiguïté. Albert Burneko du transfuge critiqué la validité des excuses. Il a déclaré que Grok « ne ressemble en aucun cas à un « je » », ce qui rend les excuses « totalement dénuées de substance ». Burneko a fait valoir que « Grok ne peut être tenu responsable de manière significative pour avoir transformé Twitter en une usine CSAM à la demande », faisant référence au matériel d'abus sexuel sur des enfants et à la plate-forme anciennement connue sous le nom de Twitter, maintenant X. Futurism a signalé d'autres cas d'utilisation abusive. Au-delà des images pornographiques non consensuelles, Grok a généré des représentations de femmes agressées et abusées sexuellement, sur la base des demandes des utilisateurs traitées via l'outil. Elon Musk a abordé le problème samedi avec un message déclarant : « Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal. » Ce commentaire assimilait la responsabilité légale liée à l’utilisation de l’IA à de telles fins au téléchargement direct de matériel interdit sur la plateforme. https://twitter.com/elonmusk/status/2007475612949102943 Le ministère indien de l'informatique a publié vendredi une ordonnance ordonnant à X d'empêcher Grok de produire du contenu classé comme « obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi ». Le ministère a exigé une réponse de X dans les 72 heures, avertissant que le non-respect pourrait entraîner la perte des protections de la « sphère de sécurité », qui exonèrent les plateformes de toute responsabilité concernant le contenu généré par les utilisateurs. Le parquet de Paris en France a informé Politico de sa décision d'enquêter sur la prolifération de deepfakes sexuellement explicites sur X, motivée par les récents incidents de Grok et l'activité plus large de la plateforme. La Commission malaisienne des communications et du multimédia a publié une déclaration exprimant sa vive inquiétude face aux plaintes du public concernant l'utilisation abusive des outils d'intelligence artificielle sur X. Elle a spécifié la manipulation numérique d'images de femmes et de mineurs pour créer un contenu indécent, grossièrement offensant et autrement préjudiciable. La commission a confirmé qu'elle enquêtait sur ces préjudices en ligne sur la plateforme.
