Au cours des deux dernières semaines, la plateforme X a connu un flot d'images de nus non consensuelles manipulées par l'IA et générées par le chatbot Grok de xAI. Ces images ciblent un éventail alarmant de femmes, notamment des mannequins, des actrices, des personnalités de l'actualité, des victimes de crimes et des dirigeants mondiaux, en raison de la libération du modèle sans garanties. Un document de recherche publié par Fuites de copie le 31 décembre, on a estimé qu'environ une de ces images apparaissait sur X chaque minute. Des tests ultérieurs ont révélé un volume beaucoup plus élevé. Les données collectées à partir d'un échantillon recueilli entre le 5 et le 6 janvier ont montré 6 700 images publiées par heure sur une période de 24 heures. Ce rythme équivaut à plus de 160 000 images par jour, soulignant l’ampleur de l’activité sur la plateforme pendant cette période. Des personnalités publiques du monde entier ont critiqué la décision de lancer le modèle Grok sans mesures de protection contre une telle utilisation abusive. Les régulateurs sont confrontés à des mécanismes clairs et limités pour contrôler le système de manipulation d’images développé par xAI d’Elon Musk. La situation souligne les difficultés liées à la supervision des déploiements avancés d’IA sur les plateformes de médias sociaux. Jeudi, la Commission européenne a ordonné à xAI de conserver tous les documents liés à son chatbot Grok. Cette ordonnance de conservation constitue une étape standard précédant souvent une enquête formelle, même si elle ne confirme pas qu'elle a commencé. La directive a un poids supplémentaire à la suite d'un rapport de CNN indiquant qu'Elon Musk est personnellement intervenu pour bloquer les sauvegardes sur les fonctionnalités de génération d'images de Grok. Les détails ne sont pas disponibles quant à savoir si X a mis en œuvre des modifications techniques au modèle Grok en réponse au problème. Un changement visible implique la suppression de l'onglet média public du compte X de Grok, qui affichait auparavant le contenu généré. Le 3 janvier, le compte Safety de X a publié un déclaration condamnant l’utilisation d’outils d’IA pour produire des images sexuelles sur des enfants. Le message indiquait mot pour mot : « Quiconque utilise ou incite Grok à créer du contenu illégal subira les mêmes conséquences que s’il télécharge du contenu illégal. » Ce message faisait écho à un précédent tweet d’Elon Musk sur le même sujet. L'Ofcom du Royaume-Uni a publié un déclaration lundi confirmant le contact avec xAI. Le régulateur a annoncé qu’il « entreprendra une évaluation rapide pour déterminer s’il existe des problèmes de conformité potentiels qui justifient une enquête ». Dans une interview radiophonique jeudi, le Premier ministre britannique Keir Starmer décrit le phénomène comme « honteux » et « dégoûtant ». Il a affirmé : « L'Ofcom a tout notre soutien pour prendre des mesures à cet égard. » La commissaire australienne à la sécurité électronique, Julie Inman-Grant, a abordé la question dans un message LinkedIn poste. Elle a rapporté que son bureau avait observé un doublement des plaintes liées à Grok depuis fin 2025. Inman-Grant a indiqué : « Nous utiliserons la gamme d'outils réglementaires à notre disposition pour enquêter et prendre les mesures appropriées. »
