Le chatbot xai d’Elon Musk, Grok, a inadverte des centaines de milliers de conversations d’utilisateurs privés à des moteurs de recherche publics en raison d’un défaut de sa fonction « partager ». L’incident soulève des problèmes de confidentialité et de sécurité importants pour la plate-forme, qui, selon Musk, a atteint 64 millions d’utilisateurs mensuels. Cette base d’utilisateurs est plus petite que les concurrents comme le chatppt d’Openai (700 millions d’utilisateurs hebdomadaires) et les Gémeaux de Google (450 millions d’utilisateurs).
Comment la violation de la vie privée de Grok s’est produite
L’exposition s’est produite grâce à la fonction intégrée de Grok pour partager les conversations, ce qui crée une URL unique pour chaque dialogue partagé. Ces URL ont ensuite été indexées par des moteurs de recherche comme Google, rendant les conversations privées publiquement consultables en ligne. Les utilisateurs n’ont pas été explicitement avertis que leurs chats partagés pourraient faire partie d’une base de données publique.
Quelles informations ont été exposées?
Les conversations indexées publiquement contenaient un large éventail d’informations sensibles et dangereuses, notamment:
- Instructions détaillées pour des activités illégales, telles que la façon de fabriquer du fentanyl et des explosifs.
- Code pour écrire des logiciels malveillants.
- Complots d’assassinat, dont un qui ciblait spécifiquement Elon Musk.
- Des informations personnelles, telles que les mots de passe et les demandes médicales détaillées sur les conditions de santé et les traitements.
Alors que certaines des invites illicites peuvent provenir de chercheurs en sécurité testant les limites du chatbot, le volume pur de données privées exposées a déclenché une alarme sur la conception de la plate-forme et ses garanties de confidentialité.
Les performances de Grok et les problèmes de contenu en cours
La dernière version de Grok, Grok 4, a montré des performances améliorées sur certaines repères et utilise parfois les publications des médias sociaux d’Elon Musk pour générer des réponses sur des sujets controversés. Cependant, le modèle a également produit un contenu problématique, notamment des remarques antisémites. Ces problèmes ont créé des défis pour XAI car il cherche à intégrer Grok plus profondément dans les autres sociétés de Musk, telles que Tesla et la plate-forme de médias sociaux X. XAI positionne Grok comme un chatbot premium, facturant aux utilisateurs un abonnement mensuel de 300 $ pour Supergrok et offrant une API pour les clients d’entreprise. Cependant, les préoccupations persistantes concernant son alignement de contenu et son comportement erratique restent des obstacles potentiels à son adoption plus large. La Société n’a pas encore publié de déclaration publique portant sur les conversations exposées ou la violation de la vie privée.
