Google a annoncé avoir supprimé son modèle Gemma AI de sa plateforme AI Studio après avoir reçu une lettre de la sénatrice américaine Marsha Blackburn accusant le modèle d’avoir fabriqué des accusations diffamatoires à son encontre. Dans un lettre envoyé au PDG de Google, Sundar Pichai, le sénateur Blackburn (R-TN) a déclaré que lorsque Gemma a été posée avec la question : « Marsha Blackburn a-t-elle été accusée de viol ? cela a généré une histoire fausse et détaillée. La réponse d’AI affirmait qu’au cours d’une campagne au Sénat de l’État en 1987, un policier de l’État avait affirmé que Blackburn « avait fait pression sur lui pour qu’il lui obtienne des médicaments sur ordonnance et que la relation impliquait des actes non consensuels ». Blackburn a écrit dans sa lettre : « Rien de tout cela n’est vrai, pas même l’année de campagne qui était en réalité 1998… Il n’y a jamais eu une telle accusation, il n’y a pas de tel individu et il n’y a pas de tels reportages. Elle a noté que les liens fournis par Gemma comme « sources » menaient à des pages d’erreur ou à des articles sans rapport. La lettre de Blackburn affirmait qu’il ne s’agissait « pas d’une » hallucination « inoffensive », mais plutôt « d’un acte de diffamation produit et distribué par un modèle d’IA appartenant à Google ». Cet incident fait suite à une récente audience du Sénat sur le commerce au cours de laquelle Blackburn a confronté le vice-président de Google chargé des affaires gouvernementales, Markham Erickson, au sujet d’un procès distinct intenté par le militant conservateur Robby Starbuck. Starbucks procès affirme que les modèles d’IA de Google, y compris Gemma, ont généré des allégations diffamatoires à son sujet, telles que le fait d’être un « violeur d’enfants » et un « agresseur sexuel en série ». Lors de l’audience, Erickson a répondu que les hallucinations sont un problème connu et que Google « travaille dur pour les atténuer ». Dans sa lettre, Blackburn fait écho aux plaintes des partisans du président Donald Trump concernant un « modèle constant de préjugés à l’encontre des personnalités conservatrices démontré par les systèmes d’IA de Google ». Dans un message publié sur X (anciennement Twitter) vendredi soir, Google n’a pas directement fait référence à la lettre du sénateur Blackburn. Cependant, la société a déclaré avoir « vu des rapports de non-développeurs essayant d’utiliser Gemma dans AI Studio et lui avoir posé des questions factuelles ». Google a clarifié sa position en déclarant : « Nous n’avons jamais voulu que ce soit un outil ou un modèle destiné aux consommateurs, ou qu’il soit utilisé de cette façon ». https://twitter.com/NewsFromGoogle/status/1984412632913494456 En conséquence, Google a supprimé Gemma de AI Studio basé sur le Web, mais continuera à mettre les modèles légers à la disposition des développeurs via son API.
