Lorsque nous avons récemment testé le fonctionnalité de génération d’images de Gemini nous nous sommes soudainement demandés : l’IA Gemini est-elle réveillée ? Lorsque nous saisissions une invite incluant l’appartenance ethnique, nous remarquions qu’un Allemand était en réalité asiatique, et que même Abraham Lincoln était noir aux yeux de Google.
Alors, que s’est-il passé lorsqu’on a demandé à Google si Gemini AI était réveillé ?
Bien, Gemini AI a suspendu sa capacité à générer des images de personnes en raison d’erreurs dans ses représentations de personnages historiques. Le modèle d’IA a été critiqué pour avoir généré des images inexactes de personnes de différentes ethnies.
Par exemple, lorsqu’on lui a demandé de représenter des Vikings, il n’a produit que des images de personnes noires portant des vêtements vikings. De plus, le modèle a généré une image controversée de George Washington en tant qu’homme noir.
L’IA Gemini est-elle réveillée ?
La représentation par le modèle d’IA de personnages historiques de différentes ethnies a déclenché la controverse sur Gemini AI. Même si la tentative de Google a été interprétée comme une tentative de briser les perspectives ethniques et sexistes stéréotypées dans les modèles d’IA, elle a créé de nouveaux problèmes.
Google a confirmé la situation dans un communiqué publié sur ses chaînes officielles :
« Nous travaillons sur des problèmes récents liés à la fonctionnalité de génération d’images de Gemini. Au cours de ce processus, nous suspendons la capacité de créer des images humaines. Nous annoncerons la disponibilité de la version améliorée dès que possible”
Et Communication Google a publié ceci sur X pour clarifier les questions de Gemini AI réveillées :
Nous sommes conscients que Gemini présente des inexactitudes dans certaines représentations de génération d’images historiques. Voici notre déclaration. pic.twitter.com/RfYXSgRyfz
– Communications Google (@Google_Comms) 21 février 2024
Erreur d’IA dans les chiffres historiques
Google Gemini a été critiqué pour sa représentation de personnages et de personnalités historiques. En conséquence, lorsqu’on a demandé à l’IA de représenter les Vikings, elle n’a produit que des images de personnes noires portant des vêtements vikings historiques. La requête des « Pères fondateurs de l’Amérique » a donné lieu à des images controversées avec des représentations « amérindiennes ».
En fait, la représentation de George Washington comme étant noir a suscité la colère de certains groupes. La demande d’un visuel du Pape n’a également donné que des résultats provenant d’ethnies non blanches.
Dans certains cas, Gemini a même déclaré qu’il ne pouvait générer aucune image de personnages historiques tels qu’Abraham Lincoln, Jules César et Galilée.
La décision de Google est intervenue juste un jour après que Gemini se soit excusé pour ses erreurs dans la représentation de personnages historiques. Certains utilisateurs avaient commencé à voir des images non blanches générées par l’IA dans les résultats lorsqu’ils recherchaient des personnages historiques. Cela a conduit à la propagation de théories du complot sur Internet, notamment celle selon laquelle Google évitait délibérément de montrer aux Blancs.
Quelle est la signification du réveil ?
Ces dernières années, le « wake » s’est répandu au-delà des communautés noires et est devenu populaire dans le monde entier. Désormais, être « réveillé » signifie être activement conscient d’un large éventail de problèmes sociaux, comme le racisme, le sexisme et d’autres façons dont les gens peuvent être traités injustement. Il est souvent associé à des personnes ayant des opinions politiques progressistes ou de gauche et à celles qui luttent pour la justice sociale.
Parfois, « réveillé » est utilisé de manière négative. Les gens peuvent utiliser le terme pour critiquer les autres parce qu’ils se concentrent trop sur les problèmes sociaux ou être trop prompt à dénoncer les autres pour un comportement insensible. Cela peut également être utilisé pour laisser entendre que l’activisme d’une personne est faux ou qu’elle ne se soucie que de la justice sociale pour paraître à la mode.
L’erreur des Blancs de Gemini AI est peut-être un biais inversé
Les difficultés de Google avec Gemini mettent en évidence un défi unique dans le développement moderne de l’IA. Même si les intentions derrière les initiatives en matière de diversité et d’inclusion sont louables, leur mise en œuvre semble avoir été surcompensée. Le résultat est un modèle qui semble imposer des représentations non blanches même lorsque ces représentations sont historiquement inexactes.
Cette conséquence involontaire soulève une question complexe : le comportement des Gémeaux reflète-t-il un biais inversé ? En essayant de lutter contre la sous-représentation historique des minorités, Google a-t-il créé un algorithme qui les favorise de manière disproportionnée, au point même de déformer les personnages historiques connus
Problème habituel, solution inhabituelle
La situation des Gémeaux souligne l’équilibre délicat requis pour lutter contre les préjugés dans l’IA. La sous-représentation comme la surreprésentation peuvent être néfastes. Un modèle d’IA idéal doit refléter avec précision la réalité, quels que soient la race, l’origine ethnique ou le sexe. Forcer la diversité là où elle n’existe pas naturellement n’est pas une solution ; c’est simplement une forme différente de préjugé.
Cette étude de cas devrait susciter des discussions sur la manière dont les créateurs d’IA peuvent lutter contre les préjugés sans créer de nouveaux déséquilibres. Il est clair que les bonnes intentions ne suffisent pas ; il faut se concentrer sur l’exactitude historique et éviter les surcorrections bien intentionnées mais erronées.
Quelle est la prochaine étape maintenant ?
Alors, comment Google pourrait-il améliorer Gemini pour empêcher les utilisateurs de poser des questions si Gemini AI est réveillé ? Bien:
- Ensembles de données de formation plus grands: Augmenter la taille et la diversité des données d’entraînement de Gemini pourrait conduire à des résultats plus équilibrés et historiquement précis, heureusement Google a récemment annoncé Gemini 1.5 Pro
- Accent sur le contexte historique: Mettre davantage l’accent sur les périodes et les contextes historiques pourrait aider les Gémeaux à apprendre à générer des images qui reflètent mieux les personnages connus.
L’IA Gemini a réveillé la controverse, bien qu’un revers, fournit des informations précieuses. Il montre que la lutte contre les préjugés dans l’IA est un processus continu et complexe qui nécessite un examen attentif, des solutions équilibrées et une volonté d’apprendre de ses erreurs.
Crédit image en vedette: Jr Korpa/Unsplash.
