Meta, la société derrière Instagram, est critiquée pour ses outils d’image d’IA en raison de préoccupations quant à la façon dont ils représentent les différentes races. Des rapports récents d’experts en technologie ont montré que les outils de Meta commettent souvent des erreurs lorsqu’ils génèrent des images de personnes d’origines raciales différentes.
Les premiers problèmes sont devenus évidents lorsque Mia Sato a remarqué un problème. Dans un récent rapport, Sato a remarqué quelque chose d’étrange avec le générateur d’images d’Instagram. Normalement, vous pouvez taper des mots comme « homme asiatique » et obtenir une image. Mais lorsque Mia a essayé, toutes les photos montraient des gens asiatiques, même s’ils ne devraient pas l’être.
Ensuite, les choses sont devenues encore plus étranges. Lorsque Sato a réessayé plus tard, l’outil n’a pas fonctionné du tout. Au lieu d’images, il affichait un message d’erreur indiquant que quelque chose s’était mal passé.
On ne sait pas pourquoi cela s’est produit, mais c’est quelque chose à surveiller. Pour l’heure, le mystère reste entier.
CNN s’est également penché sur la question et a découvert des problèmes similaires. En demandant Imaginez avec Meta AI pour montrer des images de couples interracial, les résultats n’étaient souvent pas précis, manquant la diversité des différentes races.
Meta dit qu’ils travaillent à résoudre ces problèmes et à rendre leurs outils moins biaisés. Mais ce n’est pas seulement un problème pour Meta : d’autres entreprises technologiques ont rencontré des problèmes similaires avec leurs outils d’IA. Cela montre que rendre l’IA juste et précise est un travail difficile.
À l’avenir, il sera crucial pour les entreprises technologiques d’être ouvertes sur le fonctionnement de leur IA et de continuer à travailler pour la rendre équitable pour tous. Les difficultés de Meta montrent qu’il reste encore un long chemin à parcourir avant que l’IA puisse véritablement représenter sa puissance.
Crédit image en vedette : Catherine Thorbecke/CNN
