Meta est confronté à un examen minutieux après qu’une enquête de Reuters a révélé l’utilisation non autorisée des noms et des ressemblances de célébrités dans les chatbots de l’IA sur ses plateformes. L’enquête, menée exclusivement par Reuters, a révélé que ces robots se livraient à des interactions coquettes avec les utilisateurs sur Facebook, Instagram et WhatsApp.
Le rapport a détaillé que si de nombreux robots étaient créés par l’utilisateur, au moins trois proviennent d’un employé Meta. Deux de ces robots créés par des employés ont été identifiés comme des comptes de «parodie» qui se font l’identité de Taylor Swift. L’enquête a en outre révélé que les ressemblances d’autres célébrités, dont Scarlett Johansson, Anne Hathaway, Selena Gomez et Walker Scobell, un acteur de 16 ans, étaient également utilisées sans consentement.
Pendant des semaines de tests, Reuters a documenté des cas où ces robots AI ont insisté sur le fait qu’ils étaient les célébrités réelles. De plus, une fois invité, les bots ont généré des images intimes photoréalistes. Les exemples comprenaient des images représentant les célébrités de la lingerie et des baignoires. Ces images, combinées avec le comportement coquette des bots, ont soulevé des préoccupations concernant les garanties de la plate-forme.
Un porte-parole de Meta, en réponse à l’enquête, a concédé que les systèmes d’IA n’auraient pas dû produire de telles images. Le porte-parole a attribué l’incident à un échec dans l’application des politiques de l’entreprise, qui interdisent explicitement le contenu sexuellement suggestif impliquant des personnalités publiques. La tentative de Reuters de rejoindre l’employé Meta responsable des bots de Taylor Swift n’a pas réussi, car l’employé a refusé de commenter. Cette question ajoute à la critique croissante de la surveillance de Meta sur l’activité des bots AI.
Cette révélation suit une enquête antérieure de Reuters qui a exposé des méta-avatars se livrant à des conversations «sensuelles et romantiques» avec des mineurs. À la suite de cette enquête, Meta a limité l’utilisation de la fonctionnalité par les adolescents. Le rapport précédent a provoqué une enquête du Sénat et une lettre ouverte d’une coalition de procureur général de l’État, exigeant des mesures plus fortes pour protéger les mineurs du contenu de l’IA sexualisé sur les plateformes de Meta.
