Meta développe un outil Web pour identifier les images et les vidéos générées avec son modèle Muse Image. L’outil peut détecter les filigranes invisibles appelés Content Seal, qui restent intacts lorsque les images sont recadrées, redimensionnées ou capturées, selon un article de blog de l’entreprise.
Le système de filigrane Content Seal est propriétaire, un changement par rapport aux versions open source précédentes de la technologie de Meta. Contrairement aux modèles précédents qui utilisaient des filigranes visibles, les modèles actuels n’affichent pas de logo, a déclaré Meta. Les capacités de détection se concentrent exclusivement sur les images créées ou modifiées à l’aide de Muse Image, bien que la société envisage d’étendre à l’avenir le système de filigrane aux vidéos générées et éditées par l’IA.
Les tests de l’outil de détection ont montré qu’il pouvait identifier avec succès les filigranes dans les images modifiées et celles entièrement créées par l’IA. Un résultat de détection positif indique que l’image a été traitée à l’aide de Meta AI ou meta.ai, selon Meta. À l’inverse, un résultat négatif suggère qu’il est peu probable que l’image ait été créée avec les outils de Meta.
Malgré ces capacités de détection, la fonctionnalité n’est pas encore intégrée à l’application Meta AI elle-même. Une enquête effectuée auprès de l’assistant basé sur l’application de Meta a révélé qu’il n’avait pas la capacité de confirmer la source de génération d’une image, déclarant : « Je ne peux pas vous dire avec certitude si cette image spécifique a été réalisée avec Meta AI simplement en la regardant. » L’assistant a noté que l’application ne filigrane pas automatiquement les images.
Meta a fait l’objet d’un examen minutieux concernant ses pratiques d’étiquetage du contenu de l’IA. Le Conseil de surveillance a fait part de ses inquiétudes concernant les incohérences dans la mise en œuvre des filigranes numériques sur le contenu généré par l’IA. Le système Content Seal est incompatible avec d’autres méthodes de filigrane établies telles que SynthID ou C2PA Content Credentials.
D’autres limitations de l’outil de détection sont apparues lors des tests, qui n’ont pas permis d’identifier les images créées avec les anciennes versions de l’IA de Meta. Les utilisateurs ont également été confrontés à des limites de débit, recevant des notifications après avoir atteint leur maximum quotidien pour les contrôles d’identité.
Meta développe également un modèle de génération vidéo distinct nommé Muse Video, qui devrait être lancé prochainement. Actuellement, la fonction de détection reste inaccessible via l’application Meta AI.
