La controverse autour de l’IA de Steven Miles est centrée autour d’une vidéo deepfake créée par le Parti libéral national (LNP), qui a déclenché une discussion importante sur les implications éthiques de l’IA en politique.
Publié sur le compte TikTok de la fêteLa vidéo montre le Premier ministre du Queensland, Steven Miles, sous un jour satirique, dansant sous une légende sur la hausse du coût de la vie et une référence humoristique au Premier ministre en train de préparer un sandwich sur TikTok. Bien que la vidéo soit étiquetée comme « générée par l’IA », elle a suscité un débat sur le rôle des deepfakes dans les messages politiques.
@PartiLibéralNational Mauvaises priorités. #Stevenmiles #travail #lnp #Queensland
Comment ont-ils créé la vidéo de l’IA Steven Miles ?
La vidéo de l’IA Steven Miles a probablement été créée à l’aide de l’outil viral, Viggle IAVoici une description de la manière dont une telle vidéo pourrait être réalisée :
1. Saisie et formation de l’IA
Viggle AI utilise un modèle pré-entraîné pour générer du contenu deepfake. Les utilisateurs saisissent des vidéos ou des images existantes de Steven Miles dans le système, qui applique ensuite ses algorithmes d’apprentissage profond pour reproduire son image et ses manières.
2. Génération de vidéos
À l’aide de son modèle entraîné, Viggle AI crée une nouvelle vidéo dans laquelle Steven Miles semble effectuer diverses actions ou parler de manière scénarisée. Cette technologie peut manipuler les expressions faciales et les mouvements pour produire une représentation convaincante.
3. Étiquetage et distribution
La vidéo finale est marquée comme « générée par l’IA » pour informer les spectateurs de sa nature synthétique. Elle est ensuite partagée sur des plateformes comme TikTok, où elle peut influencer la perception du public et susciter le débat.
Ce processus simplifié démontre comment Viggle AI peut produire rapidement et efficacement des vidéos deepfake réalistes.
Le dilemme du deepfake dans le discours politique
Steven Miles a qualifié la vidéo générée par l’IA de « tournant crucial pour notre démocratie », soulignant les risques associés aux deepfakes.
Il soutient que si les photos trafiquées sont une source d’inquiétude, les vidéos générées par l’IA représentent un nouveau niveau de désinformation potentielle. Miles a clairement indiqué que le parti travailliste de l’État éviterait d’utiliser la technologie utilisée dans la génération de vidéos de Steven Miles par l’IA pour le contenu politique lors des prochaines élections, soulignant ainsi la gravité du problème.
Malgré la position de Miles, le LNP a défendu son utilisation de la vidéo de l’IA de Steven Miles, soulignant que la vidéo était clairement marquée comme générée par l’IA et destinée à refléter des problèmes réels comme l’augmentation du coût de la vie sous le gouvernement travailliste.
Les critiques soutiennent que les outils d’IA sont courants et que l’utilisation de ce contenu reste dans les limites légales, même si cela soulève des questions éthiques sur l’exactitude et l’intention des messages politiques.
Réglementer l’IA en politique
La Commission électorale du Queensland a noté que même si la loi électorale de l’État réglemente les fausses déclarations sur les candidats, elle ne traite pas spécifiquement du contenu généré par l’IA comme la vidéo de Steven Miles.
Cela laisse une lacune dans la manière dont ce type de contenu est surveillé et réglementé, en particulier en dehors de la période électorale.
Susan Grantham, professeure en communication, souligne que l’IA est utilisée dans les campagnes politiques à l’échelle mondiale et en Australie depuis au moins 2022.
Elle note que le contenu généré par l’IA peut être persuasif et potentiellement trompeur, en particulier lorsqu’il est utilisé pour reproduire ou parodier des personnages familiers, ce qui pourrait conduire à la tromperie du public.
L’impact plus large de l’IA sur la politique
Patrik Wikstrom, du Centre de recherche sur les médias numériques de l’Université de Technologie de Toronto, souligne les implications plus vastes de l’IA dans la communication politique. Il explique que si l’IA en elle-même n’est pas problématique en soi, son utilisation pour créer des contenus trompeurs présente des risques importants. Le défi consiste à réglementer ces contenus, étant donné la nature mondiale d’Internet et la difficulté d’appliquer les lois locales au-delà des frontières.
Wikstrom et Grantham s’accordent à dire que le problème principal n’est pas la technologie mais l’objectif qui sous-tend son utilisation. À mesure que l’IA devient de plus en plus sophistiquée, garantir une communication transparente et honnête reste une préoccupation cruciale pour les processus démocratiques du monde entier.
Qui est Steven Miles ?
Pour ceux qui sont complètement étrangers à la politique australienne, Steven Miles est le Premier ministre du Queensland, en Australie, représentant le Parti travailliste australien.
Il a été impliqué dans la politique de l’État et est connu pour son rôle dans la gestion de divers aspects de la gouvernance de l’État.
Crédit de l’image en vedette: Freepik