Un juge fédéral l’a invalidé moins de deux semaines après que le gouverneur de Californie, Gavin Newsom, a signé sa nouvelle loi sur les deepfakes sur l’IA. AB 2839 était destiné à arrêter la propagation de deepfakes politiquement biaisés, y compris la vidéo générée par l’IA du vice-président Kamala Harris et redistribuée par Elon Musk. La décision du tribunal selon laquelle la loi viole probablement les protections du premier amendement est un coup dur pour les efforts de la Californie visant à utiliser l’IA pour lutter contre la désinformation électorale.
Le mois dernier, la loi AB 2839, promulguée, visait à tenir les personnes responsables de la diffusion de deepfakes politiquement trompeurs susceptibles d’induire les électeurs en erreur. Il ne contrôle pas les plateformes de médias sociaux, mais permet aux juges d’ordonner aux gens de supprimer le contenu qu’ils ont eux-mêmes écrit et généré par l’intelligence artificielle. Cela fait suite aux inquiétudes croissantes concernant la montée de la désinformation politique générée par l’IA, une préoccupation majeure à l’approche des prochaines élections.
Le deepfake viral de Kamala Harris et ses implications
Le procès contestant la loi a été intenté par le YouTuber Christopher Kohls, connu en ligne sous le nom de « M. Reagan », qui a publié la vidéo manipulée par l’IA de Kamala Harris. Le deepfake a été défendu par son équipe juridique, qui a présenté le premier amendement comme une satire politique. Le juge de district américain John Mendez a accepté et a émis une injonction préliminaire empêchant l’application de la loi. Mendez a déclaré que la loi était trop large et pourrait facilement être utilisée pour écraser des discours protégés par la Constitution, comme la satire et la parodie.
« Presque tout contenu modifié numériquement, lorsqu’il est laissé à la disposition d’une personne arbitraire sur Internet, peut être considéré comme nuisible. »
» a déclaré Méndez. Il a déclaré que la loi employait un langage large et subjectif qui mettait en péril la liberté d’expression. Même si l’État a intérêt à l’intégrité des élections, a déclaré Mendez, cette loi, telle qu’elle est rédigée, porte injustement atteinte à l’expression politique protégée par le premier amendement.
Peu après la décision du tribunal du 12 décembre, Elon Muskqui s’était moqué de la nouvelle loi après avoir publié le tweet deepfake de Harris, a tweeté sur X (anciennement Twitter) : « Le tribunal annule la loi inconstitutionnelle de Californie qui envahit votre liberté d’expression. » Ouais ! » Son message est devenu viral depuis, et la lutte en ligne sur l’entre-deux n’a fait que s’intensifier sur l’équilibre entre la liberté d’expression et la réglementation du contenu généré par l’IA.
Comme cette fois-là, Streisand a poursuivi quelqu’un pour avoir révélé son adresse très évidente à Malibu. Cela a vraiment gardé le contrôle, lmao. https://t.co/Av5CDlRtJ4
– Elon Musk (@elonmusk) 18 septembre 2024
L’injonction préliminaire est temporaire et il n’est pas clair si ce type de blocage durera. Le bureau du gouverneur Newsom a déclaré que l’État est convaincu qu’il pourra réglementer les deepfakes d’IA à l’avenir. Un porte-parole a défendu la loi en déclarant : « Nous sommes convaincus que les tribunaux respecteront la capacité de l’État à réglementer ces types de deepfakes dangereux et trompeurs tout en garantissant que ces droits à la liberté d’expression peuvent continuer d’exister. »
La décision elle-même met l’accent sur l’amour du mouvement entre la nouvelle technologie de l’IA et les garanties constitutionnelles séculaires, alors que les contrefaçons deviennent de plus en plus intelligentes et difficiles à différencier. L’issue de cette bataille juridique pourrait façonner la manière dont les États réglementeront les contenus générés par l’IA à l’approche des élections.
Crédit image en vedette: Emre Cıtak/Idéogramme IA
