L’IA devient de plus en plus un outil puissant pour la création de contenu, nous rappelons qu’une telle technologie porte également une responsabilité et nécessite une utilisation judicieuse. Un incident récent impliquant un utilisateur de la plateforme de création de contenu IA, Midjourney, résume les défis et les responsabilités qui accompagnent cette nouvelle ère de création numérique.
Conséquences des expériences d’IA de Brown
Ce quelqu’un, comme révélé dans un fil Twitter ultérieur, était monteur vidéo Justin Brunqui a partagé son expérience, déclarant: «J’ai été banni de Midjourney AI pour avoir généré des images réalistes de politiciens trompant leurs femmes pour une série intitulée« L’IA va révolutionner l’industrie du chantage », ajoutant que« lorsqu’elle est utilisée avec intelligence et intention, l’IA peut être une arme.
J’ai été banni de Midjourney AI pour avoir généré des images réalistes de politiciens trompant leurs femmes pour une série intitulée « L’IA va révolutionner l’industrie du chantage »
Quelques réflexions sur les images d’IA de quelqu’un qui est doué pour faire de faux trucs
Trump trompe sa femme : pic.twitter.com/HjxBj7qdaR
– JustinTBrown (@JuuustinBrown) 26 mai 2023
Alors que cet exercice avait un message pointu, la réponse de Midjourney a été rapide et sans ambiguïté. La plate-forme a interdit Brown, démontrant son engagement à lutter de manière proactive contre la diffusion d’informations erronées générées par l’IA. À l’approche des élections de 2024, de telles mesures semblent de plus en plus nécessaires.
Midjourney et al ont mis en place des garde-fous, mais vous pouvez les contourner avec des incitations créatives ou des demandes répétées. Ces générateurs ne font pour la plupart que mélanger des photos disponibles sur Internet. Au diable la vie privée, le droit d’auteur, la dignité et la sécurité
Bernie trompe sa femme : pic.twitter.com/uxSCXevQFd
– JustinTBrown (@JuuustinBrown) 26 mai 2023
Meilleurs paramètres de mi-journée pour une sortie cohérente
Les précautions nécessaires à l’ère de l’IA
Brown a créé des représentations visuelles mettant en vedette des personnalités politiques bien connues, dont l’actuel président Joe Biden, l’ancien président Donald Trump, l’ancien gouverneur du New Jersey Chris Christie et le gouverneur de Floride Ron DeSantis. Ces images manipulées avaient différents niveaux de crédibilité, certaines étant d’une manière troublante convaincante.
Cependant, il convient de souligner que Brown n’a été expulsé de Midjourney qu’après avoir diffusé ces graphiques sur Reddit, faisant ainsi allusion à la perspective que d’autres concoctent discrètement des images similaires à l’insu de Midjourney. Une fois que ses créations ont pris de l’ampleur sur Reddit, l’équipe de modération de la plateforme est intervenue pour supprimer la série, après quoi son interdiction de Midjourney a été rapidement mise en œuvre.
Comme Brown l’a partagé avec PétaPixel« Après avoir gagné du terrain sur Reddit, la série a été supprimée par les modérateurs et l’interdiction de Midjourney a suivi presque immédiatement », un récit qui attire subtilement l’attention sur une réalité plutôt déconcertante : la possibilité que des créations similaires passent sous le radar.
En toute justice pour Midjourney, l’arène de la politique a déjà vu l’utilisation d’images créées par l’IA, et la marée montante d’images et de voix falsifiées pose un formidable défi à l’intégrité des procédures démocratiques. Même des créations bien intentionnées comme celles-ci pourraient être évitées, soulignant la nécessité d’une position stricte et sans tolérance de la part de Midjourney.
La validité de cet argument est en outre étayée par le propre aveu de Brown selon lequel certaines des images ont été réutilisées en dehors de leur contexte d’origine.
« Je n’ai jamais présenté les images [in the photo series] comme réel », a déclaré Brown PétaPixel. « Mais je sais que certaines de ces images ont été prises et partagées hors contexte par d’autres, donc je ne serais pas surpris si certaines personnes croyaient qu’elles étaient réelles. »
L’histoire de la rencontre de Justin Brown avec Midjourney jette une lumière révélatrice sur la puissance et les dangers de cette technologie en évolution rapide. Alors que nous entrons avec audace dans une ère de fabrication numérique, la réponse rapide de Midjourney rappelle brutalement le besoin urgent de limites éthiques et de contrôles rigoureux.
IA éthique: Directives d’AstraZeneca sur les réglementations applicables
Alors que les images de Brown étaient une puissante démonstration du potentiel de l’IA, elles ont également souligné la facilité alarmante avec laquelle une telle technologie peut être utilisée à mauvais escient. Alors que nous embrassons le potentiel de l’IA, nous devons rester vigilants, en veillant à ce que son pouvoir soit exploité de manière responsable, éthique et en gardant un œil attentif sur la préservation de l’intégrité de nos processus démocratiques. L’avenir de l’IA est là, et avec lui vient une responsabilité que nous ne pouvons pas nous permettre de négliger.
Crédit image en vedette : Kerem Gülen/Midjourney