OpenAI a suspendu la possibilité pour les utilisateurs de son modèle d’IA, Sora, de générer des vidéos ressemblant à Martin Luther King Jr. La société a annoncé cette mesure de sauvegarde suite à une demande de la succession du Dr King en raison de représentations irrespectueuses de son image. Cette mesure a été prise après que certains utilisateurs de la plateforme de vidéo sociale ont créé ce qui a été décrit comme des « représentations irrespectueuses » du défunt militant des droits civiques. OpenAI lancé Sora quelques semaines auparavant, permettant aux utilisateurs de créer des vidéos réalistes générées par l’IA. La plate-forme permet la représentation de personnages historiques, d’amis et d’autres utilisateurs qui consentent à ce que leur image soit recréée. Sa sortie a suscité un vaste débat public concernant les dangers potentiels du contenu vidéo généré par l’IA et la nécessité pour les plateformes de mettre en place des garde-fous efficaces autour de cette technologie. Dans un article publié sur son compte officiel de rédaction sur X, OpenAI a évoqué cette décision. « Bien qu’il existe de forts intérêts en matière de liberté d’expression dans la représentation de personnages historiques, OpenAI estime que les personnalités publiques et leurs familles devraient en fin de compte avoir le contrôle sur la manière dont leur image est utilisée », a déclaré la société. OpenAI a également clarifié sa politique, notant : « Les représentants autorisés ou les propriétaires fonciers peuvent demander que leur image ne soit pas utilisée dans les camées Sora. » https://twitter.com/OpenAINewsroom/status/1979005850166648933 La restriction imposée par l’entreprise faisait suite à des déclarations publiques des familles de personnalités. Dr Bernice King, fille du Dr King, posté sur Instagram la semaine dernière, demandant aux individus de cesser de lui envoyer des vidéos d’IA qui ressemblaient à son père. Sa demande est intervenue après que la fille de Robin Williams ait lancé un appel similaire, demandant aux utilisateurs de Sora de cesser de générer des vidéos IA de son défunt père. Un rapport de Le Washington Post plus tôt cette semaine, des exemples spécifiques de vidéos générées par l’IA ont été détaillés sur la plateforme, dont une montrant le Dr King faisant des bruits de singe et une autre le représentant en train de lutter avec son collègue leader des droits civiques Malcolm X. L’application Sora propose également des vidéos grossières ressemblant à d’autres personnages historiques, tels que l’artiste Bob Ross, la chanteuse Whitney Houston et l’ancien président américain John F. Kennedy. Le lancement de Sora a également soulevé des questions sur la manière dont les plateformes de médias sociaux devraient gérer les vidéos générées par l’IA qui contiennent du matériel protégé par le droit d’auteur. L’application contient de nombreuses vidéos représentant des personnages de dessins animés bien connus, notamment Bob l’éponge, South Park et Pokémon.
