Basé sur une histoire que nous lisons TechEn brefil est difficile de résister à l’envie de frapper les murs avec colère.
La famille de Jennifer Ann Crecente, une jeune femme de 18 ans assassinée il y a près de vingt ans, a récemment découvert que sa photo était utilisée sans son consentement par une plateforme de chatbot IA. Le nom et l’image de Jennifer ont été trouvés sur Character.ai, un service qui permet aux utilisateurs d’interagir avec des personnalités générées par l’IA. La famille n’a jamais été consultée ni informée de l’utilisation de l’identité de Jennifer, les laissant horrifiées et dévastées par cette utilisation abusive flagrante.
Après la découverte, l’oncle de Jennifer s’est rendu sur les réseaux sociaux pour dénoncer l’incident et a fait une déclaration ferme sur son blog : Padetpixel.
C’est putain de dégoûtant : @character_ai utilise ma nièce assassinée comme visage d’une IA de jeu vidéo sans la permission de son père. Il est très contrarié en ce moment. Je ne peux pas imaginer ce qu’il traverse.
S’il vous plaît, aidez-nous à mettre fin à ce genre de pratique terrible. https://t.co/y3gvAYyHVY
– Brian Crecente (@crecenteb) 2 octobre 2024
Ce n’est qu’après le tollé général que la plateforme a supprimé le bot.
Le choc de voir le visage et le nom de Jennifer utilisés sans autorisation a rouvert de vieilles blessures pour la famille. Crecente a décrit le chagrin initial après sa mort comme une « expérience presque hors du corps », ajoutant : « Mon âme s’est sentie arrachée de mon corps. J’ai vécu la vie dans un état second pendant un moment, comme si j’étais sorte de détaché de mon corpsdepuis le monde. » Alors que la famille avait travaillé sans relâche pour honorer la mémoire de Jennifer grâce à un travail à but non lucratif et à l’éducation, cette utilisation non autorisée de son identité ressemblait à une cruelle violation.
« On a l’impression qu’elle nous a encore été volée », a écrit Crecente, soulignant l’impact dévastateur de l’utilisation imprudente des identités personnelles par l’IA. Malgré leurs efforts pour faire supprimer le chatbot, le mal était fait. Crecente a posé une question pressante : « Pourquoi est-ce à nous d’être résilients ? Pourquoi des entreprises multimilliardaires ne prennent-elles pas la peine de créer des principes directeurs éthiques et des garde-fous fonctionnels pour empêcher que cela ne se produise ?
Sérieusement, pourquoi les entreprises multimilliardaires ne prennent-elles pas la peine de créer des principes directeurs éthiques et des garde-fous fonctionnels pour empêcher que cela ne se produise ?
Nous savons qu’il y a de mauvaises personnes. Les gens sont, par nature, généralement capables de mauvaises actions. Mais ceux qui détiennent le pouvoir – en particulier ceux qui jouissent d’une immense influence technologique – ont également la responsabilité de fixer des limites et de créer des cadres qui bloquent le mal.
La réponse se trouve à l’intersection du progrès technologique, des incitations des entreprises et de l’absence flagrante de réglementations complètes.
Lorsque des entreprises comme Character.ai possèdent la capacité de reproduire des identités humaines, qu’elles soient vivantes ou décédées, elles ont l’obligation éthique de garantir que ce pouvoir ne soit pas utilisé à mauvais escient.
La réponse réside dans la priorité au profit plutôt qu’aux personnes. Dans la course incessante à l’innovation, les entreprises choisissent d’agir vite et d’innover sans s’assurer que les barrières éthiques nécessaires sont en place. Ce n’est pas qu’ils ne puissent pas créer ces barrières ; ils n’y voient tout simplement pas de valeur financière immédiate.
Ce C’est la dure réalité : les industries axées sur le profit considèrent souvent la moralité comme une dépense facultative, en particulier dans le monde de la technologie.
Les gouvernements et les organismes de réglementation sont restés à la traîne par rapport à l’évolution rapide de l’IA, laissant d’énormes lacunes dans la législation. Il existe peu, voire aucune, de protections solides pour l’identité du défunt.
Parlez-en maintenant !
Les médias et les groupes de défense doivent tenir les entreprises technologiques pour responsables de l’utilisation non autorisée des portraits de personnes décédées. La pression du public est cruciale pour garantir que les plateformes d’IA mettent en œuvre des directives éthiques et préviennent de telles violations à l’avenir.
Les législateurs doivent être exhortés à promulguer des lois qui protègent explicitement l’identité des défunts, garantissant que leurs noms, images et héritages ne puissent pas être exploités à des fins lucratives. Nous avons besoin de réglementations qui protègent la dignité des familles longtemps après le décès de leurs proches.
Nous devons exiger que les entreprises établissent et appliquent des directives éthiques strictes pour l’utilisation de l’IA. Cela inclut des protocoles de consentement et un processus transparent pour signaler les violations. Ils ne devraient pas attendre que les familles découvrent ces violations après coup.
Les médias doivent continuer à jouer un rôle crucial en enquêtant et en révélant les incidents au cours desquels des plateformes d’IA exploitent des individus sans leur consentement. Leur couverture médiatique incessante demandera des comptes à ces entreprises et poussera au changement, garantissant que le silence ne permette pas cette exploitation.
Nous ne pouvons pas rester les bras croisés et permettre que de telles violations se poursuivent sans contestation.
#IAResponsable
Nous présentons nos plus sincères condoléances à la famille Crecente pendant cette période déchirante. Personne ne devrait jamais avoir à affronter la douleur de perdre un être cher, encore moins à supporter une telle violation de sa mémoire. La vie et l’héritage de Jennifer méritent d’être honorés, et nous partageons votre chagrin alors que vous faites face à ce fardeau inimaginable.
Crédit image en vedette : Padetpixel
