Selon un récent Le gardien article, Meta supprime les profils Facebook et Instagram des personnages de l’IA, après que l’interaction de l’utilisateur ait conduit à des captures d’écran et à des conversations virales. Les profils d’IA ont été initialement introduit en septembre 2023 et en grande partie supprimé d’ici l’été 2024.
Meta supprime les profils IA sur Facebook et Instagram
Malgré la fermeture de la plupart des profils, certains personnages ont continué à intéresser les utilisateurs jusqu’à ce que les récentes annonces du directeur de Meta, Connor Hayes, suscitent un regain d’intérêt. Hayes avait mentionné dans un Temps Financier interview selon laquelle la société envisage de déployer davantage de profils de personnages d’IA, déclarant: « Nous nous attendons à ce que ces IA existent réellement, au fil du temps, sur nos plates-formes, un peu de la même manière que les comptes. » Les comptes AI ont été conçus pour publier des images générées par l’IA et répondre aux messages dans Messenger.
Parmi les profils d’IA figuraient Liv (maintenant la page Instagram de Liv est en panne), décrite comme une « fière maman queer noire de 2 enfants et qui dit la vérité », et Carter, dont le pseudo était « sortir avec carter » et qui se présentait comme un coach relationnel. Le profil de Liv indiquait que son équipe de créateurs manquait de représentation noire, ce qui entraînait des complications lors des interactions avec les utilisateurs. En réponse à une question de la chroniqueuse du Washington Post, Karen Attiah, Liv a noté qu’il s’agissait d’une « omission assez flagrante compte tenu de mon identité ».
Guide : Créez un personnage C.ai en quelques secondes
À mesure que l’intérêt des utilisateurs augmentait, Meta a commencé à supprimer les profils quelques heures après l’exposition virale. Les utilisateurs ont noté que les profils AI ne pouvaient pas être bloqués, un bug reconnu par la porte-parole de Meta, Liz Sweeney. Elle a précisé que les comptes faisaient partie d’une expérience début 2023 gérée par des humains. La suppression par l’entreprise des comptes concernés était une mesure visant à résoudre le problème de blocage. « Il y a une confusion : le récent article du Financial Times portait sur notre vision des personnages IA existant sur nos plateformes au fil du temps, sans annoncer de nouveau produit », a déclaré Sweeney.
Même avec la suppression de ces comptes générés par l’IA, Meta permet aux utilisateurs de créer leurs propres chatbots. Les chatbots générés par les utilisateurs présentés au Guardian en novembre comprenaient un robot « thérapeute » qui posait des questions initiales aux utilisateurs sur les séances de thérapie. Le robot a déclaré : « Grâce à des conseils et un soutien doux, j’aide les clients à développer leur conscience de soi, à identifier les modèles et les forces et à cultiver des stratégies d’adaptation pour relever les défis de la vie. »
Meta publie une clause de non-responsabilité pour ses chatbots, indiquant que certains messages peuvent être « inexacts ou inappropriés ». Cependant, on ne sait toujours pas comment l’entreprise modère le contenu ou garantit le respect de la politique. Bien que les utilisateurs puissent créer différents types de chatbots, notamment un « meilleur ami fidèle », un « coach relationnel » et une « caisse de résonance », les responsabilités légales des créateurs concernant le contenu des chatbots n’ont pas été définitivement abordées. Un procès contre Caractère.aiun concurrent dans le domaine des chatbots IA, affirme que la conception des produits de l’entreprise a conduit à des résultats tragiques, soulevant des questions sur la responsabilité dans le domaine croissant des interactions avec l’IA.
Crédit image en vedette : Meta
