Reddit resserre son processus de vérification pour empêcher les robots AI de type humain, le PDG de la société Steve Huffman annoncé le lundi. Cette décision intervient après une équipe de chercheurs libéré Un essaim de robots alimentés par AI sur le subreddit «Changer My Vision», affichant plus de 1 700 commentaires et adoptant diverses personnages.
L’expérience, que Reddit a condamné comme «inappropriée et très contraire à l’éthique», a mis en évidence les risques potentiels de robots alimentés par l’IA imitant les humains sur la plate-forme. Pour atténuer cela, Reddit commencera à travailler avec des services tiers pour vérifier l’humanité des utilisateurs, obligeant certains utilisateurs à fournir des informations pour confirmer qu’ils sont humains et, dans certains cas, des adultes.
Huffman a souligné que Reddit n’obligera pas les utilisateurs à divulguer leurs noms ou identités, déclarant que «l’anonymat est essentiel à Reddit». La société prévoit d’utiliser des entreprises externes pour fournir «les informations essentielles et rien d’autre» et a assuré qu’il continuera de protéger les informations personnelles des utilisateurs et de repousser les demandes excessives des autorités.
La décision est probablement tirée en partie en évoluant les exigences réglementaires, y compris les lois adoptées dans au moins neuf États et le Royaume-Uni obligeant la vérification de l’âge pour protéger les enfants sur les plateformes de médias sociaux. Reddit prend déjà des mesures pour interdire les «mauvais» robots, mais le nouveau processus de vérification sera probablement utilisé pour protéger davantage la plate-forme.
Les circonstances exactes dans lesquelles les utilisateurs devront subir une vérification ne sont pas claires, tout comme les services tiers spécifiques qui seront utilisés. Les plates-formes de vérification populaires comprennent le personnage, l’alliage, l’identité de rayures, le plaid et l’empreinte, qui nécessitent généralement des ID émis par le gouvernement pour vérifier l’âge et l’humanité. Les nouvelles technologies, telles que le dispositif «preuve d’humain» de Sam Altman, peuvent également être prises en compte.
Les critiques ont soulevé des préoccupations concernant les risques potentiels de confidentialité et de sécurité des données associés aux vérifications d’identification, en particulier sur une plate-forme comme Reddit où les utilisateurs partagent souvent des expériences sensibles ou personnelles de manière anonyme. Huffman a reconnu ces préoccupations, déclarant que Reddit sera «extrêmement protecteur de vos informations personnelles».
