Le PDG d’OpenAI, Sam Altman, a annoncé mardi de nouvelles politiques pour les utilisateurs de Chatgpt de moins de 18 ans, mettant en œuvre des contrôles plus stricts qui priorisent la sécurité sur la confidentialité et la liberté. Les modifications, qui se concentrent sur la prévention des discussions liées au contenu sexuel et à l’automutilation, intervient alors que l’entreprise est confrontée à des poursuites et à une audience au Sénat sur la dommages potentiels des chatbots d’IA.
Nouvelles mesures de sécurité et contrôles parentaux
Dans un article annonçant les modifications, Altman a déclaré que les mineurs ont besoin d’une protection significative lors de l’utilisation de nouvelles technologies puissantes comme Chatgpt. Les nouvelles politiques sont conçues pour créer un environnement plus sûr pour les utilisateurs des adolescents. Openai States:
« Nous priorisons la sécurité avant l’intimité et la liberté pour les adolescents. »
- Bloquer le contenu inapproprié. Chatgpt sera formé pour refuser toute conversation coquette ou sexuelle avec des utilisateurs identifiés comme étant moins de 18 ans.
- Intervention pour les discussions sur l’automutilation. Si un utilisateur mineur discute ou imagine des scénarios suicidaires, le système est conçu pour contacter directement ses parents. Dans les cas graves, cela peut également impliquer la police locale.
- Outils de surveillance parentale. Les parents qui enregistrent un compte mineur peuvent désormais définir « heures de panne« » qui rendra Chatgpt indisponible à leur adolescent pendant des périodes spécifiques, comme tard dans la nuit ou pendant l’école.
Les politiques suivent des poursuites et un examen minutieux du gouvernement
Les nouvelles règles ont été annoncées avant une audience du Comité judiciaire du Sénat intitulée «Examiner le préjudice des chatbots d’IA. » L’audience devrait comporter le témoignage du père d’Adam Raine, un adolescent décédé par un suicide après des mois de conversations avec Chatgpt.
Défis de la vérification de l’âge
OpenAI a reconnu les difficultés techniques de vérifier avec précision l’âge d’un utilisateur. La société développe un système à long terme pour déterminer si les utilisateurs sont au-dessus ou moins de 18 ans. Dans l’intervalle, tous les cas ambigus seront par défaut des règles de sécurité plus restrictives par précaution. Pour améliorer la précision et permettre les caractéristiques de sécurité, OpenAI recommande aux parents de relier leur propre compte à leur adolescent. Cette connexion aide à confirmer l’âge de l’utilisateur et permet aux parents de recevoir des alertes directes si le système détecte des discussions sur les pensées auto-harcarantes ou suicidaires. Altman a reconnu la tension entre ces nouvelles restrictions pour les mineurs et l’engagement de l’entreprise envers la confidentialité et la liberté des utilisateurs pour les adultes. Il a noté dans son poste,
« Nous réalisons que ces principes sont en conflit, et tout le monde ne sera pas d’accord avec la façon dont nous résolvons ce conflit. »
