La récente directive chinoise demandant aux entreprises d’intelligence artificielle d’harmoniser leurs modèles avec les valeurs socialistes a eu des répercussions dans l’ensemble du secteur technologique. Cette directive, émise par l’Administration du cyberespace de Chine (CAC), marque un changement notable dans l’approche du pays en matière de développement de l’IA.
Cette décision souligne la détermination du gouvernement à maintenir un contrôle idéologique tout en poursuivant le progrès technologique.
La Chine sur la corde raide en matière d’innovation et de contrôle de l’IA
La CAC a demandé aux grandes entreprises technologiques comme ByteDance et Alibaba de soumettre leurs modèles d’IA à l’évaluation du gouvernement. Ce processus vise à garantir que ces systèmes « incarnent les valeurs socialistes fondamentales », un concept qui est devenu central dans la stratégie de régulation de l’IA de la Chine. La procédure de test est approfondie et à plusieurs niveaux, examinant non seulement les résultats de ces modèles d’IA, mais aussi leurs données d’entraînement et leurs protocoles de sécurité.
Lors de l’évaluation, les systèmes d’IA sont confrontés à une série de questions, dont beaucoup portent sur des sujets politiquement sensibles et sur le président Xi Jinping. Cette approche reflète la préoccupation du gouvernement quant au potentiel de l’IA à diffuser des informations ou des idées qui entrent en conflit avec les discours officiels. Les entreprises doivent également compiler et mettre à jour régulièrement des bases de données de mots-clés et de questions sensibles qui pourraient entrer en conflit avec les valeurs fondamentales du socialisme.
L’approche du gouvernement chinois en matière de réglementation de l’IA présente un équilibre complexe. La Chine aspire à devenir un leader mondial de la technologie de l’IA tout en maintenant un contrôle strict sur l’information et l’idéologie à l’intérieur de ses frontières. Cette tension sous-tend l’environnement réglementaire actuel de l’IA en Chine.
Les entreprises qui développent des modèles d’IA en Chine sont désormais confrontées au défi de créer des systèmes à la fois innovants et conformes aux réglementations gouvernementales. Cela a stimulé le développement de systèmes sophistiqués conçus pour remplacer les réponses problématiques en temps réel. ByteDance, la société mère de TIC Tacaurait réalisé des progrès substantiels dans ce domaine, atteignant un « taux de conformité de sécurité » élevé pour son chatbot.
Cependant, contrôler le contenu généré par l’IA est une tâche ardue. Les modèles d’IA, de par leur conception, traitent et génèrent des informations de manière imprévisible et difficile à contrôler. Cela représente un obstacle fondamental pour les régulateurs qui cherchent à maintenir une surveillance idéologique de ces systèmes.
Obstacles techniques à l’alignement de l’IA sur les valeurs socialistes
Les défis techniques liés à l’alignement des modèles d’IA sur les valeurs socialistes sont considérables. Le simple blocage de certains sujets ou mots-clés n’est pas suffisant, car CACLes directives stipulent que les modèles ne devraient pas rejeter plus de 5 % des questions dans les tests de sécurité tout en évitant de manière fiable les sujets particulièrement sensibles.
Cette exigence oblige les entreprises à développer des approches nuancées en matière de filtrage et de génération de contenu.
L’histoire derrière le nouveau chatbot IA le plus populaire de Chine
Certains envisagent d’utiliser des ensembles de données de formation spécialisés qui correspondent aux valeurs socialistes. Cependant, ces ensembles de données ne sont pas encore suffisamment complets pour servir de base unique aux modèles linguistiques de pointe.
Une autre approche envisagée est le développement d’un modèle linguistique de Xi Jinping, qui pourrait potentiellement servir de référence pour des réponses d’IA politiquement acceptables. Cependant, la mise en œuvre d’un tel modèle présente son lot de défis et de considérations éthiques.
L’effet d’entraînement mondial de la réglementation chinoise sur l’IA
L’approche de la Chine en matière de réglementation de l’IA a des implications qui s’étendent au-delà de ses frontières. En tant que l’un des plus grands marchés technologiques au monde et acteur majeur de la recherche et du développement en IA, les politiques de la Chine peuvent façonner les tendances mondiales en matière de gouvernance de l’IA.
L’accent mis sur l’alignement de l’IA sur les valeurs socialistes soulève des questions sur le rôle de l’idéologie dans le développement technologique. Il met également en évidence le risque d’approches divergentes de la réglementation de l’IA selon les pays et les systèmes politiques. Pour les entreprises internationales opérant en Chine, ces réglementations présentent des défis supplémentaires en matière de conformité.
Ils doivent non seulement concilier des exigences techniques mais aussi idéologiques, ce qui peut nécessiter le développement de versions spécifiques à la Chine de leurs modèles d’IA.
Un regard sur l’avenir de l’IA en Chine
Alors que la Chine continue d’affiner son approche de la réglementation de l’IA, le secteur technologique devra s’adapter. L’assouplissement récent par le gouvernement de certaines politiques d’IA à usage industriel, tout en maintenant des contrôles stricts sur l’IA générative destinée au public, suggère une stratégie nuancée visant à promouvoir l’innovation tout en préservant le contrôle idéologique.
Les effets à long terme de ces politiques sur le secteur chinois de l’IA restent à évaluer. Si elles peuvent fournir un cadre pour un développement responsable de l’IA conforme aux valeurs nationales, elles risquent également de limiter l’innovation et les capacités des systèmes d’IA accessibles au public chinois.
Alors que la course mondiale à l’intelligence artificielle se poursuit, l’équilibre que la Chine trouvera entre innovation et contrôle sera crucial pour déterminer sa position de leader dans le domaine de l’intelligence artificielle. L’approche unique du pays en matière de réglementation de l’intelligence artificielle sert d’étude de cas sur l’interaction complexe entre technologie, politique et valeurs sociétales à l’ère numérique.
Crédit de l’image en vedette: Freepik
