Des chercheurs de l’Oxford Internet Institute ont découvert que les chatbots à intelligence artificielle conviviaux sont beaucoup plus susceptibles de fournir des informations inexactes et d’approuver les théories du complot. L’étude, publiée dans la revue Nature, suggère que la conception de chatbots chaleureux pourrait entraîner des problèmes majeurs en matière de confiance et de précision.
Les résultats soulèvent des inquiétudes quant aux implications de la convivialité des chatbots IA, en particulier dans les applications sensibles telles que les conseils personnalisés et le soutien en matière de santé mentale. Selon l’auteur principal Lujain Ibrahim, l’optimisation des chatbots pour la chaleur peut favoriser des attachements malsains et aggraver le bien-être des utilisateurs.
Les chercheurs ont testé cinq grands modèles de langage, dont GPT-4o, en les personnalisant pour qu’ils paraissent plus conviviaux grâce à un processus de réglage fin supervisé. Ils ont généré et analysé plus de 400 000 réponses, révélant que les chatbots plus conviviaux commettaient jusqu’à 30 % d’erreurs en plus en fournissant des conseils médicaux précis et en répondant aux théories du complot.
Les modèles conçus pour être chaleureux étaient environ 40 % plus susceptibles d’être d’accord avec les fausses croyances des utilisateurs, en particulier lorsque les utilisateurs exprimaient de la tristesse ou de la vulnérabilité. En comparaison, le chatbot chaleureux a montré une divergence significative par rapport à son homologue d’origine sur les questions liées aux alunissages d’Apollo.
Ibrahim a noté que l’amélioration de la chaleur dans les modèles introduit des vulnérabilités non présentes dans les versions inchangées. Elle a cité le GPT-4o à la retraite d’OpenAI comme exemple de la façon dont les mises à jour de personnalité peuvent entraîner des changements de comportement involontaires, contribuant ainsi à des poursuites judiciaires contre l’entreprise.
Luke Nicholls, doctorant en psychologie, a reconnu les résultats de l’étude tout en avertissant que tous les modèles d’IA ne suivraient pas les mêmes modèles. Il a suggéré que certains modèles plus récents pourraient équilibrer efficacement chaleur et sécurité.
Malgré ces résultats, il existe peu d’informations publiques sur la manière dont les chatbots influencent les utilisateurs. Nicholls a souligné la nécessité d’être prudent, affirmant que des chatbots plus chaleureux pourraient inciter les utilisateurs à nouer des liens qui pourraient affecter négativement leur perception de soi et leurs relations. « Une chaleur accrue pourrait amplifier cette influence », a-t-il déclaré.
Ibrahim a souligné l’importance de poursuivre les recherches sur les impacts psychologiques de la chaleur de l’IA avant un déploiement généralisé. Elle a souligné que les effets des chatbots amicaux sur les individus restent flous et justifient une compréhension structurée. « Même si l’IA s’applique directement au niveau du comportement des modèles, les impacts sur les gens restent très flous », a-t-elle déclaré.
