Les établissements universitaires ont enregistré une prolifération de citations générées par l’IA d’articles inexistants dans des publications scientifiques, sapant ainsi la légitimité de la recherche, selon Andrew Heiss, professeur adjoint à l’Andrew Young School of Policy Studies de la Georgia State University. Heiss a découvert que les grands modèles linguistiques (LLM) génèrent des citations fabriquées, qui apparaissent ensuite dans les recherches professionnelles. En traquant de fausses sources dans Google Scholar, Heiss a observé des dizaines d’articles publiés citant des variantes de ces études et revues inexistantes. Contrairement aux articles générés par l’IA, qui sont souvent rapidement rétractés, ces numéros de journaux hallucinés sont cités dans d’autres papierslégitimant efficacement les informations erronées. Ce processus conduit les étudiants et les universitaires à accepter ces « sources » comme fiables sans vérifier leur authenticité, renforçant ainsi l’illusion de crédibilité par des citations répétées. Les bibliothécaires de recherche déclarent consacrer jusqu’à 15 % de leurs heures de travail à répondre aux demandes de documents inexistants générées par des LLM comme ChatGPT ou Google Gemini. Heiss noté que les citations générées par l’IA semblent souvent convaincantes, comportant des noms d’universitaires vivants et des titres ressemblant à la littérature existante. Dans certains cas, les citations étaient liées aux auteurs réels mais incluaient des titres d’articles et des titres de revues fabriqués qui imitent les travaux antérieurs des auteurs ou de véritables périodiques. Des universitaires, dont la psychologue Iris van Rooij, ont averti que l’émergence du « slop » de l’IA dans les ressources scientifiques menace ce qu’elle appelle « la destruction du savoir ». En juillet, van Rooij et d’autres ont signé un lettre ouverte plaider pour que les universités protègent l’enseignement supérieur, la pensée critique, l’expertise, la liberté académique et l’intégrité scientifique, en appelant à une analyse rigoureuse du rôle de l’IA dans l’éducation. L’ingénieur logiciel Anthony Moser a prédit en 2023 que les chatbots pourraient amener les instructeurs à créer des programmes avec des lectures inexistantes et les étudiants à s’appuyer sur l’IA pour résumer ou rédiger des essais, un scénario qui, selon lui, s’est maintenant matérialisé. Moser soutient que décrire les résultats du LLM comme des « hallucinations » dénature leur fonction, affirmant que les modèles prédictifs sont « toujours hallucinants » et sont « structurellement indifférents à la vérité ». Il a déclaré que les LLM polluent l’écosystème de l’information en amont, avec des citations inexistantes infiltrant la recherche et circulant dans les articles ultérieurs, les comparant à des produits chimiques durables difficiles à tracer ou à filtrer. Moser attribue le problème à des « choix délibérés », affirmant que les objections ont été « ignorées ou rejetées ». Il reconnaît que « les mauvaises recherches ne sont pas nouvelles », mais affirme que les LLM ont amplifié la pression préexistante pour publier et produire, ce qui a conduit à des articles contenant des données douteuses. Craig Callender, professeur de philosophie à l’Université de Californie à San Diego et président de la Philosophy of Science Association, est du même avis, observant que « l’apparence de légitimité de revues inexistantes est comme le produit final logique des tendances existantes ». Callender note l’existence de revues acceptant des articles fallacieux à des fins lucratives ou de recherche biaisée, créant ainsi un « marécage » croissant dans l’édition scientifique. Il suggère que l’IA exacerbe ce problème, les recherches Google assistées par l’IA renforçant potentiellement l’existence perçue de ces revues fabriquées et propageant la désinformation. Les chercheurs font état d’un découragement généralisé à mesure que les faux contenus sont inscrits dans les bases de données de recherche publiques, ce qui rend difficile la traçabilité des origines des allégations.
