Diagnosing event dependence in computer-generated-content retraction metadata, 2010–2025
Cette étude démontre que l'augmentation fulgurante des métadonnées de rétractation étiquetées comme contenu généré par ordinateur entre 2010 et 2025 est principalement pilotée par les programmes de nettoyage de quelques éditeurs plutôt que par une réflexion de la prévalence réelle de l'IA dans les manuscrits, rendant ces décomptes inappropriés pour inférer des effets causaux de l'IA générative.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde de l'édition académique, une rétractation est l'aveu public qu'un article publié ne peut être considéré comme fiable. C'est une correction, un signal indiquant que quelque chose s'est mal passé, qu'il s'agisse d'une erreur honnête, d'un travail incomplet ou d'une fraude délibérée. Depuis des décennies, les chercheurs et les bibliothécaires utilisent le nombre de rétractations comme un indicateur approximatif de l'intégrité de la recherche, supposant qu'une hausse du décompte signifie qu'une plus grande quantité de mauvaise science est publiée. Cependant, cette supposition néglige un détail crucial : une rétraction n'est pas seulement l'enregistrement d'une erreur ; c'est aussi l'enregistrement d'une découverte. Un nombre élevé de rétractations peut signifier qu'une revue est devenue plus efficace pour identifier et corriger les problèmes, et non simplement qu'elle en publie davantage. Cette distinction devient particulièrement complexe lorsqu'il s'agit de contenu généré par ordinateur, où des algorithmes créent de faux articles qui semblent réels mais contiennent des absurdités. Lorsque ces articles sont détectés, ils sont souvent supprimés par lots importants par les éditeurs, créant des pics soudains dans les données qui peuvent ressembler à une vague de nouvelles fraudes, alors qu'il pourrait s'agir d'une seule opération de nettoyage.
Une étude récente d'Anton Sokolov, de l'Institut Tyche, étudie précisément ce phénomène, en se concentrant sur les années 2010 à 2025. Le chercheur a examiné un instantané figé de la base de données Retraction Watch, une collection organisée d'avis de rétractation provenant du monde entier. À partir d'un total de près de 61 000 rétractations, l'étude a isolé 9 102 enregistrements spécifiquement étiquetés comme du contenu « assisté par ordinateur » ou « généré par ordinateur ». Ces étiquettes couvrent un large éventail de problèmes, allant des premiers systèmes générant du charabia aléatoire aux outils d'intelligence artificielle modernes capables de rédiger des articles entiers. L'objectif n'était pas de compter combien de faux articles existent dans le monde, mais de comprendre ce que les chiffres de rétractation représentent réellement. En examinant de près qui a émis les rétractations, quand elles ont eu lieu et comment elles ont été regroupées, l'étude révèle que la hausse spectaculaire de ces chiffres est presque entièrement pilotée par des programmes de nettoyage spécifiques et à grande échelle menés par quelques grands éditeurs, plutôt que par une augmentation constante et généralisée de la fraude générée par l'IA dans l'ensemble de la science.
Les données montrent un changement clair dans le paysage au cours de la dernière décennie. Entre 2010 et 2019, le contenu généré par ordinateur ne représentait qu'une infime fraction des rétractations, apparaissant dans moins de un pour cent des cas chaque année. La situation a changé rapidement à partir de 2020. En 2023, la part des rétractations étiquetées pour contenu généré par ordinateur avait bondi pour atteindre près de 42 pour cent. Au cours des années suivantes, 2024 et 2025, cette part est restée élevée, à environ 23 et 24 pour cent respectivement. À première vue, ces chiffres suggèrent une explosion massive et mondiale d'articles générés par l'IA inondant la littérature scientifique. Cependant, lorsque le chercheur a regardé plus en profondeur qui était responsable du retrait de ces articles, une autre histoire est apparue. Les chiffres élevés n'étaient pas le résultat de nombreux éditeurs identifiant des problèmes de manière indépendante. Au contraire, ils étaient le résultat de quelques éditeurs spécifiques lançant des efforts de nettoyage massifs et coordonnés pour supprimer des milliers d'articles d'un coup.
En 2023, par exemple, une seule lignée d'éditeurs a fourni 98 pour cent de toutes les rétractations de contenu généré par ordinateur. En 2024 et 2025, ce chiffre est resté supérieur à 80 pour cent, porté par deux groupes d'éditeurs différents au cours d'années différentes. Lorsque l'étude a retiré les dossiers de ces principaux éditeurs du calcul, la part annuelle des rétractations de contenu généré par ordinateur a chuté de manière spectaculaire. En 2023, le chiffre est passé de 41 pour cent à seulement 0,32 pour cent. En 2024 et 2025, les parts restantes étaient similairement faibles, oscillant autour de 0,6 pour cent et 1,4 pour cent. Ce schéma indique que les chiffres de la une ne sont pas une mesure de la quantité de mauvaise science écrite chaque année, mais plutôt une mesure du nombre d'articles qu'un éditeur spécifique a décidé de retirer au cours d'une année donnée. L'étude a constaté que ces événements étaient souvent concentrés dans une seule revue ou même sur une seule journée de saisie de métadonnées, confirmant davantage qu'il s'agissait de campagnes de nettoyage organisées plutôt que d'un problème diffus et systémique.
La recherche a également comparé ces rétractations de contenu généré par ordinateur à d'autres raisons courantes de retrait d'articles, telles que le plagiat, les articles dupliqués ou la révision par les pairs compromise. Même parmi ces autres catégories, qui sont connues pour être concentrées dans certains domaines, les étiquettes de contenu généré par ordinateur étaient beaucoup plus regroupées. Alors que les autres types de rétractations étaient répartis entre de nombreux éditeurs et revues, les étiquettes de contenu généré par ordinateur étaient massivement dominées par un ou deux éditeurs au cours de n'importe quelle année donnée. Cette concentration extrême suggère que les données reflètent les actions administratives de quelques grandes organisations plutôt que la prévalence sous-jacente du texte généré par l'IA dans l'ensemble de la communauté scientifique. L'étude note que les raisons spécifiques invoquées pour les rétractations ont également changé selon l'éditeur effectuant le nettoyage, certaines années présentant des taux élevés d'étiquettes de « fabrique à articles » (paper mill) et d'autres montrant des labels différents, renforçant ainsi le lien entre les données et les stratégies spécifiques des éditeurs plutôt qu'une tendance mondiale uniforme.
En fin de compte, l'étude conclut que ces chiffres de rétractation doivent être interprétés avec prudence. Ils constituent d'excellents registres d'application et de nettoyage, montrant là où les éditeurs ont réussi à identifier et à supprimer des travaux problématiques. Cependant, ils ne sont pas une mesure directe de la fréquence à laquelle les auteurs utilisent l'intelligence artificielle pour rédiger des articles, et ils ne prouvent pas que le taux de cette faute professionnelle augmente partout. Un nombre élevé de rétractions au cours d'une seule année peut simplement signifier qu'un éditeur a enfin rattrapé un retard d'investigations ou qu'il a décidé de supprimer des milliers d'articles d'un coup. Pour comprendre le véritable état de l'intégrité de la recherche, il faut regarder au-delà des totaux bruts et considérer qui fait le décompte, comment ils regroupent les données, et si les pics représentent une nouvelle vague de fraude ou une vague réussie de correction. Les conclusions rappellent que dans le monde des mesures scientifiques, un grand nombre ne signifie pas toujours un grand problème ; parfois, cela signifie simplement un grand nettoyage.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.