Computer-generated content and the AI/ML retraction record, 2018– 2026: a characterization study
Cette étude de caractérisation de 13 502 dossiers de rétractation liés à l'IA/ML de 2018 à 2026 révèle que le contenu généré par ordinateur est la plus grande cause inférée de rétractations, représentant 34,8 % des cas et affectant principalement les articles publiés entre 2021 et 2023.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez le monde de l'édition scientifique comme une immense et trépidante bibliothèque. Pendant des années, les bibliothécaires (éditeurs et pairs évaluateurs) ont vérifié les livres avant qu'ils ne soient mis en rayon pour s'assurer que les histoires sont vraies et que les auteurs ont bien fait le travail eux-mêmes.
Ce document est comme un bulletin de notes sur la pile des « Retour à l'expéditeur » de cette bibliothèque entre 2018 et 2026. Plus précisément, il examine la section dédiée à l'Intelligence Artificielle (IA) et à l'Apprentissage Automatique (Machine Learning).
Voici l'histoire de ce que l'auteur, Anton Sokolov, a découvert, expliquée simplement :
1. Le nouveau problème : Les « Écrivains Fantômes »
Avant 2022, si un livre de cette section était retourné, c'était généralement parce que l'auteur avait copié l'histoire de quelqu'un d'autre (plagiat), avait menti sur les données ou avait payé une « usine à articles » (une usine qui écrit de faux articles) pour faire le travail.
Mais à partir de 2022, quelque chose de nouveau s'est produit. Les modèles de langage de grande taille (comme l'IA avec laquelle vous pourriez discuter) sont devenus très doués pour écrire des textes fluides au ton scientifique. Soudain, la bibliothèque a commencé à recevoir un flot de livres écrits par ces « écrivains fantômes ».
L'étude a examiné 13 502 articles de la section IA qui ont été retirés des rayons (rétractés). La question posée était : Pourquoi ces livres ont-ils été retournés ?
2. La grande découverte
La découverte la plus surprenante est que la raison n°1 du retrait de ces articles d'IA était le Contenu Généré par Ordinateur.
- Les chiffres : Sur 100 articles d'IA rétractés, environ 35 ont été retirés spécifiquement parce que le texte était généré par une IA (comme un chatbot).
- La comparaison : C'est plus élevé que la « Revue par les pairs compromise » (22 %), le « Plagiat » (18 %) ou les « Erreurs éditoriales » (13 %).
Imaginez cela comme une boulangerie. Pendant des années, la raison principale pour laquelle le pain était jeté était qu'il était brûlé ou rassis. Mais soudain, la boulangerie a commencé à trouver que la pâte elle-même était faite par un robot qui ne savait pas cuisiner. C'est devenu la raison la plus courante de jeter le pain.
3. Le filtre de « Précision » (Le filet de sécurité)
L'auteur a été prudent pour ne pas simplement tout compter de manière imprécise. Il a créé un « filet de sécurité » avec différents niveaux de certitude :
- Haute précision : Articles dont le titre mentionnait clairement « IA » ou « Apprentissage automatique ». (3 243 articles).
- Filet large : Articles traitant simplement de manière générale de l'« Informatique ». (13 502 articles).
Même en regardant uniquement le groupe à « Haute précision » (ceux qui portent définitivement sur l'IA), 41,8 % ont été rétractés à cause d'un texte généré par l'IA. Le problème n'est donc pas seulement un coup de chance dû à un étiquetage lâche ; c'est un problème réel et dominant dans ce domaine spécifique.
4. La chronologie : Une vague soudaine
L'article suit les années comme un rapport météorologique :
- 2018–2021 : Très peu d'articles générés par l'IA ont été détectés.
- 2022 : La vague a commencé.
- 2023 : La vague a atteint son pic. Ce fut une année de « tsunami », principalement parce qu'un éditeur majeur (Hindawi/Wiley) a effectué un nettoyage massif, retirant des milliers d'articles d'un coup.
- 2024–2025 : Les chiffres ont chuté depuis le pic mais restent 10 fois plus élevés qu'avant 2022.
La plupart de ces mauvais articles ont été écrits et publiés entre 2021 et 2023. Ils ont été détectés rapidement, généralement dans l'année suivant leur publication.
5. Qui était impliqué ?
L'étude liste les éditeurs et les revues ayant le plus grand nombre d'articles rétractés.
- Hindawi (un éditeur) en a eu le plus, représentant plus d'un tiers de tous les articles rétractés de cette liste.
- Cependant, l'auteur avertit : Ceci n'est pas nécessairement une « liste de la honte ». Parfois, un éditeur a beaucoup de rétractations parce qu'il nettoie activement ses rayons et attrape les mauvais articles, plutôt que parce qu'il est le « pire » des éditeurs. C'est comme un magasin avec un comptoir de « Retours » : un nombre élevé de retours peut signifier que le magasin est très strict sur la qualité, et non qu'il vend de mauvais produits.
6. Ce que cette étude N'EST PAS
L'auteur est très clair sur ce que ce rapport ne nous dit pas :
- Il ne nous dit pas combien d'articles écrits par l'IA sont encore sur les étagères et n'ont pas encore été détectés.
- Il ne prouve pas que les chercheurs en IA sont de « mauvaises » personnes.
- Il ne dit pas que la recherche en IA échoue plus souvent que d'autres domaines (comme la biologie ou la physique). Nous n'avons tout simplement pas encore les données pour comparer.
L'essentiel
Ce document est une « étude de caractérisation ». C'est comme prendre une photo instantanée du bac des « Retour à l'expéditeur » pour les articles d'IA.
La conclusion principale est simple : L'ère du texte généré par l'IA est arrivée dans la science, et le premier signe majeur de cela est un pic massif de rétractations où le texte lui-même a été écrit par une machine.
L'étude conclut que pour que la science puisse résoudre ce problème, nous avons besoin d'étiquettes claires, lisibles par machine, sur ces rétractations, indiquant : « Ceci a été écrit par une IA ». Sans ces étiquettes claires, nous ne pouvons ni mesurer le problème ni le résoudre correctement. Le « substrat » (le fondement) des solutions futures est simplement d'avoir des registres honnêtes et clairs de ce qui s'est mal passé.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.