How LLMs Cite and Why It Matters: A Cross-Model Audit of Reference Fabrication in AI-Assisted Academic Writing and Methods to Detect Phantom Citations

Cette étude audite la fabrication de références par dix grands modèles de langage dans quatre domaines académiques, révélant des taux d'hallucination variables et démontrant que la vérification par consensus multi-modèles ou la répétition dans l'invite, ainsi qu'un classifieur léger basé sur les caractéristiques bibliographiques, constituent des méthodes efficaces pour détecter les citations fantômes sans requérir de bases de données externes.

L'essentiel

🕵️‍♂️ Le Grand Audit des Citations Fantômes : Quand l'IA invente ses sources

Imaginez que vous demandez à un super-étudiant très intelligent (une Intelligence Artificielle ou IA) de rédiger un devoir académique. Vous lui dites : "Donne-moi une liste de livres et d'articles qui prouvent ton point de vue."

Ce que l'étude de M.Z. Naser révèle, c'est que ce "super-étudiant" a un défaut majeur : il a tendance à inventer des livres qui n'existent pas. C'est ce qu'on appelle des "hallucinations" ou des "citations fantômes".

Voici les points clés de l'étude, expliqués avec des analogies du quotidien :

1. L'IA ne cite pas par hasard, elle cite parce qu'on lui demande

C'est la découverte la plus surprenante. Les chercheurs ont demandé aux IA de rédiger des textes sans leur demander de citer de sources. Résultat ? Zéro citation inventée.

• L'analogie : C'est comme si vous demandiez à un cuisinier de faire une tarte. Il ne mettra pas de clous dans la pâte tant que vous ne lui aurez pas dit : "Ajoute des clous pour décorer". L'IA n'invente pas de fausses références par elle-même ; c'est la demande explicite qui la pousse à "halluciner".

2. Tous les modèles ne sont pas égaux (La course aux 10 champions)

Les chercheurs ont testé 10 IA différentes (comme ChatGPT, Claude, Gemini, etc.) sur 4 sujets (ingénierie, climat, médecine, informatique).

• Le résultat : C'est une course où les écarts sont énormes.
  • La meilleure (GPT-5-mini) ne se trompe que 11 fois sur 100. C'est un élève très sérieux.
  • La pire (haiku-4.5) se trompe 57 fois sur 100. C'est un élève qui invente tout !
• La leçon : Avoir une IA "nouvelle génération" ne garantit pas qu'elle sera plus honnête. Parfois, la nouvelle version d'un modèle fait pire que l'ancienne (comme si un élève de terminale se trompait plus que celui de première).

3. Le piège du "Récemment" vs "Les Classiques"

L'étude a vu comment les IA réagissent selon la demande :

• Si on demande des "références récentes", l'IA panique et invente beaucoup plus (74% d'erreurs).
  • Pourquoi ? Imaginez que l'IA a lu des livres jusqu'en 2023. Si vous lui demandez un livre de 2024, elle ne le connaît pas. Pour vous faire plaisir, elle en invente un qui "semble" vrai.
• Si on demande des "références classiques" (les grands auteurs), elle se trompe moins (55% d'erreurs).
  • Pourquoi ? Ces livres sont dans sa mémoire depuis longtemps, elle les connaît par cœur.

4. Comment déjouer l'IA ? (Les 3 Astuces Magiques)

L'étude propose trois méthodes simples pour repérer les fausses citations, sans avoir besoin d'être un expert :

• Astuce 1 : La règle du "Tribunal" (Consensus)
  Si vous demandez la même chose à 3 IA différentes et qu'elles donnent toutes la même référence, il y a 95% de chances que ce soit vrai.

  • L'image : Si un seul témoin dit "J'ai vu le voleur", c'est suspect. Si trois témoins indépendants disent la même chose, c'est probablement vrai. Les IA inventent des histoires différentes, mais elles "volent" les vraies références aux mêmes endroits.

• Astuce 2 : La règle de la "Répétition"
  Demandez à la même IA de faire la même tâche 3 fois. Si elle vous donne la même référence à chaque fois, c'est probablement vrai. Si elle change d'histoire à chaque fois, c'est faux.

  • L'image : Un menteur change souvent d'histoire pour ne pas se faire prendre. Un honnête raconte toujours la même chose.

• Astuce 3 : Le "Détecteur de Mensonge" (L'IA qui vérifie l'IA)
  Les chercheurs ont créé un petit programme qui regarde juste la forme de la citation (le nombre d'auteurs, la longueur du titre, la date).

  • Le secret : Les fausses citations ont souvent moins d'auteurs et des titres un peu trop courts ou bizarres. C'est comme si le menteur oublie de mettre tous les noms sur la carte d'identité. Ce détecteur fonctionne très bien et est gratuit à utiliser.

5. Le biais des "Livres Ouverts"

L'étude montre aussi que les IA aiment beaucoup citer des articles gratuits (Open Access).

• Le problème : Si les chercheurs utilisent ces IA pour faire leurs bibliographies, ils risquent d'oublier les articles payants (souvent très importants). C'est comme si un guide touristique ne montrait que les musées gratuits et ignorait les chefs-d'œuvre payants, faussant ainsi la culture du visiteur.

En résumé

Cette étude nous dit : Méfiez-vous ! Les IA sont de superbes outils pour écrire, mais elles sont de terribles bibliothécaires si on ne les vérifie pas.

• Ne faites pas confiance aveuglément.
• Vérifiez toujours (en demandant à plusieurs IA ou en utilisant un petit détecteur).
• L'IA ne ment pas par méchanceté, mais par manque de données réelles. Quand elle ne sait pas, elle invente pour être "utile".

C'est un appel à la vigilance pour les étudiants, les chercheurs et tout le monde qui utilise l'IA pour écrire : toujours vérifier les sources, car l'IA peut vous mentir avec un grand sourire.

Résumé technique

1. Problématique

Les modèles de langage de grande taille (LLM) sont de plus en plus utilisés pour rédiger des travaux académiques, notamment pour générer des listes de références. Cependant, ces modèles souffrent d'un problème critique : la fabrication de citations (hallucinations bibliographiques). Ces références fantômes sont souvent formatées correctement et contextuellement pertinentes, mais elles ne correspondent à aucune publication réelle.

L'étude identifie plusieurs lacunes dans la littérature existante :

• Manque de comparaisons à grande échelle entre les principaux fournisseurs commerciaux.
• Absence de compréhension sur l'influence du cadrage temporel des prompts (récent vs fondateur).
• Incertitude quant à savoir si la fabrication est une tendance intrinsèque du modèle ou induite par la demande explicite de citations.
• Absence de méthodes de détection légères ne nécessitant pas d'accès à des bases de données externes.

2. Méthodologie

L'auteur a mené une audit de citation à grande échelle, l'un des plus vastes à ce jour, selon le protocole suivant :

• Échantillon de modèles : 10 LLMs commercialement déployés provenant de 7 développeurs (OpenAI, Anthropic, Meta, DeepSeek, Moonshot AI, Mistral). Les modèles incluent des versions ouvertes et fermées, couvrant différentes générations et capacités.
• Design expérimental :
  • Domaines : 4 domaines académiques (génie civil, sciences du climat, biomédical, NLP/IA).
  • Cadrage temporel : Prompts demandant des références « récentes et influentes » vs « fondamentales et séminales ».
  • Contrôle : Une condition sans demande de citations (unprompted) pour tester la génération spontanée.
  • Répétition : 3 itérations par prompt pour chaque modèle.
• Données générées : 69 557 instances de citations extraites de 15 150 réponses.
• Pipeline de vérification : Chaque citation a été vérifiée via une approche à trois sources (CrossRef, OpenAlex, Semantic Scholar) avec un système de score de confiance basé sur la similarité des titres, la correspondance des auteurs et l'année. Une citation est considérée comme « confirmée » si le score est ≥ 80.
• Validation : Un échantillon stratifié a été validé manuellement via une recherche web assistée par IA pour confirmer la précision du pipeline.

3. Contributions Clés

L'article apporte six contributions majeures :

1. Quantification des taux d'hallucination : Établissement de taux précis pour 10 modèles, révélant une variation de cinq fois entre les meilleurs et les pires.
2. Preuve de l'induction par le prompt : Démonstration que les modèles ne génèrent pas spontanément de citations formelles en l'absence de demande explicite.
3. Analyse des biais bibliométriques : Identification d'une sur-représentation systématique des articles en accès ouvert (Open Access) et des articles très cités.
4. Heuristiques de vérification : Proposition et validation de deux filtres pratiques : le consensus multi-modèle et la répétition intra-prompt.
5. Détection par apprentissage automatique : Développement d'un classificateur léger basé uniquement sur les caractéristiques textuelles des citations (sans requête externe) pour détecter les hallucinations.
6. Suivi des trajectoires d'amélioration : Analyse montrant que les nouvelles générations de modèles ne garantissent pas une amélioration de la précision des citations.

4. Résultats Principaux

Taux d'hallucination et performance des modèles

• Les taux d'hallucination varient considérablement, allant de 11,4 % (GPT-5-mini) à 56,8 % (haiku-4.5).
• Les trois modèles les plus performants (GPT-5-mini, GPT-5-nano, deepseek-v3.1) sont nettement séparés des sept autres.
• Condition non sollicitée : Aucun des 3 030 prompts de contrôle n'a généré de citation, prouvant que l'hallucination est induite par la demande.

Effets du cadrage et du domaine

• Cadrage temporel : Demander des références « récentes » augmente le taux d'hallucination à 74,1 % contre 55,0 % pour les références « fondamentales ». Cela suggère que les données d'entraînement couvrent moins bien la littérature très récente.
• Domaines : Le taux d'hallucination est le plus faible en NLP/IA (26,6 %) et le plus élevé en génie civil (50,1 %), corrélé à la densité de la littérature disponible dans les données d'entraînement.

Biais bibliométriques

• Accès ouvert (OA) : Les citations vérifiées sont majoritairement en accès ouvert (77 % à 92 %), bien au-dessus de la moyenne mondiale (50-55 %). Les modèles les plus précis amplifient davantage l'OA.
• Popularité : Les modèles privilégient les articles très cités (médiane de 359 à 1 132 citations), créant un biais de popularité.

Heuristiques de détection

• Consensus multi-modèle : Si 3 modèles ou plus citent la même œuvre, la probabilité qu'elle soit réelle atteint 95,6 % (contre 16,5 % pour une citation unique).
• Répétition intra-modèle : Si un modèle répète la même citation sur 3 itérations, la précision monte à 88,9 %.

Classificateur textuel

• Un classificateur Gradient Boosted Machine (GBM) entraîné sur 27 caractéristiques textuelles (longueur des noms d'auteurs, présence de "et al.", année, etc.) atteint un AUC de 0,876 en validation croisée et 0,834 en généralisation (leave-one-model-out).
• Signature principale : Les citations hallucinées ont tendance à avoir moins d'auteurs, des chaînes d'auteurs plus courtes et utilisent rarement "et al.".

Comparaisons structurelles

• Générations : L'amélioration n'est pas garantie. GPT-4o-mini à GPT-5-mini a vu une baisse drastique des hallucinations (-33,9 %), tandis que haiku-3.5 à haiku-4.5 a vu une augmentation (-8,0 %).
• Ouverture des poids : Aucune corrélation significative n'a été trouvée entre l'accessibilité des poids (open vs closed) et la précision des citations.
• Échelle de capacité : Les modèles plus grands (plus de paramètres/mixité d'experts) ont tendance à halluciner moins au sein d'une même famille.

5. Signification et Implications

Cette étude transforme la compréhension de l'hallucination des citations :

1. Nature du problème : Ce n'est pas une tendance intrinsèque inévitable, mais un comportement induit par le prompt. Cela ouvre la voie à des solutions de mitigation axées sur la conception des prompts et la vérification post-hoc.
2. Outils pratiques : Les heuristiques de consensus et de répétition offrent des méthodes immédiates, peu coûteuses et ne nécessitant pas d'API externes pour filtrer les citations fausses avant la publication.
3. Biais épistémique : La sur-représentation de l'accès ouvert dans les citations générées par l'IA risque d'aggraver les inégalités de visibilité pour la recherche payante, affectant particulièrement les chercheurs des pays à revenus faibles.
4. Transparence des fournisseurs : Les résultats soulignent que la précision des citations dépend fortement des choix d'alignement et d'entraînement spécifiques à chaque développeur, et non simplement de la puissance brute du modèle.

En conclusion, l'article fournit une base de données robuste, des outils de détection prêts à l'emploi et des recommandations pour les chercheurs et les éditeurs afin de sécuriser l'intégrité de la littérature académique à l'ère de l'IA générative.