Does Less Hallucination Mean Less Creativity? An Empirical Investigation in LLMs

Résumé Technique : « Moins d'hallucinations signifie-t-il moins de créativité ? Une investigation empirique dans les LLM »

Énoncé du problème
Les grands modèles de langage (LLM) sont de plus en plus utilisés pour la compréhension et le raisonnement en langage naturel, pourtant ils souffrent d'« hallucinations » — la génération de contenus factuellement incorrects. Bien que des recherches significatives se soient concentrées sur l'atténuation des hallucinations pour garantir la fiabilité factuelle, particulièrement dans des domaines à enjeux élevés comme la découverte scientifique assistée par l'IA, l'impact de ces stratégies d'atténuation sur la créativité des modèles reste inexploré. Il s'agit d'une lacune critique car la découverte scientifique repose sur une double exigence : l'exactitude factuelle et la génération créative d'hypothèses, ce qui implique souvent de faire des connexions non conventionnelles pouvant ressembler superficiellement à des hallucinations. L'article examine si la réduction des hallucinations supprime par inadvertance la pensée divergente nécessaire à l'idéation créative.

Méthodologie
Les auteurs ont mené une investigation empirique évaluant les effets de trois techniques distinctes de réduction des hallucinations sur la créativité à travers plusieurs familles et échelles de modèles :

1. Techniques évaluées :

   • Chain of Verification (CoVe - Chaîne de vérification) : Un processus de raisonnement à plusieurs étapes impliquant la rédaction d'un brouillon, la génération de questions de vérification, l'apport de réponses à ces questions, et la synthèse d'une réponse raffinée.
   • Decoding by Contrasting Layers (DoLa - Décodage par contraste de couches) : Une méthode de décodage qui contraste les prédictions de la couche finale avec les couches antérieures (spécifiquement celle présentant la divergence de Jensen-Shannon la plus élevée) pour supprimer les jetons les moins fiables.
   • Retrieval-Augmented Generation (RAG - Génération augmentée par récupération) : Une méthode ancrant la génération dans des connaissances externes extraites d'un corpus (spécifiquement des tutoriels de programmation et de la documentation dans cette étude).

2. Benchmarks et métriques :

   • NeoCoder : Un benchmark de programmation évaluant la créativité sous des scénarios de règles progressives et contraignantes (analogues aux lois scientifiques). Les métriques incluent la Créativité convergente (exactitude sous contraintes) et la Créativité divergente (nouveauté des techniques dépassant les modèles humains).
   • CS4 : Un benchmark de génération d'histoires évaluant l'écriture créative ouverte sous contraintes cumulatives. Les métriques incluent la Satisfaction des contraintes, la Cohérence, la Diversité (DIST-N), et un score de Créativité composite (QUC).

3. Portée expérimentale :

   • Modèles : LLaMA (1B, 8B, 70B), Qwen-Coder (7B) et Mistral (7B).
   • Analyse : L'étude a mesuré les changements en pourcentage des métriques de créativité par rapport à une ligne de base (sans réduction des hallucinations). De plus, les auteurs ont employé des sondes linéaires pour identifier quelles couches de transformateurs sont corrélées à la production créative, menant à une stratégie de décodage modifiée.

Résultats clés
L'investigation a révélé que les méthodes de réduction des hallucinations ont des effets divergents et opposés sur la créativité divergente, tout en préservant largement la créativité convergente (la capacité à résoudre des problèmes correctement).

• CoVe améliore la créativité divergente : Contrairement à l'hypothèse initiale selon laquelle la vérification des faits pourrait étouffer la créativité, CoVe a systématiquement amélioré la pensée divergente sur la plupart des modèles et des jeux de données. Par exemple, LLaMA 1B a montré une amélioration allant jusqu'à 12,5 % sur NeoCoder. Les auteurs attribuent cela au mécanisme de questionnement qui encourage une exploration plus large de l'espace des solutions et réduit la « vision tunnel ».
• DoLa supprime la créativité divergente : DoLa a systématiquement réduit la créativité divergente (par exemple, LLaMA 1B a chuté d'environ 8 % sur CS4). Les auteurs émettent l'hypothèse que cela se produit parce que DoLa contraste les couches précoces et tardives ; puisque les couches précoces encodent des représentations exploratoires et divergentes, la soustraction de celles-ci supprime par inadvertance les caractéristiques nécessaires à la génération créative.
• RAG montre un impact minimal : RAG a démontré un effet neutre sur la créativité divergente, avec des fluctuations proches de zéro. Les auteurs suggèrent que cela est dû à un décalage sémantique entre le corpus de récupération (tutoriels techniques) et la tâche (descriptions de problèmes narratifs), entraînant des documents récupérés manquant d'insights algorithmiques spécifiques ou introduisant du bruit.
• La créativité convergente n'est pas affectée : À travers toutes les méthodes et tous les modèles, la capacité à générer des solutions factuellement correctes et respectant les contraintes est restée largement inchangée.

Investigation complémentaire : Modulation des couches
Pour remédier à la suppression causée par DoLa, les auteurs ont utilisé des sondes linéaires pour identifier les couches « corrélées à la créativité ». Ils ont découvert que les couches précoces du transformateur présentaient des corrélations plus fortes avec la créativité divergente que les couches tardives. En inversant la logique de DoLa — en amplifiant les activations dans les couches corrélées à la créativité tout en supprimant celles qui y sont anti-corrélées — ils ont réussi à stimuler la créativité divergente sans compromettre la performance convergente. Cela suggère que la créativité divergente et la créativité convergente peuvent être découplées et modulées indépendamment.

Signification et affirmations
L'article affirme que la relation entre la réduction des hallucinations n'est pas uniforme ; elle dépend fortement de la technique employée.

• Pour l'AI4Science : Les conclusions fournissent des orientations pour la sélection des méthodes de réduction des hallucinations dans les applications scientifiques. Les techniques comme CoVe peuvent être préférables pour la génération d'hypothèses car elles améliorent l'exploration créative sans sacrifier la convergence factuelle, tandis que DoLa peut être préjudiciable à la phase imaginative de la découverte.
• Caractéristiques intrinsèques : La cohérence de ces tendances à travers différentes familles de modèles (LLaMA, Qwen, Mistral) et échelles (1B–70B) suggère que l'interaction entre le contrôle factuel et le raisonnement créatif est une caractéristique intrinsèque des LLM, plutôt qu'un artefact de l'architecture ou de la taille.
• Directions futures : Les auteurs soulignent que bien que la programmation et la génération d'histoires servent de substituts, les travaux futurs doivent développer des cadres spécifiquement dédiés à la génération d'hypothèses scientifiques pour valider ces résultats dans des contextes de découverte authentiques. Ils notent également la nécessité d'études d'ablation pour isoler les mécanismes spécifiques par lesquels le questionnement améliore la créativité, ainsi que l'amélioration des stratégies de récupération pour maximiser le potentiel de RAG.

En conclusion, l'article soutient que réduire les hallucinations ne signifie pas nécessairement réduire la créativité ; il s'agit plutôt du choix de la stratégie d'atténuation qui détermine si un modèle devient un outil précis mais limité ou un collaborateur équilibré capable de précision factuelle et d'idéation créative.