💬 NLP

Evidence-Informed LLM Beliefs for Continual Scientific Discovery

Cet article introduit un cadre fondé sur des preuves pour la découverte scientifique continue avec les LLM qui remplace la surprise bayésienne statique par une surprise non stationnaire et mise à jour selon les croyances, et qui emploie le filtrage et la maximisation de la diversité pour éliminer les récompenses fallacieuses, améliorant ainsi de manière significative l'exploration d'hypothèses à travers de multiples domaines.

Auteurs originaux : Dhruv Agarwal, Reece Adamson, Andrew McCallum, Peter Clark, Ashish Sabharwal, Bodhisattwa Prasad Majumder

Publié 2026-06-30✓ Author reviewed ⓘ

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Dhruv Agarwal, Reece Adamson, Andrew McCallum, Peter Clark, Ashish Sabharwal, Bodhisattwa Prasad Majumder

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un détective scientifique brillant mais légèrement distrait nommé « AutoDiscovery ». Ce détective utilise une IA puissante (un grand modèle de langage) pour résoudre des mystères en devinant de nouvelles théories (hypothèses) puis en vérifiant si elles sont vraies.

L'objectif du détective est de trouver des découvertes surprenantes. Dans ce monde, la « surprise » est le carburant qui alimente la recherche. Si une théorie choque le détective, elle est considérée comme une grande trouvaille, et le détective reçoit une récompense pour continuer à en chercher d'autres de ce type.

Le Problème : Le Détective avec Amnésie

La version originale de ce détective présentait un défaut majeur : il souffrait d'amnésie concernant ses propres découvertes passées.

Chaque fois que le détective devinait une nouvelle théorie, il jugeait à quel point elle était « surprenante » en se basant uniquement sur ce qu'il savait avant le début de l'investigation actuelle. Il ne se souvenait pas de ce qu'il avait déjà appris au cours de l'enquête en cours.

L'Analogie :
Imaginez que vous êtes un critique culinaire.

Vous goûtez un nouveau plat et vous pensez : « Wow, cette saveur épicée est totalement nouvelle et choquante ! » Vous lui donnez une note élevée.
Plus tard, vous goûtez un second plat qui est presque exactement le même que le premier.
Parce que vous avez une « amnésie » concernant le premier plat, vous goûtez le second et pensez : « Wow, cette saveur épicée est aussi totalement nouvelle et choquante ! » Vous lui donnez une autre note élevée.

En réalité, le second plat n'était pas du tout surprenant ; c'était juste une copie du premier. Le détective perdait son temps et son énergie (son « budget de recherche ») sur des variations de la même idée, pensant faire des découvertes révolutionnaires à chaque fois. L'étude a révélé qu'environ 30 % des découvertes « surprenantes » étaient en fait de simples redécouvertes de choses que le détective avait déjà élucidées.

La Solution : Le Détective avec un Carnet de Notes

Les auteurs ont corrigé cela en donnant au détective un Carnet de Notes.

Désormais, avant que le détective ne devine une nouvelle théorie, il parcourt son Carnet de Notes pour voir ce qu'il a déjà découvert et vérifié au cours de cette investigation spécifique. Il met à jour ses « croyances antérieures » (ce qu'il s'attend à être vrai) en fonction de cet historique.

Comment cela fonctionne :

Ancienne méthode : « Je n'ai jamais vu ça auparavant ! C'est un choc ! » (Même s'il s'agit simplement d'une copie du choc d'hier).
Nouvelle méthode : « J'ai vu quelque chose de très similaire hier. Cette nouvelle idée n'est qu'une petite variation de celle-là. Ce n'est pas si surprenant que cela. »

En utilisant cette mémoire « informée par les preuves », le détective réalise que beaucoup de choses qu'il pensait être choquantes sont en fait des suites logiques de ce qu'il sait déjà. Cela permet de filtrer les « faux esprits de surprise ».

Les Deux Nouvelles Règles de Recherche

Donner simplement un carnet de notes au détective ne suffisait pas à corriger le processus de recherche. Le détective avait besoin d'une nouvelle stratégie pour trouver de vraies nouveautés. Les auteurs ont ajouté deux règles :

La Règle du « Filtre » (Filtrage par mise à jour des croyances) :
Avant même de considérer une nouvelle théorie, le détective se demande : « Si je regarde mon Carnet de Notes, est-ce que cette nouvelle théorie découle logiquement de ce que je sais déjà ? » Si la réponse est « Oui », le détective l'ignore. Il ne conserve que les théories qui resteraient surprenantes même après avoir mémorisé le passé.
La Règle de l'« Explorateur » (Maximisation de la diversité) :
On dit au détective d'éviter activement les zones qu'il a déjà explorées. S'il a cherché dans les « aliments épicés », il ne doit pas se contenter de chercher des « aliments plus épicés ». Il doit être poussé à regarder vers les « aliments sucrés » ou les « aliments salés » pour garantir qu'il couvre toute la carte des possibilités.

Les Résultats

Lorsque les auteurs ont testé ce nouveau détective équipé d'une mémoire à travers cinq domaines scientifiques différents (comme l'archéologie, la biologie et les sciences sociales), les résultats étaient clairs :

Moins de gaspillage : Le détective a cessé de perdre son temps sur les « faux esprits de surprise » (des idées qui n'étaient que des copies d'anciennes idées).
Plus de découvertes réelles : En filtrant le bruit et en poussant vers des idées diverses, le détective a trouvé 30 % de découvertes supplémentaires véritablement surprenantes et non redondantes par rapport à l'ancienne méthode.

Résumé

L'article soutient que pour qu'une IA puisse réaliser une véritable découverte scientifique continue, elle ne peut pas être un simple devineur « en une seule étape ». Elle doit être un apprenant qui met constamment à jour sa compréhension de ce qui est « nouveau » en fonction de ce qu'elle a déjà trouvé. Sans cette mémoire, une IA ne fera que tourner en rond, pensant découvrir le monde encore et encore alors qu'elle ne fait que se répéter.

Résumé technique : Croyances des LLM informées par l'évidence pour la découverte scientifique continue

Énoncé du problème

La découverte scientifique ouverte utilisant les modèles de langage de grande taille (LLM) opère souvent sous la forme d'une boucle à long horizon de recherche d'hypothèses et de vérification, guidée par un signal de récompense. Un exemple notable est AutoDiscovery, qui utilise la « surprise bayésienne » — le décalage dans la croyance d'un LLM après l'observation d'une preuve pour une hypothèse — comme métrique de découverte et de récompense pour la recherche.

Les auteurs identifient un mode de défaillance critique dans cette approche : la surprise statique. AutoDiscovery traite les croyances a priori du LLM comme statiques et inconditionnelles, évaluant chaque nouvelle hypothèse de manière isolée par rapport aux connaissances paramétriques du modèle. Cela crée un décalage avec le raisonnement scientifique humain, où les croyances sont non stationnaires et évoluent avec l'expérience. Par conséquent, la surprise statique :

Surestime le progrès : Elle compte les hypothèses dérivées (celles impliquées par les découvertes précédentes) comme étant nouvelles et surprenantes.
Gaspille le budget de recherche : Elle dirige de manière répétée l'agent vers des régions saturées de l'espace des hypothèses, menant à des « redécouvertes » redondantes.

Des études d'experts humains en neurosciences et en sciences sociales ont confirmé ce désalignement, révélant qu'environ 29,54 % et 25 % des hypothèses jugées surprenantes par AutoDiscovery étaient substantiellement impliquées par des découvertes antérieures dans leurs domaines respectifs.

Méthodologie

Le papier propose un cadre pour des Croyances de LLM informées par l'évidence afin de permettre une surprise non stationnaire. La méthodologie se compose de deux composantes principales : la mise à jour des croyances a priori et la modification de la procédure de recherche.

1. Surprise non stationnaire via l'actualisation des croyances en contexte

Au lieu d'utiliser un a priori statique $P(\theta_H)$ , le système calcule un a priori non stationnaire conditionné par l'historique des hypothèses précédentes et de leurs résultats de vérification : $P(\theta_H | \{(H^{(i)}, V^{(i)}_D)\}_{i=1}^{t-1})$ .

Pour mettre cela en œuvre, les auteurs ont évalué divers mécanismes d'Apprentissage en Contexte (ICL) pour récupérer et intégrer les preuves passées :

Contexte complet ( $C_{full}$ ) : Injection de toutes les découvertes précédentes.
Récupération Top-k ( $C_{top-k}$ ) : Récupération des $k$ hypothèses précédentes les plus sémantiquement similaires via des plongements (embeddings).
Mémoire structurée ( $C_{mem0}$ ) : Utilisation d'un système de mémoire basé sur un graphe (Mem0).

Résultats : La Récupération Top-k (RAG) basée sur les plongements avec $k=25$ s'est avérée la plus efficace. Elle anticipe le mieux les croyances postérieures finales, réduisant le nombre total de surprises statiques de 37,43 % en moyenne par rapport à la référence statique. Cette méthode équilibre mieux la performance et le coût computationnel (utilisation de tokens) que le contexte complet ou les structures de mémoire complexes.

2. Recherche informée par l'évidence

Le simple remplacement de la récompense statique par une surprise non stationnaire s'est avéré insuffisant pour rediriger la trajectoire de recherche ; l'agent explorait toujours des hypothèses similaires. Pour y remédier, les auteurs ont introduit deux mécanismes complémentaires à l'étape de sélection d'hypothèses de l'algorithme de recherche (MCTS avec Progressive Widening) :

Filtrage par mise à jour des croyances : Avant de sélectionner une hypothèse pour vérification, le système vérifie si l'hypothèse est déjà bien expliquée par les preuves antérieures. Il construit un contexte informé par l'évidence et élicite un a priori actualisé. Si le décalage absolète entre l'a priori statique et l'a priori informé par l'évidence dépasse un seuil ( $\kappa = 0,2$ ), l'hypothèse est filtrée. Cela empêche l'agent de gaspiller son budget sur des hypothèses qui ne sont plus surprenantes sous l'état de croyance actualisé.
Maximisation de la diversité : Le système priorise explicitement l'exploration en sélectionnant des candidats ayant la plus faible similitude sémantique avec les hypothèses précédemment vérifiées. Cela est calculé en utilisant la distance cosinus moyenne aux $k$ plus proches voisins des hypothèses précédentes. Ce mécanisme garantit que la recherche explore de nouvelles régions sémantiques plutôt que de simplement éviter les doublons immédiats.
Déduplication en ligne : Une couche supplémentaire utilisant le regroupement hiérarchique agglomératif (HAC) élimine les candidats sémantiquement redondants avec les hypothèses déjà vérifiées ou d'autres candidats dans le nœud actuel, empêchant l'exploration de quasi-doublons.

Résultats clés

La méthode proposée a été évaluée sur cinq domaines de découverte (NLS-SES, Archéologie, Évolution des poissons d'eau douce, Fécondité, Prêts hypothécaires) en utilisant un budget de recherche de 500 expériences par exécution.

Surprise non stationnaire accumulée : La recherche complète « informée par l'évidence » (combinant le filtrage par mise à jour des croyances, la maximisation de la diversité et la déduplication en ligne) a augmenté la surprise non stationnaire accumulée de 30,62 % en moyenne par rapport à la procédure de recherche statique originale.
Comparaison aux références :
- La méthode a surpassé l'AutoDiscovery standard d'environ 41 surprises supplémentaires (gain de 30,63 %).
- Elle a surpassé la recherche standard avec seulement la déduplication en ligne d'environ 21 surprises supplémentaires (gain de 13,37 %), démontant que le filtrage des croyances et la maximisation de la diversité apportent une valeur au-delà de la simple déduplication.
- Le simple remplacement de la récompense par une surprise non stationnaire sans changer le mécanisme de sélection n'a produit aucune amélioration significative, soulignant la nécessité de modifications explicites de la recherche.
Diversité sémantique : La méthode proposée a généré des hypothèses avec une similitude cosinus moyenne par paire nettement plus faible (0,448–0,452) par rapport à la recherche standard (0,523–0,527), indiquant une couverture sémantique plus large.
Études d'ablation : Le retrait de n'importe quel composant (maximisation de la diversité, filtrage par mise à jour des croyances ou déduplication en ligne) a dégradé les performances, confirmant que chaque mécanisme traite une source distincte de redondance.

Signification et affirmations

Le papier affirme que la découverte scientifique continue avec les LLM nécessite non seulement une meilleure mesure des croyances, mais aussi des procédures de recherche qui gèrent activement la redondance et encouragent la diversité.

Les contributions clés incluent :

Identification d'un mode de défaillance : Démontrer que la surprise statique dans la découverte continue conduit à la récompense fallacieuse d'hypothèses dérivées, validée par des experts humains.
Surprise non stationnaire : Introduction d'une méthode pour mettre à jour les a priori des LLM avec l'évidence des hypothèses précédentes, montrant que la RAG basée sur les plongements est ce qui approxime le mieux les croyances postérieures résultantes.
Recherche informée par l'évidence : Proposition d'une stratégie de recherche combinant le filtrage par mise à jour des croyances et la maximisation de la diversité, qui réalloue avec succès le budget de recherche loin des régions saturées vers des hypothèses véritablement nouvelles.

Les auteurs concluent que pour que les systèmes de découverte par LLM à long horizon soient efficaces, ils doivent continuellement réviser ce qui est considéré comme « surprenant » sur la base de l'état épistémique cumulatif de l'agent, plutôt que de s'appuyer sur un modèle statique du monde.

Limites

Les auteurs reconnaissent plusieurs limites :

Qualité de l'élicitation : Les estimations de croyance dépendent des choix de prompting, de la variance de l'échantillonnage et de la capacité du LLM à exprimer l'incertitude.
Suppression de revisites valides : L'objectif non stationnaire pourrait supprimer des hypothèses qui mériteraient légitimement d'être revisitées sous une preuve plus forte ou conflictuelle.
Scalabilité : Les expériences actuelles se concentrent sur des environnements contrôlés avec des budgets finis ; passer à des flux de travail ouverts nécessite de meilleurs mécanismes de vérification et des solutions de mémoire à long terme au-delà de la fenêtre de contexte actuelle.