🤖 AI

Model Discovery Agent: LLM-assisted Bayesian experiment design for data-efficient discovery of mechanistic world models

Cet article présente le Model Discovery Agent (MDA), un cadre qui combine de manière synergique les grands modèles de langage pour la génération d'hypothèses avec la conception expérimentale bayésienne afin de découvrir efficacement des modèles de monde mécanistes latents à partir de données interventionnelles limitées à travers des bancs d'essai de physique, de chimie et de biologie.

Auteurs originaux : Kevin Murphy

Publié 2026-08-11

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Kevin Murphy

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un détective tentant de résoudre un mystère, mais que vous ne puissiez pas simplement rester assis à observer le suspect. Vous devez interagir avec lui, poser des questions spécifiques et observer ses réactions pour obtenir la vérité. Dans le monde de la science, c'est la différence entre simplement regarder la nature se produire (observation passive) et mener une expérience (intervention active). Parfois, deux règles complètement différentes peuvent expliquer exactement ce que vous voyez quand vous vous contentez de regarder. Mais si vous titillez le système — par exemple, en changeant une variable ou en appliquant une force — les deux règles commenceront à diverger. Pour déterminer quelle règle est réellement la bonne, vous avez besoin d'un modèle mécaniste : une compréhension profonde de comment les choses fonctionnent, et non d'une simple courbe sophistiquée qui s'ajuste aux points d'un graphique.

Le problème est que les expériences coûtent cher. Qu'il s'agisse de mélanger des produits chimiques dans un laboratoire, de tester un nouveau médicament sur des patients ou de lancer une sonde dans l'espace, chaque test coûte du temps, de l'argent et des ressources. Vous ne pouvez pas simplement lancer un million d'expériences pour en être sûr. Ainsi, le grand défi pour les scientifiques est l'efficacité des données : comment apprendre les véritables règles de l'univers avec le moins d'expériences possible ? Ce document s'attaque à cette question en construisant un détective numérique qui combine la capacité de brainstorming créatif d'une IA super intelligente avec la rigueur mathématique de la théorie des probabilités. Il s'agit d'apprendre à un ordinateur à être un meilleur scientifique qu'il ne l'était auparavant, non pas en connaissant plus de faits, mais en posant de meilleures questions.

L'Agent de Découverte de Modèles : Un Détective avec une Boule de Cristal

L'auteur présente un nouveau système appelé le Model Discovery Agent (MDA). Voyez le MDA comme un partenariat entre deux personnages très différents. Le premier est un Grand Modèle de Langage (LLM), qui agit comme un partenaire de brainstorming créatif. Il a lu des millions d'articles scientifiques et sait beaucoup de choses sur la façon dont le monde pourrait fonctionner. Lorsque l'agent voit des données, le LLM suggère une liste de "suspects" possibles — différentes formules mathématiques ou mécanismes qui pourraient expliquer ce qui se passe.

Le second personnage est un Statisticien Bayésien, qui agit comme un juge strict et logique. Il ne se contente pas de deviner ; il calcule les probabilités. Il prend la liste de suspects du LLM et utilise une méthode appelée Monte Carlo Séquentiel pour les confronter aux données. Il demande : « Étant donné ce que nous avons vu jusqu'à présent, quelle est la probabilité que chaque suspect soit la vérité ? » Il utilise également un concept appelé Valeur de l'Information (VoI). Imaginez que vous ayez un nombre limité de questions à poser à un témoin. La VoI est le calcul mathématique qui vous indique quelle question unique vous apportera le plus de clarté, vous aidant à éliminer le plus de suspects à la fois.

Voici le tour de magie : le LLM propose une nouvelle idée, le statisticien la teste, et si l'idée ne correspond pas parfaitement aux données, le système n'abandonne pas. Au lieu de cela, il réalise : « La vérité ne se trouve pas dans notre liste actuelle de suspects. » C'est ce qu'on appelle le cadre M-ouvert (M-open setting). Le système demande alors au LLM de concevoir un tout nouveau mécanisme, auparavant inimaginé, pour l'ajouter à la liste. C'est comme si un détective réalisait que le tueur n'est pas parmi les suspects habituels, et qu'il partait alors trouver une nouvelle personne à interroger.

Le Moment "Eurêka !" : Apprendre de Peu d'Indices

L'article teste ce détective sur trois différents "scènes de crime" issues du monde réel de la science : la physique, la chimie et la biologie.

La Physique (Les Lois de la Force) : L'agent devait découvrir la force invisible qui attire deux particules l'une vers l'autre. Certaines forces semblent identiques de près, mais se comportent très différemment de loin. Le MDA a rapidement compris que pour faire la différence, il devait lancer une sonde au loin. En choisissant cette expérience spécifique à longue portée, l'agent a eu un moment "Eurêka !". Les données ont soudainement fait ressortir la véritable loi parmi toutes les fausses, et l'agent a appris la formule correcte en seulement quelques essais.
La Chimie (Vitesses Enzymatiques) : Ici, l'agent devait découvrir à quelle vitesse une réaction chimique se produit en fonction de la température, du pH et des quantités d'ingrédients. D'autres méthodes d'IA tentaient simplement d'ajuster parfaitement les chiffres, créant des formules complexes et absurdes qui semblaient correctes mais n'avaient aucun sens physique. Le MDA, cependant, a trouvé la règle chimique simple et réelle. Il était beaucoup plus rapide pour apprendre la vérité, nécessitant beaucoup moins d'expériences que les autres méthodes pour réussir.
La Biologie (Pics de Neurones) : C'était le test le plus difficile. L'agent devait comprendre comment un seul neurone du cerveau émet des signaux électriques. Les données étaient bruyantes et désordonnées, comme essayer d'entendre un murmure dans une tempête. Le MDA a utilisé une astuce ingénieuse : au lieu d'essayer de correspondre à chaque infime oscillation de la tension, il a regardé l'ensemble du tableau, comme compter le nombre de fois où le neurone "décharge". Il a conçu des expériences qui déclencheraient des comportements spécifiques, lui permettant d'identifier les canaux cachés à l'intérieur du neurone qui provoquaient les signaux.

Les Résultats : Travailler Plus Intelligemment, Pas Plus Dur

L'article démontre que le MDA est nettement plus efficace en termes de données que les autres méthodes. En termes simples, il apprend la même quantité de vérité avec beaucoup moins d'expériences. Sur les tests de physique et de chimie, le MDA a atteint une grande précision avec seulement environ 8 expériences, tandis que les autres agents d'IA en avaient besoin de dizaines, voire de centaines, pour s'en approcher.

De manière cruciale, l'article soutient que posséder une IA puissante capable de deviner des formules ne suffit pas. Si vous laissez simplement une IA deviner et ajuster les données, elle trouve souvent des solutions excessivement complexes — des mathématiques compliquées qui semblent parfaites mais qui sont physiquement fausses. Le MDA évite cela en utilisant la "Valeur de l'Information" pour concevoir des expériences qui tranchent spécifiquement les égalités entre les théories concurrentes. Il force le système à révéler sa véritable nature.

L'auteur montre également que cette méthode fonctionne même lorsque les données sont bruitées et que le véritable mécanisme est quelque chose que l'IA n'a jamais vu auparavant. En combinant la capacité du LLM à imaginer de nouvelles possibilités avec la capacité du statisticien à les tester rigoureusement, le MDA peut découvrir de nouvelles lois scientifiques avec une fraction des données habituellement requises. Il ne s'agit pas seulement d'être plus rapide ; il s'agit d'être capable de trouver la vérité quand les indices sont rares et que le bruit est assourdissant.

Résumé Technique : Agent de Découverte de Modèles (MDA - Model Discovery Agent)

Énoncé du Problème

Le défi central abordé est la découverte efficiente en données de modèles du monde mécanistes capables de répondre à des questions interventionnelles de type « et si » (par exemple, prédire le résultat d'un médicament jamais administré ou d'une politique jamais mise en œuvre). Bien que les données observationnelles passives puissent ajuster des courbes flexibles, elles laissent souvent les mécanismes sous-jacents non identifiés en raison de la dégénérescence ; des structures causales distinctes peuvent s'accorder sur toutes les données observées tout en divergeant sous l'effet d'une intervention.

La découverte scientifique nécessite l'identification de ces mécanismes latents, mais les expériences sont coûteuses. Le problème opérationnel est l'efficience des données : identifier le mécanisme correct avec le moins d'interventions possible. De plus, la découverte scientifique se produit souvent dans un cadre M-ouvert (M-open), où le véritable mécanisme peut se trouver en dehors de la classe d'hypothèses actuelle. Les méthodes bayésiennes standards peinent dans ce contexte, car elles ne peuvent pas étendre l'espace des hypothèses lorsque le meilleur modèle actuel échoue.

Méthodologie : L'Agent de Découverte de Modèles (MDA)

Le MDA couple un Grand Modèle de Langage (LLM) avec une machinerie bayésienne standard pour opérer dans un cycle fermé de découverte et de conception. Le système opère en trois étapes principales par cycle :

1. Génération et Expansion d'Hypothèses (Le Proposeur)

Le LLM comme Proposeur : Étant donné une description en langage naturel du domaine et les données observationnelles actuelles (incluant les erreurs résiduelles), un LLM propose des structures mécanistes candidates (modèles).
Adaptation M-ouverte : L'agent utilise un contrôle prédictif. Si la meilleure hypothèse actuelle (modèle MAP) échoue à un test de prévision interventionnelle hors échantillon (l'erreur résiduelle $r^*$ dépasse un seuil $\tau_r$ ), le système déclenche une expansion M-ouverte. Le LLM est sollicité pour proposer un nouveau mécanisme, jusqu'alors non considéré, doté de priors larges. Cela permet à l'agent de découvrir de nouvelles connaissances plutôt que d'être confiné à une bibliothèque fixe.
Gestion du Pool d'Hypothèses : Inversement, si la distribution a posteriori se concentre sur un modèle bien ajusté, la taille du pool est réduite pour éviter la prolifération d'hypothèses quasi-duplicata.

2. Inférence Bayésienne (SMC)

Monte Carlo par Échantillonnage Séquentiel (SMC) : L'agent maintient une distribution a posteriori sur les modèles $p(m|D)$ et leurs paramètres $p(\theta|m, D)$ . Celle-ci est calculée à l'aide d'une méthode SMC à tempérage adaptatif.
Calcul de l'Évidence : La vraisemblance marginale (évidence du modèle) $Z_m$ est calculée pour chaque candidat. Cette intégration sur les paramètres fournit une pénalité de Rasoir d'Occam automatique, favorisant les modèles plus simples qui s'ajustent bien aux données.
Gestion des Vraisemblances Intraitables : Pour les systèmes stochastiques (par exemple, les neurones avec un bruit de canal) où la vraisemblance est intractable, le MDA utilise l'Inférence Basée sur la Simulation (SBI). Il emploie des filtres à particules bootstrap ou apprend des vraisemblances synthétiques via des statistiques de résumé (par exemple, les comptes de pics) pour approximer l'a posteriori.

3. Conception d'Expériences (Valeur de l'Information)

Maximisation de la VoI : Au lieu d'une exploration aléatoire ou d'une exploitation gloutonne, l'agent sélectionne la prochaine expérience $\xi$ en maximisant la Valeur de l'Information (VoI).
Discrimination de Mécanismes : L'objectif de la VoI est définie comme l'information mutuelle entre la classe de modèles et le résultat de l'expérience : $\xi^* = \arg\max_\xi I(M; Y_\xi | D)$ . En pratique, pour un bruit d'observation gaussien, cela revient à maximiser la variance entre les classes des moyennes prédictives. L'agent choisit l'intervention où les croyances actuelles sur différents mécanismes divergent le plus, maximisant ainsi le gain d'information pour distinguer ces mécanismes.

Contributions Clés

Le Cadre MDA : Une nouvelle architecture d'agent qui intègre la génération d'hypothèses par LLM avec l'inférence séquentielle bayésienne et la conception d'expériences basée sur la Valeur de l'Information.
Découverte M-ouverte : Une méthode pour gérer le régime « M-ouvert » où la vérité est hors de la classe d'hypothèses. En utilisant des contrôles prédictifs pour déclencher l'expansion des hypothèses pilotée par LLM, le système peut découvrir de nouveaux mécanismes et les affiner via des expériences conçues.
Nouveau Benchmark (NEURONBENCH) : La création d'un nouveau benchmark pour l'électrophysiologie neuronale à cellule unique présentant une observabilité partielle, de la stochasticité (via le bruit de canal) et des mécanismes cachés qui ne peuvent être rappelés de la mémoire, comblant ainsi les lacunes des benchmarks existants.
Performance de l'État de l'Art : Démonstration d'une efficience des données et d'une précision de prévision interventionnelle supérieures dans les domaines de la physique, de la chimie et de la biologie par rapport aux bases de référence de type LLM pur et aux méthodes précédentes de l'état de l'art.

Résultats Expérimentaux

Le MDA a été évalué sur trois benchmarks :

FORCEBENCH (Physique) : Découverte de lois de force inconnues (ex: Yukawa, Coulomb) dans des systèmes de particules en 2D. Le MDA a obtenu un avantage d'efficience des données d'environ 5x par rapport aux agents LLM purs, atteignant la même précision avec 8 expériences là où les bases de référence LLM non throttlées en nécessitaient environ 41. Il a réussi à récupérer les formes symboliques exactes dans 74 % des cas, contre 31 % pour la base de référence.
CHEMBENCH (Chimie) : Découverte de lois de vitesse de cinétique enzymatique à partir de 7 entrées contrôlables. Le MDA a atteint son plafond de performance en environ 8 expériences (56 % de précision symbolique), tandis que l'état de l'art précédent (LLM-AutoSciLab) a nécessité 60 expériences pour n'atteindre que 42 %. Crucialement, le MDA a évité la pathologie « haute précision numérique / faible précision symbolique » où les bases de référence ajustent des nombres avec des expressions non physiques.
NEURONBENCH (Biologie) : Découverte de mécanismes de canaux ioniques dans des modèles de Hodgkin-Huxley. Le MDA a nettement surpassé la prévision par LLM en contexte et le design aléatoire. Dans la variante stochastique (NEURONBENCHSTOCH), le MDA a géré avec succès les vraisemblances intraitables en utilisant des filtres à particules et en apprenant des statistiques de résumé, atteignant une sélection de modèle robuste là où les vraisemblances déterministes échouaient de manière catastrophique.

Signification et Revendications

L'article affirme que la découverte et la conception se renforcent mutuellement : l'étape de conception d'expérience identifie les nouveaux mécanismes proposés par l'étape de découverte, et les mécanismes identifiés améliorent les prédictions, permettant la détection de résidus subtils qui déclenchent de nouvelles découvertes.

L'auteur soutient que le MDA établit un nouvel état de l'art (SOTA) en matière d'apprentissage de modèles efficient en données et de prévision interventionnelle fiable. La signification réside dans le passage au-delà de l'ajustement de courbes passif ou des approches purement génératives de LLM vers un système qui raisonne activement sur l'incertitude, étend son propre espace d'hypothèses lorsque nécessaire, et conçoit des expériences spécifiquement pour briser les dégénérescences entre des modèles causaux concurrents. Ce travail démontre que la combinaison des connaissances a priori des LLM avec une inférence bayésienne rigoureuse produit un moteur de découverte scientifique robuste, interprétable et hautement efficient en termes d'échantillonnage.