Auditing Discovery Claims: A Two-Sided Criterion for Agentic Science, with the Negative Side Decidable

Résumé Technique : Audit des Revendications de Découverte dans la Science Agentique

Énoncé du Problème
Le document traite de la difficulté de valider les revendications faites par des systèmes d'IA auto-améliorés dans le cadre de la découverte scientifique. Lorsque de tels agents revendiquent une nouvelle capacité (par exemple, la conception d'ARN avec des structures de pseudonoeuds), les preuves se limitent généralement à des deltas de benchmarks, des barrières de longueur de description ou des p-values. Ces mesures ne parviennent pas à distinguer une véritable acquisition de capacité des artefacts tels que :

• Le "gaming" d'oracle (Oracle gaming) : L'agent sur-optimise pour un prédicteur spécifique et faillible.
• L'intensité de recherche (Search intensity) : Une amélioration des performances due à une recherche plus intense plutôt qu'à de nouveaux principes.
• La mémorisation (Memorization) : Le rappel de solutions pour des cibles spécifiques plutôt que l'apprentissage d'une règle généralisable.
• Les décalages de vérification (Verifier shifts) : Des changements de performance résultant d'un changement de norme de vérification plutôt que de la politique de l'agent.

Les auteurs soutiennent que les méthodes actuelles manquent d'un critère à deux côtés qui soit décidable d'au moins un côté pour séparer les gains réels de ces facteurs de confusion.

Méthodologie : L'Audit à Deux Côtés
Les auteurs proposent un cadre d'audit formel appliqué au domaine de la conception inverse de l'ARN, ciblant spécifiquement les structures de croisement (pseudonoeuds). L'audit est asymétrique, composé d'un côté négatif et d'un côté positif :

1. Le Côté Négatif (Décidable/Exact) :

   • Base Formelle : Utilise la hiérarchie de Chomsky. Les structures d'ARN imbriquées sont contextuelles (Context-Free - CF), tandis que les structures de croisement (pseudonoeuds) sont faiblement sensibles au contexte (Mildly Context-Sensitive - MCS).
   • Théorème : Un oracle de repliement sans pseudonoeud ($\Omega_{cf}$) possède une portée de représentation strictement confinée aux structures imbriquées ($L_{nest}$). Il est formellement impossible pour cet oracle de certifier une paire de croisement.
   • Mécanisme d'Audit : Avant toute exécution, les auteurs prouvent qu'une politique préalable vérifiée uniquement par $\Omega_{cf}$ possède un langage de cibles réalisables $R_{\Omega_{cf}}(\pi_{before})$ qui est disjoint de l'ensemble des cibles de croisement ($L_{pk}$). Cela fournit une limite exacte et hors ligne : le système antérieur ne pouvait pas certifier ces cibles, quel que soit le budget de recherche.

2. Le Côté Positif (Relatif au Modèle/Adjudiqué) :

   • Adjudication : Puisque les structures de croisement ne peuvent pas être vérifiées par un seul oracle exact, les auteurs utilisent un panel de trois prédicteurs heuristiques (pKiss, ProbKnot, ShapeKnots).
   • Protocole :
     • Engagement Scellé : L'agent s'engage sur une conception (gelée par hash) après l'optimisation en boucle, mais avant l'exécution de l'adjudicateur tenu à l'écart. Cela empêche la sélection a posteriori.
     • Abstention : Si les trois prédicteurs sont en désaccord, la cible est marquée comme "non résolue" (abstention), empêchant la conversion des artefacts de modélisation en capacités revendiquées.
     • Métriques : L'audit rapporte un vecteur de six composantes ($E_{range}, \Delta_{prior}, \Delta_{gamer}, \Delta_{undirected}, \Delta_{held-out}, g_{aut}$), distinguant les théorèmes exacts, les gains empiriques et les tests d'attribution.

3. Configuration Expérimentale :

   • Pool de Cibles : 60 cibles de croisement provenant de Pseudobase++ (pool de développement/évaluation) et un pool structurellement disjoint de 27 cibles.
   • Baselines : Un opérateur "gamer" optimisé pour un seul oracle (pKiss), un solveur d'énergie libre minimale (DesiRNA), et un opérateur écrit par un humain.
   • Invention de l'Agent : Un agent LLM reçoit des primitives pour écrire un opérateur sans solveur, qui est ensuite gelé et audité.

Contributions Clés

1. Un Critère à Deux Côtés : Un cadre formel pour auditer l'acquisition de capacités qui sépare le "peut maintenant" (gain empirique) du "ne pouvait pas être certifié auparavant" (exclusion décidable).
2. Formalisation du Langage de Cibles Réalisables : Définir $R_{\Omega}(\pi)$ comme l'ensemble des cibles qu'une politique peut réaliser sous un oracle, permettant l'application des lemmes de pompage pour contraindre le langage des structures plutôt que le code de l'opérateur.
3. Démonstration du "Gaming" d'Oracle : Preuve empirique montrant comment un oracle unique peut gonfler les revendications de capacité (par exemple, 43/60 succès sous un prédicteur, tombant à 1/60 sous un panel de trois prédicteurs).
4. Porte d'Attribution à Deux Étapes : Un protocole pour distinguer la corrélation de la causalité en identifiant d'abord les propriétés qui diffèrent entre les systèmes, puis en intervenant (transplantation) pour vérifier la causalité.
5. Résultats Empiriques sur le Code Écrit par l'Agent : Preuve que des opérateurs gelés, écrits par des agents, peuvent surpasser les opérateurs écrits par des humains sous un adjudicateur tenu à l'écart, même avec moins d'appels d'oracle, bien que le mécanisme spécifique reste non identifié.

Résultats

• Mesure du Gaming d'Oracle : Un opérateur inventé optimisé pour pKiss a obtenu 43/60 succès. Lors d'une ré-adjudication par un prédicteur tenu à l'écart (ProbKnot), seuls 2/43 ont survécu ; sous le panel complet de trois prédicteurs, seul 1/60 a survécu. Cet effondrement de 43 $\to$ 1 démontre que les métriques à un seul oracle sont insuffisantes.
• Audit du Système des Auteurs : L'opérateur des auteurs, optimisé pour le "panel", a atteint 3–8/60 succès cohérents avec le panel mixte (moyenne de 3,29) sur le pool de développement, nettement au-dessus du plancher de 0/60 du contexte sans forme (context-free). Cependant, le gain était étroit :
  • $\Delta_{gamer}$ : L'opérateur a surpassé le "gamer" à un seul oracle, mais l'ampleur de l'effet a diminué à mesure que la réplication augmentait.
  • $\Delta_{undirected}$ : La recherche non guidée était indiscernable de l'opérateur guidé, suggérant que le gain provient du prédicat de succès (conjonction d'oracles) plutôt que de la guidance de recherche.
  • Sonde sans Recherche : 84 % des succès de l'opérateur se sont produits sur des cibles où une séquence compatible aléatoire résolvait déjà la cible, indiquant que l'opérateur ne résout pas les cas "difficiles".
• Contrôle Positif (Opérateurs Écrits par l'Agent) : Les opérateurs gelés écrits par des LLM de pointe (spécifiquement deux des six modèles ayant fonctionné sans timeout) ont atteint un taux de transfert de 0,293 vers le prédicteur tenu à l'écart (ShapeKnots) contre 0,095 pour l'opérateur humain.
  • Cette différence a été établie (D1) et montrée comme n'étant pas achetée par la puissance de calcul (D2), car les agents ont utilisé 4,6 à 10 fois moins d'appels d'oracle.
  • Mécanisme (D3) : Sept mécanismes candidats (incluant des caractéristiques structurelles et des écarts d'ensemble) ont été transplantés dans l'opérateur humain, mais aucun n'a reproduit l'avantage de l'agent. Le mécanisme reste non identifié.

Signification et Revendications
Le papier affirme qu'il n'y a aucune nouvelle découverte scientifique, car le mécanisme derrière le succès de l'agent n'est pas identifié (D3 n'est pas atteint). La signification réside plutôt dans l'instrument d'audit lui-même :

1. Rigueur vs Insensibilité : L'audit distingue avec succès un système qui est véritablement capable d'un système qui est simplement insensible aux modes de défaillance d'un seul oracle. L'effondrement 43 $\to$ 1 prouve que l'instrument détecte la sur-optimisation.
2. Non-Utilisation Vérifiée : L'audit confirme que les opérateurs écrits par l'agent ont obtenu leurs résultats sans appeler de solveurs de conception inverse packagés, établissant une capacité "sans solveur" par rapport à la classe d'outils déclarée.
3. Acquisition de Capacité Modeste : Le papier établit que certains opérateurs écrits par des agents peuvent franchir un seuil strict (D1 et D2) avec une fraction du coût de calcul, mais il refuse explicitement de revendiquer une "ascension autonome robuste" ou une "découverte" car le mécanisme est inconnu et le résultat est limité à des modèles spécifiques et un seul pool de benchmarks.
4. Limitations : Les auteurs reconnaissent que les prédicteurs du panel partagent des paramètres thermodynamiques (modèles de voisins proches), ce qui limite l'indépendance de l'adjudication. Ils déclarent qu'un prédicteur issu d'une classe de modèle différente est la prochaine étape nécessaire pour une affirmation plus forte.

En résumé, le papier fournit un protocole d'audit rigoureux à deux côtés qui expose la fragilité des revendications basées sur un seul oracle dans la science par IA et démontre que, bien que des procédures écrites par des agents puissent surpasser les bases humaines sous des conditions strictes, les mécanismes sous-jacents de telles améliorations restent souvent opaques et non attribuables.