Résumé Technique : Sélection de Preuves Augmentée par Traces d'Inspiration Quantique pour le Raisonnement sur des Espaces d'Hypothèses Structurés

1. Énoncé du Problème

Les grands modèles de langage (LLM) ont atteint des performances de niveau humain ou supérieur lors d'examens d'experts généraux, mais restent fragiles dans les domaines spécialisés et intensifs en preuves, tels que le droit. Dans ces domaines, les erreurs ne proviennent pas d'un manque de connaissances mondiales, mais de distinctions subtiles entre les pièces de preuves et de l'application incohérente des faits de soutien.

L'approche prédominante pour améliorer le raisonnement consiste à échantillonner plusieurs traces de Chaîne de Pensée (Chain-of-Thought - CoT) et à les agréger via un vote majoritaire. Cependant, le vote majoritaire est fondamentalement défectueux pour les tâches intensives en preuves car il privilégie la réponse la plus populaire, indépendamment de la force de la preuve sous-jacente. Cette approche échoue à récupérer les réponses correctes qui sont soutenues par des preuves de haute qualité mais qui apparaissent dans une minorité de traces (le problème de la "majorité bruyante"). De plus, les modèles de pointe présentent souvent des biais latents (par exemple, le biais de position) qui ne sont pas atténués par une simple agrégation.

Le papier postule que la sélection de fragments de raisonnement doit être traitée comme un problème d'optimisation combinatoire explicite plutôt que comme un exercice statistique de vote. L'objectif est d'identifier un sous-ensemble de fragments de preuves qui soutient de manière maximale une hypothèse sur la base de métriques de qualité (pertinence, spécificité, distinction) plutôt que sur la fréquence, permettant ainsi aux hypothèses minoritaires mais bien soutenues de supplanter les majorités bruyantes.

2. Méthodologie : Le Cadre EP-HUBO

Les auteurs introduisent l'EP-HUBO (Evidence Pool Higher-Order Binary Optimisation), un pipeline en quatre phases conçu pour agréger les fragments de raisonnement tout en préservant les hypothèses minoritaires mais correctes. Le cadre est formulé comme un problème d'Optimisation Binaire Non Contrainte d'Ordre Supérieur (HUBO), soluble sur du matériel classique et quantique.

Phase 1 : Génération de Traces Locales

Un LLM local plus petit et en open-weights (par exemple, Qwen3.5-35B ou OSS-20B) génère $N$ traces CoT indépendantes par question. Cette phase est rentable et évite les coûts d'API élevés liés à l'utilisation de modèles de pointe pour la génération initiale des traces.

Phase 2 : Mise en Commun des Preuves et Notation des Fragments

Les traces sont regroupées par leur réponse finale extraite en pools de preuves ($P_\ell$). Chaque pool contient des fragments de raisonnement dérivés des traces ayant conclu par une hypothèse spécifique.

• Extraction de Fragments : Les fragments sont extraits du texte brut en utilisant des règles déterministes et des filtres de qualité (par exemple, nombre de mots minimum, présence d'entités).
• Notation de Qualité : Un LLM local note chaque fragment selon trois dimensions :
  1. Pertinence ($r_i$) : Connexion avec la question.
  2. Spécificité ($s_i$) : Présence de faits concrets, de statuts ou d'entités nommées.
  3. Distinction ($d_i$) : Contribution logique non impliquée par d'autres fragments.
• Pondération : Crucialement, ces poids sont découplés de la popularité. Ils ne dépendent pas de la fréquence du fragment à travers les traces, contrairement aux approches précédentes basées sur QUBO (par exemple, QCR-LLM) qui utilisaient la fréquence du fragment comme un coefficient primaire.

Phase 3 : Optimisation HUBO

Pour chaque pool de preuves, le système résout un problème HUBO pour sélectionner un sous-ensemble de fragments ($S_\ell$) qui minimise une fonction d'énergie $H_\ell(x_\ell)$ :
$$H_\ell(x_\ell) = \sum w^{(1)}_i x_i + \sum w^{(2)}_{ij} x_i x_j + \sum w^{(3)}_{ijk} x_i x_j x_k$$

• Termes à 1 corps ($w^{(1)}$) : Dérivés des scores de qualité ($r, s, d$).
• Termes à 2 corps ($w^{(2)}$) : Pénalisent les contradictions et récompensent le soutien entre les fragments.
• Termes à 3 corps ($w^{(3)}$) : Récompensent la cohérence et pénalisent l'affaiblissement de l'hypothèse.
• Contraintes : L'optimisation est soumise à une contrainte de cardinalité ($\|x\|_1 = K$), où $K$ est ajusté dynamiquement en fonction de la diversité des fragments intra-pool (distance de Jaccard).
• Solveur : Le problème est résolu en utilisant le Recuit Simulé (Simulated Annealing - SA) sur du matériel classique ou la machine quantique photonique à entropie Dirac-3 de Quantum Computing Inc. (QCi). La Dirac-3 permet de résoudre directement les termes d'ordre supérieur sans l'overhead de quadratiquation requis par le matériel à portes logiques ou à recuit comme D-Wave.

Phase 4 : Adjudication par Modèle de Pointe

Un seul appel est fait à un puissant LLM de pointe (par exemple, Claude Sonnet 4.6 ou Opus 4.6). Le modèle reçoit la question, toutes les options, et les sous-ensembles de preuves sélectionnés par HUBO pour chaque réponse candidate, étiquetés par leurs hypothèses respectives. Le modèle de pointe agit comme un adjudicateur, sélectionnant l'option la plus fortement soutenue par l'ensemble de preuves optimisé.

3. Contributions Clés

1. Cadre EP-HUBO (Evidence-Pool HUBO) : Le papier définit une formulation de problème augmentée par traces où la sélection de preuves est un problème d'optimisation combinatoire structuré. Il introduit une stratégie d'optimisation par pool d'hypothèses qui permet aux hypothèses minoritaires de rivaliser efficacement contre les signaux majoritaires.
2. Analyse Théorique : Les auteurs fournissent une analyse théorique prouvant que :
   • Les poids HUBO sont indépendants de la taille du pool de traces (contrairement aux méthodes basées sur la fréquence).
   • La décomposition par pool est mathématiquement équivalente à une optimisation jointe sous invariance par permutation.
   • Le cadre peut récupérer les prédictions du vote majoritaire si les poids sont réglés pour refléter la fréquence, mais privilégie par défaut la sélection basée sur la qualité.
   • La méthode fournit une borne inférieure pour atténuer les biais de l'adjudicateur (par exemple, le biais de position).
3. Évaluation Empirique : L'étude évalue EP-HUBO sur deux benchmarks juridiques (MMLU-Pro Law et LEXam) en utilisant à la fois le recuit simulé classique et la machine quantique Dirac-3. Elle utilise deux générateurs de traces locaux différents et deux adjudicateurs de pointe.

4. Résultats Expérimentaux

Performance sur MMLU-Pro Law (Common Law)

• vs. Vote Majoritaire (MV) : EP-HUBO surpasse significativement le MV. Avec l'adjudicateur Opus et les traces Qwen-35B, il a obtenu un gain de +12,6 points de pourcentage (pp). Avec les traces OSS-20B, le gain est de +27,9 pp.
• vs. Zero-Shot (ZS) : EP-HUBO apporte des gains mesurables par rapport aux appels directs aux modèles de pointe. Avec Opus, il a amélioré la précision ZS de +1,5 pp (traces Qwen-35B) et de +0,7 pp (traces OSS-20B).
• Précision HUBO : La précision (ratio de victoires sur le total des désaccords avec ZS) a dépassé 50 % pour la plupart des configurations, indiquant que lorsque HUBO est en désaccord avec le modèle zero-shot, il est plus susceptible d'être correct.

Performance sur LEXam (Droit Suisse/International)

LEXam sert de benchmark à faible contamination avec des données d'entraînement limitées pour les modèles de pointe.

• Atténuation du Biais : Le modèle Zero-shot Claude Sonnet 4.6 a montré un sévère biais de position, sélectionnant l'option "E" dans 87,7 % des cas (contre ~13 % pour la vérité terrain), ce qui entraînait une précision de 22,3 %.
• Impact d'EP-HUBO : En sélectionnant les preuves, EP-HUBO a réduit ce biais. Avec les traces Qwen-35B, HUBO+Sonnet a atteint 42,5 % de précision (un gain de +20,2 pp sur le ZS Sonnet) avec une précision HUBO de 92,0 %.
• vs. Vote Majoritaire : Sur LEXam, le MV était souvent faible en raison de la difficulté du domaine pour les modèles locaux. EP-HUBO avec Opus a obtenu +23,2 pp par rapport au MV (traces OSS-20B).

Résolution Quantique vs Classique

• LEXam : Le solveur quantique Dirac-3 a produit des résultats compétitifs avec le Recuit Simulé classique. Dans certaines configurations (ex: Qwen-35B + Opus), le solveur quantique a légèrement dépassé le SA classique (+1,0 pp).
• MMLU-Pro Law : Le solveur quantique a sous-performé le SA classique de 5 à 8 pp. Les auteurs attribuent cela à la limite de 135 variables de la Dirac-3 pour les objectifs d'ordre trois. Lorsque le pool de fragments dépassait cette limite, le système devait tronquer le graphe d'interaction, alors que le solveur classique opérait sur l'ensemble complet et non tronqué du paysage HUBO.

5. Signification et Revendications

Le papier affirme qu'EP-HUBO offre une manière principled d'agréger les fragments de raisonnement qui préserve les hypothèses minoritaires mais correctes, ce qui est particulièrement précieux dans les domaines à faible contamination où les modèles de pointe n'ont pas encore absorbé le matériel du benchmark.

• Découplage de la Popularité : La signification centrale réside dans le passage de la logique d'agrégation de "ce qui est le plus commun" à "ce qui est le mieux soutenu", permettant au système de supplanter les majorités bruyantes.
• Exposition du Biais : Le cadre expose et atténue les idiosyncrasies spécifiques des modèles de pointe, comme le sévère biais de position observé sur Claude Sonnet pour les questions de droit suisse.
• Utilité Quantique : Le travail démontre que les solveurs HUBO d'inspiration quantique peuvent être compétitifs avec les méthodes classiques dans des domaines spécialisés, à condition que les contraintes matérielles (comme les limites de variables) soient gérées. Cependant, les auteurs restent modestes quant à l'avantage quantique, notant qu'il est actuellement comparable au SA classique et limité par la capacité du matériel.
• Déploiement Pratique : Les auteurs soulignent que bien qu'EP-HUBO améliore la précision et réduise le biais, il ne supprime pas la nécessité d'une revue humaine dans les secteurs réglementés, car la transparence et les journaux d'audit des preuves sélectionnées restent des garde-fous critiques.

Le papier conclut que la méthode est plus efficace lorsque le générateur de traces locales produit des pools de preuves diversifiés et que l'adjudicateur de pointe est suffisamment fort pour synthétiser les preuves optimisées, mais pas trop fort pour avoir déjà mémorisé le benchmark (faible contamination).