Résumé technique : Recherche hiérarchique guidée par LLM pour la récupération intensive en raisonnement

Énoncé du problème

Les systèmes de recherche modernes sont de plus en plus confrontés à des requêtes intensives en raisonnement, où la pertinence dépend de relations complexes, d'arguments ou de chaînes d'inférence entre la requête et le document, plutôt que d'un vocabulaire de surface ou d'une similarité thématique. Le paradigme de récupération standard — un récupérateur basé sur des embeddings peu coûteux suivi d'un reranker LLM — échoue dans ce contexte. Des benchmarks récents (par exemple, BRIGHT) démontrent que même les modèles d'embeddings les plus avancés échouent souvent à placer les documents pertinents dans le top-$k$ lorsque la pertinence nécessite un raisonnement profond. Par conséquent, le reranker ne peut pas récupérer les documents manqués par le récupérateur.

Les tentatives existantes pour résoudre ce problème en repoussant le LLM « en amont » (via la réécriture de requêtes ou des boucles agentiques) restent fragiles. Dans ces approches, le LLM interagit indirectement avec le corpus via le même récupérateur d'embeddings bruyant. Si le récupérateur échoue à faire émerger de nouvelles informations véritablement nouvelles, les boucles agentiques du LLM renforcent souvent ses propres croyances paramétriques plutôt que de les corriger. De plus, les pipelines plats de récupération suivie de reranking ignorent la structure hiérarchique inhérente de nombreux corpus (par exemple, les sections de Wikipédia, les passages de documents), contraignant le LLM à évaluer des passages hors contexte.

Méthodologie : LATTICE

Les auteurs proposent LATTICE (Recherche hiérarchique guidée par LLM), un paradigme où un LLM interagit directement avec le corpus via un index de recherche hiérarchique navigable, éliminant le modèle d'embeddings de la boucle de recherche. Le système se compose de deux phases principales :

1. Hors ligne : Construction d'index hiérarchique descendant

Contrairement aux travaux antérieurs (par exemple, RAPTOR) qui construisent des index de manière ascendante en utilisant un clustering basé sur des embeddings, LATTICE construit l'index descendant en utilisant des jugements de LLM.

• Résumé hiérarchique : Chaque document est prétraité en $k$ niveaux de résumés avec une spécificité croissante (d'un sujet de 1 à 2 mots à une phrase complète). Cela crée une interface économe en tokens et adaptable à la profondeur.
• Partitionnement récursif : En partant d'un nœud racine contenant tous les documents, l'algorithme partitionne récursivement les clusters. Pour un nœud donné, le LLM reçoit des résumés multi-niveaux des feuilles et est invité à les organiser en $M$ sujets cohérents.
• Adaptation dynamique : Le système sélectionne le niveau de résumé approprié en fonction de la taille du cluster et du budget de contexte du LLM, assurant des distinctions grossières à la racine et des distinctions fines plus profondément dans l'arbre.
• Construction hybride : Pour les très grands corpus ou ceux possédant des hiérarchies naturelles (par exemple, Wikipédia), un passage ascendant peut générer des clusters initiaux grossiers, qui sont ensuite affinés par le processus descendant du LLM.

2. En ligne : Parcours calibré et agrégé par chemin

Au moment de la requête, un LLM de recherche effectue une recherche de frontière en premier meilleur sur l'arbre. Pour faire face au bruit et à la dépendance au contexte du scoring par LLM, LATTICE introduit deux mécanismes clés :

• Calibration inter-branches : Pour atténuer la « dépendance à la liste » (où le score d'un LLM pour un nœud change en fonction de ses frères), l'invite de recherche inclut des nœuds de référence tirés d'autres branches de l'arbre. Cela fournit une base stable pour la comparaison entre différents chemins de recherche.
• Scoring agrégé par chemin : Les scores bruts du LLM sont bruyants et locaux. LATTICE ajuste un modèle de score latent à l'historique de tous les scores pour éliminer le biais spécifique à la liste. Il accumule ensuite ces scores latents le long du chemin de la racine vers la feuille en utilisant une moyenne mobile exponentielle. Cela garantit que la recherche est guidée par des preuves cumulatives plutôt que par une décision locale unique.

Contributions clés

1. Un nouveau paradigme de recherche : LATTICE déplace le LLM d'un vérificateur post-récupération à un agent de parcours actif, éliminant le goulot d'étranglement des embeddings pour les tâches intensives en raisonnement.
2. Construction d'index descendante : L'article démontre que la construction descendante utilisant les jugements de LLM sur des résumés multi-niveaux produit un index plus navigable que le clustering d'embeddings ascendant, en particulier pour séparer des documents conceptuellement distincts mais lexicalement similaires.
3. Mécanismes de parcours robustes : L'introduction de la calibration inter-branches et du scoring agrégé par chemin permet aux LLMs prêts à l'emploi de parcourir de grands arbres de manière fiable, surmontant le bruit inhérent et la dépendance à la liste du scoring par LLM listwise.

Résultats expérimentaux

Les auteurs évaluent LATTICE sur le benchmark BRIGHT (récupération intensive en raisonnement) et des jeux de données IR traditionnels (BEIR).

• Performance BRIGHT :

  • LATTICE de base : En utilisant un seul LLM zero-shot (Gemini-3-Flash) sans ensembling, LATTICE atteint 46,7 nDCG@10. Cela correspond ou dépasse les meilleures bases d'ensemble finement ajustées (par exemple, BGE-Reasoner-0928 à 46,4, DIVER v3 à 46,8) et surpasse nettement les bases zero-shot non ensemblistes.
  • LATTICE++ : Un ensemble léger fusionnant LATTICE avec BM25 et un récupérateur dense atteint 49,1 nDCG@10, établissant un nouvel état de l'art sur le benchmark.
  • Mise à l'échelle : LATTICE montre une mise à l'échelle supérieure au moment du test par rapport au reranking par fenêtre glissante. Alors que le reranking gagne avec des budgets de tokens faibles, LATTICE converge vers une asymptote plus élevée à mesure que le budget de tokens augmente, indiquant sa capacité à trouver des documents pertinents grâce à une exploration plus profonde.
  • Efficacité des coûts : LATTICE fonctionne efficacement avec des modèles à poids ouverts (par exemple, Qwen3.5-27B), atteignant des performances comparables aux modèles propriétaires à un coût par requête environ 4 fois inférieur.

• IR traditionnel :

  • Sur les jeux de données BEIR standards (SciFact, SciDocs, NQ), LATTICE reste compétitif, atteignant 75,8 nDCG@10 sur SciFact et 66,8 sur NQ (2,68 millions de documents). Cependant, les auteurs notent que pour ces tâches, le coût élevé par requête du parcours LLM n'est pas encore justifié par rapport aux pipelines standards de récupération suivie de reranking.

• Ablations :

  • La construction descendante surpasse nettement le clustering d'embeddings ascendant (par exemple, +12 nDCG@10 sur TheoremQA-T).
  • La calibration inter-branches est essentielle ; sans elle, les performances chutent d'environ 22 points.
  • La profondeur (plus d'itérations) est plus précieuse que la largeur (plus grande taille de faisceau) sous un budget de tokens fixe.

Importance et affirmations

L'article prétend démontrer la promesse d'un paradigme de recherche où un LLM interagit directement avec un corpus via une hiérarchie sémantique navigable, contournant les limitations de la récupération basée sur des embeddings pour les tâches intensives en raisonnement.

• Limitations : Les auteurs reconnaissent que LATTICE est mieux adapté aux applications où la latence est secondaire par rapport à la qualité (par exemple, recherche approfondie, QA juridique, QA technique) en raison du coût de calcul des appels LLM à chaque étape. Ils notent également que les index hiérarchiques statiques peinent avec les corpus dynamiques où des documents sont exclus par requête (une caractéristique de certains sous-ensembles BRIGHT), car les résumés précalculés deviennent obsolètes.
• Travaux futurs : L'article suggère que les directions futures incluent des mises à jour d'index localisées efficaces pour les corpus dynamiques et la distillation de la politique de parcours dans des modèles plus petits.

En résumé, LATTICE fournit une alternative viable au pipeline standard de récupération suivie de reranking pour les tâches de raisonnement complexes, prouvant qu'un LLM peut agir efficacement à la fois comme indexeur et comme chercheur lorsqu'il est doté d'un outil de navigation sémantique correctement structuré.