🤖 AI

CAMI: Cost-Aware Agent-Guided Multi-Indexing for Semantic Retrieval

CAMI est un cadre sensible aux coûts qui optimise la construction d'indices de recherche sémantique en traitant la sélection d'enrichissements comme un problème de portefeuille budgétisé, en utilisant la découverte agentique et l'élagage précoce pour identifier des configurations à haut rappel avec des coûts computationnels nettement inférieurs à une recherche exhaustive.

Auteurs originaux : Adnan Qidwai, Anand Eswaran, Sonam Mishra, Jaydeep Sen, Sachindra Joshi

Publié 2026-06-30

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Adnan Qidwai, Anand Eswaran, Sonam Mishra, Jaydeep Sen, Sachindra Joshi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de trouver la recette parfaite pour une soupe massive et complexe (vos « résultats de recherche ») en utilisant une immense bibliothèque d'ingrédients (votre « corpus de documents »).

Par le passé, vous auriez pu simplement tout jeter dans la marmite en espérant que cela fonctionne. Mais les systèmes de recherche modernes essaient d'être plus intelligents. Ils ne se contentent pas d'utiliser les ingrédients bruts ; ils créent des « exhausteurs de goût » (comme des résumés, des reformulations de questions ou des cartes mentales) pour chaque ingrédient avant même de commencer à cuisiner. Cela aide la soupe à avoir un meilleur goût et à correspondre à ce que le client (l'utilisateur) recherche réellement.

Cependant, il y a un énorme problème : fabriquer tous ces exhausteurs de goût coûte une fortune.

Si vous avez un million d'ingrédients et que vous essayez de créer cinq types différents d'exhausteurs de goût pour chacun d'eux en utilisant cinq chefs différents (modèles d'IA), vous allez manquer d'argent avant même d'avoir commencé à cuisiner. Vous ne pouvez pas simplement essayer toutes les combinaisons possibles pour voir laquelle a le meilleur goût ; la facture serait astronomique.

C'est là que CAMI intervient. Considérez CAMI comme un chef de cuisine intelligent et soucieux de son budget qui sait exactement comment trouver la meilleure recette de soupe sans gaspiller un seul dollar.

Voici comment fonctionne CAMI, décomposé en étapes simples :

1. La stratégie du « test de goût » (Évaluation multi-fidélité)

Au lieu de cuisiner une casserole entière de un million de gallons de soupe pour tester une nouvelle recette, CAMI cuisine d'abord une minuscule cuillère représentative.

La métaphore : Imaginez que vous vouliez tester si l'ajout de « paprika fumé » fonctionne. Vous ne cuisinez pas tout le lot. Vous cuisinez une petite tasse. Si le goût est mauvais, vous la jetez immédiatement. Si le goût est bon, alors vous passez à une plus grande casserole.
L'affirmation de l'article : CAMI teste ces « exhausteurs de goût » (appelés Représentations de Données Enrichies ou EDR) sur de petits sous-ensembles de données d'abord. Cela permet d'économiser énormément d'argent car cela arrête les mauvaises idées avant qu'elles ne deviennent coûteuses.

2. L'approche « Lego » (Unités atomiques)

Les anciennes méthodes essayaient de tester des recettes de soupe entières et pré-faites comme des blocs uniques et immuables. CAMI traite les ingrédients comme des briques Lego.

La métaphore : Au lieu de tester la « Recette A » (qui est un mélange fixe de paprika, de sel et d'oignon), CAMI teste la « Brique Paprika » et la « Brique Sel » séparément. Une fois qu'il sait que la « Brique Paprika » est bonne, il peut l'assembler à une « Brique Sel » plus tard sans avoir à re-tester le paprika de zéro.
L'affirmation de l'article : CAMI décompose le problème en « unités atomiques » (un type spécifique d'exhausteur de goût + un modèle d'IA spécifique). Il teste ces éléments individuellement, puis recombine les gagnants. Cela signifie qu'il ne gaspille pas d'argent à réévaluer des parties de la recette qu'il sait déjà fonctionner.

3. Le « Sous-chef Créatif » (Découverte agentique)

Habituellement, les chefs s'en tiennent à une liste d'ingrédients fixe (comme « résumé » ou « paraphrase »). Mais parfois, une soupe spécifique a besoin d'un ingrédient étrange et personnalisé que personne n'avait imaginé.

La métaphore : CAMI possède un assistant créatif (un agent d'IA) qui examine les ingrédients spécifiques de votre bibliothèque et dit : « Hé, pour cette soupe spécifique, nous devrions peut-être essayer un exhausteur de type 'lien causal' au lieu d'un résumé standard. »
L'affirmation de l'article : Le système utilise un agent d'IA pour inventer de nouveaux « exhausteurs de goût » personnalisés, adaptés spécifiquement aux données sur lesquelles il travaille, plutôt que d'utiliser simplement une liste générique et pré-établie.

4. Le « Gardien du Budget » (Recherche sensible au coût)

La chose la plus importante concernant CAMI est qu'il ne dépasse jamais son budget. Il a un budget strict pour les « tests de goût ».

La métaphore : Le chef de cuisine a un portefeuille. Chaque fois qu'ils essaient une nouvelle combinaison, de l'argent sort. Si une combinaison est trop chère ou n'a pas bon goût, elle est coupée immédiatement. Le chef ne dépense de l'argent que sur les combinaisons qui ont une réelle chance d'être les gagnantes.
L'affirmation de l'article : Le système utilise une méthode mathématique (appelée MO-ASHA) pour décider quelles idées valent la peine d'être testées ensuite. Il arrête de gaspiller de l'argent pour les idées qui sont peu susceptibles de réussir, garantissant ainsi le meilleur équilibre entre « Rappel vs Coût ».

Les Résultats : Qu'ont-ils trouvé ?

L'article a testé ce système sur plusieurs « recettes de soupe » difficiles (des ensembles de données comme des articles scientifiques, des données économiques et des Q&R techniques).

Un meilleur goût : CAMI a trouvé des recettes de soupe qui étaient jusqu'à 9,4 % meilleures pour trouver les bonnes réponses que les méthodes standards.
Des courses moins chères : Il a trouvé ces meilleures recettes en utilisant 5 fois moins d'argent que s'ils avaient simplement deviné au hasard ou essayé de tout tester.
Le point d'équilibre : Il a réussi à identifier la « Frontière de Pareto ». En langage clair, cela signifie qu'il a trouvé l'équilibre parfait où vous obtenez le maximum de « goût » (qualité de la recherche) pour le minimum d'« argent » (coût).

Résumé

CAMI est un système intelligent qui nous empêche de gaspiller de l'argent en essayant de perfectionner les moteurs de recherche. Au lieu d'essayer aveuglément toutes les combinaisons possibles de modèles d'IA et de résumés de texte, il :

Teste en petit pour économiser de l'argent.
Construit avec des blocs (en réutilisant les bonnes parties) au lieu de repartir de zéro.
Invente des outils personnalisés pour la tâche spécifique.
Arrête de dépenser dès qu'une idée semble mauvaise.

Le résultat est un système de recherche qui est à la fois plus intelligent et nettement moins cher à construire.

Résumé Technique : CAMI – Multi-Index Pratique Guidé par Agent et Sensible au Coût pour la Récupération Sémantique

1. Énoncé du Problème

Les systèmes de Génération Augmentée par Récupération (RAG) modernes s'appuient de plus en plus sur la Récupération Multi-Index pour atténuer le décalage lexical et structurel entre les requêtes des utilisateurs et les documents sources. Cette approche implique la génération de Représentations de Données Enrichies (EDR) — telles que des résumés synthétiques, des paraphrases ou des questions — en utilisant des Grands Modèles de Langage (LLM) lors de la phase d'ingestion. Ces EDR sont indexées aux côtés du texte de base pour améliorer le rappel.

Cependant, cette stratégie introduit un goulot d'étranglement de coût combinatoire :

Complexité de l'espace de recherche : L'espace des types d'EDR possibles (ex: résumé vs carte mentale) couplé aux modèles générateurs (ex: Qwen-8B vs Llama-70B) croît de manière exponentielle.
Coût d'évaluation : Évaluer de manière exhaustive chaque portefeuille (combinaison d'EDR et de modèles) sur un corpus complet est financièrement et informatiquement prohibitif. Le coût de la recherche augmente linéairement avec la taille du corpus, dépassant souvent le coût du simple déploiement d'un index sous-optimal.
Limitations statiques : Les pipelines existants reposent souvent sur des catalogues fixes de modèles d'enrichissement statiques qui peuvent ne pas s'aligner sur les caractéristiques spécifiques d'un corpus, entraînant un gaspillage des coûts de construction sans garantie d'amélioration du rappel.

Le défi central est d'identifier la frontière de Pareto optimale des configurations multi-index qui maximisent le rappel de récupération tout en minimisant le coût de déploiement structurel, le tout dans le cadre d'un budget d'optimisation strict.

2. Méthodologie : Le Cadre CAMI

Les auteurs proposent CAMI (Cost-Aware Multi-Indexing), un cadre qui formalise la construction multi-index comme un problème de sélection de portefeuille multi-objectif sous contrainte budgétaire. CAMI opère en deux phases principales :

Phase 1 : Découverte d'EDR par Agent

Au lieu de s'appuyer sur un catalogue statique, CAMI emploie une phase de découverte agentique. Un agent basé sur un LLM propose des modèles de prompts d'EDR spécifiques au corpus, basés sur des paires requête-évidence et le contexte du corpus.

Proposition Gouvernée : L'agent génère des modèles (ex: "Extraction Procédurale" pour les manuels techniques) qui sont validés, vérifiés selon un schéma et "gelés" avant le début de la recherche.
Comptabilité Budgétaire : L'utilisation de jetons (tokens) pour l'agent de découverte est imputée au budget de recherche, garantissant que l'expansion dynamique ne contourne pas les contraintes financières.

Phase 2 : L'Algorithme de Recherche AACA

Le moteur d'optimisation central est AACA (Atomic-unit Acquisition + Closure + MO-ASHA). Il traite l'espace de recherche non pas comme des configurations monolithiques, mais comme des unités atomiques composables (un type d'EDR associé à un modèle spécifique).

Définition d'une Unité Atomique : Une unité atomique $a = (e, m)$ est un type d'enrichissement $e$ et un modèle $m$ spécifiques. Un portefeuille est un ensemble d'unités atomiques actives.
Évaluation Multi-Fidélité : Pour limiter les coûts, CAMI évalue les configurations sur des sous-ensembles de requêtes imbriqués ( $Q_0 \subset Q_1 \subset \dots \subset Q_L$ $Q_{0} \subset Q_{1} \subset \dots \subset Q_{L}$ ).
- Fidélité 0 : Petits sous-ensembles représentatifs utilisés pour le filtrage initial.
- Fidélités Supérieures : Sous-ensembles plus larges utilisés pour la confirmation.
- Représentativité : Les sous-ensembles sont échantillonnés via une stratification sensible aux sujets afin de garantir qu'ils approchent la distribution complète des requêtes.
Boucle à Trois Actions : L'algorithme sélectionne de manière itérative l'une des trois actions suivantes :
1. Acquisition : Un sélecteur basé sur un LLM propose de nouvelles unités atomiques (piloté par la nouveauté/synergie) pour élargir le pool.
2. Clôture (Closure) : Le système recombine des unités atomiques précédemment validées du pool de fidélité actuel pour former de nouveaux portefeuilles. Cela exploite le fait que si l'Unité A et l'Unité B sont bonnes individuellement, leur combinaison vaut la peine d'être testée sans réévaluer l'ensemble depuis le début.
3. Promotion : Les configurations sont promues vers des fidélités supérieures basées sur un calendrier MO-ASHA (Multi-Objective Asynchronous Successive Halving).
Promotion Sensible à la Confiance : Les promotions utilisent un classement par Borne Supérieure de Confiance (UCB) pour équilibrer la performance empirique et l'incertitude (erreur standard). Cela empêche les configurations prometteuses d'être écartées prématurément à cause du bruit dans les petits sous-ensembles de requêtes.
Sémantique des Coûts : CAMI distingue entre :
- Dépense non mise en cache au runtime ( $C_{uncached}$ ) : Le coût réel en dollars encouru pendant la recherche (gouverné par le budget $B_{search}$ ).
- Coût Structurel ( $C_{struct}$ ) : Le coût théorique pour déployer un index final, calculé en sommant les coûts nominaux de ses unités atomiques (permettant la réutilisation de la mise en cache).

3. Principales Contributions

L'article présente quatre contributions majeures :

Formalisation : L'enrichissement de la récupération est formulé comme un problème de découverte de frontière de Pareto budgétisée avec une sémantique de coût explicite, séparant les coûts de construction des coûts d'optimisation de recherche.
Optimiseur AACA : Introduction d'un optimiseur qui fait le pont entre les contrôles budgétaires MO-ASHA et la clôture locale à la fidélité, permettant la réutilisation computationnelle des paires EDR-modèle durant la recherche.
Découverte Agentique : Intégration d'une phase guidée par LLM pour générer des modèles d'EDR spécifiques au corpus, allant au-delà des catalogues statiques tout en respectant les contraintes budgétaires.
Opérationnalisation : Un pipeline d'ingestion RAG de bout en bout, évalué sur divers jeux de données publics, démontrant des améliorations significatives du rappel avec des budgets de recherche réduits.

4. Résultats Expérimentaux

Le cadre a été évalué sur cinq jeux de données : BRIGHT-ES (Sciences de la Terre), BRIGHT-Econ (Économie), BRIGHT-SO (Stack Overflow), StatCanDialogueRetrieval, et NQTables.

Performance vs Recherche Aléatoire : CAMI (spécifiquement l'optimiseur AACA) a systématiquement surpassé la ligne de base de recherche aléatoire à budget équivalent. Sur tous les jeux de données, il a obtenu un taux de victoire agrégé de 92 % (92 victoires contre 8 défaites) dans l'identification de portefeuilles de Recall@10 supérieurs.
Gains de Rappel : CAMI a identifié des portefeuilles qui ont amélioré le Recall@10 jusqu'à 9,4 % par rapport aux lignes de base de contenu seul (ex: jeu de données StatCan).
Efficacité de Recherche : CAMI a identifié des portefeuilles à haut rappel en utilisant jusqu'à 5 fois moins de budget que les lignes de base de recherche aléatoire. Dans certains cas (ex: StatCan), il a atteint des configurations quasi-optimales en utilisant moins de 20 % du coût requis pour une recherche par grille exhaustive.
Études d'Ablation :
- Classement Sensible à l'Incertitude : L'utilisation de l'UCB pour la promotion a considérablement amélioré le débit par rapport au classement par moyenne seule, évitant l'élimination prématurée de configurations à haut potentiel sur de petits sous-ensembles bruyants.
- Clôture vs Découverte : Bien que la découverte guidée par LLM ait étendu la bibliothèque de candidats, le mécanisme de clôture locale à la fidélité (recombinaison d'atomes prouvés) a été le principal moteur de l'efficacité de recherche à long terme.
- Dynamique vs Statique : Les EDR découverts par agent (ex: causal_links pour l'économie, function_names pour Stack Overflow) sont fréquemment apparus dans les portefeuilles Pareto-optimaux finaux, surpassant les catalogues de graines statiques tant en coût qu'en qualité.

5. Signification et Revendications

L'article affirme que CAMI change fondamentalement la conception des systèmes de récupération multi-index en passant d'un enrichissement statique et heuristique à une optimisation adaptative au corpus et basée sur les preuves.

Praticité : En découplant le budget de recherche de la taille totale du corpus et en exploitant la recombinaison atomique, CAMI rend l'optimisation de pipelines RAG complexes réalisable dans des scénarios de production réels où une évaluation exhaustive est impossible.
Compromis Coût-Qualité : Le cadre fournit une méthode rigoureuse pour naviguer sur la frontière de Pareto rappel-coût, garantissant que les praticiens peuvent choisir des configurations offrant la meilleure qualité de récupération pour un budget de déploiement spécifique.
Scalabilité : L'utilisation de l'évaluation multi-fidélité et du suivi budgétaire sensible à la mise en cache permet au système de passer à l'échelle sur de grands corpus sans engendrer des coûts de jetons prohibitifs lors de la phase de recherche de configuration.

Les auteurs reconnaissent des limites, notant que l'approche repose sur l'hypothèse que les unités atomiques sont additives (ignorant les interactions non-additives complexes) et que la performance dépend de l'exactitude des sous-ensembles proxies (sous-ensembles de fidélité) pour refléter le comportement du corpus complet. Des travaux futurs sont suggérés pour modéliser des interactions non-additives plus fortes et améliorer les règles d'arrêt de promotion.