Résumé Technique : LoSemB – Pont Sémantique Guidé par la Logique pour la Récupération d'Outils Inductive

1. Énoncé du Problème

L'article traite du défi de la récupération d'outils inductive pour les modèles de langage de grande taille (LLM). Bien que doter les LLM d'outils externes soit un paradigme prometteur pour les tâches réelles, l'expansion rapide des écosystèmes d'outils basés sur le web rend impraticable l'inclusion de tous les outils dans la fenêtre de contexte limitée d'un LLM. Par conséquent, des méthodes de récupération sont employées pour sélectionner les outils pertinents parmi de vastes référentiels.

Cependant, la plupart des méthodes de pointe opèrent sous des environnements transductifs, supposant que tous les outils sont observés lors de l'entraînement. Cela s'écarte de la réalité, où les outils sont constamment mis à jour et de nouveaux outils sont ajoutés. Appliquées à des outils invisibles (outils non rencontrés lors de l'entraînement), les méthodes de récupération existantes souffrent de deux problèmes critiques :

1. Décalage de Distribution Étendu : Les outils invisibles présentent une divergence distributionnelle significative par rapport aux outils vus en raison de leur diversité fonctionnelle. Les modèles de récupération entraînés sur les outils vus apprennent des représentations biaisées qui ne parvendront pas à capturer la véritable fonctionnalité des outils invisibles.
2. Sensibilité de la Récupération Purement Sémantique : Les méthodes traditionnelles reposent fortement sur le calcul de la similarité sémantique entre les instructions et les descriptions d'outils. Lorsque les représentations des outils souffrent de décalages de distribution, les calculs de similarité sémantique produisent des résultats trompeurs, entraînant des échecs de récupération.

Les auteurs identent que les méthodes existantes manquent de la capacité d'extraire et de transférer efficacement l'information logique cachée pour apprendre de meilleures représentations pour les outils invisibles sans réentraînement coûteux.

2. Méthodologie : Framework LoSemB

Les auteurs proposent LoSemB (Logic-Guided Semantic Bridging), un framework en deux étapes conçu pour miner et transférer l'information logique latente afin de faciliter la récupération d'outils inductive. Le framework se compose d'une phase d'indexation hors ligne et d'une phase de récupération en ligne.

2.1 Construction du Graphe Logique

La fondation de LoSemB est un Graphe Logique ($G$), un graphe biparti contenant des nœuds d'instruction ($Q$) et des nœuds d'outils ($T$).

• Arêtes : Une arête existe entre une instruction $q_i$ et un outil $t_j$ si l'instruction invoque l'outil. Cela forme une matrice d'incidence (matrice d'invocation) $R$.
• Plongements (Embeddings) : Les plongements sémantiques initiaux pour les instructions et les outils sont générés à l'aide d'un modèle de langage pré-entraîné (PLM) affiné.

2.2 Alignement de Plongement Basé sur la Logique

Pour traiter le décalage de distribution, LoSemB extrait les caractéristiques logiques du graphe et les transfère aux nœuds invisibles.

• Extraction de Caractéristiques Logiques : Le framework emploie une convolution de graphe multicouche (inspirée de LightGCN) pour propager l'information à travers le graphe. Les caractéristiques logiques sont définies comme la différence entre les plongements finaux du graphe (qui incorporent les relations logiques structurelles) et les plongements sémantiques originaux. Cette différence capture le rôle fonctionnel du nœud au sein du graphe.
• Identification d'Outils Similaires : Pour un outil invisible, le système identifie des outils vus fonctionnellement similaires, non pas par similarité textuelle, mais par propagation structurée. Il encode l'instruction associée à l'outil invisible, trouve les $J$ instructions d'entraînement les plus similaires, et propage cette activation à travers la matrice d'invocation pour agréger les scores pour les outils candidats. Les outils avec des scores d'activation élevés sont jugés fonctionnellement similaires.
• Transfert de Caractéristiques Logiques : Le système transfère les caractéristiques logiques des outils candidats identifiés vers l'outil invisible. Il utilise une stratégie de pondération basée sur la fréquence (pour les outils) et une normalisation softmax basée sur la similarité (pour les instructions) pour intégrer les caractéristiques logiques pondérées avec le plongement sémantique original de l'outil invisible. Cela aligne la représentation de l'outil invisible avec la distribution des données vues.

2.3 Récupération Augmentée par Relation

Le processus de récupération combine l'élagage logique et la mise en correspondance de similarité améliorée :

• Élagage Logique : Étant donné une instruction de test, le système identifie les $I$ instructions d'entraînement les plus similaires et collecte tous les outils invoqués par celles-ci. Cela crée un ensemble de candidats élagué ($T_{logic}$), réduisant considérablement l'espace de recherche en se concentrant sur les outils ayant démontré une pertinence vis-à-vis de schémas logiques similaires.
• Mise en Correspondance de Similarité Améliorée par le Graphe : Au sein de l'ensemble élagué, le système récupère les $K$ meilleurs outils en classant la similarité cosinus entre le plongement amélioré par le graphe de l'instruction de test (qui inclut les caractéristiques logiques transférées) et les plongements de graphe des outils candidats. Cela exploite à la fois le contenu sémantique et les schémas relationnels logiques.

3. Contributions Clés

L'article présente quatre contributions principales :

1. Identification du Problème : Les auteurs identifient et analysent les défis clés des méthodes de récupération d'outils existantes dans des contextes inductifs, spécifiquement le décalage important de distribution et la sensibilité de la récupération purement sémantique.
2. Alignement de Plongement Basé sur la Logique : Un nouveau module qui traite les décalages de distribution en intégrant les caractéristiques logiques (dérivées de la convolution de graphe) dans les représentations des outils invisibles.
3. Récupération Augmentée par Relation : Un mécanisme de récupération qui exploite à la fois l'élagage logique (pour réduire l'espace de recherche) et la mise en correspondance de similarité améliorée par le graphe (pour surmonter la sensibilité sémantique seule).
4. Validation Empirique : Des expériences approfondies démontrant que LoSemB atteint des performances avancées tant dans les contextes inductifs que transductifs sans nécessiter de réentraînement coûteux.

4. Résultats Expérimentaux

Les auteurs ont évalué LoSemB sur trois benchmarks : ToolBench (I1, I2, I3), UltraTool, et APIGen.

• Qualité de la Récupération : LoSemB a surpassé toutes les bases de référence (y compris les LLM zero-shot, les méthodes sans entraînement comme BM25/AdaEmbedding, et les méthodes avec entraînement comme EmbSim/InstRet/RerankRet) dans les contextes transductifs et inductifs.
  • Dans le contexte inductif avec 30 % d'outils invisibles, LoSemB a maintenu des performances stables avec des baisses relatives minimales (ex: ~4,18 % de baisse sur ToolBench I3), tandis que les bases de référence basées sur l'entraînement ont subi une dégradation significative (ex: >10 % de baisse).
• Performance de Génération : Lorsqu'il est utilisé pour guider l'exécution de tâches en aval (en utilisant GPT-4o-mini), LoSemB a obtenu le Taux de Réussite (Pass Rate) et le Taux de Victoire (Win Rate) les plus élevés par rapport aux bases de référence, indiquant qu'une récupération précise se traduit directement par une meilleure exécution des tâches.
• Études d'Ablation : La suppression de l'un ou l'autre des composants (Alignement de Plongement Basé sur la Logique ou Récupération Augmentée par Relation) a entraîné une dégradation significative des performances, confirmant la nécessité des deux modules.
• Analyse du Décalage de Distribution : L'étude a montré que l'Alignement de Plongement Basé sur la Logique a réduit la divergence KL entre les plongements d'outils invisibles et vus d'environ 0,18 à 0,001, alignant efficacement les distributions.
• Robustesse : LoSemB a démontré une robustesse supérieure au bruit d'étiquette (paires instruction-outil incorrectes) par rapport aux méthodes de base, subissant des baisses de performance minimales dans des conditions de bruit.

5. Signification et Revendications

L'article affirme que LoSemB introduit un nouveau paradigme pour la récupération d'outils qui dépasse la simple dépendance à la similarité sémantique pure. En imitant les processus cognitifs humains — où les relations logiques et les schémas d'utilisation sont utilisés pour comprendre les outils invisibles — le framework comble efficacement le fossé entre les distributions d'outils vus et invisibles.

Les auteurs soulignent que LoSemB atteint une haute précision dans les contextes inductifs sans réentraînement coûteux, ce qui en fait une solution pratique pour les écosystèmes d'outils web en évolution. Le travail suggère que l'intégration de l'information logique (via des structures de graphes et des schémas relationnels) est cruciale pour un apprentissage robuste des outils. L'article conclut que cette approche ouvre la voie à de futures techniques impliquant des réseaux de neurones sur graphes (GNN) sophistiqués et des structures de graphes complexes pour améliorer davantage l'apprentissage des outils.