Résumé Technique : Tenure – État de Croyance Structuré dans la Mémoire des LLM

1. Le Problème : La Taxe de Réorientation et l'Échec de l'Abstraction de Recherche

L'article identifie une inefficacité fondamentale dans les flux de travail actuels des Grands Modèles de Langage (LLM) : la taxe de réorientation. Chaque nouvelle session de LLM commence avec une fenêtre de contexte vide, contraignant les utilisateurs à réétablir les préférences, les contraintes techniques et les décisions de projet (par exemple, « TypeScript en mode strict », « pilote MongoDB brut ») à chaque interaction. Sans ce contexte, les modèles génèrent avec assurance des résultats incorrects, nécessitant des invites correctives qui alourdissent la surcharge.

La réponse dominante de l'industrie a été la Mémoire Augmentée par la Récupération (RAM) : stocker l'historique des conversations, l'encoder et récupérer des fragments sémantiquement similaires via une recherche vectorielle (par exemple, similarité cosinus). Les auteurs soutiennent qu'il s'agit de la mauvaise abstraction pour trois raisons :

1. La mémoire est un problème d'état, pas un problème de recherche : Les préférences et les décisions sont des contraintes structurelles actives, et non des faits passifs à récupérer uniquement lorsqu'une requête correspond. La récupération introduit une conditionnalité inutile là où une garantie structurelle est requise.
2. La recherche de similarité échoue dans les contextes à vocabulaire borné : Dans les environnements mono-utilisateur ou d'équipes convergées, toutes les croyances concernant un domaine technique spécifique (par exemple, l'infrastructure) sont sémantiquement proches. La recherche vectorielle ne peut pas discriminer entre une requête sur « Redis » et des croyances sur « MongoDB » ou « Kubernetes » car elles occupent la même région sémantique (scores cosinus 0,65–0,83). Cela conduit à un rappel élevé mais à une précision catastrophique.
3. La Rote du Contexte : Les systèmes dépourvus de gestion explicite d'état accumulent des faits obsolètes, remplacés ou contradictoires. Sans un mécanisme de remplacement, les systèmes de mémoire finissent par produire des réponses assurées fondées sur un contexte périmé.

2. Méthodologie : L'Architecture Tenure

Tenure est proposé comme un proxy « local-first » qui traite la mémoire comme un état de croyance typé plutôt que comme un index de recherche. Il fonctionne sur un paradigme de récupération « précision d'abord », remplaçant la similarité sémantique par une extraction structurée et une correspondance de termes pondérée par des alias.

2.1 Le Schéma de Croyance

L'unité atomique de la mémoire est la Croyance, un tuple de 14 champs dérivé de l'architecture Croyance-Désir-Intention (BDI) mais limité à l'état persistant. Les composants clés incluent :

• Types : préférence, décision, entité, question ouverte, relation.
• Statut Épistémique : actif, inféré, exploratoire, remplacé. Crucialement, les croyances remplacées sont conservées pour audit mais jamais injectées, empêchant la rote du contexte.
• Portée : Des étiquettes d'isolation rigides (par exemple, utilisateur:universel, domaine:code, projet:<slug>) qui agissent comme des filtres structurels, et non comme des poids probabilistes.
• Le Champ « Pourquoi c'est important » : Une instruction impérative convertissant un fait en action (par exemple, « Façonne tous les exemples de code vers TypeScript... »). Ce champ est généré au moment de l'écriture lorsque le modèle dispose du contexte complet, fournissant une « inférence cristallisée » plutôt que de la matière brute que le modèle devrait réinférer.

2.2 Récupération Précision-First (BM25 sur Vecteurs)

Tenure rejette la similarité d'encodage pour le chemin de lecture. À la place, il utilise BM25 avec un boost pondéré par alias sur un magasin de croyances où les alias sont rédigés pour correspondre aux surfaces de requête attendues.

• Asymétrie Index-Recherche : Le système exploite le problème de récupération inversé (longues requêtes vs documents courts et structurés). Il utilise des analyseurs personnalisés pour mapper les noms canoniques en snake_case (par exemple, redis_cache) vers des formes tokenisées et applique la génération de shingles pour la correspondance de phrases.
• Volant d'Enrichissement d'Alias : Le système indexe continuellement de nouvelles formes de surface (alias) observées dans les requêtes utilisateur, augmentant la précision au fil du temps.
• Propriété de Signal Contraire : Les alias incluent des termes pour les technologies rejetées (par exemple, express dans la liste d'alias d'une croyance fastify), permettant au système de faire apparaître la préférence active lorsqu'un utilisateur interroge une alternative rejetée.

2.3 Extraction et Compaction

• Extraction au Moment de l'Écriture : Les croyances sont extraites de manière asynchrone via un bloc sidecar. Une porte de niveau garantit que seuls les modèles ayant une fiabilité élevée de sortie structurée effectuent l'extraction.
• Compaction : Pour empêcher l'accumulation de bruit, le système fusionne les croyances chevauchantes, déduplique les préférences et synthétise les niveaux d'expertise. Cela empêche le mode d'échec de « l'accumulation d'hallucinations » observé dans les systèmes de mémoire non structurés.
• Isolation de Portée : Un filtre post-recherche rigide garantit que les croyances provenant de portées non autorisées (par exemple, projet:client-b alors que l'on est dans projet:client-a) ne sont jamais récupérées, quelle que soit la similarité sémantique.

3. Contributions Clés

1. Schéma de Croyance Formel : Un schéma typé avec statut épistémique, remplacement versionné et instructions impératives « pourquoi c'est important ».
2. Conception de Récupération Précision-First : Une démonstration empirique montrant que BM25 pondéré par alias surpasse la recherche vectorielle dense dans les contextes à vocabulaire borné.
3. Architecture de Compaction : Mécanismes d'enrichissement d'alias, d'indexation de signal contraire et de fusion de croyances pour empêcher l'accumulation de bruit de fond.
4. Suite d'Évaluation de 72 Cas : Un benchmark réutilisable couvrant la résolution d'alias, la désambiguïsation de portée, les chaînes de remplacement et la dérive de sujet multi-tours.

4. Résultats

L'article présente une évaluation contrôlée sur 72 cas de récupération (60 statiques, 12 au niveau de la session) comparant le backend BM25 de Tenure à un backend vectoriel standard (nomic-embed-text, 768-dim).

• Précision de Récupération Statique :

  • BM25 : 72/72 cas réussis (Précision Moyenne : 1,0).
  • Recherche Vectorielle : 8/72 cas réussis (Précision Moyenne : 0,12).
  • Observation : La recherche vectorielle a récupéré la croyance correcte mais était accompagnée de 8 à 9 croyances bruyantes provenant de domaines sémantiquement adjacents (par exemple, récupérer des croyances MongoDB lors d'une requête sur Redis).

• Dérive de Sujet Multi-Tours (Évaluation de Session) :

  • Sous accumulation multi-tours avec dérive de sujet (par exemple, passage de Redis à Kubernetes/React), le score de dérive du backend vectoriel (fraction de croyances bruyantes récupérées) a grimpé à 0,43–0,50.
  • BM25 a maintenu un score de dérive de 0,0 sur tous les tours, isolant avec succès la requête de réentrée du bruit de session accumulé.

• Portée et Remplacement :

  • BM25 a correctement appliqué l'isolation de portée rigide et les chaînes de remplacement (par exemple, filtrer TSLint lorsque ESLint et Biome étaient actifs), tandis que la recherche vectorielle n'a pas réussi à discriminer sur la base de ces contraintes structurelles.

5. Signification et Revendications

L'article soutient que la mémoire inter-session des LLM est un problème de gestion d'état, et non un problème de recherche.

• Garantie Structurelle vs Récupération Probabiliste : Tenure fournit une garantie structurelle selon laquelle « les bonnes croyances apparaissent, et uniquement dans les limites autorisées par l'utilisateur ». Cela contraste avec les systèmes basés sur la recherche où le modèle doit discriminer la pertinence au moment de la génération, réintroduisant la surcharge cognitive que le système vise à éliminer.
• Inférence Actionnable : En convertissant les faits en instructions impératives (« pourquoi c'est important ») au moment de l'écriture, Tenure garantit que le modèle reçoit une « inférence cristallisée » plutôt que des transcriptions brutes nécessitant une réinférence.
• Portée Modeste : Les auteurs déclarent explicitement que la précision de récupération est une condition préalable nécessaire à la qualité de la réponse, mais non suffisante. La taxe de réorientation est une affirmation observationnelle ; l'article établit que Tenure résout l'écart de précision requis pour rendre l'injection de contexte viable, laissant la mesure de la qualité finale de la réponse comme une question ouverte.
• Applicabilité : Bien que démontré sur un corpus mono-utilisateur, l'architecture est revendiquée comme extensible aux équipes d'ingénierie où les bases de code partagées et les procédures créent un « vocabulaire convergé », satisfaisant les mêmes conditions structurelles pour une précision pondérée par alias.

L'article conclut que Tenure offre une réponse cohérente à la taxe de réorientation grâce à un schéma rendant l'état de croyance auditable, une conception de récupération assurant la précision et une architecture de compaction maintenant l'intégrité du magasin au fil du temps.