💬 NLP

Less Context, More Accuracy: A Bi-Temporal Memory Engine for LLM Agents Where a Lean Retrieved Context Beats the Full History

Le document présente Engram, un moteur de mémoire bi-temporelle en open-source qui surpasse les modèles de référence à contexte complet en termes de précision et d'efficacité en combinant un chemin d'écriture sans perte avec une stratégie de lecture hybride qui assemble un contexte compact et marqué par la provenance à partir d'un graphe de connaissances bi-temporel, atteignant un score de 83,6 % sur LongMemEval_S tout en utilisant nettement moins de jetons.

Auteurs originaux : Liuyin Wang

Publié 2026-06-10

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Liuyin Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : Le « sac à dos surchargé »

Imaginez que vous essayez de résoudre un mystère, mais que votre partenaire détective (l'IA) possède un sac à dos qui devient de plus en plus lourd à chaque fois que vous parlez.

L'ancienne méthode : Pour se souvenir d'un indice d'il y a trois jours, vous videz l'intégralité du sac à dos sur la table. Il contient tout : le bulletin météo de mardi, le menu du restaurant visité la semaine dernière, et l'indice dont vous avez réellement besoin.
Le résultat : Le détective est submergé par tous les détritus (les distractions). Il passe tellement de temps à fouiller dans les déchets qu'il manque l'indice, ou il finit par s'embrouiller avec le bruit ambiant. De plus, porter ce sac à dos lourd est lent et coûteux.

La solution : Engram (Le « Bibliothécaire intelligent »)

Les auteurs ont conçu un nouveau système appelé Engram. Au lieu de vider tout le sac à dos, Engram agit comme un bibliothécaire super intelligent qui tient une archive parfaite et organisée. Lorsque vous posez une question, le bibliothécaire ne vous apporte pas toute la bibliothèque ; il vous apporte uniquement les pages spécifiques dont vous avez besoin, accompagnées d'une note claire indiquant quand ces pages ont été écrites.

Voici comment cela fonctionne, divisé en trois parties simples :

1. Le processus d'écriture en deux étapes (Système-1 et Système-2)

Engram écrit les souvenirs de deux manières différentes, à la manière d'un cerveau humain :

L'écriture rapide (Système-1) : Quand vous discutez, Engram sauvegarde instantanément une copie brute et sans perte de la conversation (comme un enregistrement de caméra de surveillance). Cela se produit en quelques millisecondes et ne vous ralentit pas.
La réflexion lente (Système-2) : Plus tard, lorsque le système est inactif, il lit cet enregistrement et le transforme en faits atomiques (des affirmations simples comme « X travaille chez Y »). Il construit ainsi une chronologie de ces faits.
- L'astuce magique : Si un fait change (par exemple, « X travaille chez Y » devient « X travaille chez Z »), Engram ne supprime pas l'ancien. Il marque l'ancien comme « expiré » et le lie au nouveau. Cela crée une « chaîne de substitution ». Vous pouvez toujours regarder en arrière et voir : « Oh, à 14h00, nous pensions que X travaillait chez Y, mais à 15h00, nous avons mis à jour pour Z. »

2. Le filtre « À l'instant T » (Voyage dans le temps)

Parce qu'Engram conserve une chronologie de la validité des faits, il peut répondre à des questions basées sur le moment où vous posez la question.

Analogie : Si vous demandez « Où travaillait X ? », Engram sait qu'il doit vérifier la chronologie. Si vous posez la question concernant le mois dernier, il montrera l'ancien emploi. Si vous posez la question pour aujourd'hui, il montrera le nouvel emploi. Il ne se laisse pas confondre par les contradictions car il sait exactement quand chaque version était valide.

3. La lecture hybride (Le meilleur des deux mondes)

Lorsque vous posez une question, Engram ne se contente pas de deviner. Il utilise une recherche « hybride » :

Il recherche les faits (les notes propres et organisées).
Il récupère également les segments bruts (les extraits originaux de la conversation) pour s'assurer de ne perdre aucun petit détail.
Il mélange les deux, filtre les détritus, et remet au détective une pile de papiers minuscule et parfaite (environ 9 600 mots) au lieu de la bibliothèque entière (79 000 mots).

Les résultats : Moins, c'est mieux

Les auteurs ont testé cela sur un examen de 500 questions appelé LongMemEvalS.

L'équipe Contexte Complet : A tenté de répondre en relisant tout l'historique à chaque fois. Ils ont obtenu 73,2 % de bonnes réponses.
L'équipe Engram : A répondu en utilisant uniquement la petite pile filtrée de papiers pertinents. Ils ont obtenu 83,6 % de bonnes réponses.

La surprise : En jetant 87 % du texte (les distractions), Engram est devenu plus précis. Le bruit présent dans l'historique complet nuisait en réalité aux performances de l'IA.

Pourquoi cela importe (selon le papier)

Précision plutôt que Coût : Habituellement, on essaie d'économiser de l'argent en utilisant moins de mémoire. Engram prouve que l'utilisation de moins de mémoire peut en fait rendre l'IA plus intelligente car elle arrête d'être distraite.
Pas de « faux chiffres » : Les auteurs sont très stricts sur l'honnêteté. Ils ont construit un outil de test public et reproductible (un « harness ») afin que n'importe qui puisse lancer le test et obtenir les mêmes résultats. Ils ont corrigé les bugs courants où d'autres chercheurs accordaient accidentellement un avantage injuste (comme laisser l'IA voir la réponse dans l'historique complet).
Confidentialité et Contrôle : Comme le système conserve une trace claire de « ce qui était cru et quand », il est plus facile de supprimer des souvenirs spécifiques si un utilisateur demande à être oublié. De plus, il s'exécute localement, ce qui signifie que vos données n'ont pas besoin de quitter votre ordinateur.

L'essentiel à retenir

Engram montre que pour les agents d'IA, la qualité de la mémoire importe plus que la quantité. Au lieu de forcer l'IA à lire toute l'histoire de sa vie pour répondre à une question simple, un système intelligent, conscient du temps et capable de récupérer uniquement les faits pertinents et vérifiés, peut résoudre des problèmes plus rapidement, moins cher et avec plus de précision.

Résumé technique : Engram – Un moteur de mémoire bi-temporelle pour les agents LLM

1. Énoncé du problème

La mémoire à long terme demeure une lacune critique pour les agents LLM, qui sont intrinsèquement sans état entre les sessions. La solution de contournement habituelle — la concaténation de l'intégralité de l'historique de la conversation dans le prompt — souffre de trois problèmes cumulatifs :

Coût et latence : Les coûts en tokens et la latence d'inférence augmentent linéairement avec la longueur de l'historique.
Dégradation de la précision : À mesure que des tours non pertinents s'accumulent (« distracteurs »), le modèle peine à localiser les preuves pertinentes, un phénomène connu sous le nom de « lost in the middle » (perdu au milieu).
Crise de la reproductibilité : Les benchmarks de mémoire existants souffrent de harnais d'évaluation inconsistants (méthodes d'ingestion, prompts de réponse et juges variables), menant à des rapports de performance contradictoires où un même système produit des scores très différents selon les sources.

Les systèmes de mémoire actuels optimisent souvent le coût ou la vitesse, mais échouent à surpasser la précision de la référence (baseline) à contexte complet. L'article postule qu'une tranche de contexte précise et épurée devrait non seulement être moins coûteuse, mais aussi plus précise que la fenêtre complète et bruitée.

2. Méthodologie : Le système Engram

Engram est un moteur de mémoire à double processus, open-source, construit sur un modèle de données bi-temporel. Il sépare les opérations de mémoire en un chemin d'écriture rapide et un chemin de consolidation asynchrone, alimentant un chemin de lecture hybride.

2.1 Modèle de données bi-temporel

Le système traite le temps comme un citoyen de premier rang en utilisant deux axes :

Temps de l'événement (Temps de validité) : Quand un fait était vrai dans le monde.
Temps de transaction : Quand le système a appris ou rétracté le fait.
Structures de données :
- Épisodes : Tours/événements bruts et sans perte, horodatés selon les deux axes temporels.
- Faits : Affirmations atomiques (Sujet, Prédicat, Objet) avec texte de surface, scores de saillance et provenance. Les faits portent des horodatages valid_at/invalid_at et created_at/expired_at.
- Graphe : Entités et relations avec des arêtes bi-temporelles.
Invariant : Les faits ne sont jamais supprimés de manière définitive. Les faits contredits sont invalidés (marqués invalid_at) et remplacés par de nouveaux faits, préservant ainsi un historique d'audit et une provenance complets.

2.2 Architecture à double processus

Système-1 (Chemin d'écriture chaud) :
- Opération : Ajoute des épisodes sans perte, résout l'identité à travers les sessions, calcule des embeddings légers et met en file d'attente pour la consolidation.
- Contrainte : Aucun appel LLM sur le chemin critique ; la latence est maintenue sous les 50 ms.
Système-2 (Consolidation asynchrone) :
- Opération : Extrait des faits atomiques (basés sur des règles ou sur un LLM), construit le graphe de connaissances bi-temporel, détecte les conflits et invalide les faits remplacés.
- Résolution de conflits : Utilise une politique de type « abordat abordable puis escalade ». Les correspondances de slots exactes ou les contradictions temporelles claires sont résolues sans appels LLM. Les cas ambigus sont escaladés vers un adjudicateur LLM.
- Saillance : Applique un score de décroissance/renforcement pour atténuer les mémoires non renforcées.
Chemin de lecture hybride :
- Récupération (Retrieval) : Décompose les requêtes et récupère via quatre canaux parallèles : sémantique dense (embeddings BGE), lexical (BM25), parcours de graphe (n-hop), et récence/saillance.
- Fusion : Combine les listes classées via le Reciprocal Rank Fusion (RRF) et un re-classement optionnel par cross-encoder.
- Filtrage : Applique un filtre bi-temporel « as-of » (récupérant les faits valides à un point précis dans le temps) et une porte d'abstention (refusant de répondre si les preuves sont absentes).
- Assemblage du contexte : Construit un contexte compact contenant les faits résolus après conflit, les segments de session bruts pertinents et les résumés de session.

2.3 Harnais d'évaluation reproductible

Les auteurs contribuent à un harnais d'évaluation neutre, intégré au dépôt, conçu pour éliminer les pièges d'intégrité de mesure :

Juge officiel : Utilise les prompts de juge spécifiques aux catégories de LongMemEvalS, évitant les juges maison.
Baseline à contexte complet : Inclut l'historique complet dans chaque comparaison.
Corrections d'intégrité : Corrige des problèmes tels que la troncature du contexte complet (pour garantir que la baseline voit toute la meule de foin) et la « prépension de faits à l'historique complet » (pour garantir que le test mesure la récupération et non simplement l'augmentation de la mémoire).
Déterminisme : Fonctionne avec des replis (fallbacks) hors ligne sans dépendances pour les tests unitaires ; les journaux bruts par question sont publiés pour chaque métrique.

3. Principales contributions

Moteur à double processus : Un système de mémoire avec une résolution de conflit non destructive (invalidation vs écrasement) qui résout la plupart des conflits sans appels LLM.
Gain d'exactitude empirique : Démonstration qu'un contexte épuré et récupéré (~~9,6k tokens) surpasse la baseline à contexte complet (~~79k tokens) en termes de précision.
Harnais neutre : Un pipeline d'évaluation reproductible avec des juges officiels intégrés, des baselines à contexte complet et des journaux bruts publiés pour répondre à la crise de reproductibilité du domaine.
Insight sur le chemin de lecture hybride : Identification du fait qu'un chemin de récupération « uniquement par faits » perd en rappel ; combiner les faits résolus avec des segments de session bruts est nécessaire pour récupérer les détails.

4. Résultats

Évalué sur le benchmark LongMemEvalS (500 questions à travers 7 catégories) en utilisant le juge officiel :

Précision globale : La configuration épurée d'Engram a atteint 83,6 % de précision, contre 73,2 % pour la baseline à contexte complet (+10,4 points).
Efficacité : La configuration épurée a utilisé ~8× moins de tokens (9,6k contre 79k) tout en maintenant une précision plus élevée.
Signification statistique : Le gain est statistiquement décisif (test exact de McNemar, $p < 10^{-6}$ ). Engram a été correct sur 81 questions que la baseline a manquées, contre 29 dans l'autre sens.
Taux d'erreur : 0 erreur sur 500 questions pour les deux systèmes (aucun échec du système).
Performance par catégorie :
- Mise à jour des connaissances (Knowledge-Update) : 87,5 % (bénéficie de l'invalidation/remplacement).
- Raisonnement temporel : 81,1 % (bénéficie du filtrage « as-of »).
- Abstention : 86,7 % (le système décline correctement quand la mémoire manque de réponses).
- Agrégation multi-sessions et préférence : Scores plus bas (79,3 % et 73,3 %), identifiés comme des domaines présentant encore une marge de progression.
Observation d'ablation : Une variante qui prépense les faits à l'historique complet (engram_full) a obtenu 83,4 %, proche de la version épurée. Cela suggère que les faits structurés pilotent le gain de précision, tandis que l'historique complet ajoute des tokens sans améliorer la justesse.

5. Signification et affirmations

L'article revendique deux contributions primaires :

Amélioration de la qualité plutôt qu'optimisation du coût : Engram démontre que la mémoire à long terme peut être un mécanisme d'amélioration de la qualité, et pas seulement un moyen d'économiser des coûts. En filtrant les distracteurs, une tranche récupérée épurée est plus précise que le contexte complet.
Intégrité de la mesure : L'article soutient que les chiffres des benchmarks du domaine sont souvent contestés en raison de harnais inconsistants. En fournissant un harnais reproductible et neutre avec le juge officiel et la baseline à contexte complet, les auteurs affirment que le « tableau de bord de confiance » est aussi précieux que le système lui-même.

Les auteurs restent modestes quant aux limites, notant que les résultats sont basés sur un seul benchmark et un seul backbone de réponse. Ils identifient l'agrégation multi-sessions et la gestion des préférences comme des défis ouverts et appellent à des travaux futurs impliquant plusieurs backbones et des ablations de composants contrôlées. Le système est conçu pour être auto-hébergé avec des replis hors ligne, garantissant la confidentialité des données et la reproductibilité sans dépendances aux API externes.