Technische Samenvatting: Nous – Een Predictief Wereldmodel voor Langetermijngeheugen van Agenten

Probleemstelling

Huidige Large Language Model (LLM) agenten lijden aan een gebrek aan een continu evoluerend langetermijngeheugen. Hoewel contextvensters zorgen voor kortetermijnherinnering, gaat de conversationele geschiedenis verloren zodra een sessie eindigt, tenzij deze extern wordt opgeslagen. Bestaande geheugensystemen (bijv. RAG, kennisgrafen, episodische opslag zoals MemGPT) behandelen geheugen als een statische database van feiten. De auteurs stellen dat dit "opslag"-paradigma leidt tot drie structurele faalmodi:

1. Conflictblindheid: Tegenstrijdige records (bijv. een gebruiker die van baan verandert) accumuleren zonder principiële resolutie.
2. Heuristische Vergetelheid: Verwijdering is gebaseerd op tijd in plaats van semantische relevantie of onzekerheid.
3. Granulariteitsverschil bij Retrieval: Fact-stores leveren individuele records terug, maar missen mechanismen om waarden over de tijd heen te aggregeren (bijv. het opsommen van alle activiteiten die een persoon ooit heeft uitgevoerd).

Het artikel stelt dat deze fouten voortkomen uit het behandelen van geheugen als opslag in plaats van een predictief wereldmodel, analoog aan hoe het brein een generatief model van de omgeving onderhoudt dat wordt bijgewerkt door voorspellingsfouten.

Methodologie: De Nous Architectuur

Nous implementeert geheugen als een collectie categorische kansverdelingen, getermd dimensies, in plaats van deterministische feiten.

Kernabstracties

• Dimensies ($D_{e,a}$): Voor elk entiteit-attribuut paar (bijv. Pranav, werkgever) onderhoudt Nous een categorische verdeling $p(v)$ over een vocabulaire van mogelijke waarden. De modus van deze verdeling vertegenwoordigt de huidige beste overtuiging van de agent.
• Deltas ($\Delta$): Het primaire opgeslagen artefact is niet het feit zelf, maar de delta—een verslag van de verschuiving van de prior naar de posterior verdeling. Een delta bevat de prior verdeling, de posterior verdeling, de informatie-theoretische verrassing, de tijdstempel en het ondersteunende bewijs.
• Surprise-gestuurde Updates: Inkomende observaties worden gescoord op informatie-theoretische verrassing: $S = -\log_2 P(obs | D)$. Hoge verrassing (tegenstrijdig bewijs) triggert significante herziening van de overtuiging, terwijl lage verrassing (bevestigend bewijs) resulteert in verwaarloosbare verandering.
• Bayesiaanse Posterior: Updates worden berekend via een closed-form Bayesiaanse posterior (Eq. 3). Dit maakt het mogelijk dat de waarschijnlijkheidsmassa natuurlijk verschuift naar tegenstrijdig bewijs zonder expliciete detectielogica voor conflicten.
• Entropie-decay (Vergetelheid): Dimensies die gedurende een duur $\Delta t$ niet zijn bijgewerkt, ondergaan exponentiële menging naar een uniforme verdeling (Eq. 4). Dit simuleert natuurlijke vergetelheid naarmate de onzekerheid in de loop van de tijd groeit, een eigenschap die afwezig is bij heuristische verwijderingsregels.
• Identiteitsresolutie: Entiteiten worden samengevoegd als de gesymmetriseerde KL-divergentie tussen hun gedeelde dimensiesets laag is.

Omgaan met Multi-waardige Attributen

Een beperking van unimodale categorische verdelingen is het onvermogen om inherent multi-waardige attributen (bijv. een lijst van bezochte steden) te representeren zonder historische alternatieven weg te gooien. Nous adresseert dit via delta-log aggregatie: bij een query wordt elke waarde die verscheen met een verrassing boven een drempelwaarde $\theta_{min}$ opgenomen in de context. Dit behoudt het Bayesiaanse wereldmodel voor de "huidige beste overtuiging" terwijl het volledige aggregatie mogelijk maakt voor specifieke queries.

Pipelines

• Ingestie: Een LLM extraheert $(e, a, v)$ triples uit sessies. Voor elk wordt de verrassing berekend, de posterior bijgewerkt en een delta aan het log toegevoegd.
• Querying: Het systeem voert een breadth-first search uit over de entiteitsgraaf (tot twee hops) om relevante entiteiten te seeden. Het formatteert de dimensietoestanden als fact-lijnen en voegt de top-k delta records toe (gebaseerd op BM25-gelijkenis) als bewijs. Deze context wordt doorgegeven aan een antwoordend LLM.

Belangrijkste Bijdragen

1. Predictief Wereldmodel Paradigma: Het formaliseren van agentgeheugen als een collectie dimensies die worden bijgewerkt door surprise-gestuurde Bayesiaanse inferentie, in plaats van een fact-store.
2. Open-Source Implementatie: Een compleet systeem dat geen externe vectordatabase of graph engine vereist.
3. Evaluatie en Eerlijke Benchmarking: Prestatie-evaluatie op de LoCoMo benchmark, vergezeld van een expliciete discussie over reproduceerbaarheidsproblemen in de literatuur met betrekking tot baseline-vergelijkingen (specifiek A-MEM) en een vergelijkende analyse tegenover BeliefMem, een gelijktijdig systeem met vergelijkbare premissen.

Resultaten

Geëvalueerd op de LoCoMo benchmark (10 conversaties, 1.540 vragen) met GPT-4o-mini als backbone:

• Prestaties: Nous behaalde de volgende Token F1 scores:
  • Single-hop: 63.50
  • Multi-hop: 55.32
  • Temporal: 58.57
  • Open-domain: 62.50
• Vergelijking met A-MEM: Nous vertoonde substantiële winst ten opzichte van de door A-MEM gerapporteerde GPT-4o-mini cijfers in drie van de vier categorieën. De auteurs merken een reproduceerbaarheidsprobleem op waarbij onafhankelijke citaties van A-MEM resultaten verschillen in categorie-toewijzing, hoewel de onderliggende numerieke waarden consistent zijn.
• Vergelijking met BeliefMem: Tegenover BeliefMem (een ander belief-gebaseerd systeem), overtrof de zelfgerapporteerde cijfers van Nous die van BeliefMem op alle vier de categorieën (bijv. 63.50 vs. 48.41 op single-hop). De auteurs stellen echter expliciet dat dit geen volledig gecontroleerde vergelijking is vanwege verschillen in extractie-prompts, retrieval-mechanismen (BM25/BFS vs. gelijkenis/decay) en onverifieerde vraag-aantallen.
• Falenanalyse:
  • Single-hop: Hoge context-recall (86.07%) maar lagere F1 (63.50), wat aangeeft dat de bottleneck bij de antwoordgeneratie van de LLM ligt, niet bij de retrieval.
  • Open-domain: Laagste context-recall (47.50%) en hoogste retrieval miss rate (37%), wat suggereert dat het entiteit-attribuut dimensiemodel moeite heeft met het helder mappen van persoonlijkheids- of gewoontevragen.
  • Temporal: Lijdt onder lage context-recall (61.82%) omdat temporele data vaak ingebed is in de bewijstekst in plaats van geëxtraheerd te worden als expliciete dimensiewaarden.

Betekenis en Claims

Het artikel claimt dat Nous een levensvatbaar alternatief demonstreert voor database-gecentreerde geheugenarchitecturen. Door geheugen te modelleren als een predictief systeem dat wordt bijgewerkt door verrassing, handelt het van nature met tegenstrijdigheid (via waarschijnlijkheidsverschuivingen), vergetelheid (via entropie-decay) en aggregatie (via delta-logs).

De auteurs positioneren dit werk als een eerste publieke rapportage over een nieuwe architectuur. Ze benadrukken hun bescheidenheid met betrekking tot de resultaten:

• De vergelijking met BeliefMem is "suggestief in plaats van concluderend" in afwachting van een gecontroleerde, door henzelf uitgevoerde vergelijking met gematchte pipelines.
• De unimodale aard van dimensies wordt erkend als een beperking voor set-waardige attributen, met een beweging naar onafhankelijke Bernoulli-verdelingen als geplande verbetering.
• De evaluatie is momenteel beperkt tot LoCoMo en GPT-4o-mini; generalisatie naar andere backbones en moeilijkere benchmarks (LongMemEval) staat gepland.

De kernbetekenis ligt in de architecturale verschuiving: het behandelen van het geheugen van een agent niet als een depot van "wat er is gebeurd", maar als een continu verfijnde kansverdeling over de staat van de wereld, geworteld in cognitieve wetenschappelijke principes zoals predictive coding en het free-energy principe.