PraMem: Practice-derived Experiential Memory for Long-horizon Behavior Prediction

Technische Samenvatting van PraMem: Practice-derived Experiential Memory voor Long-horizon Gedragsvoorspelling

Probleemstelling
Long-horizon gedragsvoorspelling heeft als doel de volgende actie van een gebruiker af te leiden op basis van langdurige historische sequenties van scène-actie-records. Hoewel Large Language Models (LLM's) een veelbelovende autoregressieve aanpak bieden, worden zij in dit domein geconfronteerd met twee kernuitdagingen:

1. Latente Patrooninductie: Verfijnde factoren die gebruikersacties beïnvloeden (bijv. specifieke voorkeuren voor merk, prijs of kwaliteit) zijn verborgen en verspreid over ultra-lange sequenties, waardoor ze voor LLM's moeilijk accuraat te vangen zijn tijdens het proces.
2. Model-intrinsieke Cognitieve Biases: LLM's vertonen inherente vooroordelen tijdens voorspellingen, zoals een neiging om de meerderheid te volgen, door training geïnduceerde vooroordelen, of een disproportionele aandacht voor recente records (proximale bias), wat de nauwkeurigheid van de voorspelling vermindert, zelfs wanneer relevante informatie beschikbaar is.

Bestaande methoden voor geheugenbeheer volgen primair een "context-compressie"-paradigma, waarbij geprobeerd wordt de last van lange sequenties te verlichten door middel van extractie, aggregatie en retrieval. De auteurs stellen echter dat deze aanpak faalt omdat compressie niet gelijkstaat aan gedragspatrooninductie, en dat deze methoden geen mechanismen missen om de intrinsieke cognitieve biases van de LLM te waarnemen of te corrigeren.

Methodologie: PraMem
De auteurs stellen PraMem voor, een training-vrij framework dat het paradigma verschuift van het beschouwen van historische sequenties als een last naar het behandelen van hen als een waardevolle bron voor "oefening" (practice). Geïnspireerd door de dialectische filosofie, voert PraMem voorafgaande oefeningen uit over de historische sequentie om een gebruikersspecifiek, tijdsevoluerend Experiential Memory (ervaringsgeheugen) op te bouen. Dit geheugen dient als ondersteunende input voor nauwkeurige voorspelling en bestaat uit twee componenten:

• Pattern Experience: Samenvattingen van de latente gedragspatronen van de gebruiker (bijv. "Deze gebruiker geeft de voorkeur aan Apple-elektronica").
• Bias-alert Experience: Waarschuwingen met betrekking tot de intrinsieke cognitieve biases van de LLM bij het redeneren over deze specifieke gebruiker (bijv. "Vermijd proximale bias; leun niet te zwaar op de laatste actie").

Het framework onderhoudt dit geheugen via een iteratieve lus bestaande uit drie stadia:

1. Existing Experience Trial: Het systeem selecteert segmenten uit de historische sequentie om oefenmonsters met ground-truth labels te construeren. De LLM voert expliciet "diep nadenken" uit met behulp van het huidige ervaringsgeheugen om de actie te voorspellen, waardoor tekortkomingen in de bestaande ervaring aan het licht komen.
2. Reflective Proposal Generation: De LLM reflecteert op de resultaten van de proef (door voorspellingen te vergelijken met de ground truth) om voorstellen te genereren voor het herzien, bijsnijden of aanvullen van het geheugen.
3. Consensual Experience Adjustment: Om stabiliteit te garanderen en ruis door incidenteel gedrag te voorkomen, worden aanpassingen periodiek getriggerd. Het systeem adopteert alleen operaties die consistent worden ondersteund door meerdere voorstellen in de pool.

Kerninnovatie: Het Self-Review Mechanisme
Een cruciaal onderdeel van PraMem is een self-review mechanisme dat is ontworpen om de kwaliteit van reflectieve voorstellen te waarborgen voordat ze de voorstelpool ingaan. Dit mechanisme filtert voorstellen eruit die een gebrek aan groundedness (fundering) of generalizability (generaliseerbaarheid) vertonen:

• Groundedness Review: Het systeem perturbeert de historische sequentie van een oefensample om de onderliggende gedragspatronen substantieel te wijzigen. Als een voorstel na deze perturbatie nog steeds standhoudt, wordt het als niet werkelijk geworteld in de data beschouwd en afgewezen.
• Generalizability Review: Het systeem herschrijft de voorspellingsscène om meerdere virtuele scènes te genereren met vergelijkbare structuren maar andere entiteiten. Als een voorstel onduidelijk slechts de originele scène kan identificeren tussen deze opties, wordt het als te specifiek beschouwd en afgewezen. Alleen voorstellen die zowel goed gefundeerd als generaliseerbaar zijn, worden behouden.

Experimentele Resultaten
De auteurs evalueerden PraMem op twee benchmarks: OminiBehavior (dekking van video browsen, live streaming, advertenties en e-commerce) en MovieLens-1M.

• Prestaties: PraMem presteerde significant beter dan sterke baselines, inclusief Long-context inputs, Truncation, RAG, samenvattingsmethoden en geavanceerde geheugensystemen zoals Mem0, MemOS en ProEx. Op OminiBehavior verbeterde PraMem de nauwkeurigheid (ACC) van 73,5% (Truncation) naar 84,7% en de F1-score van 24,7 naar 31,6.
• Generaliseerbaarheid: Het door PraMem geconstrueerde ervaringsgeheugen toonde transferbaarheid aan over verschillende LLM-backbones (GPT-OSS-120B en Qwen3.5-35B-A3B), wat aangeeft dat de gedestilleerde patronen en bias-waarschuwingen robuust zijn.
• Evolutie: Analyse toonde aan dat de prestaties monotoon verbeterden met meer oefenrondes, terwijl het aantal geheugentokens stabiliseerde na een initiële toename, waardoor de "lengte-explosie" die gebruikelijk is bij andere methoden voor geheugenaccumulatie werd vermeden.

Betekenis en Claims
Het artikel beweert dat PraMem een veelbelovende richting biedt voor long-horizon gedragsvoorspelling door de historische sequentie te herformuleren als een bron voor iteratieve oefening in plaats van een compressiedoel. De auteurs stellen dat:

• PraMem er succesvol in slaagt de dubbele uitdagingen van latente patrooninductie en mitigatie van cognitieve bias aan te pakken, waar eerdere context-compressiemethoden faalden.
• De "practice-derived" aanpak het model in staat stelt om betrouwbare gedragspatronen te induceren en zichzelf te corrigeren wat betreft biases, wat leidt tot superieure voorspellingsnauwkeurigheid.
• Het self-review mechanisme essentieel is om te garanderen dat het ervaringsgeheugen getrouw blijft aan de data en toepasbaar is op ongeziene scenario's.

De auteurs erkennen een beperking met betrekking tot de constructiekosten, waarbij zij opmerken dat het iteratieve oefenproces meer tijd offline vereist vergeleken met extractiegebaseerde methoden, hoewel dit de online voorspellingslatentie niet beïnvloedt. Zij benadrukken dat de methode training-vrij is en vertrouwt op de inherente redeneercapaciteiten van de LLM, die worden versterkt door deze gestructureerde geheugenevolutie.