ClawVM: Harness-Managed Virtual Memory for Stateful Tool-Using LLM Agents

1. Il Problema: Gestione dello Stato negli Agenti LLM

Gli agenti LLM che utilizzano strumenti (tool-using agents) e mantengono uno stato persistente (es. assistenti per email, automazione domestica, coding agents) affrontano una sfida critica: la finestra di contesto è una memoria di lavoro scarsa e costosa, mentre lo stato deve essere duraturo attraverso sessioni multiple e centinaia di chiamate agli strumenti.

Attualmente, i "harness" (l'infrastruttura che gestisce l'agente) gestiscono la residenza e la durabilità dello stato in modo best-effort (basato su tentativi ed euristiche), il che porta a fallimenti ricorrenti:

• Perdita di stato dopo la compattazione: Quando il contesto viene riassunto per rientrare nei limiti di token, informazioni critiche (come le istruzioni di sistema, i piani attivi o le preferenze) vengono spesso scartate.
• Flush bypassati: Al reset della sessione, lo stato "sporco" (modificato ma non salvato) viene perso senza essere scritto correttamente nella memoria duratura.
• Sovrascritture distruttive: Le operazioni di salvataggio possono sovrascrivere dati esistenti invece di unirli, corrompendo lo stato.
• Mancanza di osservabilità: Quando lo stato manca, l'agente fallisce silenziosamente senza che il sistema possa diagnosticare se il problema è dovuto a un errore di recupero, a una decisione errata o a un errore del backend.

Questi fallimenti non sono casi limite, ma problemi strutturali documentati nei tracker di issue pubblici, che causano ripetizione di lavoro, violazione delle preferenze utente e perdita di progresso.

2. Metodologia: ClawVM

ClawVM è un livello di memoria virtuale gestito dall'harness (il kernel dell'agente) che introduce un contratto formale per la gestione dello stato. L'idea centrale è trattare lo stato dell'agente non come un flusso di testo libero, ma come pagine tipizzate gestite con invarianze di fedeltà minima.

Componenti Chiave del Design:

1. Pagine Tipizzate (Typed Pages):

   • Lo stato è diviso in pagine con identificatori stabili, scope (privato o condiviso) e provenienza.
   • Ogni pagina ha un invariante di fedeltà minima (es. le istruzioni di sistema non possono mai essere degradate sotto un certo livello di dettaglio).
   • Tipi di pagine includono: Bootstrap/Policy, Vincoli (Constraints), Piani (Plan), Preferenze, Evidenza (output degli strumenti) e Segmenti di conversazione.

2. Rappresentazioni Multi-Risoluzione:

   • Ogni pagina può esistere in quattro livelli di rappresentazione, selezionabili in base al budget di token:
     • Full: Estratto verbatim.
     • Compressed: Testo ridotto (es. tramite LLMLingua-2).
     • Structured: Campi tipizzati sufficienti a soddisfare gli invarianti.
     • Pointer: Un handle risolvibile con metadati minimi.
   • Le rappresentazioni ridotte vengono generate al momento dell'ingestione, non sotto pressione, permettendo al sistema di degradare elegantemente senza perdere la capacità di ricostruzione.

3. Modello di Guasto Osservabile (Fault Model):

   • A differenza dei sistemi operativi tradizionali dove i page fault sono trasparenti, ClawVM rende i guasti osservabili e classificabili.
   • Definisce due categorie di guasti:
     • Working-set faults: Mancanza di stato residente (es. refetch, tool call duplicati, perdita di bootstrap).
     • Durability faults: Perdita di stato ai confini del ciclo di vita (es. flush miss, recall silenzioso).
   • Questo permette di distinguere tra "nessun risultato trovato" e "errore di backend" o "decisione politica errata".

4. Protocollo di Writeback Validato:

   • La persistenza è gestita come una transazione in tre fasi:
     1. Staging strutturato: Richiesta di aggiornamenti tipizzati (append/merge).
     2. Validazione deterministica: Controllo di schema, provenienza e non-distruttività.
     3. Commit scoped: Unione deterministica delle modifiche.
   • Gli aggiornamenti rifiutati vengono registrati con codici di motivo, prevenendo sovrascritture distruttive.

5. Politica di Selezione:

   • Utilizza un approccio a due fasi:
     • Fase 1: Installa tutte le pagine "hard-pinned" e le rappresentazioni minime richieste (garantendo che gli invarianti siano rispettati).
     • Fase 2: Applica upgrade greedy (da pointer a full) basati sull'utilità marginale per token, considerando costi di ricalcolo e priorità.

3. Contributi Principali

• Contratto di Memoria Virtuale: Introduce un modello formale per lo stato degli agenti basato su pagine tipizzate e invarianti di fedeltà, spostando il controllo dalla "discrezionalità del modello" all'harness.
• Modello di Guasto e Oracle: Definisce un modello di guasti osservabile e un "oracle" offline per valutare la qualità della politica di gestione della memoria rispetto al carico di lavoro ideale.
• Protocollo di Persistenza: Implementa un protocollo di writeback validato e non distruttivo che garantisce la durabilità dello stato a ogni confine del ciclo di vita (compattazione, reset).
• Prototipo e Valutazione: Fornisce un'implementazione completa (ClawVM) integrata con harness esistenti (basati su OpenClaw) e una valutazione estensiva.

4. Risultati Sperimentali

Gli autori hanno valutato ClawVM su carichi di lavoro sintetici, 12 tracce reali di sessioni di coding (Claude Code) e test di stress avversari, confrontandolo con baseline come "Retrieval-only" e "Compaction-Hybrid" (configurazioni pratiche attuali).

• Eliminazione dei Guasti: ClawVM ha eliminato il 100% dei guasti controllabili dalla politica (refetch, tool duplicati, bootstrap loss, flush miss) in tutte le configurazioni di budget di token.
  • Rispetto alla baseline "Retrieval" (67.8 guasti medi per configurazione), ClawVM ha ridotto i guasti a zero.
  • Rispetto alla baseline "Compaction-Hybrid" (1.5 guasti medi), ClawVM ha raggiunto zero.
• Stabilità: Ha ridotto l'instabilità (thrashing) del 77,4% rispetto alla baseline di retrieval e dell'11,4% rispetto alla configurazione ibrida.
• Generalizzazione: Su 12 tracce reali e 30 task sintetici, ClawVM ha mantenuto un tasso di successo del 100% (nessun guasto), mentre le baseline fallivano in scenari di budget ristretto o reset di sessione.
• Overhead: L'overhead del motore decisionale è trascurabile, con una mediana di < 50 µs per turno.
• Robustezza: L'analisi di ablazione ha dimostrato che l'eliminazione dei guasti è garantita dalle strutture fondamentali (pinnaggio automatico, writeback del ciclo di vita, risoluzione dei puntatori) e non dipende finemente dall'euristica di scoring. Anche una politica LRU (Least Recently Used) con le stesse strutture ha ottenuto zero guasti.

5. Significato e Implicazioni

ClawVM rappresenta un cambio di paradigma nella gestione della memoria per gli agenti LLM:

• Dall'euristica al Contratto: Sposta la gestione della memoria da approcci euristici e best-effort a un sistema deterministico e verificabile, simile a come i sistemi operativi gestiscono la memoria virtuale.
• Affidabilità Strutturale: Garantisce che lo stato critico sopravviva alle transizioni del ciclo di vita (compattazione, reset) senza dover riaddestrare i modelli o sostituire i backend di recupero.
• Diagnosi e Replay: Rende i fallimenti di memoria osservabili e riproducibili, permettendo agli sviluppatori di diagnosticare esattamente perché un agente ha perso informazioni.
• Scalabilità: Dimostra che è possibile gestire agenti a lungo termine con budget di token limitati senza sacrificare la coerenza dello stato, aprendo la strada ad assistenti personali e professionali più affidabili.

In sintesi, ClawVM risolve il problema della "memoria fragile" degli agenti LLM introducendo un livello di astrazione che garantisce la durabilità e la coerenza dello stato attraverso un contratto formale gestito dall'infrastruttura di esecuzione.