Sintesi Tecnica: Agenti di Modelli Linguistici Auto-Compattanti

Problema: Decadimento del Contesto e Compattazione Rigida

Mentre gli agenti basati su modelli linguistici (LM) affrontano compiti a lungo orizzonte — che vanno dalla matematica competitiva che richiede decine di migliaia di token alla ricerca agentica che orchestra centinaia di chiamate a strumenti — le loro traiettorie generate accumulano "contenuto obsoleta". Questo fenomeno, denominato decadimento del contesto (context rot), si verifica quando un ragionamento errato nelle fasi iniziali, risultati di ricerca obsoleti o programmi candidati abbandonati ancorano le generazioni successive, degradando le prestazioni.

Le soluzioni esistenti gestiscono questo aspetto tramite una compattazione a intervallo fisso, attivando la riassunzione quando viene raggiunta una soglia di token (ad esempio, il 30% della finestra di contesto). Il documento sostiene che questo approccio sia fondamentalmente errato perché ignora la struttura della traiettoria. Un trigger fisso non può distinguere tra un modello che ha appena risolto un sottoproblema (un momento sicuro per riassumere) e uno che è nel mezzo di una derivazione o bloccato (un momento pericoloso per riassumere). Come illustrato nella Figura 1 del documento, una riassunzione mal temporizzata può cancellare fatti verificati nel mezzo del ragionamento, costringendo il modello a riderivare le informazioni o a indovinare, sprecando così il budget computazionale e riducendo l'accuratezza.

Metodologia: SELFCOMPACT

Gli autori propongono SELFCOMPACT, uno scaffold privo di addestramento che permette all'agente LM di decidere quando e come compattare il proprio contesto. Il sistema opera senza fine-tuning o supervisione esterna, affidandosi a due elementi di inferenza accoppiati:

1. Lo Strumento di Compattazione: Uno strumento di riassunzione inline ($S$) che il modello può invocare per riassumere il contesto accumulato ($x, y_{1:t}$) in una versione condensata ($\tilde{y}$). La generazione riprende quindi dal nuovo contesto $(x, \tilde{y})$.
2. La Rubrica Leggera: Un insieme di criteri specifici per il compito che regola l'invocazione dello strumento. A intervalli di sonda periodici (ogni $N$ token o chiamate a strumenti), al modello viene chiesto di valutare il proprio stato attuale rispetto alla rubrica.
   • Quando Attivare (COMPRESS): Quando un sottotarea è risolta (ad esempio, una risposta finale è racchiusa in un box nella matematica, o un'unità di ricerca è chiusa con fatti verificati) o la traiettoria sta convergendo.
   • Quando Sopprimere (CONTINUE): Quando il modello è nel mezzo di una derivazione, nel mezzo di una ricerca o bloccato in un loop.

Dettagli di Implementazione:

• Riutilizzo della KV Cache: Per minimizzare i costi, la sonda della rubrica e i prompt del riassuntore vengono aggiunti al contesto esistente invece di sostituirlo. Ciò preserva la Key-Value (KV) cache della traiettoria ($y_{1:t}$), il che significa che il modello paga solo per il prefill della nuova istruzione, non per l'intera cronologia.
• Workflow: Lo scaffold esegue un ciclo in cui il modello genera, si ferma a intervalli, valuta la rubrica e attiva condizionalmente la riassunzione. Se la rubrica restituisce COMPRESS, il riassuntore viene attivato; altrimenti, la sonda viene scartata e la generazione continua.

Contributi Chiave

1. Nuovo Scaffold: Introduzione di SELFCOMPACT, che espone la riassunzione come uno strumento inline accoppiato a una rubrica che ne detta la tempistica di invocazione. Ciò non richiede aggiornamenti dei parametri.
2. Validazione Empirica: Dimostrazione attraverso sette modelli (quattro varianti di Qwen per la matematica; tre agenti implementati per la ricerca) e sei benchmark (IMO-Answerbench, HMMT, BrowseComp, ecc.).
3. Insight dalle Ablazioni: Prova che la rubrica è essenziale. Fornire solo lo strumento porta a un uso irregolare e spesso non utile (i modelli lo chiamano nei momenti sbagliati o non lo chiamano affatto). La rubrica colma questo "gap metacognitivo", consentendo una compattazione adattiva affidabile.

Risultati

Il documento riporta che SELFCOMPACT eguaglia o supera la riassunzione a intervallo fisso riducendo significativamente i costi dei token.

• Matematica Competitiva: Su benchmark come IMO-Answerbench e HMMT, SELFCOMPACT ha migliorato l'accuratezza rispetto a una baseline senza compattazione fino al 18,1 punti. Ha superato la riassunzione a intervallo fisso in 11 configurazioni su 12 di benchmark/modello.
• Ricerca Agentica: Su BrowseComp e DeepSearch QA, SELFCOMPACT ha aggiunto 5–9 punti di accuratezza rispetto alla baseline.
• Efficienza dei Costi: Nonostante l'overhead di una chiamata extra al LLM per la sonda della rubrica, SELFCOMPAT ha ottenuto costi per domanda di token del 30–70% inferiori rispetto alla baseline senza compattazione. Ciò perché evita il costo massiccio di elaborare il contesto obsoleto e non riassunto nei turni successivi.
• Analisi della Tempistica: A differenza dei metodi a intervallo fisso che comprimono strettamente al 30% di soglia, la rubrica di SELFCOMPACT attiva la compressione prima (spesso quando un sottogruppo è risolto), prevenendo l'accumulo di "decadimento" prima che diventi dannoso.

Significato e Rivendicazioni

Il documento afferma di essere il primo a introdurre e valutare la tempistica di compattazione adattiva basata su rubrica in un contesto privo di addestramento. La sua importanza primaria risiede nel riformulare il "quando compattare" non come una capacità che deve essere impressa nei pesi del modello tramite fine-tuning o apprendimento per rinforzo, ma come una capacità metacognitiva che può essere fornita tramite uno scaffold leggero.

Gli autori evidenziano un "gap metacognitivo": mentre i modelli non sollecitati non riescono a rilevare in modo affidabile quando il proprio contesto sta decadendo, una semplice rubrica colma questo divario. Ciò suggerisce che strategie complesse di gestione del contesto possono essere elicitate da modelli standard tramite un semplice scaffold, senza l'onere computazionale dell'addestramento, offrendo una soluzione pratica per il deployment di agenti a lungo orizzonte sotto i vincoli hardware attuali.

Il lavoro rimane modesto nel suo ambito, concentrandosi su interventi privi di addestramento e riconoscendo che i modelli all'avanguardia con una più forte introspezione intrinseca potrebbero eventualmente richiedere meno scaffolding. Tuttavia, per l'attuale generazione di agenti open-weight e implementati, SELFCOMPACT offre un meccanismo robusto ed economico per sostenere le prestazioni su estesi orizzonti di ragionamento.