🤖 AI

RIZZ: Routing Interactions to Near Zero-Interference Zones for Continual Adaptation of Black-Box Agents

RIZZ è un framework di adattamento continuo per agenti di modelli linguistici black-box che mitiga l'interferenza in ambienti non stazionari instradando dinamicamente le interazioni verso rami di memoria specializzati e aggiornandoli solo attraverso feedback filtrati da un verificatore.

Autori originali: Sonali Goel, Pranav Vaidhyanathan, Lucas Schorling, Natalia Ares, Maike Osborne

Pubblicato 2026-06-23

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Sonali Goel, Pranav Vaidhyanathan, Lucas Schorling, Natalia Ares, Maike Osborne

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un genio brillante e congelato (un Large Language Model) che è incredibilmente intelligente ma non può imparare cose nuove cambiando il proprio cervello. È come un maestro chef che ha memorizzato ogni ricetta del mondo, ma gli è proibito scrivere nuove ricette o cambiare il proprio stile di cucina.

Immagina ora che questo chef stia lavorando in un ristorante molto affollato dove i clienti ordinano piatti diversi: a volte cucina italiana, a volte enigmi di programmazione, a volte consigli medici e a volte pianificazione di viaggi. Se lo chef cercasse di ricordare tutto in un unico, enorme e disordinato quaderno, finirebbe per confondersi. Un consiglio per fare la pasta potrebbe accidentalmente rovinare la sua ricetta per programmare un sito web. Questo si chiama "interferenza" e rende lo chef peggiore nel tempo.

RIZZ è un nuovo sistema progettato per aiutare questo genio congelato ad adattarsi senza rompere il suo cervello. Pensa a RIZZ come a un maggiordomo e un sistema di archiviazione super organizzati che stanno tra lo chef e i clienti.

Ecco come funziona RIZZ, usando semplici analogie:

1. Le "Zone a Zero Interferenze" (I Rami)

Invece di un unico grande quaderno, RIZZ crea molte piccole e separate postazioni di lavoro (chiamate "rami").

L'Analogia: Immagina una biblioteca dove i libri non sono solo gettati su uno scaffale. Invece, c'è una stanza per la "Cucina", una per la "Programmazione" e una per i "Viaggi".
Come aiuta: Quando un cliente chiede una soluzione di programmazione, il maggiordomo (il Router) lo invia direttamente alla stanza della Programmazione. Lo chef vede solo gli appunti e i consigli di quella specifica stanza. Ciò significa che un errore commesso mentre si cucina la pasta non farà accidentalmente dimenticare allo chef come scrivere codice Python.

2. Il Maggiordomo Intelligente (Il Router)

Ogni volta che arriva una nuova domanda, il "maggiordomo" di RIZZ la esamina e decide quale postazione di lavoro utilizzare.

L'Analogia: Se un cliente dice: "Ho bisogno di una ricetta per una salsa di pomodoro", il maggiordomo riconosce che appartiene alla stanza della Cucina. Se dicono: "Correggi questo codice rotto", il maggiordomo lo invia alla stanza della Programmazione.
La Magia: Se il maggiordomo vede una domanda che è totalmente nuova (come un cliente che chiede di un nuovo tipo di cucina aliena), costruisce istantaneamente una nuova postazione di lavoro solo per quella. Se due postazioni stanno facendo esattamente la stessa cosa, il maggiordomo le fonde per risparmiare spazio.

3. Il Guardiano Severo (Il Verificatore)

Questa è la regola più importante in RIZZ: non puoi scrivere tutto ciò che vuoi.

L'Analogia: Immagina che lo chef provi una nuova ricetta. Se il cliente dice: "Yum, è fantastica!" (un punteggio alto), il maggiordomo scrive quella ricetta nel libro permanente per quella stanza. Ma se il cliente dice: "Questo sa di terribile" (un punteggio basso), il maggiordomo butta via l'appunto o lo mette in una cartella "Non fare questo".
Perché è importante: Questo evita che il sistema acquisisca cattive abitudini. Conserva solo le "vittorie" e le "lezioni apprese dai fallimenti", assicurando che lo chef diventi migliore, non peggiore.

4. La Valigetta Limitata (Compilazione del Prompt)

Lo chef può portare solo una quantità limitata di informazioni nella sua testa in un dato momento (questo è chiamato "finestra di contesto").

L'Analogia: RIZZ agisce come un assistente personale che prepara una valigetta per lo chef prima che inizi a cucinare. L'assistente impacchetta solo i note più rilevanti della specifica stanza in cui si trova lo chef. Se la valigetta è troppo piena, l'assistente scarta prima i note meno importanti, assicurando che lo chef non venga mai sopraffatto o dimentichi il compito attuale.

Cosa hanno scoperto?

I ricercatori hanno testato questo sistema su diversi "test" (benchmark) in cui lo chef doveva gestire un flusso di compiti differenti:

Meglio di non fare nulla: Lo chef con il maggiordomo RIZZ è diventato significativamente più bravo nei compiti nel tempo rispetto allo chef che lavorava da solo.
Più economico e veloce: Altri sistemi cercavano di tenere tutti gli appunti in un unico grande mucchio, il che rendeva la valigetta troppo pesante ed costosa da trasportare. RIZZ ha mantenuto la valigetta leggera e focalizzata, risparmiando tempo e denaro.
Nessun "Blocco del Cervello": Quando lo chef passava da un problema di matematica a un problema di programmazione, RIZZ manteneva i ricordi separati. Lo chef non si confondeva né dimenticava il compito precedente (un problema noto come "oblio catastrofico").

In sintesi

RIZZ è un modo per rendere un'IA intelligente e immutabile sempre più intelligente nel tempo, organizzando i suoi ricordi in stanze separate e specializzate, permettendole di conservare solo le lezioni buone e di impacchettare i note giusti per il compito da svolgere. È come dare a un genio un sistema di archiviazione perfetto in modo che possa imparare dalle sue esperienze senza sentirsi sopraffatto o confuso.

Sintesi Tecnica: RIZZ (Routing Interactions to Near Zero-Interference Zones)

Definizione del Problema

I grandi modelli linguistici (LLM) vengono sempre più impiegati come agenti composti a lungo termine che devono adattarsi a flussi non stazionari di utenti, compiti e regimi di feedback senza accesso ai pesi del modello (impostazione black-box). Le strategie di adattamento esistenti affrontano tre limitazioni primarie in questo regime:

Ottimizzazione della Memoria Globale/Single-Prompt: I metodi che ottimizzano un singolo prompt o mantengono una memoria globale indifferenziata soffrono di interferenza catastrofica, in cui le lezioni apprese da una famiglia di compiti contaminano il comportamento su compiti non correlati.
Approcci ad Alta Intensità di Ricerca: Le tecniche che si affidano a ripetuti rollout o a una ricerca estesa sono computazionalmente costose e spesso impraticabili in scenari online con budget di contesto limitato.
Mancanza di Selettività: Gli attuali sistemi spesso non riescono a distinguere tra strutture procedurali riutilizzabili e rumore specifico del compito, portando a prestazioni fragili o a un isolamento inefficiente.

La sfida centrale è consentire a un agente di migliorare continuamente dall'esperienza (adattamento online) controllando esplicitamente l'interferenza tra le famiglie di compiti, il tutto senza aggiornare i parametri sottostanti del modello congelato.

Metodologia: Framework RIZZ

RIZZ (Routing Interactions to Near Zero-Interference Zones) è un framework di adattamento continuo che sposta il fulcro dell'apprendimento dai parametri del modello a un sistema di memoria esterno e instradato. Il sistema opera su un LLM black-box congelato e si basa su tre meccanismi centrali: Routing Gerarchico, Memoria Locale al Branch e Evoluzione Regolata da Verificatore.

1. Stato Adattivo e Routing Gerarchico

Inveve di una singola memoria globale, RIZZ mantiene un Branch Bank ( $B_t$ ), dove ogni branch agisce come una "zona a interferenza quasi nulla" o come una memoria esperta specializzata.

Etichettatura: Per ogni query in entrata, un router leggero (che utilizza un LLM judge) assegna un'etichetta gerarchica composta da una funzione ( $f$ ) e un'applicazione ( $a$ ).
Snapping e De-duplicazione: Il sistema aggancia (snapping) i nuovi label a branch esistenti utilizzando la similarità degli embedding per l'applicazione ( $\tau_{snap} = 0.92$ ) e la sovrapposizione di token Jaccard per i fratelli con la stessa funzione ( $\tau_J = 0.40$ ). Questo previene la frammentazione pur permettendo la specializzazione.
Generazione Dinamica (Spawning): Se non esiste un branch compatibile e la capacità lo consente, viene generato un nuovo branch. Se un branch diventa ridondante, viene fuso o rimosso.
Logica di Routing: Il router seleziona il branch che meglio corrisponde alla funzione e all'applicazione della query, garantendo che le interazioni correlate siano raggruppate insieme.

2. Substrati di Memoria Locali al Branch

Ogni branch $b$ contiene molteplici tipi di memoria:

Memoria Episodica: Memorizza esempi di input/output approvati dal verificatore.
Memoria Procedurale: Memorizza regole IF-THEN compatte distillate da batch di successo. Le regole sono pesate tramite contatori di utilità/dannosità basati sul feedback del verificatore.
Memoria di Fallimento: Memorizza risposte errate sostanziali come "errori comuni" (anti-pattern) per prevenire la ripetizione, mantenendoli locali al branch per evitare la sovra-generalizzazione.
Contesto Scopato (Scoped Context): Recupera evidenze specifiche della sessione filtrate per ambito di metadati.

3. Evoluzione della Memoria Regolata da Verificatore

Gli aggiornamenti della memoria sono strettamente regolati da un verificatore deterministico (es. rapporto fuzzy, corrispondenza esatta, esecuzione di codice).

Politica di Scrittura: Solo le interazioni che superano una soglia dipendente dal verificatore vengono scritte nella memoria duratura.
Promozione delle Regole: Le interazioni di successo possono essere distillate in regole procedurali; i fallimenti sono conservati come anti-pattern.
Quarantena: Le interazioni a basso rendimento o lontane dal centroide vengono messe in quarantena o scartate per evitare di contaminare il branch.
Compilazione del Prompt: Un compilatore di prompt a budget limitato assembla il materiale recuperato (contesto scopato, esempi episodici, regole, errori) in un prompt entro un budget fisso di token (es. 64K). I blocchi a priorità inferiore vengono eliminati per primi per garantire un degrado aggraziato verso il baseline congelato piuttosto che un overflow del contesto.

Contributi Chiave

Framework di Routing Task-Agnostico: RIZZ formula l'adattamento black-box come un problema decisionale online in cui un modello congelato si adatta esclusivamente attraverso uno stato esterno. Esso scopre branch di memoria specialistica online senza ID di task predefiniti o tassonomie specificate.
Memoria Compatta Locale al Branch: Introduce un meccanismo di routing gerarchico che combina guardie sulla forma dell'output, snapping basato su embedding e de-duplicazione Jaccard. Ciò mantiene l'esperienza correlata, limita l'interferenza tra i task e permette la creazione e fusione dinamica dei branch.
Evoluzione Regolata da Verificatore: Gli aggiornamenti della memoria dipendono interamente dalla validazione del premio (reward). Ciò assicura che solo le interazioni verificate e utili aggiornino la memoria, mentre i fallimenti sono conservati come anti-template. Un compilatore consapevole del budget assicura che il sistema rimanga efficiente in termini di costi.
Prestazioni Empiriche Efficienti: RIZZ raggiunge un'elevata accuratezza attraverso benchmark di adattamento streaming, apprendimento continuo sequenziale e memoria conversazionale a lungo termine, rimanendo significativamente più economico e più efficiente in termini di token rispetto alle basi di memoria più pesanti.

Risultati Sperimentali

Gli autori hanno valutato RIZZ su quattro benchmark utilizzando Claude Haiku 4.5 come modello base congelato:

TRACE (Apprendimento Continuo Sequenziale): RIZZ ha migliorato il reward medio di +6.9 punti percentuali rispetto al baseline Frozen e di +7.6 punti rispetto ad AMem. Crucialmente, mentre il baseline ACE è collassato (reward 0.047) a causa dell'overflow della finestra di contesto su compiti con input lunghi, RIZZ ha mantenuto la stabilità mantenendo il playbook compatto (stabilizzandosi intorno a 10–15K token) e limitando il numero di branch (48 totali, 31 attivi).
StreamBench (Flussi Intervallati Online): RIZZ ha migliorato di +3.3 punti percentuali rispetto a Frozen e di +2.2 punti rispetto ad AMem, con un costo totale inferiore ($7.37 vs $7.99 per Frozen). Ha concentrato con successo il traffico in branch specialistici ad alto volume (es. un branch di diagnosi clinica che gestiva il 43% del traffico).
LongMemEval-S (Memoria Conversazionale): RIZZ ha raggiunto il reward medio più alto (0.484), superando significativamente AMem (0.322) e Frozen (0.202). Eccelle nei compiti di ragionamento multi-sessione e temporale allocando branch distinti a diverse sessioni di conversazione, mentre ACE è fallito a causa dell'esaurimento della finestra di contesto.
$\tau$ -Bench (Tool-Use): RIZZ ha migliorato il pass@1 dell'agente ReAct da 0.352 (Frozen) a 0.400, superando ACE (0.370) e AMem (0.303) con un incremento minimo dei costi.
Studi di Ablazione: La rimozione della memoria procedurale, l'imposizione di un routing a branch singolo o la disattivazione dei meccanismi di anti-frammentazione hanno prodotto cali di performance misurabili, confermando la necessità della struttura a branch e della regolazione del verificatore.

Significato e Rivendicazioni

L'articolo sostiene che RIZZ dimostri che l'adattamento continuo per gli agenti black-box può essere ottenuto efficacemente senza fine-tuning o crescita incontrollata del contesto.

Controllo dell'Interferenza: Ruotando le interazioni verso zone a quasi zero interferenza, RIZZ risolve il dilemma stabilità-plasticità a livello di memoria piuttosto che a livello di pesi. Permette all'agente di accumulare conoscenza dove la struttura ricorre (es. formati di output ripetuti, policy di dominio) senza contaminare compiti non correlati.
Efficienza Operativa: A differenza dei baseline che soffrono di collasso del contesto o alti costi di token a causa di enormi playbook globali, RIZZ rimane operativamente leggero. Degrada con grazia verso il baseline congelato quando i budget di contesto sono stretti, invece di fallire.
Praticità: Il framework è progettato per il regime in cui l'adattamento deve avvenire online sotto stretti budget di contesto, rendendolo adatto alla distribuzione di sistemi di IA composita nel mondo reale.

Gli autori concludono che RIZZ indica un futuro in cui i sistemi di IA composita utilizzano substrati di memoria curati, instradati e verificabili per l'adattamento continuo, piuttosto che fare affidamento su trascrizioni sempre più grandi e indifferenziate.