Riepilogo Tecnico: SkillLens: Riuso Adattivo di Abilità a Multi-Granularità per Agenti LLM Efficienti in termini di Costi

Enunciato del Problema

Gli agenti basati su Modelli Linguistici di Grandi Dimensioni (LLM) fanno sempre più affidamento su librerie di abilità per esternalizzare l'esperienza procedurale, evitando la necessità di riscoprire comportamenti da zero per ogni compito. Tuttavia, i sistemi esistenti (ad es. Voyager, Reflexion, SkillAct) trattano tipicamente le abilità come blocchi di prompt piatti e a singola risoluzione. Questo approccio atomico crea una tensione fondamentale tra rilevanza e costo:

• Iniezione Grossolana: Iniettare un'abilità recuperata nella sua interezza introduce spesso contesto irrilevante o fuorviante se l'abilità è solo parzialmente compatibile con il compito corrente, gonfiando la finestra di contesto e innescando allucinazioni.
• Scarto Tutto-o-Niente: Se un'abilità non è una corrispondenza perfetta, gli agenti spesso la scartano completamente, costringendo a una risoluzione da zero e sprecando sottostrutture riutilizzabili.
• Riscrittura Inefficiente: Riscrivere un'intera abilità per adattarla a un nuovo contesto è computazionalmente costoso e spesso inutile, poiché solo componenti specifici potrebbero richiedere adattamento.

La domanda centrale affrontata è: A quale risoluzione dovrebbe essere riutilizzata un'abilità recuperata? Gli autori sostengono che le abilità raramente sono uniformemente utili o inutili; piani di alto livello potrebbero corrispondere mentre i passaggi di basso livello no, o viceversa.

Metodologia: Il Framework SkillLens

SkillLens propone un framework evolutivo gerarchico delle abilità che organizza le abilità in un grafo a quattro livelli e le recupera/adatta a granularità mista.

1. Grafo Gerarchico delle Abilità

La libreria di abilità $S$ è strutturata come un grafo $G = (S, E)$ con quattro livelli di astrazione, adattati dai framework delle opzioni e dalla pianificazione HTN:

1. Politica ($\ell=1$): Instrada i compiti verso strategie a valle.
2. Strategia ($\ell=2$): Fornisce piani a lungo orizzonte.
3. Procedura ($\ell=3$): Procedure Operative Standard (SOP) riutilizzabili con logica di diramazione e riprova.
4. Primitiva ($\ell=4$): Unità eseguibili atomiche (chiamate di strumenti, azioni sull'ambiente).

I collegamenti uniscono livelli adiacenti (genitore-figlio) e fratelli (laterali), ponderati in base alla similarità semantica e alle relazioni strutturali.

2. Adattamento a Granularità Mista (In fase di Inferenza)

Dato un query di compito $Q$, SkillLens costruisce un contesto di abilità compatto $K(Q)$ attraverso un processo in due fasi:

• Recupero dei Semi ed Espansione: Recupera i primi $K$ semi di embedding e li espande tramite una random walk corretta per il grado sul grafo delle abilità per identificare candidati proceduralmente correlati.
• Attraversamento Guidato dal Verificatore: Un verificatore $V_\phi$ attraversa ricorsivamente il sottoalbero di decomposizione dei candidati parzialmente rilevanti. Per ogni unità $u$, il verificatore decide una delle quattro azioni:
  • ACCETTA: L'unità è compatibile; la si mantiene e si interrompe l'attraversamento del suo sottoalbero.
  • DECOMPOSI: L'unità è troppo grossolana; espandi ai suoi figli per una valutazione ulteriore.
  • RISCRIVI: L'unità è utile ma non corrispondente; uno scrittore $W_\phi$ la adatta localmente.
  • SALTA: L'unità è irrilevante; scartala.

Il contesto finale $K(Q)$ è composto solo da unità accettate e riscritte localmente, garantendo che l'agente riceva un contesto specifico per il compito piuttosto che un intero blocco recuperato.

3. Affinamento Evolutivo a Doppio Registro

SkillLens accoppia l'adattamento in fase di inferenza con l'affinamento in fase di evoluzione utilizzando due registri accoppiati:

• Registro Agente ($S$): La conoscenza procedurale consultata dall'agente.
• Registro Verificatore ($S_V$): Parametrizza la politica di instradamento (quando ACCETTARE/DECOMPORRE/RISCRIVERE/SALTARE).

Processo:

1. Costruzione del Rapporto sulle Lacune: Le traiettorie fallite su una divisione evolutiva vengono analizzate per registrare tipi di errore, percorsi di attraversamento e decisioni di instradamento.
2. Aggiornamento Accoppiato: Lo scrittore $W_\phi$ propone modifiche ai registri basate sui rapporti sulle lacune. Il registro del verificatore $S_V$ viene aggiornato per primo per affinare le decisioni di instradamento. Il registro dell'agente $S$ è quindi indotto da queste decisioni di instradamento (materializzando le necessarie modifiche procedurali).
3. Obiettivo: Il sistema massimizza iterativamente un obiettivo $J(S) = \mathbb{E}[M(Y, O_S(Q)) - C(Q, S)]$, bilanciando l'accuratezza del compito ($M$) contro il costo di inferenza ($C$).

4. Garanzie Teoriche

Il documento fornisce tre risultati teorici chiave:

• Costo Sublineare: Sotto ipotesi di disallineamento sparso, il costo di adattamento è sublineare ($o(n)$) rispetto alla dimensione dell'albero delle abilità recuperato, poiché il verificatore evita di attraversare sottoalberi compatibili.
• Miglioramento Monotono: La regola di aggiornamento evolutivo garantisce un miglioramento monotono dell'obiettivo di validazione fino al raggiungimento di un ottimo locale.
• Garanzia di Approssimazione: L'algoritmo composto (recupero + riscrittura) fornisce una garanzia di approssimazione $(1 - 1/e)$ per l'obiettivo surrogato, limitata dagli errori nel recupero, nella valutazione della random walk e nell'instradamento del verificatore.

Contributi Chiave

1. Formulazione: Il riuso delle abilità è riformulato come un problema di selezione e adattamento del contesto, andando oltre l'iniezione piatta di prompt per identificare e comporre parti utili della conoscenza recuperata.
2. Framework: Introduzione di SkillLens, un framework consapevole della risoluzione che utilizza recupero gerarchico, decomposizione guidata dal verificatore e adattamento localizzato. Ciò consente di riutilizzare abilità parzialmente rilevanti alla granularità appropriata.
3. Evidenza: Analisi teorica che mostra costi sublineari e convergenza monotona, insieme a evidenze empiriche di efficienza e prestazioni migliorate.

Risultati Sperimentali

Il framework è stato valutato su MuLocbench (localizzazione di bug a livello di repository) e ALFWorld (compiti testuali interattivi a lungo orizzonte).

• MuLocbench: SkillLens ha ottenuto il miglior Acc@1 su tutte le granularità:
  • Livello File: 61.13% (vs. 58.87% baseline).
  • Livello Modulo: 59.26% (vs. 55.56% baseline).
  • Livello Funzione: 43.68% (vs. 37.37% baseline).
  • Osservazione: I guadagni sono stati più pronunciati a granularità più fini (livello funzione), dove l'iniezione completa dell'abilità è più probabile che sia troppo grossolana.
• ALFWorld: SkillLens ha aumentato il tasso di successo complessivo dal 45.00% (Vanilla) al 51.31%, superando le baseline di abilità piatte (AutoSkill, EvoSkill) di 4.17 punti percentuali.
• Studi di Ablazione:
  • RWR Corretto per il Grado: Rimuovere la random walk ha ridotto le prestazioni, confermando che la propagazione sul grafo porta alla luce abilità strutturalmente rilevanti ma textualmente distanti.
  • Riscrittura Selettiva: La strategia proposta di drill-down selettivo ha superato le baseline "riscrivi-tutto" e "solo-genitore" utilizzando significativamente meno token (16.4M vs. 115.5M per "riscrivi-tutto") e meno tempo.

Significato e Affermazioni

Il documento afferma che SkillLens affronta una limitazione strutturale nei sistemi agenziali attuali: l'incapacità di riutilizzare le abilità a risoluzioni variabili. Trattando le abilità come oggetti procedurali gerarchici piuttosto che come blocchi atomici, SkillLens permette agli agenti di:

• Riutilizzare direttamente sottobilità compatibili senza modifiche.
• Adattare solo i componenti localmente non corrispondenti, riducendo i costi in token e i rischi di allucinazione.
• Evolgere simultaneamente sia il contenuto procedurale che la logica di instradamento, portando a librerie di abilità più robuste nel tempo.

Gli autori sottolineano che questi benefici sono più critici per i compiti che richiedono un uso di abilità fine o compositivo, dove l'approccio "tutto-o-niente" dei sistemi esistenti non riesce a cogliere le sfumature della rilevanza parziale. Si nota che il lavoro futuro estenderà questo approccio a contesti multimodali e ambienti multi-agente.