Riepilogo Tecnico: Compilazione JIT per Agenti per l'Ottimizzazione della Latenza nella Pianificazione e Programmazione di Agenti Web

Enunciato del Problema

Gli agenti per l'uso del computer (CUA) automatizzano attività basate sul web specificate in linguaggio naturale (ad esempio, "ordina l'articolo più economico da Taco Bell") generando sequenze di chiamate agli strumenti come clic, digitazione e scorrimento. Le implementazioni attuali seguono tipicamente un ciclo sequenziale di acquisizione-screenshot-esecuzione, dove ogni iterazione richiede una chiamata a un Modello Linguistico di Grande Dimensione (LLM). Questa architettura soffre di due limitazioni principali:

1. Alta Latenza e Costi: La necessità di una chiamata LLM ad ogni passo crea significativi ritardi di esecuzione e costi di inferenza elevati.
2. Accuratezza e Tassi di Errore: L'applicazione ingenua di LLM all'avanguardia porta a frequenti errori, spesso derivanti da sequenze di utilizzo degli strumenti errate (ad esempio, cliccare sull'elemento sbagliato o digitare nel campo sbagliato) e da una mancanza di ottimizzazione nella programmazione dell'esecuzione.

I tentativi esistenti di migliorare le prestazioni, come il filtraggio aggressivo del DOM o l'apprendimento per rinforzo di modelli più piccoli, fanno ancora affidamento su set di strumenti statici ed esecuzione sequenziale, fallendo nell'esplorare l'intero spazio delle programmazioni di esecuzione (inclusi il parallelismo e la protezione delle richieste) o nell'eliminare le chiamate LLM non deterministiche tra le invocazioni degli strumenti.

Metodologia: Compilazione JIT per Agenti

Gli autori propongono la Compilazione Just-In-Time (JIT) per Agenti, un sistema che traduce istruzioni di alto livello in linguaggio naturale in codice ottimizzato ed eseguibile al momento della sintesi del piano. A differenza degli agenti standard che eseguono un ciclo di "osserva-pensa-agisci", questo sistema compila un'attività in un grafo di codice statico che orchestra le chiamate agli strumenti e l'inferenza, selezionando la traduzione con il costo stimato più basso. L'architettura è composta da tre componenti principali:

1. Protocollo degli Strumenti con Vincoli di Invarianza

Per garantire la correttezza dei piani di codice generati, il sistema introduce un protocollo in cui ogni strumento specifica precondizioni e postcondizioni (invarianti di stato).

• Struttura: Gli strumenti definiscono gli stati attesi prima dell'esecuzione (pre), gli stati garantiti dopo l'esecuzione (post) e predicati opzionali a runtime (pre_check, post_check) per il debug.
• Verifica: Ciò abilita la verifica composizionale al momento della compilazione. Una chiamata allo strumento è valida solo se lo stato corrente soddisfa la sua precondizione. Questo controllo statico elimina una vasta classe di errori causati da sequenze di azioni errate (ad esempio, tentare di ordinare un articolo prima di navigare alla pagina dei dettagli).
• Vantaggio: Il protocollo sposta il fronte di Pareto latenza-accuratezza, aumentando significativamente il tasso di generazione di piani validi.

2. Pianificatore Ottimizzante dei Costi (JIT-Planner)

Il pianificatore genera molteplici piani di codice candidati in parallelo, li convalida rispetto al protocollo degli strumenti e seleziona il candidato a costo minimo.

• Generazione Parallela: Più worker campionano piani di codice da un LLM simultaneamente.
• Convalida Basata su CFG: Ogni piano viene convertito in un Grafo di Flusso di Controllo (CFG). Il sistema attraversa il grafo per verificare il flusso di stato (assicurandosi che il post del passo $i$ soddisfi il pre del passo $i+1$) e stimare il costo.
• Modello di Costo: I costi sono accumulati in base alle chiamate agli strumenti e alle chiamate di valutazione AI (ai_eval). Viene applicata una penalità di annidamento ($\gamma$) per scoraggiare i cicli annidati che coinvolgono costose chiamate LLM.
• Esito: Il pianificatore seleziona il piano valido con il costo stimato più basso, sostituendo spesso le chiamate LLM non necessarie con logica di codice pura (ad esempio, calcolando il prezzo minimo nel codice invece di chiedere all'LLM).

3. Programmatore Consapevole dei Costi (JIT-Scheduler)

Il programmatore determina la strategia di esecuzione ottimale per un dato piano basandosi sulle distribuzioni di latenza apprese. Valuta tre strategie:

• Seriale: Esecuzione sequenziale.
• Parallela: Parallelismo delle attività su $n$ worker.
• Protezione (Hedge): Esecuzione parallela speculativa in cui $n$ worker ridondanti eseguono la stessa attività e viene restituito il primo risultato valido.
• Meccanismo: Utilizzando la stima dei costi Monte Carlo, il programmatore campiona dalle distribuzioni di latenza apprese di specifici elementi DOM (raccolte offline). Predice quali elementi un piano interagirà e stima la latenza attesa per ciascuna strategia, selezionando quella con la latenza media minima.

Caching Offline

Il sistema si basa su un processo offline per popolare due cache:

1. Cache del Pianificatore: Mappa azioni di alto livello in codice degli strumenti riutilizzabile e conforme al protocollo (sintetizzato da tracce di esecuzione).
2. Cache del Programmatore: Mappa gli elementi dello schema della pagina alle distribuzioni di latenza (adattate da tracce di esecuzione storiche).

Contributi Chiave

1. Protocollo degli Strumenti con Vincoli di Invarianza: Estende le interfacce degli strumenti standard per includere invarianti di stato, abilitando la verifica statica delle sequenze di strumenti e riducendo gli errori di generazione.
2. Pianificazione Ottimizzante dei Costi: Introduce un pianificatore che genera candidati paralleli, li convalida tramite l'attraversamento del CFG e seleziona il percorso di esecuzione a costo più basso, eliminando efficacemente le chiamate LLM ridondanti.
3. Programmazione Consapevole dei Costi: Implementa un programmatore che seleziona dinamicamente tra strategie seriali, parallele e di protezione basandosi su simulazioni Monte Carlo di distribuzioni di latenza apprese.
4. Sistema End-to-End: Integra questi componenti in un compilatore JIT che traduce attività in linguaggio naturale in codice eseguibile ottimizzato, andando oltre il ciclo standard degli agenti.

Risultati

Il sistema è stato valutato su 37 attività su cinque applicazioni web (Dashdish, GitLab, Gomail, Omnizon, Reddit) utilizzando vari LLM all'avanguardia.

• Prestazioni del JIT-Planner:

  • Ha raggiunto un speedup di 10,4× rispetto alla baseline standard Browser-Use.
  • Ha migliorato l'accuratezza del +28% rispetto a Browser-Use.
  • Ha dimostrato che la stima dei costi classifica efficacemente i piani: la differenza tra i candidati a costo migliore e peggiore ha rappresentato una varianza di latenza di 5,3×.
  • Il protocollo di invarianza ha ridotto il tasso di fallimento della generazione dei piani dall'80% al 43% e ha spostato la modalità di fallimento dominante dalle violazioni dell'ordinamento degli strumenti ad altri tipi.

• Prestazioni del JIT-Scheduler:

  • Ha raggiunto uno speedup di 2,4× e un miglioramento dell'accuratezza del +9% rispetto al CUA di OpenAI.
  • Ha superato le strategie di programmazione fisse (Seriale, Parallela, Protezione) selezionando adattivamente la strategia ottimale per ogni attività. Ad esempio, ha correttamente identificato che le attività con elementi UI ad alta varianza (ad esempio, trovare un pulsante specifico) beneficiano della protezione, mentre le ricerche semplici beneficiano dell'esecuzione seriale.

• Analisi della Complessità:

  • Gli speedup sono stati coerenti attraverso la cardinalità delle attività (bassa, media, alta) e la lunghezza, indicando che i benefici derivano principalmente dall'eliminazione dell'inferenza LLM per passo piuttosto che da euristiche specifiche per l'attività.
  • Le applicazioni con pattern di navigazione complessi (ad esempio, Reddit) hanno visto gli speedup più elevati (fino a 18,9×), mentre quelle con flussi più semplici hanno visto guadagni inferiori ma comunque significativi.

Significato e Affermazioni

Il documento afferma che la Compilazione JIT per Agenti presenta una direzione promettente per migliorare l'efficienza e l'affidabilità degli agenti per l'uso del computer. Trattando la pianificazione degli agenti come un problema di compilazione, il sistema:

1. Disaccoppia la Pianificazione dall'Esecuzione: Permette l'ottimizzazione dell'intero grafo di esecuzione prima del runtime, invece di prendere decisioni greedy passo dopo passo.
2. Riduce il Non-Determinismo: Imponendo invarianti di stato e compilando le attività in codice, riduce la dipendenza da chiamate LLM non deterministiche durante l'esecuzione, portando a una maggiore accuratezza.
3. Ottimizza l'Utilizzo delle Risorse: Attraverso la programmazione consapevole dei costi, si adatta alle caratteristiche di latenza specifiche delle interazioni web, bilanciando il compromesso tra latenza e accuratezza in modo più efficace rispetto alle strategie statiche.

Gli autori notano che l'approccio è più adatto per applicazioni che un agente gestirà ripetutamente, poiché richiede un costo di configurazione offline (sintesi degli strumenti e raccolta delle tracce) per costruire le cache necessarie. Riconoscono le limitazioni riguardanti i cambiamenti dell'interfaccia utente (che possono rompere gli strumenti memorizzati nella cache) e ambienti altamente stocastici (ad esempio, CAPTCHA), ma affermano che il protocollo di invarianza fornisce un meccanismo per il rilevamento a runtime e il fallback.