Do Proactive Agents Really Need an LLM to Decide When to Wake and What to Anchor?

Riepilogo Tecnico: Agenti Proattivi e Apprendimento su Grafi Temporali

Enunciato del Problema
Le attuali architetture di agenti proattivi si basano su Modelli Linguistici su Larga Scala (LLM) per prendere decisioni "sempre attive" riguardo a quando intervenire (attivazione) e quale contesto fornire (instradamento). Questo approccio presenta due inefficienze critiche:

1. Attivazione Costosa e Lenta: L'esecuzione di un LLM di grandi dimensioni su ogni evento utente (ad esempio, apertura di file, cambio applicazione) crea un significativo collo di bottiglia in termini di latenza e risorse computazionali, poiché la decisione di attivazione si trova sul percorso critico del sistema.
2. Suggerimenti Non Fondati: Quando si attiva un trigger basato su LLM, il suggerimento risultante spesso manca di fondamento negli artefatti specifici dell'utente. Poiché l'attivazione e la selezione del contesto sono spesso fasi separate, l'intervento può ricadere su argomenti generici della sessione piuttosto che sull'entità specifica che l'utente sta manipolando attivamente.

Il problema centrale è una discrepanza nella rappresentazione dei dati: l'attività utente è nativamente un flusso di eventi strutturato (attore, verbo, oggetto, timestamp) mantenuto dal sistema operativo come un grafo. Convertire questa struttura in testo e chiedere a un LLM di recuperare la struttura è un inutile "viaggio di andata e ritorno" che perde le connessioni tra entità attraverso eventi e le strutture molti-a-molti tra eventi ed entità.

Metodologia
Gli autori propongono un'Architettura First-Graph e Fondamentata che sostituisce il trigger e il selettore di contesto basati su LLM con un piccolo modello di Apprendimento su Grafi Temporali (TGL).

• Costruzione del Grafo: L'attività utente viene convertita in un grafo di interazione temporale eterogeneo. I nodi rappresentano eventi ed entità semantiche (file, applicazioni, URL, query), mentre gli archi codificano sequenze temporali e relazioni "ha_entità".
• Backbone Condiviso: Un singolo encoder TGL (che impila livelli GATv2 consapevoli delle relazioni con un capo Jumping Knowledge) elabora il grafo della sessione in un'unica passata in avanti.
• Output a Doppia Testa:
  • Testa di Attivazione: Opera sui nodi evento per produrre una probabilità ($p_{trig}$) sulla possibilità di risvegliare l'agente a valle.
  • Testa di Instradamento: Opera sui nodi entità per produrre punteggi di rilevanza ($s_{rout}$) per entità specifiche, selezionando il contesto strutturato da inoltrare.
• Esecuzione a Valle: L'agente linguistico a valle (LLM) viene invocato solo quando la testa di attivazione supera una soglia. Esso consuma le entità instradate ad alto punteggio come contesto strutturato per generare un suggerimento fluido rivolto all'utente.

Contributi Chiave

1. Formulazione: Il documento riformula l'attivazione proattiva e la selezione del contesto come un problema congiunto di previsione a livello di nodi su un grafo temporale eterogeneo, piuttosto che come un problema di modellazione linguistica. Ciò consente un controller leggero e sempre attivo.
2. Architettura: Gli autori realizzano un design unificato in cui una testa di attivazione e una testa di instradamento condividono un singolo backbone TGL. Sono addestrati congiuntamente contro un obiettivo combinato, garantendo che la decisione di risveglio e la selezione delle evidenze siano derivate dallo stesso stato nascosto in un'unica passata in avanti.
3. Efficienza e Prestazioni: L'approccio disaccoppia la decisione "sempre attiva" dal ragionamento pesante dell'LLM, riservando l'LLM ai momenti che superano l'attivazione.

Risultati Sperimentali
Valutato sul benchmark desktop ProactiveAgent attraverso 14 diversi backbone di agenti linguistici (dai modelli open-weight da 4B a 8B fino alle API chiuse come GPT-4o e Claude-Opus):

• Miglioramento delle Prestazioni: L'approccio TGL ha migliorato i punteggi F1 su ogni backbone, con un aumento medio di +16.7 (intervallo da +3.1 a +46.0). In modo notevole, ha superato le baseline proattive fine-tuned (ad esempio, Qwen2-7B-Proact.) utilizzando un piccolo add-on di encoder grafico invece di un adattamento a livello di parametri.
• Qualità dell'Attivazione: Il trigger TGL ha ottenuto i punteggi AUC più alti (0.738 su eventi "da attivare") rispetto a baseline basate su regole, tabelle, testo (BERT/MLP) e LLM come trigger. Ha inoltre dimostrato una calibrazione superiore, permettendo a una singola soglia globale di servire efficacemente tutti i backbone.
• Latenza e Ingombro:
  • Velocità: TGL elabora gli eventi in 11,13 ms su un server GPU e 13,99 ms su un laptop consumer. Questo è 4–7 volte più veloce dei trigger LLM a singola passata e 12–83 volte più veloce dei trigger LLM su hardware consumer.
  • Memoria: Il modello ha un ingombro residente di ~220 MiB (BF16), consentendo il deployment sul dispositivo insieme a flussi di attività sensibili alla privacy. Al contrario, un trigger LLM da 8B richiede ~16 GB di VRAM.

Significato e Affermazioni
Il documento afferma che il percorso "sempre attivo" per gli agenti proattivi è fondamentalmente un problema grafico, non un problema linguistico. Trattando i flussi di attività come aggiornamenti del grafo piuttosto che come sequenze di testo, il sistema evita l'inefficienza della serializzazione dei dati strutturati per un LLM da analizzare.

Gli autori sostengono che emerge un semplice principio di progettazione: mantenere un modello temporale leggero sempre attivo per gestire le decisioni di "risveglio" e "fondamentazione", e riservare il ragionamento completo dell'LLM solo ai momenti che sopravvivono a questo trigger. Questo approccio raggiunge prestazioni all'avanguardia riducendo drasticamente latenza e costi computazionali, rendendo fattibile l'assistenza proattiva in tempo reale e sul dispositivo senza compromettere la privacy o la reattività. Lo studio suggerisce che l'attivazione e la selezione del contesto dovrebbero condividere lo stato per prevenire la deriva decisionale, una proprietà naturalmente ottenuta dall'architettura TGL unificata.