Dynamic Attentional Context Scoping: Agent-Triggered Focus Sessions for Isolated Per-Agent Steering in Multi-Agent LLM Orchestration

Titolo: Dynamic Attentional Context Scoping (DACS)

Autore: Nickson Patel (Independent Researcher)

1. Il Problema: Inquinamento del Contesto (Context Pollution)

Il paper affronta un problema fondamentale nell'orchestrazione di sistemi multi-agente basati su Large Language Models (LLM). Quando $N$ agenti operano in parallelo sotto la supervisione di un singolo LLM "orchestratore", si verifica un fenomeno di inquinamento del contesto.

• Meccanismo: In un'architettura a "contesto piatto" (flat-context), l'orchestratore mantiene in una singola finestra di contesto le informazioni di tutti gli agenti attivi contemporaneamente (stato parziale, output, domande pendenti).
• Conseguenze: Quando un agente richiede un'assistenza decisionale (steering), il contesto dell'orchestratore è contaminato da informazioni irrilevanti degli altri agenti. Questo porta a:
  • Degradazione della qualità decisionale (l'LLM si concentra su pattern errati).
  • "Contaminazione incrociata" (wrong-agent contamination), dove l'orchestratore risponde a un agente utilizzando terminologia o logica appartenente a un altro agente.
  • Crollo delle prestazioni: gli esperimenti mostrano che l'accuratezza dello steering crolla dal 60% (con 3 agenti) al 21% (con 10 agenti) nel baseline a contesto piatto.

2. Metodologia: Dynamic Attentional Context Scoping (DACS)

DACS è un meccanismo che risolve l'inquinamento del contesto attraverso un'isolamento asimmetrico e attivato dall'agente. L'orchestratore opera in due modalità distinte:

1. Modalità REGISTRY:

   • L'orchestratore mantiene solo un registro leggero ($R$) contenente riassunti di stato per ogni agente (massimo 200 token per agente).
   • Ogni voce include: ID, descrizione del task, stato (es. RUNNING, BLOCKED), ultimo output riassunto e priorità.
   • In questa modalità, l'orchestratore monitora tutti gli agenti e risponde all'utente, ma non esegue decisioni complesse.

2. Modalità FOCUS($a_i$):

   • Viene attivata solo quando un agente specifico $a_i$ invia una richiesta di steering (STEERINGREQUEST).
   • Il contesto viene ricostruito dinamicamente:
     • Contesto completo per $a_i$: Include la descrizione del task, lo storico delle interazioni di steering e l'output parziale corrente dell'agente $a_i$.
     • Contesto compresso per gli altri: Gli altri $N-1$ agenti sono rappresentati solo dalle loro voci nel registro ($R_{-i}$).
   • Proprietà chiave:
     • Attivato dall'agente: L'isolamento avviene solo quando necessario, non ad ogni turno.
     • Asimmetrico: L'agente in focus riceve fedeltà totale; gli altri ricevono solo riassunti.
     • Deterministico: Non ci sono compressioni probabilistiche o funzioni di punteggio; il contesto è costruito esattamente come $F(a_i) + R_{-i}$.
     • Scalabilità sub-lineare: La dimensione del contesto di focus cresce solo linearmente con il numero di agenti (a causa del registro compresso), ma la parte critica (il task specifico) rimane indipendente da $N$.

3. Contributi Chiave

1. Definizione formale di DACS: Specifica la macchina a stati (REGISTRY/FOCUS), il protocollo di richiesta e le invarianti del costruttore del contesto.
2. Implementazione e Osservabilità: Sviluppo di un "harness" di orchestrazione minimale (~300 righe di codice) che registra ogni token, permettendo un controllo sperimentale rigoroso.
3. Validazione Sperimentale Estesa: 200 trial totali su 4 fasi, coprendo scalabilità del numero di agenti ($N$), eterogeneità degli agenti, densità decisionale e agenti LLM autonomi.
4. Metriche Robuste: Utilizzo di un "LLM-as-judge" per validare le metriche di keyword matching, confermando un alto accordo (Cohen's $\kappa \approx 0.91$).
5. Validazione Ecologica: Sostituzione degli agenti "stub" scriptati con agenti LLM autonomi (Claude Haiku 4.5) che generano domande in linguaggio naturale, confermando la validità dei risultati nel mondo reale.

4. Risultati Sperimentali

Gli esperimenti sono stati suddivisi in quattro fasi:

• Fase 1 (Scalabilità di $N$): Confronto tra 3, 5 e 10 agenti.

  • Risultato: DACS mantiene un'accuratezza dello steering tra il 90.0% e il 98.4%, mentre il baseline crolla dal 60% al 21%.
  • Vantaggio: Il divario di accuratezza cresce con $N$ (+36.7 pp a $N=3$, +69.0 pp a $N=10$).
  • Efficienza: Il rapporto di efficienza del contesto (baseline/DACS) raggiunge 3.53x a $N=10$.

• Fase 2 (Eterogeneità e Adversarial):

  • Test su agenti omogenei (stesso dominio), massimamente diversi (domini disgiunti) e in configurazioni a cascata (dipendenza tra agenti).
  • Risultato: DACS supera il baseline in tutti i casi, anche in scenari avversari dove il baseline potrebbe teoricamente beneficiare della visione globale. La contaminazione incrociata scende dal 28-57% (baseline) a 0-14% (DACS).

• Fase 3 (Scalabilità della Densità Decisionale $D$):

  • Aumento del numero di decisioni per agente fino a 15.
  • Risultato: L'accuratezza del baseline peggiora drasticamente all'aumentare della storia decisionale accumulata, mentre DACS migliora leggermente (fino al 98.4%) perché il contesto di focus contiene solo la storia rilevante dell'agente corrente, trasformando la storia in segnale e non in rumore.

• Fase 4 (Validazione con Agenti Reali):

  • Sostituzione degli stub con agenti LLM autonomi (Claude Haiku 4.5) che generano domande libere.
  • Risultato: DACS supera il baseline di +17.2 punti percentuali ($N=3$) e +20.4 punti percentuali ($N=5$), con significatività statistica ($p < 0.01$). Questo conferma che il vantaggio non è un artefatto degli script di test.

5. Significato e Implicazioni

Il paper dimostra che ciò che è presente nella finestra di contesto dell'orchestratore al momento della decisione è la variabile dominante per l'accuratezza nei sistemi multi-agente, più della dimensione del modello o della topologia di rete.

• Efficienza: DACS offre un approccio deterministico ed esatto per gestire il contesto, evitando la necessità di compressione approssimativa o recupero complesso.
• Scalabilità: La soluzione è sub-lineare rispetto al numero di agenti, rendendo fattibile l'orchestrazione di grandi sciami di agenti senza degradazione delle prestazioni.
• Robustezza: Il meccanismo funziona indipendentemente dalla diversità degli agenti e dalla profondità della storia decisionale.

In sintesi, DACS propone un cambio di paradigma: invece di cercare di comprimere tutto il contesto in una finestra unica, l'orchestratore deve isolare dinamicamente il contesto specifico dell'agente che richiede assistenza, mantenendo gli altri agenti come "ombre" informative leggere. Questo approccio risolve il problema dell'inquinamento del contesto e garantisce prestazioni elevate anche in scenari complessi e su larga scala.