Dynamic Attentional Context Scoping: Agent-Triggered Focus Sessions for Isolated Per-Agent Steering in Multi-Agent LLM Orchestration

Titel

Dynamic Attentional Context Scoping (DACS): Agent-geactiveerde focussessies voor geïsoleerde per-agent sturing in multi-agent LLM-orkestratie.

1. Het Probleem: Contextvervuiling (Context Pollution)

In moderne multi-agent systemen fungeert vaak één grote LLM als "orkestrator" die meerdere gespecialiseerde agenten (N) gelijktijdig aanstuurt. Het paper identificeert een fundamenteel schaalprobleem: contextvervuiling.

• Mechanisme: In een traditionele "flat-context" architectuur bevinden de volledige contextvensters van alle N agenten zich tegelijkertijd in het contextvenster van de orkestrator.
• Gevolg: Wanneer agent $a_i$ een stuurvraag (steering request) stelt (bijv. "Moet ik BFS of DFS gebruiken?"), wordt dit verzoek verwerkt in een context die ook de onvolledige output, taakstatus en pending vragen van alle andere agenten ($a_j, a_k, ...$) bevat.
• Impact: Deze irrelevante informatie "verontreinigt" de aandacht van de LLM. De orkestrator raakt in de war door domeinspecifieke trefwoorden van andere taken, wat leidt tot een drastische daling van de besluitkwaliteit. Experimenten tonen aan dat de nauwkeurigheid van de orkestrator daalt van 60% bij 3 agenten naar slechts 21% bij 10 agenten in een vlakke context.

2. Methodologie: Dynamic Attentional Context Scoping (DACS)

DACS is een mechanisme dat contextvervuiling oplost door agent-geactiveerde, asymmetrische contextisolatie. De orkestrator schakelt dynamisch tussen twee toestanden:

1. REGISTRY-modus (Standaard):

   • De orkestrator houdt alleen een compacte register (R) bij met statussamenvattingen van alle agenten (max. 200 tokens per agent).
   • Deze samenvattingen bevatten: agent-ID, taakbeschrijving, status (lopend/blokkerend/wachtend/voltooid), en een korte output-samenvatting.
   • De orkestrator blijft reageren op gebruikers en wacht op stuurverzoeken.

2. FOCUS($a_i$)-modus (Actief):

   • Wanneer agent $a_i$ een STEERINGREQUEST stuurt, schakelt de orkestrator over naar deze modus.
   • Contextopbouw: Het contextvenster bevat nu:
     • De volledige context van de actieve agent $a_i$ (taakbeschrijving, eerdere uitwisselingen, huidige output).
     • Een gecomprimeerde versie van het register van alle andere agenten ($R_{-i}$).
   • Isolatie: De context van andere agenten wordt volledig verwijderd uit de actieve stuurcontext, behalve hun korte statusregels.
   • Interrupts: Een agent met hoge urgentie kan een actieve sessie onderbreken; de huidige sessie wordt opgeslagen en de nieuwe focuscontext wordt geladen.

Kernkenmerken:

• Agent-geactiveerd: Isolatie vindt pas plaats wanneer een agent erom vraagt, niet continu.
• Asymmetrisch: De sturende agent krijgt volledige fideliteit; anderen krijgen slechts samenvattingen.
• Deterministisch: Geen probabilistische compressie of scoring; de context is exact $F(a_i) + R_{-i}$.
• Sub-lineaire schaling: De contextgrootte groeit lineair met N (door de samenvattingen), maar de kosten voor de actieve agent blijven stabiel.

3. Belangrijkste Bijdragen

1. Formele Definitie: DACS introduceert een state-machine (REGISTRY/FOCUS) en een protocol voor stuurverzoeken dat contextisolatie garandeert zonder contextcompressie-algoritmen.
2. Implementatie: Een volledig observeerbare orkestratie-harness (ca. 300 regels Python) waarin elke token wordt gelogd, wat strikte experimentele controle mogelijk maakt.
3. Uitgebreide Validatie: Evaluatie over vier fasen met in totaal 200 trials, variërend van scriptgedreven agenten tot autonome LLM-agenten.
4. LLM-as-Judge Validatie: Onafhankelijke verificatie van de resultaten met meerdere LLM-modellen (Claude Haiku 4.5, GPT-4o-mini) om te bevestigen dat de verbeteringen niet artefacten zijn van de evaluatiemethode.

4. Resultaten

De resultaten tonen een overtuigend en statistisch significant voordeel van DACS ten opzichte van een vlakke context-baseline.

• Nauwkeurigheid (Steering Accuracy):
  • DACS behaalt 90,0% – 98,4% nauwkeurigheid.
  • De baseline daalt van 60% (bij N=3) tot 21,0% (bij N=10).
  • Het voordeel groeit met het aantal agenten: +36,7 pp bij N=3 tot +69,0 pp bij N=10.
• Contaminatie (Wrong-Agent Contamination):
  • DACS reduceert cross-agent vervuiling van 28–57% (baseline) naar 0–14%.
  • In scenario's met volledig verschillende vocabulaires (Crossfire) is de contaminatie bij DACS 0%.
• Contextefficiëntie:
  • DACS is tot 3,53x efficiënter in het gebruik van tokens dan de baseline.
  • De efficiëntie verbetert naarmate het aantal agenten (N) en de besluitdichtheid (D) toenemen.
• Real-Agent Validatie (Fase 4):
  • Met autonome agenten (Claude Haiku 4.5) die vrije vragen stellen, behoudt DACS zijn voordeel: +17,2 pp bij N=3 en +20,4 pp bij N=5.
  • Hoewel de absolute nauwkeurigheid lager is dan bij scriptgedreven agenten (vanwege complexere vragen), blijft het relatieve voordeel van DACS significant en groeit het met N.

5. Betekenis en Conclusie

DACS bewijst dat de inhoud van het contextvenster op het exacte moment van sturing de dominante variabele is voor de prestaties van multi-agent systemen, belangrijker dan modelgrootte of complexe topologieën.

• Schaalbaarheid: Het mechanisme lost het "context pollution" probleem op dat traditionele multi-agent systemen beperkt, waardoor ze schaalbaar worden naar grotere aantallen agenten en complexere taken.
• Architectonische Onafhankelijkheid: DACS is complementair aan hiërarchische routing (zoals AgentOrchestra); het kan worden gecombineerd met bestaande systemen zonder de basisarchitectuur te veranderen.
• Praktische Toepassing: Het biedt een eenvoudige, deterministische oplossing die de kwaliteit van beslissingen in real-time verbetert, zelfs onder zware belasting (hoge besluitdichtheid) en bij diverse agenten.

Samenvattend introduceert DACS een nieuwe standaard voor contextbeheer in multi-agent LLM-systemen, waarbij dynamische isolatie leidt tot robuuste, schaalbare en nauwkeurige orkestratie.