Technische Samenvatting: StateBridge

Probleemstelling

Op basis van Large Language Models (LLM) gebaseerde Multi-Agent (MA) systemen vertrouwen momenteel op natuurlijke taal (discrete tokens) voor communicatie tussen agenten. Deze aanpak introduceert een "discrete bottleneck": de zender moet zijn continue interne verborgen toestanden (hidden states) comprimeren naar discrete tokens, waarbij informatie verloren gaat die de identiteit van tokens alleen niet kan vastleggen. Wanneer de ontvanger deze tokens via zijn embedding-laag terug naar vectoren mapt, herstelt hij alleen de token-identiteiten, niet de oorspronkelijke continue verborgen toestanden van de zender. Dit resulteert in informatieverlies en een verslechterde coördinatie.

Hoewel het direct verzenden van ruwe verborgen toestanden een potentieel alternatief is, wordt dit gehinderd door een geometrische mismatch. Pre-trained LLM's zijn getraind om token-embeddings te verwerken bij de inputlaag, terwijl decoder verborgen toestanden een andere regio in de representatieruimte bezetten. Het direct doorgeven van verborgen toestanden veroorzaakt een semantische mismatch, omdat de ontvanger vectoren niet kan interpreteren die de specifieke geometrische uitlijning van zijn input-embeddingruimte missen. Bestaande oplossingen injecteren interne toestanden ofwel laag-voor-laag (wat de portabiliteit beperkt), of vereisen getrainde projectoren (wat de generaliseerbaarheid naar specifieke modellen beperkt).

Methodologie: StateBridge

De auteurs stellen StateBridge voor, een training-vrije communicatie-interface die de verborgen toestanden van de laatste laag van de zender uitlijnt met de input-embeddingruimte van de ontvanger via een gesloten orthogonale transformatie. De methode werkt in drie stadia:

1. Extractie van berichten:
   De zender-agent genereert een bericht. In plaats van de volledige sequentie te verzenden, extraheert het systeem de laatste $K$ verborgen toestanden ($S$) van de gegenereerde tokens. Het haalt ook de bijbehorende referentie-token-embeddings ($R$) op uit de gedeelde vocabulaire-embeddingmatrix. Deze referentie-embeddings dienen als doelwit voor de uitlijning.

2. Uitlijningsinterface:
   De kern van StateBridge is een driestaps-transformatie om $S$ om te zetten in een uitgelijnde prefix $\bar{S}$ die compatibel is met de ontvanger:

   • Orthogonale Procrustes-uitlijning: De methode behandelt $S$ en $R$ als puntenwolken in $\mathbb{R}^d$. Het centreert en witrukt eerst beide sets om globale offsets te verwijderen en de hoofdrichtingen gelijk te trekken. Vervolgens lost het een orthogonaal Procrustes-probleem op om de optimale rotatiematrix $Q^*$ te vinden die de gewitte zender-toestanden mapt naar de gewitte referentie-embeddings, terwijl de paarwijze afstanden en hoeken behouden blijven. Dit zorgt ervoor dat de geometrische structuur (semantische gelijkenis) van de representatie van de zender behouden blijft.
   • Norm-kalibratie: De verborgen toestanden van de laatste laag hebben doorgaans aanzienlijk grotere normen dan input-token-embeddings. StateBridge schaalt elke uitgelijnde vector om de gemiddelde $\ell_2$-norm van de vocabulaire-embeddings te evenaren. Dit voorkomt dat de prefix de aandachtsscores van de ontvanger domineert enkel op basis van grootte.
   • Vocabulaire-verankering: Om te garanderen dat de uitgelijnde vectoren zich in regio's van de embeddingruimte bevinden die tijdens de pre-training zijn aangetroffen, wordt elke gekalibreerde vector licht verschoven richting de dichtstbijzijnde vocabulaire-embedding (gebaseerd op cosinus-gelijkenis). Deze stap handhaaft continuïteit terwijl de representatie wordt verankerd aan de verwachte inputdistributie van de ontvanger.

3. Prefix-injectie:
   De resulterende uitgelijnde prefix $\bar{S}$ wordt voorafgevoegd aan de prompt-embeddings van de ontvanger. De ontvanger verwerkt deze continue prefix met zijn standaard taalmodelleringlagen zonder enige architecturale wijzigingen of tokenisatie.

Belangrijkste Bijdragen

1. Oplossing van de Representatie-mismatch: Het artikel demonstreert dat gesloten uitlijning alleen al voldoende is om de geometrische mismatch tussen verborgen toestanden van de laatste laag en input-embeddings op te lossen, wat effectieve latente communicatie mogelijk maakt zonder training of architecturale wijzigingen.
2. StateBridge-framework: De auteurs stellen een specifieke, parameter-vrije interface voor die Procrustes-uitlijning, norm-kalibratie en vocabulaire-verankering combineert. Deze aanpak behoudt de paarwijze geometrische relaties van de toestanden van de zender, terwijl de compatibiliteit met de inputruimte van de ontvanger wordt gewaarborgd.
3. Empirische Superioriteit: Over vier modellen uit twee families (Qwen3 en OLMo3) en acht benchmarks (wiskunde, QA, code) presteert StateBridge consistent beter dan tekstgebaseerde communicatie en KV-cache transfer baselines. Het behaalt de beste of gelijk aan de beste score op 22 van de 26 model-taak paren.

Resultaten

• Prestaties: StateBridge behaalde een gemiddelde verbetering van 2,4 tot 2,9 procentpunt ten opzichte van de beste baseline in alle modelinstellingen.
• Generaliseerbaarheid: De methode toonde een robuuste prestatie over verschillende modelarchitecturen. Met name op het OLMo3-7B-Think model presteerde KV-cache transfer (LatentMAS) slecht (55,1% gemiddeld) vergeleken met tekst (73,9%), terwijl StateBridge 76,7% behaalde. Dit suggereert dat de input-laag-georiënteerde operatie van StateBridge robuuster is tegen architecturale verschillen dan methoden die toestanden over alle transformer-lagen injecteren.
• Taakgevoeligheid: De winst was het meest uitgesproken op uitdagende benchmarks die diep redeneren vereisen (bijv. MedQA, GPQA, AIME, codegeneratie), waar tekstuele communicatie het meest waarschijnlijk nuttige continue informatie wegwerpt.
• Ablatie-studies:
  • Het vervangen van Procrustes-uitlijning door ridge-regressie (een niet-orthogonale lineaire kaart) veroorzaakte een significante daling in prestaties (van 82,4% naar 74,9% gemiddeld), wat bevestigt dat het behoud van de paarwijze geometrische structuur cruciaal is.
  • Het verwijderen van norm-kalibratie of vocabulaire-verankering degradeerde de prestaties ook, wat aangeeft dat geometrische uitlijning alleen onvoldoende is zonder schaal- en distributiecompatibiliteit.
• Casestudy: Een reconstructie-taak demonstreerde dat de uitgelijnde prefix semantische informatie bevat (bijv. de specifiekt medische term "koilonychia") die afwezig was in de zichtbare suffix-tokens, wat bewijst dat de prefix informatie draagt die verder gaat dan de discrete tekstuele output.

Betekenis en Claims

Het artikel claimt dat de primaire uitdaging in latente communicatie niet louter het verzenden van rijkere toestanden is, maar het leesbaar maken van die toestanden voor de volgende agent. StateBridge pakt dit aan door ervoor te zorgen dat de verzonden toestanden zowel informatief als geometrisch compatibel zijn met de inputruimte van de ontvanger.

De auteurs benadrukken dat hun aanpak training-vrij is en geen architecturale modificatie vereist, waardoor het toepasbaar is op standaard LLM's. Ze argumenteren dat het ontwerp van de communicatie-interface een kritische, vaak over het hoofd geziene factor is in homogene MA-systemen. Hoewel het huidige werk uitgaat van gedeelde modelgewichten en vaste prefix-lengtes, suggereren de resultaten dat uitlijningsgebaseerde interfaces de samenwerking tussen meerdere agenten aanzienlijk kunnen verbeteren, met name in taken waarbij discrete tokenisatie voor substantiële informatieverlies zorgt.