Technische Samenvatting: Voorspellende Kaarten van Multi-Agent Redenering

Probleemstelling

Praktijkgericht ontwerpers van multi-agent Large Language Model (LLM)-systemen missen momenteel een principiële, pre-inferentiële diagnose om communicatietopologieën (bijv. keten, ster, mesh) te selecteren. Bestaande evaluatiemethoden zijn strikt post hoc, waarbij prestaties alleen worden beoordeeld na uitvoering en uitsluitend voor de specifieke taak die is gemeten. Bijgevolg kunnen ontwerpers niet voorspellen of een gekozen topologie redeneringsafwijking zal versterken, zal convergeren naar een consensus, of robuust zal blijven onder verstoring voordat er ook maar één token is gegenereerd. Het artikel adresseert de behoefte aan een structurele diagnose die karakteriseert hoe het communicatiegraph zelf het systeemgedrag beïnvloedt.

Methodologie

Theoretisch Kader: Successor Representation

De auteurs modelleren een multi-agent LLM-systeem als een gerichte graaf $G=(V, E)$ waarbij knopen agenten zijn en randen informatiekanalen. Ze definiëren een rij-stochastische overgangsmatrix $P$ gebaseerd op de genormaliseerde adjacentiematrix. Het kern-diagnosehulpmiddel is de Successor Representation (SR):
$$M = (I - \gamma P)^{-1} = \sum_{k=0}^{\infty} \gamma^k P^k$$
waarbij $\gamma \in [0, 1)$ een disconteringsfactor is (vastgesteld op 0,9). $M$ comprimeert alle meerstapsinvloedsroutes tot één lineaire operator. De auteurs analyseren drie spectrale grootheden van $M$:

1. Spectrale Straal ($\rho(M)$): De maximale absolute eigenwaarde, die theoretisch de geometrische groei van verstoringen begrenst.
2. Spectrale Gap ($\Delta(M)$): Het verschil tussen de grootste en de op één na grootste eigenwaarde, die de mengtijd en de snelheid van consensusconvergentie bepaalt.
3. Conditiegetal ($\kappa(M)$): De verhouding tussen de grootste en de kleinste singuliere waarden, die de gevoeligheid voor verstoringen in het drijvende signaal meet.

Experimentele Opstelling

Het kader werd gevalideerd op een 12-staps gestructureerde taak voor het bijhouden van staten met het Qwen2.5-7B-Instruct-model over 100 onafhankelijke trials per conditie.

• Taak: Agenten updaten iteratief een JSON-staat (Waarde, Pariteit, Niveau) op basis van een protocol met drie regels en orde-afhankelijkheid, waarbij rekenkundige precisie en conditionele vertakking vereist zijn.
• Geëvalueerde Topologieën:
  • Keten: 12 sequentiële agenten (één per stap).
  • Ster: 4 bladagenten per stap met een centrale rechter die voorstellen aggregeert.
  • Mesh: 4 agenten met peer-deliberatie en meerderheidsstemming.
• Metrieken:
  • Cumulatieve Foutgroei ($E_{ceg}$): Som van afwijkingen van de grondwaarheid.
  • Consensusverval ($R_{cdr}$): Snelheid van contractie van onenigheid.
  • Verstoringsgevoeligheid ($F_{ps}$): Divergentie onder gecontroleerde invoerverstoring.

Theoretische Uitbreiding: Affiene-Ruismodel

Om discrepanties tussen lineaire spectrale voorspellingen en empirisch LLM-gedrag te verklaren, stellen de auteurs een affiene-ruismodel voor. Ze veronderstellen dat elke agent onafhankelijke stochastische ruis $\eta$ introduceert. In topologieën met aggregatie (ster/mesh) wordt de ruisvariatie verminderd met een factor $k$ (aggregatieaantal), terwijl in een keten ruis zich ophoopt. Dit leidt tot een drift-correcte versterking $\tilde{\rho}(M; k)$, die de spectrale straal aanpast om rekening te houden met sequentiële foutophoping versus aggregatievoordelen.

Belangrijkste Resultaten

1. Conditiegetal en Verstoringrobuustheid

Het conditiegetal $\kappa(M)$ voorspelde de empirische verstoringrobuustheid perfect.

• Voorspelling: $\kappa_{keten} < \kappa_{mesh} < \kappa_{ster}$.
• Observatie: De keten was het meest robuust, gevolgd door mesh, waarbij de ster het meest gevoelig was voor verstoringen.
• Correlatie: Spearman rangcorrelatie $r_s = 1,0$.
• Implicatie: $\kappa(M)$ is een betrouwbare pre-inferentiële metriek voor adversariële gevoeligheid.

2. Spectrale Gap en Consensus

De spectrale gap $\Delta(M)$ voorspelde de consensusdynamiek gedeeltelijk.

• Voorspelling: Mesh zou het snelst moeten convergeren, gevolgd door ster, en dan keten.
• Observatie: De keten slaagde er niet in om onenigheid te verminderen (zoals voorspeld), maar de ster convergeerde sneller dan de mesh, waardoor de voorspelde volgorde werd omgekeerd.
• Correlatie: $r_s = 0,5$.
• Verklaring: De ruwe spectrale gap vangt menging op de graaf, maar mist het effect van expliciete aggregatie-operatoren (de rechter in de ster-topologie), die geometrische knelpunten creëren die consensus versnellen boven wat de ruwe grafspectrum suggereert.

3. Spectrale Straal en de "Stabiliteitsparadox"

De spectrale straal $\rho(M)$ was perfect omgekeerd wat betreft cumulatieve fout.

• Voorspelling: De keten ($\rho=1$) zou het meest stabiel moeten zijn; ster/mesh ($\rho=10$) zouden onstabiel moeten zijn.
• Observatie: De keten vertoonde de grootste cumulatieve fout (ongeveer 2x die van ster/mesh).
• Correlatie: $r_s = -1,0$.
• Oplossing: De auteurs identificeren een "stabiliteitsparadox". Lineaire spectra coderen stabiliteit tegen deterministische verstoringen in homogene stromen. Echter, LLM-redenering wordt gedomineerd door stochastische per-agent drift. In een keten worden kleine biases doorgegeven zonder te middelen (ophopend als $T^{3/2}$), terwijl ster/mesh-topologieën agenten aggregeren, waardoor de ruisvariatie wordt verminderd met $\sqrt{k}$.
• Correctie: De voorgestelde drift-correcte versterking $\tilde{\rho}$ herstelde succesvol de empirische rangschikking en voorspelde correct dat de keten het meest fragiel is voor cumulatieve fout.

Betekenis en Claims

Het artikel positioneert zichzelf als een eerste stap naar representatieve, drift-bewuste structurele diagnostiek voor multi-agent LLM-systemen. De primaire bijdragen zijn:

1. Formalisatie: Het vestigt een kader waarin multi-agent LLM-systemen worden behandeld als rij-stochastische communicatiegrafen, waardoor de toepassing van successor representation-theorie mogelijk wordt.
2. Voorspellende Kracht: Het demonstreert dat drie scalaire spectrale grootheden topologieën kunnen rangschikken op drift, consensus en adversariële gevoeligheid voorafgaand aan inferentie.
3. De "Stabiliteitsparadox": Het benadrukt een kritiek regime waar klassieke lineaire spectrale stabiliteit (lage $\rho$) omgekeerd gerelateerd is aan stochastische drift-stabiliteit. Dit suggereert dat voor LLM-pijplijnen structurele diagnostiek rekening moet houden met ruisophoping en aggregatie, en niet alleen met normen van lineaire operatoren.
4. Praktische Triage: De auteurs stellen een pre-inferentiële triageregel voor: gebruik $\kappa(M)$ voor adversariële robuustheid, $\Delta(M)$ (met voorbehoud voor expliciete aggregatoren) voor consensussnelheid, en de drift-correcte $\tilde{\rho}$ voor cumulatieve fout.

Beperkingen en Scope:
De auteurs stellen expliciet dat dit een casestudie is, geen universele wet. De bevindingen zijn gebaseerd op één modellenfamilie, één taakfamilie en drie topologieën. Het statistische gewicht van het rangschikken van drie items is laag. Het affiene-ruismodel veronderstelt onafhankelijke en identiek verdeelde (iid) ruis, wat mogelijk niet geldt als agenten systematische biases delen vanuit een gemeenschappelijk basismodel. De auteurs presenteren hun werk als een kader met afleidbare voorspellingen en een gecontroleerde instantiatie, en nodigen toekomstig werk uit om te variëren over modellen, taken en rijkere topologieën.