Technische Samenvatting: DynaGraph

Probleemstelling

Huidige benaderingen voor complexe redeneertaken (bijv. multi-hop QA, wiskundige deductie, financiële analyse) staan voor een kritieke tweedeling. Monolithische Large Language Models (LLM's) bieden sterke redeneervermogens, maar lijden onder ernstige computere redundantie en hoge geheugenoverhead, vaak vereisend enorme parameteraantallen (bijv. 70B+) die ontoegankelijk zijn voor consumentenhardware. Omgekeerd proberen multi-agent of gestructureerde pijplijnbenaderingen taken te decomponeren, maar worstelen met een afweging tussen controleerbaarheid en flexibiliteit:

1. Statische DAG-pijplijnen: Hoewel voorspelbaar in overhead, missen ze reactieve herstelmechanismen. Gelokaliseerde fouten hopen onvermijdelijk op, wat leidt tot cascaderende uitval.
2. Onbeperkte dynamische agents: Deze bieden autonomie, maar zijn vatbaar voor trajectdivergentie, meta-cognitieve hallucinaties en onvoorspelbare geheugenopblazing door herhaald trial-and-error.

De kernuitdaging is het ontwikkelen van een collaboratief systeem dat convergente, efficiënte zelfcorrectie bereikt onder een strikt gecontroleerd computatiebudget.

Methodologie

DynaGraph is een lichtgewicht multi-model framework gedreven door dynamische topologische reconfiguratie. Het verschuift van statische taakplanning naar adaptieve topologie-evolutie via een real-time feedbacklus.

1. Architectuur en Executie

• Lichtgewicht Multiplexing: Het systeem maakt gebruik van een gedeelde, bevroren basismodel ($W_0$) en multiplexertijd-gescheiden PEFT (Parameter-Efficient Fine-Tuning) adapters (specifiek LoRA) voor verschillende domeinexperts (Feitelijke Retrieval, Logische Deductie, Expressie).
• Geheugenefficiëntie: Door adapters atomair te ontladen en te laden op basis van de uitvoeringsvolgorde van de Directed Acyclic Graph (DAG), behoudt het systeem een constante $O(1)$ GPU-geheugenvoetafdruk, ongeacht de grootte van de expertpool. Dit maakt complexe multi-model inferentie mogelijk op een enkele consumenten-GPU (bijv. RTX 5090).
• Staatruimte: Het systeem formaliseert taakoplossing als een graaf $G(t) = (V(t), E(t))$. Elke knoop $v_i$ vertegenwoordigt een sub-taak uitgevoerd door een specifieke expert, die een gestructureerde feedbacktupel $F_i = \langle o_i, \xi_i, c_i \rangle$ retourneert, bevattende de output, een uitzonderingsvlag en een betrouwbaarheidsscore.

2. Adaptieve Topologische Zelfherstel

Een centrale Evaluator bewaakt continu uitvoeringsbetrouwbaarheid en onzekerheid. Bij detectie van anomalieën (lage betrouwbaarheid, afwijkingen in formaat of logische breuken) activeert deze een hiërarchisch zelfherstelmechanisme:

• Fijnmazig Patchen: Voor gelokaliseerde datahiaten of kleine rekenfouten voegt het systeem dynamisch een aanvullende "patch"-knoop in om het specifieke breekpunt te hechten zonder de gehele graaf te verstoren.
• Subgraafherconstructie: Bij ernstige logische breuken of wanneer globale onzekerheid een drempelwaarde overschrijdt, verkort het systeem de beschadigde tak en genereert een nieuwe subgraaf, waardoor foutpropagatie wordt voorkomen.
• Budgetbeperkingen: Om oneindige recursie te voorkomen, is een cumulatief reconstructietelling ($\eta$) afgekappt. Als de drempel wordt bereikt, activeert het systeem een fallback-mechanisme.

3. Training via Critic-Gestuurde DPO

De centrale Planner (verantwoordelijk voor graafgeneratie en reconfiguratie) wordt getraind met Direct Preference Optimization (DPO).

• Topologie Critic: Een samengestelde beloningsfunctie $R(\tau)$ evalueert uitvoeringstrajecten op basis van drie dimensies: Taakvoltooiing (nauwkeurigheid/hallucinatiedetectie), Actielegaliteit (cyclusdetectie) en Systeemoverhead (het bestraffen van redundante knopen).
• Optimalisatie: De Planner wordt fijngefineerd om de waarschijnlijkheid van hoog-belonende trajecten te maximaliseren ten opzichte van verworpenen, waarbij de noodzaak voor instabiele beloningsmodeltraining wordt omzeild.

Belangrijkste Bijdragen

1. Lichtgewicht Architectuur: DynaGraph multiplexert tijd-gescheiden PEFT-adapters over een gedeeld basismodel, waardoor de piek GPU-geheugenvoetafdruk wordt begrensd tot ~16,6 GB. Dit maakt 8B-schaal multi-model inferentie mogelijk op een enkele consumenten-GPU, een prestatie die eerder multi-GPU-opstellingen vereiste voor vergelijkbare multi-agent systemen.
2. Adaptieve Topologische Zelfherstel: Het framework introduceert een staaat-bewuste reconfiguratiemechanisme dat structuur en autonomie in evenwicht brengt. Het schakelt dynamisch tussen fijnmazig patchen en subgraafherconstructie om redeneerconvergentie te garanderen terwijl cascaderende fouten worden gestopt.
3. Efficiëntie en Prestaties: Het systeem bereikt redeneervermogens op een 8B-model die sterk lijken op die van 72B monolithische modellen, terwijl het tegelijkertijd de latentie en tokenconsumptie aanzienlijk verlaagt in vergelijking met onbeperkte dynamische architecturen.

Experimentele Resultaten

Geëvalueerd op StrategyQA, MATH en FinQA met een DeepSeek-8B basismodel:

• Prestaties: DynaGraph behaalde 87,6% op StrategyQA, 82,7% op MATH en 82,5% op FinQA. Opmerkelijk is dat de 8B DynaGraph op MATH (82,7%) de prestaties van een 72B referentiemodel (89,2%) sterk benadert.
• Efficiëntie: In vergelijking met onbeperkte dynamische baselines zoals Reflexion, verlaagde DynaGraph de tokenconsumptie met tot 68,6% en de latentie met tot 68,1%. Bijvoorbeeld, op FinQA daalde de latentie van 86,9s (Reflexion) naar 30,2s.
• Ressourcenverbruik: Het systeem behield een stabiele piek GPU-geheugenvoetafdruk van 16,6 GB, wat de $O(1)$ geheugenbound valideert, terwijl een statische 3-agent 8B-baseline >49,5 GB vereiste.
• Ablatie: Het verwijderen van fijnmazig patchen verhoogde de latentie aanzienlijk (bijv. +92,2% op StrategyQA), terwijl het verwijderen van subgraafherconstructie leidde tot een ineenstorting van de nauwkeurigheid op MATH (van 82,7% naar 41,5%), wat de noodzaak bevestigt van beide mechanismen voor verschillende fouttypen.

Betekenis en Claims

Het artikel claimt dat DynaGraph een significante stap voorwaarts is naar resiliente, adaptieve multi-model interactie. Door uitvoeringsstructuur te ontkoppelen van statische topologieën, adresseert het het "dilemma" van bestaande frameworks: het vermijdt de broosheid van statische pijplijnen en de onvoorspelbaarheid van onbeperkte agents.

De auteurs benadrukken dat hun aanpak complexe redenering op consumentenhardware mogelijk maakt zonder in te leveren op de robuustheid van grootschalige modellen. Het framework toont aan dat dynamische topologische interventie de inherente capaciteitsbeperkingen die door parameterschaal worden opgelegd, gedeeltelijk kan mitigeren, en een weg biedt naar efficiënte, zelfcorrigerende AI-systemen die niet afhankelijk zijn van enorme, monolithische parameteraantallen.

Erkende Beperkingen:
De auteurs merken op dat tijd-gescheiden multiplexing sequentiële uitvoering oplegt, wat parallelle verwerking van sub-taken uitsluit en overhead door adapter-switching introduceert. Bovendien is de huidige evaluatie beperkt tot Engelstalige datasets, en kan de afhankelijkheid van lokale expert zelf-calibratie verdere verkenning vereisen voor gespecialiseerde domeinen of morfologisch rijke talen. Schaalwetten voor massale modellen (70B+) blijven een open vraag.