Technische Samenvatting: MasFACT

Probleemdefinitie

Het artikel behandelt de uitdaging van Continu Topologie-Leren voor Multi-Agent Systemen (MAS). Hoewel MAS gebaseerd op Large Language Models (LLM) effectief zijn gebleken voor complex redeneren, hangt hun prestatie sterk af van de onderliggende communicatietopologie (hoe agenten coördineren). Bestaande methoden optimaliseren topologieën doorgaans voor geïsoleerde, statische taken. In real-world scenario's waar taken evolueren in streams, lijden deze methoden onder topologievergeten: naarmate het systeem zich aanpast aan nieuwe taken, drijft de topologiegenerator weg van de communicatiestructuren die effectief waren voor eerdere taken.

Deze faalmodus verschilt van standaard parametervergeten. Het ontstaat door kruistaken-misalignering in twee dimensies:

1. Functionele semantiek op agentniveau: Rollen en hulpmiddelen kunnen van betekenis veranderen tussen taken.
2. Relationele communicatiestructuren: De optimale grafverbindingen veranderen, waardoor de generator eerder nuttige samenwerkingspatronen overschrijft.

Huidige benaderingen (zoekgebaseerd of genererend) overschrijven ofwel eerdere structuren of lijden onder distributiedrift zonder expliciete structurele geheugen, wat leidt tot een afweging waarbij korte-termijnaanpassing de langetermijnkennis verslechtert.

Methodologie: MasFACT

De auteurs stellen MasFACT (Factorized Aligned Consensus Topology transfer) voor, een geometrie-bewust raamwerk voor posterior-overdracht dat is ontworpen om historische samenwerkingskennis te behouden en opnieuw te gebruiken. De methode werkt via een drie-traps proces:

1. Gefactoriseerde Historische Topologieconstructie

MasFACT onderhoudt een Prior Bank ($M$) van "prior-atomen" afgeleid van historische topologieën met hoge bruikbaarheid. Elk atoom $H_m$ is gefactoriseerd in drie componenten om overdracht mogelijk te maken tussen taken met verschillende agentidentiteiten en grafcardinaliteiten:

• Consensus Topologie ($S_m$): Een gerichte graaf die herbruikbare communicatiestructuren codeert.
• Prototype Kenmerken ($X_m$): Agentkenmerken die overdraagbare functionele semantiek vastleggen (rollen, hulpmiddelen).
• Nodemaat ($\nu_m$): Een maat over prototypenoden voor optimale transportalignering.
• Metadata: Elk atoom slaat ook historische bruikbaarheid ($\bar{U}_m$) en structurele dispersie ($\sigma_m$) op om retriever te sturen.

2. Geometrie-bewuste Prior Retrieval

Wanneer een nieuwe taak $T_t$ arriveert, haalt MasFACT het meest overdraagbare prior-atoom op. In plaats van eenvoudige indexmatching, formuleert het retriever als een Optimaal Transport probleem met behulp van de Fused Gromov-Wasserstein (FGW) afstand.

• Alignering: Het aligneert het steigeringsgraf van de huidige taak (agenten en voorlopige structuur) met historische atomen door gezamenlijk de kosten van het matchen van agentkenmerken (semantiek) en grafrelaties (structuur) te minimaliseren.
• Retrievercriterium: Het systeem selecteert het atoom $H_{m_t}$ dat geometrische overdraagbaarheid (FGW-kosten), structurele concentratie (dispersie) en historische bruikbaarheid in evenwicht brengt.
• Projectie: De geselecteerde consensus topologie wordt geprojecteerd in de huidige agentruimte via de optimale koppelingsmatrix, waardoor een continue structurele prior ($C_t$) ontstaat die dient als referentiepunt.

3. Conservatieve Posterior Adaptatie

Om zich aan te passen aan de nieuwe taak zonder te vergeten, leert MasFACT een stochastische posterior ($q_t$) gecentreerd rond de gealigneerde prior ($C_t$), in plaats van de volledige topologieruimte te doorzoeken.

• Residuleerend Leren: De posterior wordt gedefinieerd als een verstoring van de prior: $q_t(B) \propto \exp(\langle C_t + R_t, B \rangle)$, waarbij $R_t$ een spars, leerbare residu-scorematrix is. Dit zorgt ervoor dat aanpassing beperkt blijft tot noodzakelijke lokale bewerkingen.
• PAC-Bayes Beperking: Het trainingsdoel wordt geleid door een PAC-Bayes overdrachtsgrens. De verliesfunctie minimaliseert het empirische risico terwijl het de complexiteit van de posterior ten opzichte van de prior straft (KL-divergentie) en sparsheid afdwingt op de residu-bewerkingen. Dit begrenst theoretisch het risico op topologievergeten door structurele drift te controleren.

Belangrijkste Bijdragen

1. Probleemformulering: De auteurs identificeren en formaliseren topologievergeten als een onderscheiden faalmodus in continu MAS-leren, veroorzaakt door misalignering in zowel topologieruimte als agentsemantiek.
2. Nieuw Raamwerk (MasFACT): Ze introduceren een geometrie-bewust raamwerk dat historische topologieën behandelt als overdraagbare structurele priors. Door FGW optimaal transport te combineren voor kruistaken-alignering met PAC-Bayes-gestuurde conservatieve posterior adaptatie, balanceert MasFACT plasticiteit (aanpassen aan nieuwe taken) en stabiliteit (behoud van oude topologieën).
3. Evaluatieprotocol: Het artikel stelt een hiërarchisch continu MAS-evaluatieprotocol voor dat zich uitstrekt over taakniveau (verschillende redeneringsfamilies), domeinniveau (verschillende datasets binnen een familie) en klasseniveau (fijnkorrelige subvaardigheden) evolutie over vier redeneringsdomeinen en 17 datasets.

Experimentele Resultaten

Experimenten werden uitgevoerd over 12 continue scenario's met Llama-3.1-8B als ruggengraat. MasFACT werd vergeleken met single-agent methoden, vaste topologieën en state-of-the-art adaptieve topologiegeneratoren (bijv. GDesigner, MasRouter, ARGDesigner), inclusief replay-gebaseerde varianten.

• Prestatie: MasFACT presteerde consequent beter dan alle baselines. Over alle settings verbeterde het Gemiddelde Nauwkeurigheid (AA) met ongeveer 9,3% en verlaagde het Gemiddeld Vergeten (AF) met 69,4% ten opzichte van sterke baselines.
• Vergeten Mitigatie: In tegenstelling tot andere methoden die vaak positief vergeten vertonen (prestatiedegradatie op oude taken), bereikte MasFACT vaak negatief vergeten (positieve achterwaartse overdracht), wat aangeeft dat geleerde samenwerkingspatronen de prestaties op eerdere taken verbeterden.
• Plug-and-Play: MasFACT diende als een effectieve continue laag voor diverse topologiegeneratoren (pruning-gebaseerd, graf-generatie en routing-gebaseerd), waardoor hun prestaties verbeterden zonder hun kernarchitecturen te wijzigen.
• Ablatie: Het verwijderen van de historische prior, FGW-alignering of PAC-Bayes-beperkingen degradeerde de prestaties aanzienlijk, wat bevestigt dat de gezamenlijke alignering van structuur en semantiek, gecombineerd met conservatieve adaptatie, cruciaal is.

Betekenis en Claims

Het artikel stelt dat topologievergeten een structureel fenomeen is dat verschilt van parametervergeten, en een verschuiving vereist van parameter-centric continu leren naar structuur-centric overdracht.

• Structurele Kennis als Priors: Het werk toont aan dat effectieve samenwerkings topologieën herbruikbare structurele kennis zijn die gefactoriseerd, gealigneerd en overgedragen kunnen worden, in plaats van voor elke taak opnieuw van scratch te worden ontdekt.
• Geometrie-bewuste Overdracht: Door gebruik te maken van FGW, slaagt de methode erin de misalignering van agentrollen en grafstructuren tussen taken te verwerken, een beperking van standaard Euclidische of index-gebaseerde retriever.
• Stabiliteit-Plasticiteit Balans: De PAC-Bayes formulering biedt een theoretische garantie die het systeem in staat stelt zich aan te passen aan nieuwe taken terwijl het de afwijking van bewezen historische structuren strikt begrenst.

De auteurs concluderen dat MasFACT een robuuste, architectuur-onafhankelijke oplossing biedt voor het schalen van betrouwbare en adaptieve LLM-gebaseerde MAS in dynamische, evoluerende omgevingen, en voorbijgaat aan statisch, one-shot topologieontwerp.