💬 NLP

SkillMAS: Skill Co-Evolution with LLM-based Multi-Agent System

SkillMAS is een niet-parametrisch raamwerk dat tegelijkertijd vaartevolutie koppelt aan herstructurering van multi-agent systemen via nutslernen, beperkte vaarteverfijning en bewijsgecontroleerde herorganisatie om adaptatieknelpunten te overwinnen en effectieve specialisatie na implementatie mogelijk te maken voor uiteenlopende taken.

Oorspronkelijke auteurs: Shuai Pan, Yixiang Liu, Jiaye Gao, Te Gao, Weiwen Liu, Jianghao Lin, Zhihui Fu, Jun Wang, Weinan Zhang, Yong Yu

Gepubliceerd 2026-05-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Shuai Pan, Yixiang Liu, Jiaye Gao, Te Gao, Weiwen Liu, Jianghao Lin, Zhihui Fu, Jun Wang, Weinan Zhang, Yong Yu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een team van deskundige werknemers voor (een "Multi-Agent System") dat is opgezet om complexe problemen op te lossen, zoals het inrichten van een huis, het repareren van een computer of het beheren van een winkel. Meestal proberen we fouten die deze teams maken op twee aparte manieren op te lossen:

Werknemers nieuwe trucs leren: We geven hen betere instructies of nieuwe hulpmiddelen (Skill Evolution).
De teamstructuur aanpassen: We nemen meer mensen aan, ontslaan de verkeerde personen of veranderen wie aan wie rapporteert (MAS Restructuring).

Het probleem:
Het artikel stelt dat het apart uitvoeren van deze twee dingen een recept voor rampspoed is. Het is alsof een chef-kok leert om een perfecte biefstuk te bereiden (Vaardigheid), terwijl de restaurantmanager voortdurend de indeling van de keuken en het aantal chefs verandert (Structuur), zonder met de chef te overleggen.

Als de chef een nieuw, chique mes krijgt maar de keuken te klein is, is de nieuwe vaardigheid nutteloos.
Als de manager een nieuwe sous-chef aanneemt maar de oude chef niet heeft geleerd hoe hij het nieuwe apparatuur moet gebruiken, is de nieuwe aanwinst gewoon verward.

Deze scheiding creëert "knelpunten" waar het team vastloopt, overweldigd raakt of in de war raakt over wie wat moet doen.

De oplossing: SkillMAS
De auteurs introduceren SkillMAS, een systeem dat het leren van nieuwe vaardigheden en het aanpassen van de teamstructuur behandelt als één enkel, samenhangend gesprek. In plaats van ze apart op te lossen, kijkt SkillMAS naar het daadwerkelijke prestatieverslag van het team (geverifieerde traces) om te beslissen wat als volgende moet gebeuren.

Hier is hoe het werkt, met een eenvoudige analogie:

1. De "Scorekaart" (Utility Learning)

Stel je een strenge manager voor die alleen krediet geeft op basis van bewijs.

Als een werknemer een nieuwe truc probeert en het lukt, schrijft de manager dit op als een "Succes".
Als een werknemer een truc probeert maar faalt, noteert de manager precies waarom het mislukte.
Cruciaal: De manager geeft geen krediet alleen omdat een werknemer iets probeerde. Ze geven alleen krediet als de werknemer het daadwerkelijk heeft gedaan en het werkte. Dit voorkomt dat het team nutteloze "vaardigheden" verzamelt die slechts waren geraden.

2. De "Hulpmiddelen-update" (Bounded Skill Evolution)

Wanneer het team faalt, gooit SkillMAS niet zomaar een miljoen nieuwe instructies naar de werknemers. Het treedt op als een zorgvuldige redacteur:

Het bekijkt de fout en vraagt: "Was dit een simpele fout, zoals het vergeten van een stap?" Zo ja, dan corrigeert het die ene stap.
Het vraagt: "Was dit een kapot hulpmiddel?" Zo ja, dan slijpt het het hulpmiddel.
Het "Bounded" deel: Het weigert een nieuwe vaardigheid toe te voegen tenzij het absoluut noodzakelijk is en bewezen werkt. Het voorkomt dat de gereedschapskist verandert in een rommelige rommelkast vol halfbakken ideeën.

3. De "Teamherindeling" (Evidence-Gated Restructuring)

Dit is de grootste innovatie van het artikel. Het systeem verandert de teamstructuur (aannemen/ontslagen/samenvoegen) alleen wanneer het bewijs aantoont dat de huidige structuur het probleem is.

Scenario A: Het team faalt omdat ze niet weten hoe ze een taak moeten uitvoeren. -> Oplossing: Leer hen een nieuwe vaardigheid. Verander het team niet.
Scenario B: Het team faalt omdat er te veel mensen zijn die dezelfde baan proberen te doen, of één persoon probeert te veel verschillende banen te doen. -> Oplossing: Verdeel het team. Neem een specialist aan.
De Poort: Het systeem zal het team niet herorganiseren tenzij de "Scorekaart" aantoont dat de huidige teamindeling de specifieke oorzaak van de fout is. Het vermijdt onnodig drama en voortdurend opnieuw aannemen.

Realistische voorbeelden uit het artikel

De auteurs testten dit op drie verschillende "werkplekken":

Het Virtuele Huis (ALFWorld): Stel je een robot voor die een rommelige kamer probeert op te ruimen.
- Resultaat: Het systeem besefte dat de robot in de war raakte tussen "naar een object zoeken" en "het oppakken". Het leerde de robot niet alleen beter; het splitste de baan op in twee gespecialiseerde werknemers: een "Zoeker" en een "Verplaatsaar". Dit verhoogde het succespercentage aanzienlijk.
De Computerterminal (Lifelong Agent Bench): Stel je een werknemer voor die computerbestanden repareert.
- Resultaat: Het systeem creëerde een specialist voor "tekstlogs" en een andere voor "bestandsrechten". Het stopte één persoon met het proberen van alles, wat fouten verminderde.
De Winkels (τ-Bench): Stel je een klantenservicemedewerker voor die retours en ruilingen afhandelt.
- Resultaat: Verrassend genoeg besloot het systeem niet om het team te splitsen. Het besefte dat voor deze specifieke baan het beter was om één hooggekwalificeerde manager te hebben dan een comité. Het verbeterde de vaardigheden van de enkele manager in plaats van meer mensen toe te voegen. Dit bewijst dat het systeem slim genoeg is om te weten wanneer het niet moet herstructureren.

De conclusie

SkillMAS is een raamwerk dat zegt: "Leer het team niet alleen nieuwe trucs, en schud het deck niet alleen door elkaar. Kijk naar het bewijs. Als het probleem een gebrek aan vaardigheid is, leer dan. Als het probleem een slechte teamstructuur is, herorganiseer dan. Maar zorg ervoor dat je maar één ding doet wanneer het andere daadwerkelijk het knelpunt is."

Door het "leren" en het "organiseren" aan elkaar te koppelen met hard bewijs, vermijdt het systeem de verwarring en inefficiëntie die ontstaan wanneer deze twee processen aan zichzelf worden overgelaten.

Technische Samenvatting: SkillMAS

1. Probleemstelling

Het artikel behandelt een kritieke beperking in huidige systemen voor agenten op basis van Large Language Models (LLM): de ontkoppeling van adaptatie tussen evolutie van vaardigheden en herstructurering van Multi-Agent Systemen (MAS).

Bestaande benaderingen behandelen deze twee adaptatiedoelen doorgaans als aparte problemen. De ene onderzoekslijn richt zich op het evolueren van herbruikbare vaardigheden of het distilleren van lessen uit trajecten, zonder gelijktijdig de grenzen van de uitvoerders aan te passen. Een andere lijn focust op MAS-organisatie (het opstarten van agenten, het updaten van rollen of het selecteren van topologieën) zonder de onderliggende bibliotheek met vaardigheden dynamisch te verfijnen. De auteurs betogen dat deze scheiding drie terugkerende faalmodi creëert:

Redundant Bewijs: Geverifieerde uitvoeringstraces kunnen lage-waarde bewijsmateriaal introduceren voor de evolutie van vaardigheden als de context niet goed wordt beheerd.
Overbelasting van Routing: Evolutie van vaardigheden kan het routen en onderhouden van MAS-organisatie moeilijker maken, wat leidt tot contextdruk en verkeerde specialisatie.
Structurele Achterstand: Vaste MAS-organisaties kunnen achterblijven bij veranderende taakstructuren of complexiteit tijdens runtime, en worden zo knelpunten, zelfs als vaardigheden verbeteren.

Zonder een gedeeld bewijsoppervlak kan het systeem niet bepalen of de volgende noodzakelijke interventie evolutie van vaardigheden, herstructurering van MAS, of helemaal geen verandering is.

2. Methodologie: SkillMAS

SkillMAS is een niet-parametrisch raamwerk dat is ontworpen om evolutie van vaardigheden te koppelen aan herstructurering van MAS met behulp van een gedeeld bewijsoppervlak van geverifieerde traces. Het traint de onderliggende taalmodellen niet opnieuw. In plaats daarvan werkt het in discrete adaptatierondes waarbij het systeem episodes uitvoert, nuttigheid leert en gebonden updates toepast.

2.1 Kerncomponenten

Het raamwerk onderhoudt een ronde-status $X_r$ die bestaat uit de bibliotheek met vaardigheden ( $L_r$ ), de set uitvoerders ( $A_r$ ), Nuttigheid van Vaardigheden ( $Q^s_r$ ), Nuttigheid van Uitvoerders ( $Q^a_r$ ), een validatiepool ( $P_r$ ) en een door beleid afgeleid index van experts ( $K_r$ ).

A. Nuttigheidsleren

SkillMAS schrijft krediet toe uitsluitend op basis van geverifieerde uitvoeringstraces in plaats van alleen ophalen.

Nuttigheid van Vaardigheden ( $Q^s$ ): Wordt alleen bijgewerkt voor vaardigheden die expliciet worden aangeroepen of worden ondersteund door het lokaal voor uitvoerders gedefinieerde trace-slice.
Nuttigheid van Uitvoerders ( $Q^a$ ): Wordt alleen bijgewerkt voor uitvoerders die hebben deelgenomen aan geverifieerde uitvoering.
Mechanisme: Het systeem gebruikt een Monte Carlo-regel voor krediettoewijzing. Een vaardigheid krijgt alleen krediet als de trace het gebruik bevestigt (patroonmatch van 'guard' en 'stap'). Dit voorkomt dat positief krediet wordt toegekend aan vaardigheden die slechts zijn opgehaald maar niet zijn gebruikt. Bijwerkingspercentages dalen automatisch op basis van het aantal eerdere geverifieerde updates voor een specifiek item.

B. Gebonden Evolutie van Vaardigheden

Behouden bewijsmateriaal (gefilterd op herhaalde fouten, bijna-missers en herbruikbare successen) drijft gebonden bewerkingen aan de bibliotheek met vaardigheden.

Diagnoseerbaarheid: Een fouttrace wordt gekoppeld aan een dominante oorzaak (bijvoorbeeld een ontbrekende preconditie, onjuiste volgorde).
Gebonden Updates: Het systeem stelt alleen lokale reparaties voor als de oorzaak uniek identificeerbaar is. Toegestane acties omvatten add-guard (toevoegen van bewaker), reorder-step (herschikken van stap), tighten-retrieval (verstrakken van ophalen) of split-skill (splitsen van vaardigheid).
Beperkingen: Voorstellen worden geconsolideerd tegen de bestaande bibliotheek om ongefilterde groei te voorkomen. Nieuwe of zwaar herziene vaardigheden worden in een validatiepool ( $P_r$ ) bewaard totdat voldoende gebruiksbewijs is verzameld.

C. Bewijsgegateerde Herstructurering van MAS

Herstructurering van MAS (toevoegen, samenvoegen of wijzigen van uitvoerders) vindt alleen plaats wanneer behouden fouten en Nuttigheid van Uitvoerders een structurele mismatch aangeven.

Trigger: Herstructurering wordt geblokkeerd door bewijs zoals hoge onzekerheid onder vergelijkbare uitvoerders, herhaalde fouten geconcentreerd in een taakfamilie na reparatie van vaardigheden, of brede uitvoerders die onderling interfererende clusters van vaardigheden bezitten.
Actie: Het systeem kan verantwoordelijkheidsgrenzen behouden, toevoegen, samenvoegen/verwijderen of wijzigen.
Beperking: Per ronde wordt ten hoogste één herstructureringsbewerking toegepast, en deze wordt strikt gerechtvaardigd door de behouden bewijsset.

3. Belangrijkste Bijdragen

Het artikel levert drie primaire bijdragen:

Probleemformulering: Het identificeert en formaliseert ontkoppeling van adaptatie als een probleem op systeemniveau in specialisatie na implementatie, en betoogt dat evolutie van vaardigheden en MAS-organisatie gezamenlijk moeten worden geoptimaliseerd.
SkillMAS-raamwerk: Het introduceert een niet-parametrisch skelet dat Nuttigheidsleren, gebonden evolutie van vaardigheden en bewijsgegateerde herstructurering van MAS verenigt onder één enkel bewijsoppervlak van geverifieerde traces.
Empirische Evaluatie: Het evalueert dit skelet over drie verschillende domeinen: geïncorporeerde manipulatie (ALFWorld), commandoregel-OS-werkstromen (Lifelong Agent Bench) en retail-service-interactie ( $\tau$ -Bench).

4. Experimentele Resultaten

De auteurs hebben SkillMAS geëvalueerd tegen baselines zoals Direct LLM, ReAct, CDMem en Traj-Bootstrap.

ALFWorld (Geïncorporeerde Manipulatie): SkillMAS behaalde 94,0% succes op de volledige onzichtbare split (126/134 taken), wat beter is dan de sterkste gepubliceerde referentiewaarde van 93,0% (Traj-Bootstrap).
- Ablatie: Het transplanteren van de definitieve bibliotheek met vaardigheden in een zaad-MAS-organisatie liet de prestaties dalen tot 68,7%, en het gebruik van een gespecialiseerde MAS met zaadvaardigheden liet het dalen tot 50,0%, wat aantoont dat niet-overeenkomende componenten de prestaties verslechteren.
- Traject: Het systeem groeide van 5 naar 13 actieve vaardigheden en voegde waar nodig gespecialiseerde uitvoerders toe (zoeken, manipulatie, apparaten).
Lifelong Agent Bench (OS-taken): SkillMAS bereikte 76,7% succes op de evaluatie van 150 taken, vergeleken met 70,0% voor een opnieuw uitgevoerde Traj-Bootstrap.
- Traject: Het succes piekte in ronde 3 (78/100) met 10 actieve vaardigheden en 4 uitvoerders. Opmerkelijk is dat ronde 4 het aantal vaardigheden behield maar een daling in prestaties zag, wat suggereert dat het aantal vaardigheden alleen geen garantie voor succes is.
$\tau$ -Bench (Retail): SkillMAS behaalde 70,2% op de officiële basisset (114 taken).
- Traject: In tegenstelling tot andere benchmarks behield het beste checkpoint hier een single-agent-systeem. Het uitbreiden naar een multi-agent-opstelling met een "preflight-uitvoerder" liet de prestaties juist dalen (32/74), wat aangeeft dat SkillMAS correct koos om de MAS niet te herstructureren toen dit onnodig was.

5. Betekenis en Beweringen

Het artikel beweert dat de centrale innovatie niet de nieuwigheid van individuele update-doelen is (evolutie van vaardigheden of herstructurering van MAS bestaan in isolatie in eerder werk), maar de koppeling van deze doelen via een gedeeld bewijsoppervlak.

Toewijzing: Het raamwerk verduidelijkt hoe specialisatie na implementatie wordt toegeschreven, bijgewerkt en toegepast door ervoor te zorgen dat krediet alleen wordt toegekend aan door uitvoering ondersteunde acties.
Adaptatielogica: Het toont aan dat specialisatie niet uniform gunstig is; het systeem moet in staat zijn om te kiezen om de MAS niet uit te breiden (zoals gezien in $\tau$ -Bench) of om deze te herstructureren (zoals gezien in ALFWorld) op basis van empirisch bewijs.
Beperkingen: De auteurs merken bescheiden op dat het bewijs lokaal voor benchmarks is en protocolafhankelijk. Ze claimen nog geen domein-agnostische superioriteit, en erkennen het gebrek aan gecontroleerde ablaties voor opnieuw trainen van vaste doelen en formele significantietests voor causale bijdragen. Ze merken ook op dat token-/kostenadministratie nog niet volledig is gekarakteriseerd.

Kortom, SkillMAS presenteert een mechanisme voor gekoppelde adaptatie, en betoogt dat voor LLM-agenten om na implementatie te verbeteren, de evolutie van hun "gereedschappen" (vaardigheden) en hun "organisatie" (MAS-structuur) moeten worden gecoördineerd via een gedeelde, geverifieerde geschiedenis van uitvoering.