Technische Samenvatting: MAS-DecStream met LLM-ondersteunde Contract Net Onderhandeling

Probleemstelling

Stream-verwerkingssystemen die opereren over heterogene mobiele edge–cloud-infrastructuren worden geconfronteerd met aanzienlijke uitdagingen door workload-volatiliteit, resource-contention en strikte Quality-of-Service (QoS)-vereisten. Gedecentraliseerde planning wordt bemoeilijkt door het feit dat individuele edge-clusters slechts een gedeeltelijk zicht hebben op de globale systeemtoestand. Gevolgelijk leiden onafhankelijke lokale beslissingen vaak tot overbezetting van resources, vertraagde uitvoering van hoog-prioritaire taken en QoS-schendingen.

Hoewel recente benaderingen Federated Learning (FL) en Reinforcement Learning (RL) gebruiken om adaptiviteit te verbeteren, vertrouwen ze vaak op gecentraliseerde aggregatie of geleerde policies die de redenering achter planningsbeslissingen verhullen. Klassieke Multi-Agent Systems (MAS) die gebruikmaken van het Contract Net Protocol (CNP) bieden expliciete gedecentraliseerde interactie, maar lijden onder rigide, vooraf gedefinieerde berichtsemantiek die moeite heeft met het accommoderen van heterogene kwantitatieve beperkingen naast kwalitatieve waarschuwingen (bijv. betrouwbaarheidsmeldingen of privacyvoorwaarden). Het kernprobleem dat wordt geadresseerd is hoe gedecentraliseerde onderhandeling kan worden uitgebreid om onzekere, kwalitatieve runtime-contexten te verwerken zonder harde resource-garanties op te offeren of prohibitieve communicatie-overhead te introduceren.

Methodologie

Het paper stelt MAS-DecStream voor, een hybride planningsarchitectuur die Large Language Models (LLMs) integreert in een multi-round onderhandelingsprotocol. Het systeem modelleert de edge–cloud-omgeving als een communicatiegrafiek waarbij representatieve agenten lokale clusters observeren en taakmigraties onderhandelen.

Hybride Agent-architectuur

De architectuur scheidt lokale monitoring van collaboratieve besluitvorming:

1. Executielaag: Monitort runtime-telemetrie, voorspelt de nabije toekomstige belasting en past migratiebeslissingen toe.
2. Collaboratieve Laag: Georkestreerd via LangGraph, combineert elke agent lokale staat, taalkennis en onderhandelingsgeheugen. Het maakt gebruik van een LLM voor contextuele interpretatie en berichtgeneratie, terwijl het vertrouwt op deterministische tools voor staat-retrieval, vereiste-validatie en utility-berekening.

LLM-ondersteunde Multi-Round CNP (LLM-MR-CNP)

De kernbijdrage is een uitbreiding van de klassieke single-stage CNP. In tegen tegenstelling tot traditionele CNP, die doorgaans een enkele announcement–proposal–award cyclus volgt, introduceert LLM-MR-CNP:

• Semantische CFP Formulering: De initiator zendt een Call for Proposal (CFP) uit die verrijkt is met taakintentie, QoS en geobserveerde context, in plaats van enkel vaste numerieke velden.
• Progressieve Contextonthulling: Als initiële voorstellen ambigu zijn of meerdere kandidaten overblijven, onthult de initiator aanvullende context (bijv. voorspelde belasting, betrouwbaarheidswaarschuwingen) aan onopgeloste kandidaten.
• Iteratieve Voorstel Revisie: Respondenten kunnen voorlopige voorstellen indienen en deze herzien of intrekken op basis van de nieuw onthulde context.
• Deterministische Validatie: Hoewel de LLM de context interpreteert en natuurlijke taal-voorstellen verfijnt, wordt de uiteindelijke allocatie strikt beperkt door deterministische haalbaarheidscontroles (CPU, geheugen, bandbreedte, deadlines) en utility-maximalisatie.

Het protocol wordt beëindigd wanneer één haalbare kandidaat overblijft, een stabiele beste kandidaat naar voren komt, of wanneer een maximaal aantal rondes is bereikt.

Belangrijkste Bijdragen

1. LLM-MR-CNP Protocol: Een expliciete uitbreiding van de klassieke CNP die semantische CFP-generatie, progressieve onthulling, iteratieve voorstel-revisie, taak-specifiek onderhandelingsgeheugen en begrensde terminatie introduceert.
2. Hybride Agent-architectuur: Een ontwerp waarbij LLM's kwalitatieve context en berichtgeneratie afhandelen, terwijl deterministische tools harde beperkingen en utility-rangschikkingen afdwingen, wat veiligheid en haalbaarheid garandeert.
3. Uitgebreide Evaluatie: Een studie die het effect van multi-round verfijning onderscheidt van LLM-assistentie, waarbij de planningskwaliteit, onderhandelings-overhead en de nauwkeurigheid–kosten-trade-offs worden geëvalueerd over verschillende modellen en prompting-strategieën.

Experimentele Resultaten

Experimenten werden uitgevoerd met workloads afgeleid van de Alibaba ASI Trace 2026, waarbij 1.000 taak–cluster combinaties werden gesimuleerd over variërende aantallen agenten (5, 10, 20) en gelijktijdige verzoeken.

Prestatie-metrieken

• Latency Violations: MAS-DecStream verminderde latency-schendingen tot 3% (0.03), een significante verbetering ten opzichte van de rule-based multi-round baseline (0.37) en de single-round baseline (0.53).
• Resource Overcommitment: De multi-round benaderingen (zowel rule-based als LLM-ondersteund) elimineerden resource-overbezetting volledig over alle geteste configuraties, terwijl single-round methoden er niet in slaagden dit te voorkomen.
• Conflictresolutie: Met 20 agenten bereikte de conflict-resolutie graad 0.91 voor MAS-DecStream, vergeleken met 0.86 voor de rule-based multi-round baseline.
• Utility: MAS-DecStream verbeterde de globale utility met tot wel 22% ten opzichte van de multi-round rule-based baseline.
• Kosten: Deze winsten gingen gepaard met verhoogde coördinatiekosten. MAS-DecStream bracht ongeveer drie keer zoveel collaboratiekosten in rekening als single-round methoden en introduceerde een gemiddelde LLM-redeneertijd van 83.56 seconden per scenario.

Model en Prompting Analyse

• Onderhandelingsdiepte: Multi-round onderhandeling verbeterde de offloading-nauwkeurigheid aanzienlijk (van 0.71 naar 0.88 voor een grote LLM), wat suggereert dat de interactiestructuur even cruciaal is als de modelcapaciteit.
• Prompting Strategieën: Prestaties waren sterk model-afhankelijk. Bijvoorbeeld, Gemini-3-Flash met een ReAct+few-shot+CoT prompt bereikte een 1.00 offloading nauwkeurigheid, terwijl andere configuraties variërende trade-offs lieten zien tussen nauwkeurigheid en tokenverbruik.
• Trade-offs: De studie benadrukte een duidelijke nauwkeurigheid–kosten trade-off, waarbij complexere prompting-strategieën (bijv. ReAct) het tokengebruik en de latentie verhoogden zonder altijd superieure resultaten te garanderen vergeleken met simpelere strategieën zoals CoT+Few-shot.

Betekenis en Claims

Het paper positioneert de bevindingen als een initiële empirische beoordeling in plaats van een bewijs van algemene superioriteit over gevestigde schedulers. De auteurs maken de volgende bescheiden claims met betrekking tot de significantie van het systeem:

1. Protocol-niveau Winst: De primaire prestatiewinst komt voort uit het uitbreiden van de CNP door multi-round voorstel-verfijning toe te voegen. Dit iteratieve proces vermindert schendingen en elimineert overbezetting, zelfs zonder LLM-assistentie.
2. Contextuele Waarde van LLM's: LLM-assistentie biedt incrementele waarde specifiek voor kwalitatieve en onzekere runtime-contexten (bijv. het interpreteren van betrouwbaarheidswaarschuwingen of ambigue voorspellingen) waar rule-based systemen moeite mee hebben.
3. Hybride Noodzakelijkheid: De resultaten ondersteunen een adaptieve deployment-strategie waarbij rule-based onderhandeling routinematige beslissingen afhandelt, terwijl agentic AI selectief wordt ingezet voor onzekere, conflicterende of impactvolle planningsbeslissingen.
4. Safety First: De architectuur demonstreert dat LLM-gegenereerde semantische beslissingen alleen veilig kunnen worden geïntegreerd in kritieke infrastructuur wanneer ze gekoppeld zijn aan deterministische validatie om harde resource en QoS garanties af te dwingen.

De auteurs erkennen beperkingen, waaronder het gebrek aan causale ablatie voor de LLM-component (aangezien deze gekoppeld is aan kwalitatieve contextverwerking) en de afhankelijkheid van trace-afgeleide workloads in plaats van fysieke implementaties. Toekomstig werk is gericht op het evalueren van selectieve LLM-escalatie en grotere gedecentraliseerde topologieën.