💻 computer science

Deft Scheduling of Dynamic Cloud Workflows with Varying Deadlines via Mixture-of-Experts

Dit artikel introduceert DEFT, een nieuwe Deep Reinforcement Learning-scheduler die een graaf-adaptieve Mixture-of-Experts-architectuur gebruikt om cloud-workflows met variërende deadlines dynamisch toe te wijzen, wat de uitvoeringskosten en deadline-schendingen aanzienlijk vermindert in vergelijking met de huidige state-of-the-art baselines.

Oorspronkelijke auteurs: Ya Shen, Gang Chen, Hui Ma, Mengjie Zhang

Gepubliceerd 2026-06-02

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Ya Shen, Gang Chen, Hui Ma, Mengjie Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je de manager bent van een enorme, chaotische keuken. Elke paar minuten komt er een nieuwe bestelling binnen (een workflow). Elke bestelling is een complex recept met veel stappen die in een specifieke volgorde moeten plaatsvinden (een DAG of graaf). Sommige bestellingen zijn dringend: "Dit gerecht moet binnen 5 minuten op tafel staan!" Anderen zijn ontspannen: "Zorg maar dat het voor het diner klaar is."

Je hebt een pool van chefs (Virtuele Machines of VM's). Sommige chefs zijn snel maar duur om in te huren; anderen zijn traag maar goedkoop. De crux is dat je niet weet hoeveel bestellingen er zullen komen, en de beschikbaarheid van de chefs verandert voortdurend. Je doel is simpel: Al het eten naar buiten krijgen zonder deadlines te missen, terwijl je zo min mogelijk geld uitgeeft aan de lonen van de chefs.

Dit is het probleem van Dynamic Cloud Workflow Scheduling.

De Oude Manier: De "One-Size-Fits-All" Chef

Voorheen probeerden computerprogramma's die dit probleem probeerden op te lossen te fungeren als een enkele, rigide chef. Ze hadden één set regels die ze op elke situatie toepasten.

Als er een spoedbestelling binnenkwam, raakte de chef misschien in paniek en huurde hij de snelste, duurste hulp in.
Als er een langzame bestelling binnenkwam, huurde dezelfde chef misschien nog steeds dure hulp in om het veilig te stellen, wat geld verspilt.
Of ze probeerden geld te besparen op een spoedbestelling, misten de deadline en kregen een boete.

Het probleem was dat een enkele set regels de enorme variëteit aan situaties niet kon aan kunnen. Het was alsof je probeerde een horloge, een auto en een huis te reparteren met één enkele schroevendraaier.

De Nieuwe Oplossing: DEFT (Het "Expert Team")

De auteurs van dit artikel introduceren DEFT (Deadline-pErceptive Mixture-oF-Experts). In plaats van één rigide chef, huurt DEFT een team van gespecialiseerde experts in, die elk getraind zijn voor een specif kind van urgentie.

Denk hierbij aan een luxe restaurant met een Hoofdchef (het Gating Network) en een team van Specialistische Chefs (de Experts):

De Specialistische Chefs (De Experts):
- Chef "Panic": Getraind op uitsluitend extreem strakke deadlines. Hun enige doel is snelheid, ook al kost het een fortuin.
- Chef "Budget": Getraind op uitsluitend ontspannen deadlines. Hun enige doel is geld besparen, ook al duurt het langer.
- Chef "Balanced": Getraind op gemiddelde deadlines om het perfecte middenpad te vinden.
- In het artikel zijn dit neurale netwerken die specifiek zijn getraind op verschillende niveaus van deadline-druk.
De Hoofdchef (Het Graph-Adaptive Gating Network):
- Dit is de slimme manager. Wanneer een nieuwe bestelling arriveert, kijkt de Hoofdchef naar de situatie:
  - Hoe urgent is de deadline?
  - Hoe ziet het recept eruit (is het complex)?
  - Hoeveel chefs zijn er momenteel bezig?
- Op basis hiervan kiest de Hoofdchef onmiddellijk de beste Specialistische Chef om die specifieke bestelling af te handelen.
- Als het een spoedorder is, roept hij "Chef Panic". Als het een rustige dag is, roept hij "Chef Budget".

Waarom dit een Groot Ding is

Het artikel beweert dat dit de eerste keer is dat dit "Mixture-of-Experts"-idee is gebruikt voor dit specifieke type cloud-scheduling probleem.

Flexibiliteit: In tegenstelling tot de oude "één-regel"-systemen, kan DEFT de strategie onmiddellijk aanpassen. Het hoeft niet de hele tijd "snel" of "goedkoop" te zijn; het kan snel zijn wanneer nodig en goedkoop wanneer het veilig is.
Slimere Beslissingen: De Hoofdchef gebruikt een speciale tool (genaamd Cross-Attention) om naar het hele plaatje te kijken — de structuur van het recept en de drukke keuken — voordat er een expert wordt gekozen. Dit zorgt ervoor dat de juiste expert wordt gekozen voor het juiste moment.
Betere Resultaten: In hun tests (waarbij duizenden bestellingen en chefs werden gesimuleerd), bespaarde DEFT aanzienlijk meer geld en miste het minder deadlines dan de beste bestaande methoden. Het hanteerde grote, complexe bestellingen veel beter dan de oude systemen, die de neiging hadden om in te storten of geld te verspillen naarm even de werklast toenam.

De Kern van het Verhaal

DEFT is als het upgraden van een enkele, koppige werker naar een dynamisch, intelligent team. Door specialisten te hebben voor verschillende situaties en een slimme manager om de juiste persoon aan de juiste taak toe te wijzen, wordt het systeem veel beter in het balanceren van de afweging tussen snelheid (deadlines halen) en kosten (geld besparen).

Het artikel bewijst dat deze aanpak beter werkt dan huidige methoden, vooral wanneer de werklast onvoorspelbaar is en deadlines sterk variëren.

Technische Samenvatting: DEFT Scheduling van Dynamische Cloud Workflows

Probleemdefinitie

Het artikel behandelt het Cost-Aware Dynamic Workflow Scheduling (CADWS) probleem in cloud computing-omgevingen. In deze setting arriveren workflows dynamisch en worden ze gemodelleerd als Directed Acyclic Graphs (DAG's), waarbij knopen computationele taken vertegenwoordigen en zijden precedentvoorwaarden (precedence constraints) vertegenwoordigen. Elk workflow is geassocieerd met een Service-Level Agreement (SLA) deadline.

De kernuitdaging ligt in de dynamische aard van de omgeving:

Dynamische Aankomsten: Workflows arriveren onvoorspelbaar met variërende structuren en groottes.
Variërende Deadlines: Deadlines vertonen een breed spectrum aan striktheid, variërend van lankmoedig tot extreem urgent.
Fluctuerende Resources: De beschikbaarheid en kosten van Virtuele Machines (VM's) veranderen in de loop van de tijd.

Het doel is om de totale executiekosten te minimaliseren, wat een composiet is van:

VM-huurkosten: Kosten die worden gemaakt voor het leasen van VM's op basis van een pay-as-you-go model.
SLA-boetes: Financiële boetes die worden opgelegd wanneer een workflow de deadline niet haalt.

Bestaande Deep Reinforcement Learning (DRL) benaderingen voor CADWS maken doorgaans gebruik van monolithische beleidsnetwerken (single feedforward pathways). De auteurs stellen dat deze rigide architecturen moeite hebben met het aanpassen aan diverse planningsscenario's die worden opgelegd door variërende deadline-striktheid, aangezien een enkele set beslisregels niet optimaal kan omgaan met zowel ontspannen als urgente deadlines tegelijkertijd.

Methodologie: DEFT

De auteurs stellen DEFT voor (Deadline-pErceptive Mixture-oF-Texperts), een nieuwe DRL-beleidsarchitectuur die is ontworpen om de beperkingen van rigide inferentiepaden te overwinnen.

1. Mixture-of-Experts (MoE) Architectuur

In plaats van een enkel beleidsnetwerk maakt DEFT gebruik van een pool van gespecialiseerde sub-netwerken (experts).

Specialisatie: Elke expert is getraind om een specifiek niveau van deadline-striktheid te behandelen (gecontroleerd door een deadline-relaxatiecoëfficiënt $\gamma$ ). Bijvoorbeeld, één expert kan gespecialiseerd zijn in agressieve, kosten-ongevoelige planning voor strakke deadlines, terwijl een andere zich richt op kosten-efficiënte, vertragings-tolerante strategieën voor ontspannen deadlines.
Tweefasige Training:
- Fase 1 (Expert Pre-training): Experts worden onafhankelijk voorgetraind op workflows met vaste, specifieke $\gamma$ -waarden om onderscheidende planningsgedragingen te leren.
- Fase 2 (Gezamenlijke Fine-tuning): Alle experts worden geladen in de volledige architectuur en gezamenlijk bijgetraind samen met een gating netwerk en de State Embedding Module (SEM). Deze fase stelt het systeem in staat om zich aan te passen aan gemengde deadline-distributies.

2. Graaf-Adaptief Gating Netwerk

Een cruciale innovatie in DEFT is het Graph-Adaptive Gating Network, dat beslissingen dynamisch routeert naar de meest passende expert op elk tijdstip.

Input Context: Het gating netwerk integreert vier belangrijke componenten:
1. Globale workflow embeddings (DAG-structuur).
2. Kenmerken van de huidige 'ready task' en de topologische context ervan.
3. Systeemniveau-kenmerken (VM-beschikbaarheid en statussen).
4. Genormaliseerde deadline-striktheidsscores.
Cross-Attention Mechanisme: In tegenstelling tot traditionele MoE gating die eenvoudige lineaire lagen gebruikt, hanteert DEFT een cross-attention mechanisme. De workflow DAG embedding en de taakstatussen vormen de Query (Q), terwijl de expert-representaties dienen als Keys (K) en Values (V). Dit stelt de gate in staat om een fijnmazige, deadline-gevoelige expert-selectie uit te voeren op basis van de complexe structurele afhankelijkheden van de workflow.
Routing Strategie: Het systeem gebruikt Top-1 routing, waarbij voor elke beslissingsstap de enkelvoudig meest geschikte expert wordt geselecteerd. Ablatie-studies in het artikel suggereren dat Top-1 routing beter presteert dan Top-k routing in deze discrete actieruimte, omdat het het "blenden" van conflicterende expert-aanbevelingen voorkomt, wat kan leiden tot suboptimale VM-selecties.

3. Optimalisatie

Het beleid wordt geoptimaliseerd met behulp van OpenAI Evolution Strategies (ES), een populatie-gebaseerde optimalisatietechniek die is gekozen vanwege de robuustheid in dynamische omgevingen en de geschiktheid voor parallelle implementatie.

Belangrijkste Bijdragen

Het artikel claimt drie primaire bijdragen:

Eerste MoE Toepassing in Dynamische Workflow Scheduling: DEFT wordt gepresenteerd als de eerste benadering die Mixture-of-Experts architecturen specifiek introduceert voor dynamische cloud workflow scheduling, wat een nieuw niveau van adaptiviteit introduceert in deadline-bewuste beleidsontwerpen.
Verbeterde Beleidsdiversiteit en Generalisatie: Door een tweefasige trainingsstrategie te hanteren (gespecialiseerde pre-training gevolgd door gezamenlijke fine-tuning), bereikt DEFT een superieure generalisatie over variërende deadline-regimes en workflow-schalen (Small, Medium, Large) vergeleken met monolithische DRL-baselines.
Graaf-Adaptieve Gating: De auteurs introduceren een nieuw gating-mechanisme dat Graph Neural Network (GNN) representaties combineert met MoE routing. Dit is het eerste ontwerp dat gestructureerde workflow DAG's integreert met MoE routing in een DRL-scheduler, wat een precieze, deadline-gestuurde expert-activatie mogelijk maakt.

Experimentele Resultaten

De auteurs evalueerden DEFT tegen vijf baselines: twee heuristische methoden (ProLis, GRP-HEFT) en drie state-of-the-art DRL methoden (ES-RL, SPN-CWS, GATES).

Totale Kostenreductie: DEFT behaalde consistent de laagste totale kosten over alle workflow-schalen (S, M, L).
- Op workflows van grote schaal verminderde DEFT de kosten met 29,6% vergeleken met de beste DRL-baseline (GATES).
- Heuristische methoden presteerden aanzienlijk slechter, met kosten die 3 tot 10 keer hoger waren dan die van DRL-benaderingen.
Schaalbaarheid: Terwijl andere DRL-methoden (zoals ES-RL) scherp verslechterden naarmate de workflow groter werd, demonstreerde DEFT een sterke schaalbaarheid, waarbij de kostenstijging veel langzamer verliep naarmidd de deadlines strenger werden en de workflows groeiden.
Balans van Kosten: DEFT balanceerde effectief de afweging tussen VM-huurkosten en SLA-boetes. In scenario's met strakke deadlines gaf het prioriteit aan het vermijden van boetes; in ontspannen scenario's minimaliseerde het de VM-kosten, waarbij het zijn strategie dynamisch aanpaste.
Ablatie-studies:
- Gating Mechanisme: De graaf-adaptieve gating presteerde aanzienlijk beter dan lineaire en standaard MLP gating mechanismen.
- MoE vs. Capaciteit: Het vervangen van de vaste PMM door MoE leverde betere resultaten op dan simpelweg de MLP te verdiepen in de baseline, wat bevestigt dat de winst voortkomt uit gespecialiseerde beleidsselectie in plaats van alleen een verhoogde modelcapaciteit.
- Routing: Top-1 routing bleek superieur aan Top-k routing voor dit specifieke probleem, omdat het het middelen van conflicterende expert-beslissingen voorkomt.

Betekenis en Claims

Het artikel positioneert DEFT als een significante vooruitgang in het vakgebied van cloud workflow scheduling. De auteurs claimen dat:

Rigide architecturen zijn onvoldoende: Enkele padige DRL-beleidscycli kunnen niet effectief omgaan met het brede spectrum aan deadline-striktheid dat wordt aangetroffen in real-world cloud-omgevingen.
Adaptiviteit essentieel is: Door dynamisch gespecialiseerde experts te selecteren op basis van real-time workflow structuur en deadline-urgentie, bereikt DEFT een niveau van flexibiliteit en precisie dat statische beleidssystemen niet kunnen evenaren.
Praktische Impact: De methode biedt een gefundeerde aanpak voor gestructureerde, deadline-gestuurde planning die de executiekosten en deadline-schendingen aanzienlijk vermindert, waardoor het geschikt is voor complexe, dynamische cloud-omgevingen.

De auteurs concluderen dat DEFT een verschuiving vertegenwoordigt van statische, 'one-size-fits-all' planningsbeleid naar adaptieve, context-bewuste systemen die in staat zijn om te redeneren over diverse en evoluerende restricties. Toekomstig werk wordt gesuggereerd om deze aanpak uit te breiden naar multi-tenant omgevingen en om de verklaarbaarheid in expert-routing te onderzoeken.