Technische Samenvatting: Veilige en Adaptieve Cloud Healing met PASE

1. Probleemstelling

Moderne cloudgebaseerde AI-systemen, gekenmerkt door microservices en heterogene componenten (bijv. container-orchestratoren, inferentie-acceleratoren), worden geconfronteerd met aanzienlijke uitdagingen bij het handhaven van betrouwbaarheid. Lokale anomalieën kunnen door afhankelijkheidsketens voortplanten en zo cascadefouten veroorzaken. De kernproblemen bij foutbeheer zijn:

• Heterogeniteit en Complexiteit: Foutsymptomen zijn verdeeld over logs, metrieken en alarmen, met niet-bijectieve mapping tussen observaties en grondoorzaken.
• Beperkingen van Bestaande Benaderingen:
  • Regelgebaseerde systemen vertrouwen op statische drempelwaarden en slagen er niet in te generaliseren naar evoluerende deployments of onbekende foutpatronen.
  • Modelgebaseerde technieken (bijv. Bayesiaanse netwerken) worden evenredig duur om te onderhouden naarmate systemen schalen en veranderen.
  • Huidige LLM-DRL Hybriden: Hoewel het combineren van Large Language Models (LLM's) voor semantisch begrip en Deep Reinforcement Learning (DRL) voor beleidsoptimalisatie veelbelovend is, zijn bestaande implementaties vaak sequentieel en losjes gekoppeld. Ze behandelen de LLM doorgaans als een passieve staat-interpreter en de DRL-agent als een downstream beleidsselector die opereert binnen een vooraf gedefinieerde actieruimte. Dit ontwerp benut de generatieve planningsmogelijkheden van de LLM onvoldoende en mist een specifieke verificatiefase vóór uitvoering, wat leidt tot breekbare herstelacties, vooral onder nieuwe foutcondities.

2. Methodologie: Het PASE-framework

Het artikel stelt PASE voor (Planning-Aware Semantic self-hEaling engine), een paradigmaverschuiving die cloud-foutherstel herconceptualiseert als een neuro-symbolische programma-synthese taak. In plaats van enkelvoudige acties te selecteren, genereert PASE meerstaps herstelplannen via een nauwe "redeneer-plan-verifieer-adapteer" lus.

2.1 Verenigde Semantische Observatie en Plan Synthese

• Semantische Scènebeschrijving: Ruwe heterogene observaties ($O_t$), bestaande uit logs, metrieken en alarmen, worden door een LLM gemapt naar een gestructureerde natuurlijke taalbeschrijving ($D_t$). Dit behoudt relationele en causale informatie die vaak verloren gaat bij vectorisatie.
• Plan Synthese Engine (PSE): Een LLM fungeert als de kernplanner. Gegeven de semantische beschrijving $D_t$ en een bibliotheek van parametriseerbare Herstel Primitieven ($R$) (bijv. Restart, ScaleOut, Reroute), genereert de PSE een gestructureerd herstelplan $\Pi_t$. Dit plan is een sequentie of graaf van primitieven met geïnstantiëerde parameters, wat dynamische, meerstaps strategieën mogelijk maakt die zijn afgestemd op specifieke foutcontexten.

2.2 Neural-Symbolic World Model (NSWM) voor Verificatie

Om de risico's van hallucinaties en inconsistenties in door LLM gegenereerde plannen te beperken, gebruikt PASE een Neural-Symbolic World Model.

• Functie: De NSWM leert de stochastische dynamiek van het cloudsysteem op het niveau van herstelprimitieven. Het voorspelt staatsovergangen en verwachte veranderingen in gezondheidsindicatoren ($\Delta H$) wanneer een primitief wordt toegepast.
• Simulatie & Scoring: Voordat uitvoering plaatsvindt, voert de NSWM een rollout-simulatie uit van het kandidaatplan $\Pi_t$. Het berekent een Plan Haalbaarheidsscore ($F(\Pi_t)$), gedefinieerd als een negatieve gewogen som van voorspelde resource-schendingsrisico's en de verwachte resterende ernst van de fout.
• Besluitvorming: Plannen worden alleen uitgevoerd als $F(\Pi_t)$ een veiligheidsdrempel $\tau$ overschrijdt, wat betrouwbaarheid garandeert vóór de interventie in de echte wereld.

2.3 Meta-Prompt Optimalisatie via Reinforcement Learning

Om zich aan te passen aan nieuwe foutpatronen zonder kostbare volledige model fine-tuning, introduceert PASE een Meta-Prompt Optimizer (MPO).

• Mechanisme: Een DRL-agent (gebruikmakend van Soft Actor-Critic, SAC) leert continue prompt-embeddings ($p_t$) te genereren die de PSE conditioneren.
• Beloningssignaal: De MPO wordt geoptimaliseerd op basis van een samengestelde beloning die herstelefficiëntie, resource-efficiëntie en een gevormde beloning bevat als de pre-executie score van de NSWM hoog was.
• Adaptatie: Dit stelt het systeem in staat om de redeneertrajectorie van de LLM snel aan te passen door optimale prompting-strategieën te leren voor onbekende fouttypen, in plaats van herstelbeleid vanaf nul opnieuw te leren.

2.4 Training en Executie Lus

Het framework werkt via drie gecoördineerde fasen:

1. NSWM Pre-training: Getraind op historische logs om de uitkomsten van primitieven te voorspellen.
2. MPO Warm-up: De MPO wordt in simulatie getraind met een vaste basisprompt.
3. Gezamenlijke Fine-tuning: De gehele lus wordt gefinetuned met interacties uit de echte wereld.
   Tijdens de online operatie genereert het systeem een beschrijving, produceert een prompt, synthetiseert een plan, verifieert dit via de NSWM, en voert het alleen uit als het haalbaar is.

3. Belangrijkste Bijdragen

1. Neuro-Symbolische Formulering: Het artikel formuleert cloud-foutherstel als een programma-synthese probleem, waarbij de besluitvorming verschuift van enkelvoudige actieselectie naar meerstaps plan-generatie.
2. Geverifieerde Planningslus: Het ontwerpt een gesloten lus die een LLM-gebaseerde synthesizer koppelt aan een neuro-symbolisch wereldmodel voor haalbaarheidscontrole, wat de betrouwbaarheid vóór uitvoering verbetert.
3. Meta-geleide Guidance: Het introduceert een DRL-gebaseerde meta-prompt optimizer die prompting aanpast in een continue embedding ruimte, wat efficiënte online adaptatie naar onbekende fouttypen mogelijk maakt.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op een real-world OpenStack-gebaseerde cloud fault injection dataset ("Failure-Dataset-OpenStack"), waarbij PASE werd vergeleken met baselines inclusief IFSHM (LLM+DRL), Deformable DETR-FD, GCN-FR, en Rule-Based systemen.

• Herstelefficiëntie: PASE reduceerde de Gemiddelde Systeem Hersteltijd (MTTR) tot 72,3 seconden, een verbetering van 40% ten opzichte van de IFSHM-baseline (85,1s) en aanzienlijk beter dan andere methoden.
• Foutdetectie: PASE bereikte een Foutdetectie F1-score van 0,942, waarmee het de IFSHM-baseline (0,918) en andere state-of-the-art methoden verslaat.
• Veiligheid en Verificatie: De haalbaarheidsscore van de NSWM vertoonde een correlatie van 92% met de werkelijke succesratio van de plannen. De variant "Directe Uitvoering (Geen Verificatie)" resulteerde in een aanzienlijk lagere veiligheidsscore (0,58) vergeleken met de volledige PASE (0,89).
• Adaptiviteit: Wanneer geconfronteerd met een nieuw "hybride CPU-Memory deadlock fault", verhoogde PASE (via MPO) het herstel succes van 40% naar meer dan 80% binnen 15 interactie-episoden. In tegenstelling hiertoe had de IFSHM-baseline volledige prompt-tuning nodig en convergeerde deze op een lagere prestatie (75%).
• Ablatie-studies: Het verwijderen van de NSWM verhoogde de MTTR naar 97,8s en verlaagde de veiligheidsscore naar 0,65. Het verwijderen van de Meta-Prompt Optimizer verhoogde de adaptatie-stappen van 15 naar 38, wat de noodzaak van zowel verificatie als meta-optimalisatie bevestigt.

5. Betekenis en Claims

Het artikel claimt dat PASE autonome systeembeheer vooruithelpt door LLM-gebaseerd redeneren te verenigen met model-ondersteunde verificatie en meta-geleide guidance. De primaire betekenis ligt in:

• Paradigmaverschuiving: Voorbij het gebruiken van LLM's als passieve encoders of DRL als louter beleidsselectors. PASE positioneert de LLM als een actieve planningsengine die gestructureerde herstelprogramma's genereert.
• Veiligheid en Betrouwbaarheid: Door een neuro-symbolisch wereldmodel te integreren, adresseert het framework de "hallucinatie"-risico's van LLM's, waardoor herstelacties haalbaar worden geverifieerd vóór uitvoering.
• Snelle Adaptatie: De meta-prompt optimalisatiestrategie stelt het systeem in staat om zich aan te passen aan voorheen onbekende fouttypen met aanzienlijk minder interactie-episoden vergeleken met traditionele fine-tuning of statische prompting-methoden.

De auteurs erkennen beperkingen, waarbij zij opmerken dat de huidige LLM-planner afhankelijk is van offline fine-tuning en dat de meta-prompt optimizer aanzienlijke interactiedata vereist. Toekomstig werk wordt voorgesteld te focussen op online continu leren, modelcompressie voor edge-cloud deployment, en het uitbreiden van het framework naar federated multi-cloud omgevingen.