🤖 AI

SWIFT: Spatio-temporal Wavelet Integrated Forecasting Framework for Workload Traces

SWIFT ist ein rein konvolutionsbasiertes Framework, das die Genauigkeit und Effizienz der Cloud-Workload-Prognose durch die Einführung eines lernbaren kaskadierten Wavelet-Pfades zur adaptiven Merkmalsextraktion und eines Moduls für multivariate Interaktionen zur Modellierung räumlich-zeitlicher Abhängigkeiten verbessert und dabei eine State-of-the-Art-Leistung mit linearer Komplexität erzielt.

Ursprüngliche Autoren: Zeyuan Ding, Lingfeng Zheng, Dian Ding, Guangtao Xue

Veröffentlicht 2026-07-07

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Zeyuan Ding, Lingfeng Zheng, Dian Ding, Guangtao Xue

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, den Verkehrsfluss auf einem riesigen Autobahnnetz (Ihren Cloud-Servern) vorherzusagen, um zu wissen, wann Sie mehr Fahrspuren öffnen oder einige sperren müssen. Dies ist die Aufgabe der Workload-Prognose.

Das Problem ist, dass dieser Verkehr chaotisch ist. Manchmal ist es ein stetiger Strom, aber oft tauchen in bestimmten Zeiten riesige „Bursts“ (Ausbrüche) von Autos aus dem Nichts auf, während der Fluss in anderen Zeiten einem vorhersehbaren täglichen Rhythmus folgt.

Aktuelle Methoden zur Vorhersage dieses Verkehrs haben zwei Hauptmängel:

Das „Unschärfe-Foto-Problem“: Einige Methoden betrachten den ganzen Tag auf einmal, um Muster zu finden. Es ist, als würde man ein Langzeitfoto von einer Autobahn machen; man sieht die Lichtspuren, aber man kann nicht sagen, wann genau ein bestimmtes Auto vorbeigeschossen ist. Man übersieht die plötzlichen Ausbrüche.
Das „Isolierter-Fahrer-Problem“: Andere Methoden betrachten jede Straße (jeden Server) einzeln und ignorieren dabei, dass, wenn eine Straße verstopft ist, auch die verbundenen Straßen meistens verstopft sind. Sie übersehen das große Ganze und wie das gesamte System miteinander verbunden ist.

Hier kommt SWIFT (Spatio-temporal Wavelet Integrated Forecasting) ins Spiel. Betrachten Sie SWIFT als einen superintelligenten, Hochgeschwindigkeits-Verkehrsanalysten, der beide Probleme löst.

Wie SWIFT funktioniert (Die magischen Tricks)

1. Die „Zwiebel-Schältechnik“ (Learnable Cascaded Wavelet Path)
Stellen Sie sich vor, Sie haben eine komplexe, unordentliche Zwiebel, die den Verkehrsdaten entspricht. Alte Methoden haben sie einfach mit einem stumpfen, starren Messer (starrer Mathematik) zerteilt, was oft Schichten übersehen oder empfindliche Teile zerquetscht hat.
SWIFT verwendet ein intelligentes, anpassbares Messer. Es schält die Zwiebel Schicht für Schicht ab, aber hier ist der Trick: Das Messer lernt während des Vorgangs dazu.

Schicht 1: Es schält die winzigen, schnell beweglichen Details ab (die plötzlichen Verkehrsspitzen).
Schicht 2: Es schält die mittelgroßen Muster ab (stündliche Rhythmen).
Schicht 3: Es schält die großen, langsamen Trends ab (tägliche Zyklen).
Da das Messer „lernfähig“ ist, passt es sich der spezifischen Form der Zwiebel (den Daten) an, anstatt einen Standard-Schnitt zu erzwingen. Dies ermöglicht es, genau zu erkennen, wann ein Verkehrsausbruch stattfindet, und nicht nur, dass er stattgefunden hat.

2. Der „Gruppenchat“ (Multivariate Interaction Module)
Alte Methoden behandelten jeden Server wie eine Person, die in einem schallisolierten Raum mit sich selbst spricht. SWIFT bringt sie alle in einen Gruppenchat.

Stufe 1 (Der Gruppenchat): Es lässt die Server zuerst miteinander „sprechen“. Wenn Server A eine Spitze sieht, sagt er sofort zu Server B: „Hey, wir werden gerade beschäftigt!“ Dies stabilisiert das Rauschen und hilft ihnen, den systemweiten Kontext zu verstehen.
Stufe 2 (Die Tiefenanalyse): Sobald sie ruhig und vernetzt sind, analysieren sie ihre eigenen spezifischen Details.
Dies stellt sicher, dass das Modell versteht, dass der Verkehr auf einer Straße den Verkehr auf der nächsten beeinflusst.

3. Der „Formel-1-Motor“ (Pure Convolutional Architecture)
Viele leistungsstarke Vorhersagemodelle sind wie schwere Luxusbusse. Sie sind zwar genau, aber langsam und verbrauchen viel Treibstoff (Rechenleistung). Sie brauchen zu lange, um eine Entscheidung zu treffen, was für das Echtzeit-Verkehrsmanagement schlecht ist.
SWIFT ist gebaut wie ein Formel-1-Rennwagen. Es nutzt ein „reines konvolutionales“ Design, eine Art von mathematischer Operation, die moderne Computerchips (GPUs) lieben. Es ist unglaublich schnell, linear in der Geschwindigkeit (das heißt, wenn Sie die Daten verdoppeln, dauert es nur doppelt so lange, nicht viermal so lange) und gerät nicht ins Stocken.

Die Ergebnisse: Warum es wichtig ist

Das Paper hat SWIFT mit realen Daten von massiven Cloud-Anbietern (wie Alibaba und Google) getestet und fand heraus:

Es ist genauer: Es reduzierte die Vorhersagefehler um bis zu 31 % im Vergleich zu den besten bestehenden Methoden. Es ist viel besser darin, diese plötzlichen Verkehrsausbrüche zu erkennen, bevor sie einen Stau verursachen.
Es ist viel schneller: Es senkte die Zeit für eine Vorhersage um fast 80 %.
Es ist effizient: Es verbraucht weniger Computerarbeitsspeicher und Energie, während es gleichzeitig am genauesten ist.

Zusammenfassend

SWIFT ist eine neue Methode zur Vorhersage von Cloud-Server-Verkehr. Anstatt unschärfige, langsame oder isolierte Methoden zu verwenden, nutzt es eine intelligente, schichtweise Schältechnik, um plötzliche Änderungen zu erkennen, und ein Gruppenchat-System, um zu verstehen, wie verschiedene Server einander beeinflussen. Das Ergebnis ist ein Vorhersagewerkzeug, das sowohl schärfer (genauer) als auch schneller (effizienter) ist als alles, was derzeit verfügbar ist.

Technische Zusammenfassung: SWIFT – Ein raum-zeitlicher Wavelet-integrierter Prognose-Framework für Workload-Traces

1. Problemstellung

Eine präzise Cloud-Workload-Prognose ist essenziell für das proaktive Ressourcenmanagement (z. B. Skalierung und Scheduling), steht jedoch vor erheblichen Herausforderungen aufgrund der Natur realer Cloud-Traces. Die Autoren identifizieren zwei primäre Hürden:

Komplexe Workload-Muster: Cloud-Workloads sind hochgradig volatil und zeichnen sich durch plötzliche, lokalisierte Bursts aus, die mit Multi-Skalen-Periodizitäten (täglich, stündlich) durchsetzt sind. Zudem erzeugen Microservice-Abhängigkeiten eine starke räumliche Kopplung, was zu synchronisierten Fluktuationen über verschiedene Workload-Traces hinweg führt.
- Limitierung bestehender Methoden: Traditionelle Fourier-basierte Methoden (z. B. FFT) nutzen globale Basisfunktionen, die die Energie über das gesamte Zeitintervall aggregieren. Dies führt zu einem Verlust der zeitlichen Lokalität, wodurch es unmöglich wird, zu unterscheiden, wann spezifische Bursts auftreten (was zu Phasenverzögerungen und verspäteten Reaktionen führt). Umgekehrt verlassen sich bestehende Wavelet-basierte Methoden oft auf starre, feste Zerlegungsverfahren, die Schwierigkeiten mit komplexen Multi-Skalen-Mustern haben und die räumlichen Abhängigkeiten zwischen gekoppelten Variablen nicht modellieren können.
Extreme Effizienzanforderungen: Großskalige Plattformen (z. B. ByteDance) müssen über 100.000 gleichzeitige Vorhersageaufgaben pro Stunde verarbeiten. Hochleistungsmodelle wie Transformer leiden unter einer quadratischen $O(L^2)$ -Komplexität, was zu Inferenzlatenz und Speichererschöpfung führt. Gleichzeitig operieren Standard-Convolutional Neural Networks (CNNs) oft rein im Zeitbereich und vernachlässigen räumliche Korrelationen, während traditionelle Wavelet-Implementierungen sequenziell und auf GPUs nicht parallelisierbar sind.

2. Methodik

Die Autoren schlagen SWIFT (Spatio-temporal Wavelet Integrated Forecasting Framework) vor, ein rein konvolutionales Framework, das darauf ausgelegt ist, die Multi-Resolution-Wavelet-Analyse mit effizienten konvolutionalen Architekturen zu synergetisieren. Das Framework besteht aus zwei Kernmodulen:

A. Learnable Cascaded Wavelet Path (LC-Wavelet)

Dieses Modul adressiert die Einschränkungen fester Wavelet-Basen und sequenzieller Verarbeitung.

Konvolutionelle Re-Engineering: Anstatt rekursiver CPU-basierter Algorithmen formuliert SWIFT die Diskrete Wavelet-Transformation (DWT) und die Inverse DWT (IWT) als parallelisierbare Depth-wise-Convolution-Operationen um. Dies ermöglicht die native Ausführung auf GPU Tensor Cores und eliminiert den CPU-GPU-Kontextwechsel.
Cascaded Feature Peeling: Die Architektur verwendet eine tiefe, kaskadierte Struktur, bei der die niederfrequente Komponente einer Ebene rekursiv als Input für die nächste Ebene dient. Dies erzeugt eine exponentielle Expansion des rezeptiven Feldes, was es dem Modell ermöglicht, hochfrequente stochastische Bursts in flachen Schichten progressiv zu isolieren, während langfristige Trends in tieferen Schichten bewahrt werden.
Learnable Coefficient Rectification: Um die Starrheit fester Basen zu überwinden, führt das Modell einen zweistufigen lernbaren Mechanismus auf jeder Zerlegungsebene ein:
1. Morphologische Merkmalskorrektur: Eine lernbare Konvolutionsschicht transformiert statische Koeffizienten in adaptive Repräsentationen, was Artefakte glättet und Merkmale mit tatsächlichen Workload-Formen abstimmt.
2. Adaptive Spektrale Filterung: Ein kanalweiser Skalierungsvektor gewichtet die Frequenzkomponenten dynamisch neu, um stochastisches Rauschen zu unterdrücken und informative periodische Signale zu verstärken.

B. Multivariate Interaction Module (MIM)

Dieses Modul erfasst räumliche Korrelationen zwischen Variablen, ohne die quadratische Komplexität von Attention-Mechanismen zu verursachen.

Zweistufiges Design: MIM operiert rein über Grouped Convolutions.
1. Inter-variable Räumliche Interaktion: Verwendet gruppierte $1 \times 1$ Konvolutionen (Gruppen = Feature-Dimension), um Informationen über die Variablendimension hinweg zu mischen. Dies nutzt den systemweiten Kontext, um verrauschte Workload-Zustände vor der Merkmalsextraktion zu stabilisieren.
2. Intra-variable Feature-Interaktion: Verwendet gruppierte Konvolutionen (Gruppen = Variable-Dimension), um einen dichten, nicht-linearen Informationsaustausch innerhalb des Feature-Embeddings jeder einzelnen Variable zu ermöglichen.
Effizienz: Durch die Entkopplung von räumlichem Mixing und Feature-Mixing erfasst MIM den umfassenden Zustand des Cloud-Systems mit linearer $O(L)$ -Komplexität.

3. Kernbeiträge

Learnable Cascaded Wavelet Path: Eine neuartige Architektur, die die starre, auf fester Basis beruhende Wavelet-Transformation in einen tiefen, datengesteuerten und vollständig parallelisierbaren konvolutionalen Operator transformiert, was eine präzise Multi-Skalen-Merkmalsentkopplung ermöglicht.
Multivariate Interaction Module (MIM): Eine räumliche Modellierungskomponente, die Inter-Variable-Abhängigkeiten und Intra-Variable-Feature-Interaktionen mittels Grouped Convolutions erfasst und so die Lücke zwischen isolierter Zerlegung und systemweiter Kopplung schließt.
Hardware-freundliche reine konvolutionale Architektur: Ein Design, das rekursive CPU-Aufrufe durch GPU-native Depth-wise-Convolutions ersetzt, eine lineare $O(L)$ -Komplexität erreicht und gleichzeitig Datentransfer-Engpässe eliminiert.

4. Experimentelle Ergebnisse

Die Autoren evaluierten SWIFT auf vier realen Cloud-Workload-Datensätzen (Ali2021, Ali2022, Fisher, Google) sowie den ETT-Benchmarks.

Genauigkeit: SWIFT erreichte State-of-the-Art (SOTA) Performance in 7 von 8 Fällen der Langzeitprognose. Es reduzierte die Vorhersagefehler um bis zu 31,04 % in der Kurzzeitprognose (SMAPE) und um bis zu 20,05 % in Generalisierungsszenarien im Vergleich zu den Baselines.
Effizienz: SWIFT demonstrierte eine überlegene Inferenzgeschwindigkeit und reduzierte die Latenz im Vergleich zu CNN-basierten Baselines um 79,74 % und im Vergleich zu Transformer-basierten Baselines um 66,82 %. Es behielt eine lineare Komplexität bei und erzielte gleichzeitig einen hohen Durchsatz.
Generalisierung: In Zero-Shot Cross-Dataset-Experimenten (Training auf Ali2022, Testen auf anderen Datensätzen ohne Fine-Tuning) behielt SWIFT SOTA-Ergebnisse bei, was seine Fähigkeit unterstreicht, universelle Multi-Skalen-Periodizitäten zu erfassen, anstatt auf spezifische Domänenstatistiken zu überfitten.
Ablationsstudien: Das Entfernen des LC-Wavelet-Pfades verursachte den schwerwiegendsten Leistungsabfall, was diesen als zentrales Rückgrat bestätigt. Das Entfernen des MIM-Moduls erhöhte die Fehler ebenfalls signifikant, was die Notwendigkeit der Modellierung räumlicher Abhängigkeiten validiert.

5. Bedeutung und Ansprüche

Das Paper behauptet, dass SWIFT die Lücke zwischen präziser Mustererfassung und Deployment-Effizienz erfolgreich schließt. Durch den Ersatz starrer Fourier-/Wavelet-Schemata durch lernbare, parallelisierbare Konvolutionen adressiert das Framework das Problem der „ununterscheidbaren Spektren“ der FFT und die „räumliche Vernachlässigung“ von Standard-CNNs.

Die Autoren betonen, dass SWIFT ein proaktives Auto-Scaling ermöglicht, indem es hochgenaue und latenzarme Prognosen liefert, die in der Lage sind, auf plötzliche Workload-Bursts zu reagieren, bevor diese auftreten. Über das Cloud-Computing hinaus deuten die Autoren an, dass diese Fähigkeiten auch auf Edge-Computing, Energienetze und Logistik übertragbar sein könnten, warnen jedoch, dass verbesserte Genauigkeit keine Stabilität garantiert, und empfehlen Fail-Safe-Mechanismen für das automatisierte Scaling in unbekannten Anomalieszenarien.