Provuse: Platform-Side Function Fusion for Performance and Efficiency in FaaS Environments

Die Arbeit stellt Provuse vor, eine plattformsseitige Optimierung für FaaS-Umgebungen, die durch transparente Laufzeit-Fusion unabhängiger Funktionen die Latenz und den RAM-Verbrauch signifikant reduziert, ohne dass Entwickler Änderungen am Code vornehmen müssen.

Das Wesentliche

Hier ist eine einfache Erklärung der Forschung „Provuse", basierend auf dem vorliegenden Papier, verpackt in eine Geschichte für den Alltag.

Das Problem: Der „Doppelte Kaffee" und die leeren Tische

Stell dir vor, du betreibst ein riesiges Café (das ist die FaaS-Plattform, also Function-as-a-Service). Kunden (deine Apps) kommen herein und bestellen verschiedene Dinge.

In einem normalen Serverless-Café funktioniert es so:

1. Ein Gast bestellt einen Kaffee (Funktion A).
2. Der Kellner bringt den Kaffee, aber der Gast sagt: „Oh, ich brauche auch noch ein Stück Kuchen, bring mir das bitte sofort mit!"
3. Der Kellner muss den Kaffee ablegen, zum Backofen rennen, den Kuchen holen, zurückkommen und beides zusammenbringen.

Das Problem dabei:

• Zeitverlust: Der Gast muss warten, bis der Kellner hin- und herläuft (das ist die Latenz).
• Doppelte Kosten: In diesem Café wird nicht pro Tasse, sondern pro Besuch beim Kellner abgerechnet. Der Gast zahlt also einmal für den Kaffee-Besuch und einmal für den Kuchen-Besuch, obwohl es eigentlich eine einzige Bestellung war. Das nennt die Forscher „Double Billing" (doppelte Abrechnung).
• Verschwendung: Oft stehen Kellner rum, die nur warten, bis der nächste Auftrag kommt. Das kostet Platz und Gehalt (das ist der RAM-Verbrauch).

Die Lösung: Provuse – Der „Super-Kellner"

Die Forscher von der TU Berlin und Huawei haben eine Lösung namens Provuse entwickelt. Stell dir Provuse wie einen sehr schlauen Manager vor, der das Café leitet, ohne dass die Gäste (die Programmierer) etwas ändern müssen.

Wie funktioniert Provuse?

1. Beobachten: Der Manager (Provuse) schaut sich an, welche Gäste oft zusammenkommen. Wenn er sieht, dass Gast A (Kaffee) immer sofort Gast B (Kuchen) ruft, merkt er sich das.
2. Zusammenlegen (Fusion): Anstatt zwei verschiedene Kellner zu schicken, die hin- und herrennen, stellt der Manager einen Super-Kellner auf. Dieser eine Kellner kann sowohl Kaffee als auch Kuchen machen.
3. Im Hintergrund: Das passiert komplett im Hintergrund. Der Gast bestellt einfach wie gewohnt. Er merkt gar nicht, dass er jetzt von einem einzigen Kellner bedient wird, der alles in einem Rutsch erledigt.

Die Vorteile (Die Magie)

• Schneller: Da der Kellner nicht mehr hin- und herlaufen muss, kommt das Essen viel schneller auf den Tisch. In der Studie war das Essen im Durchschnitt 26 % schneller fertig.
• Günstiger: Da nur noch ein Kellner (eine Instanz) beschäftigt ist, statt zwei, spart das Café Platz und Geld. Der RAM-Verbrauch (der Platz im Café) sank um fast 54 %.
• Kein Stress für den Gast: Das Wichtigste: Die Gäste müssen ihre Bestellung nicht ändern. Sie müssen nicht wissen, dass der Manager die Kellner umorganisiert hat. Alles läuft automatisch.

Wie sieht das in der Praxis aus?

Die Forscher haben das an zwei Orten getestet:

1. In einem kleinen, schnellen Café am Rand der Stadt (tinyFaaS).
2. In einem riesigen, komplexen Hotelkomplex mit vielen Abteilungen (Kubernetes).

In beiden Fällen hat der „Super-Kellner" funktioniert. Egal ob das Café klein oder groß ist, das Ergebnis war dasselbe: Weniger Wartezeit und weniger verschwendeter Platz.

Gibt es Einschränkungen?

Ja, wie bei jeder guten Idee gibt es ein „Aber":

• Vertrauen: Da zwei verschiedene Aufgaben nun von einem Kellner erledigt werden, müssen diese Aufgaben sich vertrauen. Man würde keinen Kellner nehmen, der für den Gast A arbeitet und gleichzeitig für einen Konkurrenten (Gast B) arbeitet, wenn diese sich nicht mögen. Provuse setzt also voraus, dass die Funktionen zur selben „Familie" (demselben Vertrauen) gehören.
• Nicht für alles: Wenn ein Gast nur einen Kaffee bestellt und dann sofort wieder geht, bringt das Zusammenlegen nichts. Es hilft besonders bei komplexen Bestellungen, bei denen viele Dinge nacheinander passieren.

Fazit

Provuse ist wie ein unsichtbarer Assistent für Cloud-Systeme. Er schaut sich an, wer wen ruft, und setzt die Mitarbeiter so zusammen, dass sie effizienter arbeiten. Das Ergebnis: Deine Apps laufen schneller, kosten weniger Geld und verbrauchen weniger Energie – und du als Entwickler musst dafür keinen einzigen Zeile Code ändern.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Provuse: Platform-Side Function Fusion for Performance and Efficiency in FaaS Environments" auf Deutsch.

1. Problemstellung

Function-as-a-Service (FaaS) bietet zwar Skalierbarkeit und Kosteneffizienz, leidet jedoch in komplexen Anwendungen, die aus mehreren Funktionen bestehen, unter signifikanten Nachteilen:

• Doppelte Abrechnung (Double Billing): Wenn Funktionen synchron aufgerufen werden, entstehen Kosten für die Ausführung beider Funktionen sowie für die Wartezeit und den Overhead der Orchestrierung.
• Latenz und Ressourcen-Overhead: Jeder Funktionsaufruf erfordert die Initialisierung einer isolierten Laufzeitumgebung (Container/VM), was zu Latenzspitzen (Cold Starts) und hohem Speicherverbrauch führt.
• Komplexität der Optimierung: Bisherige Optimierungen erfordern oft Änderungen am Anwendungscode (z. B. manuelles Zusammenfassen von Funktionen), was den Vorteil der Serverless-Abstraktion (keine Infrastrukturverwaltung) untergräbt.

Das Ziel ist es, diese Ineffizienzen zu beheben, ohne dass Entwickler ihren Code ändern müssen.

2. Methodik und Architektur (Provuse)

Die Autoren stellen Provuse vor, eine transparente, plattformseitige Optimierung, die zur Laufzeit automatisch eine Funktionsfusion (Function Fusion) durchführt. Das System funktioniert unabhängig vom Code des Nutzers und greift in die Infrastruktur des FaaS-Anbieters ein.

Kernkomponenten:

1. Function Handler:

   • Wird zusammen mit dem Funktionscode bereitgestellt.
   • Überwacht eingehende Anfragen und ausgehende Socket-Verbindungen.
   • Erkennt synchronen Kommunikationsfluss (blockierende Aufrufe, bei denen der aufrufenden Thread auf das Ergebnis wartet).
   • Sendet bei Erkennung eines synchronen Aufrufs eine Fusion-Anfrage an den Merger.

2. Merger:

   • Empfängt die Anfrage mit den Identifikatoren der beteiligten Funktionen.
   • Extrahiert die Dateisysteme der beiden Container-Instanzen.
   • Führt diese zu einem einzigen Dateisystem zusammen (unter Beibehaltung der Original-IDs, um Konflikte zu vermeiden).
   • Baut ein neues Container-Image, das den Code beider Funktionen enthält, und startet eine neue Instanz.
   • Leitet den Datenverkehr auf die neue, fusionierte Instanz um und beendet die alten, redundanten Instanzen.

Implementierung:

• Der Ansatz wurde auf zwei Plattformen implementiert: tinyFaaS (ein leichtgewichtiges Edge-FaaS) und Kubernetes (als Basis für Plattformen wie Knative).
• Der Function Handler ist in Python geschrieben, der Merger in Rust.
• Das System ist sprachagnostisch konzipiert, obwohl der aktuelle Prototyp nur Python-Funktionscode unterstützt.

3. Schlüsselbeiträge

• Plattformseitige Automatisierung: Im Gegensatz zu früheren Arbeiten, die Fusionen anwendungsseitig (durch Annotations oder Konfiguration) steuerten, übernimmt Provuse die gesamte Entscheidungsfindung und Ausführung auf der Infrastrukturseite.
• Transparenz: Entwickler müssen keinen Code ändern und keine Deployment-Konfiguration anpassen. Die Optimierung ist für den Nutzer unsichtbar.
• Dynamische Fusion zur Laufzeit: Das System reagiert auf tatsächliche Aufrufmuster (Traces) und fusioniert nur dann, wenn synchroner Fluss erkannt wird, was Overhead vermeidet, wenn keine Fusion nötig ist.
• Kompatibilität: Die Lösung wurde erfolgreich auf zwei unterschiedlichen Orchestrierungs-Frameworks (tinyFaaS und Kubernetes) validiert.

4. Ergebnisse (Evaluation)

Die Evaluation basierte auf zwei Anwendungsszenarien (TREE und IOT) auf beiden Plattformen. Es wurden 10.000 HTTP-Anfragen pro Experiment mit einer Rate von 5 Requests/Sekunde gesendet.

Wesentliche Kennzahlen:

• Latenzreduktion: Im Durchschnitt wurde die End-to-End-Latenz um 26,33 % gesenkt.
  • Beispiel IOT auf tinyFaaS: Median-Latenz sank von 807 ms auf 574 ms (28,9 % Verbesserung).
  • Beispiel TREE auf Kubernetes: Median-Latenz sank von 456 ms auf 358 ms (21,5 % Verbesserung).
• Ressourceneffizienz (RAM): Der durchschnittliche RAM-Verbrauch sank um 53,57 %.
  • Beispiel IOT: Reduktion um ca. 57 %.
  • Beispiel TREE: Reduktion um ca. 50 %.
• Stabilität: Die Verbesserungen waren über beide Plattformen und Anwendungstypen hinweg konsistent. Die Fusion eliminiert den Overhead durch doppelte Initialisierung und Remote-Aufrufe.

5. Bedeutung und Ausblick

Bedeutung:
Das Paper zeigt, dass plattformseitige Optimierungen ein mächtiges Werkzeug sind, um die inhärenten Nachteile von FaaS (Latenz, Kosten durch Doppelabrechnung) zu adressieren, ohne die Entwicklererfahrung zu beeinträchtigen. Provuse beweist, dass „Function Fusion" nicht nur theoretisch, sondern in realen Orchestrierungsumgebungen effektiv ist. Dies ist ein wichtiger Schritt hin zu kosteneffizienteren und leistungsfähigeren Serverless-Systemen.

Limitationen und Zukunft:

• Isolation: Durch das Zusammenführen von Funktionen in einem Container wird die Isolation zwischen diesen Funktionen reduziert. Daher wird angenommen, dass fusionierte Funktionen derselben Vertrauensdomäne angehören müssen.
• Aktuelle Einschränkungen: Der Prototyp unterstützt derzeit nur Python und den „Bring-Your-Own-Code"-Modus (keine „Bring-Your-Own-Container"-Modelle).
• Zukunft: Die Autoren schlagen vor, die Unterstützung für andere Programmiersprachen und Container-Modelle zu erweitern sowie hybride Optimierungsansätze zu erforschen.

Zusammenfassend demonstriert Provuse, dass transparente Infrastruktur-Optimierungen das Potenzial haben, die Effizienz von FaaS-Anwendungen signifikant zu steigern, ohne die Komplexität für den Endnutzer zu erhöhen.