🤖 AI

Toward a Modular Architecture for Embedded AI Agent Systems at the Edge

Dieses Paper schlägt eine modulare, gestufte Referenzarchitektur für eingebettete KI-Agentensysteme vor, die die Lücke zwischen deterministischer Echtzeitsteuerung und agentiver Intelligenz schließt, indem sie die Ausführung auf dem Gerät von der Cloud-erweiterten Argumentation entkoppelt und gleichzeitig eine Governance-Schicht integriert, um Sicherheit und Beobachtbarkeit in ressourcenbeschränkten Umgebungen zu gewährleisten.

Ursprüngliche Autoren: Marcus Rüb, Michael Gerhards

Veröffentlicht 2026-06-03

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Marcus Rüb, Michael Gerhards

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine Welt vor, in der jedes Gerät, vom winzigen Bodensensor auf einem Bauernhof bis zum Smart Speaker in Ihrem Wohnzimmer, ein „Gehirn“ besitzt, das selbstständig denken, planen und Entscheidungen treffen kann. Dies ist das Versprechen von Agentic AI. Es gibt jedoch ein großes Problem: Die superintelligenten Gehirne, die wir heute haben (Large Language Models), sind wie riesige, hungrige Elefanten. Sie benötigen enorme Mengen an Strom und Speicherplatz, was perfekt in ein Rechenzentrum passt, aber für einen winzigen, batteriebetriebenen Sensor unmöglich ist.

Dieses Paper schlägt eine Lösung vor: Versuchen Sie nicht, den Elefanten durch das Mauseloch zu pressen. Bauen Sie stattdessen ein flexibles System, bei dem sich das „Gehirn“ an die Größe des Geräts anpasst.

Hier ist der Vorschlag des Papers, unterteilt in einfache Konzepte und Analogien:

1. Das Kernproblem: Die „Memory Wall“ (Speicherwand)

Betrachten Sie einen Standard-Mikrocontroller (den Chip in einem einfachen Sensor) als ein winziges Notizbuch. Es hat sehr wenig Platz zum Schreiben und ein sehr kleines Gehirn.
Betrachten Sie ein leistungsstarkes Edge Gateway (wie einen Smart-Home-Hub) als eine große Bibliothek. Sie hat Regale voller Bücher und einen großen Schreibtisch zum Arbeiten.

Derzeit versuchen KI-Forscher, den gesamten Wissensschatz einer Bibliothek in das winzige Notizbuch zu pressen. Das funktioniert nicht. Das Paper argumenttiert, dass wir aufhören müssen, eine Einheitsgröße für alle erzwingen zu wollen.

2. Die Lösung: Ein Zwei-Ebenen-„Team“-System

Die Autoren schlagen eine modulare Architektur vor, die die Arbeit basierend darauf aufteilt, was die Hardware bewältigen kann. Sie nennen diese beiden Ansätze „Flavors“ (Geschmacksrichtungen):

Flavor A: Das autonome Gateway (Das „Lokale Gehirn“)

Wo es lebt: Auf leistungsstarken Geräten wie Smart-Home-Hubs oder industriellen Gateways (die „Bibliothek“).
Wie es funktioniert: Dieses Gerät führt ein Small Language Model (SLM) lokal aus. Es ist wie ein intelligenter Assistent, der direkt im Raum bei Ihnen sitzt.
Der Vorteil: Es kann denken, schlussfolgern und Entscheidungen treffen, ohne das Internet zu benötigen. Es ist schnell, privat (Ihre Daten verlassen nie das Haus) und funktioniert auch dann, wenn der Strom ausfällt.
Der Kompromiss: Es kostet mehr Geld in der Herstellung und verbraucht mehr Batterieleistung, da es die schwere Arbeit selbst erledigt.

Flavor B: Der gekoppelte Agent (Der „Bote“)

Wo es lebt: Auf winzigen, günstigen Geräten wie Bodensensoren oder einfachen Schaltern (das „winzige Notizbuch“).
Wie es funktioniert: Dieses Gerät ist zu klein, um tiefgründig zu denken. Stattdessen fungiert es wie ein Bote. Es sammelt Daten (wie „der Boden ist trocken“) und sendet eine kurze Textnachricht an die Cloud (das „Super-Gehirn“), um zu fragen: „Was soll ich tun?“
Der Vorteil: Es ist unglaublich günstig und energieeffizient. Sie können tausende davon auf einem Feld platzieren, ohne das Budget zu sprengen.
Der Kompromiss: Es benötigt eine Internetverbindung. Wenn das Internet ausfällt, ist das Gerät „gelobotomisiert“ – es kann nur noch einfache, vorprogrammierte Reflexe ausführen (wie „wenn es zu heiß wird, schalte ab“), kann aber keine komplexen neuen Entscheidungen treffen.

3. Die „Governance Layer“ (Steuerungsebene): Der Sicherheitsmanager

Unabhängig davon, ob Sie das „Lokale Gehirn“ oder den „Boten“ verwenden, führt das Paper eine entscheidende dritte Komponente ein: eine Governance Layer.

Betrachten Sie dies als einen strengen Sicherheitsmanager oder Schiedsrichter, der über alle Geräte wacht.

Beobachtbarkeit (Observability): Er führt ein Protokoll darüber, was jeder Agent tut, damit Menschen die Aufzeichnungen später überprüfen können.
Sicherheit: Er fungiert als „Sicherheitsgurt“. Bevor ein Gerät (egal ob ein smarter Hub oder ein winziger Sensor) einen gefährlichen Befehl ausführt (wie das Einschalten eines Boilers oder das Bewegen eines Roboterarms), prüft die Governance Layer: „Ist das sicher? Entspricht das unseren Regeln?“
Warum das wichtig ist: Dies stellt sicher, dass selbst wenn eine KI einen Fehler macht oder „halluziniert“, der Sicherheitsmanager sie daran hindert, physischen Schaden anzurichten.

4. Praxisbeispiele aus dem Paper

Das Paper nutzt drei Szenarien, um zu zeigen, wann welcher „Flavor“ einzusetzen ist:

Intelligente Landwirtschaft (Flavor B): Stellen Sie sich einen riesigen Bauernhof mit tausenden Bodensensoren vor. Sie können sich keinen 200-Dollar-Smart-Hub für jede einzelne Pflanze leisten. Sie nutzen billige „Boten“-Sensoren (Flavor B), die Daten an ein zentrales Cloud-Gehirn senden. Sie sparen Wasser basierend auf einfachen Regeln, fragen aber die Cloud nach großen Entscheidungen wie „Es wird eine Dürre geben, ändere den Bewässerungsplan“.
Vorausschauende Wartung / Predictive Maintenance (Hybrid): Stellen Sie sich eine Fabrikmaschine vor. Ein winziger Sensor (Flavor B) hört rund um die Uhr auf Vibrationen. Wenn er ein seltsames Geräusch hört, sendet er eine Momentaufnahme an ein leistungsstarkes lokales Gateway (Flavor A). Das Gateway nutzt dann sein „Lokales Gehirn“, um genau herauszufinden, was das Problem ist und wie es behoben werden kann.
Privatsphäre-orientierter Smart Home (Flavor A): Stellen Sie sich einen Sprachassistenten in Ihrem Schlafzimmer vor. Sie möchten nicht, dass Ihre privaten Gespräche in die Cloud gesendet werden. Daher verwenden Sie einen leistungsstarken lokalen Hub (Flavor A), der Ihre Stimme und Befehle direkt in Ihrem Haus verarbeitet. Er funktioniert auch, wenn das Internet ausgefallen ist, und Ihre Geheimnisse bleiben in Ihrem Zuhause.

5. Das Fazit

Das Paper kommt zu dem Schluss, dass es keine „Einheitslösung“ gibt.

Wenn Sie Privatsphäre, Geschwindigkeit und Offline-Zuverlässigkeit benötigen, nutzen Sie das Lokale Gehirn (Flavor A).
Wenn Sie Skalierbarkeit, niedrige Kosten und eine massive Anzahl an Geräten benötigen, nutzen Sie den Boten (Flavor B), der mit der Cloud verbunden ist.

Die Genialität dieser Architektur liegt darin, dass sie beide Arten von Geräten als Teil desselben Teams betrachtet. Sie sprechen dieselbe Sprache, folgen denselben Sicherheitsregeln und arbeiten zusammen, um eine Welt zu schaffen, in der selbst der kleinste Sensor Teil eines intelligenten Systems sein kann.

Technische Zusammenfassung: Hin zu einer modularen Architektur für eingebettete Agentensysteme am Edge

Problemstellung

Der rasante Fortschritt bei Large Language Models (LLMs) hat „agentische KI“ ermöglicht, die zu komplexem Denken, Planen und dem Einsatz von Werkzeugen fähig ist. Es besteht jedoch eine erhebliche Diskrepanz zwischen diesen leistungsstarken KI-Systemen und den Beschränkungen von Pervasive Computing-Umgebungen. Während cloudbasierte Agenten von reichlich verfügbarem Speicher, Rechenleistung und kontinuierlicher Konnektivität ausgehen, wird die physische Welt eingebetteter Systeme von tief eingebetteten Mikrocontrollern (MCUs) und Sensorknoten dominiert, die unter strengen Ressourcenbeschränkungen arbeiten (z. B. Kilobytes an RAM, begrenzter Flash-Speicher) und oft unter unzuverlässigen Netzwerkbedingungen operieren.

Aktuelle Frameworks setzen typischerweise Server-Ressourcen voraus, wodurch eine Lücke für tief eingebettete Systeme entsteht. Das Ausführen voll funktionsfähiger Reasoning-Agenten auf Standard-Mikrocontrollern ist aufgrund der „Memory Wall“ technisch nicht machbar, während die bestehende Entwicklung für eingebettete Systeme die deterministische Steuerungsschleife gegenüber der dynamischen, kontextbewussten Natur moderner agentischer KI priorisiert. Es mangelt an einem einheitlichen architektonischen Framework, das deterministische Echtzeitsteuerung mit agentischer Intelligenz über heterogene Hardware-Schichten hinweg verbindet.

Methodik

Das Paper schlägt eine Modulare Eingebettete Agenten-Architektur vor, die darauf ausgelegt ist, heterogene Deployment-Muster zu vereinheitlichen. Anstatt zu versuchen, eine einzige Agenten-Definition auf alle Geräte zu erzwingen, verfolgt die Methodik einen differenzierten, gestuften Ansatz basierend auf der Hardware-Kapazität:

Hardware-Differenzierung: Die Architektur unterscheidet zwischen:
- Edge Gateways (MPUs): Geräte mit Gigabytes an RAM, die in der Lage sind, quantisierte Small Language Models (SLMs) zu hosten.
- Deeply Embedded MCUs: Geräte mit strengen Speicherbeschränkungen (SRAM < 512 KB), die keine generativen Modelle hosten können.
Zwei Deployment-„Flavors“: Die Architektur definiert zwei unterschiedliche Betriebsmodi, die eine gemeinsame strukturelle DNA teilen, sich aber im Ausführungsort unterscheiden:
- Flavor A (Autonomer On-Device Agent): Läuft auf leistungsfähiger Edge-Hardware. Er führt lokale SLMs für das Reasoning aus, was Privatsphäre und Offline-Fähigkeit gewährleistet.
- Flavor B (Tethered Cloud Agent): Läuft auf eingeschränkten MCUs. Er fungiert als intelligente Schnittstelle, die komplexes Reasoning an Cloud-Agenten (LLMs) delegiert, während er gleichzeitig lokale deterministische Reflexe für die Sicherheit aufrechterhält.
Modulare Dekomposition: Die Agenten-Logik wird in funktionale Module zerlegt (Wahrnehmung, Gedächtnis, Planung, Reasoning, Aktion, Lernen, Tool-Registry, Sicherheit). Die Implementierung dieser Module passt sich der Hardware-Schicht an (z. B. probabilistisches Chain-of-Thought-Planning auf Gateways gegenüber deterministischen Finite State Machines auf MCUs).
Querschnittliche Governance: Eine obligatorische Governance-Schicht wird eingeführt, um Beobachtbarkeit, Richtliniendurchsetzung und Sicherheit über verteilte Flotten hinweg zu gewährleisten, unabhängig davon, ob der Agent lokal oder Cloud-gebunden ist.

Kernbeiträge

Das Paper leistet vier primäre Beiträge:

Hardware-spezifische Constraint-Analyse: Es analysiert die spezifischen Einschränkungen eingebetteter Agenten, unterscheidet klar zwischen SLM-fähigen Edge-Geräten und MCU-basierten Cloud-Schnittstellen und hebt die „Memory Wall“ als primäre Beschränkung hervor.
Modulare Eingebettete Agenten-Architektur: Es schlägt ein Framework vor, das die Ausführungsschicht (lokal vs. Cloud) von der logischen Agenten-Definition entkoppelt. Dies ermöglicht hybride Deployment-Strategien, bei denen sich die Definition eines „Agenten“ an die zugrunde liegende Hardware anpasst.
Integration der Governance-Schicht: Es führt eine querschnittliche Governance-Schicht als obligatorische Komponente zur Verwaltung verteilter Flotten semi-autonomer Agenten ein und adressiert damit kritische Anforderungen an Beobachtbarkeit und Sicherheit in Unternehmensumgebungen.
Konzeptionelle Trade-off-Evaluierung: Anstatt rein empirischer Benchmarks liefert das Paper eine konzeptionelle Bewertung von Design-Trade-offs (Latenz, Energie, Privatsphäre, Kosten) über drei Anwendungsbereiche hinweg: Intelligente Landwirtschaft, Predictive Maintenance und Smart Home.

Ergebnisse und Analyse

Das Paper präsentiert eine konzeptionelle Analyse statt empirischer Leistungsbenchmarks und zieht die folgenden Schlussfolgerungen hinsichtlich der Trade-offs zwischen den beiden Deployment-Flavors:

Latenz und Determinismus:
- Flavor A (Gateway): Bietet lokale Wahrnehmungs-Aktions-Schleifen mit geringer Latenz (<10 ms), verursacht jedoch hohe Inferenzlatenz (200 ms bis Sekunden) für generatives Reasoning.
- Flavor B (MCU): Bietet extrem schnelle lokale Reflexe (<1 ms), führt aber eine unvorhersehbare Netzwerk-Jitter (100–1000 ms) für komplexes Reasoning ein, was es für hochfrequente kognitive Schleifen ungeeignet macht.
Energieverbrauch:
- Flavor A: Rechenintensiv; das lokale Ausführen von SLMs verbraucht erhebliche Leistung (Watt), was die Batterielebensdauer einschränkt.
- Flavor B: Kommunikationsintensiv; MCUs verbrauchen Milliwatt im Schlaf-/Sensorikmodus, erleben aber Leistungspitzen während der Übertragung. Für sporadische Aufgaben ist dies energieeffizienter als kontinuierliche lokale Verarbeitung.
Speicher und Kosten:
- Flavor A: Erfordert Gigabytes an RAM und höhere Bill-of-Materials (BOM)-Kosten ( $50–$ 200+), was die Skalierbarkeit für massive Sensordeplets einschränkt.
- Flavor B: Operiert innerhalb von Kilobyte-RAM-Limits und niedrigen BOM-Kosten ( $2–$ 10), was die Skalierbarkeit auf Milliarden von Endpunkten ermöglicht, aber eine Cloud-Konnektivität erfordert.
Privatsphäre und Resilienz:
- Flavor A: Bietet überlegene Privatsphäre (Daten bleiben lokal) und Resilienz (voll funktionsfähig in luftgekühlten/isolierten Umgebungen).
- Flavor B: Verlässt sich auf die Cloud; obwohl Daten verschlüsselt werden können, degradiert der Verlust der Konnektivität den Agenten zu einem „lobotomierten“ Zustand mit nur grundlegenden Sicherheitsreflexen.

Anwendungsszenarien:

Intelligente Landwirtschaft: Bevorzugt Flavor B aufgrund von Kosten- und Energiebeschränkungen; lokale Regeln handhaben die unmittelbare Steuerung, während die Cloud die strategischen Entscheidungen trifft.
Predictive Maintenance: Bevorzugt einen hybriden Ansatz; MCUs handhaben hochfrequente Abtastungen, während Gateways/Cloud die komplexe Anomaliediagnose übernehmen.
Privatsphäre-orientiertes Smart Home: Bevorzugt Flavor A, um sicherzustellen, dass Sprachdaten lokal bleiben und das System auch bei Internetausfällen funktioniert.

Signifikanz und Ansprüche

Das Paper behauptet, dass seine primäre Signifikanz darin liegt, einen vereinheitlichten Bauplan bereitzustellen, um agentisches Verhalten an den Edge zu bringen, indem der „Agenten-Begriff“ von der zugrunde liegenden Hardware-Ausführung entkoppelt wird.

Vereinheitlichte Abstraktion: Es ermöglicht Systemarchitekten, ein 2-Dollar-Mikrocontroller und ein 100-Dollar-Edge-Gateway als Knoten innerhalb desselben agentischen Systems zu behanden, was fundierte Designentscheidungen ermöglicht, bei denen latenzkritische Reflexe den MCUs und privatsphärensensibles Reasoning den Gateways zugewiesen werden.
Modularität als Enabler: Durch die Zerlegung von Agenten in technologieagnostische Module verhindert die Architektur „Feature Creep“ und ermöglicht es leichtgewichtigen Geräten, an agentischen Workflows teilzunehmen, ohne sie mit nicht nachhaltigen Software-Stacks zu überlasten.
Governance als First-Class-Citizen: Die Einführung einer querschnittlichen Governance-Schicht adressiert das „Black Box“-Problem der KI am Edge und bietet einen einheitlichen Audit-Trail, der für den Einsatz autonomer Agenten in regulierten Branchen wie Energie und Gesundheitswesen essenziell ist.

Die Autoren kommen zu dem Schluss, dass es keine „Einheitslösung“ gibt. Die vorgeschlagene Architektur betont die hybride Komponierbarkeit, die es einfachen Mikrocontrollern ermöglicht, über standardisierte Schnittstellen und robuste Sicherheitsfallbacks an agentischen Workflows teilzunehmen, während gleichzeitig anerkannt wird, dass die „Memory Wall“ das volle generative Reasoning derzeit auf leistungsstärkere Gateways beschränkt. Als zukünftige Arbeit werden die Entwicklung von Open-Source-Referenzimplementierungen, die Überbrückung der semantischen Lücke zwischen textbasierten KI-Protokollen und binären IoT-Protokollen sowie das Prototyping von Governance-Tools für verteiltes Tracing und „Model Armor“ identifiziert.