When Do LLM Agents Help? Deadline-Aware Mixed-Criticality Task Scheduling at the Autonomous-Vehicle Edge

Selbstfahrende Autos fahren nicht einfach nur; sie denken ständig. Um eine belebte Straße zu navigieren, muss ein Fahrzeug eine Flut von Daten aus Kameras und Sensoren verarbeiten und dabei Fußgänger, andere Autos und Verkehrsschilder in einem Bruchteil einer Sekunde identifizieren. Da der eigene Computer des Autos diese immense Arbeitslast nicht allein bewältigen kann, sendet er diese dringenden Berechnungen an nahegelegene Server am Rande des Netzwerks, ein Setup, das als Mobile Edge Computing bekannt ist. Die Herausforderung für Ingenieure besteht darin, dass nicht alle Aufgaben gleichwertig sind. Einige Aufgaben, wie das Erkennen eines Hindernisses, das einen Unfall verursachen könnte, sind lebenswichtig und müssen vor einer strikten Frist abgeschlossen werden. Andere Aufgaben, wie das Aktualisieren einer Karte oder das Abspielen von Musik, sind wichtig, können aber warten, wenn das System ausgelastet ist. Das Ziel ist es, einen Scheduler zu bauen – einen digitalen Verkehrskontrolleur –, der die lebenswichtigen Aufgaben schützt, ohne die Energie des Systems zu verschwenden, während sich das Auto bewegt und die Netzwerkbedingungen ändern.

Jahrelang haben Forscher versucht, künstliche Intelligenz einzusetzen, um dieses Scheduling-Rätsel zu lösen. Vor kurzem ist ein neuer Typ von KI, ein Large Language Model, als potenzielle Lösung aufgetaucht. Diese Modelle sind berühmt für ihre Fähigkeit zu denken und ihre Entscheidungen in einfacher Sprache zu erklären, was viele dazu veranlasste zu hoffen, dass sie als flexible, intelligente Manager für komplexe Systeme fungieren könnten. Diese Modelle sind jedoch auch langsam und teuer im Betrieb. Die Frage, vor der die wissenschaftliche Gemeinschaft stand, war, ob das Hinzufügen dieser langsamen, intelligenten Ebene zu einem schnellen, kritischen System tatsächlich helfen oder ob es alles nur verlangsamen würde, ohne einen echten Nutzen zu bringen. Ein Forscher setzte sich zum Ziel, dies zu beantworten, indem er einen strengen Test aufbaute, um genau zu sehen, wann und ob diese KI-Manager die Leistung von selbstfahrenden Autonetzwerken verbessern.

Der Forscher konstruierte eine detaillierte Simulation eines Netzwerks, in dem selbstfahrende Autos ihre Denkaufgaben an nahegelegene Server auslagern. Er erstellte sechzig verschiedene Szenarien, in denen jeweils zweihundert Aufgaben zu zufälligen Zeiten eintrafen. In diesen Szenarien waren sechzig Prozent der Aufgaben lebenskritisch, während der Rest aus Standardaufgaben mit niedriger Priorität bestand. Der Forscher baute zuerst ein sehr starkes, traditionelles Scheduling-System auf. Dieses System arbeitete dadurch, dass es eingehende Aufgaben in kleine Chargen gruppierte und sie dann so sortierte, dass die dringendsten, lebenskritischen Aufgaben immer zuerst berücksichtigt wurden. Es wies jede Aufgabe dann dem Server zu, der sie am schnellsten fertigstellen konnte. Diese Methode erwies sich als unglaublich effektiv und schaffte erfolgreich über neunzig Prozent der kritischen Aufgaben. Sie performte besser als fünfzehn andere Standardmethoden und kam innerhalb von dreizehn Prozent an das theoretisch bestmögliche Ergebnis heran – ein Benchmark, das von einem leistungsstarken Offline-Solver berechnet wurde, der den Luxus hatte, die gesamte Zukunft vor seinen Entscheidungen zu kennen.

Nachdem diese leistungsstarke Baseline etabliert war, führte der Forscher das Large Language Model ein. Er entwarf ein System, bei dem die KI nicht jede einzelne Entscheidung traf, was zu langsam gewesen wäre. Stattdessen fungierte die KI als Supervisor, der sich nur gelegentlich einmeldete, um die Regeln des Spiels anzupassen. Im ersten Teil seiner Studie war der Verkehrsfluss stetig und vorhersehbar. Unter diesen ruhigen Bedingungen brachte der KI-Supervisor keinen Mehrwert. Der traditionelle, regelbasierte Scheduler war bereits so gut, dass die KI keinen Raum für zusätzliche Verbesserungen finden konnte. Die Argumentation der KI, der auktionsähnliche Gebotsprozess und die Fähigkeit zur Echtzeit-Anpassung waren alle unnötig, wenn die Arbeitslast stabil war. Die einfachen, schnellen Regeln waren ausreichend, um den Verkehr effizient zu bewältigen.

Die Geschichte änderte sich, als der Forscher ein plötzliches, chaotisches Ereignis einführte. Er simulierte ein Szenario, in dem eine große Gruppe von Autos gleichzeitig an einer belebten Kreuzung ankam und so einen plötzlichen Anstieg lebenskritischer Aufgaben verursachte, der den Standard-Scheduler überforderte. In diesem Moment des nicht-stationären Chaos begann das traditionelle System zu kämpfen und verpasste Fristen, die es normalerweise eingehalten hätte. Hier zeigte die Kontrollschicht des Large Language Models schließlich ihren Wert. Durch die Überprüfung der Situation und die Anpassung der Scheduling-Regeln im laufenden Betrieb gelang es dem KI-System, einen Teil der verlorenen Leistung wiederherzustellen, indem es signifikant mehr kritische Aufgaben abschloss als das statische System oder sogar ein anderer Typ von adaptivem Algorithmus. Die KI löste das Problem nicht perfekt, aber sie fand einen Weg, eine kleine, statistisch signifikante Verbesserung herauszukitzeln, die die festen Regeln nicht erreichen konnten.

Die Studie kommt zu dem Schluss, dass der Wert der Verwendung dieser fortgeschrittenen KI-Modelle völlig konditional ist. Sie sind kein magisches Upgrade, das alles die ganze Zeit besser macht. Stattdessen verdienen sie ihre Kosten nur dann, wenn die Umgebung unvorhersehbar wird und ein fester Satz von Regeln nicht mehr mithalten kann. Unter stabilen Bedingungen sind die einfachen, schnellen Methoden überlegen, weil sie effizient und zuverlässig sind. Aber wenn ein plötzlicher Anstieg kritischer Ereignisse auftritt, bietet die Fähigkeit der KI, durch das Chaos zu denken und ihre Strategie anzupassen, einen echten, messbaren Nutzen. Der Forscher maß auch die Zeit, die die KI für ihre Entscheidungen benötigte, und stellte fest, dass sie viel zu langsam war, um für jede einzelne Aufgabe eingesetzt zu werden, was bestätigte, dass sie als High-Level-Supervisor und nicht als direkter Arbeiter fungieren muss. Die endgültige Botschaft für Ingenieure ist klar: Führen Sie diese komplexen KI-Schichten nicht standardmäßig ein. Sie sind ein spezialisiertes Werkzeug, das nur dann nützlich ist, wenn die Arbeitslast volatil genug ist, um Möglichkeiten zu schaffen, die eine feste Policy nicht sehen kann.