Stellen Sie sich vor, Sie versuchen, ein superschnelles Echtzeit-Videospiel zu entwickeln, in dem ein Charakter mit Ihnen sprechen, Ihnen zuhören und sofort auf Sie reagieren kann. Um dies zu ermöglichen, müssen Sie mehrere verschiedene „Gehirne“ (KI-Modelle) miteinander verketten: eines, das auf Ihre Stimme hört, ein anderes, das sich eine Antwort ausdenkt, ein drittes, das diese Antwort in Sprache umwandelt, und ein viertes, das ein Gesicht animiert, das die Worte spricht. In der Welt der Informatik nennt man das eine „multimodale Anwendung“. Der schwierige Teil ist nicht nur, diese Gehirne zu haben; es geht darum, herauszufinden, wie man sie alle zusammen betreibt, ohne dass sie sich gegenseitig im Weg stehen. Wenn Sie sie alle auf einen winzigen Prozessor legen, bewegen sie sich zu langsam. Wenn Sie sie zu weit verstreuen, verbringen sie zu viel Zeit damit, miteinander zu kommunizieren. Jahrelang mussten Experten für jede neue App manuell ein maßgeschneidertes „Verkehrskontrollsystem“ bauen, ein Prozess, der langsam, teuer und schwer zu wiederholen ist.

Hier kommt die Idee eines „KI-Agenten“ ins Spiel. Stellen Sie sich dies als einen superintelligenten, unermüdlichen digitalen Praktikanten vor, der Code lesen und ihn umschreiben kann, um ihn schneller laufen zu lassen. Aber hier ist der Haken: Wenn Sie diesen Praktikanten einfach nur bitten, „es schneller zu machen“, wird er oft verwirrt, probiert Dinge wahllos aus oder übersieht die besten Tricks, weil das Problem unglaublich komplex ist. Es ist, als würde man einen Menschen bitten, ein riesiges, bewegliches Puzzle in seinem Kopf neu anzuordnen, ohne jemals die Teile aufschreiben zu dürfen. Genau hier setzt ein neues System namens FlashRT an. Es lässt die KI nicht einfach nur raten; es gibt der KI einen strukturierten Schlachtplan, einen Satz Werkzeuge und eine Möglichkeit, ihre eigenen Ideen zu testen, wodurch ein chaotisches Ratespiel in eine präzise Ingenieursleistung verwandelt wird.

Das Problem: Der Stau der KI

Die Autoren dieser Arbeit stellten fest, dass Echtzeitanwendungen (wie Sprachassistenten oder Live-Videogeneratoren) immer beliebter werden, aber ein Albtraum in der effizienten Ausführung sind. Diese Apps sind wie Fließbänder, bei denen verschiedene Maschinen (Modelle) unterschiedliche Aufgaben erledigen. Manchmal möchte man, dass die gesamte Linie so schnell wie möglich läuft (hoher Durchsatz/Throughput), und manchmal möchte man, dass das erste Produkt so schnell wie möglich herauskommt (geringe Latenz/Latency).

Das Problem ist, dass die „beste“ Art, diese Maschinen anzuordnen, sich je nach Ziel ändert. Wenn Sie Geschwindigkeit wollen, möchten Sie die Maschinen vielleicht auf verschiedene Computer aufteilen, damit sie parallel arbeiten können. Wenn Sie eine geringe Verzögerung wollen, möchten Sie sie vielleicht nah beieinander halten, damit sie keine Zeit mit dem Hin- und Hersenden von Daten verschwenden. Bestehende Systeme sind zu starr; sie zwingen Sie dazu, sich für eine feste Anordnung zu entscheiden. Andere Tools versuchen zwar zu automatisieren, funktionieren aber nur für einfache, einstufige Aufgaben, nicht für diese komplexen, mehrstufigen Pipelines. Das Ergebnis? Entwickler sind darauf angewiesen, für jede neue App maßgeschneiderte Lösungen von Hand zu fertigen, was nicht skalierbar ist.

Die Lösung: FlashRT und die „Chain-of-Program“

Die Forscher entwickelten FlashRT, ein System, das einen KI-Coding-Agenten nutzt, um automatisch das perfekte Deployment für jede multimodale Anwendung zu entwerfen. Aber sie sagten der KI nicht einfach nur: „Geh und repariere es.“ Sie erkannten, dass eine KI oft scheitert, wenn man sie bittet, direkt zur Lösung zu springen. Sie findet vielleicht einen guten Trick, übersieht aber andere, oder sie erfindet eine Lösung, die auf dem Papier gut aussieht, aber beim tatsächlichen Betrieb versagt.

Um dies zu beheben, nutzt FlashRT eine clevere Strategie namens „Chain-of-Program“-Paradigma. Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Verbrechen aufzuklären. Anstatt direkt zur Verhaftung überzugehen, zeichnen Sie zuerst eine Karte des Tatorts und notieren, wer wo war und was die Personen getan haben. Dann analysieren Sie diese Karte, um Hinweise zu finden. Schließlich testen Sie Ihre Theorie.

FlashRT macht das Gleiche für Code:

1. Die Karte (Intermediate Representation): Zuerat nimmt der KI-Agent den einfachen, langsamen Code des Entwicklers und übersetzt ihn in eine strukturierte „Karte“ (eine sogenannte Intermediate Representation oder IR). Diese Karte zeigt deutlich, wie die Daten zwischen den verschiedenen Modellen fließen und wo sie sich den Speicher teilen. Dies zwingt die KI, erst einmal innezuhalten und die Struktur zu verstehen, bevor sie versucht, etwas zu ändern.
2. Die Analyse: Die KI betrachtet diese Karte, um Möglichkeiten zu entdecken. Zum Beispiel könnte sie sehen, dass Modell A nicht warten muss, bis Modell B vollständig fertig ist; es kann bereits anfangen zu arbeiten, sobald Modell B ein kleines Stück der Daten produziert hat. Das ist wie ein Koch, der anfängt, Gemüse zu schneiden, während das Wasser noch kocht, anstatt zu warten, bis das Wasser kocht, bevor er das Messer anfasst.
3. Die Testfahrt (Validation Loop): Dies ist der kritischste Teil. Die KI rät nicht einfach nur; sie baut ein „Test-Harness“. Sie simuliert einen echten Nutzer, der mit der Anwendung interagiert, füttert sie mit gefälschten Eingaben und misst exakt, wie schnell die Ausgabe zurückkommt. Wenn das neue Design der KI langsamer ist oder ein falsches Ergebnis liefert, weiß sie es sofort. Dann probiert sie eine andere Strategie, testet sie erneut und iteriert so lange weiter, bis sie das bestmögliche Setup gefunden hat.

Die Ergebnisse: Die Beschleunigung der Zukunft

Das Team testete FlashRT auf mehreren realen Anwendungen, darunter einen Gesicht-zu-Gesicht-Konversationsagenten, einen Video-Hintergrund-Editor und ein Video-Weltmodell. Die Ergebnisse waren beeindruckend.

Auf NVIDIA B200 GPUs konnte FlashRT eine einfache, langsame Implementierung in ein Hochgeschwindigkeits-Deployment verwandeln, das die Zeit bis zum Erhalt der ersten Antwort (Latenz) um bis zu das 70-fache reduzierte. Es verbesserte auch die Geschwindigkeit, mit der das System kontinuierliche Ströme verarbeiten kann (Durchsatz), um das 2,8-fache.

Noch interessanter ist, dass sie es auf AMD MI355X GPUs testeten, einer anderen Art von Hardware, die von Experten noch nicht so stark optimiert wurde. FlashRT funktionierte nicht nur, es florierte. Es erreichte vergleichbare Verbesserungen bei der Latenz und steigerte den Durchsatz sogar um das 3,6-fache. In einem spezifischen Test mit einem Modell namens Qwen3-Omni reduzierte FlashRT die Antwortzeit im Vergleich zu einem von menschlichen Experten gebauten System um 65 %.

Warum das wichtig ist

Die Arbeit zeigt, dass wir nicht darauf warten müssen, dass menschliche Experten jede neue KI-Anwendung manuell optimieren. Indem wir KI-Agenten einen strukturierten Weg des Denkens (die Karte) und eine Möglichkeit geben, ihre Ideen zu testen (die Validierungsschleife), können wir automatisch hocheffiziente Systeme generieren, die sich an unterschiedliche Hardware und unterschiedliche Ziele anpassen.

Die Autoren weisen vorsichtig darauf hin, dass dies zwar ein großer Schritt nach vorn ist, aber kein Zauberstab ist, der alles löst. Sie haben noch nicht die Fähigkeit der KI integriert, die winzigen, niedrigen mathematischen Operationen innerhalb der Modelle selbst zu optimieren, und sie haben nur einen spezifischen Typ von KI-Agenten getestet. Doch die Kernbotschaft ist klar: Mit der richtigen Anleitung können KI-Agenten lernen, komplexe Echtzeitsysteme zu entwerfen, die schneller und flexibler sind, als alles, was wir heute von Hand bauen könnten. Es ist ein Wechsel vom „Handwerk der Zukunft“ zum „Steuern der Zukunft“.