🤖 AI

Mixture of Horizons in Action Chunking

Dieses Paper schlägt Mixture of Horizons (MoH) vor, eine Plug-and-Play-Strategie, die Aktions-Chunks in Segmente mit variierenden Horizonten umordnet, um gleichzeitig langfristige Voraussicht und kurzfristige Präzision zu optimieren, wodurch der inhärente Zielkonflikt in Vision-Language-Action-Modellen überwunden und eine State-of-the-Art-Leistung mit dynamischen Inferenzfähigkeiten erreicht wird.

Ursprüngliche Autoren: Dong Jing, Gang Wang, Jiaqi Liu, Weiliang Tang, Zelong Sun, Yunchao Yao, Zhenyu Wei, Yunhui Liu, Zhiwu Lu, Mingyu Ding

Veröffentlicht 2026-06-01

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Dong Jing, Gang Wang, Jiaqi Liu, Weiliang Tang, Zelong Sun, Yunchao Yao, Zhenyu Wei, Yunhui Liu, Zhiwu Lu, Mingyu Ding

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Kernproblem: Das „Zoom-Objektiv“-Dilemma

Stellen Sie sich vor, Sie fahren ein Auto. Um sicher zu fahren, benötigen Sie zwei Dinge gleichzeitig:

Langfristige Voraussicht: Sie müssen weit nach vorne auf die Straße schauen, um eine Kurve frühzeitig zu erkennen, damit Sie rechtzeitig einlenken können.
Kurzfristige Präzision: Sie müssen genau auf das Armaturenbrett und den unmittelbaren Bereich direkt vor Ihrer Stoßstange achten, um nicht gegen ein Schlagloch oder ein Eichhörnchen zu fahren.

Die Arbeit argumentiert, dass aktuelle Robotergehirne (genannt Vision-Language-Action-Modelle) Schwierigkeiten haben, beides gleichzeitig zu tun. Sie sind gezwungen, eine „Zoomstufe“ (die die Autoren als Horizont bezeichnen) zu wählen:

Wenn sie weit herauszoomen (Langer Horizont): Sind sie großartig darin, komplexe, mehrstufige Aufgaben zu planen (wie „gehe in die Küche, öffne den Kühlschrank und hol die Milch“). Aber sie werden bei kleinen, unmittelbaren Bewegungen ungeschickt. Sie könnten gegen Dinge stoßen, weil sie nicht genau genug auf die Details achten.
Wenn sie nah heranzoomen (Kurzer Horizont): Sind sie sehr präzise bei unmittelbaren Bewegungen. Aber sie verlieren den Überblick über das große Ganze. Sie könnten zwar die Milch greifen, aber vergessen, zuerst den Kühlschrank zu öffnen, oder sie verlieren sich in einer langen Abfolge von Schritten.

Früher mussten Ingenieure für den gesamten Roboter eine Zoomstufe festlegen. Wenn sie die falsche wählten, scheiterte der Roboter bei bestimmten Aufgaben.

Die Lösung: Die „Mixture of Horizons“ (MoH)

Die Autoren schlagen eine clevere Lösung vor, die Mixture of Horizons (MoH) genannt wird. Anstatt den Roboter zu zwingen, nur eine Zoomstufe zu wählen, lassen sie den Roboter mehrere Zoomstufen gleichzeitig nutzen.

Stellen Sie sich das wie ein Team aus drei Experten vor, die neben dem Roboter stehen und alle dieselbe Szene durch unterschiedliche Objektive betrachten:

Experte A schaut 10 Schritte voraus (kurzfristig).
Experte B schaut 20 Schritte voraus (mittelfristig).
Experte C schaut 30 Schritte voraus (langfristig).

Das Gehirn des Roboters (der „Action Transformer“) fragt alle drei Experten gleichzeitig nach Rat. Dann entscheidet ein winziger, intelligenter „Gatekeeper“ (eine einfache lineare Schicht), der allen drei zuhört: „Für diesen spezifischen Moment ist der Rat von Experte A am besten, um das Lenkrad zu drehen, aber der Rat von Experte C ist am besten, um zu wissen, wohin die Fahrt als Nächstes geht.“

Der Roboter kombiniert diese Meinungen dann zu einer einzigen, perfekten Aktion.

Wie es in der Praxis funktioniert

Parallele Verarbeitung: Der Robbot muss nicht drei verschiedene Gehirne ausführen. Er führt ein Gehirn aus, das alle drei „Zoomstufen“ exakt zur gleichen Zeit verarbeitet. Das ist sehr schnell und verlangsamt den Roboter nicht.
Der Gatekeeper: Dies ist eine winzige, leichtgewichtige Komponente (nur 2.000 zusätzliche Parameter), die lernt, wie man den Rat mischt. Er lernt, dass er bei einem „langen, gewundenen Pfad“ dem langfristigen Experten mehr vertrauen sollte. Bei einer „engen Passage“ sollte er dem kurzfristigen Experten mehr vertrauen.
Dynamische Inferenz (Das „Selbstkorrektur“-Feature):
- Die Arbeit führt einen coolen Trick ein, bei dem der Roboter prüft, ob sich alle Experten einig sind.
- Wenn sich die Experten über die nächsten 10 Schritte einig sind, führt der Roboter alle 10 Schritte auf einmal aus (bewegt sich also schnell).
- Wenn die Experten anfangen, sich uneinig zu sein (vielleicht nähert sich der Roboter einem schwierigen Entscheidungspunkt), hält der Roboter früher inne, bewertet die Situation neu und plant neu.
- Analogie: Stellen Sie sich vor, Sie wandern durch einen Wald. Wenn der Pfad gerade und klar ist, machen Sie lange Schritte. Wenn Sie auf eine Weggabelung oder ein Dickicht treffen, halten Sie inne, schauen sich um und machen kleinere, vorsichtigere Schritte. Der Roboter macht dies automatisch, was ihn sowohl schneller als auch sicherer macht.

Die Ergebnisse: Warum es wichtig ist

Die Autoren testeten dies an Robotern bei Aufgaben wie dem Falten von Handtüchern, dem Eingießen von Milch und dem Stapeln von Blöcken.

Besser in allem: Der Roboter wurde sowohl bei kurzen, präzisen Aufgaben (wie dem Einschenken von Milch, ohne zu verschütten) als auch bei langen, komplexen Aufgaben (wie das Ablegen eines Stifts in eine Schublade und das Schließen derselben) besser.
Kein Kompromiss: Es löste das „Zoom-Objektiv“-Dilemma. Der Roboter musste nicht länger zwischen Präzision für die Planung oder Planung für die Präzision wählen.
Geschwindigkeit: Da der Roboter bei Zuversicht längere Schritte machen kann, erledigte er Aufgaben 2,5-mal schneller als bisherige Methoden, ohne dabei mehr Fehler zu machen.
Plug-and-Play: Diese Methode kann zu fast jedem bestehenden Robotergehirn hinzugefügt werden, ohne dass das gesamte System neu aufgebaut werden muss.

Zusammenfassung

Die Arbeit führt eine Möglichkeit ein, Robotern eine „Multi-Objektiv“-Sicht zu geben. Anstatt sie zu zwingen, sich zwischen dem Blick auf das große Ganze oder den Blick auf die kleinen Details zu entscheiden, nutzt der Roboter beides gleichzeitig. Ein intelligenter „Mixer“ kombiniert diese Ansichten, um Entscheidungen zu treffen, die sowohl vorausschauend als auch präzise sind, wodurch Roboter in der realen Welt schneller und klüger agieren können.

Technisches Resümee: Mixture of Horizons in Action Chunking

1. Problemstellung

Vision-Language-Action (VLA)-Modelle haben bemerkenswerte Fähigkeiten bei der Ausführung komplexer Roboteraufgaben demonstriert, indem sie Sequenzen zukünftiger Aktionen (Action Chunks) vorhersagen, die auf visuellen Beobachtungen und Sprachinstruktionen basieren. Eine kritische Designentscheidung in diesen Modellen ist die Länge des Action Chunks, oder der Horizont ( $H$ ).

Das Paper identifiziert einen inhärenten Trade-off bei der Auswahl eines einzelnen, festen Horizonts:

Lange Horizonte: Verbessern die langfristige Planung und Weitsicht, was zu einer besseren Leistung bei Aufgaben führt, die ausgedehnte Trajektorien erfordern (z. B. mehrstufige Manipulation). Sie beeinträchtigen jedoch häufig die feingliedrige lokale Kontrolle und die unmittelbare motorische Präzision.
Kurze Horizonte: Ermöglichen eine präzise, hochfrequente Kontrolle und führen zu höheren Erfolgsraten bei Aufgaben mit kurzem Horizont. Ihnen fehlt jedoch der globale Kontext, der für komplexe Planungen mit langem Horizont notwendig ist.

Bestehende Ansätze verlassen sich typischerweise auf einen heuristisch gewählten, festen Horizont, was einen Flaschenhals für die Generalisierung darstellt. Ein einzelner Horizont kann nicht gleichzeitig sowohl die langfristige Weitsicht als auch die kurzfristige Präzision optimieren, was die Anpassungsfähigkeit des Modells an diverse Aufgabenbereiche einschränkt.

2. Methodik: Mixture of Horizons (MoH)

Um diesen Trade-off zu mildern, schlagen die Autoren Mixture of Horizons (MoH) vor, eine Plug-and-Play-Strategie, die mehrere Aktionshorizonte innerhalb eines einzigen Modells integriert.

Kernarchitektur

MoH ordnet einen Standard-Action-Chunk der Länge $H$ in mehrere Segmente mit unterschiedlichen Horizonten $\mathcal{H} = \{h_1, \dots, h_N\}$ um (wobei $h_N = H$ ).

Parallele Verarbeitung: Das Modell verarbeitet diese gekürzten Chunks parallel unter Verwendung eines gemeinsamen Action Transformers. Um die Recheneffizienz zu gewährleisten, werden die Chunks auf die Länge $H$ aufgefüllt (Padding) und mit horizonspezifischen Attention-Masken verarbeitet, die Positionen $k > h$ ungültig machen. Das Vision-Language-Modell (VLM)-Backbone wird nur einmal berechnet, und der leichtgewichtige Action Transformer übernimmt die parallelen Horizonte mit vernachlässigbarem Overhead.
Gated Fusion: Ein leichtgewichtiger linearer Gating-Head (der nur ca. 2k Parameter hinzufügt) fusioniert die Vorhersagen der verschiedenen Horizonte. Für jeden Zeitschritt $k$ berechnet das Gate Gewichte $\alpha_{t,k,h}$ für gültige Horizonte ( $k \le h$ ) und erzeugt eine endgültige fusionierte Vorhersage:
$\hat{a}_{t,k} = \sum_{h \in \mathcal{H}: k \le h} \alpha_{t,k,h} \hat{a}^{(h)}_{t,k}$
Trainingsziel: Der Gesamtverlust kombiniert den Verlust auf den fusionierten Vorhersagen ( $L_{mix}$ ), die Summe der Verluste auf den individuellen Horizon-Vorhersagen ( $L_{ind}$ ) und einen Balance-Loss ( $L_{bal}$ ). Der Balance-Loss, inspiriert durch die Mixture-of-Experts-Literatur, ermutigt das Gating-Netzwerk, alle Horizonte gleichmäßig zu nutzen, um zu verhindern, dass das Modell zu einem bevorzugten Horizont kollabiert.

Dynamische Inferenz via Cross-Horizon Consensus

MoH ermöglicht ein dynamisches Inferenzschema, das die Ausführungsgeschwindigkeit basierend auf der Vorhersagekonfidenz anpasst:

Mechanismus: In jedem Zeitschritt behandelt das Modell die Vorhersagen aus verschiedenen Horizonten als „Wähler“. Es berechnet die Diskrepanz (z. B. $\ell_1$ -Distanz) zwischen der fusionierten Aktion und den horizonspezifischen Aktionen.
Selbst-Abschneidung (Self-Truncation): Das System führt ein Präfix des Action Chunks so lange aus, wie die Diskrepanz unter einem datenabhängigen Schwellenwert (abgeleitet aus den ersten $n$ Schritten) bleibt und eine ausreichende Anzahl von Horizonten aktiv ist.
Vorteil: Dies ermöglicht es dem Roboter, längere Aktionssequenzen während glatter, risikoarmer Bewegungen (hohe Konsensrate) auszuführen und während kritischer Entscheidungspunkte oder feingliedriger Manipulationen (niedriger Konsens) häufiger neu zu planen, was sowohl die Stabilität als auch den Durchsatz verbessert.

3. Zentrale Beiträge

Systematische Analyse: Das Paper liefert eine systematische Untersuchung, die den grundlegenden Trade-off zwischen langfristiger Weitsicht und kurzfristiger Präzision beim VLA-Action-Chunking aufzeigt und demonstriert, dass feste Horizonte zu suboptimaler Leistung bei verschiedenen Aufgabentypen führen.
MoH-Strategie: Es führt eine universelle, leichtgewichtige Methode zur Fusion mehrerer Horizonte ein. MoH ist mit sowohl Flow-Matching-Policies (z. B. $\pi_0$ , $\pi_0.5$ ) als auch One-Step-Regression/Klassifikations-Policies kompatibel und erfordert minimale architektonische Änderungen.
Dynamische Inferenz: Die Autoren schlagen einen konsensbasierten dynamischen Inferenzmechanismus vor, der die Ausführungsstabilität und -effizienz verbessert und einen bis zu 2,5-fach höheren Durchsatz im Vergleich zu Baselines erreicht, während die Erfolgsraten beibehalten oder verbessert werden.

4. Experimentelle Ergebnisse

Die Autoren evaluierten MoH auf Flow-basierten Modellen ( $\pi_0$ , $\pi_0.5$ , StarVLA) und einem Regressions-basierten Modell ( $\pi_{reg}$ ) über mehrere Benchmarks hinweg:

LIBERO Benchmark: MoH verbesserte die Leistung über alle vier Aufgabensets (Spatial, Object, Goal, Long) hinweg konsistent. Bemerkenswerterweise erreichte $\pi_0.5$ mit MoH nach nur 30k Iterationen eine durchschnittliche Erfolgsrate von 99 %, was einen neuen Stand der Technik auf diesem Benchmark etablierte. Es entschärfte effektiv den Trade-off, indem es die Leistung bei langfristigen Aufgaben verbesserte (z. B. +3,2 % beim Long-Suite für $\pi_0$ ), ohne die kurzfristige Performance zu opfern.
RoboTwin 2.0: MoH verbesserte die Erfolgsraten sowohl in „einfachen“ (In-Domain) als auch in „harten“ (Domain-Randomized) Settings, was eine verbesserte Robustheit und Generalisierung zeigt.
RoboCasa: In weniger gesättigten, vielfältigen Haushaltsumgebungen lieferte MoH konsistente Gewinne (durchschnittlich +3,4 %) gegenüber dem Baseline-Modell GR00T.
Real-World-Experimente: Eingesetzt an einem 7-DoF-Manipulator, zeigte MoH konsistente Gewinne in Aufgaben, die von kurzfristiger Objektplatzierung bis hin zu langfristigem Schubladenöffnen und feingliedriger Manipulation deformierbarer Objekte (Handtuchfalten) reichten.
Ablationsstudien:
- Horizon-Dichte: Eine moderat dichte Menge an Horizonten (z. B. Schrittweite $d=3$ ) lieferte die optimale Leistung und balancierte Gewinne mit den Rechenkosten.
- Diversität vs. Ensemble: Die Gewinne wurden der Horizont-Diversität zugeschrieben und nicht einem generischen Ensemble-Effekt; die Verwendung identischer Horizonte brachte vernachlässigbare Verbesserungen.
- Gating: Die lernbare Gated-Fusion übertraf das einfache uniforme Averaging, und der Balance-Loss war entscheidend, um einen Gate-Kollaps zu verhindern.

5. Bedeutung und Ansprüche

Das Paper behauptet, dass MoH eine prinzipielle Lösung für eine kritische Einschränkung aktueller VLA-Architekturen bietet: die Unfähigkeit, gleichzeitig langfristige Planung und kurzfristige Kontrolltreue zu optimieren.

Plug-and-Play-Effizienz: Die Methode ist recheneffizient und führt aufgrund der Leichtigkeit des Action Transformers und der Verwendung gemeinsamer Parameter nur minimalen Trainings- und Inferenz-Overhead ein.
Generalisierbarkeit: MoH ist nicht an einen spezifischen Policietyp (Flow-Matching oder Regression) oder ein Backbone gebunden, was es breit anwendbar für die VLA-Community macht.
Dynamische Anpassungsfähigkeit: Durch die Ermöglichung von Cross-Horizon-Konsens ermöglicht MoH eine adaptive Closed-Loop-Steuerung, die es Robotern erlaubt, ihren Planungshorizont dynamisch an Aufgabenunsicherheit und Komplexität anzupassen.

Die Autoren betonen, dass MoH zwar die Aktionsvorhersage und die Ausführungsstabilität signifikant verbessert, aber nicht direkt die Einschränkungen in der visuellen Wahrnehmung oder dem Befolgen von Instruktionen adressiert, welche separate Herausforderungen für VLA-Modelle bleiben. Die Arbeit positioniert MoH als einen grundlegenden Schritt hin zu robusteren und skalierbareren Embodied-AI-Systemen.