🤖 machine learning

FlexLAM: Resolving the Bottleneck Trade-off in Latent Action Learning

FlexLAM löst den inhärenten Zielkonflikt beim Lernen latenter Aktionen, indem es feste Kapazitätsengpässe durch variabel lange, präfix-valide latente Aktionen ersetzt, die mittels verschachtelten Dropout trainiert werden, wodurch ein einzelnes Modell dynamisch das Gleichgewicht zwischen Informationserhalt und Detailtiefe ermöglicht, ohne dass Architekturänderungen oder ein erneutes Training erforderlich sind.

Ursprüngliche Autoren: Takanori Yoshimoto, Yang Hu, Naruya Kondo, Tatsuya Matsushima

Veröffentlicht 2026-06-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Takanori Yoshimoto, Yang Hu, Naruya Kondo, Tatsuya Matsushima

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen einem Roboter beizubringen, wie die Welt funktioniert, indem Sie einfach nur Videos von Menschen beobachten, die Dinge tun, ohne jemals die eigenen „Muskelbefehle“ (Aktionen) des Roboters mit den Videos verknüpft zu sehen.

Dies ist die Herausforderung von Latent Action Models (LAMs). Sie versuchen, einen Videoübergang (was zwischen zwei Frames passiert) in einen winzigen, geheimen Code zu komprimieren – eine „latente Aktion“ –, den der Roboter später nutzen kann, um zu entscheiden, was er tun soll.

Das Paper FlexLAM argumentiert, dass die aktuelle Art und Weise, diese Codes zu erstellen, fehlerhaft ist, weil sie einen „Einheitskoffer für alle Fälle“ verwendet.

Das Problem: Der starre Koffer

Stellen Sie sich vor, Sie haben einen Koffer, in den genau 10 Gegenstände passen.

Szenario A: Sie müssen eine einzelne Zahnbürste einpacken. Wenn Sie diese in einen 10-teiligen Koffer zwängen, bleiben 9 leere Plätze übrig. Der Roboter wird durch all den leeren Raum und das zusätzliche Rauschen verwirrt.
Szenario B: Sie müssen eine ganze Garderobe für eine Woche einpacken. Wenn Sie diese in einen 10-teiligen Koffer zwängen, müssen Sie die Hälfte Ihrer Kleidung wegwerfen. Der Roboter übersieht entscheidende Details darüber, was passiert ist.

In der Welt der KI ist dies der Bottleneck-Trade-off (Engpass-Abwägung):

Wenn der Code zu klein ist (enger Koffer), verliert der Roboter die Hinweise, die er braucht, um zu verstehen, welche Aktion er ausführen soll.
Wenn der Code zu groß ist (weiter Koffer), wird der Robbot durch zu viele Informationen überflutet, besonders wenn er nicht viele Beispiele (Labels) hat, um daraus zu lernen.

Bestehende Modelle zwingen jeden Videoübergang in dens denselben fest dimensionierten Koffer, unabhängig davon, ob die Aktion einfach war (ein Kameraschwenk) oder komplex (eine Hand, die eine Tasse greift).

Die Lösung: Der magische, erweiterbare Koffer (FlexLAM)

Die Autoren entwickelten FlexLAM, das den starren Koffer durch einen magischen, erweiterbaren Koffer ersetzt.

Anstatt die KI dazu zu bringen, sich vorab auf eine feste Größe festzulegen, lehrt FlexLAM die KI, den Koffer in Schichten zu packen:

Der Kern: Es packt immer zuerst die wichtigsten, essenziellen Details ein (das „Präfix“).
Die Details: Es fügt nur dann zusätzliche Detailschichten hinzu, wenn die Situation komplex genug ist, um dies zu erfordern.

Denken Sie an eine Matroschka-Puppe oder eine Zip-Datei.

Wenn Sie nur die erste Schicht entpacken, erhalten Sie die Hauptidee dessen, was passiert ist.
Wenn Sie mehr Schichten entpacken, erhalten Sie spezifischere Details.
Entscheidend ist, dass die KI dies während des Trainings lernt. Sie lernt, dass die ersten paar „Tokens“ (Stücke des Codes) am wichtigsten sind, um die Aktion zu verstehen, und dass spätere Tokens nur Bonusdetails sind.

Wie sie es getestet haben

Die Forscher testeten dies auf zwei Arten:

1. Der „Knappheit der Labels“-Test (Das DMLab-Spiel)
Sie gaben der KI sehr wenige Beispiele für „korrekte Aktionen“, um daraus zu lernen (wie einem Schüler, dem man nur 5 statt 50 Übungsaufgaben gibt).

Das Ergebnis: Die starren Modelle (Fixed-K) versagten kläglich, wenn die Labels knapp waren oder die Aufgabe schwierig war. Sie vergaßen entweder die Aktion oder wurden durch Rauschen verwirrt.
Der Sieg von FlexLAM: Da FlexLAM lernte, die wichtigsten Informationen zuerst zu priorisieren, funktionierte es besser als jedes der starren Modelle, selbst wenn diese mit der exakt gleichen Menge an „Platz“ zur Verfügung standen. Es war wie ein Schüler, der lernte, zuerst die wichtigsten Kapitel zu lernen, anstatt zu versuchen, das ganze Buch auf einmal auswendig zu lernen.

2. Der „Echtwelt“-Test (Ego4D)
Sie testeten FlexLAM mit echten Videos (wie Menschen, die in Küchen herumlaufen oder Objekte bewegen).

Das Ergebnis: FlexLAM konnte die Videoübergänge viel klarer rekonstruieren als die alten starren Modelle. Es konnte eine verschwommene, detailarme Version einer Aktion mit nur wenigen Tokens zeigen und eine scharfe, detailreiche Version mit mehr Tokens – alles aus demselben einzelnen Modell heraus.

Die wichtigste Erkenntnis

FlexLAM beweist, dass man kein neues, komplexes Robotergehirn bauen muss, um dieses Problem zu lösen. Man muss nur ändern, wie der Koffer gepackt wird.

Durch den Einsatz einer Technik namens „Nested Dropout“ (was eine schicke Art zu sagen ist: „verstecke während des Trainings zufällig den hinteren Teil des Koffers“) lernt die KI, dass die Vorderseite des Koffers perfekt sein muss und der hintere Teil später ergänzt werden kann.

Kurz gesagt:

Der alte Weg: Ein fester Kasten für alles. Schlecht für einfache Dinge, schlecht für komplexe Dinge.
Der FlexLAM-Weg: Ein intelligenter Kasten, der klein beginnt und nur wächst, wenn es nötig ist. Er lernt zuerst den „Kern“ und dann die „Details“.
Der Vorteil: Es funktioniert besser mit weniger Daten, bewältigt komplexe Szenen besser und erlaubt es einem, den gewünschten Detailgrad im Moment der Nutzung zu wählen, ohne das gesamte System neu trainieren zu müssen.

Das Paper kommt zu dem Schluss, dass dieser „variablen Längen“-Ansatz ein einfaches, direkt einsatzbereites Upgrade ist, das KI-Modelle intelligenter und effizienter macht, ohne neue Architekturen zu benötigen.

Technisches Resümee: FlexLAM

Problemstellung

Latent Action Models (LAMs) zielen darauf ab, action-freie Videodaten mit nachgeschalteter Entscheidungsfindung zu verknüpfen, indem sie Übergänge zwischen Beobachtungen $(o_t, o_{t+1})$ in latente Codes komprimieren, die dann mithilfe eines begrenzten Satzes an gelabelten Daten mit ausführbaren Aktionen abgeglichen werden. Eine zentrale Designbeschränkung bestehender LAMs ist der Engpass mit fester Kapazität (fixed-capacity bottleneck): Jeder Übergang wird, unabhängig von seiner Komplexität, durch einen latenten Code mit einer festen Länge $K$ gezwungen.

Die Autoren identifizieren ein grundlegendes Bottleneck-Trade-off (Engpass-Abwägung), das in diesem Design mit fester Kapazität inhärent ist:

Knappe Codes (Niedriges $K$ ): Während sie effizient sind, können übermäßig komprimierte Codes kritische Übergangshinweise verwerfen, die notwendig sind, um latente Repräsentationen mit ausführbaren Aktionen abzugleichen, insbesondere wenn gelabelte Daten knapp sind.
Lockere Codes (Hohes $K$ ): Während sie mehr Übergangsvariation bewahren, führen übermäßig lockere Codes Rauschen und irrelevante Frame-Differenzen ein. Wenn Alignment-Labels knapp oder eng verteilt sind (z. B. aus einer einzigen Aufgabe), muss der Translator versuchen, zwischen handlungsrelevanten Signalen und irrelevanten Variationen zu unterscheiden, was zu einem fragilen Alignment führt.

Bestehende Ansätze behandeln Kapazität als globalen Hyperparameter, der abgestimmt werden muss, aber die Autoren argumentieren, dass die Komplexität eines Übergangs variabel ist und ein einzelnes festes Budget nicht optimal für alle Übergänge oder Alignment-Regime dienen kann.

Methodik: FlexLAM

FlexLAM adresset diesen Trade-off, indem es den Engpass mit fester Kapazität durch eine variabel-längige latente Aktionsschnittstelle ersetzt, die mittels Retained-Prefix-Training trainiert wird. Die zentrale Innovation ist architekturbeständig (architectural-agnostic); sie modifiziert nur das Training des Bottlenecks, während die umgebende LAM-Pipeline (Encoder, Decoder, Translator und Downstream-Evaluator) unverändert bleibt.

Wichtige technische Komponenten

Retained-Prefix-Training:
Anstatt einen einzelnen festen Code der Länge $z_t = (z_{t,1}, \dots, z_{t,K})$ für jeden Übergang zu trainieren, sampelt FlexLAM eine beibehaltene Präfix-Länge $k$ aus einer Gleichverteilung $p(k) = \text{Unif}\{0, \dots, K\}$ .
- Die ersten $k$ Token werden als gelernte latente Variablen beibehalten.
- Die verbleibenden Suffix-Slots ( $j > k$ ) werden durch einen gemeinsamen, lernbaren Null-Latent $z_\emptyset$ ersetzt.
- Der Decoder wird auf die aktuelle Beobachtung $o_t$ und diese mit Null aufgefüllte Repräsentation $\tilde{z}^{(k)}_t$ konditioniert, um $o_{t+1}$ zu rekonstruieren.
Präfix-valide latente Aktionen:
Dieses Trainingsregime stellt sicher, dass jedes Präfix des latenten Codes eine gültige Repräsentation sowohl für die Übergangsdekodierung als auch für das Action-Alignment ist.
- Informationsdichte: Frühere Token sind einem dichteren Trainingsdruck ausgesetzt (in mehr Samples enthalten), was sie dazu ermutigt, kompakte, hochgradig strukturierte Übergänge zu erfassen.
- Residuale Details: Spätere Token fügen erst dann feingliedrige Details hinzu, wenn die Präfix-Länge $k$ groß ist.
- Alignment-Stabilität: Durch das Training des Translators auf Teilansichten desselben Codes lernt das Modell, Aktionen basierend auf der Kernstruktur des Übergangs abzugleichen, anstatt sich auf Suffix-Variationen zu verlassen, was entscheidend ist, wenn Labels knapp oder eng gefasst sind.
Flexibilität zur Inferenzzeit:
Zur Inferenz kann das Modell mit jedem Token-Budget $k \le K$ arbeiten, ohne neu trainiert werden zu müssen. Das Sequenzmodell generiert nur die ersten $k$ Token, und der Translator dekodiert die Aktion unter Verwendung der mit Null aufgefüllten Repräsentation. Dies ermöglicht dynamische Abwägungen zwischen Latenz und Leistung innerhalb eines einzigen Modells.

Zentrale Beiträge

Charakterisierung des Bottleneck-Trade-offs: Die Arbeit identifiziert formal, dass Schnittstellen mit fester Kapazität eine Diskrepanz zwischen Übergangskomplexität und Repräsentationsbudget erzeugen, was zu spezifischen Fehlermodi beim Action-Alignment unter Regimen mit knappen oder engen Labeling-Bedingungen führt.
Retained-Prefix-Training: Die Autoren führen eine Trainingsstrategie ein, die jedes Präfix eines Übergangscodes zu einer gültigen latenten Aktion macht. Dies ermöglicht es einem einzigen Modell, mehrere Token-Budgets abzudecken und die Robustheit der Latent-zu-Aktion-Schnittstelle zu verbessern.
Empirische Überlegenheit: Durch umfangreiche Experimente demonstrieren die Autoren, dass ein einzelnes FlexLAM-Modell separat trainierte Fixed-Capacity-Baselines (Fixed- $K_k$ ) bei jedem evaluierten Token-Budget ( $k \in \{4, 16, 64\}$ ) übertrifft, was beweist, dass die Verbesserung aus einer besseren gelernten Schnittstelle resultiert und nicht bloß aus dem Zugriff auf Zwischen-Budgets.

Experimentelle Ergebnisse

Die Evaluierung konzentriert sich auf die DMLab-Umgebung (simuliert) und Ego4D (reale Videos).

1. Stichproben-Effizienz unter knappen Labels (DMLab)

Setup: Der Translator wird mit extrem knappen Labels trainiert (0,025 % des Datensatzes).
Ergebnis: FlexLAM übertrifft konsistent separat trainierte Fixed- $K$ -Baselines über alle Token-Budgets hinweg. Bemerkenswert ist, dass FlexLAM@64 (evaluiert bei voller Kapazität) Fixed- $K_{64}$ schlägt, was darauf hindeutet, dass das Retained-Prefix-Training die Qualität der Repräsentation selbst verbessert und nicht nur die Flexibilität der Inferenz.

2. Alignment aus engen Quellen (DMLab)

Setup: Der Translator wird unter Verwendung von Labels aus einer einzigen, geringen Rückgabe-Aufgabe ("Lasertag One Opponent Large") trainiert, was eine enge Verteilung darstellt.
Ergebnis: Baselines mit fester Kapazität, insbesondere solche mit hoher Kapazität, degradieren signifikant (fallen teilweise unter eine Random-Policy), wenn die Quelle eng gefasst ist. FlexLAM bleibt robust und vermeidet die "Fragilität" von High-Capacity-Codes unter enger Supervision.

3. Rekonstruktion in der realen Welt (Ego4D)

Setup: Übergangsrekonstruktion auf diversen, egozentrischen Realwelt-Videos.
Ergebnis: FlexLAM erreicht überlegene Rekonstruktionsmetriken (PSNR, SSIM, LPIPS) im Vergleich zum veröffentlichten Fixed-Bottleneck villa-X-LAM Referenzmodell. Darüber hinaus stellt das Erhöhen der beibehaltenen Präfix-Länge $k$ innerhalb des FlexLAM-Modells progressiv feinere visuelle Details wieder her, was die Präfix-valide Struktur validiert.

4. Cross-Embodiment Transfer

Ergebnis: Gelernte latente Aktionen aus einer Szene/Embodiment (z. B. menschliche Hände) übertragen sich erfolgreich auf andere Szenen oder Embodiments (z. B. Roboter-Greifer) und bewahren die Bewegungsstruktur unabhängig von der visuellen Identität.

5. Inferenzzeit-Abwägungen

Latenz vs. Leistung: FlexLAM unterstützt dynamische Token-Budgets. Die Reduzierung der Präfix-Länge $k$ von 64 auf 16 reduziert die Latenz um das 3,6-fache bei gleichzeitigem Erhalt von 95 % des Downstream-Returns, was einen praktischen Mechanismus für den Einsatz auf ressourcenbeschränkter Hardware bietet.

Bedeutung und Ansprüche

Die Arbeit behauptet, dass variabel-längige latente Aktionen ein architekturfreies, direkt anwendbares Upgrade (drop-in upgrade) für den Engpass mit fester Kapazität in latenten Aktionsmodellen darstellen.

Kern-Erkenntnis: Die Verbesserung resultiert nicht bloß aus der Fähigkeit, verschiedene Budgets zur Inferenzzeit zu wählen. Vielmehr liefert der Prozess des Retained-Prefix-Trainings selbst eine bessere Latent-Aktions-Schnittstelle, die robuster gegenüber Label-Knappheit und Verteilungsverschiebungen ist.
Umfang: Die Autoren positionieren FlexLAM als eine Lösung auf Repräsentations-Ebene, die die Schnittstelle zwischen Video und Aktion verbessert. Sie betonen explizit, dass sie keine neue Policy-Architektur oder einen direkten VLA (Vision-Language-Action) Modellvergleich vorschlagen, sondern den Engpass adressieren, der dem Policy-Learning vorausgeht.
Limitierungen: Die kontrollierten Downstream-Vergleiche beschränken sich auf die DMLab-Familie, und die Vergleiche in der realen Welt nutzen externe Referenzen anstatt kontrollierter Baselines. Die Autoren räumen ein, dass zukünftige Arbeiten diese Gewinne auf Repräsentations-Ebene mit der Ausführung von realen Policies und der Aktionswahl unter visuell ambivalenten Übergängen verknüpfen müssen.

Zusammenfassend löst FlexLAM das Spannungsverhältnis zwischen Kompression und Informationserhaltung in der latenten Aktions-Lernprozesse, indem es Modelle dazu trainiert, "präfix-valide" zu sein, wodurch eine stabilere und anpassungsfähigere Schnittstelle für den Abgleich von Video-Übergängen mit ausführbaren Aktionen geschaffen wird.