💻 computer science

ATHENA: Accelerated Multi-Task Heterogeneous Influence Functions for Robot Data Curation

Das Papier schlägt ATHENA vor, ein skalierbares Influence-Function-Framework, das die Datenkuratierung für Multitask-Vision-Language-Action-Modelle mit Milliarden von Parametern beschleunigt, indem es Kronecker-Strukturen und Rang-r-Approximationen nutzt, um signifikante Beschleunigungen zu erzielen und gleichzeitig die Performance mit vollständigen Datensätzen mit wesentlich weniger Demonstrationen zu erreichen.

Ursprüngliche Autoren: Tao Xu, Jiaxin Wang, Runhao Zhang, Jiayi Guan, Xianchao Zeng, Weixi Song, Xinyu Zhou, Zhetao Chen, Guang Chen, Yong-Lu Li

Veröffentlicht 2026-06-16

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Tao Xu, Jiaxin Wang, Runhao Zhang, Jiayi Guan, Xianchao Zeng, Weixi Song, Xinyu Zhou, Zhetao Chen, Guang Chen, Yong-Lu Li

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem superintelligenten Roboter hundert verschiedene Aufgaben beizubringen, wie zum Beispiel das Stapeln von Schüsseln, das Aufheben von Obst oder das Stempeln von Umschlägen. Sie verfügen über eine riesige Bibliothek mit Videodemonstrationen, die zeigen, wie Menschen diese Aufgaben ausführen.

Das Problem? Die Bibliothek ist riesig, und nicht jedes Video ist hilfreich. Einige Videos zeigen perfekte Bewegungen, während andere tollpatschige Fehler oder irrelevante Handlungen zeigen. Wenn Sie dem Roboter einfach alle Videos füttern, wird er verwirrt, verschwendet Zeit und lernt möglicherweise schlechte Angewohnheiten. Aber wenn Sie versuchen, die "besten" Videos auszuwählen, indem Sie sie alle manuell anschauen, würde das ewig dauern.

Hier kommt ATHENA ins Spiel. Betrachten Sie ATHENA als einen superintelligenten, ultraschnellen Bibliothekar, der Ihnen hilft, die perfekte Trainingsbibliothek für Ihren Roboter zu kuratieren.

So funktioniert es, unterteilt in einfache Konzepte:

1. Das Problem: Zu viele Daten, zu langsam

In der Vergangenheit war der Versuch herauszufinden, welches spezifische Video dem Roboter am meisten beim Lernen hilft, so, als würde man versuchen, jedes Sandkorn an einem Strand zu zählen, um das eine zu finden, das das beste Sandkastenschloss ergibt.

Die Skalierung: Moderne Robotergehirne (genannt VLA-Modelle) sind massiv, mit Milliarden von "Neuronen" (Parametern).
Der Flaschenhals: Traditionelle Methoden erforderten, dass man das Gehirn des Roboters immer wieder neu trainierte, wobei man ein Video nach dem anderen entfernte, um zu sehen, ob der Roboter besser oder schlechter wurde. Bei Milliarden von Parametern ist dies rechnerisch unmöglich – es würde Tausende von Jahren dauern.
Das Multitasking-Chaos: Wenn Sie 50 verschiedene Aufgaben haben, wählt ein einfacher Ansatz zur Auswahl der "besten Videos" oft Videos aus, die großartig für eine Aufgabe sind (wie das Stapeln von Schüsseln), aber nutzlos oder sogar schädlich für die anderen sind. Es ist, als würde man einen Koch einstellen, der zwar exzellent in der Herstellung von Sushi ist, aber schrecklich im Backen von Brot, und dann versuchen, ihm beides gleichzeitig beizubringen.

2. Die Lösung: ATHENAs zwei Superkräfte

ATHENA löst diese Probleme mit zwei Haupttricks:

Trick A: Die "Abkürzung" (Beschleunigte Berechnung)

Anstatt die Auswirkung jedes einzelnen Videos zu berechnen, indem man die schwere Mathematik auf das gesamte Milliarden-Parameter-Gehirn anwendet, nutzt ATHENA eine clevere mathematische Abkürzung.

Die Analogie: Stellen Sie sich vor, Sie möchten das Gewicht eines riesigen Schiffes messen. Eine normale Methode würde erfordern, jedes einzelne Holzbrett einzeln zu wiegen. ATHENA hingegen erkennt, dass das Schiff nach einem bestimmten, sich wiederholenden Muster gebaut ist (wie ein Stapel identischer Ziegelsteine). Anstatt jedes Brett zu wiegen, wiegt ATHENA ein paar repräsentative Ziegelsteine und nutzt eine Formel, um sofort das Gesamtgewicht zu kennen.
Das Ergebnis: Diese Abkürzung macht die Berechnung 313 Mal schneller. Was früher Wochen an Computerzeit beanspruchte, dauert jetzt nur noch wenige Stunden.

Trick B: Der "ausgewogene Richter" (Multitask-Interaktion)

Sobera ATHENA die Scores schnell berechnen kann, muss es entscheiden, welche Videos es behält.

Die Analogie: Stellen Sie sich eine Talentshow mit 50 verschiedenen Kategorien (Singen, Tanzen, Jonglieren usw.) vor. Ein schlechter Juror könnte nur die besten Sänger auswählen, weil sie die lauteste Stimme haben, und dabei die Jongleure vernachlässigen. ATHENA agiert wie ein fairer Produzent. Es stellt für jedes Video zwei Fragen:
1. "Wie sehr hilft dieses Video der spezifischen Aufgabe, zu der es gehört?" (Lokaler Einfluss)
2. "Wie sehr hilft dieses Video den anderen 49 Aufgaben?" (Globaler Einfluss)
Das Ergebnis: Es entsteht eine ausgewogene Bibliothek, in der der Roboter ein bisschen von allem lernt, was sicherstellt, dass er nicht zum Meister einer Sache und zum Versager in allen anderen wird.

3. Die Ergebnisse: Weniger Daten, bessere Leistung

Die Forscher testeten ATHENA auf zwei Arten:

In der Simulation (das Videospiel): Sie verwendeten einen Robotersimulator mit 50 verschiedenen Aufgaben und 2.500 Stunden Videomaterial.
- Die Behauptung: ATHENA war in der Lage, den Roboter mit nur 50 % der Daten (der Hälfte der Videos) zu trainieren und erzielte dennoch die gleichen (oder bessere) Ergebnisse wie das Training mit 100 % der Daten.
- Die Metapher: Es ist wie ein Schüler, der nur die Hälfte des Lehrbuchs liest, aber eine bessere Note bekommt als der Schüler, der das ganze Buch gelesen hat, weil er die richtigen Seiten studiert hat.
Auf echten Robotern (die physische Welt): Sie testeten es an sechs realen Aufgaben (wie dem Aufheben von Obst oder dem Wischen einer Tafel) mit echten Roboterarmen.
- Die Behauptung: Durch die Verwendung von nur 66,7 % der Daten half ATHENA den realen Robotern, häufiger erfolgreich zu sein, als wenn sie alle Daten verwendet hätten oder wenn sie versucht hätten, jede Aufgabe separat zu trainieren.
- Die Metapher: Es ist wie ein Trainer, der die langweiligen, repetitiven Übungen aus einem Trainingslager streicht und nur die hocheffektiven Übungen übrig lässt, was dazu führt, dass ein Team im eigentlichen Spiel besser abschneidet.

Zusammenfassung

ATHENA ist ein Werkzeug, das Roboterentwicklern hilft, weniger Zeit und Geld mit schlechten Daten zu verschwenden. Durch die Nutzung mathematischer Abkürzungen, um den Prozess zu beschleunigen, und eines Systems eines "fairen Richters", um verschiedene Aufgaben auszubalancieren, ermöglicht es Robotern, schneller und besser mit einem kleineren, qualitativ hochwertigeren Satz von Demonstrationen zu lernen.

Wichtigste Erkenntnis: Man braucht nicht mehr Daten, um einen Roboter intelligenter zu machen; man braucht bessere Daten, und ATHENA ist das Werkzeug, das sie findet.

Technisches Resümee: ATHENA

Problemstellung

Im Bereich des robotischen Imitationslernens haben Vision-Language-Action (VLA)-Modelle durch das Training auf großskaligen Demonstrationen erhebliches Potenzial gezeigt. Die Leistung dieser Modelle hängt jedoch entscheidend von der Datenqualität ab und nicht nur von der Skalierung. Eine naive Skalierung der Demonstrationsdaten für das Fine-Tuning verursacht oft prohibitive Kosten bei gleichzeitig begrenzten Leistungssteigerungen oder gar Verschlechterungen.

Die zentrale Herausforderung, die diese Arbeit adressiert, ist die effiziente Kuratierung hochwertiger Demonstrations-Subsets für Milliarden-Parameter-starke, multimodale VLA-Modelle. Bestehende Methoden zur Datenbewertung stehen bei Anwendung auf diese Größenordnung vor zwei primären Barrieren:

Rechenskalierbarkeit: Traditionelle Influence-Function-Methoden erfordern eine pro-Sample-Gradientenberechnung ($O(DP)$) und eine dichte Hessian-Inversion ( $O(NP^2 + P^3)$ ), wobei $D$ die Anzahl der Parameter, $P$ die Projektionsdimension und $N$ die Anzahl der Samples ist. Diese Kosten sind für Milliarden-Parameter-Modelle untragbar.
Multitask-Imbalance: Eine naive Erweiterung der Single-Task-Einflussattribution auf Multitask-Szenarien führt oft zu einer gierigen Selektion, die Aufgaben mit stärkeren Gradientensignalen bevorzugt, was zu einer unausgewogenen Datenkuratierung über die mehr als 50 gemeinsam trainierten Aufgaben hinweg führt.

Methodik: Das ATHENA-Framework

Die Autoren schlagen ATHENA (Accelerated Multi-Task Heterogeneous Influence Functions) vor, ein Framework, das darauf ausgelegt ist, die Berechnung von Einflussfunktionen auf Milliarden-Parameter-VLA-Modelle zu skalieren und gleichzeitig eine ausgewogene Multitask-Kuratierung zu gewährleisten.

1. Beschleunigte Einfluss-Schätzung

ATHENA adressiert die Rechenengpässe durch zwei zentrale technische Innovationen:

Kronecker-komprimierte Gradienten-Featurisierung: Anstatt die vollen Parametergradienten ($O(DP)$) zu materialisieren, nutzt ATHENA die Kronecker-Struktur der Linearkonstruktions-Gradienten. Durch die separate Projektion der Aktivierungs- ( $x$ ) und Backpropagation-Fehlerfaktoren ( $\delta$ ) vor der Bildung des äußeren Produkts reduziert das Framework die Projektionskosten pro Schicht von $O(DP)$ auf $O(\sqrt{DP})$ . Dies vermeidet den Speicherengpass durch das Speichern voller Gradienten für Milliarden-Parameter-Modelle.
Rank- $r$ Random Truncated Approximation (RTA): Um die $O(NP^2 + P^3)$ -Kosten der Inversion der dichten projizierten Hessian-Matrix ( $G^\top G + \lambda I$ ) zu vermeiden, approximiert ATHENA die komprimierte Gradientenmatrix $G$ mithilfe ihrer führenden randomisierten Spektralkomponenten ( $G \approx U_r \Sigma_r V_r^\top$ ). Dies reduziert die dominante datenabhängige Kostenmenge von $O(NP^2)$ auf $O(NPr)$, wobei $r \ll P$ .

2. Multitask Influence Interaction (MII)

Um eine unausgewogene Kuratierung über heterogene Aufgaben hinweg zu verhindern, führt ATHENA einen Mechanismus zur Multitask Influence Interaction ein. Dieser zerlegt den Einfluss einer Demonstration $i$ (die zur Aufgabe $c(i)$ gehört) in zwei Komponenten:

Lokaler Einfluss ( $\hat{\Psi}^{c(i)}_{\pi\text{-inf}}$ ): Der Effekt der Demonstration auf die Evaluation-Rollouts der eigenen Aufgabe.
Cross-Task Einfluss ( $\hat{\Psi}^{\text{all-}c(i)}_{\pi\text{-inf}}$ ): Der Effekt der Demonstration auf die Rollouts anderer Aufgaben.

Der endgültige Kuratierungsscore ( $f^{MII}_i$ ) wird als Produkt der normalisierten Utilities formuliert, die aus diesen beiden Komponenten abgeleitet werden. Dies stellt sicher, dass das ausgewählte Subset lokal kritische Beispiele bewahrt und gleichzeitig Cross-Task-Interaktionen berücksichtigt, wodurch der ROI über alle 50 Aufgaben hinweg ausgeglichen wird.

Kernergebnisse

Die Autoren evaluierten ATHENA auf dem RoboTwin 2.0 Simulations-Benchmark (50 Aufgaben, 9,34 Stunden Daten) und auf sechs realen Roboter-ALOHA-Aufgaben (6,90 Stunden Daten).

Recheneffizienz: ATHENA erreicht eine 313,4-fache Beschleunigung in der Einflussberechnung im Vergleich zu einer unoptimierten Baseline und reduziert die Zeit von ca. 8.054 GPU-Stunden auf ca. 25,7 GPU-Stunden für das 50-Aufgaben, 560k-Schritte-Szenario.
Simulationsleistung (RoboTwin 2.0): Unter Verwendung von nur 50 % der Demonstrationen erreichte ATHENA die Leistung eines Full-Data-Joint-Fine-Tunings unter Clean-Evaluation (43,36 % vs. 43,42 % Erfolgsrate) und übertraf dieses unter Randomized-Evaluation (17,30 % vs. 15,44 %). Dies resultierte in einer kumulativen Verbesserung von 45,0 Punkten über 50 Aufgaben im Vergleich zum Full-Data-Training.
Real-Robot-Leistung: Bei sechs realen Roboter-Aufgaben erreichte ATHENA eine durchschnittliche Erfolgsrate von 68,0 % unter Verwendung von nur 66,7 % der Daten. Dies übertraf die Full-Data-Joint-Fine-Tuning-Baseline (60,0 %) und übertraf die Single-Task-Fine-Tuning-Baselines (46,7 %) signifikant.
Transferierbarkeit: Es wurde gezeigt, dass durch ATHENA generierte kuratierte Subsets auf dem $\pi_0$ -Modell die Leistung des $\pi_{0.5}$ -Modells substanziell verbessern, was darauf hindeutet, dass hoch-einflussreiche Demonstrationen über verschiedene VLA-Modellvarianten hinweg generalisieren.

Bedeutung und Ansprüche

Das Paper behauptet, dass ATHENA eine prinzipielle, skalierbare Lösung für die Datenkuratierung beim Milliarden-Parameter-starken Multitask-VLA-Fine-Tuning bietet. Seine Bedeutung liegt in:

Skalierbarkeit: Es ist das erste Einflussfunktions-Framework, das in der Lage ist, auf Milliarden-Parameter-Modellen zu operieren, indem es Kronecker-Strukturen und Random Truncation nutzt und somit die bisherigen prohibitiven Rechenkosten überwindet.
Multitask-Balance: Es führt eine neuartige Attributionsregel ein, die die Datenkuratierung über diverse Aufgaben hinweg ausbalanciert und die gierigen Selektionsprobleme früherer Methoden vermeidet.
Hoher ROI: Das Framework zeigt, dass eine hochwertige Datenkuratierung eine Leistung erzielen kann, die der Full-Data-Training gleich oder sogar überlegen ist, während gleichzeitig signifikant weniger Demonstrationen verwendet werden, was die mit dem Fine-Tuning großer robotergesteuerter Policies verbundenen Rechen- und Speicherkosten reduziert.

Die Autoren weisen auf Einschränkungen hinsichtlich der Erweiterung dieser Methoden auf die Pretraining-Datenkuratierung sowie auf die hohen Kosten für die Erhebung realer Roboter-Rollouts zur Einfluss-Schätzung hin und identifizieren dies als Bereiche für zukünftige Arbeiten.