Map the Flow: Revealing Hidden Pathways of Information in VideoLLMs

Diese Studie nutzt mechanische Interpretierbarkeit, um die inneren Informationsflüsse von VideoLLMs zu entschlüsseln, und zeigt auf, wie diese Modelle durch gezielte Aktivierung spezifischer Schichten und das Unterdrücken irrelevanter Aufmerksamkeitsverbindungen eine effektive zeitliche Schlussfolgerung für Video-Frage-Antwort-Aufgaben erreichen.

Das Wesentliche

Das große Rätsel: Wie „sehen" KI-Modelle Videos?

Stell dir vor, du hast einen sehr intelligenten Roboter (eine sogenannte VideoLLM), der dir Fragen zu Videos beantworten kann. Wenn du ihn fragst: „Was macht die Katze am Anfang des Videos?", antwortet er sofort. Aber wie genau funktioniert das in seinem Inneren?

Bisher wussten wir nur, dass der Roboter das Video sieht und die Antwort sagt. Wir wussten aber nicht, wie er die Informationen durch seinen Kopf schickt. Ist es wie ein Labyrinth, in dem alles durcheinanderwirbelt? Oder gibt es eine klare Straße?

Die Forscher von „MAP THE FLOW" haben genau das untersucht. Sie haben den Roboter „auseinandergenommen" (im übertragenen Sinne), um zu sehen, wie die Informationen fließen.

Die drei Stationen der Informations-Reise

Die Forscher haben herausgefunden, dass der Roboter die Antwort nicht sofort spuckt, sondern eine Reise durch drei Stationen macht. Stell dir das wie eine Postzustellung vor:

1. Die Werkstatt: Wo die Zeit zusammenkommt (Frühe bis mittlere Schichten)

Wenn das Video in den Roboter eingespeist wird, sind die einzelnen Bilder (Frames) wie lose Puzzleteile.

• Das Problem: Ein einzelnes Bild zeigt nur einen Moment. Um zu verstehen, dass eine Katze läuft, muss der Roboter wissen, wo sie vor einer Sekunde war und wo sie jetzt ist.
• Die Lösung: In den ersten Abschnitten des Gehirns des Roboters tauschen sich die Bilder untereinander aus. Es ist, als würden die Puzzleteile in einer Werkstatt zusammenrücken und sich gegenseitig die Hand reichen, um ein Zeit-Video zu bauen. Ohne diesen Austausch wäre es nur eine Folge von statischen Fotos.

2. Die Übersetzer: Wo Bilder und Worte sich treffen (Mittlere Schichten)

Jetzt hat der Roboter das Zeit-Verständnis. Aber er muss es mit deiner Frage verbinden.

• Die Magie: Wenn du fragst: „Was passiert am Anfang?", sucht der Roboter nach dem Wort „Anfang". In der Mitte seines Gehirns passiert etwas Spannendes: Die visuellen Informationen (das Video) treffen genau auf die Wörter deiner Frage.
• Die Analogie: Stell dir vor, das Video ist ein Fluss und deine Frage ist ein Kanal. In der Mitte des Gehirns gibt es eine Schleuse. Dort fließt das Wasser des Videos gezielt in den Kanal des Wortes „Anfang". Der Roboter lernt also: „Ah, das Wort 'Anfang' gehört zu diesen speziellen Bildern ganz am Start des Videos."

3. Die Druckerei: Wo die Antwort entsteht (Späte Schichten)

Sobald die Informationen in der Schleuse angekommen sind, ist das Puzzle gelöst.

• Das Ergebnis: In den letzten Schichten des Gehirns wird die Antwort gedruckt. Der Roboter weiß jetzt genau, was er sagen muss. Interessanterweise passiert das sehr schnell nach der „Schleuse". Sobald die Verbindung zwischen Video und Frage geklärt ist, ist die Antwort eigentlich schon fertig.

Der geniale Trick: Der Roboter ist effizienter als gedacht

Das vielleicht Coolste an der Studie ist eine Entdeckung über die Effizienz.

Stell dir vor, das Gehirn des Roboters ist ein riesiges Straßennetz mit Millionen von Kreuzungen (Aufmerksamkeitsverbindungen). Man könnte denken, dass der Roboter alle Straßen nutzt, um die Antwort zu finden.

Die Forscher haben jedoch einen Experiment gemacht: Sie haben 58% aller Straßen einfach gesperrt (sie haben die Verbindungen, die nicht wichtig sind, blockiert).

• Das Ergebnis: Der Roboter hat trotzdem fast genauso gut geantwortet!
• Die Erkenntnis: Der Roboter nutzt nur einen winzigen, super-effizienten Pfad durch sein Gehirn. Er ignoriert den ganzen „Lärm" und konzentriert sich nur auf die wenigen Straßen, die wirklich zur Antwort führen. Es ist, als würde ein Navigator dir sagen: „Vergiss die 100 anderen Straßen, nimm nur diese eine, und du bist in 5 Minuten da."

Warum ist das wichtig?

1. Verständnis: Wir verstehen jetzt endlich, wie diese KIs „denken". Sie bauen erst ein Zeit-Modell, verknüpfen es mit Worten und geben dann die Antwort.
2. Bessere KIs: Wenn wir wissen, welche Straßen wichtig sind, können wir die KIs schneller und effizienter machen. Wir müssen nicht den ganzen riesigen Motor laufen lassen, sondern nur den wichtigen Teil.
3. Fehleranalyse: Wenn der Roboter einen Fehler macht, liegt es oft daran, dass er in der ersten Werkstatt (Station 1) die Bilder falsch verknüpft hat, nicht weil er die Antwort nicht kannte.

Zusammenfassung in einem Satz

Die Forscher haben herausgefunden, dass Video-KIs wie ein gut geölter Fluss funktionieren: Sie bauen zuerst eine Zeit-Brücke zwischen den Bildern, leiten diese Informationen dann gezielt zu den wichtigen Wörtern deiner Frage und nutzen dafür nur einen schmalen, effizienten Pfad, statt das ganze Gehirn zu überlasten.

Technische Zusammenfassung

1. Problemstellung

Video Large Language Models (VideoLLMs) haben sich als leistungsfähige Werkzeuge für Aufgaben wie Video-Frage-Antwort (VideoQA) etabliert, indem sie visuelle und sprachliche Informationen verarbeiten. Trotz ihrer Erfolge bleibt die Frage offen, wie diese Modelle intern relevante zeitliche Informationen aus Videosequenzen extrahieren, verarbeiten und an Text-Token weitergeben, um korrekte Antworten zu generieren. Bisherige Forschung konzentrierte sich stark auf externe Architekturen (z. B. Datengröße, Schlüsselbildauswahl), während die inneren Mechanismen der Informationsverarbeitung und des zeitlichen Reasonings weitgehend unerforscht waren. Es ist unklar, ob die Muster, die bei bildbasierten Multimodal-Modellen (ImageLLMs) beobachtet wurden, auch auf VideoLLMs zutreffen oder ob VideoLLMs neue, spezifische Fähigkeiten zur Video-Text-Ausrichtung entwickeln.

2. Methodik

Die Autoren wenden Techniken der mechanistischen Interpretierbarkeit an, um die internen Berechnungen von VideoLLMs zu „reverse-engineern". Die Analyse stützt sich auf zwei Hauptmethoden:

• Attention Knockout: Diese Technik selektiv deaktiviert bestimmte Aufmerksamkeitsschichten (Attention Edges) zwischen Token während der Inferenz. Durch das Blockieren von Verbindungen (z. B. zwischen Video-Token verschiedener Frames oder zwischen Video- und Text-Token) und das Messen des prozentualen Rückgangs der Antwortwahrscheinlichkeit können die Autoren kausal die Bedeutung spezifischer Informationspfade quantifizieren.
• Logit Lens: Diese Methode projiziert die versteckten Zustände (Hidden States) der Video-Token durch den Sprachmodell-Kopf, um zu analysieren, welche semantischen Konzepte (räumlich vs. zeitlich) in welchen Schichten des Modells emergieren.

Die Studie verwendet fine-tuned Modelle (insbesondere LLaVA-NeXT-7B-Video-FT) und evaluiert sie auf dem TVBench-Datensatz, der verschiedene Arten von zeitlichem Reasoning abdeckt (z. B. Aktionssequenzen, Szenenwechsel, Bewegungsrichtung).

3. Schlüsselbeiträge und Erkenntnisse

Die Analyse offenbart ein konsistentes, vierstufiges Muster des Informationsflusses in VideoLLMs für zeitliches Reasoning:

1. Aktive Interaktion zwischen Frames (Frühe bis mittlere Schichten):
   Das zeitliche Reasoning beginnt nicht mit der Textverarbeitung, sondern innerhalb der Video-Token. In den frühen bis mittleren Schichten (ca. Layer 6–15) finden intensive Cross-Frame-Interaktionen statt. Das Modell baut räumlich-zeitliche Repräsentationen auf, indem es Informationen über mehrere Frames hinweg integriert. Ein Blockieren dieser Interaktionen führt zu einem signifikanten Leistungsabfall, was zeigt, dass Video-Instruction-Tuning diese Fähigkeit explizit fördert.

2. Integration von Video und Sprache auf zeitlichen Schlüsselwörtern (Mittlere Schichten):
   Sobald die räumlich-zeitlichen Repräsentationen gebildet sind, erfolgt eine selektive Integration mit den Text-Token. Temporale Konzepte (z. B. „beginnt", „endet", „dann") entstehen in den Video-Token und alignen sich mit den entsprechenden Embeddings in den Fragen. Die Informationen fließen von den Video-Token zu den Frage-Token (insbesondere zu den Optionen bei Multiple-Choice-Fragen). Dies geschieht primär in den mittleren Schichten.

3. Antwortgenerierung (Mittlere bis späte Schichten):
   Die Wahrscheinlichkeit für die korrekte Antwort steigt abrupt an, sobald die Video-Sprache-Integration abgeschlossen ist (ca. ab Layer 20). Das Modell ist in den mittleren bis späten Schichten bereit, die finale Entscheidung zu treffen. Die Antwortgenerierung erfolgt also nicht schrittweise über alle Schichten, sondern konvergiert nach der Integration.

4. Existenz effizienter Informationspfade:
   Ein überraschendes Ergebnis ist, dass VideoLLMs nur einen kleinen Teil ihrer Aufmerksamkeitsschichten tatsächlich für die korrekte Beantwortung nutzen. Das Paper zeigt, dass Modelle ihre VideoQA-Leistung beibehalten, wenn nur die identifizierten „effektiven Pfade" aktiviert werden und der Rest der Aufmerksamkeit (z. B. 58% bei LLaVA-NeXT-7B-Video-FT) unterdrückt wird. Zufälliges Blockieren derselben Menge an Verbindungen führt hingegen zu einem katastrophalen Leistungsabfall.

4. Ergebnisse

• Quantitative Validierung: Durch das Aktivieren nur der effektiven Pfade (ca. 40–42% der ursprünglichen Attention-Edges) bleibt die Genauigkeit auf Benchmarks wie TVBench und TOMATO nahezu unverändert im Vergleich zum Vollmodell.
• Fehleranalyse: Bei fehlerhaften Vorhersagen liegt das Problem meist in der frühen Phase (fehlerhafte Cross-Frame-Interaktionen oder statische Bias), nicht im späteren Integrationspfad. Wenn die Cross-Frame-Interaktion blockiert wird, verliert das Modell den zeitlichen Kontext und verlässt sich auf statische Bildinhalte.
• Generalisierung: Diese Muster wurden über verschiedene Modellarchitekturen (LLaVA-NeXT-7B/13B, Mini-InternVL-4B, VideoLLaMA3-7B) und auch bei offenen Fragen (Open-ended QA) bestätigt. Bei offenen Fragen übernimmt das letzte Token die Rolle des Integrations-Knotenpunkts, da keine expliziten Optionen vorhanden sind.

5. Bedeutung und Implikationen

Die Studie liefert einen fundamentalen „Blueprint" für das Verständnis von VideoLLMs:

• Architekturelle Einsichten: Sie zeigt, dass zeitliches Reasoning ein spezifischer Prozess ist, der eine frühe, aktive Vernetzung von Video-Informationen erfordert, bevor die Sprachintegration stattfindet.
• Effizienz und Optimierung: Da nur ein kleiner Teil der Informationspfade kritisch ist, eröffnen sich neue Möglichkeiten für Early-Exit-Strategien (frühes Beenden der Inferenz) und die Reduzierung von Rechenaufwand ohne Genauigkeitsverlust.
• Training und Regularisierung: Die Ergebnisse deuten darauf hin, dass Trainingsoptimierungen, die die Bildung zeitlicher Konzepte in frühen Schichten fördern und statische Bias reduzieren, die Robustheit von VideoLLMs verbessern könnten.
• Interpretierbarkeit: Die Arbeit legt den Grundstein für ein tieferes mechanistisches Verständnis von Multimodal-Modellen und hilft, deren Entscheidungsfindung transparenter zu machen.

Zusammenfassend beweist das Paper, dass VideoLLMs nicht einfach nur Bilder und Text parallel verarbeiten, sondern einen strukturierten, schichtenspezifischen Prozess durchlaufen, bei dem zeitliche Dynamiken erst intern modelliert und dann selektiv in die Sprache integriert werden.