💻 computer science

Logit Lens Supervision for Patch-Level Explanations in Vision-Language Models

Dieses Paper führt die Logit Lens Loss (LLL) ein, eine leichtgewichtige Hilfsfunktion, welche die Patch-Ebene der Erklärbarkeit in Vision-Language-Modellen verbessert, indem sie visuelle Token-Embeddings mit ihren entsprechenden textuellen Konzepten abgleicht und dadurch das Grounding verbessert sowie Halluzinationen reduziert, ohne dass architektonische Änderungen oder umfangreiches Retraining erforderlich sind.

Ursprüngliche Autoren: Parsa Esmaeilkhani, Longin Jan Latecki

Veröffentlicht 2026-08-12

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Parsa Esmaeilkhani, Longin Jan Latecki

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen superintelligenten Roboterfreund, der ein Bild betrachten und eine Geschichte dazu erzählen kann. Dieser Robot ist aus zwei sehr unterschiedlichen Teilen gebaut: einem Paar „Augen“, das das Bild als ein Gitter aus winzigen farbigen Quadraten (Patches) sieht, und einem „Gehirn“, das ein Experte darin ist, Geschichten mit Worten zu schreiben. Wenn Sie den Roboter fragen: „Wo ist die Katze?“, senden seine Augen ein Signal für jedes einzelne Quadrat im Foto an sein Gehirn. Das Gehirn vermischt dann diese Bildsignale mit seinen eigenen Wortsignalen, um die Antwort zu finden.

Das Problem ist, dass diese Bildsignale auf ihrem Weg durch das Gehirn ein wenig in der Menge verloren gehen. Das Gehirn ist so gut im Reden, dass es manchmal anfängt, die spezifischen Details der Bildquadrate zu ignorieren, oder schlimmer noch, es beginnt, die Bildsignale so gründlich mit den Wortsignalen zu vermischen, dass der Roboter vergisst, welches Quadrat tatsächlich zur Katze gehört. Er könnte „Katze“ zwar richtig erraten, aber er rät nur basierend auf den Worten und nicht, weil er die Katze im Foto tatsächlich sieht. Das ist ein großes Problem, denn wenn wir diesen Robotern vertrauen wollen, oder wenn wir wissen wollen, warum er denkt, dass eine Katze in einem Bild ist, müssen wir genau sehen können, auf welchen Teil des Bildes er schaut. Wenn der Roboter nicht auf die Katze zeigen kann, könnte er halluzinieren – also Dinge erfinden, die gar nicht da sind.

Dieses Paper befasst sich genau mit diesem Problem. Die Autoren, Parsa Esmaeilkhani und Longin Jan Latecki, bemerkten, dass in modernen „Vision-Language Models“ (VLMs) die Verbindung zwischen einem spezifischen Bild-Patch und dem Wort, das ihn beschreibt, schwächer und unschärfer wird, während die Daten durch das System wandern. Um dies zu beheben, haben sie einen neuen Trainings-Trick namens Logit Lens Loss (LLL) erfunden.

Stellen Sie sich das Gehirn des Roboters wie eine riesige Bibliothek vor, in der jedes Buch ein Wort repräsentiert. Normalerweise wird der Roboter nur darauf trainiert, das richtige Buch auszuwählen, um als nächstes zu sprechen (wie bei einer Antwort). Die Autoren erkannten, dass, wenn der Roboter einen Patch einer Katze sieht, dieser spezifische Patch dem in der Bibliothek auch „Katze“ zuflüstern sollte, noch bevor der Roboter zu sprechen beginnt. Sie entwickelten eine neue Regel für das Training: Wann immer der Robot einen Patch sieht, der eine Katze enthält, zwingen sie diesen Patch dazu, das Wort „Katze“ im Vokabular der Bibliothek stark vorherzusagen. Sie nennen dies „Logit Lens Loss“, weil sie ein Werkzeug namens „Logit Lens“ verwenden, um in das Gehirn des Roboters hineinzuschauen und zu sehen, über welche Wörter die Bild-Patches im Geheimen nachdenken.

Das Beste daran? Sie mussten den Roboter nicht neu bauen oder neue Teile hinzufügen. Sie haben lediglich die Trainingsregeln angepasst. Als sie diese neue Regel bei zwei populären Robotern (LLaVA-v1.5 und Qwen2.5-VL) testeten, waren die Ergebnisse wie das Einschalten eines Scheinwerfers. Vorher war die „Confidence Map“ des Roboters (eine Heatmap, die zeigt, wo sich das Objekt befindet) verschwommen und verstreut, wie ein nebliges Fenster. Nach der Anwendung ihrer neuen Regel wurde die Karte scharf und präzise und beleuchtete exakt dort, wo die Katze war.

Das Paper zeigt, dass diese einfache Korrektur viel bewirkt. Sie macht die Roboter viel besser darin, Objekte in Bildern zu finden (Grounding), reduziert die Fälle, in denen sie Objekte erfinden, die nicht da sind (Halluzinationen), und hilft ihnen sogar dabei, auf Objekte in neuen Bildern zu zeigen, die sie noch nie zuvor gesehen haben. Überraschenderweise hat dies die Roboter nicht schlechter darin gemacht, Fragen zu beantworten oder Geschichten zu erzählen; tatsächlich blieben ihre Sprachfähigkeiten genauso stark. Die Autoren schlagen vor, dass die Roboter, indem sie die Bildsignale an ihre ursprüngliche Bedeutung binden, sowohl intelligenter als auch ehrlicher in Bezug auf das werden, was sie sehen. Es ist ein bisschen so, als würde man einen Schüler lehren, nicht nur die Antwort auswendig zu lernen, sondern tatsächlich die Karte zu verstehen, auf die er schaut.

Technische Zusammenfassung: Logit Lens Supervision für Patch-Ebene-Erklärungen in Vision-Language-Modellen

Problemstellung
Moderne autoregressive Vision-Language-Modelle (VLMs) wie LLaVA und Qwen-VL kombinieren visuelle Encoder mit Large Language Models (LLMs), um flüssigen Text zu generieren. Während die visuellen Token jedoch durch die Attention-Layer des LLMs propagieren, unterliegen sie einer signifikanten Transformation und Vermischung mit Sprach-Token. Die Autoren argumentieren, dass diese „unkontrollierte Modalitätsmischung“ dazu führt, dass visuelle Embeddings ihre direkte Korrespondenz zu den spezifischen Bildregionen (Patches), aus denen sie stammen, verlieren. Infolgedessen wird die Verbindung zwischen einem visuellen Token und dem semantischen Inhalt seines Quell-Patches abgeschwächt. Dies führt zu zwei primären Problemen:

Schwache Erklärbarkeit auf Patch-Ebene: Standardmäßige Logit-Lens-Visualisierungen (die Embeddings auf Vokabularwahrscheinlichkeiten projizieren) erzeugen oft keine scharfen, lokalisierten Konfidenzkarten, insbesondere bei neueren VLMs wie Qwen2.5-VL.
Halluzination und Degradierung der Verankerung (Grounding): Visuelle Token können effektiv ignoriert oder deren Information vollständig auf Sprach-Token übertragen werden, was es Modellen ermöglicht, Objektbeschreibungen zu halluzinieren, selbst wenn die entsprechende visuelle Evidenz entfernt oder abwesend ist.

Methodik: Logit Lens Loss (LLL)
Um die Entkopplung von visuellen Token und ihren Quellbildregionen zu adressieren, schlagen die Autoren einen Logit Lens Loss (LLL) vor, ein leichtgewichtiges Hilfsobjektiv, das während des Fine-Tunings angewendet wird.

Kernkonzept: Die Methode nutzt die Logit-Lens-Technik, die die Zwischenschicht-Embeddings ( $h_l$ ) durch die Unembedding-Matrix ( $U_\theta$ ) des LLM projiziert, um eine Wahrscheinlichkeitsverteilung über das Vokabular zu generieren.
Mechanismus: Im Gegensatz zum Standard-Next-Token-Prediction (NTP)-Loss, der nur die Generierung von Text-Tokens überwacht, überwacht LLL direkt visuelle Token.
- Für visuelle Token ( $s$ ), die zu Bildpatches innerhalb eines Ground-Truth-Bounding-Box eines Zielobjekts gehören (Menge $\mathcal{P}'$ ), maximiert der Loss die Wahrscheinlichkeit des Vokabular-Tokens, das dieses Objekt beschreibt (z. B. <cat>).
- Für visuelle Token außerhalb der Objektregion (Menge $\mathcal{P} \setminus \mathcal{P}'$ ) minimiert der Loss die Wahrscheinlichkeit dieses spezifischen Vokabular-Tokens.
Formulierung: Der Gesamtverlust ist definiert als $L_{total} = L_{NTP} + \lambda L_{LLL}$ , wobei $\lambda$ empirisch auf 0,5 gesetzt wird. Der LLL-Term ist ein Cross-Entropy-Loss, der auf die aus den visuellen Token-Embeddings der finalen LLM-Schicht abgeleitete Vokabularverteilung angewendet wird.
Wesentlicher Unterschied: Der Ansatz erfordert keine architektonischen Modifikationen (keine Mask-Decoder, Localization-Heads oder Bounding-Box-Vorhersagemodule). Er stützt sich ausschließlich auf bestehende visuelle Token-Embeddings und den Vokabular-Projektionskopf. Das Überwachungssignal wird direkt aus Bounding-Box-Annotationen abgeleitet, um zu identifizieren, welche Patches mit dem Zielkonzept korrespondieren; das Modell wird jedoch nicht darauf trainiert, Koordinaten auszugeben, sondern darauf, das interne Repräsentationsmodell des Patches mit dem semantischen Konzept abzugleichen.

Wesentliche Beiträge

Neuartiger Visual Grounding Loss: Einführung von LLL, das visuelle Token-Embeddings explizit darauf beschränkt, semantisch mit den Sprachkonzepten, die ihre Bildregionen beschreiben, im Verlauf der LLM-Schichten ausgerichtet zu bleiben.
Intrinsische Lokalisierung: Im Gegensatz zu bisherigen Arbeiten, die Bounding-Boxen oder Masken als externe Ausgaben vorhersagen, bettet LLL das Lokalisierungswissen direkt in die tiefen Embeddings der visuellen Token ein. Dies schafft eine intrinsische Verbindung zwischen visuellen Patches und textuellen Konzepten, ohne die Modellarchitektur zu verändern.
Verbesserte Erklärbarkeit: Die Methode verbessert die Qualität der Logit-Lens-Objekt-Konfidenzkarten signifikant. Mit LLL feinabgestimmte Modelle erzeugen schärfere, lokalisiertere Karten, die genau widerspiegeln, welche Bildpatches das Modell mit spezifischen textuellen Konzepten assoziiert.
Direktes Gradientensignal: Die Autoren zeigen, dass LLL ein direktes Gradientensignal an visuelle Token liefert, während das Signal aus dem Standard-NTP oft durch Attention-Layer propagieren muss, was häufig zu einem schwachen Signal für visuelle Token führt.

Experimentelle Ergebnisse
Die Autoren evaluierten LLL auf LLaVA-v1.5-7B und Qwen2.5-VL-7B über mehrere Metriken hinweg:

Referring Expression Segmentation (RES): Durch die Verwendung von Logit-Lens-Karten zur Generierung von Segmentierungsmasken (via Thresholding oder Prompting eines eingefrorenen SAM) zeigten LLL-feinabgestimmte Modelle signifikante Verbesserungen der cIoU-Scores gegenüber Base- und NTP-only-Modellen. Mit SAM-Post-Processing erreichte Qwen2.5-VL+LLL eine Leistung, die mit spezialisierten SOTA-Grounding-Modellen vergleichbar ist.
Objekt-Halluzination (POPE): Auf dem POPE-Benchmark reduzierte LLL Objekt-Halluzinationen und steigerte die „Ja/Nein“-Genauigkeit. Bemerkenswert ist, dass Modelle, die nur auf RefCOCO (Lokalisierungsdaten) feinabgestimmt wurden, mit LLL eine verbesserte Genauigkeit bei der Evaluation auf POPE zeigten, während NTP-only-Feinabstimmung die Leistung im Vergleich zum Base-Modell verschlechterte.
Zero-Shot Pointing: Modelle, die mit LLL auf RefCOCO feinabgestimmt wurden, zeigten eine starke Übertragung auf den PixMo-Points-Datensatz (unbekannte Objektkategorien) und erreichten geringere mediane Lokalisierungsfehler als mehrere proprietäre Baselines und auf expliziter Koordinatenüberwachung trainierte Aufgabenmodelle.
Visual Question Answering (VQA): LLL bewahrte oder verbesserte die Leistung auf VQAv2- und GQA-Benchmarks, was darauf hindeutet, dass die Verbesserung des visuellen Groundings nicht die Sprachgenerierungsfähigkeiten des Modells beeinträchtigt.
Visualisierung: Qualitative Ergebnisse (Abb. 2) zeigten, dass LLL die spärlichen, verwirrenden Logit-Lens-Signale in scharfe, objekt-ausgerichtete Konfidenzkarten transformiert.

Bedeutung und Behauptungen
Das Paper behauptet, dass LLL einen einfachen, effektiven Mechanismus bietet, um die „Lokalität“ visueller Informationen innerhalb autoregressiver VLMs zu bewahren, ohne die Komplexität neuer architektonischer Komponenten. Durch die direkte Verankerung der visuellen Embeddings im Vokabularraum macht die Methode Foundation-VLMs interpretierbarer (durch treue Logit-Lens-Karten) und robuster gegen Halluzinationen. Die Autoren betonen, dass LLL nicht darauf abzielt, neue Konzepte zu lehren, sondern vielmehr darauf, die Degradierung bestehender lokalisierter Bildverständnisse während des Sprachmodellierungsprozesses zu verhindern. Die Ergebnisse legen nahe, dass eine bessere interne Verankerung durch zusätzliche Überwachung erreichbar ist, die visuelle Token mit ihren semantischen Beschreibungen abgleicht, was zu Modellen führt, die sowohl effektiver als auch erklärbarer sind.

Technische Zusammenfassung: Logit Lens Supervision für Patch-Ebene-Erklärungen in Vision-Language-Modellen

Mehr davon