💻 computer science

Diagnosing Corruption-Induced Reliability Failures in Vision-Language Models

Dieses Paper führt Bench-C ein, ein kontrolliertes Testbed sowie die Metrik Robustness Alignment Score (RAS), um aufzuzeigen, wie visuelle Korruptionen die distributionelle Zuverlässigkeit und strukturelle Stabilität von Vision-Language-Modellen im Stillen verschlechtern können, selbst wenn die Top-1-Genauigkeit scheinbar steigt.

Ursprüngliche Autoren: Xiangjie Sui, Songyang Li, Hanwei Zhu, Baoliang Chen, Yuming Fang, Xin Sun

Veröffentlicht 2026-07-10

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Xiangjie Sui, Songyang Li, Hanwei Zhu, Baoliang Chen, Yuming Fang, Xin Sun

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie nehmen an einem Multiple-Choice-Quiz mit einem superintelligenten Roboter-Freund teil. Sie zeigen ihm ein Bild eines roten Apfels und fragen: „Welche Farbe hat das?“ Der Roboter ruft selbstbewusst: „Rot!“ und erhält einen goldenen Stern. Aber was wäre, wenn das Foto unscharf wäre, mit Rauschen überzogen wäre oder so aussah, als wäre es an einem Regentag aufgenommen worden?

Die meisten Menschen würden trotzdem sagen: „Es ist definitiv rot!“, selbst wenn das Foto etwas chaotisch ist. Aber hier ist der Clou: Vision-Language Models (VLMs) – die Roboter, die Bilder betrachten und darüber sprechen – können auf eine Weise getäuscht werden, die ein einfaches „Richtig oder Falsch“-Score völlig übersieht.

Genau darum geht es in dieser Arbeit mit dem Titel „Diagnosing Corruption-Induced Reliability Failures in Vision-Language Models“. Die Autoren haben einen speziellen Testplatz namens BENCH-C gebaut, um unter die Haube zu schauen und zu sehen, was passiert, wenn die Sicht des Roboters „korrumpiert“ wird (wie etwa durch ein unscharfes, verrauschtes oder verzerrtes Bild).

Die große Überraschung: Der Roboter kann sich selbst belügen

Die wichtigste Erkenntnis ist etwas kontraintuitiv. Normalerweise denken wir: Wenn ein Roboter eine Frage falsch beantwortet, ist er defekt. Aber diese Arbeit fand heraus, dass manchmal der Roboter die Antwort „richtig“ gibt, obwohl seine interne Zuversicht völlig zusammenbricht.

Stellen Sie sich das so vor:

Der stille Absturz: Der Roboter sieht ein unscharfes Bild eines roten Apfels. Er sagt immer noch „Rot!“ (also sagt das Ergebnis „Richtig!“). Aber in seinem Inneren schreit sein Gehirn: „Ich bin mir nicht sicher! Es könnte rot sein, oder orange, oder vielleicht eine Tomate!“ Er hat seine Gewissheit verloren, aber die endgültige Antwort hat sich nicht geändert. Das Ergebnis sagt „Gut“, aber die Zuverlässigkeit ist eigentlich kaputt.
Das Glückstreffer-Szenario: Manchmal führt ein unordentliches Bild dazu, dass der Roboter seine Meinung von „Blau“ zu „Rot“ (der richtigen Antwort) ändert. Das Ergebnis sagt: „Großartig! Er ist besser geworden!“ Aber die Arbeit legt nahe, dass dies nur ein Zufall sein könnte. Der Roboter hat das Apple nicht plötzlich verstanden; er ist nur zufällig auf die richtige Antwort gestoßen, während sein Gehirn wankte.

Die Autoren argumentieren, dass nur auf die endgültige Antwort (Top-1 Accuracy) zu schauen, so ist, als würde man einen Film nur nach seinem Ende bewerten. Man übersieht dabei vielleicht, dass die Schauspieler ihre Texte vergessen haben, die Kamera wackelte oder die Handlung bis zur letzten Sekunde keinen Sinn ergab.

Das neue Werkzeug: BENCH-C und der „RAS“-Score

Um diese heimlichen Fehler abzufangen, hat das Team BENCH-C entwickelt. Stellen Sie sich einen riesigen Sack mit 4.000 Quizfragen vor. Die meisten davon sind langweilig, weil der Roboter sie richtig beantwortet, egal wie schlecht das Bild ist (wie die Frage „Ist das eine Katze?“, wenn das Bild eindeutig eine Katze zeigt).

Die Autoren haben diesen Sack auf 849 „diagnostische“ Fragen gefiltert. Dies sind die kniffligen Fragen, bei denen sich die Antwort des Roboters tatsächlich ändert oder unsicher wird, wenn das Bild unordentlich wird. Sie haben dies an 13 verschiedenen VLMs mit 19 verschiedenen Arten von visueller Korruption (wie Unschärfe, Rauschen, Wetter oder digitale Fehler) bei 5 Schweregraden (von „ein bisschen verschwommen“ bis „unerkennbar“) getestet.

Um den „mentalen Zustand“ des Roboters zu messen, haben sie einen neuen Score namens RAS (Robustness Alignment Score) erfunden.

Wenn der Roboter die Antwort richtig gibt und dabei selbstbewusst bleibt, ist der RAS zufrieden.
Wenn der- Roboter die Antwort zwar richtig gibt, aber verwirrt ist (oder die Antwort falsch gibt, aber super selbstbewusst ist), sinkt der RAS.

Was sie herausgefunden haben (Die „Aha!“-Momente)

Die Arbeit untersuchte 13 Modelle und fand einige seltsame Muster:

Leichte Korruption kann den Score sogar verbessern, obwohl der Roboter schlechter wird.
Manchmal macht das Hinzufügen von ein wenig Rauschen zu einem Bild die Antwort des Roboters von „Falsch“ zu „Richtig“. Der Score steigt! Aber die Autoren legen nahe, dass dies keine echte Verbesserung ist; es ist nur instabiles Verhalten. Der Roboter wankt, und manchmal wankt er zufällig in die richtige Antwort hinein.
Die „Quelle“ des Problems spielt eine Rolle.
Sie unterteilten die Fragen in zwei Gruppen: solche, die der Roboter vor der Korruption des Bildes richtig beantwortet hat, und solche, die er vorher falsch beantwortet hat.
- Ursprünglich korrekt: Wenn diese unordentlich wurden, behielt der Roboter oft die richtige Antwort bei, verlor aber seine Zuverlässigkeit (Silent Degradation/Stiller Abbau).
- Ursprünglich falsch: Wenn diese unordentlich wurden, korrigierte der Roboter manchmal seine Antwort, aber oft war dies nur eine wackelige, temporäre Korrektur.
Der Schweregrad verändert das Spiel.
Als die Korruption schlimmer wurde (von Stufe 1 bis 5), verschlechterte sich der Schaden an den „ursprünglich korrekten“ Fragen erheblich. Seltsamerweise sahen die „ursprünglich falschen“ Fragen manchmal so aus, als würden sie sich verbessern (wahrscheinlicher richtig zu raten). Die Autoren vermuten, dass dies nicht daran liegt, dass der Roboter lernt, sondern dass das Chaos die Dinge so sehr durcheinanderwirbelt, dass er gelegentlich durch Glück die richtige Antwort trifft, während die soliden Antworten zerbröckeln.

Was sie nicht gefunden haben (Die „Nein“-Liste)

Die Arbeit ist sehr vorsichtig mit dem, was sie nicht behauptet:

Es geht nicht darum, wie oft diese Fehler im echten Leben vorkommen. Das Testfeld (BENCH-C) wurde entworfen, um sensitive Stichproben zu finden, nicht um zu zählen, wie viele echte Fotos verschwommen sind. Nehmen Sie also nicht an, dass 50 % aller Fotos kaputt sind; es bedeutet nur, dass diese spezifischen Fotos hervorragend zum Testen geeignet sind.
Es ist keine magische Lösung. Die Arbeit behauptet nicht, dass sie das Problem gelöst haben oder dass die Roboter nun sicher sind. Sie sagt nur: „Hey, unsere aktuelle Art des Testens übersieht viel von der Gefahr.“
Es geht nicht darum, dass das Gehirn des Roboters „bewusst“ ist. Sie betrachten Mathematik (Wahrscheinlichkeitsverteilungen), keine Gefühle.

Das Fazit

Die Autoren haben 80.655 korrumpierte Bild-Fragen-Paare gemessen und festgestellt, dass Zuverlässigkeit mehr ist als nur die richtige Antwort zu geben. Ein Modell kann auf einem Zeugnis perfekt aussehen, während seine interne Logik zusammenbricht.

Sie schlagen vor, dass wir Roboter in Zukunft nicht nur darauf trainieren sollten, die richtige Antwort zu geben. Wir sollten sie darauf trainieren, selbstbewusst zu bleiben, wenn sie recht haben, und unsicher zu bleiben, wenn sie falsch liegen, selbst wenn das Bild ein Chaos ist.

Kurz gesagt: Vertrauen Sie nicht nur der Antwort. Vertrauen Sie der Zuversicht dahinter. Wenn der Roboter „Rot!“ sagt, aber sein Gehirn wackelt, ist er noch kein zuverlässiger Freund.

Technische Zusammenfassung: Diagnose korruptionsbedingter Zuverlässigkeitsfehler in Vision-Language-Modellen

Problemstellung
Die aktuelle Evaluierung von Vision-Language-Modellen (VLMs) unter visueller Korruption stützt sich stark auf die Top-1-Genauigkeit. Die Autoren argumentieren jedoch, dass die Genauigkeit eine unzureichende Metrik für die Zuverlässigkeit ist, da sie die Veränderungen in der zugrunde liegenden Vorhersagestruktur nicht erfasst. Ein Modell kann die richtige Antwort beibehalten, während es gleichzeitig an distributionaler Unterstützung verliert (stille Degradation), oder es kann durch instabile, überkonfidente Verschiebungen von einer falschen zu einer korrekten Antwort wechseln. Darüber hinaus enthalten Standard-Benchmarks oft wenig diskriminative Stichproben, bei denen die Antworten unabhängig von der Korruption stabil bleiben, was Modellunterschiede maskiert. Das Paper identifiziert ein „visuelles Qualitätsparadoxon“, bei dem milde Korruptionen die Top-1-Genauigkeit manchmal verbessern, wobei jedoch unklar bleibt, ob diese Gewinne eine zuverlässige Korrektur oder ein instabiles Verhalten widerspiegeln.

Methodik
Um diese Lücken zu schließen, schlagen die Autoren BENCH-C, ein kontrolliertes diagnostisches Testfeld, und den Robustness Alignment Score (RAS) vor, eine Metrik zur Messung der distributionsbasierten Zuverlässigkeit.

Konstruktion von BENCH-C:
- Kandidatenpool: Die Autoren aggregieren 4.000 Stichproben aus sechs diversen Multiple-Choice-Benchmarks (z. B. SEEDBENCH2+, MMBENCH), die textreiche, räumliche und feingliedrige Reasoning-Aufgaben abdecken.
- Korruptionsprotokoll: Sie wenden 19 Einzelfaktor-Korruptionen an (gruppiert in photometrische, Unschärfe-, Rausch-, Wetter- und digitale Artefakte) über fünf geordnete Schweregrade hinweg an, analog zur ImageNet-C-Konvention.
- Diagnostische Auswahl: Anstatt einer Zufallsstichprobe wählt BENCH-C Stichproben aus, die sensitiv gegenüber Korruption sind. Es filtert nach Stichproben, bei denen die Vorhersagen über die Schweregrade hinweg variieren (gemessen durch die Gini-Unreinheit der Antwort-Trajektorie), und stellt durch Greedy-Selektion auf Bild- und Text-Embeddings semantische Diversität sicher.
- Finales Datenset: Das resultierende Testfeld enthält 849 diagnostische Fragen und 80.655 korrumpierte Bild-Frage-Paare.
Diagnose der Vorhersagestruktur:
- Die Autoren analysieren die Wahrscheinlichkeitsverteilung $p$ auf Optionsebene statt nur die Argmax-Antwort.
- Unsicherheitsshift ( $\Delta S$ ): Gemessen als Änderung der normalisierten Entropie, was angibt, ob die Verteilung flacher (weniger entscheidungsfreudig) oder schärfer wird.
- Confidence-Correctness Alignment Shift ( $\Delta C$ ): Gemessen als Änderung der absoluten Differenz zwischen der Top-1-Konfidenz des Modells und der Korrektheit dieser Vorhersage.
- Robustness Alignment Score (RAS): Eine zusammengesetzte Metrik, definiert als $RAS = -\Delta C - [\Delta C]^+[-\Delta S]^+ - [-\Delta S]^+[\Delta C]^+$ . Dieser Score bestraft „überkonfidente Degradation“ (schlechtere Ausrichtung bei niedrigerer Entropie) und „zögerliche Unterstützung“ (bessere Ausrichtung bei höherer Entropie), während er verbesserte Ausrichtung belohnt. RAS reicht von -2 bis 1.
Attributionsrahmen:
- Quellenattribution: Änderungen werden „ursprünglich korrekten“ ( $Q_c$ ) gegenüber „ursprünglich falschen“ ( $Q_w$ ) Stichproben zugeschrieben.
- Zustandsattribution: Stichproben werden weiter in vier Zustände kategorisiert, basierend auf der Korrektheit im sauberen vs. korrumpierten Zustand: $Q_{cc}$ (korrekt $\to$ korrekt), $Q_{cw}$ (korrekt $\to$ falsch), $Q_{wc}$ (falsch $\to$ korrekt) und $Q_{ww}$ (falsch $\to$ falsch).
- Trajektorienanalyse: Die Autoren verfolgen, ob Änderungen transient oder persistent über die fünf Schweregrade hinweg sind.

Wichtigste Ergebnisse
Experimente mit 13 VLMs zeigen, dass korruptionsbedingte Zuverlässigkeitsfehler strukturierter sind, als die Genauigkeit vermuten lässt:

Mismatch zwischen Genauigkeit und Struktur: Hohe saubere Genauigkeit garantiert keine Robustheit. Beispielsweise hatte Qwen2.5-VL die höchste saubere Genauigkeit, aber den größten Genauigkeitsverlust und den negativsten RAS. Umgekehrt zeigten Modelle mit geringerer sauberer Genauigkeit manchmal eine bessere strukturelle Robustheit (RAS).
Verborgene Degradation: Bei ursprünglich korrekten Stichproben ( $Q_{cc}$ ) behielten Modelle oft die korrekte Antwort bei, verloren jedoch die distributionale Unterstützung (negativer RAS), was auf eine stille Degradation hindeutet.
Kontraintuitive Gewinne: Scheinbare Genauigkeitsgewinne stammen oft aus „Falsch-zu-Richtig“-Übergängen ( $Q_{wc}$ ). Diese Gewinne gehen jedoch häufig mit einer signifikanten Degradation bei ursprünglich korrekten Stichproben einher. Das Paper stellt fest, dass stärkere Korruptionen ursprünglich falsche Antworten als korrekter erscheinen lassen können (positiver struktureller Shift), während sie gleichzeitig ursprünglich korrekte Vorhersagen destabilisieren.
Trends der Schweregrade: Mit zunehmender Korruptionsintensität wird der Schaden an ursprünglich korrekten Stichproben negativer, während die strukturelle Verbesserung bei ursprünglich falschen Stichproben positiver wird. Dies deutet darauf hin, dass schwere Korruption eher eine Instabilität der Vorhersagestruktur als eine robuste Korrektur induziert.
Korruptionstypen: Unschärfe (Blur) wurde als besonders schädlich für ursprünglich korrekte Stichproben identifiziert, was wahrscheinlich auf den Verlust feingliedriger Konturen und lokaler Grounding-Hinweise zurückzuführen ist.

Bedeutung und Ansprüche
Das Paper behauptet, dass BENCH-C und RAS einen notwendigen Wechsel von der Evaluierung „endgültiger Antworten“ zur Evaluierung der „Vorhersagestruktur“ darstellen. Die Bedeutung liegt in:

Aufdeckung verborgener Fehler: Identifizierung der Tatsache, dass Modelle korrekte Antworten beibehalten können, während sie an Zuverlässigkeit verlieren (stille Degradation), oder die Genauigkeit durch instabile Mechanismen verbessern können.
Attribution von Zuverlässigkeitsänderungen: Unterscheidung zwischen der Schädigung zuverlässiger Verhaltensweisen und der Korrektur unzuverlässigerer Verhaltensweisen, was zeigt, dass aggregierte Genauigkeitsgewinne grundlegende strukturelle Kosten maskieren können.
Leitfaden für Robustheitstraining: Die Autoren schlagen vor, dass Robustheitstraining nicht nur Antwortinvarianz belohnen sollte, sondern darauf abzielen sollte, die Confidence-Correctness-Alignment und die distributionale Unterstützung zu bewahren, insbesondere für feingliedrige visuelle Evidenz.

Das Werk kommt zu dem Schluss, dass die Robustheits-Evaluierung über aggregierte Metriken hinausgehen muss und eine Quelle-, Zustand- und Schweregrad-Trajektorien-Analyse einschließen muss, um genau zu diagnostizieren, wo und wie sich die Zuverlässigkeit unter visueller Degradation ändert.