VirtueBench: Evaluating Trustworthiness under Uncertainty in Long Video Understanding

Die Studie stellt VirtueBench vor, einen neuen Benchmark, der die Zuverlässigkeit von Vision-Language-Modellen bei der Analyse langer Videos bewertet, indem sie deren Fähigkeit misst, unter Unsicherheit ehrlich zu verweigern, anstatt raten, um so irreführende Evaluierungsergebnisse zu vermeiden.

Das Wesentliche

Stell dir vor, du hast einen riesigen, dreistündigen Film vor dir. Jetzt kommt ein Freund und fragt dich: „Was hat der Schurke in Minute 47 genau gesagt?"

Das Problem bei den aktuellen KI-Modellen (den sogenannten Vision-Language-Modellen) ist, dass sie den Film nicht komplett sehen können. Sie bekommen nur ein paar zufällige Bilder (Frames) aus dem Film gezeigt, wie ein Stroboskop, das sehr schnell blinkt. Oft ist das Bild, in dem der Schurke spricht, einfach nicht dabei.

Das große Dilemma: Raten oder Ehrlichkeit?

In der bisherigen Welt der KI-Bewertung passierte Folgendes:

• Der Ehrliche: Wenn die KI merkt, dass das Bild fehlt, sagt sie: „Ich kann das nicht beantworten, das Bild ist nicht da." – Strafpunkte! Die Bewertungsmaschine sagt: „Falsch! Du hast die Frage nicht beantwortet."
• Der Rater: Die KI schaut sich die wenigen Bilder an, denkt sich etwas aus (oder nutzt ihr Allgemeinwissen) und rät: „Der Schurke hat ‚Hallo' gesagt." – Punkte! Auch wenn sie es nicht wusste, hat sie Glück gehabt und die richtige Antwort geraten.

Das ist wie bei einem Schüler in einer Prüfung, der die Hälfte der Fragen nicht sieht. Der ehrliche Schüler sagt: „Ich weiß das nicht, ich habe die Frage nicht gesehen." Der andere Schüler rät einfach. Wenn er Glück hat, bekommt er Punkte. Das System belohnt also das Raten und bestraft die Ehrlichkeit. Das führt dazu, dass KIs lernen, immer etwas zu sagen, auch wenn sie nichts wissen – sie werden zu „Lügnern", die nur gut aussehen wollen.

Die Lösung: VirtueBench (Der „Tugend-Test")

Die Forscher haben einen neuen Test namens VirtueBench erfunden. Das Ziel ist nicht mehr, zu sehen, wie gut die KI raten kann, sondern wie vertrauenswürdig sie ist.

Stell dir VirtueBench wie einen neuen, fairen Lehrer vor:

1. Der Test: Der Lehrer zeigt dem Schüler (der KI) verschiedene Versionen eines Films. Mal nur 64 Bilder, mal 1024 Bilder.
2. Die Regel: Wenn die entscheidenden Bilder fehlen, ist die richtige Antwort: „Ich kann das nicht sehen, ich antworte nicht."
3. Die Bewertung:
   • Wenn die KI ehrlich sagt: „Ich habe das Bild nicht gesehen", bekommt sie Punkte.
   • Wenn sie trotzdem etwas erfindet (halluziniert), bekommt sie keine Punkte, auch wenn ihre Erfindung zufällig richtig ist.

Was haben sie herausgefunden?

Sie haben 25 verschiedene KIs getestet (sowohl kostenlose Open-Source-Modelle als auch teure kommerzielle wie von Google oder OpenAI). Die Ergebnisse waren aufschlussreich:

• Die „Rater": Viele KIs (wie LLaVA oder InternVideo) geben fast nie zu, dass sie etwas nicht wissen. Sie raten einfach immer weiter, auch wenn die Information fehlt. Ihre „Ehrlichkeits-Rate" liegt bei fast 0 %.
• Die „Ehrlichen": Einige stärkere Modelle (wie Gemini oder bestimmte Qwen-Modelle) sagen öfter: „Ich weiß es nicht." Ihre Rate liegt bei über 50–70 %.
• Der „Trick" der Anweisung: Das Interessanteste ist: Wenn man den KIs im Test nicht explizit sagt: „Sei bitte ehrlich, wenn du nichts siehst", dann hören fast alle auf, ehrlich zu sein. Sie fallen wieder in den alten Modus: „Ich muss ja eine Antwort geben!"
  • Analogie: Es ist wie bei einem Kind. Wenn du sagst: „Wenn du die Aufgabe nicht kennst, sag einfach, dass du sie nicht kennst", dann ist es ehrlich. Sagst du nichts, dann versucht das Kind, die Antwort zu erfinden, um nicht dumm zu wirken.

Fazit

Die Botschaft der Forscher ist klar: Unsere aktuellen KI-Tests sind unfair. Sie belohnen KIs dafür, dass sie sich wie „Besserwisser" verhalten, die immer eine Antwort haben. VirtueBench will das ändern. Es will KIs fördern, die wissen, wann sie nichts wissen. Denn eine KI, die ehrlich sagt „Ich weiß es nicht", ist viel vertrauenswürdiger als eine, die dir mit glatter Lüge eine falsche Sicherheit vorgaukelt.

Kurz gesagt: Wir brauchen KIs, die nicht nur schlau sind, sondern auch bescheiden genug, um zuzugeben, wenn ihnen die Informationen fehlen.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „VirtueBench: Evaluating Trustworthiness under Uncertainty in Long Video Understanding" auf Deutsch:

1. Problemstellung

Trotz erheblicher Fortschritte bei Vision-Language-Modellen (VLMs) bleibt die Bewertung ihrer Fähigkeiten im Verständnis langer Videos unzuverlässig. Das Hauptproblem liegt in der begrenzten Eingabekapazität aktueller Modelle, die oft nur eine Teilmenge von Frames (z. B. 256 oder 512 Frames) aus einem Video verarbeiten können.

• Lückenhaftes Eingabematerial: Wichtige Schlüsselbilder, die für die Beantwortung einer Frage notwendig sind, fehlen häufig im Eingabesatz des Modells.
• Verzerrte Evaluierung: Unter aktuellen Evaluierungsprotokollen werden Modelle, die bei fehlender Information ehrlich ablehnen („Ich kann das nicht beantworten"), als falsch gewertet. Modelle, die raten und zufällig die richtige Antwort liefern, erhalten hingegen eine höhere Genauigkeit.
• Folge: Dies fördert ein unehrliches Verhalten, bei dem Modelle dazu neigen, zu spekulieren, anstatt Unsicherheit zuzugeben. Dies führt zu irreführenden Benchmark-Ergebnissen, die die tatsächliche Zuverlässigkeit der Modelle überschätzen.

2. Methodik: VirtueBench

Um dieses Problem zu adressieren, stellen die Autoren VirtueBench vor, einen Benchmark, der speziell darauf ausgelegt ist, die Zuverlässigkeit (Trustworthiness) von VLMs unter Unsicherheit zu bewerten.

• Datenerstellung:
  • Der Benchmark basiert auf bestehenden Langzeit-Video-Benchmarks (z. B. MLVU, Video-MME, LongVideoBench).
  • Für jedes Video werden mehrere Frame-Sampling-Ebenen erstellt (64, 128, 256, 512 und 1024 Frames).
  • Ground-Truth-Anpassung: Für jede Sampling-Ebene wird eine separate Ground-Truth erstellt. Wenn ein Clip nicht genügend visuelle Informationen enthält, um die Frage zu beantworten, lautet die korrekte Antwort: „Das Video liefert nicht genügend Informationen" (anstatt einer spezifischen Antwort).
• Datenfilterung:
  • Ausgehend von 33.400 Fragen wurden diese in offene Fragen (Open-Ended) umgewandelt, um Raten bei Multiple-Choice-Fragen zu verhindern.
  • Fragen, die ohne Videoverständnis beantwortet werden können (z. B. durch Allgemeinwissen), wurden entfernt.
  • Ein mehrstufiger mancher Annotationsprozess (unterstützt durch LLMs wie Gemini-2.5-Pro) stellt sicher, dass die Antworten den tatsächlich verfügbaren Frames entsprechen.
• Evaluierungs-Pipeline:
  • Ein „LLM-as-a-Judge"-Ansatz (GPT-4o) bewertet die Antworten in zwei Schritten:
    1. Ablehnungserkennung: Wird das Modell ehrlich, wenn Informationen fehlen?
    2. Richtigkeitsprüfung: Ist die Antwort semantisch korrekt, wenn Informationen vorhanden sind?
  • Ein Modell gilt bei unbeantwortbaren Fragen nur dann als korrekt, wenn es die Antwort ablehnt.

3. Wichtige Beiträge

1. Identifikation einer systemischen Lücke: Die Autoren zeigen auf, dass aktuelle Benchmarks aufgrund des begrenzten Frame-Zugriffs nicht zuverlässig zwischen echtem Verständnis und zufälligem Raten unterscheiden können.
2. Einführung von VirtueBench: Der erste Benchmark, der explizit die Fähigkeit von Modellen bewertet, bei fehlenden Beweisen ehrlich zu verweigern, anstatt zu raten.
3. Umfassende Evaluierung: Eine Analyse von 25 populären VLMs (Open-Source und kommerziell), die zeigt, dass die meisten Modelle inhärent nicht dazu neigen, ehrlich Unsicherheit zuzugeben.

4. Ergebnisse

Die Evaluierung auf 25 Modellen (darunter Qwen-VL, LLaVA-Video, InternVideo, GPT-4o/5, Gemini-2.5-Flash) ergab folgende Erkenntnisse:

• Unterschiedliches Ablehnungsverhalten: Es gibt große Unterschiede zwischen Modellfamilien.
  • Starke Modelle wie Qwen2.5-VL-72B, Qwen3-VL-32B und Gemini-2.5-Flash erreichen eine Ablehnungsgenauigkeit (Refusal Accuracy) von über 70 % bei unbeantwortbaren Fragen.
  • Schwächere Modelle (z. B. einige LLaVA- oder InternVideo-Varianten) zeigen fast kein Ablehnungsverhalten (nahe 0 %) und raten stattdessen.
• Einfluss der Prompt-Instruction: Die explizite Anweisung im Prompt, bei fehlenden Informationen nicht zu raten, ist entscheidend. Ohne diese Anweisung sinkt die Ablehnungsgenauigkeit bei den meisten Modellen drastisch (teilweise um fast 50 %). Dies deutet darauf hin, dass Modelle standardmäßig wie „Prüflinge" agieren, die immer eine Antwort geben müssen.
• Skalierungseffekt: Größere Modelle (z. B. 72B vs. 7B) zeigen tendenziell bessere Fähigkeiten, Unsicherheit zu erkennen.
• Reinforcement Learning (RL): Modelle mit RL-Training oder „Thinking"-Fähigkeiten (z. B. Qwen3-VL-Thinking, Mimo-VL-RL) zeigen eine höhere Zuverlässigkeit und bessere Ablehnungsraten als ihre Baseline-Versionen.
• Genauigkeits-Trend: Im Gegensatz zu früheren Benchmarks, bei denen mehr Frames oft zu höherer Genauigkeit führen, zeigt VirtueBench, dass bei unvollständigen Frames die „korrekte" Antwort oft die Ablehnung ist. Modelle, die bei 64 Frames raten, erhalten fälschlicherweise hohe Scores, während ehrliche Modelle bestraft werden.

5. Bedeutung und Fazit

VirtueBench hebt ein kritisches Problem in der aktuellen Entwicklung von Multimodal-Modellen hervor: Die Optimierung auf maximale Antwortgenauigkeit geht oft zu Lasten der Zuverlässigkeit und Ehrlichkeit.

• Paradigmenwechsel: Die Arbeit fordert einen Wechsel hin zu Benchmarks, die Zuverlässigkeit und Unsicherheitsbewusstsein priorisieren.
• Zukunft der VLMs: Um vertrauenswürdige VLMs für Anwendungen zu entwickeln, müssen Modelle nicht nur lernen, Fragen zu beantworten, sondern auch zu erkennen, wann sie nicht antworten sollten.
• Schlussfolgerung: Aktuelle Benchmarks belohnen unbeabsichtigt spekulatives Verhalten. VirtueBench bietet eine fundierte Grundlage, um Modelle zu trainieren und zu bewerten, die in unsicheren Situationen ehrlich und sicher agieren.