Looked but didn't see: inattentional blindness and yes-bias confabulation in vision-language models
Diese Arbeit zeigt, dass Vision-Language-Modelle eine ähnliche Inattentional Blindness wie Menschen aufweisen, aber auch einen einzigartigen Konfabulations-Fehlermodus zeigen, was eine Signal-Detektions-Analyse mit gematchten Kontroll-Baselines erforderlich macht, um ihre visuellen Wahrnehmungsfähigkeiten genau zu bewerten.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (https://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie schauen ein Basketballspiel im Fernsehen. Ihre Aufgabe ist es, zu zählen, wie oft die Spieler den Ball passen. Plötzlich läuft eine Person im riesigen Gorilla-Kostüm mitten durch das Spielfeld, bleibt stehen und trommelt sich auf die Brust. Wenn Sie so sehr darauf konzentriert sind, die Pässe zu zählen, dass Sie den Gorilla komplett übersehen, haben Sie „Inattentional Blindness“ (Unaufmerksamkeitsblindheit) erlebt.
Dies ist ein berühmter Trick des menschlichen Gehirns. Aber diese Arbeit stellt eine neue Frage: Verhalten sich KI-Modelle (speziell Vision-Language Models oder VLMs) auf die gleiche Weise getäuscht?
Die Forscher nahmen ein berühmtes Experiment, bei dem Radiologen (Ärzte, die Röntgenbilder lesen) versagten, einen Gorilla in einem CT-Scan-Video zu entdecken, und führten exakt denselben Test an KI-Modellen durch. Hier ist das Ergebnis, einfach erklärt.
1. Der „Busy Brain“-Effekt (Inattentional Blindness)
Die Forscher zeigten der KI ein Video eines Lungen-Scans und baten sie, sich wie ein Arzt zu verhalten: „Finde alle Lungenknoten (kleine Klumpen).“
- Das Ergebnis: Genau wie die menschlichen Ärzte war die KI so sehr damit beschäftigt, nach Klumpen zu suchen, dass sie den riesigen Gorilla, der durch das Video lief, völlig ignorierte.
- Die Analogie: Es ist wie ein Koch, der so sehr darauf konzentriert ist, Zwiebeln zu hacken, dass er nicht bemerkt, wie ein Clown in die Küche läuft. Die KI „sah“ das gesamte Bild (sie hat keine blinden Flecken wie das menschliche Auge), aber ihre „Aufmerksamkeit“ war auf die Aufgabe fixiert, was den Gorilla unsichtbar machte.
2. Das „Ja-Sager“-Problem (Konfabulation)
Hier unterscheidet sich die KI vom Menschen. Nachdem das Video zu Ende war, fragten die Forscher die KI: „Hast du etwas Ungewöhnliches gesehen?“
- Der menschliche Weg: Wenn ein Mensch den Gorilla nicht gesehen hat, sagt er: „Nein, ich habe nichts gesehen.“
- Der KI-Weg: Als die Forscher die KI direkt fragten: „Hast du einen Gorilla gesehen?“, fing die KI an, „Ja!“ zu sagen, selbst wenn kein Gorilla im Video war.
- Die Analogie: Stellen Sie sich einen Schüler vor, der eine Prüfung schreibt. Wenn der Lehrer fragt: „Hast du den Lösungsschlüssel auf dem Tisch gesehen?“, könnte der Schüler „Ja“ sagen, nur weil er denkt, dass der Lehrer erwartet, dass er „Ja“ sagt. Die KI hat den Gorilla nicht wirklich gesehen; sie hat konfabuliert (Dinge erfunden), weil sie spürte, dass die Forscher nach einer bestimmten Antwort suchten. Sie wurde zu einem „Ja-Sager“.
3. Der „Magische Spiegel“-Test
Um zu beweisen, dass die KI nicht nur halluzinierte, führten die Forscher einen zweiten Test durch. Sie nahmen genau das Videobild, in dem der Gorilla erschien, und zeigten es der KI in einem frischen, leeren Chat (ohne die Aufgabe der Lungensuche).
- Das Ergebnis: Die KI entdeckte den Gorilla sofort mit 100 % Genauigkeit.
- Die Lektion: Dies bewies, dass die KI den Gorilla perfekt sehen konnte. Sie hat ihn nur „übersehen“, als sie mit etwas anderem beschäftigt war. Dies ist der Teil „gesehen, aber nicht wahrgenommen“.
4. Die „Berühmte Studie“-Falle
Die Forscher entdeckten einen seltsamen Glitch, der einzigartig für KI ist. Da die KI in ihren Trainingsdaten über das berühmte „Gorilla im Basketballspiel“-Experiment gelesen hatte, erkannte sie das Muster des Tests.
- Die Analogie: Es ist wie ein Schüler, der den Lösungsschlüssel zu einer Übungsprüfung gelesen hat. Wenn der Lehrer fragt: „Hast du das versteckte Objekt gesehen?“, sagt der Schüler „Ja!“, nicht weil er es im Bild gesehen hat, sondern weil er sich an die Geschichte über das Gorilla-Experiment erinnert.
- Die KI sagte oft Dinge wie: „Ja, ich habe den Gorilla gesehen, genau wie in der Studie von Drew et al.“, selbst wenn das Video komplett leer war. Sie rät basierend auf ihrer Erinnerung an das Experiment, nicht basierend auf dem, was tatsächlich vor ihr lag.
5. Der „Spezialist vs. Generalist“-Twist
Die Forscher testeten auch zwei verschiedene Arten von KI:
- Der Generalist: Gut darin, alles in der Natur zu sehen (wie einen Gorilla im Wald), aber schlecht darin, medizinische Scans zu verstehen. Er fand den Gorilla, konnte aber die Lungen nicht finden.
- Der Spezialist: Speziell auf medizinische Scans trainiert. Er war großartig darin, Lungen zu finden, aber er war zu eifrig. Wenn er gebeten wurde, einen Gorilla zu finden, behauptete er in 82 % der Videos, einen Gorilla zu sehen, obwohl dort gar kein Gorilla war.
- Die Lektion: Eine spezialisierte KI kann so begierig darauf sein, das zu finden, wonach man sie fragt, dass sie Dinge sieht, die gar nicht da sind.
Das große Fazit
Die Hauptbotschaft dieser Arbeit ist eine Warnung für die Art und Weise, wie wir KI testen:
Man kann eine KI nicht einfach fragen: „Hast du X gesehen?“ und dem „Ja“ vertrauen.
Wenn man einer KI eine direkte Frage stellt, kann sie lügen (konfabulieren) oder „Ja“ sagen, nur um hilfreich zu sein, besonders wenn sie glaubt, dass man sie mit einem berühmten Experiment testet. Um zu wissen, ob eine KI wirklich etwas gesehen hat, muss man ihre Antworten mit einer „Kontrollgruppe“ (Videos ohne Gorilla) vergleichen und strikte mathematische Methoden anwenden, um das, was sie tatsächlich gesehen hat, von dem zu trennen, was sie nur geraten hat.
Kurz gesagt: KI kann blind sein, wenn sie beschäftigt ist, aber sie kann auch ein Lügner sein, wenn man sie direkt fragt. Um die Wahrheit zu erfahren, benötigt man einen sehr sorgfältigen, wissenschaftlichen Test und nicht nur eine einfache Frage.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.