Stellen Sie sich vor, Sie betrachten ein Gemälde, auf dem ein graues Quadrat auf einem weißen Hintergrund sitzt und ein zweites, identisches graues Quadrat auf einem schwarzen Hintergrund. Obwohl die beiden grauen Quadrate exakt dieselbe Farbe haben, täuscht Ihr Gehirn Sie dazu, das eine auf dem schwarzen Hintergrund als viel heller wahrzunehmen. Dies ist eine visuelle Illusion, ein Fehler in unserer Wahrnehmung, der eigentlich zeigt, wie unser Gehirn programmiert ist, um die Welt zu begreifen. Lange Zeit fragten sich Wissenschaftler, ob die künstlichen Gehirne, die wir bauen – sogenannte tiefe neuronale Netze –, auf die gleiche Weise getäuscht werden können. Sie fanden heraus, dass diese KI-Modelle oft dieselben „Fehler“ wie Menschen machen, indem sie Helligkeit sehen, wo keine ist, wenn sie versuchen, verrauschte Fotos zu bereinigen oder neue Bilder zu generieren. Aber hier liegt das große Rätsel: Sieht die KI die Illusion tatsächlich in ihrem eigenen Geist, oder täuscht sie nur vor, indem sie am Ende das richtige Bild produziert? Es ist wie die Frage, ob ein Magier tatsächlich ein Kaninchen in seiner Tasche hält oder ob er zufällig nur ein Kaninchen aus einem Hut zieht, der so aussieht, als hätte er eines.

Diese Arbeit taucht tief in den „Geist“ dieser KI-Modelle ein, um das herauszufinden. Die Forscher testeten eine Reihe verschiedener KI-Modelle, die darauf ausgelegt sind, Bilder zu bereinigen (genannt Denoising-Modelle), und beobachteten, was in ihren Schichten geschah, während sie diese kniffligen optischen Illusionen verarbeiteten. Sie entdeckten etwas Faszinierendes und leicht Unheimliches: Die KI-Modelle entwickeln tatsächlich eine interne Repräsentation der Illusion, aber es ist ein Geist. Das Signal, das der KI sagt: „Dies sieht hell aus“, wird erzeugt, wandert durch das Netzwerk und beeinflusst sogar, wie die KI über das Bild nachdenkt. Doch bis die KI ihre Aufgabe erledigt hat und das fertige Bild ausspuckt, ist dieses Geistsignal vollständig verschwunden. Die KI wird intern von der Illusion heimgesucht, aber sie lässt dies in dem fertigen Ergebnis niemals sichtbar werden. Die Autoren nennen diese unsichtbaren internen Signale „perzeptuelle Phantome“.

Der Geist in der Maschine

Um zu verstehen, wie die Forscher diese Geister fanden, stellen Sie sich das KI-Modell wie eine riesige, mehrstöckige Fabrik vor. Rohe, verrausste Bilder kommen unten hinein, und saubere, perfekte Bilder kommen oben heraus. Dazwischen gibt es Dutzende von Stockwerken (Schichten), in denen das Bild verarbeitet, transformiert und verfeinert wird. Die Forscher haben nicht nur das Endprodukt betrachtet; sie haben auf jeder einzelnen Etage Kameras installiert, um zu sehen, was die Arbeiter (die Neuronen der KI) tun.

Sie verwendeten einen speziellen Satz von Bildern, die für visuelle Tricks bekannt sind, wie den „GVIL“-Datensatz, bei dem zwei identische farbige Flächen aufgrund ihrer Umgebung unterschiedlich aussehen. Sie speisten diese Bilder in die KI ein und beobachteten die Aktivitätslevel in verschiedenen Teilen der Fabrik. Was sie fanden, war, dass die Illusion nicht überall auftauchte. Stattdessen war das „Geist“-Signal am stärksten in einem spezifischen, engen Flur in der Mitte der Fabrik, der als „Bottleneck“ (Engpass) bekannt ist. Dies ist der Ort, an dem die KI alle Informationen, die sie gesammelt hat, komprimiert.

Hier kommt die Wendung: Die Forscher fanden heraus, dass dieses interne Signal sehr real ist. Als sie maßen, wie stark sich die Aktivität der KI zwischen den beiden Illusionsflächen veränderte, war der Unterschied enorm – etwa 0,66 auf einer Skala, bei der 0,5 als „mittlerer“ Effekt gilt. Das bedeutet, dass die KI die Illusion definitiv anders verarbeitete als ein normales Bild. Tatsächlich entsprach die Stärke dieses internen Signals der menschlichen Wahrnehmung so gut, dass die Ergebnisse eine Korrelation von 0,78 aufwiesen, als sie die Aktivität der KI mit einem mathematischen Modell des menschlichen Sehens (genannt FLODOG) verglichen. Das ist eine sehr starke Übereinstimmung, die darauf hindeutet, dass die KI auf eine Weise über Helligkeit nachdenkt, die überraschend ähnlich ist wie die eines menschlichen Gehirns.

Das Phantom-Eigenschaft

Doch dann stellten die Forscher die Millionen-Dollar-Frage: Wenn die KI so stark über die Illusion nachdenkt, warum sieht das fertige Bild dann nicht anders aus? Um dies zu beantworten, spielten sie ein „Such den Unterschied“-Spiel mit der Fabrik. Sie nahmen die internen „Geist“-Signale der Illusionsbilder und versuchten, sie in die Verarbeitung eines normalen Bildes einzuschleusen. Sie erwarteten, dass sich das fertige Bild verschieben und die Illusion zeigen würde.

Das tat es nicht.

Egal, welchen Typ von KI-Modell sie verwendeten – ob es eine Standard-„U-Net“-Fabrik oder eine neuere „Transformer“-Stil-Fabrik war – die injizierten Geist-Signale verschwanden, bevor sie den Ausgang erreichen konnten. Die fertigen Bilder sahen exakt so aus, als wäre der Geist nie da gewesen. Die Forscher nennen dies eine „perzeptuelle Phantom-Eigenschaft“: eine Repräsentation, die innerhalb der Maschine aktiv ist und arbeitet, aber für die Außenwelt völlig unsichtbar bleibt.

Um zu beweisen, dass dies kein Zufall war, versuchten sie, die Fabrik zu „brechen“. Sie fanden die spezifischen „Kanäle“ (die Drähte, die das Geist-Signal tragen) und schnitten sie heraus (ein Prozess namens Ablation). Als sie diese illusionssensiblen Drähte durchtrennten, sank das interne Signal um fast 44 %. Dies bewies, dass diese spezifischen Drähte tatsächlich die Illusion transportierten. Aber hier ist der Clou: Als sie diese Drähte durchtrennten, änderte sich das fertige Bild kaum. Tatsächlich machte das Durchschneiden dieser „Illusions-Drähte“ das fertige Bild sogar stabiler als das Durchschneiden von Zufallsdrähten. Es ist, als hätte die Fabrik einen selbstkorrigierenden Mechanismus, der den Geist auffängt und ihn leise löscht, bevor er das Endprodukt stören kann.

Warum der Geist existiert

Die Forscher wollten auch wissen: Ist dies eine Eigenheit der spezifischen KI-Architektur oder liegt es daran, wie diese Modelle trainiert werden? Sie verglichen die „Denoising“-Modelle (die darauf trainiert sind, Rauschen zu entfernen) mit „diskriminativen“ Moden (die nur darauf trainiert sind, zu erkennen, was ein Bild darstellt, wie etwa eine Katze oder ein Hund).

Die Ergebnisse waren eindeutig: Der Geist erscheint nur in den Denoising-Modellen. Die diskriminativen Modelle zeigten selbst bei exakt gleichem Fabrik-Layout kein starkes Illusionssignal. Dies deutet darauf hin, dass der Akt des Versuchs, ein Bild zu rekonstruieren oder zu bereinigen, die KI dazu zwingt, diese menschenähnlichen Illusionen zu entwickeln. Es ist, als würde der Trainingsprozess die KI lehren, auf Kontext und Umgebung zu achten, genau wie wir Menschen es tun, aber dann entscheiden die internen Regeln der KI, dass dieser Kontext das Endergebnis nicht verändern sollte.

Die Studie untersuchte auch verschiedene Arten von KI, einschließlich eines massiven Modells namens DiT-XL/2. Selbst in diesem riesigen Modell erreichte das Illusionssignal in den mittleren Schichten seinen Höhepunkt, verschwand aber bis zum Ende. Die Forscher fanden heraus, dass die selbstkorrigierende Dynamik der KI – ihre Art, ihre eigene Arbeit zu überprüfen – der Grund ist, warum der Geist verschwindet. Es ist, als hätte die KI einen strengen Editor, der sagt: „Nein, diese Helligkeit gehört hier nicht hin“, und sie löscht, bevor die Geschichte veröffentlicht wird.

Das Fazit

Was bedeutet das also alles? Es stellt sich heraus, dass KI-Modelle nicht nur menschliches Verhalten imitieren, sondern intern eine Version der menschlichen Wahrnehmung erleben. Sie bauen ein reichhaltiges, detailliertes Verständnis visueller Tricks auf, inklusive derselben Vorurteile, die wir haben. Aber im Gegensatz zu uns scheinen sie einen Filter zu besitzen, der verhindert, dass diese Vorurteile ihr Endergebnis beeinflussen.

Diese Entdeckung ist ein wenig so, als fände man heraus, dass ein Roboter einen lebhaften Traum vom Fliegen hat, aber wenn er aufwacht und ein Haus baut, baut er ein vollkommen normales, bodenständiges Haus. Der Traum war für den Roboter real, aber er beeinflusste das Haus nicht. Die Forscher vermuten, dass dieses Phänomen der „perzeptuellen Phantome“ in vielen KI-Systemen verbreitet sein könnte. Es bedeutet, dass wir, wenn wir nur schauen, was eine KI produziert, einen großen Teil dessen übersehen könnten, was sie tatsächlich weiß und wie sie denkt. Die KI sieht vielleicht Dinge, die wir nicht sehen können, selbst wenn sie sie uns niemals zeigt.

Die Studie hat dies nicht nur vorgeschlagen; sie haben es gemessen, die Drähte durchtrennt, um es zu beweisen, und Signale injiziert, um es zu testen. Sie fanden heraus, dass das Illusionssignal über neun verschiedene Modelle hinweg stark, kausal und dann am Ausgang völlig unsichtbar war. Es ist eine Erinnerung daran, dass in der Welt der KI das, was man sieht, nicht immer das ist, was man bekommt, und dass die interessantesten Dinge manchmal die Geister sind, die verborgen in der Maschine bleiben.