Stellen Sie sich vor, Sie versuchen zu verstehen, wie ein riesiges, digitales Gehirn lernt zu lesen. Dieses Gehirn wird ein Large Language Model (LLM) genannt – es ist die Technologie hinter den Chatbots und intelligenten Assistenten, die wir jeden Tag nutzen. Um die Welt zu begreifen, memorieren diese Modelle nicht einfach nur Wörter; sie verwandeln jedes Wort in einen mathematischen „Fingerabdruck“, ein sogenanntes Embedding. Denken Sie bei diesem Fingerabdruck an eine Koordinate in einer massiven, mehrdimensionalen Landkarte. Wenn zwei Wörter ähnliche Dinge bedeuten, sollten ihre Koordinaten nah beieinander liegen, wie Nachbarn in einer Stadt. Wenn sie unterschiedliche Dinge bedeuten, sollten sie weit voneinander entfernt sein.

Jahrelang haben Wissenschaftler dieser Karte vertraut. Sie glaubten, dass man, wenn man den endgültigen Fingerabdruck betrachtet, den das Modell für ein Wort erstellt hat, genau sagen könne, was das Modell unter diesem Wort versteht. Diese Idee ist das Rückgrat vieler Werkzeuge, die wir heute nutzen, wie etwa Suchmaschinen, die Dokumente finden, oder Apps, die ähnliche Ideen gruppieren. Aber es gibt einen Haken: Sprache ist tückisch. Einige Wörter, wie zum Beispiel „Bank“, können entweder einen Ort zur Aufbewahrung von Geld oder das Ufer eines Flusses bedeuten. Dies sind sogenannte ambivalente Wörter. Die große Frage, die sich Forscher gestellt haben, lautet: Zeigt der endgültige Fingerabdruck des Modells tatsächlich den Unterschied zwischen diesen beiden Bedeutungen, oder wird die Landkarte am Ende verschwommen und verwirrend?

Diese Arbeit taucht tief in dieses Geheimnis ein, indem sie beobachtet, wie drei verschiedene KI-Modelle – ein kleines, ein mittleres und ein sehr großes – ambivalente Wörter Schicht für Schicht verarbeiten. Die Forscher entdeckten etwas Überraschendes und Kontraintuitives. Während die Modelle ein Wort wie „Bank“ verarbeiten, wird der mathematische Abstand zwischen der Bedeutung „Flussufer“ und der Bedeutung „Geldinstitut“ in der Mitte des Netzwerks tatsächlich größer, nur um in den letzten Schichten wieder zusammenzuschrumpfen. Es ist, als ob das interne Modell die beiden Bedeutungen vorübergehend voneinander trennt, um dann zu entscheiden, sie wieder in dieselbe Nachbarschaft zu setzen, kurz bevor es spricht.

Doch hier kommt die Wendung: Obwohl die endgültigen Fingerabdrücke sehr ähnlich aussehen (fast so, als wären sie wieder in derselben Nachbarschaft), sind die Vorhersagen des Modells völlig unterschiedlich. Wenn das Modell gefragt wird, welches das nächste Wort ist, weiß es genau, welche „Bank“ gemeint ist. Die Studie zeigt, dass die letzte Schicht das Geheimnis der Bedeutung bewahrt, sie aber auf eine Weise verbirgt, die Standard-Messwerkzeuge (wie einfache Distanzprüfungen) nicht erkennen können. Das Modell ist nicht verwirrt; es nutzt lediglich einen geheimen Code in seiner letzten Schicht, der wie Ähnlichkeit aussieht, aber wie ein Unterschied agiert. Dies deutet darauf hin, dass es irreführend sein kann, sich allein auf den endgültigen „Fingerabdruck“ zu verlassen, um zu verstehen, was eine KI denkt, da die wichtigsten Unterscheidungen auf eine Weise stattfinden, die so wirkt, als wären sie verschwunden, obwohl sie das Verhalten des Modells maßgeblich steuern.

Die Geschichte der sich wandelnden Landkarte

Um zu verstehen, wie das funktioniert, stellen Sie sich das KI-Modell als ein Team von 64 Detektiven (für das größte Modell, Qwen2.5) vor, die einen geheimen Zettel in einer langen Reihe weiterreichen. Jeder Detektiv repräsentiert eine „Schicht“ des Modells. Wenn der Zettel „Bank“ sagt, schauen die ersten Detektiven nur auf die Form des Wortes. Sie wissen noch nicht, ob es sich um ein Flussufer oder eine Bank handelt, also sehen ihre Notizen fast identisch aus.

Während der Zettel zu den mittleren Detektiven wandert, geschieht etwas Magisches. Diese Detektive beginnen, auf den Kontext zu achten – die Wörter vor und nach „Bank“. Ein Detektiv sieht „Fluss“ in der Nähe und markiert den Zettel mit einem großen roten Punkt. Ein anderer sieht „Geld“ und markiert ihn mit einem blauen Stern. In dieser mittleren Phase sind die Notizen der beiden Bedeutungen so verschieden wie Tag und Nacht. Wenn man den Abstand zwischen ihnen hier messen würde, lägen sie weit auseinander.

Doch dann erreicht der Zettel die letzten Detektive. Hier verdichtet sich die Handlung. Die letzten Detektiven nehmen diese unterschiedlichen roten Punkte und blauen Sterne und falten sie wieder zu einer sehr ähnlich aussehenden Notiz zusammen. Wenn man den Abstand zwischen den finalen Notizen für „Flussbank“ und „Geldbank“ messen würde, sähen sie wieder fast identisch aus. Es ist, als hätten die Detektive entschieden: „Lass uns unseren Abschlussbericht gleich aussehen lassen, damit wir den Chef nicht verwirren.“

Der Chef (der Output des Modells) lässt sich jedoch nicht täuschen. Selbst wenn die finalen Notizen gleich aussehen, haben die Detektive den Unterschied geheim kodiert, sodass er die endgültige Antwort verändert. Wenn das Modell das nächste Wort vorhersagt, sagt es nicht „Fluss“, obwohl die finale Notiz so aussieht, als gehöre sie zum Fluss.

Die Forscher haben dies durch ein Spiel der „Vertauschung“ bewiesen. Sie nahmen die finale Notiz aus dem Kontext „Fluss“ und tauschten sie in den Kontext „Geld“ ein. Als sie dies taten, änderte das Modell seine Meinung komplett und begann, Wörter zu vorhersagen, die mit dem Fluss zu tun haben. Dies bewies, dass die letzte Schicht tatsächlich den Unterschied enthält, selbst wenn es so aussieht, als hätten sich die beiden Bedeutungen wieder vereinigt. Der Unterschied ist immer noch da, aber er ist in den Anweisungen für den nächsten Schritt verborgen, nicht in der Form der Notiz selbst.

Warum die Landkarte irreführend ist

Dieser Befund gleicht einem Zaubertrick. Wenn man nur auf die Hände des Magiers am Ende des Tricks schaut, wirken sie leer und identisch. Aber wenn man die gesamte Vorstellung beobachtet hätte, hätte man gesehen, dass der Magier die ganze Zeit zwei verschiedene Bälle jongliert hat. Die Forscher fanden heraus, dass für ambivalente Wörter das „Jonglieren“ in den mittleren Schichten stattfindet, wo die Bedeutungen klar getrennt sind. Aber bis der Trick vorbei ist, sind die Bälle wieder versteckt und die Hände sehen gleich aus.

Das Papier testete dies an drei verschiedenen Modellen: einem kleinen namens GPT-2 (117 Millionen Parameter), einem mittleren namens Llama-3.2 (3 Milliarden Parameter) und einem großen namens Qwen2.5 (32 Milliarden Parameter). Trotz ihrer unterschiedlichen Größen und Architekturen machten sie alle dasselbe: Sie trennten die Bedeutungen in der Mitte, brachten sie am Ende wieder zusammen und wussten dennoch genau, welche Bedeutung zu verwenden ist.

Die Forscher prüften auch, ob dies nur ein Zufall war, der durch die Position der Wörter im Satz verursacht wurde. Sie vertauschten die Reihenfolge der Wörter in Sätzen (wie die Änderung von „Die Katze jagte die Maus“ zu „Die Maus jagte die Katze“) und fanden heraus, dass das Verhalten des Modells weiterhin durch die Bedeutung gesteuert wurde und nicht bloß durch die Wortreihenfolge. Dies bestätigte, dass das Modell die Ambivalenz tatsächlich verstand.

Was dies für die Zukunft bedeutet

Die wichtigste Erkenntnis ist, dass wir vielleicht auf den falschen Teil der Landkarte geschaut haben. Lange Zeit sind Menschen davon ausgegangen, dass zwei Dinge dasselbe bedeuten, wenn sie in der letzten Schicht einer KI ähnlich aussehen. Dieser Artikel legt nahe, dass dies nicht immer der Fall ist. Die letzte Schicht mag wie ein überfüllter Raum wirken, in dem alle nah beieinander stehen, aber wenn man auf das hört, was sie sagen (ihre Vorhersagen), wird man feststellen, dass sie eigentlich über völlig unterschiedliche Themen streiten.

Das bedeutet nicht, dass die KI defekt ist. Es bedeutet nur, dass die Art und Weise, wie sie Informationen speichert, komplexer ist als eine einfache Distanzgrafik. Die Forscher schlagen vor, dass wir, wenn wir bessere Werkzeuge zum Suchen oder Organisieren von Informationen bauen wollen, vielleicht in die mittleren Schichten schauen müssen, in denen die Bedeutungen klar getrennt sind, oder dass wir darauf hören müssen, was das Modell vorhersagt, anstatt nur zu messen, wie nah seine Fingerabdrücke beieinander liegen.

Die Studie lieferte keine magische Lösung oder einen neuen Weg, um Modelle zu bauen, aber sie löste ein Rätsel darüber, wie diese Modelle denken. Sie zeigte, dass die „Magie“ der Disambiguierung (Aufhebung der Mehrdeutigkeit) in der letzten Schicht nicht verloren geht; sie ist nur in plain sight verborgen, wartend darauf, dass wir die richtigen Hinweise finden. Die Forscher sind aufgrund der Verwendung mehrerer Modelle und verschiedener Arten ambivalenter Wörter zuversichtlich, dass diese Ergebnisse standhalten, da sich das Muster jedes Mal bestätigte. Es ist eine Erinnerung daran, dass in der Welt der KI die Dinge nicht immer so sind, wie sie scheinen, und dass die wichtigsten Unterschiede manchmal die sind, die man mit einem Lineal nicht sehen kann.