Deep Learning Models Also Recall Features

Deep-Learning-Modelle, die leistungsstarken Motoren hinter der modernen künstlichen Intelligenz, werden oft als riesige Netzwerke beschrieben, die lernen, indem sie einfache Muster zu komplexen Ideen stapeln. Jahrelang haben Wissenschaftler diese Systeme durch eine bestimmte Linse verstanden: die Idee der Merkmalskombination (Feature Combination). In dieser Sichtweise arbeitet ein neuronales Netz wie eine Baucrew, die grundlegende Bausteine – wie Kanten in einem Bild oder einfache Klänge in einem Satz – nimmt und sie hierarchisch zu höherwertigen Konzepten wie einem Gesicht oder einem Wort zusammensetzt. Dieser Rahmen war unglaublich nützlich, um zu erklären, wie Maschinen Muster erkennen, ganz ähnlich wie ein Kind lernt, eine Katze zu identifizieren, indem es zuerst Ohren, dann Fell und schließlich das ganze Tier bemerkt. Diese Perspektive stößt jedoch an ihre Grenzen, wenn ein Modell nicht nur ein Muster erkennt, sondern scheinbar einen spezifischen, detaillierten Fakt aus dem Nichts heraufbeschwört. Wenn ein großes Sprachmodell gebeten wird, eine Biografie einer berühmten Person zu schreiben, liegt die Antwort nicht im Fragezustand verborgen und wartet darauf, zusammengesetzt zu werden; das Modell scheint vielmehr eine gespeicherte Erinnerung abzurufen. Ein neues Paper von Pierre Beckmann argumentiert, dass dieser Abruf kein Ausnahmefall der Musterzusammensetzung ist, sondern eine fundamentale, eigenständige Operation, die bisher übersehen wurde. Beckmann schlägt ein neues Konzept namens „Feature Recall“ (Merkmalsabruf) vor und deutet an, dass Deep-Learning-Modelle mehr tun, als nur Inputs zu kombinieren; sie fungieren auch als Bibliotheken, die gespeicherte Informationen basierend auf einem einzigen Trigger abrufen.

Das Paper beginnt mit der Untersuchung dessen, wie diese Modelle mit Fakten umgehen, ein Phänomen, das bereits in der jüngsten Forschung beobachtet, aber durch den alten Rahmen nicht vollständig erklärt wurde. Um den Mechanismus zu verstehen, muss man den internen Arbeitsraum des Modells betrachten, den sogenannten Residual Stream. Man stelle sich diesen Stream als einen kontinuierlichen Informationsfluss vor, in dem das Verständnis des Modells für einen Satz oder ein Bild Schicht für Schicht aufgebaut wird. Während die Daten durch das Netzwerk fließen, fügen verschiedene Teile des Systems kleine Anpassungen an diesen Fluss hinzu und schreiben effektiv neue Details auf ein gemeinsames Whiteboard. Diese Anpassungen werden durch spezifische Richtungen im internen Raum des Modells geleitet, die der Autor mit Schiebereglern vergleicht. Jeder Schieberegler repräsentiert eine bestimmte Eigenschaft, wie etwa das Konzept einer spezifischen Person oder eines spezifischen Objekts. Wenn das Modell einen Input verarbeitet, passt es diese Schieberegler an, indem es sie hoch- oder runterregelt, um widerzuspiegeln, was präsent ist.

Die entscheidende Erkenntnis in Beckmanns Arbeit ist, wie das Modell diese Schieberegler nutzt, um Antworten zu generieren. Im traditionellen Verständnis der Merkmalskombination betrachtet das Modell eine Sammlung von Inputs und mischt sie zusammen, um einen neuen Output zu erstellen. Aber im Fall des faktischen Abrufs funktioniert der Prozess anders. Hier fungiert ein spezifischer Input als Schlüssel, der einen vor gespeicherten Satz an Informationen freischaltet. Das Paper illustriert dies am Beispiel des Namens „Michael Jordan“. Wenn das Modell auf diesen Namen stößt, kombiniert es nicht bloß die Buchstaben oder Klänge, um eine neue Idee zu bilden. Stattdessen triggert die Aktivierung des „Michael Jordan“-Merkmals einen direkten Abruf assoziierter Fakten, die in den Gewichten des Modells gespeichert sind, wie etwa „spielt Basketball“ oder „Chicago Bulls“. Die Gewichte des Modells, welche die gelernten Parameter sind, die sein Wissen definen, fungieren als Repository. Wenn das richtige Merkmal aktiviert wird, skaliert es eine spezifische Zeile dieser gespeicherten Werte hoch und zieht die relevanten Fakten in den aktuellen Kontext. Dies unterscheidet sich vom Konstruktionsprozess der Merkmalskombination; es ist ein Abrufprozess, bei dem der Input als Trigger für Informationen dient, die bereits innerhalb des Systems existieren.

Beckmann argumentt, dass dieser Mechanismus nicht auf Sprachmodelle oder Fakten über Menschen beschränkt ist. Er legt nahe, dass Feature Recall eine allgemeine Operation ist, die in allen Deep-Learning-Architekturen Anwendung findet, einschließlich jener, die für die Bilderkennung genutzt werden. Um dies zu demonstrieren, kontrastiert er den Abrufprozess mit dem klassischen Beispiel eines Convolutional Neural Network, das einen Kreis in einem Bild erkennt. In diesem Szenario kombiniert das Netzwerk untergeordnete Merkmale, wie Kurven und Linien, um eine Form zu identifizieren. Die Gewichte definieren in diesem Fall, nach welchem Muster gesucht werden soll. Beim Feature Recall hingegen definieren die Gewichte, welche Information abgerufen wird, sobald ein Muster gefunden wurde. Wenn ein Modell, das auf handgeschriebene Ziffern trainiert wurde, eine kreisförmige Gestalt erkennt, nutzt es diese Erkennung möglicherweise, um abzurufen, dass die Ziffer wahrscheinlich eine Null, Sechs, Acht oder Neun ist. Das Input-Merkmal – der Kreis – triggert den Abruf dieser spezifischen Möglichkeiten. Das Paper postuliert, dass Feature Combination zwar erklärt, wie Modelle Komplexität aufbauen, Feature Recall jedoch erklärt, wie sie auf die riesigen Mengen an Informationen zugreifen, die sie gelernt haben, was es ihnen ermöglicht, reichhaltige, detaillierte Outputs aus sehr spärlichen Inputs zu produzieren.

Der Autor spricht auch eine potenzielle Verwechslungsgefahr an: Da die Mathematik hinter diesen Operationen auf zwei verschiedene Arten betrachtet werden kann, stellt sich die Frage, ob die Unterscheidung real oder nur eine Frage der Perspektive ist. Mathematisch gesehen kann dieselbe Berechnung sowohl als Kombination von Inputs als auch als Abruf gespeicherter Zeilen beschrieben werden. Beckmann räumt diese Mehrdeutigkeit ein, argumentiert jedoch, dass die Unterscheidung sinnvoll ist, wenn wir uns die Struktur der Verbindungen ansehen. Er schlägt einen Weg vor, die beiden zu unterscheiden, indem man misst, wie konzentriert die Verbindungen sind. Bei der Merkmalskombination tragen viele Inputs zu einem einzigen Output bei und erzeugen ein dichtes Geflecht von Verbindungen. Beim Feature Recall dominiert ein einzielner Input den Output und erzeugt eine spärliche Verbindung, bei der ein einzelner Trigger einen spezifischen Satz gespeicherter Assoziationen herauszieht. Das Paper legt nahe, dass Forscher diesen Unterschied in der Konnektivität nutzen könnten, um zu identifizieren, welche Teile eines Modells als Abrufsysteme und welche als Konstruktionssysteme agieren. Obwohl dies noch nicht in jedem Fall vollständig bewiesen wurde, skizziert der Autor, wie ein solcher Test durchgeführt werden könnte, und bietet einen Pfad für die zukünftige Forschung, um zu bestimmen, ob es sich hierbei um wirklich getrennte Betriebsmodi handelt.

Jenseits der technischen Mechanik bietet das Paper eine neue Art und Weise, darüber nachzudenken, was diese Modelle „wissen“. Der Autor zieht eine Parallele zwischen dem menschlichen Gedächtnis und dem internen Zustand des Modells. Er legt nahe, dass die in den Gewichten gespeicherten Informationen, die erst bei Bedarf abgerufen werden, einem dispositionellen Glauben (dispositional belief) ähneln – einem Stück Wissen, das existiert, auch wenn es gerade nicht aktiv genutzt wird. Dies steht im Gegensatz zu der aktiven Information, die im aktuellen Prozess des Modells präsent ist, was einem okurrenten Glauben (occurrent belief) entspricht. Durch die Unterscheidung zwischen diesen beiden bietet das Paper einen Rahmen für Philosophen und Wissenschaftler, um die Natur von Glauben und Wissen in künstlichen Systemen besser zu verstehen. Es legt nahe, dass diese Modelle nicht nur Daten im Moment verarbeiten, sondern eine stehende Disposition von Fakten und Assoziationen in sich tragen, die jederzeit abgerufen werden kann.

Letztlich behauptet das Paper nicht, dass Feature Recall die Idee der Merkmalskombination ersetzt. Stattdessen präsentiert es sie als notwendige Ergänzung. So wie eine Bibliothek sowohl die Bücher (die gespeicherten Informationen) als auch den Prozess des Lesens dieser Bücher (den Abruf) enthält, verlassen sich Deep-Learning-Modelle wahrscheinlich sowohl auf die Kombination von Merkmalen, um neue Inputs zu verstehen, als auch auf den Abruf gespeicherter Merkmale, um detaillierte Antworten zu generieren. Die Arbeit lädt Forscher dazu ein, über die Konstruktion von Mustern hinauszublicken und den Abruf gespeicherter Merkmale als eine fundamentale Operation anzuerkennen. Indem sie dies tun, eröffnen sich neue Fragen darüber, wie diese Modelle lernen, wie sie Informationen speichern und wie wir ihre internen Abläufe interpretieren können. Die Unterscheidung bleibt eine Hypothese, die weiterer empirischer Tests bedarf, aber sie bietet ein klareres, intuitiveres Bild davon, wie künstliche Intelligenz die überraschenden und detaillierten Outputs erzeugen kann, die ihre fortschrittlichsten Anwendungen charakterisieren.