A Shared Subcircuit Lets LLMs Count Down Across Tasks
Diese Arbeit identifiziert einen gemeinsamen „Countdown-Subkreis“ in Llama-3.1-70B-Instruct, der es Sprachmodellen ermöglicht, die verbleibenden Token über verschiedene Aufgaben hinweg zu verfolgen, was einen generalisierbaren Mechanismus zur Schätzung der Zeit bis zum Ziel offenbart, der über verschiedene Modelle und Kontexte hinweg transferierbar ist.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie spielen ein Spiel, bei dem Sie einen Satz schreiben müssen, aber es gibt eine strikte Regel: Er muss genau 10 Wörter lang sein und das allerletzte Wort muss „telescope“ lauten. Wenn Sie 9 Wörter schreiben, verlieren Sie. Wenn Sie 11 schreiben, verlieren Sie.
Lange Zeit dachten wir, dass Large Language Models (LLMs) – die superintelligenten KI-Gehirne hinter Chatbots – diese Aufgaben nur durch Raten bewältigen. Doch eine neue Studie deutet darauf hin, dass im Inneren der Maschine etwas viel organisierterer abläuft. Die Forscher fanden heraus, dass die KI über einen winzigen, spezialisierten „Countdown-Subkreis“ verfügt, der wie eine eingebaute Stoppuhr fungiert und die verbleibenden Wörter herunterzählt, bis sie die Ziellinie erreicht.
Die verborgene Stoppuhr
Die Forscher begannen damit, ein spezifisches Modell, Llama-3.1-70B-Instruct, anzuweisen, Sätze fester Länge zu schreiben. Sie wollten wissen, wie das Modell wusste, wann es aufhören musste. Indem sie in das „Gehirn“ des Modells blickten (indem sie speziell untersuchten, wie es Informationen Schicht für Schicht verarbeitet), entdeckten sie einen spezifischen Gruppen von drei Attention Heads (denken Sie an kleine, spezialisierte Arbeiter) in Layer 18, die für diesen Countdown verantwortlich sind.
Diese drei Arbeiter – bezeichnet als L18H24, L18H28 und L18H30 – raten nicht einfach nur. Sie messen tatsächlich die Distanz zwischen dem aktuellen Stand des Satzes und dem Punkt, an dem er enden muss.
- Ein Arbeiter wird früh im Satz aktiv.
- Ein anderer setzt in der Mitte ein.
- Der dritte feuert erst kurz vor dem Ende.
Zusammen erzeugen sie ein glattes „Countdown“-Signal, das stärker und stärker wird, je näher das Modell der Zielwortanzahl kommt. Es ist wie das Vorhandensein von drei verschiedenen Weckern, die zu unterschiedlichen Zeiten gestellt sind, um sicherzustellen, dass das Modell genau weiß, wie viel Zeit (oder in diesem Fall wie viele Wörter) ihm noch bleibt.
Die Magie des „impliziten“ Zählens
Hier wird es wirklich cool. Man könnte denken, dass dieser Countdown nur funktioniert, wenn man der KI explizit sagt: „Schreibe einen 10-Wort-Satz.“ Aber die Forscher fanden heraus, dass das Modell klüger ist als das.
Sie testeten das Modell mit Prompts, die gar keine Zahl enthielten. Stattdessen gaben sie dem Modell ein Muster. Zum Beispiel zeigten sie ihm eine Liste von DNA-Sequenzen oder Base64-Codes, die alle exakt die gleiche Länge hatten. Als das Modell aufgefordert wurde, die Liste fortzusetzen, brauchte es keine Zahl; es „verstand“ einfach das Muster. Es schlussfolgerte die Ziellänge aus den vorherigen Beispielen und nutzte denselben Countdown-Subkreis, um am richtigen Punkt aufzuhören.
Die Studie legt nahe, dass das Modell diese „unsichtbaren“ Längeninformationen direkt am Ende der vorherigen Zeichenfolgen speichert (wie eine versteckte Notiz mit dem Inhalt „Das nächste sollte so lang sein“). Wenn das Modell das Ende einer Zeichenfolge sieht, liest es diese Notiz und startet seinen Countdown für die nächste.
Ein universelles Werkzeug über Modelle und Aufgaben hinweg
Die Forscher hörten dort nicht auf. Sie nutzten eine Technik namens „unsupervised probing“, um zu sehen, wo dieses Countdown-Werkzeug noch in der freien Wildbahn verborgen ist. Sie scannten riesige Mengen an Text, einschließlich Nachrichtenartikeln, Chat-Protokollen und Code, und suchten nach Stellen, an denen diese spezifischen Arbeiter aktiv waren.
Sie fanden den Countdown-Subkreis an ganz unterschiedlichen Orten wieder:
- Eingebettete Tweets: Das Modell realisierte, dass es einen Tweet las, und zählte bis zum 280-Zeichen-Limit herunter, obwohl der Text nichts von einem „Tweet“ sagte.
- ASCII-Tabellen: Beim Formatieren einer Tabelle zählte das Modell die Leerzeichen, um sicherzustellen, dass jede Spalte die gleiche Breite hat.
- Haikus: Es verfolgte die Silbenzahl für die 5-7-5-Struktur.
- SHA-Hashes: Es wusste genau, wann ein 64-Zeichen-Code beendet war.
Dies deutet darauf hin, dass das Modell nicht nur Regeln für spezifische Aufgaben auswendig lernt; es besitzt eine allgemeine „Countdown-Engine“, die es für fast alles wiederverwendet, was das Verfolgen einer Länge erfordert.
Ein gemeinsamer Bauplan?
Vielleicht ist das faszinierendste Ergebnis, dass dies nicht nur eine Eigenart des Llama-Modells ist. Die Forscher verglichen die interne „Geometrie“ (die Form der Daten) dieses Countdown-Subkreises mit einem anderen Modell, Claude 3.5 Haiku, das bei einer anderen Aufgabe untersucht wurde (dem Umbruch von Text, um in eine Zeile zu passen).
Sie fanden heraus, dass beide Modelle exakt dieselbe mathematische Form verwenden, um Längeninformationen zu speichern und zu verarbeiten. Es ist, als hätten zwei verschiedene Automobilhersteller, die in verschiedenen Fabriken arbeiten, sich beide für exakt dasselbe Motorendesign entschieden. Dies deutet darauf hin, dass dieser „Countdown-Motiv“ ein fundamentaler Baustein sein könnte, den viele KI-Modelle von selbst entdecken, wenn sie Zeit oder Raum tracken müssen.
Was dies bedeutet (und was nicht)
Das Paper ist vorsichtig zu betonen, dass sie dieses spezifische Verhalten rückwärts entwickelt haben. Sie haben bewiesen, dass, wenn man die Signale in diesen spezifischen Heads manipuliert, das Modell aufhört, korrekt zu zählen. Sie haben die Signale gemessen und die Muster beobachtet.
Sie behaupten jedoch nicht, das Rätsel gelöst zu haben, wie KI im Allgemeinen denkt. Sie zeigen lediglich auf, dass die KI für die spezifische Aufgabe des „Wissens, wann man aufhören muss“, ein sehr spezifisches, wiederverwendbares und überraschend universelles Werkzeug nutzt. Es ist ein kleines, aber kraftvolles Puzzleteil, das zeigt, dass es selbst in der komplexen, chaotischen Welt der KI ordentliche, organisierte Subroutinen gibt, die der Maschine helfen, die Welt zu verstehen.
Wenn Sie also das nächste Mal sehen, wie eine KI ein perfektes Haiku schreibt oder eine Tabelle formatiert, ohne dass man ihr genau gesagt hat, wie viele Leerzeichen sie verwenden soll, denken Sie daran: Irgendwo tief im Inneren ticken drei kleine Arbeiter in Layer 18 leise die Uhr herunter, damit alles genau richtig endet.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.