💬 NLP

Weights to Code: Extracting Interpretable Algorithms from the Discrete Transformer

Der Artikel stellt den „Discrete Transformer" vor, eine Architektur, die durch temperaturgesteuertes Sampling die Entschlüsselung interpretierbarer Algorithmen aus neuronalen Netzen ermöglicht und so die Lücke zwischen kontinuierlichen Repräsentationen und diskreter symbolischer Logik schließt.

Ursprüngliche Autoren: Yifan Zhang, Wei Bi, Kechi Zhang, Dongming Jin, Jie Fu, Zhi Jin

Veröffentlicht 2026-03-20

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Yifan Zhang, Wei Bi, Kechi Zhang, Dongming Jin, Jie Fu, Zhi Jin

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen extrem intelligenten, aber sehr verschrobenen Koch (den klassischen Transformer), der Ihnen köstliche Gerichte (Lösungen für mathematische Aufgaben) zubereitet. Wenn Sie ihn fragen, wie er das gemacht hat, zuckt er nur mit den Schultern. Er arbeitet in einer Art "Zauberküche", in der alle Zutaten gleichzeitig in einem großen Topf schweben, sich vermischen und überlagern. Man sieht nicht, welche Gewürze wann hinzugefügt wurden. Das nennt man in der Wissenschaft "Verschachtelung" oder "Superposition".

Das Problem: Wir wollen nicht nur das Essen, wir wollen das Rezept. Und zwar eines, das ein Mensch lesen und verstehen kann.

Hier kommt die Discrete Transformer (der "Diskrete Transformer") ins Spiel. Die Forscher haben einen neuen Koch entwickelt, der von Anfang an so trainiert wird, dass er sein Kochbuch offen hält.

Hier ist die einfache Erklärung, wie das funktioniert, mit ein paar kreativen Vergleichen:

1. Der neue Koch: Der "Diskrete Transformer"

Statt alles in einen großen, undurchsichtigen Topf zu werfen, hat dieser neue Koch zwei völlig getrennte Arbeitsbereiche:

Der Kurier (Numerical Attention): Seine einzige Aufgabe ist es, Zutaten von A nach B zu bringen. Er entscheidet: "Nimm die Zutat von vor 2 Schritten zurück" oder "Nimm die Zutat von gerade eben". Er mischt nichts, er transportiert nur.
Der Mathematiker (Numerical MLP): Dieser Teil nimmt die transportierten Zutaten und führt nur einfache Rechenoperationen durch: Addieren, Subtrahieren, Multiplizieren.

Der Trick: Normalerweise sind diese Bereiche in KI-Modellen wie ein Durcheinander von Kabeln. Hier sind sie wie zwei getrennte Werkbänke. Das macht es viel einfacher zu sehen, was passiert.

2. Der Übergang vom Chaos zur Ordnung: "Temperatur-Annealing"

Stellen Sie sich vor, der Koch beginnt das Training bei sehr hoher "Temperatur". Bei dieser Hitze ist er etwas chaotisch und probiert viele verschiedene Wege aus (Erkundung). Er ist noch nicht sicher, welche Zutaten er genau braucht.

Im Laufe der Zeit kühlen die Forscher ihn langsam ab (wie beim Abschrecken von Metall).

Heiß: Er probiert alles aus.
Kalt: Er wird extrem präzise. Er entscheidet sich für eine klare Route und eine klare Rechnung.

Am Ende ist der Koch "kalt" und "diskret". Das bedeutet, er arbeitet nicht mehr mit vagen Wahrscheinlichkeiten, sondern mit klaren Ja/Nein-Entscheidungen. Das ist der Moment, in dem man sein Rezept lesen kann.

3. Das Rezept entziffern: Vom Gewicht zum Code

Sobald der Koch fertig trainiert ist und "kalt" ist, schauen sich die Forscher seine Arbeitsweise an und übersetzen sie in menschlichen Code (Python).

Für den Kurier: Sie schauen sich an, wohin er schaut. Wenn er immer auf die Zutat von vor 2 Schritten zeigt, schreiben sie: hole_zutat_vor_2_schritten().
Für den Mathematiker: Sie nehmen die Zahlen, die er verarbeitet hat, und fragen einen Computer-Algorithmus (Symbolic Regression): "Welche einfache Formel passt zu diesen Zahlen?" Oft finden sie heraus, dass der Mathematiker eigentlich nur eine einfache Gleichung wie x + y berechnet hat, auch wenn er vorher kompliziert aussah.

Am Ende haben sie ein sauberes, lesbares Rezept, das exakt das tut, was der KI-Koch getan hat.

Warum ist das so wichtig?

Bisher konnten wir nur Rezepte von einfachen KI-Modellen (wie RNNs) entziffern, und nur für einfache, abgezählte Dinge (wie 0 und 1).

Der Diskrete Transformer ist ein Durchbruch, weil er:

Komplexe Zahlen versteht: Er kann auch mit "fließenden" Zahlen (wie 3,14159...) umgehen, nicht nur mit ganzen Zahlen. Das ist wie der Unterschied zwischen einem Koch, der nur ganze Eier zählt, und einem, der auch genau 150 Gramm Mehl abwiegen kann.
Neue Entdeckungen ermöglicht: Da das Rezept nicht von einem Menschen geschrieben wurde, sondern von der KI selbst "entdeckt" wurde, könnten wir damit völlig neue mathematische Wege finden, die wir vorher nicht kannten.
Kontrollierbar ist: Die Forscher können dem Koch sagen: "Versuche es ohne den Mathematiker!" Dann muss der Kurier einen neuen Weg finden. So können sie testen, wie flexibel die KI ist.

Zusammenfassung in einem Satz

Die Forscher haben einen KI-Koch gebaut, der nicht in einem undurchsichtigen Nebel arbeitet, sondern an zwei getrennten Werkbänken, die langsam von chaotischem Probieren zu klaren, messbaren Schritten übergehen – und am Ende liefern sie uns ein perfektes, menschlich lesbares Kochrezept für die Lösung.

1. Problemstellung

Das Ziel der Algorithmus-Extraktion besteht darin, ausführbare Programme direkt aus Modellen zu synthetisieren, die auf algorithmischen Aufgaben trainiert wurden, ohne auf menschlich geschriebenen Code zurückzugreifen. Während dieser Ansatz bei rekurrenten neuronalen Netzen (RNNs) mittels mechanischer Interpretierbarkeit (z. B. MIPS-Framework) erfolgreich war, stößt er bei der dominanten Transformer-Architektur an Grenzen.

Das Hauptproblem liegt in der Repräsentationsverschränkung (Representation Entanglement), insbesondere dem Phänomen der Superposition. In Standard-Transformern werden Merkmale in überlappenden, nicht-orthogonalen Richtungen kodiert, anstatt in einzelnen Neuronen. Dies führt zu hochgradig verflochtenen und polysemantischen internen Darstellungen, die eine direkte Extraktion expliziter symbolischer Ausdrücke (für die symbolische Regression notwendig) unmöglich machen. Die Diskrepanz zwischen den kontinuierlichen, hochdimensionalen Darstellungen des Transformers und der diskreten, spärlichen Natur symbolischer Algorithmen muss überbrückt werden.

2. Methodik: Der Discrete Transformer

Die Autoren schlagen den Discrete Transformer vor, eine Architektur, die explizit für die Brücke zwischen kontinuierlicher Optimierung und diskreter Logik entwickelt wurde.

Architektonische Design-Entscheidungen:

Numerischer Residual-Stream: Statt latenter Vektoren wird der Residual-Stream als Sammlung expliziter skalare Variablen definiert. Updates erfolgen durch Verkettung (Concatenation) neuer Ausgaben, um eine vollständige, entflochtene Historie der Berechnung zu bewahren.
Funktionale Entkopplung: Die Architektur folgt dem RASP-Modell (Restricted Access Sequence Processing) und trennt strikt zwei Funktionen:
1. Numerische Attention: Dient ausschließlich als Router für Informationen (Information Routing). Sie nutzt eine „Piecewise Linear Encoding" (PLE), um skalare Werte in einen höherdimensionalen Raum zu projizieren, und wendet eine harte Attention-Mechanik an, um spezifische Werte aus der Historie zu kopieren (z. B. „Offset -1").
2. Numerisches MLP: Ist ausschließlich für elementweise arithmetische und logische Operationen zuständig. Es wird in parallele, unabhängige Sub-Module zerlegt, die jeweils nur wenige Eingaben (typischerweise $k=2$ ) verarbeiten.
Temperatur-gesteuerte Diskretisierung: Um die Optimierung innerhalb eines differenzierbaren Rahmens zu ermöglichen, wird eine Sampling-Funktion mit einer Temperatur $\tau$ eingeführt. Durch Temperatur-Annealing (Abkühlung von $\tau$ von 10,0 auf 0,1) während des Trainings wandelt sich das Modell schrittweise von einem probabilistischen in einen deterministischen, diskreten Berechnungsgraphen um.

Extraktions-Pipeline (Von Gewichten zu Code):
Sobald das Modell konvergiert ist, wird der Algorithmus in drei Schritten extrahiert:

Hypothesentest für Attention: Die Attention-Muster werden analysiert, um interpretierbare Routings zu identifizieren (z. B. „Fixed Offset" für relative Positionen oder „Windowed Extrema" für inhaltsbasierte Auswahl).
Symbolische Regression für MLP: Da die MLP-Sub-Module isolierte Abbildungen mit niedriger Dimensionalität sind, wird Symbolische Regression (z. B. PySR) verwendet, um geschlossene algebraische Ausdrücke für die arithmetischen Operationen zu finden.
Globale Programmzusammenstellung: Die extrahierten Primitiven (Pointer und arithmetische Ausdrücke) werden durch den linearen Output-Head zu einem konsistenten, ausführbaren Python-Programm zusammengeführt.

3. Wichtige Beiträge

Neue Architektur: Einführung des Discrete Transformers, einer RASP-konformen Architektur, die funktionale Entkopplung erzwingt, um kontinuierliche Optimierung mit diskreter Logik zu verbinden.
Modulare Extraktions-Pipeline: Entwicklung einer Pipeline, die Hypothesentests und symbolische Regression kombiniert, wodurch die mechanisch-interpretierbare Synthese auf kontinuierliche Variablen erweitert wird.
Kontrollierbare Entdeckung: Nachweis, dass architektonische Induktionsverzerrungen (z. B. Einschränkung der Anzahl der Sub-MLPs) genutzt werden können, um den Suchraum für Algorithmen zu steuern und spezifische Lösungspfade zu erzwingen.

4. Ergebnisse

Die Evaluation erfolgte auf einem Benchmark mit verschiedenen algorithmischen Aufgaben (lineare Arithmetik, nicht-lineare Komposition, kontinuierliche Dynamik).

Leistung: Der Discrete Transformer erreicht eine Genauigkeit von 1,00 bei den meisten Aufgaben und ein MSE (Mean Squared Error) nahe Null, was mit der Leistung des RNN-basierten MIPS-Verfahrens vergleichbar ist.
Extraktionsqualität: Die extrahierten Programme sind ausführbar und menschlich lesbar.
- Bei linearen Aufgaben (z. B. sum last2) wurde die exakte Logik ( $y_t = x_t + x_{t-1}$ ) wiederhergestellt.
- Bei nicht-linearen Aufgaben (z. B. parity last2) wurden algebraisch äquivalente exakte Formeln gefunden (z. B. $y_t = x_t + x_{-1} - 2x_t x_{t-1}$ für XOR).
- Bei Aufgaben mit ReLU-Logik (max, min) wurden die piecewise-linearen Implementierungen korrekt rekonstruiert.
Erweiterung auf kontinuierliche Dynamik: Im Gegensatz zu MIPS, das auf diskrete latente Zustände beschränkt ist, kann der Discrete Transformer kontinuierliche Variablen nativ verarbeiten. Dies ermöglicht die Extraktion von Algorithmen für physikalische Aufgaben wie „Exponential Moving Average" und „Free Fall Height", die für frühere Methoden nicht zugänglich waren.
Trainingsdynamik: Die Analyse zeigt eine klare Phasenübergang: Zuerst erfolgt eine funktionale Konvergenz (Lernen der Mapping-Funktionen), gefolgt von der strukturellen Diskretisierung (Verfestigung der Architektur), was einen robusten Übergang von Exploration zu Exploitation sicherstellt.

5. Bedeutung und Ausblick

Das Paper stellt einen bedeutenden Fortschritt im Bereich der mechanischen Interpretierbarkeit und der Programmsynthese dar.

Demonstration-freie Entdeckung: Es ermöglicht die Entdeckung neuer, verifizierbarer Algorithmen direkt aus Daten, unabhängig von menschlichen Vorlagen.
Interpretierbarkeit von Transformern: Es bietet einen Weg, die „Black-Box"-Natur von Transformern zu durchdringen, indem es sie in explizite, symbolische Regeln übersetzt.
Kontrollierbarkeit: Die Arbeit zeigt, dass durch gezielte architektonische Einschränkungen die Art des gelernten Algorithmus gesteuert werden kann, was für wissenschaftliche Entdeckungen (Scientific Discovery) von großem Wert ist.

Zusammenfassend etabliert der Discrete Transformer ein robustes Framework, das die Lücke zwischen der Leistungsfähigkeit moderner Transformer-Modelle und der Notwendigkeit nach interpretierbaren, symbolischen Algorithmen schließt.