🤖 machine learning

Feed-Forward Steering in Transformer Residual Dynamics

Diese Arbeit erweitert die rein auf Attention basierenden Dynamiktheorien von Transformern, indem sie Feed-Forward-Netzwerke als lokale Steuerfelder modelliert, wobei sie zeigt, dass deren Tangentialkomponenten essenziell für die Residualbewegung und die Modellleistung sind, während sie gleichzeitig Kommutatordefekte als eine zentrale Metrik zur Bestimmung der Durchführbarkeit einer Parallelisierung von Attention- und FFN-Blöcken identifiziert.

Ursprüngliche Autoren: Timur Mudarisov, Mikhail Burtsev, Radu State

Veröffentlicht 2026-08-04

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Timur Mudarisov, Mikhail Burtsev, Radu State

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie beobachten eine riesige, unsichtbare Tanzparty im Inneren eines Computergehirns. Dies ist keine Party mit Musik und Flashing Lights, sondern mit Wörtern und Zahlen. In der Welt der künstlichen Intelligenz, speziell bei den „Transformern“, die Chatbots und Suchmaschinen antreiben, gibt es einen ständigen Fluss von Informationen, den man „Residual Stream“ nennt. Denken Sie an diesen Strom als einen Fluss, der winzige Boote (Tokens) trägt, die Wörter repräsentieren. Lange Zeit glaubten Wissenschaftler, dass das Einzige, was diese Boote steuerte, ein Mechanismus namens „Attention“ (Aufmerksamkeit) war. Man kann sich Attention als einen riesigen, unsichtbaren Magneten vorstellen, der Boote zueinander zieht, wenn sie über ähnliche Dinge sprechen. Wenn ein Boot „König“ sagt, zieht der Magnet es vielleicht näher zu einem Boot, das „Königin“ sagt. Diese Anziehungskraft wird als „Aggregation“ bezeichnet, und deshalb beginnen Wörter, die zusammengehören, in dieselbe Richtung zu klumpen.

Es gibt jedoch noch einen anderen Teil der Tanzfläche: das Feed-Forward-Netzwerk, oder FFN. Wenn Attention der Magnet ist, der die Boote zusammenzieht, dann ist das FFN wie ein lokaler DJ oder ein persönlicher Coach, der direkt neben jedem Boot steht und es in eine bestimmte Richtung stößt. Jahrelang dachten Forscher, das FFN sei nur ein Nebencharakter, der vielleicht nur die Geschwindigkeit der Boote anpasst oder ihre Lautstärke korrigiert. Eine neue Arbeit stellt jedoch eine große Frage: Ist das FFN nur ein Lautstärkeregler oder ist es tatsächlich das Lenkrad, das entscheidet, wohin die Boote fahren? Das Verständnis dessen ist wichtig, denn wenn wir genau wissen, wie sich diese Wort-Boote bewegen, können wir KI schneller, intelligenter und einfacher zu reparieren machen, wenn sie Fehler macht.

Die große Entdeckung des Papers: Der DJ ist der Kapitän

Dieses Paper mit dem Titel „Feed-Forward Steering in Transformer Residual Dynamics“ legt nahe, dass die alte Sichtweise ein entscheidendes Puzzleteil übersehen hat. Die Autoren schlagen einen neuen Weg vor, die Tanzfläche zu betrachten: Attention ist die „Aggregation“, die alle zu einer gemeinsamen Gruppe zieht, aber das FFN ist ein „Steuerungsfeld“ (Steering Field), das einzelne Boote aktiv in neue Richtungen stößt. Sie behandeln die Bewegung dieser Wort-Boote als ein Physikproblem, bei dem die Boote Teilchen sind, die sich auf einer Sphäre bewegen (wie die Oberfläche eines Globus).

Die Forscher fanden heraus, dass das FFN die Boote nicht nur vorwärts oder rückwärts drückt (was nur ihre Geschwindigkeit oder Größe ändern würde), sondern dass der wichtigste Teil der Aufgabe des FFN darin besteht, sie zur Seite zu drücken, also „tangential“. Stellen Sie sich ein Boot auf einem Globus vor: Wenn man es zum Nordpol drückt, ändert das seine Größe im Verhältnis zum Zentrum, aber wenn man es zur Seite drückt, ändert das seine tatsächliche Richtung auf der Karte. Das Paper zeigt, dass dieser seitliche Stoß das ist, was die Bedeutung und den Pfad des Wortes tatsächlich verändert.

Was sie taten und was sie fanden

Um dies zu beweisen, untersuchte das Team in einer Reihe von Experimenten mehrere berühmte KI-Modelle, darunter GPT-2, Pythia, Mistral und Llama-3. Sie behandelten die KI wie ein Labor, in dem man Teile an- oder ausschalten oder die Funktionsweise verändern konnte.

Zuer Sie prüften, ob Attention allein erklären konnte, wohin die Boote steuerten. Dabei stellten sie ein massives „Angular-Alignment-Defizit“ fest. In einfachen Worten: Wenn sie nur den Attention-Magneten arbeiten ließen, zeigten die Boote in eine falsche Richtung im Vergleich zu dem, wohin die echte KI sie geschickt hätte. Dieses Defizit wurde größer, je größer und neuer die Modelle waren – von etwa 0,41 bei GPT-2 auf 0,63 bei Llama-3-8B. Dies deutet darauf hin, dass die KI verloren wäre, wenn sie ohne das FFN-Steuern nicht auskäme.

Als Nächstes führten sie eine „Operation“ am FFN durch. Sie spalteten den Stoß des FFN in zwei Teile auf: den „radialen“ Teil (vorwärts/rückwärts drücken) und den „tangentialen“ Teil (seitlich drücken).

Wenn sie nur den radialen Teil beibehielten, brach die Leistung der KI vollständig zusammen, so als hätte man das FFN komplett entfernt.
Wenn sie nur den tangentialen Teil beibehielten, funktionierte die KI fast perfekt weiter, mit nur einem minimalen Qualitätsverlust.

Dies war der Beweis. Es bewies, dass die Hauptaufgabe des FFN darin besteht, die Richtung der Wörter zu steuern, und nicht nur deren Größe anzupassen.

Sie untersuchten auch, was passiert, wenn der Attention-Magnet zu stark zieht und versucht, alle Boote in einen winzigen Klumpen zu quetschen (ein Problem, das „Rank Collapse“ genannt wird). Sie fanden heraus, dass das FFN als Gegenkraft wirkt. Während Attention versucht, die Boote zusammenzupressen, drückt das FFN sie auseinander, um die Gruppe vielfältig zu halten und zu verhindern, dass sie alle zum selben Wort werden. Es ist wie ein DJ, der bemerkt, dass sich alle in der Mitte drängen, und dann einen Beat spielt, der die Leute wieder auseinander treibt.

Ein praktischer Trick: Den Tanz beschleunigen

Der spannendste Teil des Papers ist ein praktischer Trick, den sie entdeckten. In einer Standard-KI werden die Boote zuerst vom Attention-Magneten gezogen und dann gibt der FFN-Coach ihnen einen Stoß. Dies geschieht nacheinander (sequenziell). Die Forscher fragten sich: „Was wäre, wenn wir den Magneten und den Coach gleichzeitig (parallel) arbeiten ließen?“

Normalerweise kann man das nicht tun, weil der Coach erst sehen muss, wohin der Magnet das Boot gezogen hat. Aber das Team maß einen „Defekt-Score“, um zu sehen, wie sehr die Reihenfolge für jede Schicht der KI wichtig war. Sie fanden heraus, dass die Reihenfolge für einige Schichten nicht viel ausmachte. Durch Identifizierung dieser „Low-Defect“-Schichten konnten sie die Attention- und die FFN-Teile gleichzeitig laufen lassen.

Bei GPT-2-large gelang es ihnen, den Prozess um etwa das 1,24-fache zu beschleunigen, bei fast keinem Qualitätsverlust (nur +0,02 Verlust).
Bei Mistral erreichten sie eine 1,10-fache Beschleunigung mit einem minimalen Verlust von +0,009.

Wenn sie dies jedoch auf Schichten anwenden wollten, bei denen die Reihenfolge doch wichtig war (High-Defect-Layers), brach die Leistung der KI zusammen. Dies deutet darauf hin, dass wir die gesamte KI zwar nicht sofort parallel laufen lassen können, aber spezifische Teile davon beschleunigen können, wenn wir genau wissen, wie die Steuerung funktioniert.

Was das bedeutet

Das Paper behauptet nicht, alles über KI gelöst zu haben, aber es verändert die Art und Weise, wie wir den Motor sehen. Es legt nahe, dass das FFN nicht nur ein Helfer ist, sondern ein gerichtetes Steuerungsfeld, das die Geometrie der Gedanken der KI formt. Es verhindert, dass die KI in eine einzige Richtung stecken bleibt, und ermöglicht ihr, komplexe Ideen zu navigieren. Indem Forscher verstehen, dass das FFN das „Lenkrad“ und nicht nur das „Gaspedal“ ist, könnten sie in der Lage sein, schnellere, effizientere KI-Modelle zu bauen, die nicht vom Weg abkommen. Die Ergebnisse basieren auf sorgfältigen Messungen und Simulationen über mehrere Modelle hinweg, was darauf hindeutet, dass diese „Aggregation-Steering“-Sichtweise eine robuste Methode ist, um zu verstehen, wie sich diese digitalen Gehirne bewegen.

Technisches Resümee: Feed-Forward-Steuerung in der Transformer-Residual-Dynamik

Problemstellung
Bestehende kontinuierliche Theorien der Transformer-Dynamik modellieren den Residual-Stream primär als ein System von Teilchen, die auf einer Sphäre aggregieren und ausschließlich durch den Attention-Mechanismus gesteuert werden. Während dieser „Attention-only“-Rahmen Phänomene wie Rank-Kollaps und Clustering erklärt, versäumt er es, die Rolle des Feed-Forward-Networks (FFN) zu berücksichtigen. Gleichzeitig identifiziert die Interpretierbarkeitsforschung FFNs als Speicherorte für Key-Value-Memories und als effektive Ziele für Editierungen, doch diese Ansichten bleiben von der Perspektive der dynamischen Systeme entkoppelt. Das zentrale Problem, das hier adressiert wird, ist die Integration des FFN in ein einheitliches dynamisches Modell der Evolution des Residual-Streams, um dessen geometrischen Einfluss auf Token-Richtungen zu erklären und die Durchführbarkeit der Approximation sequenzieller Blöcke durch parallele zu bestimmen.

Methodik
Die Autoren erweitern den kontinuierlichen Attention-Dynamik-Rahmen, indem sie das FFN als lokales Steuerfeld (Steering Field) auf die Token-Zustände integrieren. Das Modell behandelt den Residual-Stream $x_i = r_i u_i$ (wobei $u_i$ die Richtung auf der Einheitssphäre und $r_i$ die Magnitude ist) als eine Entwicklung gemäß:
$\dot{u}_i = \frac{1}{s_i(t)} P_{u_i} \left[ A_i(U) + \Phi_i(u_i) \right]$
Hierbei repräsentiert $A_i(U)$ das nicht-lokale Aggregationsfeld durch Attention, und $\Phi_i(u_i)$ ist das lokale Steuerfeld durch das FFN. $P_{u_i}$ ist die orthogonale Projektion auf den Tangentialraum, was sicherstellt, dass nur die tangentiale Komponente des Vektorfeldes die Richtung ändert, während die radiale Komponente die Magnitude (und damit die Winkelgeschwindigkeit) beeinflusst.

Die Studie verwendet vier primäre experimentelle Protokolle über GPT-2, Pythia, Mistral und Llama-Modelle hinweg:

Angular-Deficit Diagnostic: Messung der Ausrichtung zwischen dem Attention-only-Update und dem realisierten Block-Update, um den Beitrag des FFN zur Winkelbewegung zu quantifizieren.
Radial/Tangential Ablation: Zerlegung des FFN-Outputs in radiale ( $\langle u, \Phi(u) \rangle u$ ) und tangentiale ( $P_u \Phi(u)$ ) Komponenten, um zu isolieren, welche die Richtungsänderungen vorantreibt.
Diversity under Aggregation: Analyse der sphärischen Diversitätsstatistiken vor und nach den Attention- und FFN-Layern, um zu beobachten, wie das FFN der durch Attention induzierten Konzentration entgegenwirkt.
Sequential-to-Parallel Defect: Schätzung eines Layer-weisen Sensitivitäts-Scores ( $C_\ell$ ), um zu bestimmen, ob sequenzielle Blöcke ( $x + A(x) + \Phi(x+A(x))$ ) durch parallele Surrogate ( $x + A(x) + \Phi(x)$ ) ohne signifikanten Leistungsverlust approximiert werden können.

Zusätzliche Diagnosen umfassen die Layer-weise FFN-Gate-Kalibrierung, die Geometrie kritischer Punkte (Identifizierung von Attraktoren, Saddeln und Repelloren) sowie Prefix-Sensitivitätstests.

Wesentliche Beiträge

Aggregation-Steering Framework: Die Arbeit formuliert die Transformer-Residual-Dynamik als ein Aggregations-Steuerungs-Fluss auf einer Sphäre, wobei Attention für die nicht-lokale Aggregation und das FFN für die lokale Steuerung sorgt.
Identifizierung von Tangential Steering: Die Autoren demonstrieren mathematisch und empirisch, dass die tangentiale Komponente des FFN-Feldes notwendig für die Bewegung im Residual-Richtungsraum ist. Die radiale Komponente skaliert primär die Magnitude, während die tangentiale Komponente die Richtung diktiert.
Geometrie kritischer Richtungen: Die Studie identifiziert, dass kritische Residual-Richtungen korrespondieren mit nichtlinearen projektiven Gleichgewichten. Entgegen der Intuition, dass FFNs stabile Attraktoren schaffen, zeigt die Analyse, dass das FFN-Steering die lokale Geometrie aktiv in Richtung Sattel-ähnlicher und rotatorischer Transportmodi reorganisiert, wodurch die Diversität erhalten bleibt.
Sequential-to-Parallel Defect Metric: Eine direkte Defekt-Metrik wird abgeleitet, um zu charakterisieren, wann ein sequenzieller Attention-FFN-Block durch eine parallele, additive Abbildung präzise approximiert werden kann. Dieser Defekt wird durch den Richtungsableitungs-Term $D_\Phi A$ bestimmt, der sich vom reinen Lie-Bracket unterscheidet.

Ergebnisse

Angular Misalignment: Der reine Attention-Zweig weist ein erhebliches Defizit in der Winkel-Ausrichtung im Vergleich zum realisierten Block-Update auf. Dieses Defizit steigt mit der Modellskalierung an, von 0,41 bei GPT-2 bis zu 0,63 bei Llama-3-8B, was darauf hindeutet, dass das FFN nicht bloß eine sekundäre Korrektur, sondern ein primärer Treiber der Winkel-Updates ist.
Ablation-Ergebnisse: Das Beibehalten nur der tangentialen FFN-Komponente bewahrt den Großteil der Modellqualität (Loss-Steigerungen von 0,07–1,72), während das Beibehalten nur der radialen Komponente zum Kollaps der Performance führt (Loss-Steigerungen von 7,19–12,96), was vergleichbar mit der vollständigen Entfernung des FFN ist.
Erhalt der Diversität: Attention kontrahiert typischerweise die Residual-Richtungen (reduziert die Diversität), während das FFN die Diversität oft wiederherstellt oder neu formt. Die tangentiale FFN-Komponente injiziert Sattel-ähnliche und rotatorische Transportmoden, die eine übermäßige Konzentration unter Aggregationsdruck verhindern.
Parallelisierungs-Machbarkeit: Layer mit geringen Sequential-to-Parallel-Defekten (niedrige Sensitivitäts-Scores) können mit moderaten Verlusten näherungsweise parallelisiert werden. Beispielsweise liefert die Parallelisierung von 18 Low-Defect-Layern in GPT-2-large eine geschätzte Beschleunigung von 1,24× bei einem geschätzten Loss von lediglich +0,02, während die Parallelisierung von High-Defect-Layern die Performance schnell degradiert.
Kritische Geometrie: Die Komponenten-Ablation des kritischen-Richtungs-Feldes zeigt, dass FFN-only-Kandidaten überwiegend sattel-artig sind (gemischte Vorzeichen-Spektren). Das FFN schafft nicht einfach stabile Attraktoren, sondern strukturiert das Phasenporträt um, um die hochdimensionale Repräsentationsgeometrie aufrechtzuerhalten.

Bedeutung und Ansprüche
Das Paper beansprucht, die Interpretation von FFN-Layern als Richtungs-Steuerfelder zu stützen, welche die Transformer-Residual-Geometrie formen. Es argumentiert, dass das FFN essenziell ist, um die Durchführbarkeit von Block-Ebene-Interventionen zu steuern und die Diversität der Repräsentation gegen den Kollaps-Druck der Attention zu bewahren.

Die Autoren positionieren ihre Ergebnisse als Brücke zwischen der Theorie dynamischer Systeme und der Interpretierbarkeit und legen nahe, dass die „Steuerungs“-Perspektive erklärt, warum FFNs effektive Editierungs-Ziele sind und warum sie für die geometrische Stabilität des Modells notwendig sind. Die praktische Bedeutung liegt in der Identifizierung von Layern, die sicher parallelisiert werden können, um die Inferenz-Latenz zu reduzieren, ohne die Performance signifikant zu beeinträchtigen.

Das Paper bleibt hinsichtlich seines Umfangs bescheiden und merkt an, dass die theoretischen Mean-Field-Ergebnisse die volle Attention beschreiben, während Causal-Decoder-only-Modelle eine Prefix-indizierte Dynamik erfordern. Die Analysen der kritischen Punkte werden als lokale Diagnostik und nicht als globale Beschreibung des gesamten Residual-Raums präsentiert. Zudem werden die praktischen Parallelisierungs-Ergebnisse als geschätzte Submodul-Zeit-Beschleunigungen und nicht als Ansprüche für optimierte Produktions-Kernel-Performance gerahmt. Die Autoren betonen explizit, dass ihre Befunde diagnostischer Natur sind und keine universellen Garantien für Anti-Kollaps oder perfekte Parallelisierung über alle Architekturen hinweg beanspruchen.

Mehr davon