Attention Sinks and Outliers in Attention Residuals

Technische Zusammenfassung: OASIS – Outlier- und Sink-bewusstes Routing für AttnResidual-Architekturen

Problemstellung
Die Arbeit behandelt kritische Stabilitäts- und Robustheitsprobleme, die in AttnResidual-Architekturen auftreten, einem neuen Design, das die standardmäßige Softmax-Normalisierung auf einer einzigen Ebene durch ein Dual-Normalisierungsschema ersetzt, das sowohl das Token-Level- als auch das Depth-Level-Attention-Routing steuert. Während AttnResidual die Ausdruckskraft der Repräsentation verbessert, identifizieren die Autoren einen strukturellen Fehlermodus: Das Dual-Normalisierung-Design verschärft Attention Sinks und Aktivierungs-Outlier.

In Standard-Transformern akkumulieren Attention Sinks (z. B. das <|begin_of_text|>-Token) Wahrscheinlichkeitsmasse, um Repräsentationen zu stabilisieren. In AttnResidual jedoch zwingt die zusätzliche Simplex-Bedingung beim Depth-Routing dazu, dass „No-Op"- (Identitäts-)Updates durch echte Token und echte Depth-Branches ausgedrückt werden müssen, anstatt über einen expliziten Null-Kanal. Diese Bedingung erfordert extreme Pre-Softmax-Logits, um Identitätsupdates zu approximieren, was zu Folgendem führt:

1. Verschärfte Attention Sinks: Vertiefte Konzentration auf frühe Token.
2. Verstärkte Aktivierungs-Outlier: Versteckte Zustände weisen heavy-tailed Verteilungen (hohe Kurtosis) und große Infinity-Normen auf.
3. Quantisierungsbrüchigkeit: Diese Outlier beeinträchtigen die Inferenzstabilität und machen eine Low-Bit-Quantisierung (z. B. W4A4, W8A8) erheblich weniger robust.
4. Depth-Collapse: Routing-Gewichte kollabieren in Richtung eines einzigen dominanten Branches, wodurch die Architektur effektiv auf ein vanilla-artiges Residualverhalten zurückfällt.

Methodik: OASIS
Die Autoren schlagen OASIS (Outlier- und Sink-bewusstes Routing via Inter-layer Null Signaling) vor, eine leichte Intervention, die die Normalisierungsschicht modifiziert, ohne das Trainingsziel oder das grundlegende architektonische Gerüst zu verändern. OASIS wirkt auf zwei Ebenen:

1. Null-bewusstes Routing (Softmax1):
   Die Methode ersetzt die Standard-Softmax-Operatoren sowohl auf Token- als auch auf Depth-Ebene durch Softmax1. Diese Funktion führt einen expliziten Null-Zustand (bezeichnet als $\emptyset$) in den Nenner der Normalisierung ein.

   • Token-Ebene: Ermöglicht es, dass Attention-Masse in einen „Null"-Zustand geroutet wird, anstatt sie auf echte Token zu zwingen.
   • Depth-Ebene: Ermöglicht es, dass Depth-Routing-Gewichte „No-Op"-Druck über eine Null-Schicht absorbieren, was die Konzentration von Masse auf bestimmte Depth-Branches verhindert.
   • Mechanismus: Durch die Entkopplung nicht-informativer Masse vom Wettbewerb zwischen echten Token/Branches reduziert Softmax1 die Notwendigkeit extremer Logit-Verstärkung.

2. Token-zu-Depth Null-Kopplung:
   Da Token-Level- und Depth-Level-Routing bei Standard-Softmax1 weiterhin entkoppelt bleiben, führt OASIS einen Kopplungsmechanismus ein. Es aggregiert Token-Level-Null-Evidenz (die Wahrscheinlichkeitsmasse, die über Attention-Heads in den Null-Zustand geroutet wird) zu einer skalaren Statistik für jeden Quell-Branch. Diese Statistik wird dann in die Depth-Routing-Logits injiziert.

   • Wirkung: Branches, die ein hohes „No-Op"-Verhalten zeigen (hohe Null-Masse), werden beim Depth-Routing herabgestuft, während informative Branches heraufgestuft werden. Dies verhindert, dass der Depth-Router signifikante Gewichte auf uninformative Schichten verteilt.

Hauptbeiträge

• Identifikation eines strukturellen Versagens: Die Arbeit identifiziert formal, dass das Dual-Normalisierung-Design von AttnResidual Outlier und Sinks strukturell verstärkt, da es keinen expliziten Null-Pfad für nahezu-Identitäts-Updates bietet.
• Theoretische Analyse: Die Autoren liefern theoretische Beweise (Lemma 5.1, 5.2; Theorem 5.1, 5.2), die zeigen, dass:
  • Ohne Null-Kanal nahezu-No-Op-Bedingungen Attention-Masse auf Token mit geringem Beitrag zwingen, was Outlier erzeugt.
  • Dual-Normalisierung zu einem Depth-Collapse führt, bei dem sich das Routing auf Branches mit minimalen Updates konzentriert.
  • Softmax1 eine praktikable Null-Route einführt, die No-Op-Verhalten von der Allokation echter Token entkoppelt und theoretisch den strukturellen Druck reduziert.
• OASIS-Rahmenwerk: Eine praktische, minimale Modifikation (Ersetzen von Softmax durch Softmax1 und Hinzufügen eines Kopplungsterms), die diese Pathologien mildert.

Experimentelle Ergebnisse
Die Autoren evaluierten OASIS auf den Backbones Llama-3.2-1B und Qwen3-0.6B über drei reale Datensätze (BookCorpus, Wiki40B, WikiText-2, GSM8K).

• Unterdrückung von Outliern: Im Vergleich zur Vanilla-AttnResidual-Baseline erreichte OASIS eine durchschnittliche Reduktion der maximalen Infinity-Norm um 84,14 % und der durchschnittlichen Kurtosis um 96,77 %.
• Robustheit gegenüber Quantisierung:
  • Unter W8A8-Quantisierung senkte OASIS die Perplexität im Vergleich zu Vanilla um 73,55 %.
  • Unter W4A4-Quantisierung verbesserte OASIS die GSM8K Pass@1-Genauigkeit um 23,47 %.
• Minderung von Attention Sinks: Eine qualitative Analyse der Attention-Karten zeigte, dass OASIS die Attention effektiv vom dominanten First-Token-Sink umverteilt und im Vergleich zu Vanilla und intermediären Baselines (wie AoS oder OutEffHop) glattere, lokalere kausale Attention-Muster erzeugt.
• Vergleich: OASIS übertraf Baselines einschließlich Clip Attention, Gated Attention, OutEffHop und sparse Normalizer (Sparsemax, Entmax15) sowohl bei Outlier-Metriken als auch bei der Leistung in nachgelagerten Aufgaben unter aggressiver Quantisierung konsistent.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass OASIS eine prinzipielle Lösung für die Robustheitsgrenzen dual-normalisierter Architekturen bietet. Durch die Einführung expliziter Null-Kapazität stabilisiert die Methode das Residual-Routing und ermöglicht es Modellen, aggressive Komprimierung (Low-Bit-Quantisierung) und Inferenz mit langem Kontext zu bewältigen, ohne die typische Verschlechterung durch Attention Sinks und Aktivierungs-Outlier. Die Autoren betonen, dass diese Verbesserungen erreicht werden, ohne das Trainingsziel zu ändern, was darauf hindeutet, dass explizites Null-Routing ein grundlegender Mechanismus zur Stabilisierung komplexer Residualarchitekturen ist.

Limitationen
Die Autoren weisen darauf hin, dass ihre Evaluation derzeit auf spezifische Backbone-Modelle (1B und 0,6B Parameter) beschränkt ist und eine breitere Validierung an größeren Modellen erforderlich ist. Sie warnen zudem, dass eine übermäßige Null-Allokation nützliche schwache Signale unterdrücken oder die Interpretierbarkeit von Attention-Karten verändern könnte, und schlagen zukünftige Arbeiten zur adaptiven Steuerung der Null-Stärke vor.