💬 NLP

From Observation to Intervention: A Causal Audit of Expert Importance in Mixture-of-Experts Models

Dieses Paper demonstriert durch ein Token-Level-Interventionsaudit von drei Mixture-of-Experts-Modellen, dass gängige observationale Routing-Metriken versagen, die kausale Expertenrelevanz vorherzusagen, was offenbart, dass bestehende Pruning-Methoden aufgrund von Redundanz in frühen Schichten und nicht durch die präzise Identifizierung entbehrlicher Experten erfolgreich sind.

Ursprüngliche Autoren: Leonard Engmann, Christian Medeiros Adriano, Holger Giese

Veröffentlicht 2026-06-10

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Leonard Engmann, Christian Medeiros Adriano, Holger Giese

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten eine riesige, hochmoderne Küche mit 64 verschiedenen Köchen (den „Experten“), die zusammenarbeiten, um eine einzige Mahlzeit (die Ausgabe des Modells) zuzubereiten. Doch in jedem Moment arbeiten nur wenige der Köche tatsächlich, während der Rest bereitsteht. So funktionieren Mixture-of-Experts (MoE) KI-Modelle.

Um diese Modelle schneller und kostengünstiger zu machen, versuchen Ingenieure oft, die „nutzlosen“ Köche zu entlassen. Sie benötigen eine Methode, um zu entscheiden, wen sie behalten und wen sie gehen lassen.

Der alte Weg: Durch Beobachten raten

Derzeit nutzen Ingenieure eine Methode, die dem Zuschauen bei einem Sportspiel von der Tribüne aus gleicht. Sie betrachten die Statistiken:

„Koch A wurde heute 50 Mal gerufen.“ (Auslastungsrate)
„Koch B hat mit viel Energie gekocht.“ (Aktivierungsnorm)
„Der Chefkoch wählt meistens Koch C aus.“ (Routing-Gewicht)

Basierend auf diesen Beobachtungen nehmen sie an: „Wenn Koch A selten gerufen wird oder schwach arbeitet, muss er unwichtige Arbeit leisten. Lassen wir ihn gehen.“

Das Paper argumentiert, dass dies ein gefährlicher Sprung ist. Es ist, als würde man annehmen, dass ein Spieler nicht wichtig war, nur weil er während eines Spiels den Ball kaum berührt hat. Vielleicht wartete er nur auf den perfekten Moment für einen spielentscheidenden Spielzug. Das Paper stellt die Frage: Sagen uns die Statistiken tatsächlich, wer wichtig ist, wenn wir versuchen, sie zu entfernen?

Das Experiment: Der „Feuern und Sehen“-Test

Die Forscher beschlossen, aufzuhören zu raten und stattdin zu testen. Sie führten ein „kausales Audit“ (ein wissenschaftliches Experiment) mit drei verschiedenen KI-Modellen durch.

Anstatt nur die Köche zu beobachten, führene sie eine kontrollierte Intervention durch:

Sie wählten einen spezifischen Moment im Kochprozess (ein spezifisches „Token“ oder Wort).
Sie identifizierten die derzeit arbeitenden Köche.
Sie stummgeschalteten (ablatierten) den Koch, der basierend auf den alten Statistiken als „am wenigsten wichtig“ erschien.
Sie prüften: Schmeckte die Mahlzeit schlechter? (Änderte sich die Vorhersage des Modells?)

Sie führten dies tausende Male durch und verglichen die „am wenigsten wichtigen“ Köfe mit den „am wichtigstensten“ Köchen gemäß den Statistiken.

Die Ergebnisse: Die Statistiken waren falsch

Die Ergebnisse waren überraschend und eindeutig: Die Statistiken versagten.

Kein Zusammenhang: In fast allen Fällen hatte das Entlassen des „niedrig-statistischen“ Kochs keine Auswirkung auf die Mahlzeit. Das Modell kümmerte es nicht.
Das „Null-Ergebnis“: Der Unterschied zwischen dem Entlassen eines „niedrig-statistischen“ Kochs und eines „hoch-statistischen“ Kochs war so winzig, dass er praktisch null war. Die alten Methoden fanden keine „nutzlosen“ Köche; sie wählten lediglich zufällige Köfe zum Entlassen aus.
Warum es trotzdem funktioniert (Das Geheimnis der Redundanz): Das Paper erklärt, dass diese Modelle mit massiver Redundanz gebaut sind. In den frühen Schichten des Modells gibt es so viele Köche, die ähnliche Arbeit leisten, dass man fast jeden entlassen könnte und die Küche würde dennoch normal weiterlaufen. Die Pruning-Methoden funktionieren nicht deshalb, weil sie klug darin sind, die richtigen Leute zu entlassen, sondern weil die Küche so überbesetzt ist, dass fast jede Entlassungsstrategie durch Zufall funktioniert.

Die eine Ausnahme: Das „Live“-Signal

Es gab eine winzige Ausnahme. In einem spezifischen Modell (OLMoE) und nur in der allerletzten Schicht der Küche fanden die Forscher ein Signal.

Der Haken: Dieses Signal funktionierte nur, wenn sie den exakten, Live-Moment betrachteten, in dem ein Koch arbeitete.
Das Problem: Dieses Signal ist für die reale Welt nutzlos, da man nicht wissen kann, wen man entlassen soll, bevor man mit dem Kochen beginnt. Man muss zuerst die spezifische Zutat (das Token) sehen, um zu wissen, welcher Koch wichtig ist. Da man die Zukunft nicht sehen kann, kann dieser „perfekte“ Metrikwert nicht verwendet werden, um das Modell im Voraus zu beschneiden (pruning).

Das große Ganze: Beobachtung vs. Intervention

Das Paper nutzt ein berühmtes Konzept des Philosophen Judea Pearl, um den Fehler zu erklären:

Stufe 1 (Beobachtung): „Ich sehe, dass Koch A selten kocht.“
Stufe 2 (Intervention): „Wenn ich Koch A entlasse, wird die Mahlzeit in Ordnung sein.“

Das Paper zeigt, dass der Sprung von Stufe 1 zu Stufe 2 in diesem Kontext ungültig ist. Nur weil man ein Muster sieht, bedeutet das nicht, dass man darauf handeln kann.

Zusammenfassung

Die Behauptung: Die gängige Methode, „Nutzungsstatistiken“ zu verwenden, um zu entscheiden, welche KI-Experten man entfernen sollte, ist wissenschaftlich unbewiesen und wahrscheinlich falsch.
Die Realität: Diese Modelle funktionieren nach dem Pruning nicht deshalb, weil die Statistiken gut darin waren, nutzlose Teile zu finden, sondern weil die Modelle so redundant sind, dass man sie kaum beschädigen kann, indem man wahllos Leute entlässt.
Die Lektion: Wir können nicht davon ausgehen, dass das, was wir im Modell sehen (Statistik), uns sagt, was passieren wird, wenn wir das Modell verändern (Intervention). Wir müssen die Änderungen direkt testen, anstatt nur anhand der Zahlen zu raten.

Technisches Resümee: Von der Beobachtung zur Intervention

Problemstellung
Interpretationsmethoden im maschinellen Lernen verlassen sich häufig auf einen logischen Sprung: Sie behandeln populationsweite Zusammenfassungen der beobachteten Modellleistung als valide Prädiktoren für die Ergebnisse gezielter Interventionen. Im Kontext von Mixture-of-Experts (MoE)-Modellen manifestiert sich dies in Pruning-Pipelines, in denen beobachtungsbasierte Metriken – wie Experten-Nutzungsraten, Aktivierungsnormen und Routing-Gewichtsverteilungen – verwendet werden, um Experten für die Entfernung zu ranken. Die implizite Annahme ist, dass Experten mit höheren Beobachtungswerten kritischere Arbeit leisten und somit das Entfernen von Experten mit niedrigen Scores die Funktionalität des Modells nicht beeinträchtigt. Wie jedoch in vorangegangenen Arbeiten zu Attention-Gewichten (Jain & Wallace, 2019) und Saliency Maps (Adebayo et al., 2020) festgestellt wurde, liefert assoziative Evidenz (Pearls „Stufe 1“) nicht automatisch Unterstützung für interventionale Schlussfolgerungen („Stufe 2“). Diese Arbeit untersucht, ob beobachtete Routing-Statistiken in MoE-Modellen tatsächlich die kausale Wichtigkeit von Experten auf Token-Ebene vorhersagen.

Methodik
Die Autoren führen ein „kausales Audit“ über drei hochredundante MoE-Architekturen durch: OLMoE-1B-7B-0924, Qwen1.5-MoE-A2.7B und DeepSeek-V2-Lite. Diese Modelle decken verschiedene Designdimensionen ab, einschließlich unterschiedlicher Load-Balancing-Strategien, Top-k-Aktivierungsverhältnisse (6,7 %–12,5 %) und Trainingsparadigmen (Scratch vs. Upcycling).

Das Audit-Protokoll umfasst die folgenden Schritte:

Metrik-Selektion: Vier kanonische Beobachtungsmetriken werden getestet: Nutzungsrate, Aktivierungsnorm, mittleres Routing-Gewicht bei Aktivierung und die Standardabweichung der Aktivierung.
Interventionale Grundwahrheit: Für jede Metrik führen die Autoren pro-Token-Ablations-Experimente durch. An 200 Stichproben-Tokenpositionen pro Schicht identifizieren sie die Menge der aktiven Experten, ranken sie nach der Zielmetrik und ablatierten (setzen auf Null) die am höchsten und am niedrigsten gerankten Experten.
Kausale Messung: Die „funktionale Wichtigkeit“ eines Experten wird durch die Änderung des Loss ( $\Delta L$ ) und die Verschiebung des Residual-Streams (Gap-Norm) infolge der Ablation gemessen.
Statistische Tests: Ein gepaarter t-Test und ein Wilcoxon-Vorzeichen-Rang-Test werden verwendet, um zu bestimmen, ob die Ablation hochgerankter Experten signifikant größere Loss-Änderungen verursacht als die Ablation niedriggerankter Experten. Effektstärken werden mittels Cohen's $d$ gemessen.
Kontrollen:
- Korrektur für multiples Testen: Eine Bonferroni-Korrektur wird über die 60 getesteten Metrik-Schicht-Kombinationen (4 Metriken $\times$ 5 Schichten $\times$ 3 Modelle) angewendet.
- Routing-Gewichts-Kontrolle: Ein paralleles Experiment verwendet direkte pro-Token Routing-Gewichte ( $g_i(x_t)$ ) als Ranking-Kriterium. Dies dient als obere Schranke für das prädiktive Signal, da es token-konditioniert und nicht populationsgemittelt ist.
- Progressive Ablation: Ein Experiment an OLMoE entfernt $k$ höchstgewichtete Experten, um den Redundanzpuffer in frühen Schichten zu bewerten.

Kernergebnisse
Die Studie liefert ein „sauberes Drei-Modell-Nullergebnis“ hinsichtlich der Beobachtungsmetriken:

Keine prädiktive Kraft: Keine der vier Beobachtungsmetriken erreichte die Bonferroni-korrigierte Signifikanz ( $p < 0,0025$ ) in einer der 60 Metrik-Schicht-Zellen. Die Effektstärken blieben über alle Kombinationen hinweg unter Cohen's $d = 0,17$ .
Inkonsistente Vorzeichen: Die Richtung der Effekte (positiv oder negativ) war innerhalb derselben Metrik über die Schichten hinweg inkonsistent – ein Muster, das charakteristisch für Nullverteilungen und nicht für schwache wahre Effekte ist.
Routing-Gewichts-Kontrolle: Das Kontrollexperiment mit direkten pro-Token Routing-Gewichten stellte ein einziges Bonferroni-signifikantes Signal in OLMoE in der finalen MoE-Schicht wieder her (Layer 15, $d = +0,231, p = 0,0013$ ). Dies zeigt, dass das experimentelle Setup über genügend statistische Power verfügt, um Signale zu detektieren, solche Signale jedoch für populationsweite Statistiken fehlen.
Redundanz-Regime: Die progressive Ablation an OLMoE zeigte, dass in frühen Schichten (0–9) das Entfernen von bis zu sieben der acht aktiven Experten zu vernach{\ willing}en (vernachlässigbaren) Loss-Änderungen führte. Dies bestätigt, dass die Redundanz in frühen Schichten die meisten Auswahlkriterien austauschbar macht; Pruning ist erfolgreich, nicht weil die Metriken dispensable (entbehrliche) Experten identifizieren, sondern weil fast alle Experten in diesen Schichten entbehrlich sind.
OLMoE Spät-Schicht-Anomalie: Das einzige signifikante Signal in OLMoE Layer 15 fällt mit einer 41-fachen Zunahme der Residual-Stream-Verschiebung im Vergleich zu frühen Schichten zusammen. Dieses Signal ist jedoch einzigartig für OLMoE und tritt in Qwen oder DeepSeek nicht auf, was darauf hindeutet, dass es keine allgemeine Eigenschaft von hochredundanten MoEs ist.

Bedeutung und Ansprüche
Die Arbeit stellt einen bescheidenen, aber rigorosen Anspruch auf: Sie liefert ein explizites Gegenbeispiel für den häufigen inferentiellen Schritt von populationsweiten Beobachtungssummen zu token-basierten interventionalen Ansprüchen über die Wichtigkeit von Experten.

Scheitern der Inferenz: Die Ergebnisse zeigen, dass beobachtete Routing-Statistiken keine token-basierte interventionale Vorhersage der Expertenwichtigkeit zulassen. Der Erfolg bestehender Pruning-Methoden wird der strukturellen Redundanz früher Schichten zugeschrieben und nicht der Validität der verwendeten Metriken zur Auswahl der Experten.
Kausale Hierarchie: Die Arbeit illustriert ein Scheitern an der Grenze zwischen Pearls Stufe 1 (Assoziation) und Stufe 2 (Intervention). Genau wie Attention-Gewichte und Saliency Maps in vorangegangenen Studien die Interventionsergebnisse nicht vorhersagen konnten, versagen auch MoE-Routing-Statistiken als valide Proxys für die kausale Wichtigkeit.
Geltungsbereich-Einschränkungen: Die Autoren stellen klar, dass das Audit auf Token-Ebene und auf Einzel-Ablation fokussiert ist. Es falsifiziert nicht die eingesetzten Pruning-Pipelines (die oft Fine-Tuning beinhalten), aber es entfernt die mechanistische Rechtfertigung auf Token-Ebene, die solche Pipelines voraussetzen. Die Befunde sind spezifisch für hochredundante Architekturen; die Validität von Metriken in Modellen mit geringer Redundanz (z. B. Switch, Mixtral) bleibt eine offene Frage.

Zusammenfassend argumentiert das Paper, dass Interpretationsansprüche, die eine Generalisierung erfordern, durch interventionale Evidenz gestützt werden müssen, und dass im spezifischen Fall des MoE-Prunings die standardmäßigen Beobachtungsproxis diesem Test nicht standhalten.