💬 NLP

All Circuits Lead to Rome: Rethinking Functional Anisotropy in Circuit and Sheaf Discovery for LLMs

Dieser Beitrag widerlegt die Annahme, dass LLM-Funktionen auf einzigartigen internen Mechanismen beruhen, indem er zeigt, dass mehrere strukturell unterschiedliche, zuverlässige Schaltkreise koexistieren können, eine überlappungsbewusste Methode zur Aufdeckung dieser nicht-kanonischen Erklärungen einführt und einen theoretischen Rahmen auf Basis hochdimensionaler Superposition vorschlägt, um diese inhärente funktionale Anisotropie zu erklären.

Ursprüngliche Autoren: Xi Chen, Mingyu Jin, Jingcheng Niu, Yutong Yin, Jinman Zhao, Bangwei Guo, Dimitris N. Metaxas, Zhaoran Wang, Yutao Yue, Gerald Penn

Veröffentlicht 2026-05-14

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Xi Chen, Mingyu Jin, Jingcheng Niu, Yutong Yin, Jinman Zhao, Bangwei Guo, Dimitris N. Metaxas, Zhaoran Wang, Yutao Yue, Gerald Penn

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Idee: Es gibt keinen einzigen „richtigen" Weg, ein Problem zu lösen

Stellen Sie sich vor, Sie bitten einen riesigen, superintelligenten Roboter (ein Large Language Model), ein Rätsel zu lösen. Seit Jahren glaubten Wissenschaftler, dass es im Gehirn des Roboters einen spezifischen, einzigartigen Pfad aus Drähten und Zahnrädern gibt, der die Antwort hervorbringt. Sie dachten, wenn man diesen einen Pfad findet, habe man das „Geheimrezept" dafür entdeckt, wie der Roboter denkt.

Dieses Paper argumentiert, dass diese Überzeugung falsch ist.

Anstatt eines geheimen Pfades verfügt der Roboter über Dutzende völlig unterschiedlicher Pfade, die alle zur exakt gleichen korrekten Antwort führen. Es ist, als würde man fragen: „Wie sind Sie zum Empire State Building gekommen?" und drei verschiedene Antworten erhält:

„Ich habe die U-Bahn genommen."
„Ich bin die Treppen hochgelaufen."
„Ich bin mit dem Hubschrauber geflogen."

Alle drei sind wahr. Alle drei haben die Person dorthin gebracht. Aber die Pfade haben fast nichts gemeinsam. Das Paper bezeichnet die alte Überzeugung als „Functional Anisotropy Hypothesis" (eine komplizierte Art zu sagen, dass Funktionen an einem spezifischen Ort lokalisiert sind). Die Autoren beweisen, dass dies falsch ist.

Das Experiment: Die „versteckten Straßen" finden

Um dies zu beweisen, verwendeten die Forscher eine Methode namens Circuit and Sheaf Discovery (CSD). Stellen Sie sich dies als einen Weg vor, Teile des Roboterhirns abzuschalten, um zu sehen, welche Teile tatsächlich die Arbeit verrichten.

Normalerweise führen Wissenschaftler diesen Test einmal durch, finden einen „Circuit" (eine Gruppe aktiver Drähte) und sagen: „Aha! So funktioniert es!"

Die Autoren machten etwas anderes. Sie führten den Test 20 Mal bei derselben Aufgabe durch, fügten jedoch eine spezielle Regel hinzu: „Wähle nicht die gleichen Drähte, die du das letzte Mal gewählt hast." Sie zwangen den Entdeckungsprozess, neue Wege zu finden, um das Problem zu lösen.

Die Ergebnisse:

Sie fanden 20 verschiedene „Circuits" (Gruppen von Drähten), die die Aufgabe alle perfekt lösten.
Diese Circuits sahen sich überhaupt nicht ähnlich. Sie nutzten verschiedene Schichten des Gehirns und verschiedene Verbindungen.
Die Überlappung zwischen ihnen war winzig (weniger als 5%). Es war, als würden sie völlig unterschiedliche Karten verwenden, um zum selben Ziel zu gelangen.

Die „Drei-Kanten"-Überraschung

Die Forscher gingen einen Schritt weiter. Sie versuchten, den kleinstmöglichen Circuit zu finden. Sie fanden einen „Sheaf" (einen funktionalen Circuit), der nur aus drei Kanten (Verbindungen) bestand.

Auf den ersten Blick sah es so aus, als wären diese drei Kanten das „essentielle" Kernstück – das eine Ding, das man unbedingt brauchte. Aber als sie es testeten, stellten sie fest: Selbst diese drei Kanten sind nicht strikt notwendig.

Wenn man eine dieser drei Kanten entfernt, kann der Roboter immer noch einen anderen Satz von drei Kanten finden, um die Arbeit zu erledigen. Es ist wie in einer Stadt, in der man glaubt, eine bestimmte Brücke sei der einzige Weg über den Fluss, aber wenn man sie sperrt, leitet der Verkehr sofort über eine völlig andere Reihe von Tunneln und Fähren um, und niemand bemerkt den Unterschied.

Warum passiert das? (Die Analogie der „Superposition")

Das Paper bietet eine Theorie für dieses Phänomen an, die Distributive Dense Circuit Hypothesis genannt wird.

Stellen Sie sich das Gehirn des Roboters als einen riesigen, überfüllten Raum voller Menschen (Neuronen) vor, die gleichzeitig sprechen. Dies wird als Superposition bezeichnet. Da es so viele Menschen und so viele Möglichkeiten gibt, ihre Stimmen zu kombinieren, gibt es Millionen verschiedener „Kombinationen" von Menschen, die denselben Satz sagen können.

Alte Sichtweise: Es gibt eine spezifische Gruppe von Menschen, die müssen sprechen, um „Hallo" zu sagen.
Neue Sichtweise: Es gibt Tausende verschiedener Gruppen von Menschen, die alle gleichzeitig „Hallo" in derselben Lautstärke und Tonlage sagen können. Wenn man eine Gruppe zum Schweigen bringt, tritt sofort eine andere Gruppe an ihre Stelle, um es für sie zu sagen.

Weil der Roboter so groß und komplex ist, verfügt er über eingebaute Redundanz. Er verlässt sich nicht auf einen einzigen zerbrechlichen Pfad, sondern auf ein dichtes Netz konkurrierender Pfade.

Was dies für Wissenschaftler bedeutet

Das Paper sagt nicht, dass der Roboter kaputt ist oder dass wir ihn nicht verstehen können. Es besagt, dass wir unsere Interpretation der Ergebnisse ändern müssen.

Suchen Sie nicht nach „dem" Circuit: Wenn Wissenschaftler einen Circuit finden, sollten sie nicht sagen: „Das ist der Weg, wie das Modell funktioniert."
Suchen Sie nach „einem" Circuit: Sie sollten sagen: „Das ist ein gültiger Weg, wie das Modell funktioniert, unter vielen."

Zusammenfassung

Das Paper „All Circuits Lead to Rome" sagt uns, dass Large Language Models keine Maschine mit einem einzigen, einzigartigen Motor sind. Sie sind eher wie eine massive, flexible Stadt mit unendlichen Routen. Wenn man eine Straße sperrt, findet der Verkehr eine andere. Es gibt keine einzige „korrekte" Karte dafür, wie das Modell denkt; es gibt viele gültige Karten, und sie führen alle zum selben Ziel.

Technische Zusammenfassung: Alle Pfade führen nach Rom

Problemstellung

Die Arbeit hinterfragt eine zentrale, weitgehend implizite Annahme im Bereich der mechanistischen Interpretierbarkeit, die als Hypothese der funktionalen Anisotropie bekannt ist. Diese Hypothese besagt, dass spezifische Fähigkeiten oder Aufgaben innerhalb von Large Language Models (LLMs) durch einen einzigen, einzigartigen oder nahezu einzigartigen internen Mechanismus (eine spezifische Schaltung oder ein Bündel) unterstützt werden. Unter dieser Sichtweise wird angenommen, dass Modellfunktionen anisotrop verteilt sind, was bedeutet, dass jede Fähigkeit einem privilegierten Teilgraphen entspricht.

Die Autoren argumentieren, dass diese Annahme die dominanten Evaluierungsparadigmen in der Entdeckung von Schaltungen und Bündeln (Circuit and Sheaf Discovery, CSD) untermauert, bei denen der Erfolg durch die Wiederherstellung einer „wahrheitsgemäßen" Schaltung oder das Finden des kleinstmöglichen Mechanismus gemessen wird, der die Aufgabenleistung erhält. Die Arbeit stellt die Frage, ob diese Methoden tatsächlich einen einzigartigen zugrunde liegenden Mechanismus identifizieren oder lediglich eine von vielen möglichen Realisierungen.

Methodik

Um das Vorhandensein konkurrierender Mechanismen systematisch zu untersuchen, führen die Autoren die Overlap-Aware Sheaf Repulsion (OASR) ein.

Rahmenwerk zur Bündelentdeckung: Die Arbeit baut auf dem DiscoGP-Rahmenwerk auf, das die Entdeckung von Bündeln als differenzierbares Kanten-Auswahlproblem formuliert. Ein Bündel wird als ein Teilgraph definiert, der kausal zur Berechnung beiträgt und die Aufgabenleistung unabhängig aufrechterhalten kann (im Gegensatz zu einer Standard-Schaltung, die möglicherweise auf gepatchten Aktivierungen beruht).
OASR-Mechanismus: Standard-Entdeckungsmethoden konvergieren oft aufgrund zufälliger Initialisierung oder Optimierungslandschaften zu ähnlichen Lösungen. OASR modifiziert die Zielfunktion durch Hinzufügen eines expliziten Overlap-Verlusts ( $L_{overlap}$ $L_{o v er l a p}$ ).
- Nach der Entdeckung eines initialen Bündels $R$ bestraft die Methode die erwartete Aktivierung von Kanten, die bereits in $R$ ausgewählt wurden.
- Die kombinierte Zielfunktion lautet: $L = L_{fidelity} + \lambda_s L_{sparsity} + \lambda_c L_{complete} + \lambda_o L_{overlap}(R)$ .
- Diese „Abstoßung" zwingt den Optimierer, alternative Bündel zu finden, die der Aufgabe treu sind, aber strukturell unterschiedlich sind (minimierung des Intersection-over-Union, IoU) von zuvor entdeckten.
Experimenteller Umfang: Die Autoren wenden OASR auf mehrere Benchmark-Aufgaben an (Indirect Object Identification [IOI], BLiMP, AGA, ANA, DNA-Varianten und Docstring) und Modelle (GPT-2 Small und Pythia-160M). Sie validieren ihre Ergebnisse auch über andere CSD-Methoden hinweg, einschließlich ACDC (heuristisch), EAP (gradientenbasierte Attribution) und Edge Pruning (EP).

Hauptergebnisse

1. Existenz funktional äquivalenter, gering überlappender Bündel

Das primäre empirische Ergebnis ist, dass eine einzelne LLM-Aufgabe von mehreren strukturell unterschiedlichen Bündeln treu ausgeführt werden kann.

IOI-Fallstudie: Mit OASR entdeckten die Autoren zwei Bündel für die IOI-Aufgabe, die beide eine Genauigkeit von 100 % erreichten. Ihr struktureller Overlap (IoU) betrug jedoch nur 4,1 %, was nahe am Zufall liegt.
Generalisierung: Dieses Phänomen gilt für alle getesteten Benchmarks. Für jede Aufgabe wurden Paare von Bündeln mit hoher Leistung, aber sehr niedrigem IoU (typischerweise 4–11 %) entdeckt.
Skalierungseffekt: Mit zunehmender Anzahl entdeckter Bündel (bis zu 20 Durchläufe) schrumpft die gegenseitige Schnittmenge der Kanten drastisch (oft auf <1 % IoU), während die Vereinigung der Kanten wächst. Dies zeigt, dass der Raum gültiger Mechanismen riesig ist und nicht auf einen einzigen Kern konvergiert.

2. Persistenz über Methoden hinweg

Der Zusammenbruch der funktionalen Anisotropie ist kein Artefakt der OASR-Methode oder von DiscoGP allein:

ACDC: Die Variation der Durchlaufreihenfolge von Aufmerksamkeitsköpfen (eine nicht-semantische Ordnungsentscheidung) führte zu signifikant unterschiedlichen Schaltungen mit niedrigem IoU, trotz Verwendung derselben Schwellenwerte.
EAP: Die Änderung von aufgabenirrelevanten Informationen (z. B. das Vertauschen von Namen in IOI-Prompts) führte zu systematisch unterschiedlichen Schaltungen, was die Stabilität attributionsbasierter Methoden in Frage stellt.
Edge Pruning: Bei Verwendung aufgabenspezifischer Verlustfunktionen zeigte EP ebenfalls eine hohe Vielfalt in den entdeckten Schaltungen, ähnlich wie DiscoGP.

3. Fehlen unentbehrlicher Komponenten

Die Autoren testeten eine „abgeschwächte" Version der Anisotropie-Hypothese: dass zwar mehrere Bündel existieren, diese jedoch einen kleinen, wesentlichen „Kern" unentbehrlicher Kanten teilen könnten.

Ultra-sparse Bündel: Sie identifizierten ein ultra-sparse Drei-Kanten-Bündel für IOI, das isoliert eine Genauigkeit von 86,7 % erreichte.
Nicht-Unentbehrlichkeit: Wenn jedoch die Aufgabe dekomponiert wurde (z. B. Trennung von ABBA- und BABA-Vorlagen) oder wenn diese drei Kanten explizit verboten wurden, fand der Entdeckungsprozess dennoch andere sparse, leistungsstarke Bündel.
Fazit: Keine einzelne Kante (und nicht einmal der Drei-Kanten-Kern) ist für alle funktional gültigen Mechanismen strikt unentbehrlich. Die scheinbare „Essenzialität" des Kerns ergibt sich nur, wenn die Aufgabe als aggregiertes Ganzes behandelt wird.

4. Theoretische Analyse

Die Arbeit schlägt die Hypothese des distributiven dichten Schaltkreises vor, um diese Ergebnisse zu erklären.

Theoretischer Beweis: Unter milden Annahmen (residuelle Additivität und lokale Linearität) beweisen die Autoren die Existenz mehrerer strukturell unterschiedlicher, gering überlappender Schaltungen, die für dieselbe Aufgabe $\epsilon$ -treu sind.
Mechanismus: In hochdimensionalen Räumen wächst die Anzahl möglicher Kanten-Teilmengen kombinatorisch. Aufgrund der linearen Superposition können verschiedene Teilmengen von Kanten nahezu identische Auslesevektoren erzeugen (Subset-Sum-Kollisionen). Wenn die Aufgabenentscheidung durch einen endlichen Rand geschützt ist, beeinflussen diese strukturellen Unterschiede die endgültige Vorhersage nicht, was mehrere gültige Erklärungen zulässt.

Bedeutung und Behauptungen

Die Arbeit behauptet nicht, Circuit and Sheaf Discovery (CSD) als Feld zu entkräften; vielmehr fordert sie ein grundlegendes Umdenken darüber, wie CSD-Ergebnisse interpretiert und bewertet werden sollten.

Ablehnung der Einzigartigkeit: Die Ergebnisse deuten darauf hin, dass mechanistische Erklärungen in LLMs inhärent nicht-kanonisch sind. Eine entdeckte Schaltung oder ein Bündel stellt eine gültige Realisierung unter vielen in einem Raum funktional äquivalenter Mechanismen dar, nicht den der Aufgabe zugrunde liegenden Mechanismus.
Kritik der Evaluierung: Aktuelle Evaluierungsparadigmen, die nach einer „wahrheitsgemäßen" oder einer „minimalen" einzigartigen Schaltung suchen, basieren auf einer fehlerhaften Annahme. Die Arbeit argumentiert, dass die Suche nach einem einzigen sparsamen, unentbehrlichen Teilgraphen nicht ausreicht, um die beobachtete empirische Nicht-Einzigartigkeit zu erklären.
Verteilte Sichtweise: Die Autoren plädieren für eine verteilte Sichtweise der Berechnung, bei der Aufgabenverhalten aus einem dichten Regime konkurrierender, teilweise redundanter Mechanismen entsteht.
Implikationen: Dies stellt das Konzept „essentieller" Komponenten in Frage und legt nahe, dass Redundanz in LLMs nicht nur ein latentes Sicherungssystem ist (das nur bei Ablation aktiviert wird), sondern ein grundlegendes Merkmal des normalen Modellbetriebs.

Zusammenfassend liefert die Arbeit sowohl empirische Beweise als auch theoretische Rechtfertigung dafür, dass „Alle Pfade nach Rom führen" – mehrere unterschiedliche strukturelle Pfade können und unterstützen dasselbe funktionale Verhalten in LLMs, was die Annahme der funktionalen Anisotropie untergräbt.