🤖 machine learning

Comparing Linear Probes with Mahalanobis Cosine Similarity

Dieses Paper beweist theoretisch und validiert empirisch, dass die Mahalanobis-Cosinus-Ähnlichkeit zu einer Out-of-Distribution-Referenz-Sonde die OOD-AUROC einer linearen Sonde unter Gaußschen Annahmen linear vorhersagt und somit eine überlegene Alternative zur Standard-Cosinus-Ähnlichkeit für den Vergleich von Sonden bietet.

Ursprüngliche Autoren: Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

Veröffentlicht 2026-06-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Warum funktionieren manche „Sonden“ und andere nicht?

Stellen Sie sich vor, Sie haben eine riesige, komplexe Maschine (wie ein Large Language Model), die in einer Sprache aus Zahlen und Mustern denkt, die wir nicht ohne Weiteres sehen können. Forscher nutzen „lineare Sonden“ (linear probes), um in diese Maschine hineinzuschauen. Betrachten Sie eine Sonde wie einen Lichtstrahl einer Taschenlampe. Sie leuchten in eine bestimmte Richtung, um zu sehen, ob die Maschine über ein bestimmtes Konzept „nachdenkt“, wie zum Beispiel: „Ist dieser Satz wahr?“ oder „Ist diese Person männlich?“

Das Problem ist, dass diese Taschenlampen zerbrechlich sind. Ein Lichtstrahl, der in einem Raum (den Trainingsdaten) perfekt funktioniert, kann sofort dunkel werden, sobald man in einen etwas anderen Raum (neue Daten) tritt. Forscher wollen einen Weg finden, um vorherzusagen, ob eine Taschenlampe in einem neuen Raum funktionieren wird, indem sie nur darauf schauen, wie sie gebaut wurde.

Der alte Weg vs. der neue Weg

Um zwei Taschenlampen (Sonden) zu vergleichen, messen Forscher normalerweise den Winkel zwischen ihnen mithilfe der euklidischen Kosinusähnlichkeit (Euclidean Cosine Similarity).

Die Analogie: Stellen Sie sich vor, Sie vergleichen zwei Kompassnadeln. Die alte Methode betrachtet einfach nur den Winkel zwischen den Nadeln und behandelt jede Richtung auf der Karte als gleich wichtig.
Der Fehler: Dies ist wie der Vergleich von Kompassen auf einer Landkarte, auf der einige Richtungen „klebrig“ sind (schwer zu durchqueren) und andere „rutschig“ (leicht zu durchqueren). Wenn man die klebrigen Teile ignoriert, ist der Vergleich falsch.

Die Autoren schlagen eine neue Methode namens Mahalanobis-Kosinusähnlichkeit (MCS) vor.

Die Analogie: Dies ist wie der Vergleich von Kompassnadeln, während man eine Spezialbrille trägt, die das Gelände berücksichtigt. Sie weiß, dass manche Richtungen in den Daten wichtiger sind (wo die Daten tatsächlich variieren) und andere nur Rauschen sind. Sie gewichtet den Vergleich bas nach der Form der Daten selbst.

Die große Entdeckung: Eine perfekte Linie

Die Autoren fanden etwas Überraschendes heraus:
Als sie eine mit alten Daten trainierte Sonde mit einer mit neuen Daten trainierten Sonde verglichen und dabei diese neue „geländebewusste“ Methode (MCS) verwendeten, war das Ergebnis eine perfekt gerade Linie.

Die Analogie: Stellen Sie sich vor, Sie haben ein Lineal (MCS), das misst, wie ähnlich sich zwei Taschenlampen sind. Wenn Sie dieses Lineal verwenden, können Sie genau vorhersagen, wie gut die Taschenlampe im neuen Raum funktionieren wird (ihre „Generalisierungsleistung“).
Das Ergebnis: Die Arbeit zeigt: Wenn der MCS-Wert hoch ist, ist auch die Leistung hoch. Wenn der MCS-Wert niedrig ist, ist auch die Leistung niedrig. Diese Beziehung ist so stark, dass sie wie eine mit einem Lineal gezogene gerade Linie aussieht (mathematisch gesehen ein $R^2$ von 0,98, was nahezu perfekt ist).
Der Kontrast: Wenn sie die alte „winkelbasierte“ Methode (Euklidisch) verwendet hätten, wären die Punkte überall verstreut, wie eine chaotische Wolke, was eine Vorhersage der Leistung unmöglich machen würde.

Warum passiert das? (Die Magie der „S-Kurven“)

Die Arbeit erklärt mit etwas Mathematik, warum diese gerade Linie existiert, aber hier ist die einfache Version:

Das Signal-Rausch-Verhältnis (SNR): Betrachten Sie dies als das Verhältnis zwischen der Lautstärke der „Wahrheit“ und dem „Rauschen“ in den Daten.
Zwei verschiedene Formen:
- Die Leistung (wie gut die Sonde funktioniert) folgt einer S-Form (einer Sigmoid-Kurve). Sie beginnt langsam, beschleunigt dann und flacht schließlich ab.
- Der MCS-Wert folgt ebenfalls einer S-Form, aber es ist eine etwas andere Art von Kurve.
Die Auslöschung: Wenn man diese beiden S-Formen kombiniert, heben sie sich gegenseitig auf! Die „Krümmung“ in der einen Kurve glättet die „Krümmung“ der anderen Kurve perfekt aus.
- Die Analogie: Stellen Sie sich vor, Sie gehen einen Hügel hinauf, der sich nach links biegt, aber Sie gehen gleichzeitig auf einem Förderband, das sich im exakt gleichen Maße nach rechts biegt. Das Ergebnis ist, dass Sie sich in einer perfekt geraden Linie bewegen.

Aufgrund dieser mathematischen „Auslöschung“ wird die Beziehung zwischen dem Ähnlichkeitswert und der tatsächlichen Leistung zu einer geraden Linie.

Wann bricht die Regel zusammen?

Die Autoren haben auch getestet, wann diese perfekte Linie bricht, was uns hilft, die Grenzen der Regel zu verstehen:

Falsche Karte (Falsche Kovarianz): Wenn man die alte „nur Winkel“-Methode verwendet (das Gelände ignoriert), verschwindet die Linie. Man muss die „geländebewusste“ Karte verwenden.
Schlechter Kompass (Nicht-Fisher-Sonden): Wenn die Sonde nicht mit der optimalen mathematischen Methode gebaut wurde (wie einem einfachen „Mittelwertunterschied“ statt einer anspruchsvolleren Methode), wird die Linie chaotisch.
Schwaches Signal (Geringer Fisher-Abstand): Wenn das Signal so schwach ist, dass die „S-Kurven“ noch nicht begonnen haben, sich zu biegen, ist die Beziehung nicht linear. (In den Modellen, die sie getestet haben, war das Signal jedoch stark genug, dass dies nicht geschah).
Ungleichgewicht der Teams: Wenn eine Datengruppe riesig und die andere winzig ist (wie 99 % Katzen und 1 % Hunde), neigt sich die Linie und bricht.

Zusammenfassung

Das Problem: Es ist schwer zu sagen, ob ein Werkzeug (eine Sonde) bei neuen Daten funktionieren wird, indem man es nur betrachtet.
Die Lösung: Verwenden Sie die Mahalanobis-Kosinusähnlichkeit, die das Gelände und die Form der Daten berücksichtigt.
Das Ergebnis: Diese Methode erzeugt eine nahezu perfekte gerade Linie zwischen dem Ähnlichkeitswert und der tatsächlichen Leistung.
Die Kernaussage: Sie müssen die Sonde nicht erst an neuen Daten testen, um zu wissen, ob sie funktionieren wird. Sie müssen nur ihre Ähnlichkeit zu einer Referenzsonde mit diesem spezifischen „geländebewussten“ Lineal messen.

Die Arbeit beweist dies mathematisch und zeigt, dass es bei verschiedenen KI-Modellen, verschiedenen Schichten innerhalb dieser Modelle und vielen verschiedenen Arten von Aufgaben (wie der Prüfung von Wahrhaftigkeit oder Geschlecht) funktioniert. Sie verwandelt ein chaotisches, unvorhersehbares Problem in eine saubere, vorhersagbare Linie.

Technisches Resümee: Vergleich von linearen Sonden mittels Mahalanobis-Cosinus-Ähnlichkeit

Problemstellung

Lineare Sonden sind Standardwerkzeuge in der Interpretierbarkeitsforschung, um Konzepte aus neuronalen Repräsentationen zu extrahieren. Jedoch ist ihr Transferverhalten notorisch instabil; auf In-Distribution-Daten (ID) trainierte Sonden versagen oft bei Out-of-Distribution-Szenarien (OOD), selbst bei subtilen Verschiebungen wie Negation oder Änderungen im Prompt-Format. Eine kritische Herausforderung besteht darin, zu bestimmen, welche Sonden generalisieren werden, und zu verstehen, warum Sonden, die auf einer Verteilung ähnlich erscheinen, auf einer anderen divergieren.

Aktuelle Methoden zum Vergleich von Sonden stützen sich typischerweise auf die euklidische Cosinus-Ähnlichkeit (ECS). ECS behandelt jedoch alle Dimensionen gleich und ignoriert dabei, dass nur jene Dimensionen, in denen die Daten signifikant variieren, die Performance der Sonde beeinflussen. Während Ying et al. (2026) empirisch beobachteten, dass die Mahalanobis-Cosinus-Ähnlichkeit (MCS) – welche das Skalarprodukt durch die OOD-Datenkovarianz umgewichtet – den OOD-AUROC für Wahrheitsdaten linear vorhersagt ( $R^2=0,98$ ) – fehlte hierfür eine theoretische Erklärung, und das Ergebnis wurde nicht über diverse Modelle, Schichten oder Konzeptdomänen hinweg validiert.

Methodik

Die Autoren schlagen einen theoretischen und empirischen Rahmen vor, um die Beziehung zwischen MCS und der OOD-Generalisierungsleistung zu erklären und zu validieren.

Theoretischer Rahmen

Das Paper leitet eine geschlossene Beziehung zwischen dem OOD-AUROC einer Sonde und ihrer MCS zu einer Referenzsonde ab, die auf OOD-Daten trainiert wurde. Die Herleitung beruht auf drei Standard-Statistikannahmen:

Balancierte Klassen: $Pr(Y=0) = Pr(Y=1) = 0,5$.
Projektions-Gaussianität: Die Projektion des Merkmalsvektors auf eine beliebige Sondendirektion folgt für jede Klasse einer Gaußverteilung.
Kovarianzstruktur: Die Gesamtkovarianz ( $\Sigma_{tot}$ ) wird in die gepoolte Intra-Klassen-Kovarianz ( $\Sigma_{pool}$ ) und die Komponente zwischen den Klassen zerlegt.

Unter diesen Annahmen beweisen die Autoren:

Der AUROC ist eine sigmoidale Funktion des Signal-Rausch-Verhältnisses (SNR) der Sonde, $s$ : $AUROC = \Phi(s/\sqrt{2})$ .
Die MCS (speziell gegen die Fisher-Diskriminanzrichtung) ist eine Soft-Sign-förmige Funktion von $s$ : $MCS \approx s/\sqrt{4+s^2}$ (im Grenzwert eines großen Fisher-Abstands $z_{max}$ ).

Die zentrale theoretische Erkenntnis ist, dass die Komposition dieser beiden Funktionen deren jeweilige Nichtlinearitäten (die Sigmoid-Funktion und die Soft-Sign-Funktion) aufhebt, was zu einer nahezu linearen Beziehung zwischen AUROC und MCS führt. Die Steigung dieser Geraden wird theoretisch als näherungsweise $1/\sqrt{\pi}$ vorhergesagt, wenn der Fisher-Abstand groß ist.

Empirische Evaluierung

Die Autoren erweitern die empirische Validierung dieser Beziehung über:

Modelle: Llama-3.3-70B, Llama-3.1-8B und Qwen2.5-7B.
Schichten (Layers): Verschiedene Schichten (z. B. 20, 33, 50, 65) innerhalb von Llama-70B.
Domänen: 24 Datensätze, die sich über Wahrhaftigkeit, Geschlechtsklassifizierung und allgemeine NLP-Benchmarks erstrecken.
Baselines: Vergleich gegen die Standard-Euklidische Cosinus-Ähnlichkeit (ECS) sowie die Verwendung verschiedener Kovarianzschätzer (Gesamtkovarianz vs. gepoolte Kovarianz).

Zentrale Beiträge

Theoretischer Beweis der Linearität: Das Paper liefert einen geschlossenen Beweis, der zeigt, dass für balancierte, Gauß-projektierte Klassen der OOD-AUROC und die MCS linear miteinander verknüpft sind. Dies erklärt die zuvor beobachtete nahezu perfekte Korrelation ( $R^2 \approx 0,98$ ).
Charakterisierung von Fehlermodi: Die Theorie sagt explizit die Bedingungen voraus, unter denen diese Linearität zusammenbricht, welche empirisch verifiziert wurden:
- Die Verwendung der gepoolten Kovarianz ( $\Sigma_{pool}$ ) anstelle der Gesamtkovarianz ( $\Sigma_{tot}$ ) zerstört die Linearität.
- Kleine Fisher-Abstände ( $z_{max}$ ) führen zu aufgabenspezifischen Steigungen statt zu einer universellen Geraden.
- Klassenungleichgewicht steilt die Kurve ab.
- Sonden, die signifikant von der Fisher-Richtung abweichen (z. B. einfache Differenz-der-Mittelwerte-Sonden), zeigen eine degradierte Linearität.
Empirische Generalisierung: Die Studie validiert die MCS-AUROC-Linearität über eine breite Palette von Modellen, Schichten und Konzeptdomänen hinweg und erreicht $R^2 > 0,93$ in allen getesteten Bedingungen. Im Gegensatz dazu sinkt die Leistung der ECS signifikant ab, mit $R^2$ -Werten von nur 0,06 in allgemeinen NLP-Benchmarks.
Robustheit gegenüber Schätzern: Die Autoren zeigen, dass das Ergebnis für die volle Stichprobenkovarianz und die Ledoit-Wolf-Shrinkage gilt, aber bei diagonalen Approximationen versagt, was die Notwendigkeit der Off-Diagonal-Kovarianzstruktur bestätigt.

Ergebnisse

Hohe Vorhersagekraft: Über alle 8 experimentellen Bedingungen (unterschiedliche Modelle, Schichten und Domänen) liefert der lineare Fit des OOD-AUROC gegen die MCS ein $R^2 \geq 0,93$ .
Überlegenheit gegenüber ECS: Die ECS schneidet konsistent schlechter ab, mit $R^2$ -Werten zwischen 0,057 (General NLP) und 0,723 (Gender), während die MCS eine hohe Vorhersagekraft beibehält.
Theoretische Übereinstimmung: Die empirischen Steigungen der AUROC-MCS-Kurven stimmen eng mit der theoretischen zentralen Steigung von $1/\sqrt{\pi} \approx 0,564$ überein. Abweichungen treten primär in den Sättigungsenden (hohe AUROC/MCS-Werte) auf, was konsistent mit der Theorie ist.
Verifizierung der Fehlermodi: Simulationen und Experimente mit Realdaten bestätigen, dass die Linearität degradiert, wenn Annahmen verletzt werden (z. B. reduziert die Verwendung von $\Sigma_{pool}$ das $R^2$ von 0,98 auf 0,83; die Verwendung von Differenz-der-Mittelwerte-Sonden reduziert es auf 0,79).

Bedeutung und Ansprüche

Das Paper behauptet, dass die Mahalanobis-Cosinus-Ähnlichkeit eine theoretisch fundierte, aufgabenbewusste Alternative zur euklidischen Cosinus-Ähnlichkeit für den Vergleich linearer Sonden darstellt.

Mechanismus: Im Gegensatz zur ECS, die alle Dimensionen gleich behandelt, gewichtet die MCS das Skalarprodukt durch die OOD-Datenkovarianz um und vergleicht Sonden somit effektiv in dem Subraum, der für die spezifische Aufgabe tatsächlich relevant ist.
Prädiktiver Nutzen: Die lineare Beziehung ermöglicht es Forschern, die Generalisierungsleistung (OOD-AUROC) einer auf ID-Daten trainierten Sonde vorherzusagen, indem sie lediglich deren MCS zu einer Referenzsonde (oder einem Proxy der Fisher-Richtung) messen.
Breitere Implikationen: Die Autoren deuten an, dass dieser Ansatz auch anderen Interpretabilitätsmethoden zugutekommen könnte, die derzeit auf der Cosinus-Ähnlichkeit basieren, wie etwa der Vergleich von Steering-Vektoren, der Ausrichtung von SAE-Features oder dem Clustering von Konzeptrichtungen.
Limitierungen: Die Autoren merken an, dass die Methode gelabelte OOD-Daten zur Schätzung der Kovarianz und der Referenzrichtung erfordert (sie ist für die Zielverteilung nicht label-frei). Zudem ist die Theorie auf Fisher-Stil-Sonden (Logistische Regression, LDA) kalibriert; die Leistung sinkt bei Differenz-der-Mittelwerte-Sonden. Die Evaluierung beschränkt sich derzeit auf die binäre Klassifikation auf Residual-Stream-Features von autoregressiven LLMs.

Zusammenfassend lässt sich sagen, dass die Arbeit etabliert, dass der Erfolg der MCS bei der Vorhersage der Sonden-Generalisierung kein Zufall ist, sondern eine Folge des geometrischen Zusammenspiels zwischen Signal-Rausch-Verhältnissen, Gauß-Projektionen und kovarianzbewussten Ähnlichkeitsmetriken.