🤖 AI

Inference Time Causal Probing in LLMs

Dieser Artikel schlägt Hidden-state Driven Margin Intervention (HDMI) vor, eine ohne Proben auskommende, gradientenbasierte Methode, die LLM-Verborgene Zustände direkt unter Verwendung der nativen Ausgabe des Modells steuert, um zuverlässigere kausale Eingriffe als bestehende klassifikatorabhängige Ansätze zu erreichen, und führt gleichzeitig eine Lookahead-Variante für Textbearbeitung ein.

Ursprüngliche Autoren: Sadegh Khorasani, Saber Salehkaleybar, Negar Kiyavash, Matthias Grossglauser

Veröffentlicht 2026-05-11

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Sadegh Khorasani, Saber Salehkaleybar, Negar Kiyavash, Matthias Grossglauser

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Das „Black Box"-Problem beheben

Stellen Sie sich ein Large Language Model (LLM) als einen superschlauen, aber leicht undurchsichtigen Koch in einer Küche vor. Dieser Koch kann erstaunliche Geschichten schreiben, aber wenn Sie fragen: „Warum haben Sie Salz in diese Suppe gegeben?", hat der Koch vielleicht keine klare Antwort. Er „weiß" einfach nur, dass es gut schmeckt.

Wissenschaftler wollen verstehen, wie dieser Koch Entscheidungen trifft. Konkret möchten sie wissen: Verwendet der Koch tatsächlich das Konzept des „Plurals" (wie bei „Katzen"), um das Verb „laufen" zu entscheiden, oder ist das nur ein Zufall?

Um dies zu testen, verwenden Forscher eine Technik namens Kausales Abhören (Causal Probing). Es ist wie ein „Was-wäre-wenn"-Experiment. Sie wollen sagen: „Okay, tun wir so, als wäre das Subjekt Plural statt Singular. Ändert der Koch das Verb von 'läuft' zu 'laufen'?"

Das Problem mit alten Methoden: Das „Übersetzer"-Problem

Früher mussten Forscher für dieses Experiment einen Übersetzer (eine sogenannte „Probe") einstellen.

Sie trainierten diesen Übersetzer, die geheimen Notizen des Kochs (die versteckten Zustände) zu lesen und zu erraten, ob das Subjekt Singular oder Plural war.
Dann nutzten sie das Feedback des Übersetzers, um die Notizen des Kochs zu manipulieren und die Bedeutung zu ändern.

Der Fehler: Dieser Übersetzer spricht möglicherweise nicht perfekt die Sprache des Kochs. Der Übersetzer könnte eigene Regeln dafür haben, wie ein „Plural" aussieht, die nicht mit dem übereinstimmen, wie der Koch tatsächlich denkt. Es ist wie der Versuch, einen Automotor zu reparieren, indem man eine Anleitung für eine andere Automarke verwendet. Sie könnten den richtigen Knopf drücken, aber etwas anderes kaputt machen, weil Sie das wahre Layout des Motors nicht verstehen.

Die neue Lösung: HDMI (Der „Direkte Impuls")

Die Autoren schlagen eine neue Methode namens HDMI (Hidden-state Driven Margin Intervention) vor.

Die Analogie: Anstatt einen Übersetzer zu engagieren, spricht HDMI direkt mit dem Kopf des Kochs.

Das Ziel: Der Koch steht kurz davor, „läuft" (Singular) zu sagen. Sie wollen, dass er „laufen" (Plural) sagt.
Der alte Weg: Fragen Sie einen Übersetzer, den „Plural"-Knopf zu finden und zu drücken.
Der HDMI-Weg: HDMI betrachtet den endgültigen Entscheidungsprozess des Kochs (die Ausgabe). Es berechnet den exakten mathematischen „Impuls", der nötig ist, um das Wort „laufen" etwas wahrscheinlicher und „läuft" etwas unwahrscheinlicher zu machen. Dies geschieht, indem es den Unterschied (den Abstand oder Margin) zwischen den beiden Wörtern betrachtet.

Warum es besser ist:

Kein Übersetzer nötig: Es muss kein separates KI-Modell trainiert werden, um das Konzept zu verstehen. Es nutzt das eigene Gehirn des Modells, um herauszufinden, wie die Ausgabe geändert werden soll.
Präzision: Da es die eigene „Geometrie" des Modells verwendet (wie es Wörter natürlich anordnet), stimmt es perfekt mit dem überein, wie das Modell tatsächlich denkt.
Effizienz: Es ist eine einfache, schnelle Berechnung, wie ein kurzer Tritt auf das Lenkrad, anstatt einen langen Umweg zu nehmen.

Das „Lookahead"-Upgrade: LA-HDMI

Das Papier stellt auch eine ausgefeilte Version namens LA-HDMI (Lookahead HDMI) für die Textbearbeitung vor.

Das Szenario: Stellen Sie sich vor, Sie schreiben eine Geschichte: „Die Katze schlief." Sie möchten dies ändern in „Die Katzen schliefen."

Das Problem: Wenn Sie einfach „schlief" in „schliefen" ändern, könnte der Satz brechen, weil das Wort davor („Die") oder das Wort danach sich ebenfalls ändern muss, damit die Grammatik fließt.
Die LA-HDMI-Lösung: Diese Methode betrachtet nicht nur das aktuelle Wort; sie blickt voraus. Sie simuliert die nächsten Schritte des Satzes, während sie die Änderung vornimmt.
- Sie erkennt, dass sie bei der Änderung von „schlief" zu „schliefen" „Die" zu „Die" ändern muss (keine Änderung), aber möglicherweise den Artikel vor dem Substantiv anpassen muss, wenn sich das Substantiv ändert.
- Sie lenkt die verborgenen Gedanken des Modells sanft bevor das Wort überhaupt geschrieben wird, sodass der gesamte Satz flüssig und natürlich bleibt, nicht nur das eine Wort, das Sie geändert haben.

Stellen Sie es sich wie ein GPS vor, das Ihnen nicht nur sagt, dass Sie jetzt links abbiegen sollen, sondern die gesamte Route im Voraus berechnet, damit Sie später nicht in einer Sackgasse stecken bleiben.

Hat es funktioniert? (Die Ergebnisse)

Die Autoren testeten dies an zwei großen „Turnhallen" (Datensätzen), die entwickelt wurden, um Grammatik und Logik zu testen:

LGD Agreement: Überprüfung, ob Subjekte und Verben übereinstimmen (z. B. „er ist" vs. „sie sind").
CausalGym: Eine komplexe Reihe von Grammatikrätseln.

Die Wertung:
Sie maßen zwei Dinge:

Vollständigkeit: Haben wir die Bedeutung erfolgreich geändert? (z. B. Ist „läuft" zu „laufen" geworden?)
Selektivität: Haben wir versehentlich andere Dinge kaputt gemacht? (z. B. Haben wir aus Versehen die Zeitform oder die Bedeutung des gesamten Satzes verändert?)

Das Urteil:
HDMI erzielte konsistent höhere Werte als die alten Methoden. Es war besser darin, genau das zu ändern, was es ändern sollte, ohne den Rest des Satzes zu verwirren. Es funktionierte gut bei verschiedenen Arten von KI-Modellen (wie Llama und Pythia) und bewies, dass es ein robustes Werkzeug ist.

Zusammenfassung

Alter Weg: Verwenden Sie ein separates Werkzeug, um zu erraten, wie die Meinung der KI geändert werden soll (oft ungenau).
HDMI: Verwenden Sie die eigene Ausgabe der KI, um den perfekten Impuls zu berechnen, um ihre Meinung zu ändern (genau und effizient).
LA-HDMI: Verwenden Sie HDMI mit einer „Glaskugel", um Text flüssig zu bearbeiten und sicherzustellen, dass der gesamte Satz natürlich fließt, nicht nur das bearbeitete Wort.

Das Papier kommt zu dem Schluss, dass dieser Ansatz des „direkten Impulses" eine zuverlässigere Methode ist, um zu verstehen und zu kontrollieren, wie KI-Modelle denken und schreiben.

Technische Zusammenfassung: Kausale Sondierung zur Inferenzzeit in LLMs (HDMI)

1. Problemstellung

Die Arbeit behandelt die Grenzen aktueller kausaler Sondierungsmethoden, die verwendet werden, um zu verstehen, wie Large Language Models (LLMs) interne Repräsentationen für Vorhersagen nutzen.

Einschränkung korrelativer Sondierung: Traditionelle Methoden trainieren auxiliary-Klassifikatoren („Sonden") auf versteckten Zuständen, um linguistische Eigenschaften (z. B. Numerus des Subjekts) zu erkennen. Während diese zeigen, was kodiert ist, beweisen sie nicht, wie das Modell diese Information nutzt, um das nächste Token zu generieren.
Einschränkung kausaler Sondierung: Bestehende kausale Ansätze versuchen, in versteckte Zustände einzugreifen, um Eigenschaften zu verändern (z. B. Singular in Plural ändern) und Änderungen im Output zu beobachten. Diese Methoden verlassen sich jedoch typischerweise auf das Training einer separaten Sonde, um die Richtung des Eingriffs zu bestimmen (z. B. durch Verwendung des Gradienten der Sonde, um ein Label zu kippen).
- Nachteile: Dies führt zu zusätzlichen Trainingskosten, erfordert eigenspezifische Überwachung und birgt das Risiko einer Fehlausrichtung. Die Klassifikationsgrenze der Sonde muss nicht mit der internen „vorhersagenden Geometrie" des Modells übereinstimmen, was zu Eingriffen führt, die die Generierung des Modells nicht effektiv steuern oder unbeabsichtigt nicht zusammenhängende Eigenschaften verändern.

Die Autoren schlagen kausale Sondierung zur Inferenzzeit vor, ein Framework, bei dem Eingriffe vollständig zur Inferenzzeit angewendet werden, ohne das Modell neu zu trainieren oder auxiliary-Sonden zu trainieren.

2. Methodik: Hidden-state Driven Margin Intervention (HDMI)

Der Kernbeitrag ist HDMI, eine sondenfreie, gradientenbasierte Technik, die direkt den nativen Ausgabekopf des generativen Modells nutzt, um versteckte Zustände zu steuern.

2.1 Kernmechanismus

HDMI funktioniert durch die Definition eines Margin-Ziels zwischen einem „Quell"-Token (die ursprüngliche bevorzugte Fortsetzung des Modells) und einem „Ziel"-Token (die gewünschte kontrafaktische Fortsetzung).

Ziel: Maximierung des Logit-Margins $L(x) = \phi(x)_\tau - \phi(x)_\sigma$ , wobei $\phi(x)$ der Logit-Vektor ist, $\tau$ der Index des Ziel-Tokens und $\sigma$ der Index des Quell-Tokens.
Eingriff: Die Methode führt einen Gradientenanstieg auf dem versteckten Zustand $h_\ell(x)$ in einer spezifischen Schicht $\ell$ durch, um die Wahrscheinlichkeit des Ziel-Tokens zu erhöhen und die des Quell-Tokens zu verringern.
Rechnerische Effizienz: Für die letzte Schicht ist der Gradient ein geschlossenes Matrix-Vektor-Produkt: $\nabla_{h_L} L(x) = W_U^\top (e_\tau - e_\sigma)$ . Dies vermeidet die Notwendigkeit eines iterativen Sondentrainings.
Erweiterung auf mehrere Tokens: Die Methode unterstützt Token-Sets (z. B. mehrere gültige Pluralverben), indem sie Logits über Ziel-Sets ( $T^+$ ) und Quell-Sets ( $T^-$ ) summiert, definiert als $L_{set}(x) = \sum \phi(x)_{\tau_i} - \sum \phi(x)_{\sigma_j}$ .

2.2 Lookahead HDMI (LA-HDMI) für Textbearbeitung

Um Textbearbeitung zu adressieren, bei der ein Benutzer eine modifizierte Sequenz bereitstellt, führen die Autoren LA-HDMI ein.

Herausforderung: Die Standard-autoregressive Generierung erlaubt es versteckten Zuständen im Schritt $t$ nicht, von zukünftigen Bearbeitungen bei $t' > t$ Kenntnis zu haben.
Lösung: LA-HDMI führt einen „Lookahead"-Mechanismus ein, der Gradienten durch die erwarteten Token-Embeddings zurückpropagiert.
- Es entkoppelt den Vorwärtsdurchlauf (unter Verwendung einer niedrigen Temperatur $\beta_f$ zur Aufrechterhaltung der Flüssigkeit) vom Gradientenpfad (unter Verwendung einer hohen Temperatur $\beta_g$ zur Berechnung erwarteter Embeddings).
- Die Zielfunktion $J_t(h_t)$ akkumuliert Margin-Ziele für zukünftige Bearbeitungspositionen ( $S_{max}$ Schritte voraus) und passt den aktuellen versteckten Zustand $h_t$ an, um zukünftige Generierungen in Richtung der Benutzerbearbeitungen zu steuern, während die Flüssigkeit in nicht bearbeiteten Bereichen erhalten bleibt.

3. Evaluierungsframework

Die Arbeit bewertet Eingriffe unter Verwendung zweier primärer Metriken, basierend auf dem Framework von Canby et al. [2024]:

Vollständigkeit: Misst, ob der Eingriff die Ziel-Eigenschaft erfolgreich im versteckten Zustand verschiebt (z. B. Änderung des Subjekt-Numerus), verifiziert durch eine separate Validierungssonde.
Selektivität: Misst, ob nicht zusammenhängende Eigenschaften (Störvariablen, z. B. Numerus eines Nicht-Subjekt-Nomens) nach dem Eingriff stabil bleiben.
Zuverlässigkeit: Das harmonische Mittel aus Vollständigkeit und Selektivität, das als Gesamtmaß für die Qualität des Eingriffs dient.

4. Wichtige Ergebnisse

Die Autoren evaluierten HDMI auf Meta-Llama-3-8B-Instruct und Pythia-70M unter Verwendung des LGD-Übereinstimmungskorpus und des CausalGym-Benchmarks.

Leistung: HDMI erreicht konsistent eine höhere Zuverlässigkeit als sondengetriebene Baselines (AlterRep, FGSM, PGD) über die meisten Aufgaben hinweg.
- In Übereinstimmungssuiten (z. B. Subjekt-Verb-Übereinstimmung) erreicht HDMI oft perfekte Vollständigkeit und hohe Selektivität.
- Im Gegensatz zu Baselines ist die Leistung von HDMI unabhängig von der Qualität einer interventiven Sonde, da sie keine verwendet. Baselines wie AlterRep und PGD zeigten signifikante Leistungseinbußen bei kleineren Modellen (Pythia-70M), wenn die Sondengenauigkeit niedriger war.
Robustheit: HDMI behält eine konsistente Zuverlässigkeit über verschiedene Modellgrößen und Aufgaben hinweg bei, wohingegen sondenbasierte Methoden gemischte Ergebnisse zeigten, die empfindlich auf die spezifische Eigenschaft und das Modell reagierten.
Textbearbeitung: LA-HDMI demonstrierte erfolgreich die Fähigkeit, die Generierung in Richtung benutzerspezifischer Bearbeitungen zu steuern (z. B. „girl" in „owl" oder „was" in „were" ändern), während die grammatische Flüssigkeit erhalten blieb und notwendiger Kontext angepasst wurde (z. B. „a" in „an" ändern).

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass HDMI einen Wandel von sondenabhängiger zu modell-nativer kausaler Sondierung darstellt.

Ausrichtung: Durch die Verwendung des eigenen Ausgabekopfs des Modells zur Definition der Eingriffsrichtung stellt HDMI sicher, dass die Störung mit der tatsächlichen vorhersagenden Geometrie des Modells übereinstimmt und die Risiken einer Fehlausrichtung externer Sonden vermeidet.
Effizienz: Die Methode ist rechnerisch leichtgewichtig und erfordert nur Gradientenanstieg auf versteckten Zuständen ohne den Overhead des Trainings auxiliary-Klassifikatoren.
Allgemeingültigkeit: Der Ansatz erweitert sich natürlich auf Mehr-Token-Eigenschaften und bietet einen Mechanismus für flüssige Textbearbeitung mittels Lookahead-Gradienten.

Die Autoren erkennen Einschränkungen an, darunter die Empfindlichkeit gegenüber Hyperparametern (Schrittweite, Temperatur, Horizont) und die potenzielle Abschwächung von Gradienten bei Textbearbeitungsaufgaben über große Entfernungen. Sie schlagen zukünftige Arbeiten in adaptiver Schichtauswahl und Schrittweitenplanung vor, um die Selektivität weiter zu verbessern, ohne die Vollständigkeit zu opfern.