🤖 machine learning

Causal methods for LLM development and evaluation

Dieser Artikel argumentiert, dass Methoden der kausalen Inferenz derzeit untergenutzt, aber unverzichtbar für die Bewältigung von Konfundierung, Verzerrung und Nicht-Stationarität in der Entwicklung und Evaluierung großer Sprachmodelle sind und ein prinzipiengeleitetes Rahmenwerk bieten, um Eingriffe über die gesamte LLM-Pipeline von der Vorverarbeitung bis zum Einsatz zu steuern.

Ursprüngliche Autoren: Dennis Frauen, Marie Brockschmidt, Konstantin Hess, Haorui Ma, Yuchen Ma, Abdurahman Maarouf, Maresa Schröder, Jonas Schweisthal, Yuxin Wang, Athiya Deviyani, Sonali Parbhoo, Rahul G. Krishnan, Stefan

Veröffentlicht 2026-05-26

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Dennis Frauen, Marie Brockschmidt, Konstantin Hess, Haorui Ma, Yuchen Ma, Abdurahman Maarouf, Maresa Schröder, Jonas Schweisthal, Yuxin Wang, Athiya Deviyani, Sonali Parbhoo, Rahul G. Krishnan, Stefan Feuerriegel

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Koch, der versucht, ein perfektes neues Rezept für eine massive Restaurantkette zu kreieren. Sie haben Tausende von Zutaten (Daten), verschiedene Kochmethoden (Modelle) und ein Team von Kritikern (Bewerter). Im Moment raten die meisten Köche einfach: „Lass uns mehr Salz hinzufügen", „Lass uns einen anderen Ofen ausprobieren" oder „Lass uns fragen, was den Kritikern gefallen hat". Sie probieren das Gericht, machen eine Notiz und versuchen es erneut. So werden derzeit Large Language Models (LLMs) gebaut – durch Versuch und Irrtum.

Dieses Papier argumentiert, dass dieser „Raten und Prüfen"-Ansatz riskant ist. Stattdessen schlagen die Autoren vor, kausale Methoden zu verwenden, die wie ein wissenschaftliches Detektiv-Kit sind. Anstatt nur zu sehen, was passiert ist, helfen uns diese Werkzeuge, die Frage zu beantworten: „Was hat dieses Ergebnis verursacht, und was wäre passiert, wenn wir etwas anderes getan hätten?"

Hier ist die Vision des Papiers, aufgeschlüsselt in einfache Analogien:

1. Das Kernproblem: Die „gefälschte" Verbindung

Stellen Sie sich vor, Sie bemerken, dass Kunden, die den teuersten Wein bestellen, auch am meisten Trinkgeld geben.

Die naive Sicht: „Wenn ich jedem kostenlosen teuren Wein gebe, werden sie mehr Trinkgeld geben!"
Die kausale Sicht: „Warte. Vielleicht sind es die reichen Leute, die sich den Wein leisten können, die gut Trinkgeld geben, nicht der Wein selbst. Wenn ich einem reichen Menschen billigen Wein gebe, gibt er vielleicht trotzdem gut Trinkgeld. Wenn ich einem armen Menschen teuren Wein gebe, gibt er vielleicht gar kein Trinkgeld."

Bei LLMs passiert dies ständig.

Das Szenario: Ein System stellt einem „klugen" (großen) Modell schwierige Fragen und einem „schnellen" (kleinen) Modell einfache Fragen.
Der Fehler: Das große Modell erhält niedrigere Bewertungen, weil die Fragen schwieriger waren, nicht weil das Modell schlechter ist.
Die kausale Lösung: Wir müssen die Schwierigkeit der Frage von der Qualität des Modells trennen, um zu sehen, wer tatsächlich die beste Arbeit leistet.

2. Die drei Hauptwerkzeuge (Das „Wie")

Das Papier erklärt, dass wir drei spezifische Fähigkeiten benötigen, um diese Rätsel zu lösen:

Identifizierbarkeit (Der „Können wir es wissen?"-Check): Bevor wir beginnen, fragen wir: „Haben wir tatsächlich genug Informationen, um dies zu lösen?" Wenn unsere Daten verzerrt sind (wie wenn wir nur zufriedene Kunden nach Bewertungen fragen), werden wir möglicherweise nie die wahre Antwort wissen, egal wie viele Daten wir sammeln. Kausale Methoden zeigen uns, wann wir feststecken und welche Annahmen wir treffen.
Schätzung (Der „Wie man berechnet"-Check): Selbst wenn wir die Antwort kennen können, sind die Daten unordentlich und riesig. Wir benötigen spezielle Mathematik (genannt „Double Machine Learning"), um das Rauschen zu filtern und eine präzise Antwort zu erhalten, ähnlich wie ein Noise-Cancelling-Kopfhörer Hintergrundgespräche filtert, um die Musik klar zu hören.
Gegenfaktische Überlegungen (Die „Was-wäre-wenn"-Maschine): Dies ist die Superkraft. Sie ermöglicht es uns, eine andere Realität zu simulieren. „Was wäre, wenn wir diese Frage stattdessen an das kleine Modell weitergeleitet hätten?" Wir können dies beantworten, ohne das System tatsächlich zu zerlegen, um es zu testen.

3. Wo dies hilft (Die Küchentour)

Die Autoren skizzieren, wo diese Detektivwerkzeuge in den Aufbau einer KI passen:

Pre-Training (Das Mischen der Zutaten):
- Das Problem: Wir mischen Bücher, Code und Foren, um die KI zu trainieren. Aber wenn wir „toxische" Texte herausfiltern, entfernen wir möglicherweise versehentlich wichtige Dialekte oder Fakten.
- Die Lösung: Verwenden Sie kausale Werkzeuge, um vorherzusagen, wie sich eine Änderung des „Rezepts" (der Datenmischung) auf den endgültigen Geschmack (Modellleistung) auswirkt, ohne das ganze Essen erneut kochen zu müssen.
Alignment (Die KI höflich machen):
- Das Problem: Wir bitten Menschen, die bessere Antwort zwischen zwei Optionen auszuwählen. Aber Menschen haben Vorurteile (z. B. bevorzugen sie längere Antworten).
- Die Lösung: Verwenden Sie kausale Werkzeuge, um die menschlichen Vorurteile zu entfernen, damit wir sehen können, welche Antwort tatsächlich besser war, nicht nur welche schöner aussah.
Routing (Die Entscheidung des Kellners):
- Das Problem: Ein Kellner (Router) entscheidet, welcher Koch (Modell) welchen Auftrag erhält. Wenn sie schwierige Aufträge an den Küchenchef weiterleiten, wirkt der Küchenchef langsam.
- Die Lösung: Kausale Methoden helfen dem Kellner, die wahre Geschwindigkeit und Qualität jedes Kochs unabhängig von der Auftragschwierigkeit zu lernen, damit er Aufgaben effizient zuweisen kann.
Agents (Das KI-Team):
- Das Problem: Moderne KI antwortet nicht nur; sie unternimmt Schritte (sucht im Web, nutzt Werkzeuge, ruft andere KIs an). Wenn das Endergebnis schlecht ist, war es dann das Suchwerkzeug? Der Werkzeugnutzer? Oder der erste Schritt?
- Die Lösung: Kausale Methoden fungieren wie ein „Black-Box"-Aufzeichnungsgerät, das genau nachverfolgt, welcher Schritt den Erfolg oder Misserfolg verursacht hat, und hilft uns, das spezifische defekte Glied in der Kette zu reparieren.
Evaluation (Die Kritiker):
- Das Problem: Manchmal verwenden wir eine KI, um eine andere KI zu bewerten. Aber die bewertende KI könnte voreingenommen sein (z. B. mag sie ihren eigenen Schreibstil).
- Die Lösung: Verwenden Sie eine Mischung aus menschlichen und KI-Richtern mit kausaler Mathematik, um die Verzerrung auszugleichen und eine faire Bewertung zu erhalten.

4. Der Sicherheitscheck

Schließlich spricht das Papier über Sicherheit. Wenn eine KI etwas Schädliches sagt, müssen wir wissen, warum. War es die Trainingsdaten? Das Belohnungssystem?

Die Analogie: Wenn ein Auto einen Unfall hat, sagen wir nicht einfach „es ist verunglückt". Wir schauen in die Blackbox, um zu sehen, ob es die Bremsen, der Fahrer oder die Straße waren.
Die Lösung: Kausale Methoden helfen uns, schädliches Verhalten bis zu seiner Quelle in der Trainingspipeline zurückzuverfolgen, anstatt nur zu raten.

Das Fazit

Die Autoren sagen nicht: „Kausale Methoden werden KI schlauer machen." Sie sagen: „Kausale Methoden werden den Prozess des Aufbaus und Testens von KI zuverlässiger machen."

Im Moment bauen wir diese komplexen Systeme im Dunkeln und raten, was funktioniert. Dieses Papier argumentiert, dass wir das Licht einschalten, wissenschaftliche Werkzeuge verwenden sollten, um Ursache und Wirkung zu verstehen, und KI-Systeme bauen sollten, die sicherer, günstiger und vertrauenswürdiger sind, weil wir tatsächlich wissen, warum sie funktionieren.

Technische Zusammenfassung: Kausale Methoden für die Entwicklung und Evaluierung von LLMs

Problemstellung

Die Entwicklung und Evaluierung von Large Language Models (LLMs) stützt sich derzeit stark auf groß angelegte empirische Iterationen über Datenmischungen, Reward-Modelle, Routing-Strategien und Evaluierungspipelines. Dieser Prozess steht jedoch vor einer grundlegenden Herausforderung: Viele zentrale Entscheidungen werden auf Basis von protokollierten Beobachtungsdaten und nicht von randomisierten Experimenten getroffen. Diese Daten unterliegen Selektionsverzerrungen, Verteilungsverschiebungen und verrauschten oder verzerrten Labels (z. B. von menschlichen Bewertern oder erlernten Richtern).

Folglich sind rein prädiktive Ansätze oft fragil. Beobachtete Leistungsunterschiede können konfundierende Faktoren widerspiegeln (z. B. erscheint ein größeres Modell schlechter, weil es härtere Anfragen routet), anstatt den wahren kausalen Effekt einer Designentscheidung. Die Arbeit argumentiert, dass die LLM-Entwicklungspipeline inhärent ein kausales Problem ist, kausale Methoden jedoch untergenutzt bleiben. Das Kernproblem besteht darin, wie man die kontrafaktischen Effekte von Interventionen (wie das Ändern von Datenmischungen, Routing-Richtlinien oder Prompt-Vorlagen) zuverlässig ableiten kann, wenn nur historische, nicht randomisierte Protokolle verfügbar sind.

Methodik

Die Arbeit schlägt einen vereinheitlichenden Rahmen vor, der Prinzipien der kausalen Inferenz—insbesondere Identifizierbarkeit und Schätzung—auf den gesamten LLM-Lebenszyklus anwendet.

1. Formalisierung als kausale Interventionen

Die Autoren formalisieren LLM-Entscheidungen unter Verwendung des Rahmens potenzieller Ergebnisse:

Kontext ( $X$ ): Beobachtete Variablen (z. B. Benutzer-Prompts, Pre-Training-Korpus, abgerufene Dokumente).
Behandlung ( $A$ ): Die Systemwahl oder Intervention (z. B. Gewichte der Datenmischung, Modell-Routing-Zuweisung, Prompt-Vorlage).
Ergebnis ( $Y$ ): Die Metrik von Interesse (z. B. Aufgabenerfolg, Präferenzscore, Latenz, Sicherheit).
Ziel: Schätzung kausaler Größen wie $E[Y(a)]$ (der erwartete Ausgang, wenn die Behandlung $A$ auf $a$ gesetzt würde) oder $E[Y(a) - Y(a')]$ (der Effekt des Wechsels der Behandlung).

2. Kernprinzipien

Identifizierbarkeit: Bestimmung, ob der kausale Effekt unter expliziten strukturellen Annahmen eindeutig aus Beobachtungsdaten zurückgewonnen werden kann. Die Arbeit hebt hervor, dass Daten bei LLMs selten randomisiert sind; sie werden durch Richtlinien induziert. Herausforderungen umfassen selektive Beobachtung (nur einige Prompts sind gelabelt) und verzerrte Richter. Der Rahmen klärt, wann Annahmen (z. B. keine unbeobachteten Konfundierungen) plausibel sind und wann nicht, und schlägt die Verwendung von Sensitivitätsanalysen und partieller Identifizierung vor, wenn Annahmen versagen.
Schätzung: Selbst wenn identifizierbar, müssen Effekte aus hochdimensionalen, komplexen Daten geschätzt werden. Die Arbeit befürwortet Debiased/Double Machine Learning (DML). DML verwendet flexible Machine-Learning-Modelle, um Störkomponenten (z. B. die historische Richtlinie oder das Reward-Modell) vorherzusagen, und schätzt den kausalen Effekt auf den Residuen. Dieser Ansatz entfernt Verzerrungen durch Konfundierung und liefert valide statistische Inferenzen (z. B. Konfidenzintervalle), selbst wenn Störmodelle falsch spezifiziert sind.

3. Anwendung über die Pipeline

Die Methodik wird auf spezifische Phasen der LLM-Entwicklung abgebildet:

Pre-Training: Behandlung der Anteile von Domänenmischungen als kontinuierliche Behandlungen, um die Downstream-Leistung ohne vollständiges Neutrainieren vorherzusagen.
Alignment & Preference Learning: Adressierung der Einschränkungen des Bradley-Terry (BT)-Modells, das eine einzige latente Punktzahl annimmt. Die Arbeit schlägt die Verwendung von DML und semiparametrischen Erweiterungen vor, um zyklische Präferenzen und unbeobachtete Konfundierungen in Annotationsdaten zu handhaben.
Deployment (Routing & Agents): Anwendung von Off-Policy-Evaluierung auf Routing-Systeme, bei denen Anfragen nicht randomisiert Modellen zugewiesen werden. Für agentische Workflows (sequenzielle Entscheidungen) adressiert der Rahmen dynamische Konfundierung und Credit Assignment über Zwischenschritte hinweg (z. B. Abruf, Werkzeugnutzung).
Evaluierung: Verwendung kausaler Methoden zur Korrektur von Verzerrungen in „LLM-as-a-judge"-Systemen und zur Gestaltung optimaler Datensammelstrategien (Active Learning), die die Varianz bei Annotationskosten minimieren.
Sicherheitsaudits: Formulierung der Entdeckung latenter Reward-Funktionen als Problem der partiellen Identifizierung, wobei anerkannt wird, dass mehrere Reward-Funktionen identische Verhaltensweisen produzieren können, und die Suche nach Grenzen plausibler Ziele anstelle von Punktschätzungen.

Hauptbeiträge

Die Arbeit leistet drei primäre Beiträge:

Konzeptioneller Rahmen: Sie erklärt, warum und wann kausale Methoden für die LLM-Entwicklung notwendig sind, identifiziert gängige Engineering-Entscheidungen als kausale Interventionen und hebt die Fragilität nicht-kausaler Ansätze aufgrund von Konfundierung und Verteilungsverschiebungen hervor.
Pipeline-Abbildung: Sie bietet eine umfassende Karte von Möglichkeiten für kausale Methoden über den gesamten LLM-Lebenszyklus hinweg, einschließlich Pre-Training, Alignment, Routing, agentischer Workflows und Evaluierung. Sie identifiziert spezifische Forschungschancen (ROs) in jedem Bereich, wie z. B. die Verwendung von DML für Preference Learning und Off-Policy-Evaluierung für Routing.
Forschungsagenda: Sie skizziert eine „Blue Sky"-Vision für zukünftige Forschung, mit besonderem Fokus auf agentische Systeme und Weltmodelle, bei denen Aktionen durch sequenzielle Entscheidungen entfalten. Sie betont die Notwendigkeit von Methoden, die strukturierte Mediatoren, dynamische Konfundierung und die Identifizierung latenter Reward-Funktionen handhaben.

Ergebnisse und Behauptungen

Als Positionierungs- und Visionenpapier präsentiert es keine neuen experimentellen Ergebnisse oder einen spezifischen algorithmischen Benchmark. Stattdessen bestehen seine „Ergebnisse" in der Identifizierung von Lücken und dem Vorschlag eines methodischen Wandels:

Aktueller Zustand: Die LLM-Entwicklung stützt sich auf Heuristiken und Beobachtungsdaten, was zu potenziellen Scheinkorrelationen und verzerrten Evaluierungen führt (z. B. erscheinen größere Modelle aufgrund von Routing-Verzerrungen schlechter).
Vorgeschlagener Zustand: Durch die Übernahme kausaler Inferenz können Entwickler von korrelationsbasierten Heuristiken zu einer prinzipiengeleiteten Identifizierung und Schätzung übergehen.
Spezifische Behauptungen:
- Kausale Methoden können eine zuverlässige und wissenschaftlich fundierte Gestaltung gewährleisten, indem sie den Effekt von Entscheidungen von Artefakten der Datenerhebung isolieren.
- Techniken wie DML können die Dateneffizienz, die Robustheit gegenüber Fehlspezifikation und die Validität statistischer Inferenzen (z. B. Konfidenzintervalle) in hochdimensionalen Settings verbessern.
- Das einfache Hinzufügen von „kausalen Methoden" zu Trainingszielen verleiht LLMs nicht automatisch kausale Schlussfolgerungsfähigkeiten; vielmehr sollten kausale Methoden als Inputs verwendet werden, um den Entwicklungs- und Evaluierungsprozess selbst zu verbessern.

Bedeutung

Die Arbeit argumentiert, dass kausale Methoden in der LLM-Entwicklungspipeline potenziell untergenutzt sind. Ihre Bedeutung liegt in:

Zuverlässigkeit: Bereitstellung eines Rahmens, um wahre kausale Effekte von Konfundierung zu unterscheiden und damit das Risiko zu verringern, Modelle aufgrund von Scheinkorrelationen einzusetzen.
Wissenschaftliche Strenge: Einführung formaler Annahmen (Identifizierbarkeit) und statistischer Garantien (valide Konfidenzintervalle) in ein Feld, das oft von empirischer Iteration getrieben wird.
Zukunftssicherheit: Bereitstellung von Werkzeugen, um die nicht-stationäre Natur von LLM-Umgebungen zu bewältigen, in denen sich Modelle, Benutzer und Aufgaben im Laufe der Zeit gemeinsam anpassen.
Sicherheit: Ermöglichung robusterer Sicherheitsaudits durch Charakterisierung der Menge plausibler Reward-Funktionen anstelle der Annahme eines einzigen identifizierten Ziels.

Die Autoren schließen, dass die Brücke zwischen kausaler Inferenz und LLM-Entwicklung ein vielversprechendes Fundament für den Aufbau zuverlässiger, dateneffizienter und einsatzbewusster KI-Systeme darstellt.