💬 NLP

Validity Threats for Foundation Model Research

Dieses Paper argumentiert, dass kostensparende Forschungsstrategien für Foundation Models, wie etwa Proxy-Experimente und Beobachtungsstudien, spezifische Validitätsbedrohungen einführen, die durch ein vorgeschlagenes, aus den empirischen Sozialwissenschaften adaptiertes Kausalinferenz-Framework systematisch identifiziert und gesteuert werden können.

Ursprüngliche Autoren: Gunnar König, Martin Pawelczyk, Ulrike von Luxburg, Sebastian Bordt

Veröffentlicht 2026-06-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Gunnar König, Martin Pawelczyk, Ulrike von Luxburg, Sebastian Bordt

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, das perfekte Rezept für einen riesigen, weltverändernden Kuchen zu finden. In den alten Zeiten konnten Bäcker einfach ein paar Testkuchen backen, sie probieren, die Zutaten anpassen und es erneut versuchen. Aber heute sind „Foundation Models“ (die riesigen KI-Kuchen) so gewaltig, dass das Backen auch nur eines einzigen Kuchens tausende Computer benötigt und Millionen von Dollar kostet. Man kann es sich nicht leisten, hundert Testkuchen zu backen, nur um zu sehen, ob eine Prise „Mathematik-Daten“ den Kuchen besser schmecken lässt.

Deshalb haben Forscher clevere Abkürzungen erfunden, um die Ergebnisse zu erraten, ohne den riesigen Kuchen backen zu müssen. Dieses Paper argumenttiert, dass es kein Gratis-Mittagessen gibt (no free lunch). Jede Abkürzung spart Ihnen Geld und Zeit, führt aber versteckte Risiken ein, die dazu führen können, dass Ihre Schlussfolgerungen falsch sind.

Die Autoren schlagen eine „Sicherheits-Checkliste“ vor, die auf vier Arten der Validität (Reliabilität) basiert, um Forschern zu helfen, diese Risiken zu erkennen. Hier ist die Aufschlüsselung unter Verwendung einfacher Analogien:

Die vier Arten der „Validität“ (Die Sicherheits-Checkliste)

Betrachten Sie dies als vier verschiedene Wege, wie ein Test schiefgehen kann:

Statistische Validität: Ist die Stichprobengröße groß genug? Wenn Sie nur ein Krümelchen eines Kuchens probieren und sagen: „Dieser ganze Kuchen ist zu süß“, dann hatten Sie vielleicht einfach nur Pech. Sie brauchen genügend Daten, um sicher zu sein.
Interne Validität: Haben Sie die Veränderung tatsächlich verursacht? Wenn ein Kuchen besser schmeckt, lag es an der neuen Zutat oder daran, dass der Ofen an diesem Tag einfach heißer war? Sie müssen sicher sein, dass die „Behandlung“ das Ergebnis verursacht hat und nicht ein verborgener Faktor.
Externe Validität: Ist dies auf das reale Objekt anwendbar? Wenn Sie ein Rezept an einem winzigen Cupcake testen, wird es dann auch für eine 3 Meter hohe Hochzeitstorte funktionieren? Nur weil es im Kleinen funktioniert, heißt das nicht, dass es im Großen funktioniert.
Konstruktvalidität: Messen Sie das Richtige? Wenn Sie wissen wollen, ob ein Kuchen „köstlich“ ist, aber nur dessen „Gewicht“ messen, dann messen Sie das Falsche.

Die drei Abkürzungen (und ihre spezifischen Risiken)

Das Paper analysiert drei Hauptwege, wie Forscher versuchen, das Backen des riesigen Kuchens zu vermeiden. Jede hat ein einzigartiges „Gefahrenprofil“.

1. Der „Proxy“-Ansatz (Der Mini-Kuchen-Test)

Die Idee: Anstatt den riesigen 90-Milliarden-Parameter-Kuchen zu backen, backen Sie eine winzige 1-Milliarden-Parameter-Version. Sie nehmen an, dass der winzige Kuchen sich exakt wie der große verhält.

Das Risiko (Externe Validität): Dies ist die größte Falle. Manchmal verhalten sich kleine Kuchen völlig anders als riesige Kuchen. Ein Verhalten kann erst „emergieren“ (auftauchen), wenn der Kuchen gewaltig ist. Wenn Sie nur den Mini-Kuchen testen, übersehen Sie vielleicht die Magie, die erst bei großer Skalierung entsteht.
Die gute Nachricht: Wenn Sie das Experiment auf dem Mini-Kuchen durchführen, wissen Sie normalerweise genau, was das Ergebnis verursacht hat (die Interne Validität ist gut), weil Sie die Zutaten kontrolliert haben.

2. Der „Observational“-Ansatz (Die Rezeptbuch-Studie)

Die Idee: Anstatt etwas Neues zu backen, schauen Sie in die öffentlichen „Rezeptbücher“ (technische Berichte) von Kuchen, die andere Leute bereits gebacken haben. Sie suchen nach Mustern: „Jedes Mal, wenn sie Zutat X verwendeten, war der Kuchen gut.“

Das Risiko (Interne Validität): Dies ist gefährlich, da es wegen Confounding (Störfaktoren) problematisch ist. Stellen Sie sich vor, Sie bemerken, dass Kuchen aus dem Jahr 2024 besser schmecken als die aus dem Jahr 2020. Sie könnten denken, es liegt an einer neuen Zutat. Aber eigentlich könnten die Bäcker besser geworden sein, oder das Mehl hat sich verbessert, oder sie haben einfach mehr Zucker verwendet. Das „Kalenderjahr“ ist ein verborgener Faktor, der Ihre Daten verfälscht. Sie können nicht beweisen, dass die Zutat den Erfolg verursacht hat; Sie sehen nur eine Korrelation.
Die gute Nachricht: Sie schauen sich echte, riesige Kuchen an, also gelten die Ergebnisse für die reale Welt (die Externe Validität ist gut).

3. Der „Single-Run“-Ansatz (Das Einmal-Back-Experiment)

Die Idee: Sie backen nur einen einzigen Kuchen. Aber Sie versuchen, die Mathematik auszutricksen, indem Sie jedes einzelne Korn Mehl in diesem einen Kuchen als separates „Mini-Experiment“ behandeln. Sie fragen: „Hat dieses spezifische Korn an Mathe-Daten den Kuchen besser gemacht?“

Das Risiko (Interne Validität): Dies verletzt die Regel der Interferenz. In einem echten Experiment sollte die Änderung der Ernährung einer Person nicht die Gesundheit des Nachbarn beeinflussen. Aber in einem einzigen KI-Lauf verändert die Änderung der Daten für einen Teil des Kuchens die gesamte Struktur des gesamten Kuchens. Die „Einheiten“ sind alle miteinander verbunden, sodass man den Effekt eines einzelnen Korns Mehl nicht isolieren kann.
Die gute Nachricht: Sie erhalten viele Datenpunkte aus nur einem Backvorgang, daher ist Ihre Statistik stark (die Statistische Validität ist gut).

Die wichtigste Erkenntnis

Die Autoren haben eine Matrix (eine Tabelle) erstellt, um Forschern zu zeigen: „Wenn Sie Strategie A wählen, sind Sie vor Risiko X sicher, aber Sie sind in großem Schwierigkeiten mit Risiko Y.“

Proxy-Modelle sind großartig, um Ursache und Wirkung zu beweisen, aber schlecht darin, vorherzusagen, was bei massiver Skalierung passiert.
Observational Studies (Beobachtungsstudien) sind großartig, um reale Daten zu betrachten, aber schrecklich darin, zu beweisen, was das Ergebnis tatsächlich verursacht hat (wegen verborgener Störfaktoren).
Single-Run Designs sind großartig, um viele Datenpunkte zu sammeln, aber schlecht darin, spezifische Ursachen zu isolieren, da alles miteinander vermischt ist.

Das Fazit: Es gibt keinen perfekten, billigen Weg, diese riesigen Modelle zu testen. Jede Abkürzung zwingt Forscher zu einem Kompromiss (Trade-off). Das Paper sagt ihnen nicht, dass sie aufhören sollen, Abkürzungen zu nutzen; stattdessen gibt es ihnen ein Vokabular an die Hand, um zu sagen: „Wir wissen, dass unsere Methode diese spezifische Schwäche hat, und hier ist, wie wir versuchen, damit umzugehen.“ Es geht darum, ehrlich über die Grenzen des Experiments zu sein, anstatt vorzugeben, die Abkürzung sei perfekt.

Technisches Resümee: Validitätsbedrohungen in der Forschung zu Foundation Models

Problemstellung

Der Aufstieg von Foundation Models hat die Rechenkosten für das Training hochmoderner maschineller Lernsysteme dramatisch erhöht, da oft zehntausende GPUs benötigt werden. Infolgedessen ist das ideale kontrollierte Experiment – das Training mehrerer Modelle mit variierenden Rezepten, um kausale Effekte zu isolenieren – rechnerisch prohibitiv. Um diese Kosten zu umgehen, hat die Forschungsgemeinschaft Approximationsstrategien eingeführt, darunter Proxy-Experimente (Verwendung kleinerer Modelle oder billigerer Behandlungen), Beobachtungsstudien (Analyse öffentlicher Metadaten) und Single-Run-Designs (Nutzung interner Variation innerhalb eines einzigen Trainingslaufs).

Das zentrale Problem, das in dieser Arbeit adressiert wird, ist, dass diese kostensparenden Strategien Validitätsbedrohungen einführen: verborgene und teils nicht testbare Annahmen. Wenn diese Annahmen verletzt werden, können Forschungsbehauptungen über das Modellverhalten, optimale Hyperparameter oder die Zusammensetzung von Daten grundlegend falsch oder nicht anwendbar werden. Die Autoren argumentieren, dass es beim Approximation großer Experimente „kein Gratis-Mittagessen“ (no free lunch) gibt; Einsparungen bei der Rechenleistung gehen zwangsläufig auf Kosten der Validität.

Methodik

Das Paper schlägt ein Evaluierungs-Framework vor, das die Forschung zu Foundation Models als ein kausales Inferenzproblem formalisiert. Das Ziel ist es, das „ideale Experiment“ zu approximieren, welches den rezept-spezifischen Behandlungseffekt identifiziert, definiert als:
$\tau(a, y; \psi) = E[y(a) | \psi] - E[y(\emptyset) | \psi]$
wobei $\psi$ das Trainingsrezept, $a$ eine Behandlung (Änderung am Rezept) und $y$ das Ergebnis ist.

Das Framework unterteilt die Analyse in zwei Ebenen:

Forschungsstrategien: Die Autoren kategorisieren die aktuellen Praktiken in drei primäre Strategien:
- Der Proxy-Ansatz: Durchführung von Experimenten auf billigeren Proxies (kleinere Modelle, Proxy-Behandlungen wie Fine-Tuning statt Pre-Training oder Proxy-Ergebnisse wie den Validierungsverlust) und Extrapolation auf die Zielskala.
- Der Beobachtungs-Ansatz: Analyse von Metadaten existierender öffentlicher Modelle, um Beziehungen zwischen Trainingsentscheidungen und Ergebnissen ohne neue Trainingsläufe abzuleiten.
- Der Single-Run-Ansatz: Emulation mehrerer Experimente innerhalb eines einzigen Trainingslaufs, indem Datenpunkte oder Subwords als unabhängige Einheiten behandelt werden oder theoretische Kontrollen (z. B. Einflussfunktionen, Canary-Daten) genutzt werden.
Validitätstypen: Durch die Adaption einer Taxonomie aus den empirischen Sozialwissenschaften evaluiert das Framework Strategien durch vier Linsen:
- Statistische Validität: Zuverlässigkeit der Schätzungen angesichts endlicher, verrauschter Stichproben.
- Interne Validität: Ob eine Schätzung einen echten kausalen Effekt widerspiegelt oder lediglich eine bloße Assoziation darstellt.
- Externe Validität: Ob sich Befunde vom Proxy oder der Stichprobe auf das Ziel-Trainingsrezept generalisieren lassen (z. B. über Skalen oder Modellfamilien hinweg).
- Konstruktvalidität: Ob die Operationalisierung von Behandlung und Ergebnis die intendierte Forschungsfrage korrekt widerspiegelt.

Zentrale Beiträge und Ergebnisse

1. Charakterisierung von Validitätsprofilen

Das Paper synthetisiert die der Strategie inhärenten Validitätsbedrohungen zu einem „Validitätsprofil“ und klassifiziert Bedrohungen als „eher nicht betroffen“, „erfordert sorgfältige Berücksichtigung“ oder „zentrale Bedrohung“.

Proxy-Modelle:
- Stärken: Bewahren im Allgemeinen die statistische und interne Validität (sofern kontrollierte Experimente verwendet werden) sowie die Konstruktvalidität (sofern die ursprüngliche Behandlung/das ursprüngliche Ergebnis verwendet wird).
- Zentrale Bedrohung: Externe Validität. Die Annahme, dass Behandlungseffekte vorhersagbar skalieren (z. B. via Scaling Laws), ist oft unverifiziert. Die Vorhersagbarkeit bricht bei unterschiedlichen Trainingsrezepten oder beim Auftreten emergenter Verhaltensweisen zusammen.
Proxy-Behandlungen und -Ergebnisse:
- Stärken: Bedrohen die statistische, interne oder externe Validität in Bezug auf das Zielmodell nicht inhärent.
- Zentrale Bedrohung: Konstruktvalidität. Das Ersetzen der Behandlung (z. B. Fine-Tuning statt Pre-Training) oder des Ergebnisses (z. B. Benchmark-Subsets) verändert oft fundamental den kausalen Estimanden. Beispielsweise können Fine-Tuning-Proxies das Risiko von Privacy Leakage überschätzen, da sie eine andere Memorierungsdynamik aufweisen als Single-Epoch Pre-Training.
Beobachtungs-Ansatz:
- Stärken: Behält Evidenz auf der Zielskala bei und kann durch die Aggregation von Daten über verschiedene Familien hinweg eine hohe statistische Validität bieten.
- Zentrale Bedrohung: Interne Validität. Der Ansatz beruht auf der unprüfbaren Annahme der Austauschbarkeit (keine Störfaktoren/Confounding). Confounder wie die „Kalenderzeit“ (wo neuere Modelle sowohl von architektonischen Fortschritten als auch von kuratierten Datengemischen profitieren) können spurehafte Assoziationen induzieren. Zudem wird die Externe Validität durch Heterogenität der Effekte über Modellfamilien hinweg bedroht; das Zusammenführen von Daten mittelt diese Unterschiede heraus und kann rezeptspezifische Effekte verschleiern.
Single-Run-Ansatz:
- Stärken: Kann feingranulare Einblicke liefern und die statistische Validität durch große Populationen innerhalb eines Laufs aufrechterhalten.
- Zentrale Bedrohung: Interne Validität aufgrund von Interferenz. Die Annahme, dass die Behandlung einer Einheit (z. B. eines Datenpunkts) andere nicht beeinflusst, ist problematisch, da alle Einheiten dieselben Modellparameter teilen; das Training auf Punkt $i$ aktualisiert die Parameter, die auch für Punkt $j$ verwendet werden. Zudem wird die Externe Validität über die Einheiten hinweg bedroht, falls die Effekte heterogen sind.

2. Identifikation unteradressierter Bedrohungen

Die Analyse zeigt spezifische Validitätsbedrohungen auf, die in der Literatur bisher unzureichend berücksichtigt wurden:

Die Verletzung der Austauschbarkeit in Beobachtungsstudien durch Confounding durch Kalenderzeit und Datenzusammensetzung.
Die Interferenz zwischen Einheiten in Single-Run-Designs, was die Stable Unit Treatment Value Assumption (SUTVA) verletzt.
Die fundamentale Verschiebung der Konstruktvalidität, wenn Proxy-Behandlungen (wie Multi-Epoch Fine-Tuning) verwendet werden, um Pre-Training-Dynamiken zu approximieren.

3. Praktisches Toolkit

Das Paper stellt eine Matrix (Tabelle 1) als praktisches Toolkit für Forscher und Reviewer bereit. Diese ermöglicht es ihnen:

Explizit zu identifizieren, welche Validitätstypen für ein gegebenes Design gefährdet sind.
Verborgene Annahmen explizit zu machen.
Die Trade-offs zu verstehen, die entstehen, wenn Strategien kombiniert werden (z. B. akkumuliert eine Beobachtungsstudie, die einen Proxy-Treatment nutzt, zusätzliche Validitätsbedrohungen).

Bedeutung und Ansprüche

Die Autoren behaupten, dass ihr Framework eine gemeinsame Sprache für die Diskussion der Validität in der Foundation-Model-Forschung bietet und die Lücke zwischen kausaler Inferenz-Theorie und empirischer Machine-Learning-Praxis schließt.

Für Autoren: Das Framework bietet ein Vokabular, um notwendige Trade-offs zu verteidigen und verborgene Annahmen explizit zu machen, um sicherzustellen, dass Behauptungen mit den aktiven Validitätsbedrohungen des gewählten Designs übereinstimmen.
Für Reviewer: Es bietet eine strukturierte Basis, um zu beurteilen, ob die Schlussfolgerungen eines Papers durch seine zugrunde liegende Methodik gestützt werden, insbesondere wenn mehrere Approximationsstrategien kombiniert werden.
Für das Feld: Das Paper argumentiert, dass das ideale Experiment zwar oft nicht durchführbar ist, Forscher jedoch bewusst sein müssen, dass „Einsparungen bei der Rechenleistung mit Validitätsbedrohungen einhergehen“. Das Framework schlägt keine einzelne Lösung zur Eliminierung dieser Bedrohungen vor, sondern eine systematische Methode zu deren Prüfung. Es legt nahe, dass robuste Schlussfolgerungen das parallele Verfolgen mehrerer Strategien oder das Vertrauen auf die kumulierte wissenschaftliche Erkenntnis über die Zuverlässigkeit spezifischer Bedrohungen erfordern könnten.

Das Werk betont, dass Validität keine binäre Eigenschaft ist, sondern ein Spektrum an Risiken, die durch sorgfältiges Design und die explizite Anerkennung von Annahmen gemanagt werden müssen.