Econometric Inference with Machine-Learned Proxies: Partial Identification via Data Combination

Diese Arbeit entwickelt einen Rahmen für die partielle Identifikation und Inferenz in allgemeinen Momentmodellen, der maschinell gelernte Proxys als Bindeglied zwischen einem Downstream-Datensatz und einem Validierungsdatensatz nutzt, um verzerrte Schätzungen zu vermeiden und verlässliche Konfidenzmengen ohne strenge Annahmen an das ML-Verfahren oder Resampling-Methoden zu ermöglichen.

Das Wesentliche

Das große Rätsel: Wenn wir nur Schätzungen haben, aber keine echten Daten

Stellen Sie sich vor, Sie sind ein Ökonom, der herausfinden möchte, wie sich schlechte Luft auf die Gesundheit auswirkt. Das Problem: Sie haben keine genauen Messungen der Luftverschmutzung für jeden einzelnen Haushalt.

Aber Sie haben eine clevere Idee: Sie nutzen Künstliche Intelligenz (KI). Die KI schaut sich Satellitenbilder und Wetterdaten an (das sind die „unstrukturierten Daten") und sagt: „Ich denke, in dieser Straße ist die Luftverschmutzung hoch." Das Ergebnis dieser KI ist ein Proxy (ein Stellvertreterwert).

Das Problem:
Wenn Sie diesen KI-Wert einfach so in Ihre Statistik aufnehmen, als wäre er die absolute Wahrheit, passieren zwei Dinge:

1. Die KI macht Fehler (sie ist nicht perfekt).
2. Die KI könnte Dinge sehen, die auch mit der Gesundheit zu tun haben (z. B. ob es eine Fabrik gibt), was Ihre Ergebnisse verzerrt.

Es ist, als würde man versuchen, das Gewicht eines Elefanten zu messen, indem man auf einer Waage steht, die nur grob schätzt, wie schwer ein Elefant ist, und dann einfach annimmt, dass die Schätzung 100% korrekt ist. Das führt zu falschen Schlussfolgerungen.

Die Lösung: Der „Zwischenhändler" und zwei verschiedene Bücher

Lixiong Li schlägt einen neuen Weg vor, der nicht versucht, die KI-Fehler zu korrigieren, sondern sie einfach akzeptiert und umgeht.

Stellen Sie sich vor, Sie haben zwei verschiedene Bücher:

1. Das große Buch (Downstream-Sample): Darin stehen alle Haushalte, deren Gesundheit Sie untersuchen wollen. Aber hier fehlt die echte Luftmessung. Stattdessen steht nur die KI-Schätzung da.
2. Das kleine Test-Buch (Validation-Sample): Das ist ein kleines Heftchen, das die KI-Entwickler haben. Darin steht für einige wenige Fälle sowohl die echte Luftmessung als auch die KI-Schätzung.

Die alte Denkweise:
Früher dachten Forscher: „Okay, die KI-Schätzung ist ein bisschen verrauscht. Ich muss die Formel für das Rauschen kennen oder die KI muss perfekt sein." Das ist wie zu versuchen, ein Puzzle zu lösen, ohne zu wissen, wie die Teile aussehen.

Die neue Denkweise (Li's Ansatz):
Li sagt: „Vergessen wir, ob die KI perfekt ist. Nutzen wir das kleine Test-Buch als Brücke."

Stellen Sie sich vor, die KI-Schätzung ist wie ein Schlüssel.

• Im Test-Buch wissen wir, welcher Schlüssel zu welchem echten Schloss (der echten Luftmessung) passt.
• Im großen Buch haben wir nur die Schlüssel, aber keine Schlösser.

Die Idee ist nun: Wir nehmen die Schlüssel aus dem großen Buch und fragen das Test-Buch: „Hey, wenn wir diesen Schlüssel sehen, wie wahrscheinlich ist es, dass dahinter ein echtes Schloss mit hoher Luftverschmutzung steckt?"

Der Trick: Optimaler Transport (Der Umzug)

Wie verbindet man diese beiden Bücher mathematisch? Li nutzt ein Werkzeug namens „Optimaler Transport".

Stellen Sie sich vor, Sie haben zwei Lagerhallen:

• Lager A (Das große Buch): Enthält nur die KI-Schätzungen und die Gesundheitsdaten.
• Lager B (Das kleine Test-Buch): Enthält die echten Luftwerte und die KI-Schätzungen.

Ihre Aufgabe ist es, die Menschen aus Lager A so mit den echten Werten aus Lager B zu verbinden, dass die KI-Schätzung in beiden Lagern übereinstimmt. Es ist wie ein Umzug, bei dem Sie versuchen, Möbel (die Daten) so zu verteilen, dass die Verteilung der KI-Schätzungen in beiden Lagern identisch bleibt.

Das Besondere an Li's Methode ist, dass sie keine Annahmen darüber macht, wie gut die KI ist.

• Ist die KI supergenau? Dann ist die Verbindung sehr eng, und Sie bekommen eine scharfe Antwort.
• Ist die KI schlecht? Dann ist die Verbindung locker, und Sie bekommen einen breiten Bereich möglicher Antworten. Aber: Die Antwort ist immer noch korrekt! Sie sagen einfach ehrlich: „Wir wissen es nicht genau, aber es liegt irgendwo zwischen X und Y."

Warum ist das so wichtig?

1. Keine perfekten KI-Modelle nötig: Sie müssen nicht warten, bis die KI „reif" ist oder wissen, wie schnell sie lernt. Sie können jede moderne KI-Technik nutzen, auch die komplexesten.
2. Kein riesiger Datensatz nötig: Sie brauchen nicht für jeden Haushalt die echte Luftmessung. Ein kleines Test-Buch reicht aus.
3. Sichere Ergebnisse: Die Methode garantiert, dass Sie nicht zu falschen Schlüssen kommen, selbst wenn die KI Fehler macht. Sie liefert einen „sicheren Bereich" (Partial Identification), in dem die Wahrheit garantiert liegt.

Zusammenfassung in einem Satz

Statt zu versuchen, die unvollkommene KI-Schätzung zu „reparieren", nutzt diese Methode ein kleines Vergleichsbuch, um die KI-Schätzung als Brücke zu nutzen, die uns erlaubt, ehrliche und sichere Grenzen für unsere wirtschaftlichen Schlussfolgerungen zu ziehen, ohne dass wir die KI perfekt verstehen müssen.

Es ist wie das Navigieren in einem Nebel: Anstatt zu versuchen, den Nebel zu lichten (was unmöglich ist), nutzen Sie einen kleinen Kompass (das Test-Buch), um zu wissen, dass Sie sich irgendwo zwischen Punkt A und Punkt B befinden – und das ist für Ihre Entscheidung schon genug.

Technische Zusammenfassung

1. Problemstellung und Motivation

In der empirischen Ökonomie und den Sozialwissenschaften werden zunehmend komplexe, unstrukturierte Daten (z. B. Text, Bilder) genutzt, um latente Zielvariablen ($Z$) zu messen, die sonst schwer zu quantifizieren wären. Machine-Learning (ML)-Algorithmen werden verwendet, um aus diesen Rohdaten ($X$) Proxies ($\hat{Z} = g(X)$) zu konstruieren.

Das zentrale Problem besteht darin, dass ein naiver „Plug-in"-Ansatz, bei dem der ML-generierte Proxy $\hat{Z}$ direkt als Ersatz für die wahre latente Variable $Z$ in nachgelagerten ökonometrischen Modellen verwendet wird, zu verzerrten Schätzungen und ungültigen Inferenzen führt. Dies liegt an mehreren Faktoren:

• Messfehler: $\hat{Z}$ ist nicht identisch mit $Z$.
• Nicht-klassische Messfehler: Der Fehler $Z - \hat{Z}$ hängt oft von $Z$ ab und kann mit den beobachteten Kovariaten $W$ korreliert sein, selbst wenn $Z$ exogen ist. Zudem kann der Proxy endogen sein, wenn die unstrukturierten Eingaben $X$ Informationen über unbeobachtete Störgrößen enthalten.
• Fehlende asymptotische Garantien: Komplexe ML-Verfahren liefern oft keine bekannten Konvergenzraten oder Konsistenzgarantien, was herkömmliche Korrekturmethoden (wie die Korrektur für generierte Regressoren) unanwendbar macht.
• Datenanforderungen: Viele bestehende Methoden erfordern einen vollständigen Validierungsstichproben, der alle Variablen $(W, Z, \hat{Z})$ gemeinsam enthält, was in der Praxis oft nicht verfügbar ist.

2. Methodischer Ansatz

Die Arbeit entwickelt einen Rahmen für die partielle Identifikation und Inferenz in allgemeinen Momentenmodellen unter Nutzung von ML-Proxies und einem Hilfs-Validierungsstichproben.

A. Datenumgebung und Annahmen

Der Autor geht von zwei Datensätzen aus:

1. Downstream-Stichprobe: Enthält beobachtete Kovariaten $W$, unstrukturierte Inputs $X$ und den daraus konstruierten Proxy $\hat{Z} = g(X)$. Die wahre Variable $Z$ ist hier nicht beobachtet.
2. Validierungsstichprobe (Auxiliary): Enthält gemeinsame Beobachtungen der wahren Variable $Z$, des Proxies $\hat{Z}$ und möglicherweise einer niedrigdimensionalen Stratifizierungsvariable $S = h(X)$.
   • Wichtig: Die Validierungsstichprobe muss keine Daten zu $W$ enthalten. Es wird keine individuelle Zuordnung zwischen den beiden Stichproben benötigt.

B. Identifikationsstrategie: Unbedingter Optimaler Transport (OT)

Statt $\hat{Z}$ als verrauschten Ersatz für $Z$ zu behandeln, wird es als Verknüpfungsvariable (Linking Variable) zwischen den beiden Stichproben betrachtet.

• Konzept: Die Validierungsstichprobe erlaubt es, die bedingte Verteilung von $Z$ gegeben $\hat{Z}$ zu lernen. Diese Information wird auf die Downstream-Stichprobe übertragen.
• Technik: Anstatt eine bedingte optimale Transport-Problematik zu lösen (was bei kontinuierlichen oder hochdimensionalen $\hat{Z}$ rechnerisch unmöglich wäre), entwickelt der Autor eine unbedingte Charakterisierung basierend auf der Entkopplungsidee von Li und Henry (2025).
• Formulierung: Der identifizierbare Bereich $\Theta_I$ für den Parameter $\theta$ wird als Menge aller $\theta$ definiert, für die eine gemeinsame Verteilung existiert, die die Randverteilungen der beiden Stichproben respektiert und die Momentenbedingungen erfüllt.
• Scharfe Charakterisierung (Theorem 1): Der Autor zeigt, dass $\theta$ im identifizierbaren Bereich liegt genau dann, wenn:
  $$\max_{\lambda \in B} \min_{H' \in \mathcal{H}'} \mathbb{E}_{H'}[\lambda^\top \tilde{q}(W, Z, \hat{Z}, S, \hat{Z}', S'; \theta)] \leq 0$$
  Hierbei ist $\tilde{q}$ ein erweiterter Momentenvektor, der die strukturellen Momente und Strafterme für die exakte Übereinstimmung von $\hat{Z}$ und $S$ zwischen den Stichproben enthält. Dies führt zu einem unbedingten Optimalen Transport-Problem zwischen den Randverteilungen, das rechnerisch handhabbar ist.

C. Inferenzverfahren (Theorem 2)

Die Inferenz ist herausfordernd, da OT-Probleme nicht-standardisierte asymptotische Eigenschaften aufweisen.

• Dualität und Sieve-Approximation: Das Problem wird über die Kantorovich-Dualität in ein konvexes Optimierungsproblem umgewandelt. Der unendlichdimensionale Raum der Dualfunktionen wird durch einen endlichdimensionalen Sieve-Raum (basierend auf Basisfunktionen) approximiert.
• Sample Splitting und Cross-Fitting: Um Bootstrapping zu vermeiden und die Rechenlast zu senken, wird ein Verfahren mit Stichprobenaufteilung und Cross-Fitting entwickelt:
  1. Die Daten werden in zwei Folds aufgeteilt.
  2. Fold 1 wird genutzt, um die Dualvariablen ($\lambda, \beta$) zu schätzen.
  3. Fold 2 wird genutzt, um den Teststatistik-Wert unter Verwendung der aus Fold 1 geschätzten Parameter zu berechnen.
  4. Die Rollen werden getauscht, und die Ergebnisse werden aggregiert.
• Kritische Werte: Durch diese Methode lässt sich eine analytische, asymptotisch pivotal obere Schranke für die Verteilung der Teststatistik ableiten. Die kritischen Werte können direkt aus der Standardnormalverteilung bezogen werden, ohne auf Simulationen zurückgreifen zu müssen.

3. Wichtige Beiträge

1. Neuer Rahmen für ML-Proxies: Der Artikel bietet einen Rahmen, der keine strukturellen Annahmen über den Messfehler (z. B. bedingte Unabhängigkeit) und keine asymptotischen Garantien für das ML-Modell (Konsistenz, Konvergenzraten) erfordert. Die Validität hängt nur von der Verfügbarkeit einer Validierungsstichprobe $(Z, \hat{Z})$ ab.
2. Partielle Identifikation: Statt einen Punktschätzer zu erzwingen, liefert der Ansatz einen identifizierbaren Bereich (Bounds). Dieser Bereich ist scharf (sharp) und wird enger, je genauer der Proxy ist. Im Extremfall perfekter Vorhersage ($\hat{Z}=Z$) erfolgt eine Punktidentifikation.
3. Unbedingter Optimaler Transport: Die Entwicklung einer unbedingten OT-Charakterisierung löst das Problem der rechnerischen Unmöglichkeit bedingter OT-Probleme bei hochdimensionalen oder kontinuierlichen Proxies.
4. Praktische Inferenz ohne Resampling: Das vorgeschlagene Cross-Fitting-Verfahren ermöglicht eine Inferenz mit analytischen kritischen Werten, was in der Praxis einen großen Vorteil gegenüber Bootstrap-Methoden darstellt.
5. Flexibilität: Der Ansatz erlaubt, dass $Z$ und $\hat{Z}$ in unterschiedlichen Räumen liegen (z. B. $Z$ binär, $\hat{Z}$ eine Wahrscheinlichkeitsverteilung oder ein Vektor von Scores). Dies erlaubt die Kombination mehrerer ML-Modelle zu einem multidimensionalen Proxy.

4. Ergebnisse und Simulationen

Die Monte-Carlo-Simulationen (basierend auf einem Regressionsmodell mit einem ML-generierten regressor) zeigen:

• Größenkontrolle (Size Control): Das vorgeschlagene Verfahren kontrolliert das Fehlerrate-Niveau (Size) zuverlässig über verschiedene Szenarien hinweg (unterschiedliche Stichprobengrößen, verschiedene Vorhersagegenauigkeiten). Im Gegensatz dazu führt der naive Plug-in-Ansatz zu massiven Überablehnungen (Over-rejection), insbesondere bei moderatem bis hohem Vorhersagefehler.
• Informationsgehalt: Die Breite des identifizierten Bereichs hängt direkt von der Vorhersagegenauigkeit des ML-Modells ab. Bessere Proxies führen zu engeren Konfidenzmengen.
• Stratifizierung: Die Einbeziehung einer Stratifizierungsvariable $S$ (z. B. wenn die Vorhersagegenauigkeit in Subgruppen variiert) kann die Inferenz verfeinern, indem sie die bedingte Verteilung von $Z$ gegeben $\hat{Z}$ und $S$ nutzt.
• Kontinuierliche vs. Diskrete Proxies: Die Verwendung von kontinuierlichen Proxies (z. B. vorhergesagte Wahrscheinlichkeiten statt binärer Klassifikation) führt zu engeren Konfidenzmengen, da mehr Information aus den unstrukturierten Daten erhalten bleibt. Die Sieve-Approximation funktioniert dabei robust.

5. Bedeutung und Fazit

Dieses Paper ist ein bedeutender Beitrag zur Schnittstelle von Ökonometrie und maschinellem Lernen. Es adressiert ein wachsendes Problem in der angewandten Forschung: die Nutzung von ML-generierten Messungen in ökonomischen Modellen.

• Für angewandte Forscher: Es bietet ein robustes Werkzeug, um ML-Proxies zu nutzen, ohne sich auf die oft unmögliche theoretische Analyse komplexer ML-Algorithmen verlassen zu müssen. Es erlaubt die Nutzung der besten verfügbaren Vorhersagemodelle, solange eine Validierungsstichprobe existiert.
• Für die ML-Entwicklung: Es verschiebt den Fokus bei der Bewertung von ML-Modellen von der reinen Vorhersagegenauigkeit hin zur Erhaltung der für ökonomische Momentenbedingungen relevanten Information.
• Methodisch: Die Kombination aus Optimaler Transport, partieller Identifikation und Cross-Fitting bietet einen neuen, rechnerisch effizienten Weg zur Lösung von Datenkombinationsproblemen, der über den spezifischen Kontext von ML-Proxies hinaus anwendbar ist.

Zusammenfassend ermöglicht die Arbeit eine valide ökonometrische Inferenz in Umgebungen, in denen traditionelle Methoden aufgrund von Messfehlern, Endogenität und komplexen ML-Prozessen versagen würden.