Complete Subset Averaging with Many Instruments

Technische Zusammenfassung: Complete Subset Averaging mit vielen Instrumenten

Problemstellung
Schätzer für instrumentelle Variablen (IV), insbesondere die Zweistufige Kleinste-Quadrate-Methode (2SLS), sind Standardverfahren zur Adressierung von Endogenität in ökonomischen Modellen. Während die Verwendung eines großen Satzes von Instrumenten (Überidentifikation) die Effizienz steigern kann, führt dies zu einem Zielkonflikt: Eine Erhöhung der Anzahl der Instrumente vergrößert oft den endlich-Stichproben-Bias (Finite-Sample Bias) des Schätzers. Die bestehende Literatur hat dies durch Modellselektion (z. B. Donald und Newey, 2001), Modellmittelung mit geschätzten Gewichten (z. B. Kuersteiner und Okui, 2010) oder Shrinkage-Methoden (z. B. Okui, 2011) adressiert. Diese Ansätze stoßen jedoch an Grenzen, wenn Instrumente hoch korreliert sind (wo Modellselektion wie Lasso versagen kann) oder wenn die Schätzung optimaler Gewichte in hohen Dimensionen zu Effizienzverlusten in der endlich-Stichprobe führt. Zudem erfordern viele bestehende Modellmittelungsansätze verschachtelte Modelle oder vorab spezifizierte Hauptsätze von Instrumenten.

Methodik
Die Autoren schlagen den Complete Subset Averaging (CSA) 2SLS Schätzer vor. Diese Methode operiert in der ersten Stufe, indem sie den gleich gewichteten Durchschnitt der berechneten Werte über alle möglichen vollständigen Teilmengen von $k$ Instrumenten bildet, die aus einer Gesamtzahl von $K$ verfügbaren Instrumenten ausgewählt werden.

1. Konstruktion des Schätzers:

   • Sei $Z_{K,i}$ der Vektor der $K$ ausgeschlossenen Instrumente.
   • Für eine gewählte Teilmengengröße $k$ gibt es $M = \binom{K}{k}$ mögliche Teilmengen.
   • Für jede Teilmenge $m$ wird eine Standard-2SLS-Projektionsmatrix $P^k_m$ berechnet.
   • Die CSA-Projektionsmatrix, bezeichnet als $P^k$, ist der arithmetische Mittelwert dieser $M$ Projektionsmatrizen: $P^k = \frac{1}{M} \sum_{m=1}^M P^k_m$.
   • Der Schätzer ist definiert als $\hat{\beta} = (X'P^k X)^{-1} X'P^k y$.
   • Entscheidend ist, dass $P^k$ symmetrisch, aber im Allgemeinen nicht idempotent ist, was ihn von Standard-2SLS-Projektionsmatrizen unterscheidet.

2. Auswahl der Teilmengengröße:

   • Die Teilmengengröße $k$ wird durch Minimierung des Stichproben-Pendanten eines approximierten mittleren quadratischen Fehlers (Mean Squared Error, MSE) gewählt.
   • Der approximierte MSE wird unter Verwendung einer Nagar-Expansion (1959) hergeleitet, welche den Bias-Varianz-Trade-off in endlichen Stichproben erfasst.
   • Die Autoren schlagen zudem eine Kreuzvalidierungsmethode (Cross-Validation, CV) als Alternative zum approximierten MSE zur Auswahl von $k$ vor, welche den mittlere quadratischen Vorhersagefehler der ersten Stufe minimiert.

3. Umgang mit irrelevanten Instrumenten:

   • Das Paper generalisiert den approximierten MSE für Szenarien, in denen die Anzahl irrelevanter Instrumente mit der Stichprobengröße wächst.
   • Die abgeleitete Formel enthält einen Strafterm (Penalty Term), der von dem Verhältnis der relevanten zu den gesamten Teilmengen abhängt, was darauf hindeutet, dass das optimale $k$ in Anwesenheit irrelevanter Instrumente größer sein sollte, um die Verwässerung des Signals zu mildern.

Wesentliche theoretische Beiträge

1. Ableitung des approximierten MSE: Die Autoren leiten den approximierten MSE für den CSA-2SLS Schätzer unter Verwendung der Nagar-Expansion her. Eine wesentliche technische Herausforderung besteht darin, dass der Durchschnitt nicht-verschachtelter Projektionsmatrizen nicht idempotent ist, was neue analytische Techniken im Vergleich zur Literatur erfordert, die verschachtelte Modelle annimmt. Die abgeleitete Formel zeigt explizit den Bias-Varianz-Trade-off auf.
2. Asymptotische Optimalität: Das Paper beweist, dass der CSA-2SLS Schätzer, wobei $k$ zur Minimierung des Stichproben-approximierten MSE gewählt wird, asymptotisch optimal innerhalb der Klasse der CSA-2SLS Schätzer mit unterschiedlichen Teilmengengrößen ist. Dieses Ergebnis wird basierend auf den Optimalitätskriterien von Li (1, 1987) und Whittle (1, 1960) etabliert.
3. Generalisierung auf irrelevante Instrumente: Die Autoren erweitern die MSE-Analyse auf Fälle mit einem wachsenden Satz irrelevanter Instrumente. Sie zeigen, dass das Vorhandensein irrelevanter Instrumente den Penalty für kleine Teilmengen erhöht, was die Wahl eines größeren $k$ gegenüber einem Setting mit nur relevanten Instrumenten theoretisch rechtfertigt.
4. Fall orthogonaler Instrumente: Das Paper demonstriert, dass der CSA-2SLS Schätzer identisch mit dem Standard-2SLS Schätzer unter Verwendung aller $K$ Instrumente ist, falls die Instrumente untereinander orthogonal sind, unabhängig vom gewählten $k$.

Empirische und Simulationsergebnisse

• Monte-Carlo-Simulationen: Umfangreiche Simulationen zeigen, dass der CSA-2SLS Schätzer bei korrelierten Instrumenten alternative Methoden (einschließlich Donald-Newey Selektion, Kuersteiner-Okui Mittelung und Standard-2SLS) in Bezug auf Bias und MSE übertrifft. Die Methode ist besonders effektiv bei der Reduzierung des „Momente-Problems“ (große Ausreißer), das mit kleinen Instrumentensätzen bei hoher Endogenität assoziiert ist.
• Empirische Illustration: Die Autoren wenden die Methode an, um eine logistische Nachfragefunktion für Automobile unter Verwendung von Daten von Berry, Levinsohn und Pakes (1995) zu schätzen.
  • In einem erweiterten Design mit vielen Instrumenten produzierten der Standard-2SLS und andere Schätzer (DN, KO) Schätzungen, die eine unelastische Nachfrage für einen großen Teil der Produkte implizierten, was der ökonomischen Theorie widerspricht.
  • Die CSA-2SLS Schätzungen ergaben einen wesentlich größeren Absolutwert für den Preiselastizitätskoeffizienten, wobei nur 0,3 % der Produkte eine unelastische Nachfrage zeigten. Dies deutet darauf hin, dass der CSA-Schätzer erfolgreich den Many-Instrument-Bias korrigierte, der die Schätzungen in Richtung der inkonsistenten OLS-Ergebnisse zog.

Bedeutung und Behauptungen
Das Paper behauptet, dass der CSA-2SLS Schätzer eine robuste Alternative für Settings mit vielen Instrumenten bietet, insbesondere wenn diese Instrumente korreliert sind. Durch die Verwendung der gleich gewichteten Mittelung über vollständige Teilmengen anstelle von Modellselektion oder Gewichtsschätzung vermeidet die Methode die Fallstricke des Zusammenbrechens bei hoher Korrelation sowie die Effizienzverluste durch die Schätzung hochdimensionaler Gewichte. Die Autoren behaupten, dass die Methode asymptotische Optimalität innerhalb ihrer Klasse erreicht und substantielle Gewinne in der endlichen Stichprobe hinsichtlich der Reduktion von Bias und MSE erzielt, wie durch Simulationen und empirische Anwendungen belegt wurde.

Vom Autor angemerkt Limitationen

• Die Ableitung des approximierten MSE setzt konditional homoskedastische Fehler voraus.
• Der Fokus liegt strikt auf dem 2SLS Schätzer; Erweiterungen auf k-Klassen-Schätzer wie die Limited Information Maximum Likelihood (LIML) werden auf zukünftige Forschung vertagt.
• Die Methode setzt voraus, dass die Instrumente valide sind; während sie mit irrelevanten Instrumenten umgeht, adressiert sie keine invaliden Instrumente.