Complete Subset Averaging with Many Instruments

Technische Samenvatting: Complete Subset Averaging met Veel Instrumenten

Probleemstelling
Instrumentele variabelen (IV) schatters, in het bijzonder Two-Stage Least Squares (2SLS), zijn standaard voor het aanpakken van endogeniteit in economische modellen. Hoewel het gebruik van een grote set instrumenten (overidentificatie) de efficiëntie kan verbeteren, introduceert dit een afruil: het vergroten van het aantal instrumenten verhoogt vaak de bias van de schatter in eindige steekproeven. Bestaande literatuur heeft dit aangepakt via modelselectie (bijv. Donald en Newey, 2001), modelaveraging met geschatte gewichten (bijv. Kuersteiner en Okui, 2010), of shrinkage-methoden (bijv. Okui, 2011). Deze benaderingen kampen echter met beperkingen wanneer instrumenten sterk gecorreleerd zijn (waarbij modelselectie zoals Lasso kan falen) of wanneer het schatten van optimale gewichten in hoge dimensies leidt tot efficiëntieverlies in eindige steekproeven. Bovendien vereisen bestaande modelaveraging-benaderingen vaak geneste modellen of vooraf gespecificeerde hoofdsets van instrumenten.

Methodologie
De auteurs stellen de Complete Subset Averaging (CSA) 2SLS schatter voor. Deze methode werkt in de eerste fase door een gelijk gewogen gemiddelde te construeren van de gefitte waarden over alle mogelijke volledige deelverzamelingen van $k$ instrumenten gekozen uit een totaal van $K$ beschikbare instrumenten.

1. Constructie van de Schatter:

   • Laat $Z_{K,i}$ de vector zijn van $K$ uitgesloten instrumenten.
   • Voor een gekozen subsetgrootte $k$ zijn er $M = \binom{K}{k}$ mogelijke deelverzamelingen.
   • Voor elke deelverzameling $m$ wordt een standaard 2SLS projectiematrix $P^k_m$ berekend.
   • De CSA-projectiematrix, aangeduid als $P^k$, is het rekenkundig gemiddelde van deze $M$ projectiematrices: $P^k = \frac{1}{M} \sum_{m=1}^M P^k_m$.
   • De schatter wordt gedefinieerd als $\hat{\beta} = (X'P^k X)^{-1} X'P^k y$.
   • Cruciaal is dat $P^k$ symmetrisch is maar over het algemeen niet idempotent, wat het onderscheidt van standaard 2SLS projectiematrices.

2. Selectie van de Deelverzamelt Grootte:

   • De subsetgrootte $k$ wordt gekozen door de steekproeftegenhanger van een benaderende Mean Squared Error (MSE) te minimaliseren.
   • De benaderende MSE is afgeleid van een Nagar (1959) expansie, die de bias-variance afruil in eindige steekproeven vastlegt.
   • De auteurs stellen ook een Cross-Validation (CV) methode voor als alternatief voor de benaderende MSE voor het selecteren van $k$, die de first-stage mean squared prediction error minimaliseert.

3. Omgaan met Irrelevante Instrumenten:

   • Het artikel generaliseert de benaderende MSE naar scenario's waarin het aantal irrelevante instrumenten meegroeit met de steekproefomvang.
   • De afgeleide formule bevat een strafterm die afhankelijk is van de ratio tussen relevante en totale deelverzamelingen, wat suggereert dat de optimale $k$ groter moet zijn in de aanwezigheid van irrelevante instrumenten om de verdunning van het signaal te beperken.

Belangrijke Theoretische Bijdragen

1. Afleiding van de Benaderende MSE: De auteurs leiden de benaderende MSE voor de CSA-2SLS schatter af met behulp van de Nagar-expansie. Een belangrijke technische uitdaging die wordt aangepakt, is dat het gemiddelde van niet-geneste projectiematrices niet idempotent is, wat nieuwe analytische technieken vereist vergeleken met de literatuur die uitgaat van geneste modellen. De afgeleide formule toont expliciet de bias-variance afruil.
2. Asymptotische Optimaliteit: Het artikel bewijst dat de CSA-2SLS schatter, met $k$ gekozen om de steekproef-benaderende MSE te minimaliseren, asymptotisch optimaal is binnen de klasse van CSA-2SLS schatters met verschillende subsetgroottes. Dit resultaat is vastgesteld op basis van de optimaliteitscriteria van Li (1987) en Whittle (1960).
3. Generalisatie naar Irrelevante Instrumenten: De auteurs breiden de MSE-analyse uit naar gevallen met een groeiende set irrelevante instrumenten. Ze tonen aan dat de aanwezigheid van irrelevante instrumenten de straf voor kleine subsetgroottes vergroot, wat theoretisch rechtvaart dat een grotere $k$ wordt gekozen dan in een setting met alleen relevante instrumenten.
4. Orthogonale Instrumenten Geval: Het artikel demonstreert dat als instrumenten onderling orthogonaal zijn, de CSA-2SLS schatter identiek is aan de standaard 2SLS schatter met gebruikmaking van alle $K$ instrumenten, ongeacht de gekozen $k$.

Empirische en Simulatie Resultaten

• Monte Carlo Simulaties: Uit uitgebreide simulaties blijkt dat de CSA-2SLS schatter, wanneer instrumenten gecorreleerd zijn, beter presteert dan alternatieve methoden (inclusclusief Donald-Newey selectie, Kuersteiner-Okui averaging en standaard 2SLS) in termen van bias en Mean Squared Error. De methode is bijzonder effectief in het verminderen van het "momentenprobleem" (grote uitschieters) geassocieerd met kleine instrumentensets in de aanwezigheid van hoge endogeniteit.
• Empirische Illustratie: De auteurs passen de methode toe om een logistische vraagfunctie voor auto's te schatten met behulp van de data van Berry, Levinsohn en Pakes (1995).
  • In een uitgebreid ontwerp met veel instrumenten produceerden de standaard 2SLS en andere schatters (DN, KO) schattingen die impliceerden dat de vraag voor een groot deel van de producten inelastisch was, wat in strijd is met de economische theorie.
  • De CSA-2SLS schattingen resulteerden in een veel grotere absolute waarde voor de prijselasticiteitscoëfficiënt, waarbij slechts 0,3% van de producten inelastische vraag vertoonde. Dit suggereert dat de CSA-schatter succesvol de many-instrument bias heeft gecorrigeerd die de schattingen richting de inconsistente OLS-resultaten trok.

Betekenis en Claims
Het artikel beweert dat de CSA-2SLS schatter een robuust alternatief biedt voor settings met veel instrumenten, met name wanneer die instrumenten gecorreleerd zijn. Door gebruik te maken van gelijk gewogen averaging over volledige deelverzamelingen in plaats van modelselectie of het schatten van gewichten, vermijdt de methode de valkuilen van het instorten onder hoge correlatie of de efficiëntieverliezen van het schatten van hoogdimensionale gewichten. De auteurs stellen dat de methode asymptotische optimaliteit bereikt binnen haar klasse en substantiële winsten in eindige steekproeven biedt in bias en MSE-reductie vergeleken met bestaande benaderingen, zoals aangetoond door zowel simulatie als empirische toepassing.

Door Auteurs Genoemde Beperkingen

• De afleiding van de benaderende MSE gaat uit van conditioneel homoscedastische fouten.
• De focus ligt strikt op de 2SLS schatter; uitbreidingen naar k-klasse schatters zoals Limited Information Maximum Likelihood (LIML) worden uitgesteld naar toekomstig onderzoek.
• De methode gaat ervan uit dat de instrumenten valide zijn; hoewel het omgaat met irrelevante instrumenten, adresseert het niet de kwestie van ongeldige instrumenten.