Complete Subset Averaging with Many Instruments

Résumé Technique : Moyennage de Sous-ensembles Complets avec de Nombreux Instruments

Énoncé du Problème
Les estimateurs à variables instrumentales (IV), particulièrement les doubles moindres carrés (2SLS), sont des standards pour traiter l'endogénéité dans les modèles économiques. Bien que l'utilisation d'un grand ensemble d'instruments (sur-identification) puisse améliorer l'efficacité, cela introduit un arbitrage : augmenter le nombre d'instruments augmente souvent le biais en échantillon fini de l'estimateur. La littérature existante a abordé ce problème via la sélection de modèles (par exemple, Donald et Newey, 2001), le moyennage de modèles avec des poids estimés (par exemple, Kuersteiner et Okui, 2010), ou des méthodes de contraction/shrinkage (par exemple, Okui, 2011). Cependant, ces approches font face à des limites lorsque les instruments sont fortement corrélés (où la sélection de modèle comme Lasso peut échouer) ou lorsque l'estimation de poids optimaux en haute dimension entraîne des pertes d'efficacité en échantillon fini. De plus, les approches de moyennage de modèles existantes nécessitent souvent des modèles emboîtés ou des ensembles principaux d'instruments pré-spécifiés.

Méthodologie
Les auteurs proposent l'estimateur CSA 2SLS (Complete Subset Averaging 2SLS). Cette méthode opère lors de la première étape en construisant une moyenne à poids égaux des valeurs ajustées sur tous les sous-ensembles complets possibles de $k$ instruments choisis parmi un total de $K$ instruments disponibles.

1. Construction de l'Estimateur :

   • Soit $Z_{K,i}$ le vecteur des $K$ instruments exclus.
   • Pour une taille de sous-ensemble $k$ choisie, il existe $M = \binom{K}{k}$ sous-ensembles possibles.
   • Pour chaque sous-ensemble $m$, une matrice de projection 2SLS standard $P^k_m$ est calculée.
   • La matrice de projection CSA, notée $P^k$, est la moyenne arithmétique de ces $M$ matrices de projection : $P^k = \frac{1}{M} \sum_{m=1}^M P^k_m$.
   • L'estimateur est défini par $\hat{\beta} = (X'P^k X)^{-1} X'P^k y$.
   • Crucialement, $P^k$ est symétrique mais généralement non idempotente, ce qui la distingue des matrices de projection 2SLS standard.

2. Sélection de la Taille du Sous-ensemble :

   • La taille du sous-ensemble $k$ est choisie en minimisant l'équivalent échantillon de l'Erreur Quadratique Moyenne (MSE) approximative.
   • L'MSE approximative est dérivée d'une expansion de Nagar (1959), qui capture le compromis biais-variance en échantillons finis.
   • Les auteurs proposent également une méthode de validation croisée (CV) comme alternative à l'MSE approximative pour sélectionner $k$, laquelle minimise l'erreur quadratique moyenne de prédiction de la première étape.

3. Gestion des Instruments Non Pertinents :

   • Le papier généralise l'MSE approximative à des scénarios où le nombre d'instruments non pertinents croît avec la taille de l'échantillon.
   • La formule dérivée inclut un terme de pénalité dépendant du ratio entre les sous-ensembles pertinents et le total, suggérant que le $k$ optimal devrait être plus grand en présence d'instruments non pertinents afin de limiter la dilution du signal.

Contributions Théoriques Clés

1. Dérivation de l'MSE Approximative : Les auteurs dérivent l'MSE approximative de l'estimateur CSA-2SLS en utilisant l'expansion de Nagar. Un défi technique majeur a été relevé : la moyenne de matrices de projection non emboîtées n'est pas idempotente, ce qui nécessite de nouvelles techniques analytiques par rapport à la littérature supposant des modèles emboîtés. La formule dérivée montre explicitement le compromis biais-variance.
2. Optimalité Asymptotique : Le papier prouve que l'estimateur CSA-2SLS, avec un $k$ choisi pour minimiser l'MSE approximative échantillonale, est asymptotiquement optimal au sein de la classe des estimateurs CSA-2SLS avec différentes tailles de sous-ensembles. Ce résultat est établi sur la base des critères d'optimalité de Li (1987) et Whittle (1960).
3. Généralisation aux Instruments Non Pertinents : Les auteurs étendent l'analyse de l'MSE aux cas avec un ensemble croissant d'instruments non pertinents. Ils montrent que la présence d'instruments non pertinents augmente la pénalité pour les petites tailles de sous-ensembles, justifiant théoriquement la sélection d'un $k$ plus grand que celui qui serait choisi dans un contexte de seuls instruments pertinents.
4. Cas des Instruments Orthogonaux : Le papier démontre que si les instruments sont mutuellement orthogonaux, l'estimateur CSA-2SLS est identique à l'estimateur 2SLS standard utilisant tous les $K$ instruments, quel que soit le $k$ choisi.

Résultats Empiriques et de Simulation

• Simulations de Monte Carlo : Des simulations extensives montrent que lorsque les instruments sont corrélés, l'estimateur CSA-2SLS surpasse les méthodes alternatives (incluant la sélection de Donald-Newey, le moyennage de Kuersteiner-Okui, et le 2SLS standard) en termes de biais et d'Erreur Quadratique Moyenne (MSE). La méthode est particulièrement efficace pour réduire le « problème des moments » (valeurs aberrantes importantes) associé aux petits ensembles d'instruments en présence d'une endogénéité élevée.
• Illustration Empirique : Les auteurs appliquent la méthode pour estimer une fonction de demande logistique pour les automobiles en utilisant les données de Berry, Levinsohn et Pakes (1995).
  • Dans un design étendu avec de nombreux instruments, les estimateurs 2SLS standard et autres (DN, KO) ont produit des estimations impliquant une demande inélastique pour une grande partie des produits, contredisant la théorie économique.
  • Les estimations CSA-2SLS ont abouti à une valeur absolue beaucoup plus grande pour le coefficient d'élasticité-prix, avec seulement 0,3 % des produits présentant une demande inélastique. Cela suggère que l'estimateur CSA a réussi à corriger le biais lié au grand nombre d'instruments qui tirait les estimations vers les résultats inconsistants des MCO.

Signification et Revendications
Le papier affirme que l'estimateur CSA-2SLS offre une alternative robuste pour les contextes comportant de nombreux instruments, particulièrement lorsque ces instruments sont corrélés. En utilisant un moyennage à poids égaux sur des sous-ensembles complets plutôt que la sélection de modèles ou l'estimation de poids, la méthode évite les écueils de la rupture de performance sous forte corrélation et les pertes d'efficacité liées à l'estimation de poids en haute dimension. Les auteurs affirment que la méthode atteint l'optimalité asymptotique au sein de sa classe et apporte des gains substantiels en échantillon fini en termes de réduction du biais et de la MSE, comme en témoignent les simulations et l'application empirique.

Limites Notées par les Auteurs

• La dérivation de l'MSE approximative suppose des erreurs conditionnellement homoscédastiques.
• L'étude se concentre strictement sur l'estimateur 2SLS ; les extensions aux estimateurs de la classe $k$ comme le Maximum de Vraisemblance à Information Limitée (LIML) sont reportées à des recherches futures.
• La méthode suppose que les instruments sont valides ; bien qu'elle gère les instruments non pertinents, elle ne traite pas les instruments invalides.