Average Marginal Effects in One-Step Partially Linear Instrumental Regressions

Les auteurs proposent une nouvelle procédure basée sur les espaces de Hilbert à noyau reproduisant pour estimer et effectuer des inférences sur les effets marginaux moyens dans les régressions instrumentales partiellement linéaires, en utilisant une méthode de bootstrap bayésien pour contourner la complexité de la variance asymptotique.

L'essentiel

🎯 Le Problème : La Recette de Cuisine Trop Rigide

Imaginez que vous êtes un chef cuisinier (un économiste) qui veut comprendre comment un ingrédient spécifique (par exemple, la quantité de sucre, notée Z) influence le goût final d'un gâteau (le résultat Y).

Le problème, c'est que vous ne pouvez pas mesurer directement la quantité de sucre mise dans chaque gâteau, car certains chefs ont tendance à en mettre plus ou moins selon leur humeur, et cette humeur est liée à d'autres facteurs cachés (l'erreur ε). C'est ce qu'on appelle en économie un problème de causalité ou d'endogénéité.

Pour contourner ce problème, vous utilisez un "ingrédient de substitution" ou un instrument (noté W), comme la température de la cuisine, qui influence la quantité de sucre mais pas directement le goût du gâteau.

Jusqu'ici, la méthode classique (les "Moindres Carrés en Deux Étapes") consistait à supposer que la relation entre le sucre et le goût était linéaire (une simple droite). C'est comme dire : "Si j'ajoute 10g de sucre, le gâteau sera toujours 2 points plus sucré."

Mais dans la vraie vie, la réalité est souvent plus complexe. Peut-être qu'ajouter un peu de sucre améliore le goût, mais qu'au-delà d'un certain seuil, le gâteau devient écœurant. La relation n'est pas une droite, c'est une courbe. Si on force une ligne droite sur une courbe, on se trompe de recette, et nos conclusions pour les politiques publiques seront fausses.

🚀 La Solution : Une Nouvelle Méthode "Tout-en-Un"

Lucas Girard et Elia Lapenta proposent une nouvelle façon de faire la cuisine, basée sur deux innovations majeures :

1. L'approche "One-Step" (Une seule étape)

Les anciennes méthodes pour trouver cette courbe complexe étaient comme un jeu de l'oie à plusieurs tours :

• Tour 1 : Estimer la relation entre la température et le sucre.
• Tour 2 : Utiliser ce résultat pour estimer la relation entre le sucre et le goût.
• Tour 3 : Calculer l'effet moyen.

Chaque tour nécessite de régler un "réglage fin" (un paramètre de régularisation), un peu comme régler le four, la vitesse du batteur, etc. Si vous vous trompez sur un réglage, tout le gâteau est raté. C'est compliqué et risqué.

La nouvelle méthode propose de tout faire en une seule étape. Imaginez un robot de cuisine ultra-intelligent qui ajuste tout d'un coup. Il n'y a qu'un seul bouton de réglage (un seul paramètre de régularisation) à tourner. C'est beaucoup plus simple à utiliser pour un cuisinier (un chercheur) et cela évite les erreurs d'accumulation.

2. L'outil magique : Les "Espaces RKHS" (Le Miroir des Fonctions)

Pour trouver la forme de la courbe (le sucre vs le goût) sans deviner à l'avance si c'est une ligne, un cercle ou une vague, les auteurs utilisent un outil mathématique venant de l'intelligence artificielle appelé Espaces de Hilbert à Noyau Reproduisant (RKHS).

• L'analogie du Miroir : Imaginez que vous avez un miroir magique (le noyau) qui peut refléter n'importe quelle forme de courbe avec une précision infinie. Au lieu de dessiner la courbe à la main (ce qui est difficile), vous placez votre recette dans ce miroir, et il vous sort la forme exacte.
• Cet outil permet de capturer des relations très complexes (non-linéaires) tout en restant mathématiquement stable.

📊 Pourquoi c'est important ? (L'Effet Marginal Moyen)

Les chercheurs ne veulent pas juste connaître la courbe complète (trop compliquée à expliquer à un politicien). Ils veulent un chiffre clé : l'Effet Marginal Moyen (AME).

• Question simple : "En moyenne, si j'ajoute un peu de sucre à un gâteau, de combien le goût change-t-il ?"
• L'innovation : Avec les vieilles méthodes, si la relation n'est pas une ligne droite, ce chiffre est faux. Avec la nouvelle méthode, ils peuvent calculer ce chiffre moyen même si la relation est une courbe bizarre, et ils peuvent dire avec certitude si ce chiffre est significatif ou non.

🛡️ La Vérification : Le "Test de Goût" (Bootstrap Bayésien)

Une fois le gâteau cuit, comment être sûr qu'il est bon ? La variance (l'incertitude) de leur nouvelle méthode est si complexe à calculer mathématiquement qu'elle ressemble à une équation de physique quantique.

Pour contourner cela, ils utilisent une technique appelée Bootstrap Bayésien.

• L'analogie : Imaginez que vous avez un seul gâteau. Au lieu de le goûter une fois, vous le coupez en mille petits morceaux virtuels, vous les mélangez, vous en refait des gâteaux, et vous les goûtez 1000 fois.
• Cela vous permet de voir si votre résultat est stable ou s'il dépend du hasard. Les auteurs ont prouvé mathématiquement que cette astuce fonctionne parfaitement, même avec de petits échantillons (peu de données).

🌍 Les Applications Réelles : Trois Exemples

Les auteurs ont testé leur méthode sur trois situations réelles :

1. La taille des classes à l'école (Israël) :

   • Question : Réduire la taille d'une classe améliore-t-elle les notes ?
   • Résultat : Les anciennes méthodes disaient "Oui, c'est très efficace". La nouvelle méthode dit : "Attendez, la relation n'est pas une ligne droite. En réalité, l'effet moyen n'est pas statistiquement significatif." Cela montre que la simplicité de l'ancienne méthode cachait une réalité plus nuancée.

2. Le commerce international et la richesse (150 pays) :

   • Question : Le commerce augmente-t-il la richesse ?
   • Résultat : Oui, même avec peu de données (150 pays), la méthode détecte un effet positif significatif, mais un peu plus faible que ce que les modèles linéaires prédisaient.

3. La publicité dans les journaux (117 journaux) :

   • Question : Trop de publicité fait-il fuir les lecteurs ?
   • Résultat : La relation est en forme de cloche (un peu de pub aide, trop nuit). La méthode capture cette courbe et confirme que l'effet moyen est négatif, validant une intuition économique complexe.

💡 En Résumé

Ce papier propose un nouvel outil de cuisine économique :

1. Il ne force pas la réalité à être une ligne droite (il accepte les courbes).
2. Il est plus simple à utiliser (un seul bouton de réglage).
3. Il est plus robuste (il fonctionne bien même avec peu de données).
4. Il donne des résultats plus fiables pour les décideurs politiques, en évitant les conclusions trompeuses dues à des hypothèses trop rigides.

C'est une avancée majeure pour transformer des données complexes en conseils clairs et précis.

Résumé technique

1. Problématique et Contexte

L'article s'intéresse à l'estimation et à l'inférence sur l'Effet Marginal Moyen (Average Marginal Effect - AME) dans le cadre d'un modèle de variables instrumentales (VI) partiellement linéaire. Le modèle est défini par :

$$Y = h_0(Z) + X^T\beta_0 + \varepsilon, \quad \text{avec } E\{\varepsilon|W, X\} = 0$$

Où :

• $Y$ est la variable de résultat.
• $Z$ est le traitement endogène continu.
• $X$ est un vecteur de covariables exogènes.
• $W$ est une variable instrumentale continue.
• $h_0$ est une fonction de régression non paramétrique inconnue.
• $\beta_0$ est un vecteur de coefficients linéaires.

L'objectif est d'estimer l'AME défini comme $\theta_0 := E\{h'_0(Z)\}$, c'est-à-dire l'effet moyen d'une variation infinitésimale du traitement $Z$ sur le résultat $Y$.

Défis identifiés :

• Les méthodes classiques (comme les MCO en deux étapes) reposent sur des hypothèses de linéarité qui, si elles sont violées, conduisent à des inférences causales biaisées.
• Les approches non-paramétriques ou semi-paramétriques existantes pour estimer les fonctionnels de $h_0$ (comme l'AME) reposent souvent sur des régressions en plusieurs étapes. Cela nécessite la sélection de plusieurs paramètres de régularisation (un par étape), ce qui complique l'implémentation pratique et introduit des erreurs d'estimation cumulées.
• L'inférence sur une fonction non paramétrique est difficile ; se concentrer sur un paramètre scalaire (l'AME) est plus pertinent pour les décideurs politiques, mais l'inférence statistique (tests d'hypothèses) reste complexe en raison de la forme analytique compliquée de la variance asymptotique.

2. Méthodologie Proposée

Les auteurs proposent une procédure novatrice basée sur deux piliers principaux :

A. Estimation en une seule étape (One-Step)

Contrairement aux méthodes en deux étapes (estimation de $E[\cdot|W,X]$ puis de $h_0$), les auteurs reformulent la condition de moment $E\{Y - h_0(Z) - X^T\beta_0 | W, X\} = 0$ en utilisant une transformation de Fourier (théorème de Bierens).
Ils définissent une fonction objectif basée sur la distance entre la condition de moment théorique et empirique :
$$M_n(\beta, h) = \int \left| E_n \left[ (Y_i - X_i^T\beta - h(Z_i)) \exp(i(W_i, X_i^T)t) \right] \right|^2 d\mu(t)$$
L'estimateur est obtenu en minimisant cette fonction objectif pénalisée :
$$(\hat{\beta}, \hat{h}) = \arg \min_{\beta, h} \left( M_n(\beta, h) + \lambda \|h\|_H^2 \right)$$
Cette approche ne nécessite qu'un seul paramètre de régularisation $\lambda$, simplifiant considérablement la sélection par validation croisée.

B. Utilisation des Espaces de Hilbert à Noyau Reproducteur (RKHS)

L'espace fonctionnel $H$ est choisi comme un RKHS avec un noyau $K$ (par exemple, un noyau gaussien).

• Avantage computationnel : Grâce au théorème de représentation des noyaux, la solution $\hat{h}$ admet une forme fermée : $\hat{h}(\cdot) = \sum_{i=1}^n \hat{\alpha}_i K(\cdot, Z_i)$.
• Estimation de la dérivée : Puisque l'AME dépend de $h'_0$, les auteurs supposent que le noyau $K$ est dérivable, permettant d'estimer $\hat{h}'$ de manière analytique.
• Résolution : Le problème de minimisation se réduit à la résolution d'un système d'équations linéaires, rendant l'algorithme très efficace.

C. Inférence par Bootstrap Bayésien

Bien que l'estimateur $\hat{\theta}$ soit asymptotiquement normal, la variance de sa distribution limite a une forme analytique complexe, rendant difficile la construction de tests basés sur les quantiles asymptotiques.
Les auteurs proposent donc un test de bootstrap bayésien :

1. Rééchantillonnage des données avec des poids aléatoires $\xi_i$ (généralement une loi exponentielle).
2. Réestimation de $\hat{\theta}$ sur les échantillons bootstrap en utilisant le même paramètre $\lambda$.
3. Construction de l'intervalle de confiance et du p-value en utilisant la distribution empirique de la statistique bootstrap.
   La validité de ce test est établie théoriquement (Proposition 4.1).

3. Contributions Clés

1. Procédure "One-Step" : Développement d'un estimateur de l'AME en une seule étape, éliminant la nécessité de multiples paramètres de régularisation et réduisant les erreurs de propagation.
2. Cadre RKHS : Application des outils d'apprentissage automatique (RKHS) aux modèles VI semi-paramétriques, offrant une solution computationnelle stable et une forme fermée pour l'estimateur.
3. Inférence valide en petits échantillons : Mise au point d'une procédure de bootstrap bayésien dont la validité asymptotique est prouvée, avec des performances démontrées en simulation même pour des tailles d'échantillon faibles ($n=100$).
4. Logiciel accessible : Les auteurs fournissent un package R (rkhsiv) facilitant l'adoption par les praticiens.

4. Résultats Empiriques et Simulations

Simulations

Les auteurs comparent leur méthode ("one-step") à une méthode de référence basée sur des régressions en séries (splines) en deux étapes ("two-step").

• Contrôle de la taille (Size) : La méthode proposée contrôle mieux le risque de première espèce (Type I error), surtout pour les petits échantillons ($n=100$) et les fonctions non-polynomiales.
• Puissance (Power) : La méthode "one-step" présente une puissance supérieure ou comparable à la méthode "two-step", particulièrement dans les cas de petits échantillons et de relations non-linéaires complexes.
• Robustesse : Les résultats sont stables sous différents niveaux d'endogénéité.

Applications Empiriques

Trois applications sur des données réelles illustrent la méthode :

1. Effet de la taille de classe (Angrist & Lavy, 1999) : Sur un échantillon de 2 024 observations, la méthode trouve que l'effet de la taille de classe sur les notes n'est pas statistiquement significatif, contrairement aux résultats significatifs obtenus par la méthode linéaire (2SLS) dans l'étude originale. Cela met en lumière le risque de spécification erronée de la linéarité.
2. Commerce et revenu par habitant (Frankel & Romer, 1999) : Sur un petit échantillon de 150 pays, la méthode détecte un effet positif et significatif du commerce sur le revenu, tout en relaxant l'hypothèse de linéarité. L'estimation de l'effet marginal est différente de celle du modèle linéaire, montrant l'importance de la flexibilité.
3. Publicité et demande de journaux (Sokullu, 2016) : Sur 117 marchés de journaux, la méthode estime l'effet de réseau non linéaire de la publicité sur la demande des lecteurs. Les résultats confirment la validité de l'approche par rapport à une spécification polynomiale de troisième ordre, tout en fournissant une inférence formelle.

5. Signification et Conclusion

Cet article apporte une contribution majeure à la littérature économétrique sur les variables instrumentales non paramétriques. En combinant la flexibilité des modèles semi-paramétriques avec la simplicité computationnelle des RKHS et une procédure d'inférence robuste (bootstrap), les auteurs rendent l'estimation des effets marginaux moyens accessible et fiable pour les chercheurs appliqués.

La principale avancée réside dans la capacité à effectuer une inférence rigoureuse sur des effets causaux complexes sans imposer de forme fonctionnelle restrictive, tout en évitant la lourdeur des méthodes en plusieurs étapes. La méthode est particulièrement pertinente pour les études où les échantillons sont de taille modeste et où la relation de cause à effet est susceptible d'être non linéaire.