Outcome-Aware Spectral Feature Learning for Instrumental Variable Regression

Technische Samenvatting: Outcome-Aware Spectrale Feature Learning voor Instrumentele Variabele Regressie

Probleemstelling

Het artikel behandelt de uitdaging van het schatten van causale effecten in aanwezigheid van verborgen confounders met behulp van Nonparametrische Instrumentele Variabele (NPIV) regressie. Het kernmodel gaat uit van een structurele relatie $Y = h_0(X) + U$ met $E[U|Z]=0$, waarbij $X$ de behandeling is, $Y$ de uitkomst, $Z$ het instrument en $U$ een niet-geobserveerde confounder. Het doel is om de structurele functie $h_0$ te herstellen uit i.i.d. steekproeven van $(Y, X, Z)$.

Dit probleem wordt geformuleerd als een lineair invers probleem $T h_0 = r_0$, waarbij $T$ de conditionele verwachtingsoperator is die de functie $h(X)$ naar $E[h(X)|Z]$ brengt. Hoewel state-of-the-art methoden zoals SpecIV (Sun et al., 2025) spectrale features leren door de top singuliere subruimtes van $T$ te benaderen, identificeren de auteurs een fundamentele beperking: deze features zijn outcome-agnostisch. Ze vangen de dominante modi van de relatie tussen $X$ en $Z$, maar kunnen er niet in slagen de structurele functie $h_0$ te representeren als $h_0$ buiten de dominante singuliere subruimte van $T$ ligt (een scenario dat "spectrale misalignment" wordt genoemd). In dergelijke gevallen presteren standaard spectrale methoden aanzienlijk slechter.

Methodologie: Augmented Spectral Feature Learning

Om spectrale misalignment te verzachten, stellen de auteurs Augmented Spectral Feature Learning voor, een framework dat het proces van feature learning outcome-aware maakt.

1. Geaugmenteerde Operator en Verliesfunctie

De methode introduceert een geaugmenteerde operator $T_\delta$ die informatie incorporeert van de uitkomst $Y$. Specifiek is $T_\delta$ gedefinieerd als een rank-één perturbatie van $T$:
$$T_\delta: L^2(X) \times \mathbb{R} \to L^2(Z), \quad (h, a) \mapsto Th + a \cdot \delta \cdot r_0$$
waarbij $r_0 = E[Y|Z]$ en $\delta$ een hyperparameter is die de sterkte van het outcome-signaal controleert.

De leerdoelstelling wordt gewijzigd door een nieuwe contrastieve verliesfunctie $L^{(d)}_\delta(\theta, \omega)$ te minimaliseren, die de standaard spectrale verliesfunctie $L^{(d)}_0$ (die $T$ benadert) combineert met een regularisatieterm afgeleid van de uitkomst:
$$L^{(d)}_\delta(\theta, \omega) = L^{(d)}_0(\theta) - 2\delta E[Y \psi^{(d)}_\theta(Z)]^\top \omega + \omega^\top C_{\psi^{(d)}_\theta} \omega$$
Hierbij zijn $\psi^{(d)}_\theta$ en $\phi^{(d)}_\theta$ neurale netwerk feature maps voor $Z$ en $X$, en is $\omega$ een hulpvariabele. Het minimaliseren van dit verlies is theoretisch equivalent aan het vinden van de beste rank-$d$ benadering van de geaugmenteerde operator $T_\delta$.

2. Theoretisch Mechanisme

Door $T$ te augmenteren met het outcome-signaal $r_0$, versterkt de methode de singuliere componenten van $T$ die relevant zijn voor $h_0$. Zelfs als $h_0$ uitgelijnd is met een "slechte" (lage singuliere waarde) richting van $T$, kan de perturbatie de dominante singuliere subruimte van $T_\delta$ verschuiven zodat deze uitgelijnd is met $h_0$. Dit stelt de geleerde features in staat om het signaal te vangen dat nodig is voor het voorspellen van $Y$, zelfs wanneer standaard spectrale features dit zouden missen.

3. Schattingsprocedure

Het framework integreert met de Two-Stage Least Squares (2SLS) estimator.

• Fase 1: Leer features $\phi^{(d)}_\theta$ en $\psi^{(d)}_\theta$ door de empirische geaugmenteerde verliesfunctie te minimaliseren op een dataset $\tilde{D}_m$.
• Fase 2: Schat de structurele functie $h_0$ met behulp van de geleerde features in een standaard 2SLS regressie op een aparte dataset $D_n$.

Belangrijkste Bijdragen

1. Identificatie van Beperking: De auteurs identificeren formeel dat bestaande spectrale methoden voor NPIV outcome-agnostisch zijn, wat leidt tot prestatievermindering onder spectrale misalignment.
2. Augmented Framework: Ze stellen Augmented Spectral Feature Learning voor, waarbij een geaugmenteerde operator $T_\delta$ en een bijbehorende contrastieve verliesfunctie worden geïntroduceerd die outcome-informatie in het feature learning proces incorporeert.
3. Theoretische Garanties:
   • Er wordt een non-asymptotische, high-probability foutenbound voor de 2SLS estimator verstrekt, waarbij de benaderingsfout wordt gescheiden van de statistische fout.
   • De analyse toont aan dat de methode robuust blijft in "slechte" scenario's (spectrale misalignment) waar standaard SpecIV faalt. Specifiek, als de signaal-ruisverhouding voldoende is, kan de methode $h_0$ herstellen met één enkele feature, zelfs wanneer $h_0$ uitgelijnd is met een component van $T$ met een lage singuliere waarde.
4. Empirische Validatie: De aanpak wordt gevalideerd op synthetische data, semi-synthetische dSprites benchmarks (inclusief een nieuwe, meer uitdagende structurele functie), en Off-Policy Evaluation (OPE) taken in reinforcement learning.

Experimentele Resultaten

• Synthetische Data: In scenario's met slechte spectrale alignment (waar $h_0$ uitgelijnd is met lage singuliere waarden van $T$), vermindert het verhogen van $\delta$ de Mean Squared Error (MSE) aanzienlijk vergeleken met standaard SpecIV ($\delta=0$).
• dSprites Benchmark:
  • Op de standaard "well-aligned" benchmark laat de methode bescheiden verbeteringen zien.
  • Op een nieuwe "misaligned" benchmark ($h_{new}$), waarbij de structurele functie afhankelijk is van rotatie (een feature met een lage singuliere waarde), presteert vanilla SpecIV zeer slecht. De outcome-aware methode, met een getunede $\delta$, evenaart of overtreft licht de prestaties van Deep Feature IV (DFIV), een sterke concurrent.
• Off-Policy Evaluation (OPE): In reinforcement learning settings (CartPole, Mountain Car, Catch) demonstreert de methode robuustheid. Hoewel geen enkele methode alle taken domineerde, toonde Augmented SpecIV een superieure adaptiviteit aan spectrale misalignment vergeleken met standaard SpecIV, met name in de CartPole omgeving.

Betekenis en Claims

Het artikel claimt dat Augmented Spectral Feature Learning een fundamentele beperking van huidige spectrale methoden aanpakt door ervoor te zorgen dat geleerde representaties niet alleen voorspellend zijn voor de behandeling, maar ook relevant zijn voor de causale uitkomst. De auteurs benadrukken dat deze aanpak robuustheid biedt in regimes waar standaard methoden falen door spectrale misalignment.

Dit werk wordt gepositioneerd als een stap naar een meer adaptieve NPIV schatting. De auteurs merken op dat hoewel hun huidige aanpak steunt op een rank-één augmentatie, het uitbreiden van het framework naar higher-rank perturbaties (bijv. door gebruik van meerdere functies van $Y$) een veelbelovende richting is voor toekomstig onderzoek. Het artikel concludeert dat hun methode de toepasbaarheid van spectrale feature-gebaseerde NPIV vergroot, met name in complexe settings zoals off-policy evaluatie waar de doel-functie dynamisch kan verschuiven.