Potential weights and implicit causal designs in linear regression

기술 요약: 선형 회귀 분석에서의 잠재적 가중치 및 암묵적 인과 설계

1. 문제 제기

응용 연구자들은 준실험적 처치 변이(quasi-experimental treatment variation)를 통해 인과 효과를 추정하기 위해 선형 회귀를 자주 사용하며, 이 과정에서 처치 할당 과정에 대한 가정은 암묵적으로 남겨둔 채 인과적 해석을 정당화한다. 여기에는 핵심적인 긴장이 존재한다: 회귀 명세(specification)는 종종 구조적 결과 모델(structural outcome models)과 유사한 형태를 띠지만, 그 인과적 타당성은 전적으로 처치 $W$가 어떻게 할당되는지에 대한 가정으로부터 도출된다. Freedman (2008)이 지적했듯이, 무작위 배정(randomization) 자체가 최소제곱법(OLS) 모델 뒤에 숨겨진 가정들을 본질적으로 정당화해 주는 것은 아니다.

문헌(예: Angrist and Pischke, 2008; Angrist, 1998; Lin, 2013)은 흔히 사용되는 추정량들이 단순하고 모델 독립적인 해석을 가질 수 있다고 낙관적으로 제안하지만, 이러한 낙관론은 매우 섬세한 문제이다. 특정 명세는 특정 할당 과정 하에서는 해석 가능한 가중 평균 처치 효과(WATE)를 산출할 수 있지만, 다른 과정 하에서는 해석 불가능하거나 음의 가중치를 가진 추정량(estimand)을 생성할 수 있다. 본 논문은 다음을 결정하기 위한 일반적인 프레임워크의 부재를 다룬다:

1. 어떤 처치 할당 가정 하에서 주어진 회귀식이 준실험적 해석을 허용하는가?
2. 이질성이 존재할 때 회귀식이 목표로 하는 구체적인 인과적 대비(estimand)는 무엇인가?
3. 이러한 암묵적 가정들이 잘못 설정되었을 때 추정치가 얼마나 나빠지는가?

2. 방법론 및 프레임워크

본 논문은 공변량 $(x_i)$와 잠재적 결과 $y_i(\cdot)$를 고정된 것으로 취급하고, 처치 할당 $W_i$의 무작위성만을 분리하여 다루는 "설계 기반(design-based)" 관점을 공식화한다. 핵심 혁신은 진정한 할당 과정 $\pi^*$에 관한 두 가지 별개의 질문으로 준실험적 요구 사항을 분해하는 것이다.

최소 준실험(Minimal Quasi-Experimental, MQE) 기준:
본 논문은 회귀 추정량 $\tau$를 (잠재적 결과의 구성과 관계없이) 잠재적 결과들의 대비(contrast)로 정의한다. 이는 "수준 독립성(level independence)"을 강제한다. 즉, 한 단위의 모든 잠재적 결과를 상수만큼 이동시키더라도 추정량이 변해서는 안 된다.

잠재적 가중치 및 암묵적 설계:
모집단 회귀 추정량 $\tau$는 다음과 같이 잠재적 결과의 선형 집합으로 표현될 수 있다:
$$\tau = \frac{1}{n} \sum_{i=1}^n \sum_{w \in \mathcal{W}} \pi^*_i(w) \rho_i(w) y_i(w)$$
여기서 $\rho_i(w) = \Lambda G_n^{-1} z(x_i, w)$는 회귀 명세와 모집단 그람 행렬(Gram matrix) $G_n$에 의해서만 결정되는 잠재적 가중치이다.

$\tau$가 최소 준실험적이기 위해서는, 각 단위에 대해 잠재적 결과에 부여된 가중치가 처치 수준 간에 합계 0이 되어야 한다. 이는 진정한 할당 확률 $\pi^*_i$에 대해 선형 제약을 부과한다:
$$\sum_{w \in \mathcal{W}} \pi^*_i(w) \rho_i(w) = 0 \quad \text{및} \quad \sum_{w \in \mathcal{W}} \pi^*_i(w) = 1$$

이 선형 방정식의 해를 **암묵적 설계(implicit designs)**라고 한다.

• [MQE-1] 존재성: 이러한 선형 제약을 만족하는 유효한 확률 분포 $\pi$가 존재하는가?
• [MQE-2] 정확성: 진정한 할당 과정 $\pi^*$가 이러한 암묵적 설계 중 하나와 일치하는가?

근사적 준실험적 해석:
정확한 조건이 실패할 때, 본 논문은 OLS 추정량과 증강 역확률 가중치(Augmented Inverse Propensity Weighting, AIPW) 추정량 사이의 수치적 동등성을 확립한다. OLS 추정량과 특정 설계 $\tilde{\pi}$를 목표로 하는 AIPW 추정량 사이의 차이는 회귀 잔차와 설계 제약을 위반하는 정도 사이의 경험적 공분산에 비례한다. 따라서 OLS는 처치 모델의 오설정(misspecification)이 결과 모델의 오설정과 상관관계가 없을 때 근사적으로 준실험적이다.

3. 주요 기여 및 이론적 결과

통합 및 역결과(Converse Results):
본 프레임워크는 그들이 제안한 설계와 추정량이 바로 회귀 명세로부터 도출된 암묵적 설계 및 암묵적 추정량임을 보여줌으로써 기존 문헌(예: Angrist, 1998; Goldsmith-Pinkam et al., 2024; Athey and Imbens, 2022)의 이질적인 결과들을 통합한다. 결정적으로, 본 논문은 **역결과(converse results)**를 제공한다: 즉, 회귀식은 진정한 설계가 유일한 암묵적 설계와 일치할 때에만 준실험적 해석을 허용한다.

특정 명세에 대한 발견:

• 공변량을 포함한 이진 처치: $Y_i = \tau W_i + x_i'\gamma + \epsilon_i$인 경우, 암묵적 설계는 성향 점수(propensity score)가 공변량에 대해 선형일 것($\pi_i = x_i'\delta$)을 요구한다. 추정량은 $\pi_i(1-\pi_i)$에 비례하는 가중치를 가진 WATE이다.
• 상호작용 회귀(Interacted Regressions): 처치를 공변량과 상호작용시키는 명세($Y_i = \tau_0 W_i + \tau_1' W_i x_i + \dots$)의 경우, 정확한 준실험적 해석은 매우 취약하다. 이는 성향 점수와 공변량과의 상호작용 모두가 나머지 공변량에 대해 선형이어야 함을 요구한다. 이 조건은 공변량이 포화(saturated)되지 않는 한 일반적으로 실패하며, 이는 상호작용 회귀가 종종 방어 가능한 인과적 해석을 결여하고 있음을 시사한다.
• 이방향 고정 효과(Two-Way Fixed Effects, TWFE): 시간 가ivariate를 포함하는 TWFE 회귀는 처치 경로가 완전히 무작위이거나 공변량이 제한적인 선형 스팬(linear span) 조건을 만족하지 않는 한 일반적으로 암묵적 설계를 허용하지 않는다.
• 2단계 최소제곱법(TSLS): 본 프레임워크는 TSLS로 확장되어, 암묵적 추정량이 적절한 가중치를 할당하기 위한 조건으로서 순응 패턴(예: 이진 도구 변수에 대한 강한 단조성)을 회복한다.

4. 실증적 결과

AI 보조 센서스(AI-Assisted Census):
American Economic Review 및 American Economic Journal: Applied Economics에 게재된 1,051편의 논문을 분석한 결과, 준실험적 회귀는 만연해 있음이 드러났다. 그러나:

• 실무자들은 현대적인 인과 추론 방법(IPW, 매칭, DML)을 거의 사용하지 않는다.
• 명시적인 목표 추정량(target estimand)이 이름 붙여지는 경우가 드물다 (비혼란성 관련 논문 98편 중 9편뿐임).
• 상당수의 연구가 상호작용 명세나 시간 가변 공변량을 포함하는 TWFE를 사용하며, 이는 이론적 결과에 따르면 인과적 해석에 대한 부정적 결과에 취약함을 의미한다.

9개 연구에 대한 진단적 재분석:
본 논문은 제안된 진단 도구를 사용하여 최근 9개 연구를 재분석한다:

1. 정확한 해석: 9개 사례 모두에서 정확한 준실험적 해석이 거부되었다. 추정된 암묵적 설계는 종종 $[0, 1]$ 범위를 벗어나는 성향 점수를 산출하며, Ramsey RESET 테스트는 진정한 성향 점수의 선형성을 결정적으로 거부했다.
2. 근사적 해석: 정확한 조건은 실패함에도 불구하고, 대부분의 연구는 근사적으로 준실험적인 것으로 보인다. 설계 불일치와 회귀 잔차 사이의 공분산은 일반적으로 작으며, 이는 OLS 추정량이 합리적인 대안 설계에 대한 AIPW 추정치와 가깝다는 것을 의미한다.
3. 예외: 한 연구(Ang, 2023)는 대안적인 성향 점수 추정치가 OLS 결과를 2 표준 오차 이상 변화시키는 큰 불일치를 보여주었으며, 이는 해당 맥락에서 암묵적 모델의 실패가 중대함을 나타낸다.
4. 대표성: 많은 응용 사례가 낮은 중첩(overlap) 문제를 겪고 있으며, 이는 암묵적 추정량이 모집단의 아주 작은 부분만을 집계하고 있음을 의미한다. 중첩을 위해 트리밍(trimming)을 하면 대표성은 개선되지만, 종종 소수 하위 집단의 결과만을 대표하게 된다.

5. 의의 및 주장

본 논문은 선형 회귀로부터 도출된 인과적 주장의 타당성을 평가하기 위한 일반적이고 자동화 가능한 프레임워크를 제공한다고 주장한다. 주요 의의는 다음과 같다:

• 암묵적 모델의 공식화: 회귀를 인과 추론에 사용하는 것이 처치 할당에 대한 특정 모델(암묵적 설계)과 이질적 효과에 대한 특정 가중치(암묵적 추정량)를 암묵적으로 선택함을 입증한다.
• 낙관론에 대한 도전: 회귀의 견고성에 대한 Angrist와 Pischke(2008)의 "낙관론"이 보편적으로 정당화되지 않을 수 있음을 시사한다. 정확한 준실험적 해석은 특히 상호작용 및 TWFE 모델에서 매우 취약하다.
• 실무적 유용성: 정확한 해석은 자주 실패하지만, 본 프레임워크는 근사적 타당성과 추정량의 대표성을 평가할 수 있게 해준다. 저자들은 투명한 실증 분석이 이러한 숨겨진 가정을 가시화하기 위해 암묵적 설계와 추정량을 명시적으로 추정하고 보고하는 과정을 포함해야 한다고 주장한다.

본 논문은 모델 오설정 간의 낮은 상관관계 덕분에 회귀가 실제로는 합리적인 추정량 역할을 하는 경우가 많지만, 그것이 부과하는 암묵적 가정은 사소하지 않으며 비공식적인 정당화에 맡기기보다 명시적으로 다루어져야 한다고 결론짓는다.