Estimation and exclusion restrictions in clustered linear models

이 논문은 군집화된 데이터, 고차원 통제변수, 복잡한 배제 제한을 가진 선형 회귀 모델에 대해, 내부 도구변수를 활용한 계산 효율적인 IV 추정량과 이를 위한 강건한 추론 절차를 제안하며, 이를 케냐의 농촌 재정 개입 사례를 통해 실증합니다.

핵심

이 논문은 경제학자들이 데이터를 분석할 때 자주 마주치는 **'복잡한 관계'와 '오류'**를 해결하기 위한 새로운 통계 도구를 소개합니다.

간단히 말해, **"우리가 세상을 분석할 때, 서로 영향을 주고받는 친구들 (또는 이웃들) 이 섞여 있는 데이터를 어떻게 올바르게 해석할 것인가?"**에 대한 해답을 제시합니다.

이 내용을 일상적인 비유로 풀어보겠습니다.

---

1. 문제 상황: "친구들의 소문"과 "혼란스러운 통계"

상상해 보세요. 당신이 학교에서 "새로운 학습법 (A)"이 학생들의 성적 (B) 에 미치는 영향을 연구한다고 가정해 봅시다.

• 일반적인 상황: 학생들은 서로 독립적입니다. A 학생이 학습법을 써서 성적이 오르면, B 학생의 성적에는 아무런 영향을 안 줍니다. 이때는 통계 분석이 쉽습니다.
• 복잡한 상황 (이 논문의 핵심): 하지만 현실은 다릅니다. 학생들은 친구 관계 (클러스터) 를 형성하고 있습니다.
  • A 학생이 새로운 학습법을 쓰면, 그 친구 B, C, D 도 영향을 받아 성적이 오를 수 있습니다 (스필오버 효과).
  • 혹은, A 학생이 성적이 오르면, 그 친구 B 는 "나도 저렇게 해야지"라고 생각해서 학습법을 따라 할 수도 있습니다.

이처럼 한 그룹 (클래스, 마을, 네트워크) 안에서 서로가 서로에게 영향을 미치는 상태에서는 기존의 통계 방법 (OLS) 을 쓰면 결과가 왜곡됩니다. 마치 "친구들의 소문" 때문에 진짜 원인을 파악하기 어려워지는 것과 같습니다.

2. 기존 방법의 한계: "완벽한 독립"을 강요하는 오류

기존 통계학자들은 "모든 학생이 서로 완전히 독립적이어야 한다"거나 "미래의 사건이 과거에 영향을 주면 안 된다"는 엄격한 가정을 하곤 했습니다. 하지만 현실 (특히 마을 개발, 네트워크 효과, 팬데믹 등) 에선 이런 가정이 거의 불가능합니다.

• 결과: 엄격한 가정을 하려다 보니, 데이터의 진짜 신호를 놓치거나 (편향), 반대로 너무 많은 가정을 해서 신뢰할 수 없는 결론을 내게 됩니다.

3. 이 논문의 해결책: "적당한 거리두기"와 "스마트한 필터"

저자 (미쿠셰바, 솔브스텐, 징) 는 **"완벽한 독립은 아니더라도, '적당한 거리'만큼은 서로 영향을 주지 않는다고 가정하자"**는 새로운 접근법을 제안합니다.

비유: "친구 관계도"와 "스마트 필터"

이 연구는 데이터를 분석할 때 다음과 같은 두 가지 단계를 거칩니다.

1. 거리 기반 배제 (Exclusion Restrictions):

   • "내 친구 (가까운 이웃) 는 내 성적이 변하는 데 영향을 줄 수 있으니, 그 친구의 데이터는 제외하자."
   • "하지만 내 친구의 친구 (멀리 떨어진 이웃) 는 내 성적에 직접적인 영향을 주지 못하니까, 그 친구의 데이터는 활용하자."
   • 이를 **배제 제한 (Exclusion Restriction)**이라고 하는데, 마치 **"어떤 친구의 말은 믿고, 어떤 친구의 말은 무시하자"**는 규칙을 세우는 것과 같습니다.

2. 스마트한 필터 (Leave-out Internal Instrument):

   • 이제 데이터를 분석할 때, "나와 가까운 친구들의 데이터를 빼고 (Leave-out)" 나머지 데이터로 내 성적을 예측하는 모델을 만듭니다.
   • 이 모델은 마치 "나를 제외한 나머지 친구들의 평균 성적을 기준으로 내 성적을 평가하는" 매우 공정한 심사위원 역할을 합니다.
   • 이렇게 하면, 친구들끼리 서로 영향을 주고받는 '소문'이 결과에 섞여 들어가는 것을 막아줍니다.

4. 왜 이것이 중요한가? (실제 사례: 케냐의 현금 지원)

논문의 마지막 장에서는 케냐의 시골 마을에서 진행된 거대한 현금 지원 실험을 예로 들었습니다.

• 상황: 한 마을에 돈을 주면, 그 돈이 옆 마을로 흘러가서 (스필오버) 옆 마을의 경제도 바뀔 수 있습니다.
• 기존 방법: "옆 마을의 영향을 무시하고 분석했다"면, 실제 지원 효과보다 훨씬 크게 (혹은 작게) 잘못 계산될 수 있습니다.
• 이 논문의 방법: "거리가 2km 이내인 마을끼리는 서로 영향을 줄 수 있으니 제외하고, 2km 이상 떨어진 마을들만 활용해서 분석하자"는 규칙을 적용했습니다.
• 결과:
  • 규칙을 엄격하게 (2km): 데이터는 적지만, 결과가 매우 정확하고 신뢰할 수 있습니다.
  • 규칙을 느슨하게 (3km): 데이터를 더 많이 쓰지만, "서로 영향을 줄지 모른다"는 불확실성이 커져서 결론이 흐려집니다.

이 연구는 **"어떤 규칙을 세우느냐에 따라 결론의 정확도가 달라진다"**는 것을 보여주며, 연구자들이 자신의 가정을 명확히 하고 그에 맞는 통계 도구를 써야 함을 강조합니다.

5. 요약: 이 논문이 주는 교훈

1. 세상은 서로 연결되어 있다: 데이터 분석할 때 "모두가 독립적이다"라고 생각하면 안 됩니다. (친구 관계, 지리적 인접성 등을 고려해야 합니다.)
2. 완벽함보다 현실적인 가정이 중요하다: "아무 영향도 안 준다"는 건 불가능하지만, "멀리 떨어진 사람은 영향 안 준다"는 건 합리적일 수 있습니다.
3. 새로운 도구: 이 논문은 "가까운 친구는 제외하고, 먼 친구는 활용하는" 새로운 통계 계산법 (내부 도구 변수 추정법) 을 개발했습니다. 이 방법은 계산도 빠르고, 결과도 신뢰할 수 있습니다.

한 줄 요약:

"친구들끼리 서로 영향을 주고받는 복잡한 세상에서, 누구의 말을 믿고 누구의 말을 배제할지 현명하게 정하는 새로운 통계 나침반을 만들었습니다."

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

이 논문은 군집화된 데이터 (clustered data) (예: 패널, 네트워크, 공간 데이터) 를 가진 선형 회귀 모델에서 고차원 통제변수 (high-dimensional controls) 와 복잡한 배제 제한 (exclusion restrictions) 이 존재할 때 구조적 모수 ($\beta$) 를 추정하는 문제를 다룹니다.

• 핵심 문제:
  • 군집 내 의존성 (Within-cluster dependence): 같은 군집 내 관측치들은 공간적 간섭, 네트워크 효과, 시계열 의존성 등으로 인해 상관관계가 있을 수 있습니다.
  • 엄격한 외생성 (Strict Exogeneity) 의 비현실성: 많은 실증 연구에서 오차항이 군집 내 모든 설명변수와 무관하다는 엄격한 외생성 가정이 성립하지 않습니다 (예: 동적 패널에서의 피드백, 공간적 스퍼릴오버).
  • OLS 의 편향 (Nickell Bias): 군집 고정효과와 함께 약한 외생성 (weak exogeneity) 만이 성립할 때, 일반 최소제곱법 (OLS) 은 일관된 추정량을 제공하지 못하며 점근적 편향 (Nickell bias) 을 가집니다. 이는 분모의 확률적 변동성과 분자의 편향된 기대값 때문입니다.
  • 추론의 어려움: 군집 내 의존성과 많은 통제변수로 인해 추정량의 분산 구조가 복잡해지며, 기존 군집-강건 (cluster-robust) 표준오차나 중심극한정리 (CLT) 가 적용되지 않을 수 있습니다. 또한, 약한 식별 (weak identification) 문제가 발생할 수 있습니다.

2. 방법론 (Methodology)

저자들은 바르게 중심을 잡은 내부 도구변수 (Correctly Centered Internal Instrument, CCIV) 추정량을 제안합니다.

가. 배제 제한의 설정 (Exclusion Restrictions)

• 연구자가 배제 제한 행렬 $E$ 를 정의합니다. $E_{\tilde{\ell}\ell}=1$ 이면 $E[x_{\tilde{\ell}}e_{\ell}]=0$ (또는 설계 기반 모델에서 $E[v_{\tilde{\ell}}(y_{\ell}-\beta x_{\ell})]=0$) 이 성립한다고 가정합니다.
• 이 행렬은 군집 내에서도 특정 관측치 쌍에 대해서만 외생성이 성립하지 않을 수 있음을 허용합니다 (예: 동적 패널에서 미래의 $x$ 와 현재의 $e$ 의 상관관계 허용).

나. 추정량 구성 (The Estimator)

• 올바르게 중심을 잡음 (Correct Centering): OLS 는 분모의 무작위성으로 인해 편향될 수 있지만, 저자들은 분모와 분자의 기대값을 분리하여 정의된 바르게 중심을 잡은 추정량을 제안합니다.
  • 추정량 형태: $\hat{\beta}_A = \frac{x'Ay}{x'Ax}$
  • 조건 (POP): $AM = A$ (통제변수 $W$ 를 부분화하는 성질).
  • 조건 (CC): $A_{\tilde{\ell}\ell}=0$ if $E_{\tilde{\ell}\ell}=0$ (배제 제한이 없는 관측치에 대한 가중치를 0 으로 설정).
• 최적 행렬 $A^*$ 의 도출:
  • OLS 에 가장 가까운 행렬을 찾는 최적화 문제 ($\min_{A \in \mathcal{A}} \|A - M\|_F$) 를 풀어 최적 행렬 $A^*$ 를 구합니다.
  • 이는 Leave-out Projection(잔여화) 의 개념으로 해석됩니다. 각 관측치 $\ell$ 에 대해, 해당 관측치의 오차와 무관한 관측치들만을 사용하여 통제변수를 제거한 후, 잔여화된 $x$ 를 도구변수로 사용하는 1 단계 IV 추정과 동일합니다.
  • 이 방법은 고차원 고정효과 (Two-way FE 등) 를 가진 모델에도 적용 가능합니다.

다. 불확실성 정량화 및 추론 (Inference)

• 이차형식의 중심극한정리 (CLT for Quadratic Forms): 추정량의 분자 ($x'Ae$) 는 오차항의 이차형식 (quadratic form) 입니다. 군집 간 의존성이 존재할 때 (예: 다중 고정효과 모델), 표준 군집-강건 분산 추정량은 유효하지 않을 수 있습니다.
  • 저자들은 군집화된 데이터에 대한 새로운 이차형식 CLT 를 증명합니다.
  • 이를 위해 군집 크기와 의존성 강도 간의 트레이드오프를 고려한 조건을 제시합니다.
• 분산 추정 (Jackknife Variance Estimator):
  • Efron and Stein (1981) 의 잭나이프 (Jackknife) 분산 추정량을 적용합니다.
  • 이 추정량은 교차 군집 의존성 (cross-cluster dependence) 을 포함하여 보수적 (conservative) 인 분산을 제공하며, 약한 식별 하에서도 유효합니다.
• 약한 식별에 강한 추론 (Identification-Robust Inference):
  • Anderson-Rubin (AR) 검정을 사용하여 약한 식별 상황에서도 유효한 가설 검정과 신뢰구간을 구성합니다.

3. 주요 기여 (Key Contributions)

1. 일반화된 내부 도구변수 추정량: 동적 패널 데이터 (Nickell bias 교정) 에서의 내부 도구변수 기법을 일반화된 군집 데이터 (공간, 네트워크, 다중 고정효과) 로 확장했습니다.
2. Leave-out 해석: 복잡한 최적화 문제의 해를 "각 관측치별 잔여화 (leave-out projection)"로 해석하여 계산적 실용성을 높였습니다.
3. 새로운 CLT 와 분산 추정: 군집 내 의존성과 고차원 통제변수가 공존할 때, OLS 및 IV 추정량의 분자 (이차형식) 에 대한 새로운 중심극한정리를 도출하고, 이를 기반으로 한 분산 추정법을 제안했습니다.
4. 약한 식별 대응: 많은 통제변수나 약한 배제 제한으로 인한 약한 식별 문제를 해결하기 위해 AR 검정 기반의 추론 절차를 제안했습니다.

4. 실증 결과 및 시뮬레이션 (Results)

• 시뮬레이션: 네트워크 간섭 (spillover) 이 존재하는 환경에서 OLS 는 심각한 편향을 보이지만, 제안된 $\hat{\beta}_{A^*}$ 는 편향을 제거하고 일관된 추정을 제공합니다.
• 케냐의 재정 개입 연구 (Egger et al., 2022 데이터 적용):
  • 배경: 케냐 시골 지역의 대규모 현금 이전 (Cash Transfer) 실험.
  • 문제: 한 마을의 처치가 이웃 마을의 결과에 미치는 공간적 간섭 (Spatial Interference).
  • 분석:
    • 배제 제한의 강도 (간섭이 발생하는 거리 $R$) 를 변화시키며 추정했습니다.
    • $R$ 이 작을수록 (외생성 가정이 강할수록) 추정치는 안정적이지만, $R$ 이 커질수록 (외생성 가정이 약해짐) 유효 표본 크기가 감소하여 표준오차가 커지고 신뢰구간이 넓어집니다.
    • 결과: OLS 는 편향된 반면, 제안된 방법은 간섭을 고려한 배제 제한을 통해 일관된 추정치를 제공했습니다. 또한, $A^*$ 행렬의 구조를 분석하여 군집 간 의존성이 어떻게 처리되는지 시각화했습니다.

5. 의의 및 결론 (Significance)

이 논문은 현대 실증 경제학에서 점점 더 중요해지는 군집화된 데이터와 복잡한 의존성 구조를 가진 모델에 대한 강력한 통계적 도구를 제공합니다.

• 이론적 의의: Nickell 편향의 일반화, 이차형식에 대한 새로운 CLT, 그리고 약한 식별 하에서의 추론 방법을 체계화했습니다.
• 실증적 의의: 연구자가 특정 구조적 가정 (예: 공간적 스퍼릴오버 범위, 동적 패널의 피드백) 에 따라 배제 제한을 유연하게 설정할 수 있게 하여, OLS 의 편향을 피하면서도 불필요하게 강한 가정을 하지 않는 균형을 잡을 수 있게 합니다.
• 실용성: 계산적으로 효율적 (Leave-out 방식) 이며, 고차원 고정효과가 포함된 복잡한 모델에서도 적용 가능합니다.

요약하자면, 이 연구는 군집 내 의존성과 약한 외생성이라는 현실적인 제약 하에서 편향을 제거하고 유효한 추론을 가능하게 하는 새로운 IV 추정 및 추론 프레임워크를 제시한 획기적인 논문입니다.