Testing for Endogeneity: A Moment-Based Bayesian Approach

이 논문은 지수적으로 기울어진 경험적 가능도 (exponentially tilted empirical likelihood) 프레임워크를 활용하여 선형 회귀 모델에서 외생성 가정이 위반될 경우를 대비한 베이지안 검정법을 개발하고, 이 방법이 표본 크기가 커질수록 외생성과 내생성을 일관되게 식별한다는 것을 증명했습니다.

핵심

1. 문제 상황: "왜 이 요리는 맛이 다를까?" (인과관계의 함정)

상상해 보세요. 여러분이 훌륭한 요리사 (통계 분석가) 입니다. 여러분은 **"소금 (X)"**을 얼마나 넣느냐에 따라 **"요리 맛 (Y)"**이 어떻게 변하는지 알고 싶습니다.

• 일반적인 생각: 소금을 더 넣으면 맛이 짭짤해진다 (인과관계).
• 하지만 현실은 복잡합니다: 소금을 넣는 양이 많을수록 요리사가 더 많이 시도해 본 경험이 있거나, 다른 재료 (Z) 가 섞여 있을 수 있습니다.

여기서 **'내생성 (Endogeneity)'**이라는 문제가 발생합니다. 소금 (X) 이 요리의 맛 (Y) 에 영향을 주기도 하지만, 반대로 요리의 맛이나 다른 요인 때문에 소금 양이 결정될 수도 있다는 것입니다. 마치 "소금이 많아서 맛이 좋은 게 아니라, 원래 맛이 좋은 요리에 소금을 더 넣었기 때문"일 수 있다는 거죠.

기존의 통계 방법들은 보통 **"소금은 순수하게 외부에서 결정된다"**라고 가정하고 분석합니다. 하지만 실제로는 그렇지 않은 경우가 많습니다. 이 가정이 틀리면, 우리가 얻은 결론 (소금의 효과) 은 완전히 엉뚱한 결과가 나옵니다.

2. 기존 방법의 한계: "단순한 비교"의 부족

기존의 빈도주의 통계학자들은 "Durbin-Wu-Hausman"이라는 복잡한 검정을 통해 이 문제를 해결하려 했습니다. 하지만 이 방법은 베이지안 통계 (우리가 가진 사전 지식과 데이터를 결합하는 방식) 에서는 자연스럽게 적용하기 어렵습니다. 마치 서양식 식탁에 젓가락을 쓰려 하는 것처럼 어색한 점이 있습니다.

3. 이 논문의 해결책: "두 가지 시나리오를 저울에 올리기"

이 논문은 **"베이지안 팩터 (Bayes Factor)"**라는 도구를 이용해, 두 가지 서로 다른 시나리오를 저울에 올려 비교하는 방식을 제안합니다.

시나리오 A: "순수한 요리사" (Base Model)

• 가정: 소금 (X) 은 완전히 외부에서 결정되며, 다른 요인과 무관하다. (외생성 가정)
• 상황: 만약 실제로 소금이 다른 요인과 얽혀 있다면, 이 모델은 틀린 모델이 됩니다. 마치 "소금만 넣으면 맛이 좋아진다"고 믿는데, 실제로는 설탕도 함께 들어갔다면 그 결론은 틀린 것이죠.

시나리오 B: "현실적인 요리사" (Extended Model)

• 가정: 소금 (X) 은 다른 요인과 얽혀 있을 수 있다. 우리는 그 '얽힘' 정도를 **보정 변수 (v)**로 추가해서 모델에 포함시킵니다.
• 상황: 이 모델은 소금이 순수할 수도 있고, 얽혀 있을 수도 있는 두 가지 경우 모두를 다룰 수 있는 유연한 모델입니다.

4. 핵심 아이디어: "ETEL"이라는 새로운 저울

이 논문은 이 두 모델을 비교할 때, 데이터의 분포를 미리 정해지지 않은 (비모수적) 방식으로 처리하는 **'지수적으로 기울어진 경험적 가능도 (ETEL)'**라는 기술을 사용합니다.

• 비유: 기존 방법은 요리의 재료가 '소금, 설탕, 후추'로만 이루어져 있다고 가정하고 분석합니다. 하지만 ETEL 은 "아직 어떤 재료가 들어갈지 모르니, 데이터가 보여주는 그대로 재료를 받아서 분석하자"는 유연한 접근입니다.

이제 ETEL이라는 저울로 두 모델을 저울질합니다.

1. 만약 소금이 정말 순수하다면 (외생성): 더 간단하고 복잡한 가정이 없는 **시나리오 A(순수한 요리사)**가 더 높은 점수를 받습니다. (파시모니, 즉 간결함의 원칙)
2. 만약 소금이 다른 요인과 얽혀 있다면 (내생성): **시나리오 B(현실적인 요리사)**가 데이터와 훨씬 잘 맞기 때문에 더 높은 점수를 받습니다.

5. 이 방법의 장점: "자동으로 정답을 찾는 마법"

이 논문의 가장 큰 성과는 **대규모 데이터 (샘플이 커질수록)**에서 이 방법이 거의 100% 확률로 올바른 모델을 선택한다는 것을 수학적으로 증명했다는 점입니다.

• 비유: 처음에는 두 요리사 중 누가 맞는지 헷갈릴 수 있지만, 요리 실험을 1,000 번, 10,000 번 반복하면, **진짜 현실을 반영한 요리사 (시나리오 B)**가 항상 더 좋은 평가를 받고, **가정이 너무 단순한 요리사 (시나리오 A)**는 자연스럽게 탈락하게 됩니다.

6. 실제 적용 사례: 자동차와 비행기

논문은 이 방법을 실제 데이터에 적용해 보았습니다.

• 자동차 수요: "자동차 가격이 오르면 수요가 줄어드는가?"를 분석할 때, 가격이 수요에 영향을 주지만, 수요가 가격에도 영향을 미치는 (내생성) 상황을 고려해야 정확한 결과를 얻을 수 있음을 증명했습니다.
• 비행기 탑승객: 항공권 가격과 탑승객 수의 관계에서도 마찬가지입니다.

요약

이 논문은 **"데이터 분석에서 '원인과 결과'를 혼동하는 함정 (내생성) 을 베이지안 통계로 어떻게 깔끔하게 찾아내고, 올바른 모델을 선택할 수 있는가?"**에 대한 해답을 제시합니다.

• 핵심 메시지: "무조건 단순한 가정을 믿지 말고, 데이터가 보여주는 복잡한 현실을 인정하는 모델 (시나리오 B) 과 단순한 모델을 저울에 올려 비교하라. 그리고 데이터가 충분히 많다면, 이 저울은 절대적으로 정답을 찾아낼 것이다."

이 방법은 경제학, 마케팅, 의학 등 인과관계를 규명해야 하는 모든 분야에서 더 정확한 의사결정을 내리는 데 도움을 줄 것입니다.

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

• 내생성 문제: 베이지안 선형 회귀 분석의 표준 가정은 설명변수 (regressors) 가 오차항과 상관관계가 없는 '외생성 (exogeneity)'을 만족한다는 것입니다. 그러나 실제 실증 분석에서는 이 가정이 자주 위반됩니다.
• 기존 방법의 한계:
  • 빈도주의적 접근: 더빈 - 우 - 하우스만 (Durbin-Wu-Hausman) 검정 등 빈도주의적 방법은 점근적 성질에 의존하며, 베이지안 프레임워크로 자연스럽게 확장하기 어렵습니다.
  • 기존 베이지안 접근: 내생성을 고려한 베이지안 분석은 존재하지만, 내생성 여부를 '검정 (testing)'하는 체계적인 방법론은 부족했습니다. 또한, 많은 기존 연구가 분포에 대한 강한 가정 (예: 정규성) 을 요구하여 모델 오설정 (misspecification) 에 취약했습니다.
• 목표: 분포에 대한 가정을 최소화하면서도 내생성 여부를 통계적으로 엄밀하게 검정할 수 있는 베이지안 방법론을 개발하는 것입니다.

2. 방법론 (Methodology)

이 논문은 지수적으로 기울어진 경험적 우도 (Exponentially Tilted Empirical Likelihood, ETEL) 프레임워크를 기반으로 합니다.

• 경쟁 모델 설정:
  1. 기초 모델 (Base Model, $M_b$): 설명변수 $x$가 외생적이라고 가정합니다. 즉, $E[\varepsilon x] = 0$인 모멘트 조건을 부과합니다. 만약 $x$가 실제로 내생적이라면 이 모델은 오설정됩니다.
  2. 확장 모델 (Extended Model, $M_e$): 내생성 성분을 명시적으로 파라미터화합니다. $E[\varepsilon x] = v$ (여기서 $v$는 공분산 벡터) 로 설정하여 내생성을 허용합니다. 이 모델은 $x$가 외생적이든 내생적이든 항상 올바르게 설정 (correctly specified) 됩니다.
• 베이지안 팩터 (Bayes Factor) 활용: 두 모델의 주변 우도 (Marginal Likelihood) 를 비교하여 베이지안 팩터를 계산합니다.
  • $BF_{eb} = \frac{m(Data | M_e)}{m(Data | M_b)}$
  • $BF_{eb} > 1$이면 내생성 ($M_e$ 채택), $BF_{eb} < 1$이면 외생성 ($M_b$ 채택) 으로 결론 내립니다.
• ETEL 의 장점:
  • 오차항의 분포를 특정하지 않고 모멘트 조건만으로 추론이 가능합니다 (비모수적 성질).
  • 모델 오설정에 강건합니다.
  • Chib(1995) 의 항등식을 사용하여 주변 우도를 효율적으로 계산합니다.

3. 주요 기여 (Key Contributions)

1. 내생성 검정을 위한 구체적 모델 구축: 기존 Chib et al. (2018) 이 모델 비교의 일반론을 다룬 반면, 본 논문은 내생성 검정이라는 구체적인 문제를 해결하기 위해 필요한 '기초 모델'과 '확장 모델'을 명시적으로 구성했습니다.
2. ETEL 함수의 존재성 보장: ETEL 이 정의되기 위해서는 최적화 문제의 실현 가능 영역이 비어있지 않아야 하는데, 이를 보장하는 새로운 가정 (Assumption 1) 을 도입했습니다. 이는 기존 ETEL 문헌에 없던 중요한 보완입니다.
3. 점근적 일관성 (Consistency) 증명:
   • 표본 크기가 커질수록, 내생성이 있을 때는 확장 모델을, 외생성이 있을 때는 기초 모델을 확률 1 로 선택함을 증명했습니다.
   • 이는 빈도주의적 관점에서도 일관된 검정 절차임을 의미합니다.
4. 로그 주변 ETEL 의 새로운 점근적 표현:
   • 로그 주변 우도가 Kullback-Leibler (KL) 발산 항과 BIC(Bayesian Information Criterion) 유형의 페널티 항으로 분해됨을 보였습니다.
   • 특히, 페널티 항이 파라미터의 차원 변화 (변수 변환의 야코비안) 에서 자연스럽게 도출됨을 보여주어, 베이지안 모델 선택의 메커니즘을 더 투명하게 설명했습니다.
   • 외생성일 때는 페널티 항이 더 적은 파라미터를 가진 기초 모델을 선택하게 하고, 내생성일 때는 KL 발산 차이가 우세하여 확장 모델을 선택하게 됩니다.

4. 주요 결과 (Results)

• 시뮬레이션 연구:
  • 다양한 내생성 수준 ($\rho$) 과 표본 크기 ($n$) 에서 시뮬레이션을 수행했습니다.
  • 내생성이 존재할 때 확장 모델을, 외생성일 때 기초 모델을 높은 확률로 선택하는 것을 확인했습니다.
  • 기존 빈도주의적 모델 선택 기준 (GMM-BIC, GMM-AIC 등) 과 비교했을 때, 특히 표본 크기가 작거나 내생성 수준이 낮을 때 본 방법론 (BETEL) 이 더 우수한 판별력을 보였습니다.
• 실증 분석:
  1. 자동차 수요와 가격 (BLP 모델): 자동차 가격의 내생성을 검정했습니다. 결과, 가격은 내생적이며 이를 고려할 때 가격 탄력성의 추정치가 더 크게 나타났습니다. 또한 비선형 통제변수를 추가한 모델이 더 적합함을 확인했습니다.
  2. 항공 요금과 승객 수: 항공 요금의 내생성을 검정했습니다. 이 경우 데이터 특성상 요금이 외생적으로 간주될 수 있음을 보여주었습니다.

5. 의의 및 결론 (Significance)

• 베이지안 내생성 검정의 표준 제시: 내생성 문제를 베이지안 프레임워크 내에서 '모델 비교'의 관점에서 체계적으로 다룰 수 있는 첫 번째 완전한 방법론을 제시했습니다.
• 분포 가정의 불필요성: 오차항의 분포를 가정하지 않고 모멘트 조건만으로 추론이 가능하므로, 실제 데이터의 복잡한 분포 특성을 반영할 수 있습니다.
• 일관된 모델 선택: 베이지안 팩터가 KL 발산과 모델 복잡도 (페널티) 를 자동으로 균형 있게 고려하여, 대용량 표본에서 올바른 모델을 선택한다는 이론적 근거를 마련했습니다.
• 확장성: 이 프레임워크는 다중 내생변수, 비선형 모델, 군집 데이터 (clustered data) 등으로 확장 가능함을 보였습니다.

요약하자면, 이 논문은 ETEL 을 활용한 베이지안 모델 비교를 통해 내생성 문제를 해결하고, 이를 이론적으로 엄밀하게 증명하여 실증 연구에 적용 가능한 강력한 도구를 제공했다는 점에서 중요한 학술적 기여를 했습니다.