Jackknife inference with two-way clustering

이 논문은 이차원 군집화 (two-way clustering) 가 적용된 선형 회귀 모델에서 기존 방법의 한계를 극복하고 점근적으로 유효한 추론을 보장하는 새로운 군집 자귀 (cluster jackknife) 기반 분산 추정량과 이를 구현하는 Stata 패키지를 제안합니다.

핵심

이 논문은 경제학이나 사회과학 데이터를 분석할 때 자주 마주치는 '두 가지 종류의 그룹화 (Two-Way Clustering)' 문제를 해결하기 위해 쓴 연구입니다. 어렵게 들리지만, 일상적인 비유로 쉽게 설명해 드릴게요.

🍕 피자와 두 가지 그룹화: 왜 이 논문이 필요할까?

상상해 보세요. 여러분이 전 세계의 피자 가게 매출을 분석하고 있다고 칩시다.

1. **국가 (Country)**별로 그룹이 나뉩니다. (미국, 한국, 이탈리아 등)
2. **도시 (City)**별로 그룹이 나뉩니다. (뉴욕, 서울, 로마 등)

여기서 중요한 점은, 같은 국가 안의 도시들끼리도 서로 영향을 주고받고, 같은 도시 안의 가게들끼리도 서로 영향을 준다는 것입니다. (예: 한국 내 서울과 부산은 서로 다른 특성이 있지만, 한국이라는 큰 틀에서 공통점이 있습니다.)

이런 '국가'와 '도시'라는 두 가지 차원이 섞여 있을 때, 통계적 신뢰도 (표준오차) 를 계산하는 건 매우 까다롭습니다. 기존에 쓰던 방법들은 이 복잡한 상황을 너무 단순하게 봐서, **"이 결과가 진짜로 의미 있는가?"**를 판단할 때 큰 실수를 저지를 수 있었습니다. 마치 피자가 진짜로 맛있는지, 아니면 그냥 운이 좋았을 뿐인지 구별하지 못하는 것과 같습니다.

🚨 기존 방법의 문제점: "정답이 없는 계산기"

기존에 가장 많이 쓰던 방법 (CV1) 은 두 가지 큰 문제를 가지고 있었습니다.

1. 계산이 안 되는 경우 (음수 오차): 가끔은 수학적으로 계산 결과가 '음수'가 나오거나, 의미가 없는 숫자가 나옵니다. "이 피자의 맛 점수가 -5 점이다"라고 하는 것과 같죠. 이건 말이 안 됩니다.
2. 너무 자신감 넘치는 결론: 계산이 되더라도, 실제보다 훨씬 작은 오차 범위를 보여줍니다. 마치 "이 피자가 100% 완벽하다!"라고 말하면서, 사실은 50% 만 확실한 경우를 100% 로 믿게 만드는 것과 같습니다. 그래서 실제로는 별거 아닌 결과도 "통계적으로 유의미하다"고 잘못 판단하게 됩니다.

💡 이 논문이 제안한 새로운 해결책: "잭나이프 (Jackknife) 와 최대값 선택"

저자 세 명은 이 문제를 해결하기 위해 두 가지 혁신적인 방법을 제안했습니다.

1. "잭나이프" 방법: 한 조각씩 떼어내어 확인하기

'잭나이프 (Jackknife)'는 원래 나무를 깎는 도끼에서 유래한 통계 용어입니다. 데이터를 분석할 때, **"하나의 그룹 (예: 특정 국가나 도시) 을 제외하고 다시 계산해 보자"**는 아이디어입니다.

• 비유: 100 개의 피자 조각이 있다면, 하나를 떼어내고 나머지로 맛을 평가해 봅니다. 그리고 또 다른 조각을 떼어내고 다시 평가합니다. 이렇게 모든 조각을 한 번씩 제외하며 반복하면, 특정 한 조각이 결과에 너무 큰 영향을 미쳤는지, 혹은 전체적인 경향이 무엇인지 훨씬 정확하게 알 수 있습니다.
• 이 논문의 핵심은 이 '잭나이프' 방식을 **두 가지 그룹화 (국가와 도시)**에 동시에 적용할 수 있게 만든 것입니다. 기존 방법보다 훨씬 신중하고 정확한 결론을 내릴 수 있게 해줍니다.

2. "최대값 선택 (Max-SE)" 전략: 가장 보수적인 답을 고르자

만약 계산 결과가 이상하게 나오거나 (음수), 여러 가지 방법이 서로 다른 답을 준다면 어떻게 할까요?

• 비유: 세 명의 전문가 (국가 전문가, 도시 전문가, 둘 다 보는 전문가) 가 피자 맛을 평가한다고 칩시다.
  • 전문가 A: "맛있어요! (오차 작음)"
  • 전문가 B: "조금 위험할 수도 있어요. (오차 큼)"
  • 전문가 C: "계산이 안 돼요!"
• 이 논문의 제안은 **"가장 보수적인 (가장 큰 오차를 가진) 전문가의 말을 믿자"**는 것입니다.
• 왜냐하면, 가장 큰 오차를 선택하면 "이 결과가 우연일 가능성"을 가장 엄격하게 따져보는 것이기 때문입니다. "우연일 수도 있다"고 생각할 때, 우리는 더 신중해지고, 실수를 줄일 수 있습니다.

📊 실험 결과: 새로운 방법이 더 정확하다

저자들은 수만 번의 컴퓨터 시뮬레이션 (가상의 데이터 실험) 을 통해 이 방법들을 테스트했습니다.

• 기존 방법: 데이터가 조금만 복잡해지거나 그룹 수가 적으면, 엉뚱한 결론을 내는 경우가 많았습니다. (예: 실제로는 효과가 없는 피자를 "최고의 피자"라고 선언)
• 새로운 방법 (잭나이프 + 최대값 선택): 거의 모든 상황에서 정확한 결론을 내었습니다. 특히 그룹 수가 적거나 데이터가 불균형할 때 기존 방법보다 훨씬 신뢰할 수 있었습니다.

🛠️ 실제 적용: 스타타 (Stata) 프로그램 제공

이 논문은 단순히 이론만 제시한 것이 아닙니다. 연구자들이 바로 쓸 수 있도록 **twowayjack**이라는 무료 프로그램을 만들었습니다. 이 프로그램을 사용하면, 복잡한 두 가지 그룹화 데이터에서도 가장 정확한 표준오차와 P 값을 자동으로 계산해 줍니다.

📝 요약: 이 논문이 우리에게 주는 교훈

1. 복잡한 데이터는 단순한 도구로 재단하면 안 됩니다. 국가와 도시처럼 두 가지 차원이 섞인 데이터는 특별한 주의가 필요합니다.
2. 신중함이 미덕입니다. 통계 분석에서 "가장 보수적인 (가장 큰 오차를 가진) 결과"를 선택하는 것이, 나중에 후회할 실수를 막는 길입니다.
3. 새로운 도구가 필요합니다. 기존에 쓰던 방법들이 "음수 오차"나 "과도한 자신감" 같은 문제를 일으킬 때, '잭나이프' 방식과 '최대값 선택' 전략을 쓰면 훨씬 더 믿을 수 있는 연구 결과를 얻을 수 있습니다.

결론적으로, 이 논문은 **"데이터 분석할 때, 너무 쉽게 결론 내리지 말고, 가장 까다로운 기준으로 다시 한번 확인해 보라"**는 지혜를 전하는 연구입니다.

기술 요약

1. 문제 제기 (Problem)

• 배경: 횡단면 (cross-section) 또는 패널 데이터 분석에서 오차항이 두 가지 차원 (예: 국가와 연도, 또는 지역과 산업) 에서 클러스터링되어 있다는 가정이 자연스럽습니다. Cameron, Gelbach, Miller (2011) 와 Thompson (2011) 등이 제안한 **이중 클러스터링 로버스트 분산 추정량 (Two-way Cluster-Robust Variance Estimator, CRVE)**은 널리 사용되고 있습니다.
• 핵심 문제:
  1. 양정치성 부재 (Non-positive Definiteness): 유한 표본 (finite-sample) 에서 기존의 3 항식 CRVE($\hat{V}^{(3)}_1$) 는 양정치 행렬이 아닐 수 있습니다. 이는 표준오차가 정의되지 않거나 음수가 되어 추론이 불가능하거나 왜곡될 수 있음을 의미합니다.
  2. 유한 표본 특성 불확실: 1 차원 클러스터링에 비해 2 차원 클러스터링의 유한 표본 특성은 잘 이해되지 않았으며, 기존 방법론은 신뢰도가 낮을 수 있습니다.
  3. 기존 해결책의 한계:
     • 고유값 분해 (Eigen-decomposition): 음의 고유값을 0 으로 치환하는 방식 (Cameron et al., 2011) 은 표준오차를 임의로 변경하여 신뢰구간을 왜곡할 수 있으며, 고정효과 (fixed effects) 의 지정 방식에 따라 결과가 달라지는 비불변성 (non-invariance) 문제가 있습니다.
     • 2 항식 추정량 (Two-term estimator): 교차항을 생략하여 양정치성을 보장하지만, 교차 수준 (intersection level) 에서의 상관관계가 존재할 경우 분산을 과대평가하여 검정력이 떨어지는 (under-reject) 문제가 있습니다.

2. 방법론 (Methodology)

저자들은 두 가지 주요 접근법을 통해 위 문제를 해결합니다.

A. 표준오차 정의 문제 해결을 위한 새로운 절차 (Max-SE Procedure)

CRVE 가 양정치성이 아닐 때 발생하는 문제를 피하기 위해, 세 가지 검정 통계량 중 가장 보수적인 (가장 큰) 값을 선택하는 방식을 제안합니다.

• 구체적 방법:
  1. 3 항식 CRVE ($\hat{V}^{(3)}_1$) 기반의 Wald 통계량 ($W_3$)
  2. 첫 번째 차원 클러스터링 기반의 1 항식 CRVE ($\hat{V}_G$) 기반 통계량 ($W_G$)
  3. 두 번째 차원 클러스터링 기반의 1 항식 CRVE ($\hat{V}_H$) 기반 통계량 ($W_H$)
  • 이 중 양수인 값 중 가장 큰 값을 선택하여 검정 통계량을 계산합니다. 이를 Max-SE 절차라고 부릅니다.
• 장점: 표준오차가 정의되지 않거나 음수인 경우를 자동으로 처리하며, 오검출 (over-rejection) 을 방지하는 보수적인 접근을 제공합니다.

B. 이중 클러스터링을 위한 클러스터 잭나이프 CRVE (Cluster-Jackknife CRVE)

기존의 CV1(표준 샌드위치 추정량) 대신 클러스터 잭나이프 (Cluster Jackknife) 기반의 추정량 (CV3) 을 2 차원 클러스터링으로 확장했습니다.

• 구성:
  • 각 클러스터 차원 (G, H) 과 교차점 (I) 에서 하나의 클러스터를 제외하고 모수를 재추정하는 과정을 수행합니다.
  • 이를 통해 얻은 추정치들의 변동을 이용하여 분산 행렬을 추정합니다.
  • 3 항식 ($\hat{V}^{(3)}_3$), 2 항식 ($\hat{V}^{(2)}_3$), 그리고 Max-SE 적용 버전 ($\hat{V}^{(max)}_3$) 을 정의합니다.
• 계산 효율성: 고정효과가 포함된 모델에서 모든 교차점을 계산하는 것은 비용이 많이 들 수 있으므로, 일부 항을 CV1 추정량으로 대체한 **혼합 추정량 (Mixed Estimator, $\hat{V}^{(3)}_{3,1}$)**도 제안했습니다.
• 점근적 성질: 저자들은 이 추정량이 일관성 (consistency) 을 가지며, 점근적으로 올바른 검정 크기를 가짐을 증명했습니다.

3. 주요 기여 (Key Contributions)

1. 새로운 표준오차 선택 절차 (Max-SE): CRVE 가 양정치성이 아닐 때 발생하는 실용적 문제를 해결하는 간단하고 효과적인 방법을 제시했습니다.
2. 이중 클러스터 잭나이프 추정량 개발: 1 차원 클러스터링에서 우수한 성능을 보였던 CV3 추정량을 2 차원으로 확장하고, 그 일관성을 수학적으로 증명했습니다.
3. 소프트웨어 구현: Stata 용 패키지인 **twowayjack**을 개발하여 연구자들이 제안된 방법론 (CV3, Max-SE, 진단 통계량 등) 을 쉽게 적용할 수 있도록 했습니다.
4. 포괄적인 시뮬레이션 및 실증 분석: 다양한 조건 (클러스터 크기 변동, 상관관계, 고정효과, 빈 교차점 등) 에서 기존 방법론과 비교 분석했습니다.

4. 실험 결과 (Simulation & Empirical Results)

시뮬레이션 결과 (Section 5)

• CV3 기반 추정량의 우월성: 대부분의 시나리오에서 **CV3 기반의 Max-SE 추정량 ($\hat{V}^{(max)}_3$)**이 가장 신뢰할 수 있는 추론 (nominal size에 가까운 기각률) 을 제공했습니다.
• CV1 의 문제점: 기존 CV1 기반 추정량들은 클러스터 크기 변동이 크거나, 클러스터 수가 적거나, 회귀변수가 많을 때 과대검출 (over-rejection) 경향을 보였습니다.
• 고정효과와 빈 교차점: 두-way 고정효과 모델이나 빈 교차점 (empty intersections) 이 많은 경우에도 CV3 기반 방법은 견고하게 작동했습니다.
• 2 항식 및 고유값 분해의 한계: 2 항식 추정량 ($\hat{V}^{(2)}_3$) 은 과소검출 (under-rejection) 을 일으킬 수 있으며, 고유값 분해 방식은 CV3 의 경우 오히려 성능을 저하시킬 수 있습니다.

실증 분석 (Section 6)

1. 아프리카 개발과 테세파리 (Tsetse Fly): Alsan (2015) 의 데이터를 재분석했습니다. 기존 CV1 방법들은 통계적 유의성을 강하게 주장했으나, 제안된 CV3 Max-SE 방법에서는 일부 변수에서 유의성이 약화되거나 사라지는 등 더 보수적이고 신뢰할 수 있는 결과를 보여주었습니다.
2. 캐나다 최저임금 (Minimum Wages): 12 개 연도와 10 개 주로 구성된 작은 클러스터 샘플을 분석했습니다. 기존 방법들은 최저임금이 임금에 유의한 영향을 미친다고 결론 내렸으나, Placebo Regression(가짜 회귀) 시뮬레이션 결과 기존 방법들은 허위 발견 (false positive) 이 매우 많았습니다. 반면, CV3 Max-SE 방법은 Placebo 데이터에서도 올바른 기각률 (약 5%) 을 보여 신뢰할 수 있는 추론을 제공했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 실증 연구의 신뢰성 제고: 이 논문은 이중 클러스터링을 사용하는 실증 연구자들이 흔히 직면하는 "양정치성 문제"와 "유한 표본 편향"을 해결할 수 있는 강력한 도구를 제공합니다.
• 추천 방법론: 저자들은 클러스터 잭나이프 기반의 CV3 추정량과 Max-SE 절차를 결합한 방식을 표준으로 권장합니다. 이는 특히 클러스터 수가 적거나 클러스터 크기가 불균형할 때 기존 방법보다 훨씬 정확한 추론을 가능하게 합니다.
• 실무적 적용: twowayjack 패키지를 통해 연구자들은 복잡한 수식 없이도 더 안전한 표준오차와 P 값을 계산할 수 있으며, 진단 통계량을 통해 데이터의 특성을 파악할 수 있습니다.

요약하자면, 이 논문은 이중 클러스터링 환경에서의 통계적 추론을 혁신적으로 개선하여, 기존 방법론이 과대평가할 수 있는 유의성을 교정하고 더 신뢰할 수 있는 경제학 및 계량경제학 연구의 기반을 마련했다는 점에서 중요한 의의를 가집니다.