📊 통계학

Is Using Shapley Value Good for Covariate Selection in Panel Models?

본 논문은 패널 모델에서 공변량 선택을 위한 고정 효과 샤플리 가치(fixed-effects Shapley-value) 방법을 제안하고 검증하며, 시뮬레이션과 실증적 적용을 통해 이 방법이 기존 방식들에 비해 투명하고 계산 효율적이며 간결한 대안을 제공하는 동시에 실제 활성 집합(active sets)을 정확하게 복원하고 모델 성능을 향상시킨다는 것을 입증한다.

원저자: Htwe Ko, Pathairat Pastpipatkul

게시일 2026-10-14

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Htwe Ko, Pathairat Pastpipatkul

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

경제학의 세계에서 연구자들은 단순해 보이지만 매우 까다로운 퍼즐에 직면하곤 합니다. 그것은 바로 국가 소득의 성장과 같은 특정 결과가 실제로 어떤 요인들에 의해 주도되는지를 파악하는 방법입니다. 수십 개국의 수년간의 데이터를 담은 방대한 스프레드시트를 들여다보는 과학자를 상상해 보십시오. 그들에게는 교육 지출, 외국인 투자, 인플레이션율, 인구 성장과 같은 잠재적 원인들의 목록이 있습니다. 문제는 모든 것을 한꺼번에 테스트하기에는 후보가 너무 많아 혼란을 야ก할 수 있으며, 경제 이론이 단 하나의 완벽한 성분 목록을 제시하는 경우는 드물다는 점입니다. 수십 년 동안 통계학자들은 노이즈를 걸러내기 위해 다양한 수학적 지름길을 사용하여 이 문제를 해결하려 노력해 왔지만, 이러한 방법들은 종종 연구자들로 하여금 어떤 변수가 실제로 핵심적인 역할을 하고 있고 어떤 변수가 그저 곁다리로 끼어 있는 것뿐인지 추측하게끔 만듭니다. 핵심 과제는 단순히 데이터를 잘 설명하는 모델을 찾는 것이 아니라, 특히 그 요인들이 복잡한 방식으로 서로 얽혀 있을 때 각 개별 요인이 그 적합성에 대해 정확히 어느 정도의 공로를 인정받아야 하는지를 이해하는 것입니다.

치앙마이 대학교의 한 연구팀은 경제 데이터의 혼돈에 명확성을 부여하기 위해 게임 이론에서 개념을 빌려와 이 문제를 해결할 새로운 방법을 제 proposed했습니다. 그들은 변수 선택을 통계적인 추측 게임으로 취급하는 대신, 모든 잠재적 요인이 플레이어가 되는 협력 게임으로 틀을 짰습니다. 이 게임의 목표는 각 플레이어가 팀의 성공, 즉 국가 소득의 변화를 설명하는 능력에 얼마나 기여했는지를 측정하는 것입니다. 연구진은 본래 협력 게임에서 플레이어들 사이에 승리금을 공정하게 나누기 위해 설계된 방법인 샤플리 값(Shapley value)이라는 수학적 도구를 사용했습니다. 이 논리를 경제 데이터에 적용함으로써, 그들은 가능한 모든 요인의 조합을 고려하여 모든 개별 변수의 정확한 평균 기여도를 계산할 수 있었습니다. 이 접근 방식은 데이터의 고정 효과(fixed effects), 즉 각 국가와 각 연도의 고유하고 변하지 않는 특성을 일정한 배경으로 처리하여, 연구자들이 변화하는 변수들이 결과에 어떻게 상호작용하며 영향을 미치는지에 순수하게 집중할 수 있도록 했습니다.

연구진은 '고정 효과 샤플리 값 공변량 선택(Fixed Effects Shapley-Value covariate selection)'이라 부르는 이 새로운 방법을 일련의 컴퓨터 시뮬레이션을 통해 테스트했습니다. 그들은 정답을 미리 알고 있는 수천 개의 가짜 경제 데이터셋을 만들었습니다. 즉, 어떤 변수가 실제 동력이고 어떤 변수가 단순한 무작위 노이즈인지 정확히 알고 있는 상태에서 실험했습니다. 이 테스트에서 이 방법은 놀라울 정도로 효과적임이 입증되었습니다. 데이터의 양이 늘어남에 따라, 이 방법은 실제 동력을 식별하고 노이즈를 무시하는 데 거의 완벽해졌습니다. 이 방법은 신호와 정적(static)을 성공적으로 분리해 냈으며, 표본 크기가 충분히 클 때 거의 모든 경우에서 올바른 변수 집합을 복구해 냈습니다. 시뮬레이션 결과, 기존의 일부 방법들은 특정 조합에서 좋아 보인다는 이유만으로 무관한 변수들을 계속 포함시키는 반면, 이 새로운 접근 방식은 쓸모없는 요인들에 대해 일관되게 0 또는 음수의 값을 할당하여 효과적으로 걸러낸다는 것을 보여주었습니다.

이 방법이 실제 세상에서도 작동하는지 확인하기 위해, 연구팀은 2000년부터 2023년까지의 데이터를 바탕으로 선진국 20개국과 개발도상국 25개국 그룹으로 나눈 45개국의 실제 경제 데이터에 이 방법을 적용했습니다. 그들은 정부 부채, 무역 개방도, 환율 등 10가지의 서로 다른 경제 지표를 포함한 전체 모델로 시작했습니다. 샤플리 값 분석을 실행했을 때, 결과는 국가 유형에 따라 달라지는 명확한 중요도의 위계를 드러냈습니다. 선진국의 경우 무역 개방도와 외국인 직접 투자가 성장의 가장 강력한 동력으로 나타난 반면, 개발도상국에서는 외국인 투자와 인구 성장이 주도권을 잡았습니다. 또한 이 방법은 전통적인 통계 테스트에서는 유의미해 보였음에도 불구하고, 실제로는 성장을 설명하는 데 기여하는 바가 매우 적은 변수들을 짚어냈습니다. 어떤 경우에는 특정 요인에 음수 값을 할당하기도 했는데, 이는 해당 요인을 포함하는 것이 실질적인 설명력을 더하지 못한 채 불필요한 복잡성만 더함으로써 모델을 오히려 악화시킨다는 것을 의미했습니다.

이 방법으로 만들어진 최종 모델들은 모든 것을 포함하는 원래의 버전보다 훨씬 단순하고 집중되어 있었습니다. 선진국 그룹의 경우 이 방법은 7개의 핵심 변수를 선택했고, 개발도상국 그룹은 단 3개로 좁혔으며, 결합된 그룹의 경우 4개를 선택했습니다. 이렇게 간소화된 모델들은 데이터를 설명하는 데 있어 전체 모델만큼이나 우수한 성능을 보이면서도 훨씬 깔끔한 구조를 가졌습니다. 연구진이 자신들의 결과를 다른 고급 통계 기법들과 비교했을 때, 가장 중요한 변수들에 대해서는 강한 일치성을 보였으나, 새로운 방법은 뚜렷한 이점을 제공했습니다. 즉, 혼란스러운 확률 집합을 제시하는 대신 단 하나의 확정적인 최적 변수 목록을 제공한다는 점입니다. 이는 이제 연구자가 어떤 변수를 유지하거나 버릴지 고민할 필요 없이, 데이터를 보고 어떤 요인이 성장을 주도하는지 확신을 가지고 말할 수 있음을 의미합니다. 이 연구는 게임 이론적 접근 방식이 복잡한 가능성의 목록을 무엇이 정말 중요한지에 대한 명확하고 증거에 기반한 이야기로 바꾸어 놓는, 투명하고 공정하며 계산 효율적인 방법임을 결론짓고 있습니다.

기술 요약: 패널 모델에서의 고정 효과 샤플리 가치 공변량 선택 (Fixed-Effects Shapley-Value Covariate Selection)

문제 제기
본 논문은 패널 데이터 모델에서의 지속적인 공변량 선택 문제를 다룹니다. 특히 연구자들이 관측치 수나 신뢰할 수 있는 추정 능력의 범위를 초과하는 다양한 '후보군'에 직면하는 거시경제적 맥락이 주요 대상입니다. 단계적 회귀(stepwise regression), Lasso형 페널티 적용, 또는 모든 $2^p$ 부분 집합에 대한 정보 기준(information-criterion) 탐색과 같은 전통적인 접근 방식들은 다음과 같은 한계에 직면합니다. 즉, 공변량의 수( $p$ )가 약 20개를 초과하면 계산적으로 유연성이 떨어지며, 결론이 선택된 기준에 민가하고, 고정 효과를 고려하면서 모델의 설명력을 개별 회귀 변수의 기여도로 정확하게 분해하는 메커니즘이 부족합니다. 또한, 기존 방법들은 선택(selection)과 수축(shrinkage)을 혼동하거나, 특정 변수의 '가치'를 명확하게 귀속시키는 투명한 메커니즘을 결여하고 있습니다.

방법론: 고정 효과 샤플리 가치 (FESV)
저자들은 공변량 선택을 협력적 게임 이론(cooperative game-theoretic) 문제로 프레임화한 고정 효과 샤플리 가치(Fixed-Effects Shapley-Value, FESV) 방법을 제안합니다.

게임 구성:
- 플레이어: 각 후보 공변량은 이전적 효용 게임(transferable-utility game)의 플레이어로 취급됩니다.
- 비플레이어: 단위 효과( $\alpha_i$ ) 및 시간 효과( $\gamma_t$ )는 항상 존재하는 구조적 구성 요소로 취급됩니다. 이들은 연합(coalition) 평가 전 내부 변환(within-transformation)을 통해 제거되며, 절대 선택되지 않습니다.
- 특성 함수 ( $v$ ): 연합(공변량 부분 집합 $S$ )의 가치는 $S$ 에 포함된 변수들만을 사용한 내부 추정 회귀의 **조정된 $R^2$ (adjusted $R^2$ )**로 정의됩니다. 이 함수는 고정 효과를 제외하며 자유도에 대해 페널티를 부여합니다.
- 대안 함수: 견고성을 테스트하기 위해 조정되지 않은 $R^2$ 및 음의 BIC를 특성 함수로도 고려합니다.
샤플리 가치 계산:
- 각 공변량에 대한 샤플리 가치( $\phi_i$ )는 가능한 모든 연합( $2^p$ 부분 집합)에 걸친 한계 기여도의 가중 평균으로 계산됩니다.
- 속성: 이 방법은 샤플리 가치의 공리적 속성인 효율성(efficiency, 가치의 합이 총 설명 변동량과 일치함), 대칭성(symmetry), 가산성(additivity), 그리고 영플레이어 특성(null-player property, 무관한 변수는 zero 또는 negative 값을 받음)을 활용합니다.
- 계산: 모든 $2^p$ 연합을 열거하고, 각 연합에 대해 내부 회귀를 적합시킨 후, 조합론적 가중치를 적용하여 정확한 샤플리 벡터를 산출합니다.
선택 규칙:
- 규칙 A (양의 부호): 샤플리 가치가 양수인( $\phi_i > 0$ ) 모든 공변량을 선택합니다. 이는 진단적 용도로 사용되지만, 샘플링 노이즈로 인해 유한 표본에서 과잉 선택되는 경향이 있습니다.
- 규칙 B (페널티가 적용된 중첩): 샤플리 가치가 감소하는 순서대로 공변량을 정렬하고, 페널티가 적용된 목적 함수 $J(k) = v(M_k) - \gamma k$ 를 최대화하는 상위- $k$ 연합을 선택합니다. 여기서 $\gamma$ 는 사용자 정의 페널티(예: 0.01)입니다. 이 규칙은 변수를 추가함으로써 조정된 적합도를 충분히 개선하지 못할 경우 비용을 부과함으로써 허위 양성(false positives)을 효과적으로 제어합니다.

주요 기여

정확한 분해: 단계적 방식이나 페널티 방식과 달리, FESV는 전체 모델의 조정된 $R^2$ 를 개별 공변량의 기여도로 정확하고 잔차 없는 분해를 제공합니다.
선택과 추정의 분리: FESV는 수축 없이 선택을 수행합니다. 최적의 부분 집합이 샤플리 게임을 통해 식별되면, 최종 추정을 위해 내부 변환된 데이터에 대해 표준 OLS를 사용하여 계수의 해석력을 보존합니다.
고정 효과 처리: 이 접근 방식은 고정 효과를 비플레이어로 명시적으로 취급하여, 선택 과정이 단위 및 시간 효과의 명세에 견고하도록 보장합니다.
이론적 일관성: 본 논문은 표준적인 정칙성 가정(regularity assumptions) 하에서 추정된 샤플리 가치가 모집단 값으로 수렴하며, 규칙 B가 $N \times T \to \infty$ 일 때 실제 활성 집합(true active set)을 일관되게 회복함을 입증합니다.

실험 및 시뮬레이션 결과

몬테카를로 시뮬레이션:
- 6개의 공변량(활성 3개, 노이즈 3개)을 가진 5가지 표본 크기( $N \times T$ 범위 50~4000)에 대한 시뮬레이션 결과, 규칙 B는 적절한 표본 크기( $N \times T \geq 450$ )에서 거의 완벽한 정밀도와 재현율(F1 score $\approx$ 1.0)로 실제 활성 집합을 회복했습니다.
- 규칙 A는 높은 재현율을 유지하지만, 샘플링 노이즈가 노이즈 공변량에 간혹 작은 양의 값을 할당함에 따라 지속적인 허위 양성률(정밀도 $\approx$ 0.79) 문제를 겪었습니다.
- 시뮬레이션은 페널티가 적용된 특성 함수(조정된 $R^2$ )가 기대치 상에서 노이즈 공변량에 음의 값을 할당함으로써 효과적인 선택을 가능하게 함을 확인시켜 주었습니다.
실증적 적용 (성장 회귀 분석):
- 2000~2023년 사이 45개국(선진국 20개국, 개발도상국 25개국)의 패널 데이터를 사용하여 GDP 성장을 설명하는 데 적용되었습니다.
- 결과: FESV 방법은 10개 변수의 전체 명세와 비교하여 간결한 모델(3~7개 변수)을 선택했습니다.
  - 선진국: 무역 개방도, 외국인 직접 투자(FDI), 인구 성장, 인플레이션, 교육, 실업률, 정부 효율성을 선택했습니다.
  - 개발도상국: FDI, 환율, 인구 성장을 선택했습니다.
  - 통합 모델: FDI, 인구 성장, 무역 개방도, 부채를 선택했습니다.
- 성능: 선택된 모델들은 주요 결정 요인들을 유지하면서도 전체 모델보다 낮은 BIC 점수를 달성했습니다. 조정된 $R^2$ 는 아주 미미하게 감소했습니다.
- 비교: FESV의 순위는 상위 순위 변수(예: FDI 및 인구 성장이 일관되게 상위 예측자로 나타남)에 있어 베이지안 패널 변수 선택(BPVS) 모델과 밀접하게 일치했습니다. 그러나 BP와 달리 FESV는 높은 사후 포함 확률(posterior inclusion probabilities)로 인해 모든 변수를 유지하는 BPVS와 달리 더 간결한 모델을 생성했습니다.

의의 및 주장
본 논문은 FESV가 패널 모델의 공변량 선택을 위한 투명하고, 계산적으로 효율적이며, 이론적으로 근거가 있는 도구라고 주장합니다. 주요 의의는 다음과 같습니다:

투명성: 변수 선택이라는 '블랙박스'를 각 변수의 기여도가 명시적으로 계산되어 모델의 총 적합도와 정확히 일치하는 '감사 가능한 귀속(auditable attribution)'으로 전환합니다.
수축 없는 간결성: 계수 수축이 아닌 자유도에 대한 게임 이론적 페널티를 통해 모델의 희소성(sparsity)을 달 achieves 하며, 이를 통해 표준적인 선택 후 추론(post-selection inference)을 가능하게 합니다.
견고성: 핵심 동인을 식별하는 데 있어 베이지안 접근 방식과 일관성을 보이면서도, 단일하고 방어 가능하며 간결한 명세를 생성하는 데 있어 우월함을 보여줍니다.

인정된 한계점
저자들은 $2^p$ 연합의 정확한 열거가 공변량의 수를 중간 규모로 제한한다는 점을 언급했습니다(단, 샘플링 근사법은 존재함). 현재 프레임워크는 연속형 결과 변수를 가진 선형 모델으로 제한되어 있으며, 본 논문은 선택 후 추론(예: 선택 후 유효한 신뢰 구간)에 대한 공식적인 이론을 제공하지 않고, 이를 향후 연구 과제로 남겨두었습니다.

기술 요약: 패널 모델에서의 고정 효과 샤플리 가치 공변량 선택 (Fixed-Effects Shapley-Value Covariate Selection)

유사한 논문