기술 요약: 수행적 학습 이론 (Performative Learning Theory)

1. 문제 정의

머신러닝 시스템은 데이터를 수동적으로 분석하는 단계에서 세상을 능동적으로 형성하는 단계로 진화했습니다. 많은 영역에서 예측 모델의 배포는 모델이 예측하고자 하는 바로 그 결과에 영향을 미치는데, 이를 수행적 예측 (performative predictions, PP) 현상이라고 합니다. 기존 연구(예: Perdomo et al., 2020; Brown et al., 2022)는 PP를 공식화하고 인구 수준의 피드백 루프 하에서의 모델 안정성과 최적성을 연구해 왔으나, 결정적인 공백이 존재합니다: 바로 수행성 하에서의 일반화 (generalization under performativity) 문제입니다.

구체적으로, 기존 문헌은 다음과 같은 상황에서 모델이 유한한 훈련 샘플로부터 인구 집단으로 얼마나 잘 일반화되는지를 충분히 다루지 못하고 있습니다:

1. 샘플 자체가 모델의 예측에 반응하는 경우 (예: 베타 테스트 중인 앱의 추천에 따라 행동을 바꾸는 사용자들).
2. **인구 집단(population)**이 예측에 반응하는 경우.
3. 두 대상 모두 반응하며, 잠재적으로 서로 상충하는 방식으로 반응하는 경우.

핵심 질문은 수행적 샘플로 훈련된 모델이 수행적 인구 집단으로 어떻게, 그리고 얼마나 잘 일반화될 수 있는가이며, 이러한 일반화 오차에 대한 이론적 경계(theoretical bounds)는 무엇인가 하는 점입니다.

2. 방법론 및 프레임워크

저자들은 통계적 학습 이론 내에 수행적 예측을 통합하여 **수행적 학습 이론 (Performative Learning Theory, PLT)**을 도입합니다. 이 프레임워크는 시간 $t$에 따른 샘플 분포($\hat{d}_t$)와 인구 집단 분포($d_t$)의 진화를 고려함으로써 기존의 정적인 설정을 일반화합니다.

주요 정의 및 가정

• 상태 유지 전이 (Stateful Transition): 분포의 진화는 알려지지 않은 전이 맵 $Tr$에 의해 제어됩니다. 즉,$d_t = Tr(d_{t-1}, \theta_t)$입니다. 이는$d_t$가$\theta_t$에만 의존하는 상태 비저장(stateless) 모델을 일반화한 것입니다.
• 리스크 최소화: 본 연구는 인구 집단에 대한 반복적 리스크 최소화(RRM)와 샘플에 대한 반복적 경험적 리스크 최소화(RERM)를 모두 고려합니다.
• 조건: 분석은 PP 문헌의 표준 가정을 따릅니다:
  • 강볼록성 (Strong Convexity): 손실 함수 $\ell$은 파라미터 $\theta$에 대해 $\gamma$-강볼록합니다.
  • 바서슈타인 민감도 (Wasserstein Sensitivity): 전이 맵 $Tr$은$(\varepsilon, p)$-결합 민감성을 가집니다. 즉, 분포 간의 바서슈타인 거리는 파라미터 및 이전 분포의 변화에 따라 선형적으로 이동합니다.
  • 정규성 (Regularity): 손실 함수는 데이터에 대해 리프시츠(Lipschitz) 연속이며, 파라미터에 대해 연속 미분 가능합니다.

이론적 접근법

저자들은 바서슈타인 거리 분석을 통해 일반화 경계를 도출합니다. 이를 위해 다음을 활용합니다:

• 수렴 경계: 초기 샘플과 실제 인구 집단 사이의 거리를 제한하기 위해 Fournier & Guillin (2015)을 활용합니다.
• 내부 샘플 이동 경계 (In-Sample Shift Bounds): 훈련 루프 내의 수행적 효과로 인해 발생하는 샘플 분포의 이동에 대한 경계를 도출합니다.
• 커버링 수 (Covering Numbers): 분포의 동적인 성격을 처리하기 위해 라데마허 복잡도(Rademacher complexities) 대신 코를모고로프-티코미로프(Kolmogorov & Tikhomirov, 1959)의 커버링 수 엔트로피 적분을 사용합니다.
• 바서슈타인 공간에서의 쌍대성 (Duality in Wasserstein Space): 자기 부정적(인구 집단) 및 자기 충족적(샘플) 예측을 각각 min-max 및 min-min 리스크 범함수로 규정하여, 국소적 분포 강건성 및 유리한 학습을 위한 경험적 과정 이론을 적용할 수 있도록 합니다.

3. 주요 기여 및 결과

본 논문은 다양한 수행성 시나리오에 관한 네 가지 구체적인 연구 질문(RQ1–RQ4)을 다룹니다.

RQ1: 샘플 수행성 하에서의 일반화

• 시나리오: 모델이 예측에 반응하는 샘플을 바탕으로 재학습되지만, 인구 집단은 반응하지 않거나 아직 관찰되지 않은 경우입니다.
• 결과 (Theorem 3.7): 저자들은 초과 리스크 $R(d_0, \hat{\theta}_T) - \inf R(d_0, \theta)$에 대한 상한을 증명합니다.
• 핵심 통찰: 이 경계는 수행적 반응률 ($m/n$, 행동을 바꾸는 샘의 비율)에 의존합니다. 만약 $m = o(n)$이면 $n \to \infty$일 때 경계가 사라집니다. 그러나 샘플이 강력하게 반응한다면 경계는 증가하며, 이는 트레이드오프를 나타냅니다: 즉, 결과를 개선하기 위해 샘플을 조작할수록 그 샘플로부터 일반화 가능한 특성을 학습하는 능력은 저하됩니다.

RQ2: 완전한 수행성 하에서의 일반화

• 시나리오: 모델이 샘플에서 훈련된 후, 예측에 반응하는 인구 집단에 배포되는 경우입니다.
• 결과 (Theorem 3.10 & 3.13): 수행적 초과 리스크(변화된 인구 집단에서의 오차)와 일반화 갭(변화된 인구 집단에서의 리스크와 변화된 샘플에서의 리스크 차이)에 대한 경계가 도출됩니다.
• 구조적 통찰: 최악의 경우, 샘플은 모델을 속이는 자기 충족적(self-fulfilling) 예측을 통해 "경험적 에코 체임버(echo chamber)"를 형성하는 반면, 인구 집단은 이에 반하는 자기 부정적(self-negating) 행동을 보입니다. 이는 훈련 성능과 표본 외(out-of-sample) 성능 사이에 근본적인 격차를 만듭니다.
• 결론 (Corollary 3.11): 실무적 통찰로서, 왜곡된 샘플에 대해 반복적으로 재학습하는 것보다, 관찰된 샘플의 변화로부터 인구 집단의 변화를 추정하면서 초기 적합 모델($\hat{\theta}_0$)을 사용하여 표본 외 데이터에 적용하는 것이 가장 타이트한 일반화 보증을 얻을 수 있음을 시사합니다.

RQ3: 누적 수행적 초과 리스크

• 시나리오: 모델이 샘플에서 훈련된 후, 변화하는 인구 집단에 반복적으로 재학습되며 배포되는 경우입니다.
• 결과 (Theorem 3.16): 논문은 시간에 따른 누적 오차에 대한 경계를 제공합니다. 분석 결과, 누적 오차는 초기 샘플-인구 집단 간의 변화와 이후의 인구 집단 역학에 의해 결정됩니다.

RQ4: 추론 격차 (Inferential Gap)

• 시나리오: 경험적 리스크 최소화 모델(샘플로 훈련됨)과 이론적 리스크 최소화 모델(인구 집단으로 훈련됨)을 비교합니다.
• 현황: 논문은 이 질문이 점근적 사례($n \to \infty$)에 대해 최근 연구(Li et al., 2025b)에 의해 부분적으로 답변되었음을 언급하며, 상태 유지 수행성(stateful performativity)에 대한 유한 샘플 분석은 향후 연구 과제로 남겨두었습니다.

4. 경험적 예시

저자들은 독일 연방 고용청(1975–2017)의 구직자 프로파일링에 관한 실제 행정 데이터를 사용하여 경계를 설명합니다.

• 설정: 로지스틱 회귀 모델이 장기 실업 위험을 예측합니다. 고위험 개인에게 직업 훈련이 배정되며, 이 훈련이 효과적이라면 실업 위험을 낮추게 되어 수행적 효과를 발생시킵니다.
• 결과: 경계는 일반화 갭을 성공적으로 정량화합니다. 훈련에 배정되는 구직자의 비율($\xi$)이 증가함에 따라 경계 내의 수행적 항이 증가하며, 이는 **변화-학습 트레이드오프(change-learn trade-off)**를 보여줍니다: 모델이 인구 집단을 더 많이 변화시킬수록(더 많은 훈련을 배정할수록), 일반 인구에 대한 예측의 신뢰도는 떨어집니다.

5. 의의 및 주장

본 논문은 수행성 하에서의 학습 가능성(learnability under performativity) 연구를 개시한다고 주장합니다. 주요 기여는 다음과 같습니다:

1. 이론적 토대: 유한한 샘플과 샘플 및 인구 집단의 반응 차이를 고려하여 수행적 예측에 대한 최초의 일반화 경계 세트를 구축했습니다.
2. 근본적 트레이드오프: 개입(예측을 통해 세상을 변화시킴)과 추론(결과로부터 학습함) 사이의 트레이드오프를 공식화했습니다. 모델이 환경에 더 많은 영향을 미칠수록, 그 결과 데이터로부터 일반화하기는 더 어려워집니다.
3. 에코 체임버 메커니즘: 샘플은 자기 충족적 예언을 통해 모델을 "속일" 수 있는 반면, 인구 집단은 이를 "부정"하여 일반화 갭을 키우는 구체적인 메커니나임을 식별했습니다.
4. 실무적 지침: 수행성에 직면했을 때, 지속적인 재학습보다는 초기 모델 적합과 (샘플의 반응으로부터 유도된) 변화 추정치를 결에는 사용하는 것이 더 타이트한 보증을 제공할 수 있다는 반직관적이지만 이론적으로 근거 있는 권고를 제시합니다.

저자들은 자신의 경계가 특정 정규성 조건(강볼록성, 리프시츠 연속성)에 의존하며 전이 맵 $Tr$이 블랙박스로 취급된다는 점을 인정하며 겸손한 어조를 유지합니다. 이들은 이 연구를 고용 서비스, 금융, 형사 사법과 같이 예측이 결과를 능동적으로 형성하는 고위험 영역에서 예측 시스템의 한계를 이해하기 위한 기초적인 단계로 위치시킵니다.