기술 요약: 전략적 예측을 위한 미시적 기초 추론 (Microfoundation Inference for Strategic Prediction)

1. 문제 정의

본 논문은 예측 모델 $\theta$가 이해관계자(에이전트)의 효용을 극대화하기 위한 전략적 행동에 영향을 미쳐 타겟 변수의 분포를 변화시키는 수행적 예측(performative prediction) 문제를 다룹니다. 이는 캠벨의 법칙(Campbell's law)으로 자주 묘사되는 현상으로, 데이터 분포 $Q_\theta$가 예측값 $\theta$의 함수가 되는 분포 이동(distribution shift)을 초래합니다.

수행적 예측 이론을 적용하는 데 있어 핵심적인 병목 현상은 이러한 분포 이동의 알려지지 않은 메커니즘입니다. 기존의 접근 방식은 크게 두 가지 범주로 나뉘며, 각각 상당한 한계를 가집니다:

1. 제로 차수 최적화(Zeroth-order optimization): 문제를 미분 불가능 최적화(예: 유한 차분법 사용)로 취급합니다. 이는 분포 맵 $\theta \mapsto Q_\theta$를 명시적으로 모델링하지 않기 때문에 느린 수렴 속도와 차원의 저주 문제를 겪습니다.
2. 미시적 기초 모델링(Microfoundation modeling): 에이전트가 특정 반응 모델(예: 비용 조정된 효용 극대화)을 따른다고 가정합니다. 이 방식은 분포 맵에 대한 "화이트박스" 접근을 제공하여 더 빠른 최적화 알고리즘을 가능하게 하지만, 이러한 모델들은 종종 **잘못 지정(misspecified)**될 위험이 있습니다. 만약 가정된 에이전트의 비용 함수가 틀릴 경우, 생성된 분포 맵 또한 오류를 포함하게 되어 최적이 아니거나 일관되지 않은 예측자를 초래합니다.

저자들은 데이터로부터 에이전트 반응의 **미시적 기초(microfoundation)**를 직접 추론하는 방법론을 제안합니다. 구체적으로, 이들은 혜택 함수 $B_\theta$가 알려져 있다고 가정할 때, 모델 $\theta$에 대응하여 에이전트가 자신의 속성 $Z$를 수정하는 방식을 결정하는 알려지지 않은 비용 함수(cost function) $c$를 학습하는 것을 목표로 합니다.

2. 방법론

2.1 에이전트 반응 모델

저자들은 에이전트가 합리적이라는 표준적인 수행적 예측 프레임워크를 채택합니다. 모델 $\theta$에 노출되었을 때, 속성 $Z$를 가진 에이전트는 다음을 해결함으로써 $Z'$로 업데이트합니다:
$$T_\theta(Z) \in \arg\max_{z' \in \mathcal{Z}} \{ B_\theta(z') - c(Z, z') \}$$
여기서 $B_\theta$는 알려진 혜택(예: 모델의 출력)이며, $c$는 속성을 변경하는 데 드는 알려지지 않은 비용입니다. 결과적인 분포는 전(pre-model) 분포 $P$의 푸시포워드 측도(push-forward measure)인 $Q_\theta = (T_\theta)_\# P$가 됩니다.

2.2 브레그만 발산 (Bregman Divergences) 및 식별 가능성

저자들은 일반적인 이변량 비용 함수 $c(z, z')$를 유한한 샘플과 유한한 수의 분포로부터 추정하는 것이 불가능하다는 점에 주목합니다. 이를 해결하기 위해, 비용 함수를 브레그만 발산 클래스로 제한합니다:
$$c_\phi(z, z') = \phi(z') - \phi(z) - \nabla\phi(z)^\top(z' - z)$$
여기서 $\phi$는 엄격하게 볼록한 포텐셜 함수입니다. 이는 추정 문제를 복잡한 이변량 함수에서 스칼라 포텐셜 $\phi(z)$를 추정하는 문제로 축소하여 식별성 문제를 완화합니다.

2.3 최적 운송(Optimal Transport) 추정

제안된 방법의 핵심은 분포를 정렬하기 위해 **최적 운송(Optimal Transport, OT)**을 활용하는 것입니다. 에이전트의 극대화 문제에 대한 1차 최적 조건에 기반하여, 저자들은 진정한 포텐셜 $\phi^*$에 대해 다음이 성립함을 도출했습니다:
$$(\nabla\phi^* - \nabla B_\theta)_\# Q_\theta = (\nabla\phi^*)_\# P$$
이는 맵 $(\nabla\phi^* - \nabla B_\theta)$에 의한 엑스-포스트(ex-post) 분포 $Q_\theta$의 푸시포워드가 $\nabla\phi^*$에 의한 엑스-안테(ex-ante) 분포 $P$의 푸시포워와 동일함을 의미합니다.

저자들은 이 두 푸시포워 분포에 대한 제곱 2-바세르슈타인 거리(2-Wasserstein distance)의 합을 최소화하는 "바리센터(barycenter)" 분포 $\mu$를 찾아 $\phi$를 추정할 것을 제안합니다. 최적화 문제는 다음과 같습니다:
$$\arg\min_{\phi \in \Phi_{cvx}} \min_{\mu \in \Delta(\mathcal{Z})} \left[ W_2^2(\mu, (\nabla\phi)_\# P) + \sum_{k=1}^m W_2^2(\mu, (\nabla\phi - \nabla B_{\theta_k})_\# Q_{\theta_k}) \right]$$
이는 바리센터 $\mu$와 포텐셜 $\phi$를 번갈아 업데이트하는 블록 좌표 하강 알고리즘(Algorithm 1)을 통해 해결됩니다.

2.4 시나리오

이 방법은 두 가지 설정에서 적용 가능합니다:

1. 엑스-안테(Ex-ante) 및 엑스-포스트(Ex-post): 학습자가 사전 배포 분포 $P$와 여러 사후 배포 분포 $Q_{\theta_k}$의 샘플을 모두 가진 경우.
2. 엑스-포스트 전용(Ex-post only): 학습자가 사후 배포 분포 $Q_{\theta_k}$에만 접근할 수 있는 경우로, 서로 다른 $\theta_k$ 하에서의 푸시포워드들을 정렬하여 $\phi$를 추정합니다.

3. 주요 기여

1. 추정 방법: 유틸리티 극대화 미시적 기초 모델 내에서의 비용 함수(브레그만 발산 클래스 내)를 추정하기 위한 새로운 방법론을 제시합니다. 이 방법은 최적 운송을 사용하여 모델 전후의 분포를 일치시키는 것에 기반합니다.
2. 이론적 분석:
   • 식별 가능성(Identifiability): 저자들은 데이터로부터 비용 함수가 식별될 수 있는 조건들을 제시합니다 (예: 혜택 함수가 엄격하게 오목할 경우 하나의 엑스-안테와 하나의 엑스-포스트 분포만으로도 식별 가능하다는 상관 정리 4.2).
   • 수렴 속도: 강한 볼록성 가정을 바탕으로, 경험적 바세르슈타인 거리 수렴 결과를 이용하여 추정된 파라미터의 수렴 속도가 $O(n^{-2/d})$임을 입증합니다.
3. 실험적 검증: 신용 점수 데이터셋에 대한 수치 실험을 통해, 제안된 방법이 비용을 추정하고 다운스트림 작업(수행적 리스크 최소화)을 개선하는 능력을 보여줍니다.

4. 실험 결과

저자들은 에이전트가 디폴트 분류를 피하기 위해 특성을 전략적으로 조작하는 실제 신용 점수 데이터셋(Kaggle) 기반의 준합성(semi-synthetic) 설정을 사용하여 방법을 평가했습니다.

• 잘못된 지정에 대한 강건성(Robustness to Misspecification): 혜택 함수 $B_\theta$가 잘못 지정된 실험(예: 진실은 제곱근 함수인데 로그 함수로 가정함)에서 포텐셜 미분값 $\phi'$의 추정치가 편향되었으나, 결과적인 반응 맵 $T_\theta$는 강건하게 유지되었으며 예측 성능 또한 크게 저하되지 않았습니다. 이는 본 방법이 혜택 함수의 지정 오류를 견딜 수 있음을 시사합니다.
• 수렴성: 반응 맵 $T_\theta$의 추정 오차는 샘플 크기가 증가함에 따라 감소하였으며, 이는 이론적 예측과 일치합니다.
• 수행적 리스크 최소화(Performative Risk Minimization): 최적의 분류기 $\theta$를 찾는 과정에서, 제안된 방법은 베이스라인들에 비해 오라클(Oracle)에 훨씬 빠르게 수렴했습니다:
  • 반복 경사 하강법(RGD) 및 수행적 경사 하강법(PerfGD): 이러한 제로 차수 또는 부분 지정 방식들은 수렴이 느렸으며, 성립하지 않는 가정(예: PerfGD의 가우시안성 가정)으로 인해 오라클에 도달하지 못하는 경우가 있었습니다.
  • 최소 제곱법(Least Squares, LS): 선형 반응을 가정하는 2단계 방법입니다.
  • 결과: 제안된 방법은 발표된 분류기의 수(샘플 크기)가 증가함에 따라 오라클에 수렴하며 경쟁력 있는 성능을 달었습니다.

5. 의의 및 주장

본 논문은 에이전트의 미시적 기초를 정확하게 추론하는 것이 전략적 환경에서 사회적으로 책임 있고 효과적인 모델을 배포하는 데 있어 중요한 단계라고 주장합니다. 미시적 기초를 학습함으로써 실무자는 다음과 같은 이점을 얻을 수 있습니다:

• 분포 맵에 대한 명시적 지식이 필요한 빠르게 수렴하는 최적화 알고리즘을 활용하여, 미분 불가능 최적화의 느린 수렴 문제를 피할 수 있습니다.
• 혜택 함수의 지정 오류에 대해서도 안심하고 모델을 배포할 수 있습니다. 방법론 자체가 잘못 지정에 강건하기 때문입니다.
• 예측 모델이 인구 집단에 미치는 장기적인 영향을 더 잘 이해함으로써, 공정성 및 기타 사회적 제약의 집행을 용이하게 할 수 있습니다.

저자들은 본 연구가 전략적 에이전트에 초점을 맞추고 있지만, 비전략적 수행적 환경에서의 분포 이동 학습이라는 더 넓은 문제는 향후 연구 과제로 남아 있다고 결론짓습니다. 구현 코드는 공개적으로 제공됩니다.