📊 statistics

Learning the Distribution Map in Reverse Causal Performative Prediction

미시경제학의 행위자 행동 모델에서 영감을 얻은 본 논문은, 예측 모델이 행위자의 행동에 어떻게 영향을 미치는지 모델링함으로써 예측 위험의 최소화를 가능하게 하는, 퍼포매티브 예측(performative prediction) 시나리오에서의 분포 변화 맵을 학습하기 위한 새로운 역인과 프레임워크를 제안한다.

원저자: Daniele Bracale, Subha Maity, Moulinath Banerjee, Yuekai Sun

게시일 2026-07-28

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Daniele Bracale, Subha Maity, Moulinath Banerjee, Yuekai Sun

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

미래를 예측하는 거대한 게임 (그리고 사람들이 속임수를 쓰는 법)

당신이 일기 예보관이라고 상상해 보세요. 매일 아침 당신은 비가 올지 예측합니다. 만약 당신이 "맑음"이라고 말하면 사람들은 해변으로 가고, "비"라고 말하면 집에 머뭅로 있습니다. 여기까지는 좋습니다. 하지만 이제, 당신의 예측이 실제로 날씨를 바꾼다고 상상해 보세요. 만약 당신이 비가 올 것이라고 예측하면, 구름이 긴장해서 당신이 맞다는 것을 증명하기 위해 비를 쏟아붓기 시작합니다. 이것이 바로 **수행적 예측(performative prediction)**이라는 기묘하고 까다로운 세계입니다. 이 과학의 영역에서 예측을 하는 사람은 단순히 영화를 관람하는 것이 아니라, 대본을 직접 쓰고 있습니다.

여기서 핵심 아이디어는 모델(대출이나 직업을 결정하는 컴퓨터 프로그램 같은 것)이 결정을 내릴 때, 판단을 받는 사람들이 그저 가만히 앉아 있지 않는다는 것입니다. 그들은 반응합니다. 그들은 컴퓨터가 원하는 모습으로 보이기 위해 행동을 바꾸거나, 혹은 반대로 바꿀 수도 있습니다. 이는 움직이는 타겟을 만들어냅니다. 만약 컴퓨터가 사람들이 채용되기 위해 이력서를 조작하고 있다는 것을 학습한다면, 컴퓨터는 규칙을 바꿀 것이고, 이는 다시 사람들이 이력서를 바꾸게 만드는 결과를 초래합니다. 이것은 규칙이 계속 변하는 끝없는 "가위바위보" 게임입니다. 과학자들에게 던지는 큰 질문은 이것입니다: 플레이어들이 당신을 앞지르려고 끊임없이 노력할 때, 어떻게 스마트한 시스템을 구축할 것인가?

논문의 핵심 아이디어: 게임의 마음을 읽는 법

"역인과적 수행적 예측에서의 분포 지도 학습(Learning the Distribution Map in Reverse Causal Performative Prediction)"이라는 제목의 이 논문은 바로 그 퍼즐을 다룹니다. 저자인 Daniele Bracale, Subha Maity, Yuekai Sun, 그리고 Moulinath Banerjee는 예측 모델에 대응하여 사람들이 어떻게 행동을 바꾸는지 이해하는 영리한 새로운 방법을 제안합니다. 저자들은 추측하거나 혼란이 가라앉기를 기다리는 대신, 게임이 시작되기도 전에 "플레이어들"이 어떻게 움직일지를 정확하게 지도화(mapping)하는 방법을 제시합니다.

이것은 마치 특정 상대에 맞서 팀이 어떻게 경기를 할지 예측하려는 코치와 같습니다. 보통 코치는 과거의 경기들을 살펴봅니다. 하지만 이 논문에서 저자들은 플레이어들이 단순히 무작와적으로 반응하는 것이 아니라, 숨겨진 "비용-편익(cost-benefit)" 분석을 바탕으로 계산된 움직임을 취한다고 주장합니다. 그들은 다음과 같이 묻습니다: "내가 X를 한다면, 보상을 얻을 수 있을까? X를 하는 데 드는 비용은 얼마인가?" 저자들은 **역인과적 수행적 예측(Reverse Causal Performative Prediction)**이라는 프레임워크를 도입합니다. 일반적인 인과관계 이야기에서는 날씨가 사람들에게 우산을 들게 합니다. 이 "역"의 이야기에서는, 비가 올 것이라는 예측이 사람들에게 우산을 들게 하며, 이는 나중에 모델이 보게 될 데이터를 변화시킵니다.

이 논문의 주요 발견은 수학적 "미시적 기초(microfoundation)" 모델입니다. 이것은 사람들이 왜 그렇게 행동하는지를 설명하기 위해 아주 작고 논리적인 엔진을 구축했다는 것을 의미하는 세련된 표현입니다. 저자들은 모든 사람이 비밀스러운 "비용"(시험 공부를 위한 노력이나 신용 점수를 고치기 위한 돈 등)과 "편익"(직업을 얻는 것 등)을 가지고 있다고 가정합니다. 사람은 자신에게 가장 좋은 거래를 주는 행동을 선택합니다. 반전은 무엇일까요? 논문은 이러한 "비용"이 모두에게 동일하지 않으며, 무작위적이라는 점을 시사합니다. 어떤 사람은 공부하는 것을 쉽게 느끼는 반면, 다른 누군가는 그것을 악몽처럼 느낄 수 있습니다. 저자들은 이러한 비용을 무작위 변수로 처리함으로써, 자신들의 모델이 사람들이 완벽한 전략적 천재가 아니더라도 어떤 패턴의 행동이든 설명할 수 있음을 보여줍니다.

그들은 퍼즐을 어떻게 풀었나

자신의 아이디어가 작동함을 증명하기 위해, 저자들은 단순히 방정식만 쓴 것이 아니라 단계별 레시 Recipe(방법)를 구축했습니다.

미시적 기초: 그들은 사람들이 행복(효용)에서 노력(비용)을 뺀 값을 극대화하기 위해 행동한다는 생각에서 시작합니다. 그들은 "비용"(그날의 피곤함이나 동기 부여 정도와 같은 것)에 약간의 무작위성을 더함으로써, 자신들의 모델이 믿을 수 없을 정도로 유연해진다는 것을 깨달았습니다. 이 모델은 사람들이 매우 전략적이든, 혹은 그저 운이 나쁜 날을 보내는 일반인이든 관계없이 거의 모든 방식의 반응을 설명할 수 있습니다.
학습 알고리즘: 논문은 모든 개인의 비밀스러운 비용을 알 필요 없이 이 숨겨진 지도를 학습하는 방법을 제안합니다. 당신이 학생들에게 시험이 얼마나 어려운지 알아내려는 선생님이라고 상상해 보세요. 당신은 몇 번의 연습 시험(서로 다른 모델들)을 제공하고 얼마나 많은 학생이 합격하거나 낙제하는지 관찰합니다. 저자들은 이러한 반응을 관찰함으로써, 이소토닉 회귀(isotonic regression)(단순히 내려가지 않고 올라가기만 하는 선을 찾는 것)라는 통계적 기법을 사용하여 그 숨겨진 비용의 분포를 추측할 수 있음을 보여줍니다.
"더블링 트릭(Doubling Trick)": 이 학습 과정을 매우 효율적으로 만들기 위해, 그들은 "더블링 트릭"이라는 전략을 사용합니다. 어두운 방에서 잃어버린 열쇠를 찾는 상황을 상상해 보세요. 공간을 아주 천천히 구석구석 확인하는 대신, 작은 지점을 확인한 다음, 확인하는 영역의 크기를 두 배로 키우고, 다시 두 배로 키웁니다. 이를 통해 모델은 불확실성이 가장 높은 곳에 에너지를 집중하며 빠르게 지도를 학습할 수 있습니다. 그들은 이 방법이 데이터를 더 많이 수집할수록 점점 더 좋아지며, 사람들이 어떻게 행동할지에 대한 진정한 지도에 수렴한다는 것을 수학적으로 증명했습니다.

그들이 발견한 것 (그리고 발견하지 못한 것)

저자들은 자신의 이론을 테스트하기 위해 시뮬레이션(컴퓨터 실험)을 실행했습니다. 그들은 자신들의 방법이 사람들이 행동을 어떻게 변화시키는지 추정하는 데 매우 효과적이라는 것을 발견했습니다. 실험에서 "더블링 트릭"을 사용했을 때, 모델은 분포 지도를 매우 빠르게 학습했으며, 오차(추측값과 실제값의 차이)는 데이터를 모을수록 줄어들었습니다.

하지만 그들의 성공에는 몇 가지 경계가 있습니다. 이 논문은 사람들이 취할 수 있는 가능한 행동들이 **유한(finite)**한 상황(예: "지원한다", "지원하지 않는다", "공부한다", "공부하지 않는다"와 같은 몇 가지 선택지 목록)에 초점을 맞추고 있음을 명시합니다. 만약 행동이 무한하다면(예: 0에서 100 사이의 어떤 숫자든 선택하는 경우), 수학적 난이도가 훨씬 높아질 것이며 이는 이 특정 논문의 범위를 벗어난다고 인정합니다. 또한, 그들의 방법이 지도를 학습하는 데는 뛰어나지만, "편익" 부분의 방정식은 학습자(모델 설계자)가 이미 알고 있다고 가정한다는 점도 언급합니다. 만약 학습자가 보상이 무엇인지 모른다면, 방법론을 조정해야 합니다.

결정적으로, 이 논문은 모든 개인에 대한 정확하고 결정론적인 비용을 알 필요가 있다는 생각에 반론을 제p니다. 저자들은 개별 비용 대신 분포(집단의 비용이 형성하는 모양)를 학습함으로써, 사람들이 전혀 전략적으로 행동하지 않는 경우를 포함하여 더 넓은 범위의 인간 행동을 포착할 수 있음을 보여줍니다.

이것이 왜 중요한가

이 논문은 형태가 계속 변하는 영토를 향해 항해사에게 더 정확한 지도를 건네주는 것과 같습니다. 현실 세계에서 이것은 채용 알고리즘부터 대출 승인에 이르기까지 모든 것에 영향을 미칩니다. 만약 은행이 이자율을 설정하기 위해 모델을 사용하는데, 대출자들이 신용 점수를 더 좋게 보이도록 조작하기 시작한다면, 은행의 모델은 쓸모없어집니다. 이 논문의 방법을 사용함으로써, 은행은 대출자들이 속이거나 개선할 가능성이 있는 "분포 지도"를 학습할 수 있고, 그러한 변화에 견고한 모델을 구축할 수 있습니다.

저자들은 이 지도를 학습함으로써 우리가 (모델이 망가질 때마다 끊임없이 재학습해야 하는) 반응적인 세계에서, (반응을 예측하는 모델을 구축하는) 선제적인 세계로 나아갈 수 있다고 결론짓습니다. 그들은 이 접근 방식이 "수행적 위험(performative risk)"이라는 복잡한 문제를 실무자들이 훨씬 다루기 쉽게 만들어준다고 제안합니다. 즉, 혼란스러운 추측 게임을 해결 가능한 수학 문제로 바꾸는 것입니다. 비록 모든 가능한 시나리오(무한한 행동 등)를 해결하지는 못했지만, 그들은 사람들이 예측 모델의 선율에 맞춰 어떻게 춤을 출지 이해하기 위한 견고하고 통계적으로 정당한 토대를 마련했습니다.

기술 요약: 역인과적 수행적 예측에서의 분포 맵 학습 (Learning the Distribution Map in Reverse Causal Performative Prediction)

1. 문제 정의

사회적 컴퓨팅 및 전략적 환경을 포함한 많은 예측 시나리오에서, 예측 모델 $\theta$ 의 배포는 기저의 데이터 분포를 변화시킨다. 에이전트들은 유리한 결과를 얻기 위해 모델에 대응하여 자신의 속성이나 행동을 조정한다(예: 구직자가 이력서를 맞춤화하거나, 대출자가 프로필을 조작하는 경우). **수행적 예측(performative prediction)**이라고 알려진 이 현상은, 배포 전 분포와 배포 후 분포 $D(\theta)$ 가 서로 다른 분포 이동(distribution shift)을 생성한다.

수행적 리스크를 최적화하는 데 있어 핵심적인 장벽은 실무자가 모델 $\theta$ 에 따라 분포가 어떻게 변하는지를 설명하는 분포 맵(distribution map) $D(\theta)$ 에 대한 지식이 부족하다는 점이다. 기존의 접근 방식들은 미분 불가능 최적화(derivative-free optimization)로 취급하거나(느린 수렴 속도와 차원의 저주 문제 발생), 미스스펙화(misspecification)될 가능성이 있는 파라미터 기반의 미시적 기초 모델(microfoundation models)에 의존한다. 본 논문은 모델이 오직 유한한 에이전트의 행동을 통해서만 분포에 영향을 미치는 역인과적(reverse causal) 설정에서 분포 맵 $D(\theta)$ 를 학습하는 과제를 다룬다.

2. 방법론

역인과적 프레임워크 (Reverse Causal Framework)
저자들은 Somerstep 등(2024)의 연구를 바탕으로 수행적 설정을 재구성한다. 저자들은 사후 속성 $(X, Y)$ 와 행동 $A$ 의 분포를 다음과 같이 분해할 수 있다고 가정한다:
$D(\theta) = D_A(\theta) \times D(X, Y | A)$
여기서 $D(X, Y | A)$ 는 행동이 주어졌을 때 공변량과 반응의 조건부 분포이며, 이는 모델 $\theta$ 에 대해 **불변(invariant)**하다고 가정된다. 전체적인 분포 이동은 오직 에이전트들의 행동에 대한 주변 분포인 $D_A(\theta)$ 에 의해서만 발생한다.

무작위 비용을 포함한 미시적 기초 (Microfoundation with Random Costs)
$D_A(\theta)$ 를 학습하기 위해, 본 논문은 Coate-Loury 노동 시장 모델에서 영감을 받은 미시적 기초 프레임워크를 도입한다. 에이전트는 다음의 비용 조정 효용을 최대화하는 행동 $a \in \mathcal{A}$ 를 선택한다:
$A \triangleq \arg \max_{a \in \mathcal{A}} B_a(\theta) - C_a$
여기서 $B_a(\theta)$ 는 모델 $\theta$ 하에서의 알려진 행동 $a$ 의 이득(benefit)이며, $C_a$ 는 해당 행동을 취하는 데 따르는 에이전트의 개별적 선호나 장벽을 나타내는 **무작위 비용(random cost)**이다.

일반성: 결정론적 비용을 가정하여 에이전트가 순수하게 전략적인 행동만을 취하도록 제한하는 표준적인 전략적 예측 모델과 달리, 무작위 비용의 포함은 이 프레임워크가 비전략적 에이전트와 임의의 분포 이동 $D_A(\theta)$ 를 모두 표현할 수 있게 한다(단, 이득 함수가 특정 단조성 조건을 만족한다는 전제하에 Lemma 2.5 참조).
학습 목표: $B_a(\theta)$ 는 이미 알고 있는 값이므로, 문제는 결국 $D_A(\theta)$ 를 결정하는 무작위 비용 $\{C_a\}$ 의 분포를 학습하는 문제로 귀결된다.

비매개변수적 추정 (Algorithm 1)
저자들은 분포 맵을 추정하기 위한 비매개변수적 방법을 제안한다:

데이터 수집: 학습자는 일련의 모델 $\theta_1, \dots, \theta_M$ 을 배포하고 그 결과로 나타나는 에이전트 행동의 비율 $\hat{\pi}(\theta_m)$ 을 관찰한다.
정식화: 에이전트가 행동 $a$ 를 선택할 확률은 알려진 이득에 의해 제약된 비용 차이의 다변량 누적 분포 함수(CDF)로 표현된다.
최적화: 비용의 분포는 **좌표별 단조 형태 제약(isotonic regression)**이 있는 최소 제곱 문제를 해결함으로써 추정된다. 이는 추정된 함수가 유효한 CDF가 되도록 보장한다.
행동 추정: 만약 행동이 직접 관찰되지 않는 경우, 저자들은 관측된 공변량으로부터 행동 비율을 추정하기 위해 모멘트 매칭(moment-matching) 기법(Lipton et al., 2018)을 사용할 것을 제안한다.

최적 실험 설계 (Algorithms 2 & 3)
분포 맵을 효율적으로 학습하고 수행적 리스크를 최소화하기 위해, 본 논문은 **더블링 트릭(doubling trick)**을 사용하는 순차적 설계 알고리즘을 제안한다:

설계 밀도(Design Density): 알고-리즘은 추정 오차(노이즈)가 가장 높은 영역에 집중하도록 배포되는 모델의 분포(설계 밀도)를 반복적으로 업데이트한다.
탐색 vs 활용 (Exploration vs. Exploitation): 과정은 에피소드로 나뉜다. 각 에피소드 내에서 일부는 탐색(분포 맵 추정치를 정교화하기 위해 모델을 샘플링함)에 할애되고, 나머지는 활용(추정된 수행적 리스크를 최소화하는 모델을 배포함)에 할애된다.
후회 최소화 (Regret Minimization): 알고리즘은 탐색 및 활용 단계의 길이를 조절하여, 배포된 모델의 리스크와 최적의 수행적 리스크 사이의 누적 차이인 총 후회(total regret)를 최소화한다.

3. 주요 기여

미시적 기초 프레임워크: 본 논문은 무작위 비용을 가진 미시적 기초 모델을 도입하였으며, 이는 역인과적 설정에서 모든 분포 이동을 복구할 수 있을 만큼 일반적이며, 전략적 에이전트와 비전략적 에이전트를 모두 수용할 수 있다.
비매개변수적 추정: 저자들은 에이전트 행동의 특정 파라미터 형태를 가정하지 않고도 분포 맵 $D_A(\theta)$ 를 학습할 수 있는 통계적으로 정당화된 비매개변수적 방법(단조 회귀를 통한)을 제공한다.
순차적 최적 설계: 저자들은 더블링 트릭을 기반으로 모델을 적응적으로 선택하는 순차적 설계 알고즘을 개발하였다. 이 알고리즘은 추정된 설계 밀도의 상대적 효율성 손실을 최소화하며 특정 후회 경계(regret bound)를 달성한다.
수렴 보장: 본 논문은 추정된 분포 맵과 수행적 리스크에 대한 이론적 수렴 속도를 확립한다. 특히, 후회 경계는 $\tilde{O}(M^{\frac{2\beta+1}{3\beta+1}})$ 로 나타나는데, 여기서 $\beta$ 는 분포 맵의 매끄러움(smoothness) 파라미터이다. 이 경계는 모델 파라미터 $\theta$ 의 차원과는 독립적이어서, 차원이 커짐에 따라 성능이 저하되는 기존 방법론들에 비해 이점을 가진다.

4. 결과

이론적 결과:
- 균등 수렴(Uniform Convergence): Hölder 매끄러움과 정규 설계점 가정 하에, 추정된 CDF는 실제 CDF로 $O((\log n / n)^{\alpha/(2\alpha+1)})$ 의 속도로 균등하게 수렴한다.
- 후회 경계(Regret Bounds): 순차적 알고리즘은 $\tilde{O}(M^{1/(1+\eta)})$ 의 총 후회를 달성하며, 여기서 $\eta$ 는 분포 맵 추정기의 수렴 속도에 의존한다. Isotonic regression의 경우( $\eta=1/3$ ), 후회는 $O(M^{3/4})$ 이다.
- 비교: 제안된 후회 경계는 $\theta$ 의 차원이 높을 때 기존 경계(예: Jagadeesan et al., 2022)보다 낮은 차수의 오더를 갖는다. 이는 분포 이동이 $\theta$ 를 통해서만 일차원적인 이득 함수에 의존하기 때문이다.
수치 실험:
- 저자들은 Coate-Loury 노동 시장 모델을 베이스라인으로 사용하여 접근 방식을 검증하였다.
- 시뮬레이션 결과, 추정된 분포 맵(Isotonic regression 또는 monotone quadratic splines 사용)이 실제 분포로 수렴함을 보여준다.
- 순차적 설계 알고리즘은 설계 밀도의 상대적 효율성을 0(최적)으로 성공적으로 유도하며, 비적응적 전략에 비해 수행적 리스크를 효과적으로 최소화한다.

5. 의의 및 주장

본 논문은 자신의 주요 의의가 수행적 리스크 최소화를 실무자들이 더 쉽게 접근할 수 있도록 만드는 것에 있다고 주장한다. 에이전트의 반응 데이터를 통해 분포 맵을 비매개변수적으로 학습하는 프레임워크를 제공함으로써, 이 방법은 이론적인 수행적 예측과 분포 이동을 알 수 없는 실제 적용 사이의 간극을 메운다.

저자들은 자신들의 역인과적 프레임워크가 현재 유한한 행동 공간에 집중되어 있지만, 향후 작업에서 (생성 모델 등을 통해) 임의의 행동 공간으로 확장 가능한 유연한 구조를 가지고 있음을 강조한다. 또한, 이 접근 방식이 기존 문헌에 대한 보완책임을 명시한다. 즉, 미분 불가능 최적화의 느린 수렴 속도를 피하면서도, 경직된 파라미터 기반 미시적 기초 모델에 내재된 미스스펙화의 위험을 완화한다. 이 연구는 "분포 맵"을 이해하고 학습하는 것이 전략적 환경에서의 강건한 의사결정을 향한 중요한 단계임을 시사한다.