What is the Causal Effect of a Conversation? Estimands and Inference in AI Mediated Conversations

기술적 요약: AI 매개 대화에서의 추정량과 추론

문제 정의
정치학자들은 인간 활동가부터 생성형 인공지능(AI)에 이르기까지, 대화를 인과적 처치(causal treatments)로 활용하는 사례를 점점 더 많이 활용하고 있다. 대화의 상호작용적이고 반응적인 특성은 높은 생태적 타당성(특히 AI의 경우)과 확장성을 제공하지만, 인과 추론에 있어 근본적인 과제를 도입한다. 정적인 개입(예: 리플릿이나 고정된 텍스트)과 달리, 대화는 응답자와 대화 상대자(interlocutor)에 의해 **공동 생산(jointly produced)**된다. 결과적으로, 실현된 대화(realized conversation)는 응답자의 특성(예: 적대감, 호기심 또는 저항)에 내생적(endogenous)이다.

핵심 문제는, 대화 조건(예: "정중한" 대 "무례한" AI 정책)에 대한 무작위 할당이 '할당'의 효과는 식별할 수 있지만, '실현된 대화'나 그 내부의 특정 특징(예: 무례함의 수준)의 효과를 반드시 식별하는 것은 아니라는 점이다. 대화는 응답자의 입력에 따라 동적으로 전개되기 때문에, 실현된 처치의 변이는 응답자의 특성(결과에도 영향을 미치는 특성)과 체계적으로 연관되어 있다. 이는 표준적인 무작위 설계로는 해결할 수 없는 혼란(confounding)을 야기한다. 본 논문은 "대화"를 하나의 단일한 처치로 취급하는 것이 서로 다른 이론적 대상(할당, 정책, 메시지, 특징)을 모호하게 만들며, 이들은 서로 다른 인과적 정의와 식별 전략을 필요로 한다고 주장한다.

방법론 및 프레임워크
저자들은 순차적이고 상호작용적인 과정을 위해 조정된 **잠재적 결과 프레임워크(potential outcomes framework)**를 개발하였다. 이들은 대화를 다음과 같은 요소들을 포함하는 경로 의존적 과정으로 공식화한다:

• 할당 ($Z_i$): 무작위화된 조건 (예: 프롬프트 또는 정책).
• 정책 ($\pi$): 이력(history)에 대한 대화 상대자의 반응을 규정하는 규칙.
• 이력 ($H_{it}$): 이전 메시지들의 순서.
• 실현된 대화 ($C_i$): 정책, 이력, 그리고 응답자의 행동($R_i$)의 상호작용에 의해 생성된 메시지들의 전체 경로.
• 특징 ($D_i, B_i$): 대화의 측정된 특징 및 측정되지 않은 잠재적 특징 (예: 어조, 정중함).

프레임워크는 설계에 의해 유도된 개입(design-induced intervention)(무작위화되는 것)과 실현된 노출(realized exposure)(응답자가 실제로 경험하는 것)을 구분한다. 저자들은 방향성 비순환 그래프(DAGs)를 활용하여 응답자의 특성($U_i$)이 어떻게 대화 경로와 결과 모두에 영향을 미쳐, 무작위 할당 하에서도 내생성을 생성하는지 보여준다.

본 논문은 각기 다른 이론적 대상에 대응하며 서로 다른 식별 가정을 요구하는 **인과적 추정량(causal estimands)**의 분류 체계를 정의한다:

1. 할당 효과 ($\tau_Z$): 특정 조건에 할당된 것에 대한 의도-치료(Intent-to-Treat, ITT) 효과. 표준 무작위 할당 가정(일관성, 간섭 없음, 무관성, 양의성) 하에서 식별된다.
2. 첫 메시지 효과 ($\tau_{A0}$): 초기 메시지의 효과. 메시지가 직접 무작위화된다면 식별 가능하지만, 메시지가 잠재적 특징의 대리 변수(proxy)인 경우 흔히 혼란이 발생한다.
3. 정책 효과 ($\tau_\pi$): 특정 대화 체제를 적용하는 것의 효과. 정책의 무작위화를 가정할 때 식별 가능하며, 안정적인 구현을 전제로 한다. 그러나 이는 다양한 대화 궤적을 평균한 집합적 효과이다.
4. 메시지 효과 ($\tau_{A_t}$): 이력을 조건으로 하는 특정 메시지의 효과. 이를 위해서는 순차적 무관성(Sequential Ignorability)(다음 메시지가 이력을 조건으로 할 때 마치 무작위인 것과 같아야 함)이 필요하다. 저자들은 이력이 응답자의 특성에 의해 내생적이므로 이 가정이 흔히 위배된다고 주장한다.
5. 특징 효과 ($\tau_D$): 잠재적 특징(예: 무례함)의 효과. 해당 특징의 변이가 다른 측정되지 않은 메시지 구성 요소들과 분리되어야 한다(번들링 편향).
6. 실현된 대화 효과 ($\tau_C$): 전체 경로의 효과. 이를 위해서는 **대화 무관성(Conversation Ignorability)**이 필요하며, 이는 일반적으로 검증 불가능하고 성립하기 어렵다(대화는 공동 생성되기 때문).
7. 용량 효과 ($\tau_E$): 특정 특징에 대한 누적 노출의 효과. 특징 수준의 혼란을 그대로 상속받는다.

주요 결과 및 명제
논문은 대화 환경에서의 식별 한계를 공식화하는 몇 가지 명제를 제시한다:

• 명제 1 (선택 편향): 서로 다른 메시지 간의 결과를 비교하는 것은 메시지 효과를 고립시키는 데 실패한다. 왜냐하면 메시지는 서로 다른 이력에 의해 생성되며, 이 이력은 관찰되지 않은 응답자의 특성($U_i$)에 의해 구동되기 때문이다.
• 명제 2 (특징 번들링 편향): 관심 있는 특정 특징(예: 어조)의 변이는 일반적으로 메시지의 다른 측정되지 않은 측면들과 묶여(bundled) 있다. 메시지를 무작위화하더라도 특징 효과를 고립시킬 수 없다.
• 명제 3 (경로의 내생성): 실현된 대화는 처치인 동시에 응답자 특성의 지표이다. 실현된 경로를 비교하는 것은 처치 효과와 응답자 이질성을 혼동시킨다.
• 명제 4 (용량의 상속): 특징을 용량(dosage) 측정치로 집계하는 것은 기초적인 특징 수준에 존재하는 혼란을 해결하지 못한다.

연구 설계에 대한 시사점
저자들은 연구 목표에 추정량을 일치시키기 위한 몇 가지 설계 전략을 제안한다:

• 추정량과 설계를 일치시키기: 연구자는 자신이 할당, 정책, 또는 특정 특징 중 무엇에 관심이 있는지 명확히 정의하고, 그에 따라 무작위화를 설계해야 한다.
• 턴 단위 무작위화(Turn-Level Randomization): 전체 조건을 무작위화하는 대신, 특정 턴에서 특정 메시지를 무작위화한다(이력을 조건으로 함). 이는 특정 대화 상태에 대한 국소적 평균 처치 효과(LATE)를 생성하여 내생성을 줄인다.
• 조건부 평균 처치 효과 (CATE): 고차원의 전체 이력 대신 이력의 표현(예: "정중한" 대 "적대적인" 맥락)을 조건으로 함으로써, 메시지 효과가 맥락에 따라 어떻게 변하는지 추정할 수 있다.
• 평균 한계 구성 요소 효과 (AMCE): 관찰된 대화 맥락의 분포 전체에 걸쳐 CATE를 집계하여 평균적인 메시지 효과를 요약한다.
• 도구 변수 (LATE): 실현된 노출을 직접 조작할 수 없을 때, 할당은 실현된 특징에 대한 도구 변수 역할을 하여 "순응자(compliers)"(할당에 의해 대화가 변화된 사람들)에 대한 국소적 평균 처치 효과를 식별한다.
• 제약된 프로토콜 (Constrained Protocols): 비교를 위한 경험적 지지력을 높이기 위해 메시지 공간을 제한한다(예: 다지선다형 응답). 다만, 이는 생태적 타당성을 희생할 수 있다.

의의 및 주장
본 논문은 특히 AI가 매개하는 대화 환경에서 인과적 효과를 정의하고 해석하기 위한 공통 언어를 제공한다고 주장한다. 주요 기여는 연구자들에게 ITT와 같이 쉽게 식별 가능한 추정량만을 사용하라고 권고하는 것이 아니라, "설득"이나 "숙의"와 같은 복잡하고 이론적으로 풍부한 대상을 연구할 때 발생하는 **트레이드오프(trade-offs)**를 명확히 하는 데 있다.

저자들은 할당된 것과 경험된 것 사이의 간극이 단순한 방법론적 실패가 아니라 사회적 상호작용의 근본적인 특징이라고 주장한다. 할당에서 실현된 특징으로 넘어가기 위해 필요한 가정들을 명시함으로써, 이 프레임워크는 학자들이 다음을 수행할 수 있도록 돕는다:

1. 경험적 전략을 이론적 목표와 더 잘 일치시킨다.
2. 혼란에 대해 적절한 주의를 기울이며 연구 결과를 해석한다.
3. 특정 인과적 대상을 목표로 하기 위해 연구 설계(예: 순차적 무작위화)를 혁신한다.

결론적으로, 대화는 적응적이고 공동 생산된다는 점에서 강력하지만, 바로 이러한 특징들이 인과적 효과를 정의하고 식별하는 것을 더 어렵게 만든다. 이 프레임워크는 이러한 복잡성을 제거하기보다는 이를 탐색하기 위한 도구로서 기능한다.