Three-in-One World Model: Energy-Based Consistency, Prediction, and Counterfactual Inference for Marketing Intervention

기술 요약: 마케팅 개입을 위한 삼중 일체형 세계 모델

1. 문제 제기

마케팅 의사결정은 잠재적 소비자 이질성, 시간에 따라 변하는 내부 상태, 그리고 명시적 개입 간의 복잡한 상호작용을 수반합니다. 현재 예측 중심 모델 (예: 표준 MLP) 과 언어 중심 모델 (예: LLM) 은 이러한 구조를 통합된 방식으로 포착하지 못합니다. 구체적으로:

• LLM 은 다음 토큰 예측에 의존하며, 인과적 추론이나 내부 세계 표현을 위한 명시적 메커니즘이 부족합니다.
• 기존 마케팅 세계 모델 (예: DBM 기반 접근법) 은 정적 공존에 국한되어 시간적 역동성을 모델링하거나 시간적 궤적의 일관성을 평가하지 못했습니다.
• 인과 추론 방법 (예: S-, T-, X-, DR-러너, 인과 숲) 은 치료 할당이 잠재적 소비자 특성과 혼동될 때 이질적 치료 효과 (CATE) 를 회복하는 데 종종 어려움을 겪습니다. 이는 일반적으로 치료 효과를 분리하기 위해 반사실적 대비를 사용하는 대신 결과를 추정하기 때문입니다.

본 논문은 잠재적 특성을 분리해 낼 수 있는 단일 아키텍처 내에서 일관성 평가, 결과 예측, 반사실적 추론을 지원하는 통합 프레임워크의 필요성을 다룹니다.

2. 방법론

저자들은 경량화된 작업별 어댑터와 결합된 **심볼츠 머신 (DBM)**을 기반으로 한 삼중 일체형 세계 모델 아키텍처를 제안합니다.

아키텍처 구성 요소:

• 세계 모델 (동결된 DBM): 64–32–16 개의 적층된 은닉 계층을 가진 베르누이–베르누이 DBM 이 핵심으로 작용합니다.
  • 가시 계층: 정적 인구통계학적 데이터, 캘린더 기능, 그리고 지연된 시간 변화 상태 (최근 방문/구매 시점, 누적 횟수) 와 지연된 행동/결과 (지난 4 기간) 를 포함합니다. 결정적으로, 현재 기간 행동 벡터는 가시 계층에서 제외됩니다.
  • 학습: DBM 은 두 단계로 학습됩니다: RBM 의 탐욕적 계층별 사전 학습을 followed by 지속적 대비 발산 (persistent contrastive divergence) 을 이용한 공동 미세 조정.
  • 신념 표현: 학습 후 DBM 은 동결됩니다. "신념" 벡터는 모든 은닉 계층의 평균장 활성화 값을 연결하여 형성됩니다. 이 표현은 현재 개입과 무관한 소비자의 상태를 포착합니다.
• 작업별 어댑터: 경량 MLP 가 동결된 신념 위에 학습됩니다.
  • 입력: 동결된 신념 벡터와 현재 기간 행동 벡터의 연결.
  • 기능: 이러한 어댑터는 상태 - 행동 쌍을 하류 결과 (예: 방문 또는 구매 확률) 로 매핑합니다.

세 가지 통합 작업:

1. 에너지 기반 일관성 평가: DBM 의 자유 에너지 ($F(v)$) 는 입력 궤적의 타당성을 점수화합니다. 낮은 에너지는 인구통계, 역사, 행동의 타당한 구성을 나타내고, 높은 에너지는 비현실적인 시나리오를 경고합니다.
2. 결과 예측: 어댑터는 신념 상태와 현재 행동을 기반으로 결과 (방문/구매) 를 예측합니다.
3. 반사실적 추론: 조건부 평균 치료 효과 (CATE) 를 추정하기 위해, 소비자의 상태를 나타내는 신념 벡터는 고정된 채로 유지되고, 어댑터에 입력되는 현재 행동은 전환됩니다 (예: 0 에서 1 로). 예측 결과의 차이는 개인 수준의 치료 효과 추정을 산출합니다.

3. 실험 설정

모델은 실제 지상 진리 잠재적 특성이 알려진 제어된 시뮬레이션을 사용하여 평가되었습니다:

• 데이터: 365 일 동안의 1,024 명의 합성 소비자.
• 잠재 매개변수: 각 소비자는 알려진 가격 민감도 ($\alpha$), 프로모션 반응성 ($\gamma$), 그리고 기본 선호도 ($\beta$) 를 가졌습니다.
• 혼란: $\alpha$와 $\beta$는 소득/연령을 통해 음의 혼란을 겪었고, $\gamma$와 $\beta$는 충성도를 통해 양의 혼란을 겪었습니다.
• 베이스라인: 제안된 "신념 어댑터"는 다음들과 비교되었습니다:
  • 원시 기능에 종단간 학습된 강력한 MLP 베이스라인.
  • 메타러너: S-, T-, X-, DR-러너.
  • 인과 숲.

4. 주요 결과

A. 에너지 기반 일관성

• DBM 은 소비자의 역사를 고려할 때 비현실적인 반사실적 궤적을 성공적으로 패널티화했습니다. 구체적으로, "최근 프로모션 노출 없이 구매"를 보여주는 궤적을 고정 (clamp) 한 경우, 관찰된 궤적에 비해 자유 에너지가 유의미하게 높아져 (낮은 타당성) 비현실적인 시나리오로 판별되었습니다.
• 패널티 ($\Delta F$) 는 이질적이었습니다: 높은 잠재적 기본 선호도 ($\beta$) 를 가진 소비자는 낮은 $\beta$를 가진 소비자보다 더 작은 패널티를 받았으며, 이는 에너지 지형이 인구통계에서 학습된 잠재적 특성을 반영함을 보여줍니다.

B. 예측 성능

• "신념 어댑터"는 방문 및 구매 예측에서 종단간 MLP 베이스라인과 동등한 성능을 보였습니다 (AUC 차이는 $\pm 0.001$ 이내). 이는 DBM 의 차원 축소가 예측 능력을 희생하지 않았음을 확인시켜 줍니다.

C. CATE 회복 (반사실적 추론)

• 혼란되지 않은 개입 (푸시 $\to$ 방문): 신념 어댑터는 추정된 CATE 와 실제 프로모션 반응성 ($\gamma$) 간의 가장 높은 스피어만 순위 상관관계 ($\rho = 0.625$) 를 달성하여, 최상의 메타러너 베이스라인 ($\rho = 0.579$) 을 능가했습니다.
• 혼란된 개입 (세일 $\to$ 구매): 여기서 우위가 가장 두드러졌습니다. 신념 어댑터는 $\rho = 0.548$로 실제 가격 민감도 ($\alpha$) 를 회복했습니다. 반면, 표준 베이스라인은 크게 어려움을 겪었습니다:
  • T-러너: $\rho = 0.161$
  • 인과 숲: $\rho = 0.040$
  • X-러너: $\rho = 0.123$
  • DR-러너: $\rho = -0.016$
• 어댑터는 또한 혼란 매개변수 ($\beta$) 와 예상된 음의 상관관계를 보였으며, 이는 단축 경로가 아닌 올바른 잠재 신호에 의존했음을 시사합니다.

5. 의의 및 주장

본 논문은 제안된 아키텍처가 기존 접근법의 특정 한계를 극복하는 마케팅 개입을 위한 통합 기질을 제공한다고 주장합니다:

• 분리: DBM 신념 표현은 가격 민감도, 프로모션 반응성, 기본 선호도와 같은 잠재적 특성을 반사실적 쿼리에 견딜 수 있는 형태로 성공적으로 분리합니다.
• 모듈성: 세계 모델을 동결하고 경량 어댑터만 학습함으로써, 새로운 작업을 추가할 때 파국적 망각을 피합니다.
• 인과적 견고성: 원시 기능에서 작동하는 표준 메타러너와 달리, "동결된 신념 + 변화하는 행동" 메커니즘은 특히 혼란된 치료 할당이 있는 시나리오에서 이질적 인과 효과를 더 충실하게 회복할 수 있게 합니다.
• 시간적 일관성: 이전 정적 DBM 적용과 달리, 이 모델은 정적 공존뿐만 아니라 시간적으로 확장된 궤적의 일관성을 평가합니다.

저자가 인정한 한계:

• 결과는 단일 시뮬레이션 시드와 데이터 생성 과정에 기반하므로, 분산을 특성화하기 위해 재현이 필요합니다.
• 에너지 기반 분석은 단일 반사실적 고정 구성을 검토했습니다.
• 연구는 단일 제품 카테고리 및 이진 결과로 제한되며, 연속 결과 및 실제 A/B 테스트 데이터로의 확장은 향후 과제로 남습니다.
• 본 논문은 최적 정책 학습 (컨트롤러와의 루프 닫기) 을 해결한다고 주장하지는 않지만, 이를 필수적인 다음 단계로 식별합니다.