🤖 machine learning

From Prediction to Incrementality: Causal Optimization for Large-Scale Targeting and Recommendation

본 논문은 대규모 추천 시스템을 위해 전통적인 예측 기반 타겟팅을 인과적 최적화로 대체하는 의사결정 중심 프레임워크를 제시하며, 이는 인과 신경망, 베이지안 탐색, 그리고 제약 조건이 있는 할당을 통합하여 LinkedIn의 온라인 A/B 테스트에서 장기 가치에 대한 통계적으로 유의미한 7.20%의 리프트를 달성하였다.

원저자: Changshuai Wei, John Bencina, Phuc Nguyen, Andre Assuncao Silva T Ribeiro, Benjamin Zelditch

게시일 2026-08-12

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Changshuai Wei, John Bencina, Phuc Nguyen, Andre Assuncao Silva T Ribeiro, Benjamin Zelditch

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 거대한 크루즈선의 선장이고, 당신의 임무가 승객들에게 무료 아이스크림을 나누어 주는 것이라고 상상해 보십시오. 예전 방식대로라면, 당신은 보통 아이스크림을 먹는 사람들의 명단을 보고 그들에게 아이스크림을 나누어 주었을 것입니다. 하지만 여기 함정이 있습니다. 그들 중 일부는 당신이 아이스크림을 주지 않았더라도 어차피 아이스크림을 먹었을 사람들입니다. 당신은 넛지(자극)가 필요 없는 사람들에게 스쿱을 낭비했고, 간식을 받을지 말지 고민하던 승객들은 아무것도 받지 못했습니다. 이것이 바로 "예측(prediction)"과 "증분성(incrementality)"의 문제입니다. 예측은 "누가 아이스크림을 먹을 것인가?"를 묻는 반 것이며, 증분성은 "내가 아이스크림을 주었기 때문에 비로소 먹게 될 사람은 누구인가?"를 묻는 것입니다.

이 논문은 단순히 패턴을 포착하는 것을 넘어 인과관계(cause-and-effect)를 밝혀내려는 인공지능의 한 분야인 **인과적 머신러닝(Causal Machine Learning)**의 세계를 깊이 있게 다룹니다. 이는 마치 "화요일에는 보통 비가 온다"라고 말하는 기상 예보관에서, "구름 씨 뿌리기 로켓을 발사하면 실제로 비를 내리게 할 수 있다"라고 증명할 수 있는 과학자로 진화하는 것과 같습니다. 저자들은 링크드인(LinkedIn)과 같은 거대 온라인 플랫폼에서 마케팅 메시지, 채용 광고 또는 알림을 누구에게 보여줄지 결정하기 위해 사용하는 시스템에 대해 연구하고 있습니다. 핵심 질문은 이렇습니다. 어떻게 하면 광고를 클릭할 사람들이 이미 클릭할 것이라는 점에 돈을 낭비하지 않고, 대신 행동을 취하도록 하는 데 정말로 추가적인 자극이 필요한 사람들에게 한정된 예산을 집중할 수 있을까요?

연구진은 이 퍼즐을 해결하기 위해 더 똑똑한 새로운 시스템을 구축했습니다. 그들은 이를 "의사결정 중심 프레임워크(decision-centric framework)"라고 부르는데, 이는 단순히 누가 클릭할지 추측하는 것을 넘어 수학적으로 누가 메시지에 의해 '변화될 것인지'를 계산하기 시작했다는 뜻입니다. 그들의 시스템은 꿈의 팀처럼 조화롭게 작동하는 세 가지 주요 부분으로 구성되어 있습니다. 첫째, "트랜스포머(Transformer, 많은 현대적 AI 도구의 두뇌 역할을 하는 기술)"를 기반으로 한 "인과적 신경망(causal neural network)"이 탐정 역할을 합니다. 이 탐정은 사용자의 이력을 살펴보고 "처치 효과(treatment effect)"를 추정합니다. 즉, 특정 광고를 보았기 때문에 제품을 구매하거나 직업에 지원할 가능성이 얼마나 높아졌는지를 계산합니다.

둘째, 시스템에는 "탐험가(neural bandit)" 레이어가 포함되어 있습니다. 이것은 호기심 많은 탐험가와 같습니다. 과거의 AI 시스템은 종-종 자신이 이미 클릭할 것이라고 확신하는 사람들에게만 광고를 보여주는 루프에 갇혀, 새로운 기회를 놓치곤 했습니다. 이 탐험가 부분은 새로운 것을 시도하기 위해 작은 위험을 감수하며, 아직 테스트되지 않은 잠재 고객을 놓치지 않도록 보장합니다. 이 시스템은 "라플라스 근사(Laplace approximation)"라는 영리한 수학적 기법을 사용하여 자신의 예측에 대해 얼마나 불확실한지를 추측함으로써 안전하게 탐색합니다.

셋째, 아마도 가장 중요한 부분인 "대규모 선형 계획법(large-scale linear programming)" 레이어입니다. 이것은 엄격하지만 공정한 관리자입니다. 탐정이 완벽한 후보를 찾아내고 탐험가가 새로운 전략을 시도하고 싶어 하더라도, 관리자는 규칙을 어기지 않도록 해야 합니다. 회사는 한정된 예산을 가지고 있고, 한 사람에게 이메일을 보내는 횟수 제한이 있으며, 다양한 유형의 사람들에게 공정하게 도달해야 합니다. 이 레이어는 이러한 제약 조건 내에서 광고를 완벽하게 배분하기 위해 거대한 수학적 퍼즐을 풉니다. 이를 통해 돈이 낭비되지 않고 누구도 불공평하게 소외되지 않도록 보장합니다.

이 시스템이 실제로 작동하는지 테스트하기 위해, 팀은 시뮬레이션을 실행한 후 링크드인의 마케팅 트래픽에 실제 실험을 진행했습니다. 시뮬레이션에서 그들은 단순히 누가 클릭할지를 예측하는 기존 방식과 새로운 "인과적" 방식을 비교했습니다. 결과는 명확했습니다. 새로운 시스템은 더 가치 있는 타겟을 찾아냈고, 동일한 결과를 얻기 위해 더 적은 비용을 썼습니다. 하지만 진짜 마법은 라이브 테스트에서 일어났습니다. 새로운 시스템을 기존 표준 시스템과 함께 8주 동안 실행했을 때, 이 시스템은 주요 장기 가치 지표에서 **통계적으로 유의미한 +7.20%의 리프트(lift)**를 달야냈습니다. 이는 회사가 더 많은 돈을 쓰지 않고도 마케팅 예산으로부터 눈에 띄게 더 많은 가치를 창출했음을 의미합니다.

또한, 이 논문은 이를 현실 세계에서 구축하며 얻은 실질적인 교훈들을 강조합니다. 그들은 단순히 똑똑한 모델을 갖는 것만으로는 충분하지 않으며, 데이터를 준비하는 방식과 광고가 실제로 전달되는 방식을 제어하는 데 매우 주의를 기울여야 한다는 것을 발견했습니다. 예를 들어, 만약 새로운 시스템이 (어떤 사람이 마음을 바꾸지 않을 것이라고 판단하여) 광고를 보여주지 않기로 결정했는데, 기존 시스템은 광고를 보여주었다면, 사과와 오렌지를 비교하는 것(서로 다른 대상을 비교하는 오류)과 같은 상황이 발생하지 않도록 해야 합니다. 그들은 테스트 그룹들이 완벽하게 일치하여 결과가 공정하도록 특별한 도구들을 구축했습니다.

요약하자면, 이 논문은 초점을 "누가 행동할 것인가?"에서 "우리 때문에 행동할 것인가?"로 전환함으로써, 그리고 똑똑한 AI와 엄격한 예산 관리를 결합함으로써 기업이 마케팅을 훨씬 더 효과적으로 만들 수 있음을 보여줍니다. 이것은 단순히 모두에게 더 크게 소리치는 것이 아니라, 적절한 메시지를 적절한 사람에게 적절한 시간에 속삭여 자원을 절약하고 모두에게 더 많은 가치를 창출하는 일입니다.

기술 요약: 예측에서 증분성으로: 대규모 타겟팅 및 추천을 위한 인과적 최적화

1. 문제 정의

현대적인 온라인 플랫폼(예: 광고, 마케팅, 알림)의 대규모 타겟팅 및 추천 시스템은 전통적으로 **예측 모델링(predictive modeling)**에 의존합니다. 이러한 시스템은 사용자 반응 확률(예: 클릭률 또는 전환 가능성)을 추정하고, 이 예측치를 기반으로 아이템의 순위를 매기도록 학습됩니다.

그러나 저자들은 이러한 패러다임이 마케팅 및 인센티브 기반 환경에서의 비즈니스 목표와 근본적으로 어긋나 있다고 주장합니다. 즉, 목표는 증분적 영향력(incremental impact)(예: "이 사용자가 개입 때문에 전환할 것인가, 아니면 개입이 없어도 어차피 전환했을 것인가?")이어야 합니다.

불일치(The Misalignment): 높은 예측 반응도가 반드시 높은 인과적 가치를 의미하는 것은 아닙니다. 개입과 상관없이 행동할 사용자들("always-takers")은 체계적으로 과잉 타겟팅되어 자원을 낭비하게 됩니다.
격차(The Gap): 기존의 인과적 접근 방식은 주로 로컬 의사결정(순위 매기기)이나 정책 평가에 집중하며, 글로벌 제약 조건(예산, 빈도 제한, 공정성)을 다루지 못합니다. 반대로, 제약 최적화 시스템은 일반적으로 비인과적 예측 점수를 입력값으로 사용하며, 이는 자원 배분의 최적화를 저해합니다.

2. 방법론

본 논문은 글로벌 제약 조건 하에서 인과 효과를 공동으로 최적화하는 **의사결정 중심 프레임워크(decision-centric framework)**를 제안합니다. 이 시스템은 세 가지 핵심 구성 요소를 하나의 목적 함수 아래 통합합니다.

A. 인과 신경망 (The "DragonBandit" Head)

시스템은 변형된 DragonNet 아키텍처를 사용하여 개인별 처치 효과(ITE, Individual Treatment Effects)를 추정합니다.

아키텍처: 공유 인코더 $\Phi$ 가 세 개의 헤드로 연결됩니다: 처치(treatment) 하의 잠재적 결과( $\mu_1$ ), 통제(control) 하의 잠재적 결과( $\mu_0$ ), 그리고 처치 할당 확률( $e$ )을 위한 프로펜시티(propensity) 헤드입니다.
트랜스포머 백본(Transformer Backbone): 사용자의 순차적 마케팅 접점(marketing touchpoints)을 처리하기 위해 트랜스포머 인코더를 통합합니다. 이는 학습된 임베딩(상호작용 유형, 요일, 사인 함수 기반 위치 인코딩 등)을 사용하여 시계열적 특징(최신성, 참여 리듬)을 처리합니다.
멀티-아웃컴 확장(Multi-Outcome Extension): 재학습 없이 여러 제품을 지원하기 위해 **결과 임베딩(outcome embeddings)**을 사용합니다. 공유 임베딩 행렬은 제품 속성(구조화된 데이터 또는 LLM 유도 속성)을 인코딩하며, 이를 통해 모델은 사용자의 상태 표현과 내적(dot-product) 유사도를 계산하여 본 적 없는 새로운 제품에 대해서도 점수를 매길 수 있습니다.
학습 목적 함수: 모델은 결과 예측(BCE), 프로펜시티 예측, ATE(평균 처치 효과)를 위한 효율적 영향 함수(EIF) 기반의 타겟팅 정규화, 그리고 결과 임베딩을 위한 오토인코더 재구성 손실을 포함한 복합 손실을 최소화합니다.

B. 불확실성을 고려한 탐색 (Neural Bandit)

피드백 루프를 해결하고 인과적 식별(overlap)을 개선하기 위해, 시스템은 **뉴럴 톰슨 샘플링(Neural Thompson Sampling)**을 채택합니다.

메커니즘: 결정론적인 점 추정치 대신, 시스템은 네트워크 파라미터의 사후 분포(posterior distribution)에서 샘플링합니다.
근사화: 최대 사후 확률(MAP) 솔루션에 중심을 둔 **선형화된 라플라스 근사(Linearized Laplace Approximation, LLA)**를 사용합니다. 이는 로그-가능도(log-likelihood)의 곡률을 계산하여 로짓(logits)에 대한 가우시안 분포를 도출함으로써, 'Bayes by Backprop'와 같은 방식에 비해 서빙 오버헤드를 최소화하면서도 불확실성을 고려한 탐색을 가능하게 합니다.
역할: 이는 시스템이 불확실성이 높은 행동을 탐색하도록 보장하여, "부익부 빈익빈(rich-get-richer)" 역동성을 방지하고 향후 인과적 추정을 위한 데이터 품질을 향상시킵니다.

C. 제약 조건이 있는 할당 (Large-Scale Linear Programming)

샘플링된 증분 점수는 수백만 명의 사용자와 아이템 간의 의사결정을 조정하기 위해 듀얼 기반 대규모 선형 계획법(LP) 솔버로 전달됩니다.

정식화: 이 문제는 글로벌 제약 조건(예산, 볼륨 캡, 빈도 제한)을 준수하면서 샘플링된 증분 보상의 합을 최대화합니다.
확장성: 수천만 개의 변수를 처리하기 위해 저자들은 **듀얼 분해법(Dual Decomposition)**을 사용합니다. 이들은 이진 제약 조건을 확률로 완화하고, 네스테로프 가속 상승법(Nesterov-accelerated ascent)을 사용하여 듀얼 문제를 해결합니다. 프라이멀 최소화(primal minimizer)는 사용자별로 분해되므로, 반복당 비용은 사용자 및 아이템 수에 대해 세제곱( $O(|U| \cdot |I|)$ )이 아닌 선형적으로 발생합니다.
전달 제어(Delivery Control): 피드싱 컨트롤러(feedback controller)는 실제 전달율(예: 경매 낙찰, 사용자 복귀율)에 따라 비용 목표를 조정하여, 시스템이 과잉 또는 과소 전달 없이 페이싱(pacing) 요구 사항을 충족하도록 보장합니다.

3. 주요 기여

통합 의사결정 프레임워크: 인과적 추정, 탐색, 제약이 있는 할당을 단일 목적 함수 아래 결합하여, 예측 신호를 휴리스틱한 할당으로 최적화하는 표준 패턴을 넘어선 새로운 포맷을 제시했습니다.
아키텍처 확장:
- 시계열 마케팅 시퀀스 모델링을 위한 트랜스포머 증강 DragonNet.
- 콜드 스타트 제품에 대한 멀티-아웃컴 및 속성 조건부 스코어링을 가능하게 하는 공유 결과 임베딩 헤드.
프로덕션 파이프라인: 인과적 헤드, 뉴럴-밴딧 탐색, 듀얼 기반 LP 솔버가 결합된 완전 통합 파이프라인을 제공합니다.
실증적 검증:
- 오프라인 시뮬레이션: Open Bandit Dataset (OBD)을 활용한 시뮬레이션 결과, 증분 모델링 + 제약 최적화 방식이 프로펜시티 기반 및 순위 기반 베이스라인보다 우수한 성능을 보였습니다.
- 온라인 실험: LinkedIn Feed 마케팅 트래픽을 대상으로 한 8주간의 A/B 테스트를 수행했습니다.

4. 결과

오프라인 시뮬레이션:
- 단일 턴(Single-turn): "증분 모델링 + 제약 최적화" 접근 방식은 가장 높은 순수 수익($0.46 vs. 프로펜시티 + 제약 방식의 $0.39)을 달이트했으며, 유기적으로 전환할 가능성이 높은 사용자를 식별함으로써 비용을 크게 절감했습니다(추천 미실행 비율 증가).
- 멀티 턴(Multi-turn): "Bandit 증분 모델"은 초기 데이터 편향을 극복하고 약 50라운드 이후부터 그리디(greedy) 변형 모델들을 앞질렀으며, 이는 탐색의 장기적 가치를 입증합니다.
온라인 A/B 테스트:
- 비즈니스 상용 방식(BAU)인 2단계 프로펜시티 스택을 대상으로 LinkedIn Feed 마케팅 트래픽에 배포되었습니다.
- 주요 지표: 처치군(treatment arm)은 주요 장기 가치(LTV) 지표에서 통계적으로 유의미한 +7.20% 리프트를 달성했습니다 ( $p=0.041$ , 95% CI: [0.31%, 14.09%]).
- 운영 성공: 시스템은 예산 페이싱 및 전달 제약 조건을 성공적으로 관리하였으며, 피드백 컨트롤러가 없었을 때 관찰되었던 "과소 전달" 문제를 방지했습니다.

5. 의의 및 주장

본 논문은 복잡한 비즈니스 제약 조건 하에서 **생산 규모의 인과적 최적화(production-scale causal optimization)**가 가능하다는 것을 입증했다고 주장합니다. 그 의의는 다음과 같습니다:

패러다임의 전환: 단순히 "반응이 높은 사용자를 랭킹하는 것"에서, 전역적으로 조정된 할당을 통해 "증분적 영향력이 높은 사용자를 선택하는 것"으로 이동했습니다.
실제적 배포: 데이터 구축(컨텍스트/처치/결과 윈도우), 비용 제어, 전달 추정 등 실제 산업 현장의 난제들을 해결함으로써, 인과 추론을 산업 시스템에 통합하는 청사진을 제공합니다.
확장성: 듀얼 분해법과 경량화된 불확실성 근사법을 사용하여, 수억 명의 멤버 규모에서도 복잡한 인과 모델과 제약 최적화를 효율적으로 실행할 수 있음을 증명했습니다.

저자들은 시스템의 성공이 단순히 모델 아키텍처뿐만 아니라, 오프라인 시뮬레이션에서는 보이지 않지만 실제 ROI 달성에 필수적인 실용적인 개선 사항(데이터 구축 및 전달 제어)에 달려 있음을 강조합니다.