기술 요약: AdaSeq-MTA

문제 정의

멀티 터치 어트리뷰션(Multi-touch attribution, MTA)은 사용자가 전환하기 전까지 마주치는 광고 접점(touchpoint)의 시퀀스에 걸쳐 전환 기여도를 할당하는 것을 목표로 합니다. 신경망 시퀀스 모델은 긴 고객 여정의 행동 의존성을 효과적으로 포착할 수 있지만, 전체 이력을 처리하고 접점의 기여도(예: Shapley 가치 추정)를 반복적으로 평가하는 것은 계산 비용이 많이 듭니다.

시퀀스 검색(sequence retrieval)이나 고정 길이 절단(fixed-length truncation)과 같은 기존의 효율성 전략은 계산 비용을 줄이지만, 종종 기여도 할당을 크게 변화시킵니다. 결정적으로, 유사한 전환 예측이 일관된 기여도 할당을 보장하지는 않습니다. 접점을 제거하면 남은 접점들의 한계 기여도가 변할 수 있으며, 이는 전체 여정 베이스라인과 채널 수준의 결론이 달라지는 "기여도 드리프트(credit drift)" 현상을 초-래합니다. 핵심 과제는 추론 지연 시간과 어트리뷰션 비용을 줄이면서도, 전환 예측과 접점 및 채널 간의 기여도 분포 모두에서 일관성을 유지하는 적응형 계산 프레임워크를 설계하는 것입니다.

방법론: AdaSeq-MTA

저자들은 전환 예측, 기여도 일관성, 그리고 계산 비용을 공동으로 최적화하는 적응형 신경망 프레임워크인 AdaSeq-MTA를 제안합니다. 이 시스템은 3단계 학습 파이프라인과 특정 추론 아키텍처를 통해 작동합니다.

1. 아키텍처 및 적응형 라우팅

프레임워크는 참조 모델로서 동결된 전체 여정 교사(frozen full-journey teacher) 모델을 활용합니다. 학생 모델은 각 여정에 대해 두 가지 적응형 결정을 내리도록 학습됩니다:

• 경로 선택(Path Selection): 라우터는 전체 여정을 처리할지 또는 접점의 부분 집합을 선택할지를 결정합니다.
• 예산 할당(Budget Allocation): 선택이 이루어질 경우, 예산 헤드는 유지할 접점의 개수($K$)를 결정합니다.

라우팅 결정은 다음을 포함하는 특징 벡터 $g_i$를 분석하는 **증거 인식 라우터(Evidence-Aware Router, EER)**에 기반합니다:

• 여정 길이 (로그 변환됨).
• 채널 엔트로피 ($H_c$) 및 반복률 ($R_{dup}$).
• 시간 간격의 통계치 (평균 및 표준 편차).
• 예측 불확실성 (정적 컨텍스트 전용 모델의 엔트로피).

선택 메커니즘은 순서 보존형 장기 여정 선택(Order-Preserving Long-Journey Selection, LSCM) 모듈을 사용합니다. 이 모듈은 후보 접점을 식별하기 위한 거친 스코어링(coarse scoring)을 수행하고, 표현을 정교화하기 위한 미세 조정된 인과적 어텐션(causal attention) 메커니즘을 수행합니다. 결정적으로, 선택된 접점들은 원래의 연대순 순서로 복원되며, 인코더의 유효한 입력을 보장하기 위해 상대적 특징(예: 시간 간격)이 유지된 시퀀스를 기준으로 재계산됩니다.

2. 기여도 일관성 및 증류(Distillation)

기여도 드리프트를 방나하기 위해, 학생 모델은 자신의 어트리뷰션 출력을 동결된 교사 모델과 일치시키도록 학습됩니다. 어트리뷰션 과정은 Shapley 가치(또는 초기 단계에서는 Leave-One-Out 근사치)를 사용하여 한계 기여도를 추정합니다.

정렬 목적 함수($L_{attr}$)는 네 가지 구성 요소를 포함합니다:

1. 분포 정렬(Distribution Alignment): 접점 및 채널 수준 모두에서 학생과 교사의 정규화된 기여 분포 간의 Jensen-Shannon(JS) 다이버전스를 최소화합니다.
2. 부호 있는 한계 항(Signed-Marginal Term): Huber 손실을 사용하여 원시 부호 있는 기여도($r_{it}$)를 정렬함으로써, 모델이 단순한 양의 할당뿐만 아니라 억제 또는 포화 효과를 포착하도록 합니다.
3. 양의 질량 항(Positive-Mass Term): 양의 기여 총량($q_i = \sum \max(0, r_{it})$)의 차이에 페널티를 부여하여, 정규화가 전체 기여 볼륨의 중요한 변화를 숨기지 않도록 합니다.
4. 워크로드 제약(Workload Constraint): 라그랑주 승수(Lagrangian multiplier)를 사용하여 전역 계산 예산($B$)을 강제하며, 이를 통해 추론 비용 감소와 예측 및 기여 일관성 손실 사이의 균형을 맞춥니다.

3. 신뢰도 제어 Shapley 샘플링

최종 어트리뷰션 추정을 위해, 논문은 **신뢰도 제어 정지 규칙(confidence-controlled stopping rule)**을 도입합니다. 모든 여정에 대해 고정된 수의 Shapley 샘플을 사용하는 대신, 시스템은 개별 접점 기여도와 채널 집계 모두에 대한 경험적 번스타인 신뢰 구간(empirical Bernstein confidence intervals)이 지정된 허용 오차($\epsilon_{touch}, \epsilon_{channel}$) 아래로 떨어지거나 최대 샘플 캡($M_{max}$)에 도달할 때까지 순열을 샘플링합니다. 이를 통해 정밀도를 달성하기 어려운 복잡한 여정에 더 많은 계산량을 할당할 수 있습니다.

주요 기여

본 논문은 세 가지 주요 기여를 설명합니다:

1. 공동 최적화: 접점 압축과 어트리뷰션 효과를 통합된 자원 할당 문제의 일부로 취급하여, 워크로드 제약 하에서 예측, 기여 일관성 및 비용을 동시에 최적화하는 프레임워크입니다.
2. 다층적 기여 일관성: 선택된 기여를 원래의 접점으로 매핑하고, 부호 있는 한계 및 양의 질량 항을 사용하여 분포를 정렬함으로써 분포 중심 정렬의 한계를 해결하는 새로운 목적 함수를 제시합니다.
3. 적응형 계산: 여정 특성(채널 다양성, 시간적 구조, 불확실성)을 사용하여 처리 경로와 유지 예산을 선택하는 방법과, 어트리뷰션 샘플링을 위한 별도의 신뢰도 정지 규칙을 결합하였습니다.

실험 결과

이 방법은 Criteo Attribution Modeling for Bidding 데이터셋(약 1,650만 개의 임프레션)을 통해 평가되었습니다.

• 효율성: AdaSeq-MTA는 평균적으로 **66%**의 접점을 유지하면서 추론 지연 시간을 18.4 ms에서 13.1 ms로(28.8% 감소) 줄였습니다.
• 예측 성능: ROC-AUC는 0.7758(전체 시퀀스)에서 0.7753(AdaSeq-MTA)으로 안정적으로 유지되었습니다.
• 기여 일관성: 예측 전용 적응형 라우팅 정책과 비교했을 때, AdaSeq-MTA는 채널 기여 드리프트를 0.029에서 0.019로 감소시켰습니다.
• 어트리뷰션 지연 시간: 100개의 Shapley 샘플을 사용할 때, 이 방법은 어트리뷰션 지연 시간을 156.4 ms에서 104.2 ms로(33.4% 감소) 단축했습니다.
• 안정성: 모델은 AD-KD 방식의 제어 모델과 비교하여 더 높은 학습 시드 안정성(낮은 Seed JS 다이버전스)과 더 나은 접점/채널 기여 정확도(낮은 MAE)를 보여주었습니다.

의의 및 주장

Ada-Seq-MTA는 긴 고객 여정에 대한 효율적인 멀티 터치 어트리뷰션을 위한 실용적인 접근법을 제공한다고 주장합니다. 이 연구의 의의는 계산 압축이 예측 품질과 어트리뷰션 변화 모두를 고려할 수 있음을 입증했다는 데 있습니다.

저자들은 다음과 같이 강조합니다:

• 본 프레임워크는 예측 전용 적응형 라우팅보다 낮은 기여 드리프트를 달로 달성함으로써, 입력 시퀀스를 압축할 때 명시적인 기여 일관성 제약이 필요함을 입증했습니다.
• 신뢰도 제어 샘플링은 어트리뷰션 정밀도와 계산 비용 사이의 트레이드오프 상황에서 운영상의 선택지를 제공하며, 고정 샘플 설정보다 우수한 성능을 보입니다.
• 이 방법은 전체 관찰된 여정의 접점/채널 분포를 내부적인 교사 타겟으로 취급하며, 개별 처치 효과(individual treatment effects)를 발견하는 것이 아니라, 매핑된 기여 왜곡을 학습된 라우팅 워크로드와 함께 공동으로 최적화합니다.

연구의 결론은 이 방법이 효율성과 일관성을 개선하지만, 어트리뷰션 충실도(fidelity)는 개별 처치 효과의 식별이 아니라, 전체 여정 베이스라인 대비 모델 기반 기여 할당의 일관성으로 정의된다는 점입니다.