기술 요약: MAC – 다중 기여 메커니즘 레이블을 특징으로 하는 전환율 예측 벤치마크

1. 문제 정의

전환율(CVR) 예측은 온라인 광고의 핵심이며, 입찰 효율성과 플랫폼 수익에 직접적인 영향을 미칩니다. 전통적으로 CVR 모델은 단일 기여 메커니즘(예: Last-Click)에 의해 생성된 레이블을 학습하는 단일 기여 가정(single-attribution assumption) 하에 훈련됩니다. 이러한 패러다임은 다양한 기여 메커니즘(예: First-Click, Linear, Data-Driven Attribution)이 사용자 의도와 접점 기여도에 대해 서로 다른 관점을 인코딩함에도 불구하고, 모델이 총체적인 사용자 전환 사고방식을 포착하는 능력을 제한합니다.

**다중 기여 학습(Multi-Attribution Learning, MAL)**이 여러 기여 메커니즘에서 생성된 레이블로부터 공동으로 학습하는 유망한 패러다임으로 부상했음에도 불구하고, 기존의 공개 CVR 데이터셋(예: Criteo, Ali-CCP, Taobao)은 단일 기여 메커니즘의 레이블만을 제공하기 때문에 그 발전이 저해되어 왔습니다. 결과적으로 MAL 접근 방식에 대한 재현 가능한 벤치마크와 체계적인 평가가 부족한 실정입니다.

2. 방법론 및 리소스

2.1 MAC 벤치마크

이러-데이터 격차를 해결하기 위해, 저자들은 네 가지 뚜렷한 기여 메커니즘의 전환 레이블을 특징으로 하는 최초의 공개 CVR 데이터셋인 **MAC (Multi-Attribution BenChmark)**를 소개합니다:

• Last-Click: 마지막 클릭에 100% 기여를 부여.
• First-Click: 첫 번째 클릭에 100% 기여를 부여.
• Linear: 모든 접점에 균등하게 기여를 배분.
• Data-Driven Attribution (DDA): 인과 추론 모델(특히 CausalMTA)을 통해 학습된 기여 할당.

데이터셋 통계:

• 출처: Taobao 광고 시스템의 익명화된 트래픽 로그.
• 규모: 7,900만 건의 클릭, 1,510만 개의 고유 아이템, 80만 명의 사용자.
• 특징: 범주형 피처(사용자, 아이템, 컨텍스트), 행동 시퀀스(시각적 유사도 점수를 포함한 구매 이력), 그리고 네 가지 메커니즘 모두에 대한 연속적인 기여 가중치 포함.
• 준수 사항: 모든 개인 식별 정보는 비가역적으로 해싱 처리됨.

2.2 PyMAL 라이브러리

재현 가능한 연구를 촉진하기 위해, 저자들은 PyTorch를 기반으로 구축된 오픈 소스 Python 라이브러리인 PyMAL을 공개합니다. 이는 다음을 위한 통합 프레임워크를 구현합니다:

• 단일 기여 베이스라인: (예: BASE 모델).
• 멀티 태스크 학습(MTL) 모델: Shared-Bottom, MMoE, PLE, HoME 포함.
• 최첨단(SOTA) MAL 모델: NATL (kNowledge Aggregation with the carTesian AuxiLiary training) 포함.

2.3 제안된 모델: 비대칭 전문가 혼합(Mixture of Asymmetric Experts, MoAE)

기존 베이스라인 분석에 영감을 받아, 저자들은 다음 두 가지 핵심 원칙을 충족하도록 설계된 새로운 MAL 아키텍처인 MoAE를 제안합니다:

1. 전체 지식 습득 (Full Knowledge Acquisition): 다중 기여 지식을 포괄적으로 학습.
2. 주 작업 우선 활용 (Main-Task-Prioritized Utilization): 이 지식을 활용하여 주 작업 성능을 극대화.

MoAE 아키텍처:

• MoE 백본: PLE에서 영감을 받아, 공통 전환 패턴을 위한 공유 전문가(shared expert)와 각 메커니즘 하의 고유한 패턴을 위한 기여별 전문가(attribution-specific experts)를 채택.
• 비대칭 전이 모듈 (Asymmetric Transfer Module): 보조 지식을 주 작업 예측기로 비대칭적으로 집계하여 주 목적이 우선시되도록 보장하는 주 작업 중심의 피처 전이 메커니즘.
• 예측기 (Predictors): 각 기여 메커니즘을 위한 별도의 MLP.

3. 주요 실험 결과

저자들은 PyMAL 라이브러리를 사용하여 MAC에 대한 포괄적인 실험을 수행하였으며, 세 가지 주요 통찰을 도출했습니다:

3.1 MAL의 일반성

MAL은 서로 다른 타겟 기여 메커니즘(Last-Click, First-Click, DDA, Linear)에 대해 일관되게 예측 정확도를 향상시킵니다.

• 유의미한 이득: 가장 눈에 띄는 개선은 길고 복잡한 전환 경로를 가진 사용자에게서 관찰되었습니다. 예를 들어, Last-Click 타겟 하에서 MoAE는 단일 기여 베이스라인 대비 GAUC를 +2.12 포인트 개선했습니다.
• 노이즈 민감도: First-Click 설정에서 가장 적은 이득(0.34pt GAUC)이 나타났는데, 이는 긴 시간 간격과 혼란 변수(예: 후속 프로모션)로 인한 First-Click 레이블의 내재적 노이즈 때문입니다.

3.2 보조 목적 함수 선택의 영향

보조 타겟의 선택은 결정적이며 태스크 의존적입니다:

• 스케일링 효과: 일반적으로 성능은 보조 타겟의 수에 따라 확장되며, 데카르트 곱 보조 타겟(Cartesian product auxiliary targets, CAT)을 포함할 때 추가적인 이득을 얻습니다.
• First-Click 특이성: First-Click 전환을 예측할 때, 무분별한 보조 태스크 추가는 일반화 성능을 해칩니다. 오직 Last-Click 보조 타겟만이 유의미한 이득을 제공했는데, 이는 Last-Click이 가장 큰 시간적 차이를 제공하며 모델이 내재적 의도를 더 효과적으로 학습하도록 돕기 때문인 것으로 보입니다.

3.3 아키텍처 설계 원칙

본 연구는 효과적인 MAL을 위한 두 가지 핵심 설계 원칙을 식별했습니다:

1. 다중 기여 지식의 완전한 학습: MoE 구조를 통해 달성 (PLE/HoME에서 확인됨).
2. 주 작업을 위한 지식의 완전한 활용: 비대칭 지식 전이를 통해 달성 (NATL에서 확인됨).

• MoAE 성능: 두 원칙을 결 모두 결합함으로써, MoAE는 모든 설정에서 이전의 SOTA인 NATL을 포함한 모든 베이스라인을 능가했습니다. Linear 설정에서 NATL 대비 최대 +0.39 포인트의 GAUC 개선을 달아냈습니다.

3.4 성능 향상의 원천

어블레이션 연구(Ablation studies)를 통해 성능 향상이 단순한 파라미터 확장이 아닌 **다중 기여 감독 신호(multi-attribution supervision signals)**에서 기인함을 확인했습니다. 보조 태스크의 가중치를 0으로 설정했을 때(MAL 모델의 더 큰 파라미터 수를 유지하더라도), 성능은 베이스라인 수준 근처로 떨어졌습니다.

4. 기여 및 의의

본 논문은 다음과 같은 기여를 주장합니다:

1. 데이터 리소스: 최초의 다중 기여 CVR 벤치마크인 MAC를 공개하여, 중요한 데이터 격차를 해소하고 체계적인 MAL 연구를 가능하게 함.
2. 소프트웨어 툴킷: 대표적인 베이스라인과 제안된 MoAE를 포함하는 오픈 소스 라이브러리 PyMAL을 공개하여, 공정하고 재현 가능한 비교를 보장함.
3. 실행 가능한 통찰: 핵심 설계 원칙(지식 습득을 위한 MoE + 태스크 우선순위화를 위한 비대칭 전이)과 보조 목적 선택에 대한 미묘한 이해를 제시함.
4. 효과적인 접근법: 다양한 기여 설정에서 GAUC 지표를 크게 높이며 기존 방법론보다 월등한 우위를 입증한 MoAE를 제안함.

저자들은 MAC 벤치마크, PyMAL 툴킷, 그리고 도출된 통찰이 다중 기여 학습 및 더 총체적인 전환 모델링 분야의 미래 혁신을 가속화하는 기초 자원이 될 것이라고 결론짓습니다. 또한 향후 연구로서 더 강력한 파운데이션 모델 능력(예: Chain-of-Thought 추론)과 더 포괄적인 전환 목적을 통합하는 방향을 제시합니다.