기술 요약: 산업 규모 추천 시스템에서의 이질적 랭킹 (Heterogeneous Ranking)

1. 문제 정의

본 논문은 분산된 오픈 웹(예: 웹 기사, 롱폼/숏폼 비디오, 사용자 생성 콘텐츠(UGC), 스포츠 카드, AI 요약 등)의 매우 이질적인 콘텐츠를 단일 개인화 피드로 통합하는 시스템인 Google Discover의 통합 랭킹 문제를 다룹다. 밀폐된 생태계(예: 음악 또는 비디오 전용 앱)와 달리, Google Discover는 다음과 같은 두 가지 주요 차원의 이질성에 직면해 있습니다.

• 데이터 이질성 (Data Heterogeneity): 콘텐츠가 균일한 특징을 갖지 못하여, 특징 밀도, 메타데이터 구조 및 비대칭적인 시그널 가용성에서 차이가 발생합니다.
• 상호작용 이질성 (Interaction Heterogeneity): 사용자 참여 패턴과 의도는 콘텐츠 유형에 따라 크게 다릅니다. 예를 들어, '좋아요'와 '관심 없음(dismissal)'은 보편적이지만, 기사는 주로 클릭을 유도하는 반면, UGC와 스포츠 카드는 긴 체류 시간(dwell time)을 유도합니다.

주요 과제:

1. 분포 불일치 (Distribution Mismatch): 글로벌 지표(예: 전체 CTR)에 최적화된 모델은 지배적인 저품질 콘텐츠 유형(예: 클릭 베이트 기사)을 고가치 소수 유형(예: 비디오)보다 과도하게 선호하게 되어 사용자 경험을 저해할 수 있습니다.
2. 부정적 전이 (Negative Transfer, Seesaw 현상): 공유된 표현(shared representation) 내에서 상충하는 목적 함수(예: 클릭 극대화 vs. 관심 없음 최소화)를 공동 최적화하면, 한 작업의 개선이 다른 작업에 부정적인 영향을 미치는 경우가 발생합니다.
3. 소수 유형 붕괴 (Minority-Type Collapse): 공유 아키텍처는 특징이 풍부하거나 트래픽이 높은 지배적 콘텐츠 유형을 선호하는 경향이 있어, 과소 대표되는 콘텐츠 유형이 "압도당하는(drowned out)" 현상이 발생합니다.

기존 프로덕션 베이스라인은 11개의 태스크별 헤드를 가진 공유 다층 퍼셉트론(MLP) 백본을 사용하며, 이는 단일 잠재 표현(latent representation)이 모든 콘텐츠 유형을 수행하도록 강제하여 이러한 이질성 문제를 적절히 해결하지 못합니다.

2. 방법론

저자들은 새로운 모델 아키텍처(HA-MoE), 관측 가능성 프레임워크(LENS), 그리고 특화된 평가 지표(DL-AUC)로 구성된 엔드 투 엔드 워크플로우를 제안합니다.

2.1 HA-MoE: 이질성 적응형 멀티 게이팅 전문가 혼합 (Heterogeneity-Adaptive Multi-gated Mixture-of-Experts)

엄격한 산업적 제약 조건(모델 크기, 학습 속도, 서빙 레이턴시)을 준수하면서 이 문제를 해결하기 위해, 저자들은 HA-MoE를 도입합니다. 이 아키텍처는 명시적인 이질성 시그널($h$)을 게이팅 네트워크와 전문가 표현 모두에 통합합니다.

• 아키텍처: $N$개의 공유 전문가(Feed-Forward Networks)를 사용하는 조밀한(dense) 전문가 기반 멀티 태스크 학습 프레임워크를 활용합니다.
• 이질성 인지 게이팅 (HA-Gating): 게이팅 메커니즘은 각 태스크에 대한 전문가 활용도를 결정하기 위해 밀집 특징($x$)과 함께 이질성 시그信号($h$)을 명시적으로 포함합니다. 이를 통해 모델이 특정 콘텐츠 세그먼트에 특정 전문가를 유도할 수 있게 하여, 소수 세그먼트가 압도당하는 것을 방지합니다.
  $$g_t(x, h) = \text{Softmax}(W_t \Phi(x, h) + b_t)$$
• 이질성 기반 선형 변조 (HDLM): 전문가의 용량을 분포별 편향으로부터 분리하기 위해, 각 전문가의 출력은 $h$로부터 유도된 스케일($\gamma$) 및 시프트($\beta$) 벡터를 사용하여 동적으로 적응됩니다. 이를 통해 네트워크는 대규모 파라미터 확장 없이도 "컨텍스트 전환"(예: 비디오의 시각적 패턴에서 팔로잉 크리에이터에 대한 선호도로 초점 이동)을 수행할 수 있습니다.
  $$\tilde{E}_n(x, h) = \gamma_n(h) \odot E_n(x) + \beta_n(h)$$
• 최적화: 절대적 확률을 보정하면서 상대적 순위를 보존하기 위해 포인트와이즈 이진 교차 엔트로피(BCE)와 페어와이즈 RankNet 손실을 균형 있게 결합한 손실 함수를 사용합니다.

2.2 LENS: 잠재 전문가 네트워크 전문화 (Latent Expert Network Specialization)

통합 모델의 "블랙박스" 특성을 완화하기 위해, 저자들은 경량 관측 가능성 프레임워크인 LENS를 도입합니다.

• 활성화 슬라이싱 (Activation Slicing): 게이팅 활성화를 콘텐츠별 전문가 행렬로 슬라이싱하여 모델의 내부 분업 구조를 시각화하고, 서로 다른 전문가가 어떻게 다양한 콘텐츠 유형에 특화되어 있는지 보여줍니다.
• 순열 불변 전문가 매칭 (Permutation-Invariant Expert Matching, PIEM): MoE 전문가는 순열 불변(permutation-invariant)이므로 직접적인 파라미터 비교가 어렵습니다. PIEM은 각 전문가를 행동 프로필 벡터(태스크별 상대적 기여도)로 특징짓고, 헝가리안 알고리즘을 사용하여 모델 스냅샷 간의 최적 1-대-1 매칭을 찾습니다. 이를 통해 젠슨-샤논 발산(JSD)을 기반으로 점수를 계산하여 기능적 안정성을 추적하고, 지속적인 재학습 중 "기능적 붕괴(전문성 상실)"를 감지합니다.

2.3 DL-AUC: 이중 레벨 AUC (Dual-Level AUC)

표준 글로벌 AUC는 모델이 다수 세그먼트의 점수는 높이는 반면 소수 세그먼트는 억제하는 구조적 실패를 가릴 수 있습니다. 저자들은 글로벌 효용성과 교차 세그먼트 정확성을 모두 균형 있게 측정하기 위해 DL-AUC를 제안합니다.
$$\text{DL-AUC} = \lambda \cdot \text{Micro-AUC} + (1 - \lambda) \cdot \text{Macro-xAUC}$$

• Micro-AUC: 경험적 트래픽 분포 하에서의 글로벌 랭킹 품질을 측정합니다.
• Macro-xAUC: 모든 콘텐츠 세그먼트 쌍에 대한 xAUC의 가중치 없는 평균입니다. 이는 소수 세그먼트(예: 비디오)의 양성 아이템이 다수 세그먼트(예: 웹 기사)의 음성 아이템보다 올바르게 상위에 랭킹되도록 보장하여, 다수 클래스의 지배를 방지합니다.

3. 주요 기여

1. HA-MoE 아키텍처: 콘텐츠 컨텍스트를 게이팅 및 전문가 레이어에 명시적으로 주입하여 효과적인 전문화를 가능하게 하는, 운영 오버헤드가 적은(<5% 모델 크기 증가, <0.5% 레이턴시 증가) 프로덕션 준비 완료형 이질성 적응형 MoE 설계.
2. LENS 프레임워크: 모델 내부 역학을 "언박싱"하는 새로운 관측 도구로, 엔지니어가 전문가 전문성을 해석하고 PIEM을 사용하여 학습 주기 전반에 걸친 기능적 이질성을 정량적으로 추적할 수 있도록 함.
3. DL-AUC 지표: 글로벌 이득이 생태계 건강(교차 세그먼트 정확성)을 희생하며 달성되는 것을 방지하는 이질성 인지 평가 지표.

4. 결과

오프라인 평가

• 성능: 대규모 산업 데이터셋(1,000만 개 예시)에서 HA-MoE는 가장 높은 집계 DL-AUC(pInterest 0.691, pDisinterest 0.949)를 달성하여, Shared MLP 베이스라인 및 표준 MMoE를 능가했습니다.
• 어블레이션 (Ablation): HA-Gating과 HDLM 구성 요소 모두 성능 향상에 기여했습니다. 전체 모델은 베이스라인에서 나타난 부정적 전이를 성공적으로 역전시켜, 양성 이득을 유지하면서도 부정적 참여 예측(pDisinterest)을 개선했습니다.
• 타입 간 교정 (Cross-Type Correction): HA-MoE는 웹 기사와 비디오 간의 랭킹 격차를 크게 좁혔습니다. 교차 타입 xAUC(Vid+ vs. Web−) 격차가 Shared MLP의 0.141에서 HA-MoE의 0.060으로 개선되었으며, 이는 저품질 기사가 고품질 비디오를 억제하는 것을 방지하는 모델의 능력을 입증합니다.

온라인 A/B 테스트

수억 명의 DAU를 보유한 Google Discover의 실제 트래픽 1%에 배포된 HA-MoE 모델은 통계적으로 유의미한 상승을 보였습니다:

• 피드 활동 (Feed Activity): +0.22% DAU 및 +0.48% Viewed Impressions.
• 탐색 (Exploration): +0.34% Scroll Depth, +0.36% Diverse Feed Rate, 및 +0.54% Diverse Engagement Rate.
• 안정성: 핵심 운영 지표에서 어떠한 퇴보(regression)도 관찰되지 않았습니다. 이 결과는 개선된 이질적 랭킹이 실질적인 생태계 건강 이점으로 이어진다는 것을 검증했습니다.

5. 의의 및 주장

본 논문은 통합 랭킹 시스템에서 이질성을 명시적으로 모델링하는 것의 효과를 검증하는 프로덕션 사례 연구를 제시한다고 주장합니다. 그 의의는 다음과 같습니다:

• 산업적 확장성: 복잡한 이질성 적응이 엄격한 프로덕션 제약 조건(레이턴시, 저장 공간, 학습 속도) 내에서 달성될 수 있음을 입증하여, 이론적 제안을 넘어 실제 배포 가능한 현실로 옮겼습니다.
• 생태계 건강: DL-AUC와 HA-MoE를 통해 글로벌 효용성과 교차 세그먼트 정확성의 균형을 맞추는 것이 오픈 웹 피드에서 사용자 경험을 저해하는 "다수 편향(majority bias)"을 방지함을 증명했습니다.
• 운영 투명성: LENS를 지속적인 학습 파이프라인에서 구조적 안정성을 유지하기 위한 핵심 도구로 확립하여, 모델 업데이트가 의도치 않게 기능적 전문성을 붕괴시키지 않도록 보장합니다.

저자들은 이질성을 관리하는 것이 여전히 진화하는 과제이지만, 그들의 접근 방식이 산업 규모의 추천 시스템을 위한 강력한 디자인 패턴을 제공하며, 통합 모델링과 오픈 웹의 다양한 현실 사이의 간극을 메워준다고 결론지었습니다. 향-후 연구는 더 표현력이 풍부한 게이팅, 희소 라우팅(sparse routing), 그리고 사용자 수준의 컨텍스트 및 리스트와이즈(listwise) 최적제로의 이질성 모델링 확장에 집중될 것임을 언급했습니다.