기술 요약: 불가능한 것을 대조하지 마라 (Don't Contrast the Impossible)

문제 정의

대규모 추천 시스템에서 대조 학습(Contrastive Learning)은 사용자 표현(User Representation)을 학습하기 위한 표준 패러다임입니다. 이러한 방법들은 일반적으로 관측된 사용자-아이템 상호작용을 양성(Positive)으로 취급하고, 미니 배치 내의 다른 아이템들을 음성(Negative)으로 취급합니다. 무작위 미니 배치 샘플링에 깔려 있는 흔하고 종종 암묵적인 가정은 보편적 노출(Universal Exposure), 즉 어떤 사용자라도 이론적으로는 어떤 아이템에도 노출될 수 있다는 생각입니다.

이 가정은 당근마켓(Karrot)과 같이 지리적으로 노출이 제한되도록 설계된 지역 커뮤니티 플랫폼에서는 성립하지 않습니다. 이러한 플랫폼에서는 정책상 대다수의 사용자-아이템 쌍이 **불가능(Impossible)**합니다. 사용자의 가시 영역 밖에 위치한 아이템은 정책에 의해 해당 사용자에게 절대 노출되지 않기 때문입니다. 결과적으로, 표준적인 무작위 배칭(Random Batching)은 불가능한 음성(Impossible Negatives)—사용자의 선호도가 아니라 시스템의 규칙 때문에 볼 수 없었던 아이템들—을 대량으로 유입시킵니다.

본 논문은 두 가지 유형의 음성을 구분합니다:

1. 가능한 음성 (Feasible Negatives): 사용자가 노출될 수 있었으나 선택하지 않은 아이템. 이는 의미 있는 선호도 신호를 담고 있습니다.
2. 불가능한 음성 (Impossible Negatives): 플랫폼 제약으로 인해 사용자가 결코 노출될 수 없었던 아이템. 이는 사용자의 선택이 아닌 시스템에 의해 결정된 비참여이므로, 선호도 신호를 거의 또는 전혀 담고 있지 않습니다.

학습 배치 내에 불가능한 음성이 지배적이 되면, 대조 학습의 신호가 희석되어 사용자 표현의 변별력이 떨어지게 됩니다.

방법론: 지역 제약 배치 샘PLING (Region-Constrained Batch Sampling, RCBS)

"불가능한 음성" 문제를 해결하기 위해, 저자들은 **지역 제약 배치 샘플링(RCBS)**을 제안합니다. 이는 모델 아키텍처나 손실 함수를 변경하지 않고 미니 배치가 구성되는 방식을 수정하는 데이터 수준의 교정 방법입니다.

핵심 메커니즘

RCBS는 **지역 동질적 미니 배치(Region-homogeneous mini-batches)**를 구성합니다. RCBS는 플랫폼 전체에서 사용자를 무작위로 샘플링하는 대신, 특정 지리적 영역 $r$에서 사용자를 샘플링합니다.

• 가용성 정의: 사용자 영역과 아이템 영역 사이의 거리가 사용자별 노출 반경 $\delta_u$ 이내인 경우, 해당 사용자-아이템 쌍을 '가능한(Feasible)' 것으로 정의합니다.
• 배치 구성: 특정 지역 풀 $U_r$에서 사용자를 균등하게 샘플링하여 배치 $\mathcal{B}_r$를 형성합니다. 배치 내의 모든 사용자는 유사한 노출 제약을 공유하므로, 배치 내 다른 사용자와 연관된 아이템들은 타겟 사용자에 대해 **가능한 음성(Feasible Negatives)**일 확률이 매우 높습니다.

이론적 영향

저자들은 무작위 배칭을 사용할 경우 불가능한 음성의 기대 비율($\rho$)이 높으며, 영역의 수에 따라 증가한다는 것을 도출했습니다. 반면, RCBS는 확률 질량을 단일 영역에 집중시켜 $\rho$를 0에 가깝게 만듭니다.

• 더 어려운 음성 (Harder Negatives): 불가능한 음성을 가능한 음성으로 대체함으로써, RCBS는 자연스럽게 "더 어려운" 음성을 도입합니다. 가능한 음성은 사용자가 볼 수 있었지만 보지 못한 아이템을 나타내며, 사용자 선호도를 학습하는 데 있어 더 강력하고 정보가 풍부한 신호를 제공합니다.
• IPS와의 상보성: 본 논문은 RCBS가 역확률 가중치(Inverse Propensity Scoring, IPS)와 상보적이라고 언급합니다. IPS는 관측된 쌍 사이의 노출 편향을 교정하지만, 노출 확률이 0인 쌍(불가능한 쌍)은 처리할 수 없습니다. RCBS는 학습 배치가 주로 '가능한' 쌍으로 구성되도록 보장하며, 그 후에 IPS가 잔여 불균형을 교정할 수 있도록 합니다.

주요 기여

1. 문제 식별: 본 논문은 지역 제약 추천 시스템에서 발생하는 "불가능한 음성" 문제를 식별하고, 이를 일반적인 선호도 기반 음성과 구분하였습니다.
2. RCBS 제안: 미니 배치에 지리적 동질성을 강제함으로써 불가능한 음성을 줄이는 단순하면서도 효과적인 방법인 지역 제약 배치 샘플링을 도입했습니다.
3. 실증적 검증: 광범한 오프라인 및 온라인 평가를 통해, RCBS가 사용자 표현의 품질과 다운스트림 성능을 개선함을 입증했습니다.
4. 프로덕션 배포: RCBS를 통해 학습된 사용자 임베딩은 당근마켓의 다양한 서비스에 성공적으로 배포되었습니다.

실험 결과

오프라인 평가 (사용자 모델링 프리트레이닝)

• 지표: Recall@10 및 Recall@100.
• 결과: RCBS로 학습된 모델이 무작위 배치 베이스라인보다 일관되게 우수한 성능을 보였습니다.
  • Random-Train: 불가능한 음성 비율($\rho_{train}$)이 0.98일 때, R@10은 0.100을 기록했습니다.
  • RCBS-Train (fine): $\rho_{train}$이 0.30으로 감소했을 때, R@10은 0.149를 기록했습니다.
• 관찰: 불가능한 음성의 비율이 낮을수록 Recall 지표가 더 높게 나타나는 강한 상관관계를 보였습니다. 또한, RCBS로 학습된 모델을 RCBS 기반 평가(RCBS-Eval)로 평가했을 때 Random-Eval보다 낮은 점수를 기록했는데, 이는 가능한 음성이 불가능한 음성보다 더 어렵고 도전적인 음성 역할을 한다는 것을 확인시켜 줍니다.

다운스트림 태스크 성능

세 가지 다운스트림 태스크에 적용했을 때, RCBS로 학습된 사용자 임베딩은 무작위 배치 베이스라인 대비 일관된 개선을 보였습니다:

• 홈 피드 랭킹 (Home Feed Ranking): NDCG@10에서 +1.18% 개선.
• 홈 피드 리트리벌 (Home Feed Retrieval): Recall@10에서 +7.56% 개선 (리트리벌과 프리트레이닝 목적 함수 간의 구조적 유사성 덕분에 가장 큰 폭의 향상을 보임).
• 디스플레이 광고 랭킹 (Display Ads Ranking): PR-AUC에서 +3.38% 개선.

온라인 A/B 테스트

가장 성능이 좋은 모델(RCBS-Train fine)을 프로덕션 A/B 테스트에 배포했습니다:

• 홈 피드 (랭킹 + 리트리벌): 클릭 수 +10.0%, 노출 수 +5.12%, 일간 활성 시청자 수(DAV) +1.91% 증가.
• 디스플레이 광고: eCPM +6.01%, 광고 CTR +7.46% 증가.

의의 및 주장

본 논문은 위치 기반 서비스(예: 음식 배달, 데이팅 앱, 지역 마켓플레이스)와 같이 지리적으로 노출이 엄격히 제한되는 서비스에서 "불가능한 음성" 문제가 매우 중요하며 종종 간과되는 이슈라고 주장합니다. 배칭 과정을 지역 동질적으로 제한하는 것만으로도 다음과 같은 효과를 얻을 수 있음을 보여주었습니다:

1. 학습 신호 강화: 불가능한 음성을 가능한 음성으로 대체함으로써 사용자 선호도를 더 정확하게 반영합니다.
2. 성능의 확장성: 이 방법은 리트리벌과 랭킹 지표 전반에 걸쳐 개선을 가져오며, 프로덕션 환경에서 상당한 비즈니스 임팩트를 창출합니다.
3. 단순함의 효과: 이 솔루션은 모델 아키텍처나 손실 함수를 변경할 필요 없이, 지리적 제약이 있는 시스템에서 표준적인 무작위 배칭을 대체할 수 있는 실용적인 방법입니다.

저자들은 RCBS가 특정 쌍의 구조적 불가능성을 효과적으로 해결하지만, 향에는 동적인 제약을 위한 적응형 지역 그룹화(Adaptive region grouping) 및 확률 기반 디바이아싱(Propensity-based debiasing) 방법과의 추가적인 통합을 탐구할 수 있다고 결론지었습니다.