기술 요약: 이커머스 제품 랭킹을 위한 MMRM

1. 문제 정의

이커머스 검색 랭킹은 다양한 목적 함수(예: 클릭률(CTR), 장바구니 담기율(ACR), 구매 전환율(CVR))에 걸쳐 미세한 사용자 선호도를 포착해야 합니다. 최근의 접근 방식들은 일반적인 멀티모달 거대 언어 모델(MLLM)을 미세 조정하여 아이템 표현을 생성하지만, 저자들은 기존 방식에서 두 가지 결정적인 한계를 식별했습니다.

1. 단일 협업 신호에 대한 의존성: 현재의 방식들은 일반적으로 하나의 유형의 신호(예: 검색 기반의 쿼리-아이템 클릭 또는 행동 기반의 아이템-아이템 클릭)만을 사용하여 MLLM을 미세 조정합니다. 저자들은 이커머스 신호가 본질적으로 이질적이라고 주장합니다. 검색 신호는 광범위한 관련성을 포착하는 반면, 순차적 행동(장바구니, 주문)은 더 정교한 유사성과 보완적 관계를 반영합니다. 이러한 다양성을 무시하면 다중 작업 랭킹에 필요한 포괄적인 표현을 학습하는 것을 방해합니다.
2. 다운스트림 랭킹에서의 활용 미흡: 기존의 랭킹 모델은 멀티모달 표현을 일반적인 아이템 피처로 취급하며, 피처 상호작용을 위해 단일 임베딩 테이블을 사용하거나 단순한 행동 그룹화를 사용합니다. 이러한 방식은 "다중 층위의 사용자 의도(multiplex user intents)"를 포착하지 못하여, 다중 작업 시나리오에서 정보 손실과 임베딩 엉킴(entanglement)을 초래합니다.

2. 방법론

제안된 솔루션인 **MMRM(Multiplex Multimodal Representation Model)**은 MLLM을 다양한 협업 신호와 정렬하고 이를 다중 작업 랭킹 시스템에 통합하도록 설계된 통합 프레임워크입니다.

2.1 데이터셋 구축

저자들은 이질적인 신호를 포착하기 위해 네 가지 별도의 트리플릿(triplet) 데이터셋을 구축했습니다.

• Q2I 데이터셋 (검색): 쿼리-아이템 클릭($q2i\_click$)으로부터 구축되었으며, 가장 보편적이지만 거친 입도(coarse-grained)의 신호를 나타냅 p. 하드 네거티브(Hard negatives)는 동일한 상위 카테고리에 속하지만 다른 하위 카테고리에 있는 아이템에서 샘플링되었습니다.
• I2I 데이터셋 (행동): 그래프 기반 접근 방식을 통해 세 가지 데이터셋($i2i\_click$, $i2i\_cart$, $i2i\_order$)이 구축되었습니다.
  • 아이템들은 특정 시간 윈도우(예: 클릭은 10분, 장바구니는 30분) 내의 순차적 사용자 행동을 기반으로 연결됩니다.
  • 핫 아이템(hot-item)의 지배력을 완화하기 위해, word2vec과 유사한 확률 함수를 사용하여 앵커 아이템을 서브샘플링했습니다.
  • 대조 학습(contrastive learning)을 강화하기 위해 하드 네거티브는 양성 아이템과 동일한 하위 카테고리에서 샘플링되었습니다.

2.2 MMRM 아키텍처

MMRM은 다중 작업 학습을 처리하기 위해 특정 구조적 수정이 가해진 공유 MLLM 백본(Qwen3-VL-4B-Instruct로 초기화)을 채택합니다.

• 태스크 특화 토큰: 작업 간의 분리를 위해 네 가지 특수 토큰—[SEARCH], [CLICK], [CART], [ORDER]—이 입력에 추가됩니다.
• 프로젝션 레이어: 특정 태스크 토큰의 은닉 상태(hidden state)는 태스크별 다층 퍼셉트론(MLP)을 통해 투영되어 최종적인 태스크별 아이템 표현($r^t_i$)을 생성합니다.
• 학습 목적 함수: 모델은 네 가지 데이터셋의 균일한 혼합물로 학습됩니다. 각 태스크 $t$에 대해, 대조 학습 손실은 해당 태스크의 양성 쌍을 사용하여 계산되며, 다른 태스크의 아이템들은 인배치 네거티브(in-batch negatives) 역할을 합니다. 이를 통해 모델은 성능 저하 없이 다양한 신호로부터 동시에 학습할 수 있습니다.

2.3 다중 작업 랭킹 적용

저자들은 다운스트림 랭킹 모델을 위한 **다중 층위 사용자 표현 전략(multiplex user representation strategy)**을 도입합니다.

• 소프트 검색 (Soft Search): 주어진 쿼리와 타겟 아이템에 대해, 시스템은 현재 태스크에 특화된 멀티모달 임베딩 테이블(예: ACR 예측을 위해 [CART] 임베딩 사용)을 사용하여 상위-$K$개의 관련 행동 부분 시퀀스를 추출합니다.
• 사용자 표현: 태스크별 사용자 표현($U_t$)은 필터링된 행동 시퀀스에 대해 다중 헤드 타겟 어텐션(Multi-Head Target Attention, MHTA) 모듈을 사용하여 도출됩니다.
• MMoE 통합: 모든 태스크별 사용자 표현과 기타 피처들은 Multi-gate Mixture-of-Experts(MMoE) 모듈에 의해 처리되어 태스크별 은닉 상태를 생성합니다.
• 예측: 이 상태들은 태스크별 타워(CTR, ACR, CVR)로 전달되어 최종 예측을 생성합니다.

3. 주요 기여

1. 통합 프레임워크: MMRM은 공유 백본과 태스크별 토큰을 사용하여 네 가지 다양한 협업 신호(검색, 클릭, 장바구니, 주문)를 효과적으로 정렬하며, 단 한 번의 추론 패스로 효율적인 다중 층위 아이템 표현 생성을 가능하게 합니다.
2. 다중 층위 사용자 전략: 본 논문은 다중 층위 아이템 표현으로부터 태스크별 사용자 표현을 도출하는 새로운 전략을 제안하여, 다중 작업 랭킹에서의 임베딩 엉킴 문제를 해결합니다.
3. 확장성: 저자들은 현대적인 MLLM에서 큰 배치 사이즈를 처리하기 위해 GradCache와 같은 기술을 사용하여 0.3 tỷ 개의 트리플릿이라는 대규모 데이터에서도 MMRM을 효율적으로 학습할 수 있음을 입증했습니다.

4. 실험 결과

4.1 표현 모델 평가

• 성능: MMRM은 단일 태스크 베이스라인 및 "Vanilla-Multi" 베이스라인(태스크 프롬프트를 사용한 공유 임베딩 사용)보다 일관되게 우수한 성능을 보였습니다.
• 효율성: MMRM은 단 한 번의 순방향 패스(forward pass)로 네 가지 태스크 임베딩을 모두 생성하는 반면, 베이스라인들은 네 번의 별도 패스가 필요했습니다.
• Ablation 연구: 실험을 통해 더 큰 배치 사이즈(GradCache를 통해 달성)가 성능을 크게 향상시킨다는 것을 확인하였으며, 이는 다양한 인배치 네거티브의 중요성을 입증합니다.

4.2 랭킹 모델 평가

• 오프라인: 다중 층위 필터링($SIM_{soft}(item_{MMRM[ALL]})$)을 사용하는 제안된 랭킹 모델은 단일 임베딩 테이블이나 카테고리 기반 필터링을 사용하는 베이스라인들에 비해 CTR, ACR, CVR 태스크 전반에서 가장 높은 GAUC 점수를 달랐습니다.
• 온라인 A/B 테스트: JD 이커머스 검색 엔진에 배포된 결과, 시스템은 온라인 베이스라인 대비 유의미한 개선을 보였습니다:
  • 사용자 클릭률 (UCTR): +0.42%
  • 사용자 장바구니 담기율 (UACR): +0.37%
  • 사용자 구매 전환율 (UCVR): +0.35%
  • 저자들은 플랫폼의 막대한 트래픽을 고려할 때, 이러한 상승폭이 상당한 매출 성장으로 이어진다고 언급했습니다.

5. 의의 및 주장

본 논문은 MMRM이 이커머스 신호의 이질성을 활용함으로써 현재의 멀티모달 랭킹 시스템의 한계를 성공적으로 해결했다고 주장합니다. 단일 신호 미세 조정에서 벗어나 다중 층위 임베딩 다운스트림 모델링으로 전환함으로써, MMRM은 사용자 의도에 대한 더욱 포괄적인 이해를 제공합니다. 매일 수백만 명의 사용자를 지원하는 JD.com에 성공적으로 배포된 사례는 제안된 프레임워크의 실질적인 효능과 확장성을 입증합니다. 이 연구는 복잡한 다중 목적 사용자 행동을 분리하는 데 있어 "다중 층위(multiplex)" 표현의 가치를 강조합니다.