Modeling User Preferences as Distributions for Optimal Transport-Based Cross-Domain Recommendation under Non-Overlapping Settings

이 논문은 중첩된 사용자나 아이템이 없는 환경에서도 소스 도메인의 지식을 효과적으로 전이하여 데이터 희소성과 콜드 스타트 문제를 해결하기 위해, 사용자의 선호도를 가우시안 혼합 모델로 표현하고 최적 수송을 기반으로 정렬하는 새로운 프레임워크인 DUP-OT 를 제안합니다.

핵심

🎬 비유: "낯선 도시의 맛집 찾기"

상상해 보세요. 당신은 **A 도시 (소스 도메인)**에서 맛집을 찾아다니는 전문가입니다. 하지만 이제 **B 도시 (타겟 도메인)**로 이사를 갔는데, B 도시에는 A 도시와 아무런 공통점이 없습니다.

• A 도시의 친구들이 B 도시에도 없습니다. (사용자 겹침 없음)
• A 도시의 식당 이름이 B 도시에도 없습니다. (아이템 겹침 없음)

기존의 추천 시스템들은 "A 도시의 친구가 B 도시의 이 식당을 좋아했으니, 당신도 좋아할 거야"라고 말하며 추천을 했습니다. 하지만 친구나 식당 이름이 아예 없으면 이 시스템은 완전히 멈춰버립니다.

이 논문 (DUP-OT) 은 이런 상황에서도 "너의 취향을 분석해서 B 도시의 맛집을 찾아줄게!"라고 말합니다. 어떻게 할까요?

1. 핵심 아이디어: "취향은 점 (Vector) 이 아니라 구름 (Distribution) 이다"

기존 시스템은 사용자의 취향을 **"고정된 점"**으로 보았습니다.

• 예: "이 사람은 '액션' 70%, '코미디' 30% 를 좋아해."
• 문제: 사람은 상황에 따라 취향이 변할 수 있고, 한 가지 장르만 좋아하는 게 아닙니다.

이 논문은 취향을 **"구름 (확률 분포)"**으로 봅니다.

• *예: "이 사람은 '액션' 구름이 두껍고, '코미디' 구름도 살짝 있는, 복합적인 구름 모양을 하고 있어."*
• **GMM(가우시안 혼합 모델)**이라는 수학적 도구를 써서, 사용자의 취향을 여러 개의 작은 구름들이 모여 만든 복잡한 모양으로 표현합니다. 이렇게 하면 사용자의 다채로운 취향을 훨씬 정교하게 잡을 수 있습니다.

2. 두 세계를 연결하는 다리: "최적 수송 (Optimal Transport)"

이제 A 도시의 '취향 구름'을 B 도시로 어떻게 옮길까요? 두 도시에 공통된 친구가 없으니 직접 비교할 수 없습니다.

여기서 **'최적 수송 (Optimal Transport)'**이라는 개념이 등장합니다.

• 비유: A 도시의 '맛집 지도'와 B 도시의 '맛집 지도'가 완전히 다르다고 칩시다. 하지만 두 지도를 비교했을 때, "A 도시의 '매운맛' 구름과 B 도시의 '매운맛' 구름은 서로 가장 가깝게 이동해야 해"라고 계산하는 것입니다.
• 이 기술은 공통된 사람이나 물건이 없어도, 두 도메인의 '취향 구조' 자체를 수학적으로 가장 효율적으로 맞춰줍니다. 마치 서로 다른 언어를 쓰는 두 사람이 손짓과 표정으로 서로의 감정을 완벽하게 이해하는 것과 비슷합니다.

3. DUP-OT 의 작동 방식 (3 단계)

1. 준비 단계 (공통 언어 만들기):
   두 도시의 리뷰 텍스트를 읽고, AI 가 공통된 언어 (임베딩) 로 번역합니다. "맛있다", "재미있다" 같은 표현을 두 도시 모두에서 통하는 의미로 통일합니다.

2. 취향 분석 단계 (구름 그리기):
   각 도시에서 사용자들이 어떤 '취향 구름'을 가지고 있는지 분석합니다. 이때, A 도시의 '액션 구름'과 B 도시의 '액션 구름'이 서로 대응된다는 것을 미리 학습합니다.

3. 이동 및 예측 단계 (가장자리로 이동):
   A 도시의 사용자를 B 도시로 보낼 때, 그의 '취향 구름'을 최적 수송을 이용해 B 도시의 공간에 맞춰 이동시킵니다. 그리고 B 도시의 새로운 식당 (아이템) 에 대해 "이 구름 모양의 사람이 이 식당을 얼마나 좋아할까?"를 예측합니다.

🏆 왜 이 방법이 특별한가요? (결과)

실험 결과, 이 방법은 **새로운 도시 (B 도시) 에 갓 도착한 사람 (콜드 스타트 사용자)**에게 특히 강력했습니다.

• 기존 방법 (TDAR 등): 큰 실수를 할 확률이 높았습니다. (예: 아주 싫어할 음식을 강추하는 등)
• 이 방법 (DUP-OT): "큰 실수"를 막아주었습니다. RMSE(오차의 제곱 평균) 가 낮았다는 것은, 사용자가 가장 싫어할 만한 추천을 피해서, 실패 확률을 줄였다는 뜻입니다.

💡 한 줄 요약

"서로 다른 두 세계에 공통된 사람이 없어도, 사용자의 취향을 '고정된 점'이 아닌 '유연한 구름'으로 표현하고, 수학적으로 두 세계의 구름을 가장 잘 맞춰주는 기술로, 새로운 환경에서도 실패 없는 추천을 가능하게 합니다."

이 기술은 우리가 새로운 앱이나 서비스를 처음 사용할 때, 아직 데이터를 많이 남기지 않았더라도 더 똑똑하고 안전한 추천을 받을 수 있게 해줄 것입니다.

기술 요약

1. 문제 정의 (Problem Definition)

기존의 교차 도메인 추천 (Cross-Domain Recommendation, CDR) 시스템은 데이터가 풍부한 소스 도메인에서 데이터가 희소한 타겟 도메인으로 지식을 전이하여 희소성 (Sparsity) 및 콜드 스타트 (Cold-start) 문제를 해결하려 합니다. 그러나 기존 방법론들은 다음과 같은 두 가지 주요 한계를 가지고 있습니다:

1. 중첩된 개체 (Overlapping Entities) 의존성: 대부분의 기존 CDR 방법은 도메인 간 연결을 구축하기 위해 공유된 사용자 또는 아이템이 존재해야 합니다. 하지만 실제 환경 (예: 다른 플랫폼 간 프라이버시 제약, 시스템 제한) 에서는 훈련 단계에서 이러한 중첩 정보를 얻기 어려운 경우가 많습니다.
2. 이산 벡터 표현의 한계: 사용자 선호도를 고정된 이산 벡터 (Discrete Vectors) 로 표현하는 방식은 사용자의 다면적 (Multi-aspect) 이자 세밀한 (Fine-grained) 관심사를 포착하는 데 한계가 있습니다.

따라서, 사용자나 아이템이 전혀 공유되지 않는 (Non-overlapping) 환경에서, 사용자의 선호도를 더 표현력 있게 모델링하여 타겟 도메인의 추천 성능을 향상시키는 것이 본 연구의 핵심 문제입니다.

2. 제안 방법론: DUP-OT (Methodology)

저자들은 DUP-OT (Distributional User Preferences with Optimal Transport) 라는 새로운 프레임워크를 제안합니다. 이 프레임워크는 세 가지 주요 단계로 구성됩니다.

2.1. 공유 전처리 단계 (Shared Preprocessing Stage)

• 목표: 도메인 간 의미적 유사성을 포착하고 일관된 특징 공간 (Unified Feature Space) 을 구축합니다.
• 구현:
  • Sentence Encoder: 리뷰 텍스트를 인코딩하기 위해 공유된 사전 학습된 문장 인코더 (Sentence Encoder) 를 사용합니다. 최신 리뷰에 더 높은 가중치를 부여하는 시간 인식 가중치 방식을 적용합니다.
  • Autoencoder: 고차원 벡터는 GMM 적합을 불안정하게 만들 수 있으므로, 두 도메인에서 공유된 오토인코더를 훈련하여 저차원의 일관된 잠재 벡터 (Latent Embeddings) 를 추출합니다.

2.2. 사용자 선호도 모델링 단계 (User Preference Modeling Stage)

• 핵심 아이디어: 사용자의 선호도를 단일 벡터가 아닌 가우시안 혼합 모델 (Gaussian Mixture Model, GMM) 로 표현합니다.
• 구현:
  • 도메인 수준의 GMM 컴포넌트: 계산 비용 절감을 위해, 각 도메인 내의 모든 사용자는 아이템 임베딩에 적합된 공유된 GMM 컴포넌트 (평균 $\mu$ 와 공분산 $\Sigma$) 세트를 공유합니다.
  • 사용자별 가중치 학습: 각 사용자는 자신의 임베딩을 통해 이 공유된 GMM 컴포넌트들에 대한 개인화된 혼합 가중치 (Mixture Weights) 를 학습합니다.
  • 예측: MLP 를 사용하여 사용자 임베딩에서 가중치를 예측하고, 아이템 임베딩과 각 가우시안 컴포넌트 간의 마할라노비스 거리 (Mahalanobis Distance) 를 기반으로 평점을 예측합니다.

2.3. 교차 도메인 정렬 및 예측 단계 (Cross-Domain Alignment & Prediction Stage)

• 핵심 아이디어: 최적 수송 (Optimal Transport, OT) 을 사용하여 소스 도메인과 타겟 도메인의 GMM 컴포넌트 간 정렬을 수행합니다.
• 구현:
  • OT 기반 정렬: 사용자 수준이 아닌 컴포넌트 수준에서 OT 를 적용하여 계산 효율성을 높입니다. Wasserstein-2 거리를 비용 행렬 (Cost Matrix) 로 사용하여 두 도메인의 GMM 컴포넌트 간 최적 수송 행렬 $T$ 를 계산합니다 (Sinkhorn 알고리즘 사용).
  • 가중치 전이: 계산된 수송 행렬 $T$ 를 사용하여 소스 도메인의 사용자 가중치를 타겟 도메인으로 전이합니다 ($w^t = w^s T$).
  • 테스트 시 시나리오 처리:
    1. 양쪽 도메인 상호작용 존재: 전이된 분포와 타겟 도메인 분포를 선형 가중치 ($\alpha$) 로 융합.
    2. 소스 도메인만 존재: 전이된 분포만 사용.
    3. 타겟 도메인만 존재: 타겟 도메인 분포만 사용 (콜드 스타트 사용자 대응).

3. 주요 기여 (Key Contributions)

1. 비중첩 (Non-overlapping) CDR 에 대한 분포 기반 모델링 제안: 이산 벡터의 한계를 지적하고, 중첩된 개체 없이도 작동할 수 있는 GMM 기반의 사용자 선호도 모델링의 필요성을 강조했습니다.
2. DUP-OT 프레임워크 개발: GMM 기반 표현과 최적 수송 (OT) 을 결합하여, 공유 사용자/아이템 없이도 도메인 간 선호도 정렬과 전이가 가능한 새로운 아키텍처를 제안했습니다.
3. 성능 검증: 아마존 리뷰 데이터셋을 통한 실험을 통해, 소스 도메인 데이터 없이도 단일 도메인 베이스라인을 능가하며, 기존 교차 도메인 모델 (TDAR) 보다 RMSE(평균 제곱근 오차) 가 낮아 콜드 스타트 사용자의 큰 예측 오차를 효과적으로 줄임을 입증했습니다.

4. 실험 결과 (Results)

• 데이터셋: 아마존 리뷰 5-core 데이터셋 (Digital Music, Movies & TV, Video Games, Electronics). Electronics 를 타겟 도메인으로 설정.
• 비교 대상:
  • 단일 도메인: LightGCN, NeuMF
  • 교차 도메인 (비중첩): TDAR (Text-enhanced Domain Adaptation Recommendation)
• 주요 결과:
  • RQ1 (교차 도메인 정보의 효과): 소스 도메인 정보를 포함한 DUP-OT 가 포함하지 않은 버전보다 모든 설정에서 낮은 RMSE 를 기록하여 교차 도메인 지식 전이의 유효성을 입증했습니다.
  • RQ2 (분포 모델링의 효과): 소스 도메인 데이터 없이 DUP-OT(분포 기반) 가 단일 도메인 모델 (LightGCN, NeuMF) 보다 Electronics 도메인에서 훨씬 우수한 성능을 보였습니다. 이는 분포 기반 표현이 더 표현력 있음을 의미합니다.
  • RQ3 (기존 CDR 모델 대비 성능): DUP-OT 는 TDAR 보다 RMSE 는 낮지만 MAE 는 높게 나타났습니다. 이는 DUP-OT 가 콜드 스타트 사용자에게서 발생하는 극단적인 예측 오차 (Large Errors) 를 효과적으로 방지하여 전체적인 예측 안정성 (Robustness) 이 높음을 의미합니다. TDAR 는 오차를 고르게 분산시키는 반면, DUP-OT 는 worst-case 예측 실패를 줄이는 데 특화되어 있습니다.

5. 의의 및 결론 (Significance)

이 논문은 실제 비즈니스 환경에서 흔히 발생하는 사용자/아이템 중첩 정보 부재라는 현실적인 제약 조건 하에서도 효과적인 교차 도메인 추천이 가능함을 증명했습니다.

• 기술적 의의: 사용자의 복잡한 선호도를 단순 벡터가 아닌 확률 분포 (GMM) 로 모델링하고, 이를 최적 수송 기법으로 정렬함으로써 계산 효율성과 표현력을 동시에 확보했습니다.
• 실용적 의의: 특히 데이터가 부족한 새로운 사용자 (콜드 스타트) 에 대한 추천 정확도를 높이고, 큰 실수를 방지하는 데 탁월한 성능을 보여, 실제 서비스 환경에서의 적용 가능성을 높였습니다.

향후 연구 방향으로는 전이된 분포와 타겟 분포의 융합 전략을 더 적응적으로 개선하고, Gromov-Wasserstein 거리와 같은 구조 인식 수송 비용을 도입하는 것을 제안하고 있습니다.