When Relevance Meets Novelty: Dual-Stable Periodic Optimization for Serendipitous Recommendation

이 논문은 기존 추천 시스템의 피로감과 LLM 기반 프레임워크의 한계를 극복하기 위해, 장기적 그룹 정체성과 단기적 개인 관심을 통합하는 '이중-안정적 관심 탐색 (DSIE)' 모듈과 점진적 데이터를 활용한 동적 폐루프 최적화를 가능하게 하는 '주기적 협력 최적화 (PCO)' 메커니즘을 도입한 '공진정렬 (CoEA)' 방법을 제안하여 우연성 추천의 효과성을 입증합니다.

핵심

"적당히 익숙하고, 적당히 새롭다": 메이트 (Meituan) 의 새로운 추천 시스템 이야기

이 논문은 우리가 매일 쓰는 추천 시스템 (예: 맛집 추천, 영상 추천) 이 가진 두 가지 큰 문제를 해결한 새로운 방법론을 소개합니다.

1. 왜 새로운 방법이 필요할까요? (현재의 문제점)

지금까지의 추천 시스템은 **"너가 좋아했던 걸 또 보여줘"**라는 방식이었습니다.

• 문제 1 (지루함): 당신이 '김치찌개'를 좋아하면, 시스템은 계속 김치찌개만 추천합니다. 결국 당신은 지루해지고 새로운 맛을 찾을 기회를 잃게 됩니다.
• 문제 2 (잘못된 추측): AI 가 당신의 '잠재적인' 취향을 찾아주려 할 때, 당신의 단순한 최근 행동만 보고 판단합니다. 예를 들어, 당신이 최근 '여행' 관련 영상을 봤다고 해서, 당신이 평생 '등산'을 좋아한다는 걸 모르고 '해변 리조트'만 추천할 수 있습니다. 당신의 **진짜 정체성 (장기적 취향)**을 놓치는 것입니다.

2. 이 논문이 제안한 해결책: "CoEA" (공진화 정렬)

이 연구팀은 "적당히 익숙한 것 (Relevance)"과 "적당히 새로운 것 (Novelty)"이 만나는 지점을 찾기 위해 두 가지 핵심 기술을 개발했습니다.

🌟 핵심 기술 1: "이중 안정성 취향 탐험" (DSIE)

비유: "오랜 친구 (그룹)"와 "오늘의 기분 (개인)"을 동시에 듣는 상담사

기존 시스템은 당신의 '오늘의 기분 (최근 클릭)'만 보고 추천했습니다. 하지만 이 시스템은 두 가지를 동시에 봅니다.

1. 장기적 취향 (그룹 정체성): 당신은 10 년 동안 '기술 덕후'였나요? 아니면 '요리 마니아'였나요? 이는 당신의 본질적인 정체성입니다. 이 시스템은 당신의 과거 데이터를 분석해 당신을 '기술 덕후 그룹'에 속한 사람으로 분류합니다.
2. 단기적 취향 (개인 상황): 오늘 당신은 갑자기 '베이킹'에 관심이 생겼나요?

이 시스템은 **"당신은 기본적으로 '기술 덕후'지만, 오늘은 '베이킹'에 관심이 있네?"**라고 생각하며, 기술 덕후들이 좋아할 만한 '새로운 베이킹 도구'를 추천해 줍니다. 단순히 최근 행동만 보면 '요리'만 추천했을 텐데, **당신의 정체성 (그룹)**을 고려하니 더 정확한 추천이 가능해진 것입니다.

🔄 핵심 기술 2: "주기적 협력 최적화" (PCO)

비유: "요리사 (새로운 것)"와 "미식가 (검증자)"의 끊임없는 대화

기존 시스템은 한 번 추천 목록을 만들면 끝났습니다. 하지만 이 시스템은 지속적인 피드백 루프를 만듭니다.

1. 요리사 (Novelty LLM): "이런 새로운 메뉴를 만들어볼까요?"라고 다양한 아이디어를 냅니다.
2. 미식가 (Relevance LLM): "음... 이 메뉴는 이 고객님이 좋아할 것 같네요. 하지만 저건 너무 낯설어서 거절당할 것 같아요."라고 점수를 매겨 검증합니다.
3. 협력과 학습: 미식가의 평가를 받은 요리사는 "아, 이 고객님은 이런 스타일을 더 좋아했구나!"라고 배우고, 다음에 더 좋은 메뉴를 만듭니다.
4. 반복: 이 과정이 주기적으로 반복되면서, 시스템은 고객의 취향이 변할 때마다 실시간으로 적응합니다. 마치 요리사와 미식가가 매일 저녁을 함께 먹으며 서로의 입맛을 맞춰가는 것과 같습니다.

3. 실제 효과는 어땠나요?

이 시스템은 중국의 거대 배달 앱인 **'메이트 (Meituan)'**에서 실제로 테스트되었습니다.

• 결과: 사용자들이 더 만족하는 추천을 받았고 (품질 향상), 동시에 전혀 몰랐던 새로운 맛집이나 상품을 발견하는 기회도 늘어났습니다 (새로움 향상).
• 비즈니스 효과: 매출 (GTV) 이 1.2% 증가했고, 사용자들이 새로운 상품을 더 많이 접하게 되었습니다.

4. 요약: 이 기술이 주는 교훈

이 논문은 **"사용자를 단순히 '최근 클릭한 사람'이 아니라, '오랜 시간 쌓아온 정체성을 가진 사람'으로 봐야 한다"**는 것을 보여줍니다.

• 과거: "네가 좋아했던 걸 계속 줄게." (지루함)
• 과거의 AI: "네가 요즘 뭐 봤는지 보고 추측할게." (잘못된 추측)
• 이 새로운 AI: "네가 누구인지 (그룹 정체성) 알고, 네가 지금 무엇을 원하는지 (단기 취향) 파악해서, 너에게 딱 맞는 새로운 발견을 선물해 줄게."

이처럼 익숙함과 새로움의 균형을 맞추는 기술이 바로 이 'CoEA'입니다.

기술 요약

1. 문제 정의 (Problem Statement)

기존 추천 시스템은 사용자의 과거 선호도에 지나치게 맞춰진 콘텐츠를 강력하게 추천함으로써 강한 피드백 루프 (Strong Feedback Loop) 에 갇히는 경향이 있습니다. 이로 인해 사용자는 새로운 관심사를 탐색할 기회를 잃고 콘텐츠 피로 (Content Fatigue) 를 겪게 됩니다.

최근 대규모 언어 모델 (LLM) 을 활용한 이중 모델 (Dual-Model) 프레임워크가 등장했으나, 두 가지 주요 한계가 존재합니다:

1. 관심 모델링 편향 (Interest Modeling Bias): 기존 방법들은 주로 단기적 행동 시퀀스만을 활용하여 장기적인 집단 정체성 (Group Identity, 예: '기술 애호가') 에서 비롯된 장기적 안정적 선호도를 간과합니다. 이로 인해 새로움 (Novelty) 탐색이 사용자의 실제 필요와 동떨어질 수 있습니다.
2. 정적 최적화의 한계 (Static Optimization Flaws): 기존 방식은 Relevance LLM(적합성 모델) 의 피드백을 한 번만 받아 Novelty LLM(새로움 모델) 을 정렬하고 정적 데이터베이스를 생성합니다. 이는 증분 데이터 (Incremental Data) 를 활용한 폐쇄 루프 (Closed-loop) 최적화를 불가능하게 하여, 동적으로 변화하는 사용자 행동을 반영하지 못합니다.

2. 제안 방법: CoEA (Co-Evolutionary Alignment)

저자들은 위 문제를 해결하기 위해 CoEA (공진화 정렬) 방법을 제안합니다. 이 방법은 이중 안정적 관심 탐색 (DSIE) 모듈과 주기적 협력 최적화 (PCO) 메커니즘을 핵심으로 합니다.

2.1 이중 안정적 관심 탐색 (Dual-Stable Interest Exploration, DSIE)

사용자의 집단적 안정성과 개인적 시의성을 동시에 모델링하는 모듈입니다.

• 장기 시퀀스 처리: 사용자의 장기 클릭 시퀀스를 필터링하고, Causal Self-Attention을 통해 임베딩합니다. 이후 RQ-VAE (Residual-Quantized VAE) 를 사용하여 연속적인 임베딩을 이산적인 그룹 협업 의미 ID (Group CSID) 로 변환합니다. 이는 사용자를 '기술 애호가'와 같은 안정적인 그룹으로 클러스터링하며, 대표 사용자의 행동 기반 텍스트 프로필을 생성합니다.
• 단기 시퀀스 처리: 최근 클릭 시퀀스를 세분화된 카테고리 매핑을 통해 처리하여 사용자의 즉각적인 관심사를 포착합니다.
• 결합: 장기적 그룹 정체성 (CSID) 과 단기적 관심 카테고리를 병렬로 처리하여 사용자의 종합적인 표현을 생성합니다.

2.2 주기적 협력 최적화 (Periodic Collaborative Optimization, PCO)

정적 최적화의 한계를 극복하기 위해 양방향 폐쇄 루프 (Bidirectional Closed-loop) 를 구축합니다.

• Novelty LLM (새로움 생성): 사용자 프로필 (CSID) 과 최근 관심사를 기반으로 새로운 후보 카테고리를 생성합니다.
• Relevance LLM (적합성 검증): 생성된 후보 카테고리에 대해 사용자 선호도 검증 (점수 매기기) 을 수행합니다.
• 동적 피드백 루프:
  1. Relevance LLM 의 검증 결과 (선호/비선호) 를 바탕으로 Novelty LLM 을 증분 미세 조정 (Incremental Fine-tuning) 합니다.
  2. 이때 KL 발산 (KL Divergence) 손실 항을 도입하여 재앙적 망각 (Catastrophic Forgetting) 을 방지하고 기존 지식 유지와 새로운 관심사 탐색 사이의 균형을 맞춥니다.
  3. 미세 조정된 Novelty LLM 의 출력을 다시 Relevance LLM 에게 피드백하여 재평가 (Re-scoring) 하는 과정을 주기적으로 반복합니다.
• 오프라인 저장: 최적화된 새로운 카테고리를 키 - 값 데이터베이스에 저장하여 온라인 서비스 시 효율적인 검색을 가능하게 합니다.

3. 주요 기여 (Key Contributions)

1. CoEA 프레임워크 제안: LLM 기반 추천의 탐색 (Exploration) 한계를 극복하기 위해 장기적 그룹 선호도 모델링과 동적 이중 모델 협업을 통합한 새로운 아키텍처를 제시했습니다.
2. DSIE 모듈 개발: 단기 행동만으로는 포착하기 어려운 장기적 집단 정체성을 RQ-VAE 기반의 CSID 로 추출하여, 추천의 안정성과 수용성을 높였습니다.
3. PCO 메커니즘 도입: 정적 정렬을 넘어, Relevance LLM 과 Novelty LLM 이 상호 작용하며 증분 데이터를 기반으로 지속적으로 진화하는 폐쇄 루프 최적화 방식을 구현했습니다.
4. 광범위한 검증: 오프라인 실험 (Movielens-1M, MTRec) 과 메이투안 (Meituan) 앱에서의 실제 온라인 A/B 테스트를 통해 방법론의 유효성을 입증했습니다.

4. 실험 결과 (Results)

오프라인 실험 (Movielens-1M 및 MTRec 데이터셋)

• 성능 향상: CoEA 는 기존 최상위 베이스라인 (Two-tower, SASRec, Google-v1 등) 대비 품질 지표 (C-H@K, C-N@K) 에서 평균 0.73%, 새로움 지표 (NCP@K, CLTP@K) 에서 평균 19.34% 향상을 보였습니다.
• 장기 꼬리 (Long-tail) 발견: CLTP(장기 꼬리 카테고리 비율) 지표에서 27.14% 의 큰 개선을 기록하며, 기존 시스템이 놓치기 쉬운 새로운 관심사를 효과적으로 발굴함을 증명했습니다.
• Ablation Study:
  • 장기 시퀀스 제거 (w/o Long): 품질 지표가 약 5.9% 하락하여 장기적 선호도 모델링의 중요성을 확인했습니다.
  • Relevance LLM 제거 (w/o R-LLM): 품질이 급격히 저하되어, 적합성 검증이 없으면 추천의 질이 떨어짐을 보였습니다.
  • KL 손실 제거 (w/o KL): 미세 조정 반복 시 새로움 지표가 급감하며 재앙적 망각이 발생함을 확인했습니다.

온라인 A/B 테스트 (메이투안 앱)

• 비즈니스 지표: GTV(총 거래 금액) 가 +1.203% 증가했습니다.
• 새로움 지표: 7 일 신규 아이템 노출 비율 (7D-NIEP) 이 +2.364% 증가했습니다.
• 이는 CoEA 가 사용자의 잠재적 관심사를 발견하면서도 추천의 관련성을 유지하여 비즈니스 성과와 사용자 경험을 동시에 최적화했음을 의미합니다.

5. 의의 및 결론 (Significance)

이 논문은 추천 시스템의 고질적인 문제인 탐색과 활용 (Exploration-Exploitation) 의 딜레마를 해결하는 새로운 패러다임을 제시합니다.

• 이론적 의의: LLM 을 단순히 콘텐츠 생성 도구가 아닌, 사용자의 장기적 정체성과 단기적 행동을 통합하여 진화시키는 '공진화 (Co-Evolutionary)' 시스템으로 재정의했습니다.
• 실무적 의의: 대규모 산업 환경 (메이투안) 에서 실제 배포되어 비즈니스 지표와 사용자 만족도를 동시에 개선한 사례는, LLM 기반 추천 시스템의 실용성을 입증한 중요한 사례입니다.
• 향후 방향: 콜드 스타트 사용자를 위한 실시간 모델 업데이트 최적화 등 지속적인 개선이 필요함을 제시했습니다.

요약하자면, 이 연구는 LLM 의 추론 능력과 사용자 행동 데이터의 동적 피드백을 결합하여, 사용자를 정보의 필터 버블에서 벗어나게 하고 지속 가능한 우연적 발견 (Serendipity) 을 가능하게 하는 강력한 프레임워크를 제안했습니다.