DeepInterestGR: Mining Deep Multi-Interest Using Multi-Modal LLMs for Generative Recommendation

이 논문은 기존 생성형 추천 시스템의 얕은 관심사 문제를 해결하기 위해 멀티모달 LLM 기반의 심층 관심사 마이닝, 보상 라벨링, 그리고 의미 식별자 생성을 결합한 DeepInterestGR 모델을 제안하고, 이를 통해 다양한 벤치마크에서 최첨단 성능을 입증했습니다.

핵심

🎧 핵심 비유: "단순한 장부" vs "깊은 심리 분석가"

기존의 추천 시스템 (예: "이걸 샀으면 저것도 사세요") 은 마치 단순한 장부를 보는 것과 같습니다.

• 기존 방식: "사용자가 '운동화'를 샀으니, '운동화'와 이름이 비슷한 '운동용 양말'을 추천해라."
• 문제점: 사용자는 단순히 '운동화'를 산 게 아니라, **'건강한 라이프스타일'**을 추구하거나 **'출근길 편안함'**을 원해서 샀을 수도 있습니다. 하지만 시스템은 표면적인 이름 (운동화) 만 보고 추천하므로, 사용자의 진짜 마음을 놓치게 됩니다. 이를 논문에서는 "얕은 관심 (Shallow Interest)" 문제라고 부릅니다.

DeepInterestGR은 이 문제를 해결하기 위해 **초지능 심리 분석가 (최신 AI)**를 고용합니다.

• 새로운 방식: "사용자가 '운동화'를 샀네? 이 사용자는 아마 **'건강한 삶을 추구하는 사람'**이거나 **'바쁜 출근길에 편안함을 원하는 직장인'**일 거야. 그래서 운동화뿐만 아니라 '건강한 간식'이나 '편안한 재킷'도 추천해줘야 해."

---

🚀 DeepInterestGR 의 3 가지 핵심 기술 (비유 버전)

이 시스템은 크게 세 가지 단계로 작동합니다.

1. 여러 명의 전문가가 함께 고민하기 (Multi-LLM Interest Mining)

• 비유: 한 명의 전문가만 믿는 게 아니라, GPT, Gemini, Kimi, Grok 등 서로 다른 성향을 가진 최고의 AI 전문가 4 명을 한 팀으로 모았습니다.
• 작동 원리:
  • 이 전문가들은 상품 사진과 설명을 보며 "이 사람은 왜 이걸 샀을까?"라고 **생각의 흐름 (Chain-of-Thought)**을 따라가며 추론합니다.
  • 예: "이 귀걸이는 디자인이 화려하네? 이 사용자는 **'패션에 민감한 트렌드 세터'**일 수도 있고, **'특별한 날을 기념하려는 사람'**일 수도 있어."
  • 여러 전문가의 의견을 합쳐서 사용자의 **진짜 취향 (Deep Interest)**을 찾아냅니다.

2. 취향을 '코드'로 변환하기 (Interest-Enhanced Item Discretization)

• 비유: 찾아낸 복잡한 취향 설명을 **컴퓨터가 이해할 수 있는 짧은 암호 (Semantic ID)**로 바꿉니다.
• 작동 원리:
  • "건강한 라이프스타일 추구"라는 긴 문장을 #001 같은 짧은 코드로 변환합니다.
  • 이렇게 하면 컴퓨터는 "운동화"라는 물건 자체보다, 그 물건이 가진 '건강 추구'라는 의미를 더 잘 이해하게 됩니다.

3. 칭찬과 벌칙을 주는 '코치' (Reward-Labeled Deep Interest)

• 비유: 추천을 할 때, 단순히 "맞았으면 점수 +1"이 아니라, **"사용자의 진짜 취향에 맞았으면 점수 +10"**이라고 가르칩니다.
• 작동 원리:
  • AI 가 추천한 상품이 사용자의 '깊은 취향' (예: 건강 추구) 과 맞다면 **상 (Reward)**을 줍니다.
  • 단순히 이름만 비슷한 상품을 추천하면 **벌 (No Reward)**을 줍니다.
  • 이 과정을 통해 AI 는 점점 더 사용자의 마음을 잘 읽는 명석한 코치가 됩니다.

---

📊 실험 결과: 왜 이 시스템이 더 잘할까?

이 시스템은 아마존의 화장품, 스포츠 용품, 악기 리뷰 데이터를 가지고 테스트했습니다.

1. 압도적인 성능: 기존 최고의 추천 시스템들보다 약 10~15% 더 정확하게 다음 상품을 예측했습니다.
2. 다양한 분야 적응: 한 분야 (예: 화장품) 에서 배운 '취향'을 다른 분야 (예: 스포츠) 에도 잘 적용했습니다.
   • 이유: "화장품"과 "운동화"는 다르지만, **'세련된 스타일을 좋아하는 마음'**은 같기 때문입니다. DeepInterestGR 은 이 보편적인 마음을 찾아내서 다른 분야에서도 잘 작동합니다.
3. 이미지의 힘: 글자만 보고 분석하는 것보다, 상품 사진까지 함께 분석했을 때 (멀티모달) 훨씬 더 정확한 취향을 찾아냈습니다. (예: 화장품의 색상과 질감을 보고 '화려한 스타일'을 감지)

---

💡 결론: 이 기술이 우리에게 주는 의미

이 논문은 "사용자가 무엇을 샀는지 (표면)"가 아니라, "사용자가 왜 샀는지 (이유와 취향)"를 이해하는 것이 미래의 추천 시스템 핵심이라고 말합니다.

• 기존: "이걸 샀으니 저것도 사세요." (단순 반복)
• DeepInterestGR: "당신은 건강과 스타일을 중요하게 생각하시네요. 이 상품은 당신의 그 취향을 완벽하게 맞춰드릴 수 있어요." (깊은 이해)

이 기술이 상용화되면, 우리는 더 이상 원하지 않는 광고나 추천을 보지 않게 되고, 정말 내 마음을 알아주는 AI 비서를 만나게 될 것입니다.

기술 요약

1. 문제 정의 (Problem)

기존의 생성형 추천 시스템 (Generative Recommendation) 은 아이템 예측을 자동 회귀적 (autoregressive) 인 시맨틱 ID(SID) 생성 문제로 재정의하여 확장성 (Scaling) 을 입증해 왔습니다. 그러나 기존 방법론들은 다음과 같은 "얕은 관심 (Shallow Interest)" 문제를 겪고 있습니다.

• 표면적 특징 의존: 아이템을 제목, 설명과 같은 표면적인 텍스트 특징만으로 인코딩합니다.
• 잠재적 관심 포착 실패: 사용자의 행동 뒤에 숨겨진 의미론적으로 풍부하고 잠재적인 관심사 (예: '무선 이어폰' 구매가 '운동 라이프스타일'이나 '출퇴근 편의성'에 대한 관심임을 파악하는 등) 를 추출하지 못합니다.
• 한계: 이로 인해 추천의 개인화 깊이가 제한되고, 추천 과정의 해석 가능성 (Interpretability) 이 떨어지며, 강화 학습 (RL) 시 의미론적 지도 신호가 부재하여 최적화가 제한됩니다.

2. 방법론 (Methodology)

이 논문은 DeepInterestGR이라는 새로운 프레임워크를 제안하며, 생성형 추천 파이프라인에 심층 관심 (Deep Interest) 마이닝을 통합합니다. 주요 구성 요소는 다음과 같습니다.

가. Multi-LLM 관심 마이닝 (MLIM)

• 개념: Frontier LLM(GPT-5.1, Gemini-3-Pro, Kimi-K2-Thinking, Grok-4 등) 과 그 멀티모달 버전을 활용하여 사용자와 아이템의 심층 텍스트 및 시각적 관심사를 추출합니다.
• 기법: 체인 오브 씽킹 (Chain-of-Thought, CoT) 프롬프팅을 사용하여 명시적 속성 분석, 잠재적 의도 추론, 해석 가능한 관심 태그 생성을 수행합니다.
• 앙상블: 여러 LLM 의 출력을 집계하여 (Consensus 및 유사성 병합) 개별 모델이 놓칠 수 있는 상호 보완적인 관심사를 포착합니다.
• 멀티모달: 시각적 콘텐츠 (이미지) 가 있는 경우, 멀티모달 LLM 을 통해 미적/라이프스타일 속성을 추출하여 텍스트 정보와 결합합니다.

나. 보상 레이블링 심층 관심 (RLDI)

• 목적: 하류 강화 학습을 위한 관심사의 품질을 보장합니다.
• 기법: 경량 이진 분류기 (Qwen-Chat 기반) 를 사용하여 추출된 관심사에 '긍정 (Positive)' 또는 '부정 (Negative)' 레이블을 할당합니다. 이는 추후 RL 의 감독 신호로 활용됩니다.

다. 관심 강화 아이템 이산화 (IEID)

• 개념: 선별된 심층 관심사를 시맨틱 임베딩으로 인코딩하고, 이를 RQ-VAE(Residual Quantization VAE) 를 통해 시맨틱 ID(SID) 토큰으로 양자화합니다.
• 효과: 표면적 텍스트 유사성이 아닌, 잠재적 관심사 기반의 의미론적 관계를 SID 공간에 반영하여 생성 모델이 더 풍부한 아이템 표현을 학습하도록 합니다.

라. 2 단계 훈련 파이프라인

1. 지도 미세 조정 (SFT): 심층 관심 신호와 협업 필터링 패턴을 모두 반영하여 생성 모델을 정렬합니다.
2. 강화 학습 (RL, GRPO): **관심 인지 보상 (Interest-Aware Reward)**을 사용하여 정책을 최적화합니다.
   • 보상 함수: 기본 추천 정확도 + 긍정적 관심사와 일치하는 경우의 추가 보상 (RLDI 레이블 기반).
   • 알고리즘: 그룹 상대 정책 최적화 (GRPO) 를 사용하여 효율적인 RL 학습을 수행합니다.

3. 주요 기여 (Key Contributions)

1. 문제 제기 및 해결: 생성형 추천의 '얕은 관심' 문제를 식별하고, 이를 해결하기 위해 LLM 기반 심층 관심 마이닝을 통합한 DeepInterestGR 프레임워크를 제안했습니다.
2. 3 가지 핵심 혁신:
   • MLIM: 다중 LLM 과 CoT 를 활용한 심층 관심 추출.
   • RLDI: RL 을 위한 관심사 품질 제어 및 보상 라벨링.
   • IEID: 관심사를 SID 토큰에 인코딩하여 아이템 표현을 강화.
3. 새로운 보상 메커니즘: RL 학습을 위한 '관심 인지 보상 (Interest-Aware Reward)'을 설계하여, 단순 행동 신호가 아닌 의미론적 감독을 통해 더 개인화된 추천을 가능하게 했습니다.
4. 성능 입증: 대규모 벤치마크에서 기존 최첨단 (SOTA) 모델들을 압도하는 성능을 입증했습니다.

4. 실험 결과 (Results)

• 데이터셋: Amazon Review Dataset (Beauty, Sports, Instruments) 의 3 개 서브카테고리.
• 성능: HR@K 및 NDCG@K 지표에서 기존 SOTA 모델 (SASRec, BERT4Rec, TIGER, LC-Rec, MiniOneRec 등) 보다 **9.2% ~ 15.1%**의 상대적 개선을 달성했습니다.
  • 특히 MiniOneRec(동일 백본, 다른 관심 모델링) 대비 HR@5 에서 10.8%~13.6% 향상.
• Ablation Study:
  • MLIM 제거: 성능이 가장 크게 하락 (HR@5 기준 약 11.8% 감소) 하여 심층 관심 마이닝의 핵심 역할을 입증.
  • RL 단계 제거: SFT 만 사용할 때보다 약 16.4% 성능 저하 발생, RL 의 중요성 확인.
• 멀티모달 효과: 텍스트만 사용하는 경우 대비 멀티모달 (이미지 포함) 마이닝 시 모든 지표에서 5.0%~5.8% 향상 (특히 Beauty 도메인에서 효과적).
• 교차 도메인 일반화: 한 도메인에서 학습하여 다른 도메인에서 테스트했을 때, 기존 모델 대비 평균 24.8% (HR@10) ~ 27.3% (N@10) 의 성능 향상을 보이며, 심층 관심사가 도메인 간 전이 가능한 패턴임을 입증했습니다.

5. 의의 및 결론 (Significance)

• 패러다임 전환: 추천 시스템이 단순한 아이템 매칭을 넘어, LLM 의 추론 능력을 통해 사용자의 잠재적 의도와 라이프스타일을 이해하는 단계로 발전했음을 보여줍니다.
• 해석 가능성: SID 기반 생성 모델에 의미론적 관심사를 통합함으로써, '왜 이 아이템이 추천되었는지'에 대한 해석 가능성을 높였습니다.
• 확장성: LLM 의 세계 지식과 강화 학습을 결합하여, 기존 임베딩 기반 모델의 확장성 한계를 극복하고 더 깊은 개인화 추천을 가능하게 하는 새로운 아키텍처를 제시했습니다.

이 연구는 생성형 추천 시스템이 단순한 시퀀스 예측을 넘어, 사용자의 심층적인 심리와 맥락을 이해하는 지능형 시스템으로 진화할 수 있음을 실증적으로 증명했습니다.