Give Users the Wheel: Towards Promptable Recommendation Paradigm

이 논문은 기존 순차 추천 모델의 효율성과 협업 신호를 유지하면서 자연어 프롬프트로 사용자의 즉각적인 의도를 반영할 수 있도록 협업 및 시맨틱 신호를 정렬하고, 모순된 그래디언트를 분리하며, 3 단계 학습 전략을 도입한 모델-중립적 프레임워크인 'DPR(Decoupled Promptable Sequential Recommendation)'을 제안합니다.

핵심

1. 문제점: "고집 센 추천 시스템"

지금까지의 추천 시스템 (예: 유튜브, 넷플릭스 추천) 은 마치 오래된 운전사와 같습니다.

• 상황: 당신이 평소에는 액션 영화를 좋아한다고 칩시다. 그런데 오늘따라 아이들과 함께 볼 수 있는 애니메이션을 보고 싶다고 말합니다.
• 기존 시스템의 반응: "아니요, 당신은 지난 1 년 동안 액션 영화만 봤으니, 이번에도 '데스 스트랜딩'을 추천해 드릴게요."
• 이유: 이 시스템은 당신의 **과거 행동 (데이터)**에만 맹목적으로 의존합니다. 당신이 "지금 당장" 무엇을 원하는지 (명령어) 는 전혀 듣지 못합니다.

2. 기존 해결책의 한계: "LLM(거대 언어 모델) 의 딜레마"

최근에는 AI(LLM) 를 도입해서 이 문제를 해결하려 했습니다. 하지만 두 가지 방식 모두 문제가 있었습니다.

1. LLM 이 아예 추천을 다 하는 경우: AI 가 모든 걸 알아서 해줍니다. 하지만 속도가 너무 느리고, 과거의 수많은 사용자 데이터를 학습한 '정교한 추천 능력'을 잃어버립니다. (마치 F1 레이싱카를 개조해서 트럭으로 만든 것과 비슷합니다.)
2. LLM 이 다시 정렬 (Rerank) 하는 경우: 기존 시스템이 먼저 후보를 뽑아내고, AI 가 그중에서 고릅니다. 하지만 만약 기존 시스템이 아예 '애니메이션'이라는 후보를 뽑아내지 못하면, AI 가 아무리 잘해도 고를 수 있는 게 없습니다. (마치 요리사가 재료도 없이 요리를 하라고 시키는 것과 같습니다.)

3. 이 논문의 해결책: "DPR(운전대를 넘겨주는 시스템)"

이 논문은 **"기존의 빠른 추천 엔진 (운전대) 을 그대로 쓰되, 사용자가 말로 지시하면 그 지시를 바로 반영하는 시스템"**을 만들었습니다.

핵심 비유: "마법 지팡이와 나침반"

• 기존 시스템 (나침반): 당신의 과거 취향 (역사) 을 바탕으로 가장 가까운 길을 가도록 안내합니다. 매우 빠르고 정확합니다.
• 사용자의 명령 (마법 지팡이): "애니메이션으로 가줘!" 또는 "공포영화는 절대 안 돼!"라고 말합니다.
• DPR 의 역할: 나침반이 가리키는 방향을 마법 지팡이로 살짝 꺾어줍니다.
  • 과거의 취향 (나침반) 을 완전히 무시하지도 않고,
  • 지금의 명령 (마법 지팡이) 을 무시하지도 않습니다.
  • 두 가지를 자연스럽게 섞어서 가장 이상적인 길을 찾아냅니다.

4. 어떻게 작동할까? (기술적 원리를 쉽게 풀어서)

이 시스템은 세 가지 핵심 장치를 가지고 있습니다.

1. 융합 모듈 (Fusion Module):
   • 과거 취향 데이터와 지금의 말 (명령어) 을 서로 이해할 수 있도록 번역해 주는 통역사 역할을 합니다.
2. 전문가 팀 (Mixture-of-Experts, MoE):
   • 긍정 지시 ("코미디 보여줘"): 좋아하는 것을 더 부각시키는 전문가가 나섭니다.
   • 부정 지시 ("공포영화 빼줘"): 싫어하는 것을 억제하는 다른 전문가가 나섭니다.
   • 이 두 가지 명령은 서로 충돌할 수 있기 때문에, 별도의 전문가 팀이 각각 처리해서 서로 방해하지 않도록 합니다. (마치 운전할 때 엑셀과 브레이크를 동시에 밟으면 차가 망가질 수 있으니, 각각의 역할을 명확히 분리한 것과 같습니다.)
3. 3 단계 훈련 (Three-Stage Training):
   • 1 단계: 기본적인 추천 능력 (과거 취향 파악) 을 다집니다.
   • 2 단계: 대략적인 카테고리 (장르) 를 이해하도록 가르칩니다.
   • 3 단계: 아주 구체적인 말 (예: "아이들과 함께 볼 수 있는 따뜻한 느낌") 을 이해하도록 세밀하게 조정합니다.

5. 결과: 무엇이 달라졌을까?

실험 결과, 이 시스템은 다음과 같은 성과를 냈습니다.

• 사용자의 명령을 정확히 따릅니다: "애니메이션 보여줘"라고 하면, 과거에 액션만 봤더라도 애니메이션을 잘 찾아냅니다.
• 기존 성능도 유지합니다: 명령을 내리지 않아도 평소처럼 잘 추천합니다.
• 속도가 빠릅니다: 무거운 AI 를 매번 실행하는 게 아니라, 기존 시스템을 살짝 수정하는 방식이라 매우 빠릅니다.

요약

이 논문은 **"추천 시스템이 사용자의 말을 들을 수 있게 하되, 너무 느려지거나 엉뚱한 짓을 하지 않도록 하는 방법"**을 제시합니다.

마치 스마트한 조수석이 있는 것과 같습니다. 과거의 운전 습관 (데이터) 을 기억하면서도, 운전자가 "지금 여기로 좀 우회전해"라고 말하면 즉시 그 방향으로 핸들을 꺾어주는, 사용자가 진짜 운전대를 쥔 추천 시스템을 만든 것입니다.

기술 요약

1. 문제 정의 (Problem Definition)

기존의 순차적 추천 시스템 (Sequential Recommendation, SR) 은 사용자의 과거 행동 패턴을 기반으로 잠재적 선호도를 파악하는 데 탁월한 성과를 거두었습니다. 그러나 이러한 아키텍처는 **사용자의 명시적 의도 (Explicit User Intent)**에 구조적으로 무감각하다는 치명적인 한계가 있습니다.

• 핵심 문제: 사용자가 과거 행동과 상반되는 즉각적인 요청 (예: 평소 액션 영화를 좋아하지만, 아이들과 함께 볼 애니메이션을 요청하는 경우) 을 할 때, 기존 모델은 과거 데이터의 관성 (Inertia) 에 갇혀 사용자의 현재 요청을 무시하고 과거 패턴대로 추천을 계속합니다.
• 기존 대안의 한계:
  1. LLM 을 추천기로 직접 사용 (LLM-as-a-recommender): 의미적 추론 능력은 뛰어나지만, 대규모 협업 필터링 (Collaborative Filtering) 신호를 잃고 추론 지연 (Latency) 이 커서 실용성이 떨어집니다.
  2. 재순위화 (Reranking): LLM 을 재순위화 단계에 도입하지만, 이는 기존 모델이 초기 검색 (Recall) 단계에서 관련 아이템을 찾지 못하면 (예: 사용자의 의도 변화로 인해) 최적화할 후보가 없어 실패합니다.

따라서, 협업 필터링의 효율성과 자연어 지시 (Instruction) 의 제어 능력을 동시에 확보하는 새로운 패러다임이 필요합니다.

---

2. 제안 방법론: DPR (Decoupled Promptable Sequential Recommendation)

저자들은 기존 순차적 추천 백본 (Backbone) 을 자연어 프롬프트로 직접 제어할 수 있도록 하는 DPR 프레임워크를 제안합니다. 이는 ID 기반 검색의 효율성을 유지하면서 자연어를 통해 검색 공간을 동적으로 조종하는 것을 목표로 합니다.

2.1 핵심 아키텍처 구성 요소

1. 분리된 구조 (Decoupled Design):

   • Sequential Encoder: SASRec, GRU4Rec 등 기존 모델과 호환 가능한 백본으로, 사용자의 역사적 행동 ($S_u$) 에서 내재적 선호도 ($h_u$) 를 추출합니다.
   • Prompt Embedder: Sentence-BERT 등을 사용하여 자연어 프롬프트 ($p$) 를 잠재 벡터 ($c_p$) 로 인코딩합니다.
   • 신호 융합 모듈 (Signal Fusion Module): 협업 신호 ($h_u$) 와 의미 신호 ($c_p$) 를 정렬하고 결합합니다.

2. 혼합 전문가 (Mixture-of-Experts, MoE) 타워:

   • 사용자의 요청은 **긍정적 지시 (Positive Steering, 예: "코미디 보여줘")**와 **부정적 제약 (Negative Suppression, 예: "공포영화 제외")**으로 나뉩니다.
   • 이 두 가지 작업은 서로 상충되는 최적화 그라디언트 (Gradient) 를 생성하므로, **별도의 병렬 융합 블록 (Positive Fusion Block, Negative Fusion Block)**을 설계하여 각기 다른 전문가 (Expert) 가 처리하도록 합니다.
   • Multi-Head Cross-Attention (MHCA): 사용자 표현을 Query, 프롬프트 벡터를 Key/Value 로 사용하여 상호작용을 수행하며, 잔차 연결 (Residual Connection) 을 통해 원래 선호도를 훼손하지 않도록 합니다.

3. 3 단계 학습 전략 (Three-Stage Training Strategy):

   • Stage 1 (Pre-training): 순차적 추천 모델의 기본 성능을 확보합니다.
   • Stage 2 (Coarse-grained Alignment): 사용자 표현을 넓은 카테고리 (장르) 임베딩과 정렬합니다.
   • Stage 3 (Fine-grained Semantic Alignment): LLM 을 활용하여 아이템 메타데이터에 상세한 시맨틱 태그 (서사, 분위기, 매력도 등) 를 생성하고, 이를 프롬프트와 정렬합니다. 이는 단순 키워드 매칭이 아닌 깊은 의미 이해를 가능하게 합니다.

4. 통합 손실 함수 (Unified Loss Function):

   • 긍정적 지시 시: 목표 아이템의 확률을 최대화합니다.
   • 부정적 제약 시: 금지된 아이템을 제외한 유효한 후보 집합 전체에 확률 질량을 재분배하여 간접적으로 금지된 아이템의 점수를 낮춥니다.

---

3. 주요 기여 (Key Contributions)

1. 프롬프트 가능 추천 (Promptable Recommendation) 패러다임 정의: 협업 필터링의 효율성과 자연어의 제어 가능성을 결합하여, 사용자가 긍정적 지시와 부정적 제약을 통해 추천을 능동적으로 조종할 수 있는 새로운 정의를 제시했습니다.
2. 모델 중립적 (Model-Agnostic) 프레임워크 DPR 제안: 기존 백본을 교체하지 않고도 프롬프트 기능을 추가할 수 있는 분리된 아키텍처를 설계했습니다.
   • 의미 및 협업 신호 정렬을 위한 퓨전 모듈.
   • 상충되는 제어 신호를 처리하기 위한 MoE 타워.
   • 다양한 모달리티 (프롬프트 유무) 에 대한 강건성을 보장하는 3 단계 학습 전략.
3. 광범위한 실험을 통한 검증: 실제 데이터셋 (MovieLens-1M, MIND) 에서 기존 SOTA 방법론 (LLM 기반 및 전통적 모델) 을 압도하는 성능을 입증했습니다.

---

4. 실험 결과 (Results)

실험은 MovieLens-1M 과 MIND 데이터셋을 기반으로 수행되었으며, 주요 결과는 다음과 같습니다.

• 기존 순차적 추천 모델 대비 성능:
  • 긍정적 지시 (Positive Steering): DPR 은 필터링 기반 베이스라인 (Filter Baseline) 대비 NDCG@10 에서 최대 71.84% (ML-1M, SASRec 기준) 향상을 보였습니다. 이는 단순히 후보를 필터링하는 것을 넘어, 프롬프트에 맞춰 랭킹 순서를 적극적으로 재배열 (Re-rank) 하기 때문입니다.
  • 부정적 제약 (Negative Suppression): GRU4Rec 백본의 경우 필터링 방식보다 우수한 성능을 보였으며, SASRec 백본의 경우에도 경쟁력 있는 성능을 유지했습니다.
• LLM 기반 추천 모델 대비 성능:
  • 일반 LLM (Qwen, Llama 등) 이나 파인튜닝된 추천 LLM (RecGPT 등) 보다 DPR 이 모든 지표에서 월등히 높은 성능을 기록했습니다. 특히 LLM 기반 재순위화는 후보 집합이 커질수록 노이즈에 취약해지는 반면, DPR 은 엔드 - 투 - 엔드 (End-to-End) 방식으로 단일 단계에서 강력한 제어를 가능하게 했습니다.
• 암시적 의도 이해 (Implicit Intent):
  • LLM 저자 (LLM-as-a-Judge) 평가를 통해, DPR 이 구체적인 장르명 대신 "스트레스를 풀 수 있는 영화"와 같은 추상적이고 감정적인 요청을 잘 이해하고 충족시키는 것을 확인했습니다.

---

5. 의의 및 결론 (Significance)

이 논문은 추천 시스템 분야에서 **"사용자가 추천의 주도권을 잡는다 (Give Users the Wheel)"**는 비전을 실현했습니다.

• 기술적 의의: 협업 필터링의 효율성과 LLM 의 의미 추론 능력을 상충 관계 (Trade-off) 가 아닌 상호 보완적으로 결합하는 아키텍처를 제시했습니다. 특히 긍정적/부정적 제어 신호를 분리된 경로 (MoE) 로 처리하여 최적화 충돌을 해결한 점이 핵심 혁신입니다.
• 실용적 의의: 대규모 LLM 을 실시간으로 구동할 필요 없이, 기존 경량화된 추천 백본에 프롬프트 기능을 추가함으로써 높은 처리량 (Throughput) 을 유지하면서도 사용자의 즉각적인 요구를 반영할 수 있는 실용적인 솔루션을 제공합니다.
• 미래 방향: 사용자의 동적인 의도를 실시간으로 반영하는 '프롬프트 가능 추천'이 차세대 추천 시스템의 표준 패러다임으로 자리 잡을 수 있음을 시사합니다.

결론적으로, DPR 은 사용자가 자연어로 직접 추천을 지시할 수 있게 함으로써, 과거 행동의 관성에 갇히지 않고 실시간 의도에 부합하는 맞춤형 경험을 제공하는 새로운 기준을 제시했습니다.