Semantic-Retrieval-Reasoning Pipeline: A Hybrid Large Language Model Framework for Intent-Aware and Explainable Bundle Recommendation

기술 요약: 시맨틱-리트리벌-리즈닝 파이프라인 (SRRP)

문제 정의
현재의 번들 추천 시스템(Bundle Recommender Systems, BRS)은 세 가지 과제에 직면해 있다: 설명 가능성의 결여, 경직된 번들 크기, 그리고 "단일 의도(mono-intent)" 가정이다. 제약 기반 알고리즘(Apriori, FP-Growth)부터 그래프 신경망(GNN, 예: BGCN 및 BundleNet)에 이르는 전통적인 방법들은 종-종 "블랙박스"로 기능하며, 아이템 그룹화에 대한 논리적 근거를 제공하지 못한다. 또한, 이러한 모델들은 사용자의 장바구니당 하나의 의도만을 가정하는 경우가 많아 단조로운 추천으로 이어진다. 최근 대규모 언어 모델(LLM)을 활용한 생성적 접근 방식이 설명 가능성을 도입했으나, 이는 계산 효율성 저하, 조합 폭발, 그리고 환각(hallucination) 현상의 문제를 겪고 있다. 이러한 문제를 완화하기 위해 기존의 생성 모델들은 흔히 정적이고 작은 번들 크기(예: 2~3개 아이템)를 강제하는데, 이는 대량 구매나 다중 의도 구매와 같은 실제 소비자의 역동적이고 다양한 요구를 수용하기에는 부적합하다.

방법론: 시맨틱-리트리벌-리즈닝 파이프라인 (SRRP)
저자들은 의도를 인지하고, 역동적이며, 설명 가능한 번들을 생성하기 위해 LLM 프롬프팅과 임베딩 기술을 세 단계의 파이프라인에 통합한 하이브리드 프레임워크인 SRRP를 제안한다.

1. 시맨틱 세그멘테이션 유닛 (Semantic Segmentation Unit, SSU):

   • 기능: 노이즈가 섞인 다중 의도의 장바구니를 별개의 의도 클러스터로 분해하는 인지적 필터 역할을 한다.
   • 메커니즘: 인컨텍스트 러닝(In-Context Learning, ICL)과 퓨샷(few-shot) 프롬프팅을 사용하는 LLM을 활용하여 시맨틱 클러스터링을 수행한다. SSU는 장바구니를 단일 벡터로 취급하는 대신, 사용 용도(예: "아침 식사", "사무용품")에 따라 아이템을 라벨링한다.
   • 이론적 근거: "시맨틱 분산 감소 정리(Semantic Variance Reduction Theorem)"는 아이템을 기능적 근접성에 따라 클러스터링하면 클러스터 내 시맨틱 분산을 줄일 수 있으며, 이를 통해 전체 장바구니를 하나의 엔티티로 처리할 때보다 검색 오차 범위를 최소화할 수 있다고 상정한다.

2. 컨텍스추얼 리트리벌 유닛 (Contextual Retrieval Unit, CRU):

   • 기능: SSU에서 생성된 의도 클러스터를 기반으로 역사적 데이터베이스로부터 사실적인 후보 번들을 검색한다.
   • 메커니즘: 의도 클러스터를 Sentence-Transformer(예: all-MiniLM-L6-v2)를 사용하여 고차원 밀집 벡터로 변환한다. 이 벡터들은 코사인 유사도(Cosine Similarity)를 사용하여 벡터 데이터베이스(ChromaDB)를 쿼리함으로써 시맨틱하게 관련 있는 과거의 번들을 찾아낸다.
   • 이론적 근거: "시맨틱 관련성 경계 정리(Semantic Relevance Bound Theorem)"는 밀집 벡터 검색이 키워드 중복 없이도 시맨틱하게 관련 있는 아이템을 식별할 수 있음을 입증하며, 전통적인 정확한 일치(exact-match) 또는 연관 규칙 방식보다 높은 재현율(recall)을 보인다.

3. 리즈닝 밸리데이션 유닛 (Reasoning Validation Unit, RVU):

   • 기능: 후보 번들을 검증하고, 번들 크기를 동적으로 조정하며, 설득력 있는 자연어 설명과 이름을 생성한다.
   • 메커니즘: 사고의 사슬(Chain-of-Thought, CoT) 프롬프팅을 채택하여 후보 아이템들과 사용자의 원래 장바구니 간의 논리적 보완성을 평가한다. 이를 통해 환각을 필터링하고, 무관한 아이템을 제거하며, 설명적 서사를 구축한다.
   • 인간 참여형(Human-in-the-Loop, HITL) 정렬: 인지적 정렬을 보장하고 환각을 방지하기 위해, RVU의 추론은 9명의 독립적인 인간 주석가에 의해 설정된 그라운드 트루스(ground truth)를 통해 검증된다. 시스템은 기계의 추론을 인간의 지각과 일치시키기 위해, 이 인간 합의로부터 선별된 예시를 주입하는 "다이나믹 CoT" 방식을 사용한다.
   • 이론적 근거: "다이나믹 번들 사이즈 최적화 정리(Dynamic Bundle Size Optimality Theorem)"는 논리적 관련성에 기반한 조건부 프루닝(pruning)이 정적 크기 지정 시스템보다 포함 오류를 최소화한다고 주장한다.

주요 기여

• 하이브리드 프레임워크: 임베딩 기반 검색의 기술적 정확성과 LLM 추론의 인지적 투명성을 단일 파이프라인 내에 통합한 SRRP를 도입하였다.
• 다중 의도 분해: LLM을 인지적 필터로 사용하여 노이즈가 있는 사용자 장바구니를 다중 의도 클러스터로 동적으로 분해함으로써, 경직된 수동 피처 튜닝에 대한 의존성을 제거하였다.
• 동적 번들 크기 지정: 정적 제약을 깨고 사용자 컨텍스트에 따라 번들 크기가 동적으로 적응(3개에서 45개 아이템까지)할 수 있도록 하는 리즈닝 밸리데이션 모듈을 구현하였다.
• 설명 가능성 및 검증: 번들 명명 및 설명의 타당성을 검증하기 위해 인간 참여형 방법론을 통합하여, 인간의 인지적 합의와 정렬을 보장하고 환각을 줄였다.

실험 결과
Instacart 2017 데이터셋을 사용하여 Leave-One-Out 프로토콜로 평가하였으며, SRRP를 5개의 베이스라인 모델(Apriori, FP-Growth, BundleNet, BGCN, CrossCBR)과 비교하였다.

• 관련성 및 순위: SRRP는 Top-20 추천에서 우수한 성능을 보였다. 랜덤 마스킹(Random Masking, RM) 전략은 0.1100의 Hit Rate와 0.1298의 Recall을 달성하였고, 순차적 분할(Sequential Splitting, SS) 전략은 0.1502의 Recall과 0.0683의 MRR에 도달하였다. 이 지표들은 최신 그래프 모델(예: CrossCBR Recall: 0.0942)을 유의미하게 상회하였다.
• 다양성: SRRP는 높은 리스트 내 다양성(Intra-List Diversity, ILD > 0.53)을 유지하며 정확도와 다양성 사이의 최적의 절충점을 달성하였으나, 그래프 모델들은 높은 다양성을 보이면서도 정확도는 현저히 낮았다.
• 동적 크기 지정: 시스템은 약 79%의 사용자에게 대해 3개에서 5개 사이의 번들 크기를 성공적으로 생성하였으며, 대량 구매자를 위한 롱테일 분포(최대 45개 아이템)까지 견고하게 수용하였다. 또한 딥러닝 베이스라인에서 흔히 나타나는 2개 아이템 쌍으로의 편향을 효과적으로 억제하였다.
• 설명 가능성 및 정렬: 생성된 설명 텍스트는 4.79/5.0의 G-Eval 유창성 점수를 기록하였다. 인간 주석가와의 시맨틱 정렬(코사인 유사도로 측정)은 LLaMA-3 기준 전체 점수 0.5907에 도달하였으며, 이는 번들의 유효성 및 명명에 관한 인간의 인지적 추론과 강력하게 정렬되어 있음을 나타낸다.

의의 및 주장
본 논문은 SRRP가 기존 모델의 "블랙박스" 특성과 정적 크기 지정의 경직성을 해결함으로써 번들 추천 시스템의 중요한 진전을 이루었다고 주장한다. LLM을 단순히 생성을 위한 도구가 아니라 의도 탐지 및 추론 검증을 위한 인지적 필터로 활용함으로써, SRRP 프레임워크는 정확할 뿐만 아니라 투명하고 신뢰할 수 있는 추천을 제공한다. 저자들은 본 시스템이 수학적 검색과 인간의 논리적 이해 사이의 간극을 성공적으로 메워, 합리적이고 신뢰할 수 있는 쇼핑 어시스턴트를 제공한다고 단언한다. 다만, 저자들은 시스템이 가끔 "강제적 합리화"(무작위 아이템 조합을 과도하게 정당화하는 현상)를 겪기도 한다는 점을 언급하며, 추론 지연 시간을 줄이고 오탐지를 최소-화하기 위해 거부 임계값(rejection thresholds)을 더욱 미세하게 조정하는 후속 연구가 필요함을 겸허히 인정하였다.