Entropy Guided Diversification and Preference Elicitation in Agentic Recommendation Systems

이 논문은 모호한 사용자 쿼리를 처리하기 위해 엔트로피를 불확실성 신호로 활용하여 적응적 선호도 추출과 불확실성 인식 추천을 수행하는 에이전트 기반 추천 시스템 (IDSS) 을 제안하고, 이를 통해 불필요한 상호작용을 줄이고 더 다양하며 투명한 추천 결과를 제공함을 입증합니다.

핵심

이 논문은 **"사용자가 무엇을 원하는지 정확히 모를 때, 추천 시스템이 어떻게 현명하게 도와줄 수 있을까?"**라는 질문에 대한 답을 제시합니다.

기존의 추천 시스템은 사용자가 "싼 SUV"라고만 입력하면, 무작위로 차를 나열하거나 너무 많은 질문을 던져 사용자를 지치게 만들었습니다. 하지만 이 논문에서 제안한 **IDSS(인터랙티브 의사결정 지원 시스템)**는 마치 **"정보를 바탕으로 한 똑똑한 쇼핑 어시스턴트"**처럼 행동합니다.

이 시스템을 이해하기 쉽게 세 가지 핵심 비유로 설명해 드리겠습니다.

---

1. "어디서부터 물어볼지 모르는" 상황 vs. "정보의 나침반" (엔트로피)

상황:
사용자가 "좋은 차를 사고 싶은데, 뭐가 좋은지 잘 모르겠어"라고 말합니다. 차는 수천 대나 됩니다.
기존 시스템은 막연하게 "색상은 어때요?", "연료는요?" 같은 질문을 무작위로 던집니다. 사용자는 답하기 귀찮아지거나, 중요한 질문을 놓칩니다.

IDSS 의 해결책 (엔트로피 가이드):
IDSS 는 마치 **"가장 혼란스러운 곳을 찾아내는 나침반"**을 가지고 있습니다.

• **엔트로피 (Entropy)**는 여기서 **'불확실성'이나 '혼란도'**를 의미합니다.
• 시스템은 현재 남아있는 차 목록을 보고, **"어떤 질문을 던졌을 때 가장 많은 차를 걸러낼 수 있을까?"**를 계산합니다.
• 예를 들어, 남아있는 차 90% 가 '가솔린'이라면 '연료'를 물어보는 건 쓸모없습니다 (정보량이 낮음). 하지만 '하이브리드', '전기', '가솔린'이 골고루 섞여 있다면 '연료'를 물어보는 것이 가장 효과적입니다 (정보량이 높음).
• 비유: 어두운 방에서 물건을 찾을 때, 랜덤하게 손으로 더듬는 게 아니라, **"가장 어두운 구석 (가장 정보가 없는 부분) 을 먼저 비추는 손전등"**처럼 작동합니다.

2. "질문은 멈추고, 남은 불확실성을 인정하라" (불확실성 인식 랭킹)

상황:
사용자가 질문에 답하기 귀찮아하거나, "아직 결정 못 했어"라고 말합니다. 이때 기존 시스템은 억지로 하나를 골라 "이거 사세요!"라고 강요하거나, 무작위 순서로 나열합니다.

IDSS 의 해결책:
IDSS 는 **"사용자가 아직 결정하지 못한 부분은 그대로 인정하고, 그 불확실성을 추천 결과에 반영한다"**는 철학을 가집니다.

• 비유: 요리사가 손님이 "매운 걸 싫어해"라고만 말하고 "다른 건 아무거나"라고 할 때, 무작위로 요리를 주는 게 아니라, "매운 정도가 다양한 요리를 한 접시에 섞어서" 내놓는 것과 같습니다.
• 시스템은 "이 차는 가격이 확실하지만 연비가 불확실해", "저 차는 연비는 확실하지만 색상이 불확실해"라고 구분하여, 사용자에게 "선택의 폭을 넓혀주는" 방식으로 결과를 보여줍니다. 사용자가 직접 비교하며 "아, 나는 연비가 더 중요했구나"라고 깨닫게 해주는 것입니다.

3. "단순한 목록이 아닌, '시장' 같은 추천" (다양성 있는 그리드)

상황:
기존 시스템은 "1 위, 2 위, 3 위..."라는 긴 목록을 줍니다. 사용자는 1 위만 보고 나머지는 무시하거나, 비슷한 차만 봐서 지루해합니다.

IDSS 의 해결책:
IDSS 는 결과를 세로로 긴 목록이 아닌, '시장 가판대'처럼 정리해서 보여줍니다.

• 비유: 장바구니에 비슷한 사과만 10 개를 담는 게 아니라, "사과, 배, 포도"처럼 종류가 다른 과일을 한 줄에 나열해서 보여주는 것과 같습니다.
• 시스템은 사용자가 아직 결정하지 않은 중요한 기준 (예: 연료 종류, 가격대) 을 기준으로 차들을 그룹화합니다.
  • [전기차 그룹] | [하이브리드 그룹] | [가솔린 그룹]
• 이렇게 하면 사용자는 **"아, 전기차는 비싸지만 친환경이고, 가솔린은 저렴하구나"**라는 **트레이드오프 (상충 관계)**를 한눈에 파악할 수 있습니다.

---

요약: 이 시스템이 왜 혁신적인가?

이 논문은 **엔트로피 (불확실성)**라는 수학적 개념을 단순히 '질문하기'에만 쓰는 게 아니라, 질문하기, 순위 매기기, 결과 보여주기라는 전 과정에 걸쳐 하나로 통합했습니다.

• 기존: "무엇을 원하세요?" (질문) → "이거 추천합니다." (강요)
• IDSS: "지금 가장 모르는 게 뭐죠?" (질문) → "아직 결정 안 된 부분이 있으니, 다양한 선택지를 비교해 보세요." (도움)

결국 이 시스템은 사용자가 정확한 답을 몰라도, 스스로 답을 찾아갈 수 있도록 안내하는 현명한 쇼핑 파트너가 되는 것을 목표로 합니다.

기술 요약

논문 개요

이 논문은 사용자가 선호도를 명확히 하지 못하거나 초기 검색 단계에서 모호한 의도를 가질 때 발생하는 문제를 해결하기 위해, **엔트로피 (Entropy)**를 통합된 신호로 활용하는 대화형 의사결정 지원 시스템 (IDSS, Interactive Decision Support System) 을 제안합니다. 기존 시스템이 모호함을 해결하기 위해 과도한 질문을 하거나, 반대로 불완전한 정보로 인해 검색 공간을 일찍 축소하는 문제를 극복하고, 불확실성을 명시적으로 관리하여 추천의 질과 다양성을 동시에 향상시키는 방법을 제시합니다.

1. 문제 정의 (Problem)

• 모호한 사용자 의도: 이커머스 플랫폼에서 사용자는 초기 검색 시 예산, 일반적인 용도, 또는 추상적인 스타일 등 구체적인 속성 값 없이 고수준의 목표만 표현하는 경우가 많습니다.
• 기존 시스템의 한계:
  • 과도한 상호작용: 모호함을 해결하기 위해 시스템이 질문을 너무 많이 하면 사용자의 피로감 (Question Fatigue) 을 유발합니다.
  • 조기 축소 (Premature Collapse): 불완전한 정보를 바탕으로 너무 일찍 특정 해석으로 수렴하면, 사용자에게 적합한 다른 대안들이 검색 공간에서 제외될 수 있습니다.
  • 분리된 처리: 기존 시스템은 선호도 추출 (Elicitation), 순위 매기기 (Ranking), 결과 제시 (Presentation) 를 별개의 단계로 처리하여 불확실성이 파이프라인 전체에 일관되게 반영되지 못합니다.

2. 방법론 (Methodology)

저자들은 IDSS라는 통합 프레임워크를 제안하며, 이는 정보 이론적 관점 (엔트로피) 을 기반으로 합니다. 시스템은 세 가지 핵심 모듈로 구성됩니다.

가. 데이터 기반 선호도 유도 (Data-Grounded Elicitation)

• 엔트로피 기반 질문 선택: 현재 후보 제품 집합 (Candidate Set) 에서 속성별 분포를 계산하여 엔트로피가 가장 높은 속성을 다음 질문 대상으로 선택합니다.
• 동적 질문 생성: 고정된 스크립트 대신, 현재 사용 가능한 옵션의 분포 (예: "40% 가솔린, 35% 하이브리드, 25% 전기차") 를 기반으로 LLM 이 자연스러운 문맥 질문을 생성합니다.
• 목적: 사용자의 입력이 후보 공간을 가장 효과적으로 분할할 수 있는 정보를 얻기 위함입니다.

나. 이중 순위 매기기 전략 (Dual Ranking Strategies)

인터뷰 단계 종료 후, 잔여 불확실성의 정도에 따라 두 가지 전략 중 하나를 적용합니다.

1. 임베딩 유사성 + MMR (Embedding Similarity with MMR):
   • 추출된 선호도를 기반으로 텍스트 쿼리를 생성하고, 의미적 유사성을 계산합니다.
   • **MMR (Maximal Marginal Relevance)**을 적용하여 관련성은 유지하되 추천 목록 내 중복성을 줄이고 다양성을 확보합니다.
2. 커버리지 - 리스크 최적화 (Coverage-Risk Optimization):
   • 사용자가 명시한 선호도 (Liked features) 에 대한 정합성을 최대화하고, 명시하지 않은 고불확실성 속성 (Unspecified high-uncertainty dimensions) 으로 인한 리스크를 최소화합니다.
   • 제품 리뷰에서 추출된 긍정/부정 문구를 임베딩하여 매칭 점수를 계산하고, 탐욕적 알고리즘 (Greedy algorithm) 으로 최적의 제품 집합을 선택합니다.

다. 탐색을 지원하는 결과 제시 (Exploration-Enabling Presentation)

• 엔트로피 기반 그리드 diversification: 평면적인 순위 목록 대신, 엔트로피가 높은 미해결 속성 (예: 연료 유형, 가격대) 을 기준으로 결과를 그리드 (Grid) 형태로 그룹화하여 제시합니다.
• 효과: 사용자가 서로 다른 선택지 간의 트레이드오프 (예: 하이브리드 vs 전기차) 를 직접 비교하고 선호도를 발견할 수 있도록 돕습니다.

3. 주요 기여 (Key Contributions)

1. 불확실성의 통합적 처리: 선호도 유도, 순위 매기기, 결과 제시 단계를 독립적으로 최적화하는 대신, 엔트로피를 공통 신호로 사용하여 불확실성을 파이프라인 전체에 걸쳐 일관되게 전달하고 활용합니다.
2. 불완전한 선호도를 고려한 새로운 전략: 기존 다양성 기반 재순위화 (Diversity-aware reranking) 를 확장하여, 명시되지 않은 속성에 대한 **불확실성 (Uncertainty)**을 직접적으로 고려한 순위 매기기 및 다양화 전략을 제안했습니다.
3. 정량적 평가 프레임워크: 모호한 쿼리 하에서 상호작용 부담 (질문 수) 과 추천 품질 간의 트레이드오프를 측정할 수 있는 평가 체계를 수립했습니다.

4. 실험 결과 (Results)

• 평가 환경: 실제 자동차 리뷰를 기반으로 생성된 시뮬레이션 사용자 (Review-driven simulated users) 를 사용하여 자동차 추천 도메인에서 평가했습니다. (전자제품 도메인에서도 유사한 결과가 관찰됨)
• 질문 효율성: 엔트로피 기반 질문 선택 (EntropyQ) 은 불필요한 후속 질문을 줄이고, 특히 초기 입력이 짧은 (Short queries) 경우 질문의 **새로움 (Newness)**을 크게 향상시켰습니다.
• 추천 품질:
  • 다양성 (ILD): MMR 을 적용한 경우 추천 목록의 다양성이 크게 증가했습니다 (예: 짧은 쿼리 시 ILD 0.779 → 0.279 감소).
  • 정확도 (Precision): 엔트로피 기반 질문을 제거할 경우 추천 정확도가 하락하여, 불완전한 정보 하에서도 엔트로피 기반 유도 질문이 중요한 보완 역할을 함을 보였습니다.
  • 전략 비교: 짧은 쿼리에는 의미적 유사성 (ES) 기반 순위가, 상세한 쿼리 (Long queries) 에는 커버리지 - 리스크 최적화 (CR) 기반 순위가 더 효과적이었습니다.
• 사용자 조사: 12 명을 대상으로 한 소규모 설문에서, 2 번의 후속 질문을 거친 경우와 다양화된 그리드 형태의 제시가 사용자의 만족도와 비교 용이성을 높인 것으로 나타났습니다.

5. 의의 및 결론 (Significance)

이 연구는 **불확실성 하에서 작동하는 에이전트 추천 시스템 (Agentic Recommendation Systems)**을 설계할 때, 불확실성을 단순히 제거해야 할 장애물이 아니라 시스템이 적응적으로 행동해야 하는 핵심 신호로 다뤄야 함을 강조합니다.

• 적응형 상호작용: 사용자의 정보 제공 수준에 따라 질문의 필요성과 추천 전략을 동적으로 조정합니다.
• 투명성과 탐색: 불완전한 선호도를 강제로 해결하는 대신, 잔여 불확실성을 노출하고 다양성을 통해 사용자가 스스로 선호도를 발견 (Preference Discovery) 할 수 있도록 지원합니다.
• 실용성: 이 프레임워크는 자동차와 같은 고차원 속성과 강한 트레이드오프가 존재하는 복잡한 의사결정 도메인에서 효과적이며, 향후 다른 도메인으로 확장 가능성이 있음을 시사합니다.

결론적으로, 엔트로피 기반 추론은 모호한 사용자 의도를 가진 환경에서 효율적인 상호작용과 고품질의 추천을 동시에 달성하기 위한 강력한 기반을 제공합니다.