기술 요약: 근거 기반 대화형 뉴스 추천을 위한 의도 주도 의미 식별자 생성

1. 문제 정의

이 논문은 주요 중국 뉴스 플랫폼에서의 대화형 뉴스 추천이 직면한 고유한 과제를 다룹니다. 영화나 전자상거래와 같은 안정적인 카탈로그 도메인과 달리, 뉴스 기사는 수명이 짧아 대부분 24 시간 이내에 만료됩니다. 이로 인해 아이템과 사용자 모두에게 만연한 콜드 스타트 문제가 발생합니다.

저자들은 표준 검색 증강 생성 (RAG) 파이프라인의 치명적인 병목 현상을 식별했습니다: 암시적 사용자 의도. 생산 대화 분석을 통해 사용자 쿼리를 여섯 가지 의도 유형으로 분류했습니다. 명시적 키워드 쿼리라는 한 가지 유형만이 표준 검색에 적합할 뿐입니다. 나머지 다섯 가지 유형—암시적 필요, 연속성, 다양성 추구, 피드백 조정, 콜드 스타트 시나리오—은 검색 가능한 키워드가 부재합니다. 결과적으로 표준 RAG 및 임베딩 기반 검색은 이러한 의도에 대한 효과적인 쿼리를 구성하지 못해, 명시적 검색어가 없으면 관련 콘텐츠를 노출할 수 없는 '검색 우선' 병목 현상을 초래합니다.

또한, 기존 생성형 추천 방법 (예: TIGER, OneRec) 은 다음 아이템 예측을 위해 풍부한 행동 시퀀스에 크게 의존하므로, 상호작용 기록이 없는 콜드 스타트 사용자에게는 효과가 없습니다.

2. 방법론: 생성 후 매칭

저자들은 '검색 후 생성'에서 **'생성 후 매칭'**으로의 패러다임 전환을 제안합니다. 사용자 쿼리를 사용하여 후보를 검색하는 대신, 대규모 언어 모델 (LLM) 을 사용하여 사용자의 추론된 의도를 인코딩하는 **의미 식별자 (SIDs)**를 직접 생성합니다. 생성된 SID 접두사는 현재 뉴스 풀과 퍼지 매칭되어 추천이 실제 존재하는 기사에 해당하도록 보장합니다.

핵심 구성 요소

A. 의미 식별자 (SID) 구조
시스템은 뉴스 콘텐츠 임베딩에 대해 RQ-VAE 로 생성된 4 계층 계층적 SID 구조 ($\langle s_1, s_2, s_3, s_4 \rangle$) 를 활용합니다:

• $s_1, s_2$: 광범위한 의미 영역 및 중간 수준 그룹.
• $s_3$: 세분화된 클러스터.
• $s_4$: 거의 고유한 기사 식별자.
  모델은 3 계층 접두사($s_1, s_2, s_3$) 만 생성합니다. 이는 사용자의 의도를 반영하기에 충분한 세분성을 제공하면서도 일일 풀 갱신 전반에 걸쳐 안정성을 유지하며, 특정 기사 식별자 ($s_4$) 를 예측하는 것의 불안정성을 피합니다.

B. 프로필 인식 이중 신호 추론 (PADR)
행동 이력 ($h_u$) 과 프로필 기능 ($p_u$) 의 가용성에 따라 사용자의 전체 상태, 특히 콜드 스타트 사용자를 처리하기 위해 저자들은 PADR 을 도입했습니다. 이 프레임워크는 세 가지 추론 경로를 통해 사용자 컨텍스트를 적응적으로 라우팅합니다:

1. 웜 경로 ($|h_u| \ge \tau$): 풍부한 행동 이력과 프로필 기능을 상관관계시킵니다.
2. 하이브리드 경로 ($0 < |h_u| < \tau$): 희소한 클릭과 프로필 데이터를 교차 참조합니다.
3. 콜드 경로 ($|h_u| = 0$): 인구통계학적 정보와 명시된 프로필 선호도만으로 관심을 추론합니다.
   중요하게도 PADR 은 규칙 기반 폴백을 사용하지 않으며, 모델은 체인 오브 씽킹 (CoT) 증류 를 통해 각 상태에 대한 차별화된 추론 전략을 학습합니다.

C. 2 단계 학습 파이프라인

1. 1 단계: 멀티 태스크 SID 정렬: 모델은 SID 이해 (콘텐츠와 SID 간의 양방향 매핑), 사용자 모델링 (행동 요약), 추천 대화 등 여섯 가지 목적을 포함한 48 만 3 천 개의 샘플로 학습되어 SID 어휘에 기반을 둡니다.
2. 2 단계: PADR CoT 증류: 4 만 8 천 개의 샘플에 대해 GPT-4 를 사용하여 골드 스탠다드 CoT 흔적을 생성함으로써, 모델은 사용자 상태에 기반하여 어떤 SIDs 를 생성할지 추론하는 방법을 학습합니다. 이 단계는 의도 차별화 (예: 콜드 스타트를 위한 인구통계학에서 관심사로의 추론) 와 추론 저하를 방지하기 위한 제어된 CoT 길이 (150~300 자) 에 중점을 둡니다.

D. 퍼지 매칭 및 근거
생성된 접두사는 세 번째 계층 ($s_3$) 에서 허용 오차 $\delta$를 적용하여 현재 뉴스 풀과 매칭됩니다:
$$\text{Match}(P, \mathcal{P}) = \{ n \in \mathcal{P} : s'_1=s_1, s'_2=s_2, |s'_3-s_3| \le \delta \}$$
$s_1$과 $s_2$에는 엄격한 매칭을 적용하여 의미적 일관성을 유지하고, $s_3$에는 예측 불확실성을 수용하기 위해 허용 오차를 적용합니다. 이 구조적 제약은 모든 출력이 현재 풀에 존재하도록 보장하여 구성상 환각을 제거합니다.

E. 이중 트랙 아키텍처
산업적 지연 시간 요구 사항 (<100ms) 을 충족하기 위해 시스템은 이중 트랙 방식을 사용합니다:

• 고속 트랙: 캐시된 풀 무관 SID 접두사를 검색하고 퍼지 매칭을 수행합니다.
• 강화 트랙: 비동기적으로 실행되어 전체 PADR 추론을 수행하고 캐시를 업데이트하여 사용자가 대화를 시작하기 전에도 추천이 적시에 유지되도록 합니다.

3. 주요 기여

1. 의도 주도 생성 후 매칭: 사용자 컨텍스트에서 직접 근거 있는 SID 접두사를 생성함으로써 암시적 의도에 대한 검색 우선 병목 현상을 우회하는 새로운 패러다임.
2. 프로필 인식 이중 신호 추론 (PADR): 행동 이력이 전혀 없는 콜드 스타트 사용자가 프로필 데이터만으로도 유효한 추천을 받을 수 있도록 하는 적응형 프레임워크로, 웜 스타트 사용자와 비교해 동등하거나 더 나은 성능을 달성합니다.
3. 산업 규모 검증: 16 만 3 천 개 기사 풀에 대한 배포를 통해 환각 제로 및 100ms 미만의 지연 시간을 입증했으며, 미세한 지표에서 생산 기준 및 RAG 접근 방식을 능가했습니다.

4. 실험 결과

9,982 개의 테스트 샘플을 가진 15 만 2 천 개 개방형 생성 SID 공간에서 평가됨:

• 환각 감소: 2 단계 학습은 SID 학습이 없는 기본 LLM 의 7095% 환각률을 **0%**로 감소시켰습니다.
• 개방형 생성 성능: 7B 모델은 12.4% L1 매칭(최상위 카테고리) 을 달성하여 무작위 추측 대비 4 배 개선되었으며, 생산 기준 (Hist-Pop, 11.6%) 보다 통계적으로 유의미한 개선을 보였습니다.
• RAG 와의 비교: 모델은 L1 매칭 (12.4%) 에서 GPT-4 + 하이브리드 RAG 와 일치했지만, 더 세분화된 지표에서는 이를 능가했습니다 (L2 매칭: 1.0% 대 0.5%; 카테고리 매칭: 20.0% 대 18.8%). 추론 비용은 약 100 배 낮았습니다.
• 콜드 스타트 성능: 기존 기준 (SASRec, TIGER, OneRec) 은 순수 콜드 스타트 사용자에서 0% 점수를 기록했습니다. PADR 은 순수 콜드 스타트 사용자에게 18.0% L1 매칭을 달성하여 모든 사용자 그룹 중 가장 높은 점수를 기록했으며, 웜 스타트 작업 (11.9%) 을 능가했습니다.
• 지연 시간: 이중 트랙 아키텍처는 평균 웜 스타트 지연 시간을 85ms(P95: 150ms) 로 달성했습니다.

5. 중요성과 주장

이 논문은 생성 후 매칭 패러다임이 현재 아이템 풀에 근거한 모든 출력을 보장함으로써 생성형 추천의 환각 문제를 구조적으로 해결한다고 주장합니다. 짧은 아이템 수명과 높은 비율의 암시적 의도를 가진 도메인 (뉴스 등) 에서는 키워드가 없는 의도에 대한 쿼리를 구성할 수 없기 때문에 전통적인 검색 우선 접근 방식은 근본적으로 제한적이라고 논증합니다.

저자들은 그들의 접근 방식이 콜드 스타트 사용자가 가장 높은 정확도를 달성할 수 있게 한다고 강조하며, 콜드 스타트 사용자가 가장 서비스하기 어렵다는 통념에 도전합니다. 이는 노이즈가 많고 희소한 행동 이력보다 프로필 기반 추론이 검색 공간을 더 효과적으로 좁히기 때문이라고 설명합니다.

마지막으로, 논문은 시스템의 산업적 타당성을 강조하며, 6 가지 다른 의도 유형을 성공적으로 처리하고, 생산 파일럿에서 환각이 없으며, 100ms 미만의 지연 시간으로 운영되어 실시간 대화형 어시스턴트에 적합하다고 명시합니다. 저자들은 이 프레임워크가 숏 비디오 및 라이브 스트리밍과 같은 다른 단수명 추천 도메인에도 광범위하게 적용 가능하다고 제안합니다.