기술 요약: DiffGRM: 확산 기반 생성적 추천 모델 (Diffusion-based Generative Recommendation Model)

1. 문제 정의

생성적 추천(Generative Recommendation, GR)은 아이템을 시맨틱 ID(SID)—$n$개의 숫자로 구성된 고정 길이 시퀀스—로 표현하고, 이 숫자들을 자기회귀적(autoregressively)으로 생성하여 예측하는 패러다임으로 부상했습니다. 그러나 저자들은 SID 표현과 표준 자기회귀 모델(Autoregressive Models, ARMs) 사이의 두 가지 근본적인 구조적 불일치를 지적합니다:

1. 아이템 내 일관성 vs. 인과적 제약 (Intra-item Consistency vs. Causal Constraints): 아이템의 SID는 $n$개의 숫자가 결합하여 단일 아이템을 공동으로 지정하는 응집된 단위입니다. 그러나 ARMs는 엄격한 좌에서 우로 향하는 인과적 의존성을 강제합니다. 이는 모델이 훈련 과정에서 양방향 컨텍스트나 숫자 간 상호 검증을 활용하는 것을 방지하며, 감독(supervision)을 단일 인과 경로로 붕괴시켜 아이템 내 일관성의 활용을 저해합니다.
2. 숫자 간 이질성 vs. 균등한 감독 (Inter-digit Heterogeneity vs. Uniform Supervision): SID의 숫자들은 서로 다른 의미적 세밀도(예: 카테고리, 브랜드, 유형, 크기)를 인코딩하며, 예측 가능성("쉬운" 숫자 vs. "어려운" 숫자)의 수준이 다릅니다. 표준 차순 예측(next-token prediction) 목적 함수는 모든 숫자에 동일한 가중치를 할당합니다. 이는 쉬운 숫자는 과하게 학습되는 반면 어려운 숫자는 충분한 감독을 받지 못하는 불균형을 초과하여, 전반적인 생성 정확도를 저하시킵니다.

본 논문은 이러한 한계로 인해 자기회귀적 디코딩에서 벗어나 양방향 컨텍스트와 병렬 생성이 가능한 프레임워크로의 전환이 필요하다고 주장합니다.

2. 방법론: DiffGRM

저자들은 자기회귀적 디코더를 **마스크드 이산 확산 모델(Masked Discrete Diffusion Model, MDM)**로 대체하는 확산 기반 생성적 추천 모델인 DiffGRM을 제안합니다. 이 프레임워크는 세 가지 맞춤형 구성 요소로 이루어져 있습니다:

A. 토큰화: 병렬 시맨틱 인코딩 (Parallel Semantic Encoding, PSE)

표준 토크나이저(Residual Quantization 등)에 내재된 결합 문제를 해결하기 위해, DiffGRM은 **병렬 시맨틱 인코딩(PSE)**을 채택합니다.

• 메커니즘: 직교 프로크루스테스 양자화(Orthogonal Procrustes Quantization, OPQ) 스킴을 사용합니다. 연속적인 아이템 임베딩을 회전시킨 후 $n$개의 독립적인 하위 벡터로 분할합니다. 각 하위 벡터는 자체 코드북에 대해 독립적으로 양자화됩니다.
• 이점: 이는 숫자 간의 결합을 해제하여 잔차 순차 의존성을 제거합니다. 정보의 균형을 맞추고 완전한 병렬 예측을 가능하게 하여, 확산 모델의 양방향 특성과 정렬됩니다.

B. 훈련: 온폴리시 코히런트 노이징 (On-policy Coherent Noising, OCN)

확산 모델의 무작위 마스킹은 조합 폭발과 롱테일 아이템의 희소성 때문에 추천 시스템에서 비효집적입니다. DiffGRM은 **온폴리시 코히런트 노이징(OCN)**을 도입합니다.

• 메커니즘: 무작위 마스킹 대신, OCN은 현재 모델의 예측을 사용하여 각 숫자의 난이도(불확실성)를 추정합니다. 가장 불확실한(가장 어려운) 숫자들이 먼저 마스킹되도록 중첩된 "뷰(views)"(훈련 샘양) 세트를 구성합니다.
• 전략: 마스킹 스케줄은 가벼운 오염에서 무거운 오염으로 진행되며, 가시적인 컨텍스트를 일관되게 유지하면서 높은 가치의 신호(어려운 숫자)를 우선시합니다. 이는 노력을 무작위 패턴이나 쉬운 숫자에 분산시키는 대신, 가장 정보량이 많은 감독 신호에 훈련 예산을 집중합니다.

C. 추론: 신뢰도 기반 병렬 디노이징 (Confidence-guided Parallel Denoising, CPD)

추천은 표준 텍스트 생성의 단일 출력 특성과 달리 다양한 Top-$K$ 후보군을 필요로 합니다. DiffGRM은 **신뢰도 기반 병렬 디노이징(CPD)**을 제안합니다.

• 메커니즘: 완전히 마스킹된 입력에서 시작하여, 모델은 전역 병렬 빔 서치(global parallel beam search)를 수행합니다. 각 디노이징 단계에서 모든 활성화된 빔 전체에 걸쳐 가장 신뢰도가 높은 숫자-토큰 쌍을 식별하여 채우고, 나머지는 다시 마스킹합니다.
• 전략: 이 접근 방식은 신뢰도가 높은 숫자를 먼저 채우고 나머지 숫자에 대해 다양한 경로를 탐색함으로써, 자기회귀적 빔 서치의 순차적 병목 현상 없이 다양하고 정확한 Top-$K$ SID 후보군을 생성합니다.

3. 주요 기여

본 논문은 다음과 같은 기여를 주장합니다:

1. 최초의 확산 기반 GR 프레임워크: DiffGRM은 SID 숫자에 대해 자기회귀적 디코더를 마스크드 이산 확산 모델로 대체하여, 최초로 좌에서 우로 향하는 제약을 제거하고 양방향 숫자 간 컨텍스트를 활용하는 생성적 추천 모델입니다.
2. 새로운 훈련 및 추론 전략:
   • OCN: 불확실성 순으로 정렬된 어려운 숫자를 코히런트하게 마스킹함으로써 감독 신호의 조합 폭발을 억제하고 샘플 효율성을 크게 향상시키는 훈련 전략입니다.
   • CPD: 추천 작업의 요구 사항에 맞춘 다양하고 정확한 Top-$K$ SID 후보군을 생성하기 위한 신뢰도 기반 전역 병렬 빔 서치입니다.
3. 최첨단 성능 (State-of-the-Art Performance): DiffGRM은 여러 데이터셋에서 강력한 베이스라인 모델들을 상대로 우수한 결과를 달려냈습니다.

4. 실험 결과

저자들은 Amazon Reviews 데이터셋 3개(Sports, Beauty, Toys)에서 변별적 모델(예: SASRec, BERT4Rec) 및 생성적 모델(예: TIGER, RPG)을 포함한 강력한 베이스라인들과 함께 DiffGRM을 평가했습니다.

• 성능: DiffGRM은 12개 지표 중 11개(Recall@5, Recall@10, NDCG@5, NDCG@10)에서 최고의 결과를 달성했습니다.
• 개선도: 가장 강력한 베이스라인과 비교했을 때, DiffGRM은 데이터셋 전반에 걸쳐 NDCG@10을 6.9%에서 15.5%까지 개선했습니다. 구체적으로 Sports에서 15.53%, Beauty에서 8.19%, Toys에서 6.94%의 향상을 보였습니다.
• 효율성: 어블레이션 연구를 통해 OCN이 무작위 또는 고정 경로 마스킹에 비해 더 적은 유효 샘플 패스(ESP)로도 더 나은 성능을 달성함으로써 샘플 효율성을 개선함을 확인했습니다. 복잡도 분석에 따르면, DiffGRM이 디코더 항에 $n$ 배의 인자를 추가함에도 불구하고, 인코더 계산이 지배적이고 $n$의 크기가 작기 때문에 전체 추론 비용은 ARM과 유사한 수준을 유지합니다.

5. 의의 및 주장

본 논문은 DiffGRM을 아이템 표현(SID)과 생성 메커니즘(ARM) 사이의 구조적 불일치를 해결하는 솔루션으로 포지셔닝합니다. 확산 기반 접근 방식을 채 통해 모델은 성공적으로 다음을 수행합니다:

• ARMs가 접근할 수 없는 양방향 아이템 내 의미론을 활용합니다.
• OCN을 통해 어려운 숫자에 동적으로 감독을 할당함으로써 숫자 간 이질성 문제를 해결합니다.
• 병렬 디노이징을 통해 다양한 Top-$K$ 추천을 제공하며, 순차적 생성에 내재된 오류 전파를 방지합니다.

저자들은 DiffGRM이 숫자 간의 의미론과 병렬 생성을 조화시켜, 생성적 추천을 위한 강력하고 정확한 대안을 제공한다고 결론짓습니다. 또한 향후 연구로서 추론 효율성과 확장성을 더욱 조사할 것임을 언급했습니다.