기술 요약: GOD: 심층 이식(Deep Grafting)을 통한 순차적 추천의 일반화 성능 향상

문제 정의

순차적 추천(Sequential Recommendation, SR)은 사용자의 과거 상호작러 이력 시퀀스 내 패턴을 모델링하여 사용자의 다음 상호작용을 예측하는 것을 목표로 합니다. 트랜스포머 기반 아키텍처와 같은 딥 순차 모델들은 강력한 성능을 달ye왔으나, 희소성(sparsity)과 노이즈가 특징인 실제 데이터 환경에서는 어려움을 겪습니다. 이러한 환경에서 모델은 관찰된 공생 관계(co-occurrences)나 가짜 전이(spurious transitions)에 과적합되기보다는, 미처 보지 못한 상호작용까지 포괄할 수 있는 견고한 패턴을 학습해야 합니다.

기존의 지식 증류(Knowledge Distillation, KD) 방법들은 거대하고 사전 학습된 "교사(teacher)" 모델로부터 압축된 "학생(student)" 모델로 조밀한 감독 신호를 전달함으로써 데이터 희소성을 완화하려고 시도합니다. 그러나 전통적인 KD 방식은 일반적으로 교사와 학생을 독립적인 추론 경로를 통해 실행합니다. 학생 모델은 교사의 출력이나 표현을 모방하도록 학습됩니다. 저자들은 이러한 분리가 학생 모델의 구성 요소(예: 임베딩 테이블과 시퀀스 인코더)의 효과를 얽히게 만든다고 주장합니다. 결과적으로, 낮은 일반화 성능이 신뢰할 수 없는 임베딩 때문인지, 과적합된 인코더 때문인지, 혹은 두 요소가 희소한 이력에 함께 적응(co-adaptation)했기 때문인지 판단하기 어렵게 만듭니다. 또한, 표준 KD는 출력 수준이나 중간 표현 수준의 피드백만을 제공하므로, 견고한 일반화를 위해 필요한 구성 요소별 가이드를 제공하지 못합니다.

방법론: 이식 지향적 증류 (Graft-Oriented Distillation, GOD)

이러한 한계를 해결하기 위해, 본 논문은 **이식(grafting)**을 활용하는 구성 요소 수준의 KD 프레임워크인 GOD를 제안합니다. 이식은 선택된 동결된 교사 모델의 구성 요소를 학습 가능한 학생의 대응물로 교체하여 "하이브리드 소스 모델(hybrid source models)"을 생성하는 과정을 포함합니다. 이를 통해 시스템은 교사의 계산 경로 내에서 특정 학생 구성 요소를 평가할 수 있으며, 이는 세밀한 피드백을 가능하게 합니다.

1. 하이브리드 소스 모델 (Hybrid Source Models)

GOD는 구성 요소 수준의 증류를 촉진하기 위해 세 가지 뚜렷한 소스 모델을 구축합니다:

• 비이식 교사 (Non-Grafted Teacher): 안정적인 지식 앵커 역할을 하는, 동결된 원래의 교사 모델입니다.
• 임베드 이식 교사 (Embed-Grafted Teacher): 교사의 임베딩 테이블이 학생의 학습 가능한 임베딩 테이블로 교체되었으며, 교사의 시퀀스 인코더는 동결된 상태입니다. 이는 교사의 인코딩 로직 하에서 학생의 임베딩을 평가합니다.
• 인코더 이식 교사 (Encoder-Grafted Teacher): 교사의 시퀀스 인코더가 학생의 학습 가능한 인코더로 교체되었으며, 교사의 임베딩 테이블은 동결된 상태입니다. 이는 교사의 임베딩 표현 하에서 학생의 인코더를 평가합니다.

**타겟 모델(Target Model)**은 모든 소스 모델로부터 증류된 표현을 받는 **비이식 학생(Non-Grafted Student)**입니다.

2. 이식 인코딩 (Grafted Encoding, GE)

특히 학생 구성 요소가 아직 최적화되지 않은 초기 학습 단계에서 하이브리드 모델의 표현 생성을 안정화하기 위해, GOD는 **이식 인코딩(GE)**을 도입합니다.

• 메커니즘: 트랜스포머 기반 모델의 경우, GE는 교사 측과 학생 측 임베딩을 결합(concatenate)하고 이를 공유 시퀀스 인코더를 통해 처리합니다.
• 상호 주의 집중 (Mutual Attention): 표준적인 인과적 주의 집중(causal attention)과 달리, GE는 결합된 시퀀스 내에서 교사 토큰과 학생 토큰 간의 상호 주의 집중을 허용합니다. 이를 통해 안정적인 교사 측 토큰이 학습 초기 단계에서 학생 측 토큰에 대한 문맥을 제공할 수 있으며, 이후 개선된 학생 임베딩이 교사를 업데이트하지 않고도 표현을 정교화할 수 있습니다.
• 효율성: GE는 학습 중 시퀀스 길이를 증가시키지만, 추론 시에는 사용되지 않으므로 추가적인 추론 비용을 발생시키지 않습니다.

3. 이식 인식 대조 학습 (Graft-aware Contrastive Learning, GCL)

GOD는 소스 및 타겟 모델에서 생성된 네 가지 표현 간의 관계적 구조를 증류하기 위해 대조 학습을 채택합니다:

• 쌍별 관계 (Pairwise Relations): 프레임워크는 $(T,T), (S,T), (T,S), (S,S)$의 모든 쌍별 관계를 고려합니다.
• 적응형 가중치 부여 (Adaptive Weighting): 모든 쌍이 동일하게 유익한 것은 아닙니다. GCL은 유사도에 따라 쌍에 동적으로 가중치를 부여합니다. 매우 유사한 관계는 중복된 감독을 줄이기 위해 가중치를 낮추고, 덜 일치하는(보완적인) 쌍은 강조합니다.
• 그래디언트 중단 (Stop-Gradient): 가중치 메커니즘은 가중치가 직접적인 최적화 대상이 아닌 적응형 계수로 작동하도록 하기 위해 stop-gradient 연산을 사용합니다.

4. 추론 및 최적화

추론 시 GOD는 비이식 학생(Non-Grafted Student)만을 사용하므로, 표준 모델과 비교하여 추가적인 계산 오버헤드가 없습니다. 학습 목적 함수는 계수 $\lambda$를 사용하여 추천 손실(다음 아이템 예측)과 증류 손실(GCL)을 공동으로 최적화합니다.

주요 기여

1. 구성 요소 수준의 관점: 본 논문은 SR을 위한 KD를 재검토하여, 분리된 교사-학생 경로가 희소한 이력 하에서 어떻게 일반화를 약화시킬 수 있는지 강조하고, 구성 요소 수준의 피드백으로의 전환을 제안합니다.
2. GOD 프레임워크: 이식을 통해 하이브리드 소스 모델을 구축하는 KD 프레임워크를 도입했습니다. 이를 통해 교사 조건부 계산 경로 내에서 학생의 임베딩과 인코더를 평가할 수 있습니다.
3. 실증적 검증: 세 개의 실제 데이터셋(Amazon Beauty, Yelp, MovieLens 1M)에 대한 광범한 실험을 통해 GOD가 최신 SOTA KD 및 자기 지도 학습 베이스라인들을 일관되게 능가함을 입증했습니다.

실험 결과

저자들은 세 가지 백본 아키텍처(GRU4Rec, FMLPRec, SASRec)를 사용하여 세 개의 데이터셋에서 GOD를 평가했습니다.

• 성능: GOD는 모든 데이터셋과 지표에서 최고의 결과를 달了했습니다. 특히 SASRec을 사용한 Yelp 데이터셋의 NDCG@20에서 가장 강력한 베이스라인보다 최대 13.92% 더 높은 성능을 보였습니다.
• 일반화: GOD는 밀도가 높은 데이터셋(MovieLens 1M)에 비해 희소한 데이터셋(Amazon Beauty, Yelp)에서 특히 큰 개선을 보였으며, 이는 희소한 상호작용을 처리하는 데 있어 GOD의 효과를 입증합니다.
• 강건성 (Robustness):
  • 희소성: GOD는 매우 짧은 상호작용 이력을 가진 사용자들에 대해서도 우수한 성능을 유지했습니다.
  • 노이즈: 모델은 입력 시퀀스에 주입된 노이즈에 대해 강건함을 보여주었습니다.
  • 교사 품질: GOD는 교사가 부분적으로만 학습된 경우에도 잘 작동했으며, 교사의 업데이트에 의존하는 양방향 KD 방법들보다 뛰어난 성능을 보였습니다.
• 효율성: 하이브리드 모델로 인한 학습 복잡성에도 불구하고, GOD는 강력한 베이스라인인 BD 및 EMKD보다 실제 시간(wall-clock time) 기준으로 더 빠르게 최적의 검증 성능에 도달했으며, 일부 경쟁 모델보다 메모리 사용량도 적었습니다.
• 자기 증류 (Self-Distillation): 교사와 학생의 용량이 동일한(압축이 없는) 자기 증류 설정에서도 GOD는 기존의 KD 및 자기 지도 대조 학습 베이스라인을 모두 능가했습니다. 이는 성과가 단순히 모델 압축에서 오는 것이 아니라 이식 메커니즘 자체에서 비롯됨을 시사합니다.

의의 및 주장

본 논문은 GOD가 표준 KD의 근본적인 한계인 학생 구성 요소의 얽힘 문제를 해결한다고 주장합니다. 이식을 통해 학생의 구성 요소(임베딩 vs 인코더)를 격리하고 교사 조건부 경로 내에서 개별적으로 감독함으로써, GOD는 더 직접적이고 세밀한 가이드를 제공합니다.

저자들은 GOD가 외부 양식(예: 대규모 언어 모델)이나 거대한 교사 업데이트에 의존하지 않는다는 점을 강조합니다. 대신, 구조적 결합을 통해 증류된 지식의 일반화 성능을 높입니다. 이 프레임워크는 과도한 학습 오버헤드 없이 추천 성능을 향 향상시키는 실용적인 솔루션으로 제시되며, 배포 시에는 비이식 학생 모델만을 사용하므로 추가적인 추론 비용이 전혀 발생하지 않습니다.