PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems

이 논문은 Pinterest 의 규모에 맞춰 다양한 비즈니스 목표와 사용자 탐색을 균형 있게 지원하기 위해 결과 조건부 생성과 멀티 토큰 생성 기법을 도입한 산업용 생성형 추천 시스템 'PinRec'을 소개하고, 이를 통해 성능, 다양성, 효율성을 모두 달성한 첫 번째 엄밀한 연구를 제시합니다.

핵심

🍽️ 비유: "요리사 vs. 주문형 키친"

기존의 추천 시스템은 마치 대규모 식당의 메인 요리사와 같았습니다.

• 방식: 요리사는 손님이 들어오면 미리 준비해 둔 메뉴판 (데이터베이스) 에서 가장 인기 있는 요리를 몇 가지 골라 내어놓습니다.
• 한계: 손님이 "오늘은 조금 더 건강한 걸 원해"라고 하거나 "오늘은 특별한 날이라 화려한 걸 원해"라고 해도, 요리사는 미리 정해진 메뉴만 내어줄 뿐입니다. 또한, 한 번에 한 가지 요리만 내어놓기 때문에 손님이 다양한 맛을 경험하기엔 시간이 오래 걸립니다.

반면, PinRec은 **손님의 기분에 맞춰 즉석에서 요리를 만들어주는 '주문형 키친'**과 같습니다.

1. PinRec 의 핵심 아이디어 3 가지

① "오늘은 어떤 맛을 원하세요?" (결과 조건부 생성)

• 기존: "인기 있는 요리"만 추천했습니다.
• PinRec: 손님이 **"오늘은 '좋아요 (리핀)'를 많이 받고 싶은 요리가 필요해"**라고 하면, 요리사는 그 목적에 맞춰 요리를 만듭니다. 반대로 "클릭을 많이 유도하고 싶다면" 다른 스타일의 요리를 내어줍니다.
• 효과: 핀터레스트는 사용자의 행동 (저장, 클릭, 공유 등) 을 비즈니스 목표에 맞춰 유연하게 조절할 수 있게 되었습니다. 마치 요리사가 손님의 "오늘은 다이어트 중이야"라는 말에 맞춰 메뉴를 바꾼 것과 같습니다.

② "한 번에 여러 가지 맛을!" (멀티 토큰 생성)

• 기존: 요리사가 한 접시씩만 내어놓았습니다. "다음 요리는?"이라고 물어봐야 다음 접시가 나옵니다. 이 과정이 느리고, 비슷한 요리만 나올 수 있습니다.
• PinRec: 요리사가 한 번에 여러 접시 (여러 개의 추천 아이템) 를 동시에 만들어냅니다.
• 효과: 사용자가 다양한 취향을 가진 친구들을 위해 한 번에 다양한 메뉴를 준비해 주는 것과 같습니다. 시간이 훨씬 절약되고, 메뉴의 다양성도 높아집니다.

③ "수백만 명을 위한 빠른 서비스" (효율적인 운영)

• 문제: 이렇게 복잡한 요리를 실시간으로 만들면 주방이 붐비고 요리사가 지쳐버릴 수 있습니다 (컴퓨터 자원 부족).
• PinRec: 핀터레스트는 **NVIDIA 의 특수한 주방 장비 (Triton 서버)**를 도입하고, 요리 과정을 최적화했습니다.
• 효과: 수억 명의 손님이 동시에 주문해도, 요리사들은 지치지 않고 빠르게 요리를 내어줍니다.

---

📊 PinRec 이 가져온 변화 (실제 성과)

이 새로운 시스템을 도입한 후 핀터레스트는 다음과 같은 놀라운 결과를 얻었습니다.

1. 전체 클릭 수 2% 증가: 사용자들이 더 많은 핀 (이미지) 을 클릭하게 되었습니다.
2. 검색 시 저장 (리핀) 4% 증가: 사용자가 검색해서 찾은 내용을 더 많이 저장하게 되었습니다.
3. 다양성 확보: 같은 요리만 반복해서 내어놓지 않고, 사용자의 취향에 맞춰 다양한 아이디어를 제안합니다.

💡 요약하자면?

이 논문은 **"기존의 딱딱하고 느린 추천 시스템 대신, 사용자의 목적과 상황에 맞춰 실시간으로 여러 가지 아이디어를 창의적으로 만들어내는 AI 시스템 (PinRec) 을 핀터레스트에 성공적으로 도입했다"**는 것을 보여줍니다.

마치 손님의 기분에 맞춰 즉석에서 다양한 요리를 만들어주는 똑똑한 요리사가 등장하여, 식당 (핀터레스트) 의 만족도와 매출을 모두 끌어올린 이야기라고 생각하시면 됩니다.

기술 요약

1. 문제 정의 (Problem)

기존의 추천 시스템은 주로 추출 (Retrieval) 과 랭킹 (Ranking) 의 2 단계 구조를 따릅니다. 추출 단계에서는 전통적인 '투-타워 (Two-tower)' 모델이 쿼리와 아이템 임베딩 간의 유사도를 계산하여 후보군을 선정합니다. 그러나 최근 학술계에서는 트랜스포머 (Transformer) 를 활용한 생성형 추출 (Generative Retrieval) 이 기존 모델보다 우수한 성능을 보이며 주목받고 있습니다.

하지만 Pinterest 와 같은 산업 규모 (Industry-Scale) 의 시스템에 생성형 추출을 적용할 때는 다음과 같은 주요 한계점이 존재했습니다:

1. 확장성 부족: 기존 생성형 모델은 대규모 트래픽 처리에 필요한 지연 시간 (Latency) 과 비용 효율성을 충족하지 못함.
2. 다목적 최적화 부재: 비즈니스 목표는 클릭, 저장 (Save), 공유 등 다양한 지표의 조합으로 변화하는데, 기존 모델은 단일 목적 (예: 클릭만 최대화) 에 최적화되어 있어 유연성이 떨어짐.
3. 다양성 및 효율성 문제: 사용자 탐색을 지원하기 위해 다양한 아이템을 생성해야 하지만, 기존 방식은 한 번에 하나의 아이템만 생성하므로 순차적 생성 비용이 과도하게 높고 다양성이 부족함.

2. 방법론 (Methodology)

이 논문은 Pinterest 의 규모에 맞는 새로운 생성형 추출 모델인 PinRec을 제안합니다. PinRec 은 트랜스포머 디코더 아키텍처를 기반으로 하며, 다음과 같은 핵심 기술들을 통합합니다.

가. 결과 조건부 생성 (Outcome-Conditioned Generation)

• 개념: 모델이 다음에 생성할 아이템을 결정할 때, 특정 비즈니스 목표 (예: '저장'을 극대화하거나 '클릭'을 극대화) 를 조건 (Condition) 으로 입력받습니다.
• 구현: 각 가능한 결과 유형 (Action, Surface 등) 에 대해 학습 가능한 임베딩을 정의하고, 이를 출력 헤더에 조건부로 주입합니다.
• 효과: 모델은 동일한 사용자 히스토리라도 목표하는 지표 (Outcome) 에 따라 다른 아이템 시퀀스를 생성할 수 있게 되어, 비즈니스 목표에 따른 동적 제어가 가능해집니다.

나. 멀티 토큰 생성 (Multi-Token Generation)

• 문제: 기존 생성형 모델은 한 번의 추론 단계에서 하나의 아이템만 생성하므로, 긴 시퀀스를 생성할 때 지연 시간이 길어집니다.
• 해결: 단일 추론 단계에서 여러 개의 미래 아이템 (멀티 토큰) 을 병렬로 생성하는 프레임워크를 도입했습니다.
• 시간 기반 접근: 단순한 토큰 위치가 아닌, 현재 행동으로부터의 상대적 시간 간격 (Temporal Offset) 을 조건으로 사용하여, "현재", "30 초 후", "1 분 후" 등 다양한 시간대의 추천을 동시에 생성합니다.
• 효율성: 전체 생성 단계 수를 줄여 지연 시간을 획기적으로 단축하면서도 다양성을 확보합니다.

다. 입력 표현 및 학습 목표

• 임베딩: Semantic ID(이산적 ID) 대신 밀집 임베딩 (Dense Embeddings) 을 사용했습니다. 실험 결과 Semantic ID 는 표현 붕괴 (Representational Collapse) 문제가 발생하여 성능이 낮았기 때문입니다.
• 학습 목표: 엄격한 '다음 토큰 예측' 대신, 세션 내 릴랙스된 목표 (Intra-feed Relaxation) 를 도입했습니다. 즉, 같은 세션 내에서 사용자가 미래에 상호작용할 수 있는 어떤 아이템이라도 타겟으로 간주하여 손실 함수를 최소화합니다. 이는 소셜 미디어의 비선형적 상호작용 패턴에 더 부합합니다.

라. 서비스 아키텍처 (Serving)

• 인프라: NVIDIA Triton Inference Server 와 Python 백엔드를 사용하여 GPU 에서 오토레거시브 (Autoregressive) 생성을 수행합니다.
• 최적화: CUDA Graphs 와 KV Cache 를 활용하여 추론 지연 시간을 최소화했습니다.
• 검색: 생성된 임베딩은 CPU 기반의 Faiss (IVF-HNSW) 인덱스를 통해 실제 아이템으로 매핑됩니다. 유사도가 높은 임베딩은 압축 (Deduplication) 되어 중복 검색을 방지합니다.

3. 주요 기여 (Key Contributions)

1. 산업 규모 생성형 추출의 첫 번째 엄격한 연구: Pinterest 와 같은 웹 규모 (Web-scale) 환경에서 생성형 추출을 성공적으로 배포한 최초의 사례를 제시합니다.
2. 다목적 최적화 가능: 결과 조건부 생성을 통해 클릭, 저장 등 다양한 비즈니스 지표를 유연하게 조절하며 균형을 맞출 수 있는 모델을 제안했습니다.
3. 효율적인 시퀀스 생성: 멀티 토큰 생성 방식을 도입하여 생성 단계 수를 줄이고, 다양성과 성능을 동시에 향상시켰습니다.
4. 실제 배포 인프라 공개: 대규모 트래픽을 처리하기 위한 엔드 - 투 - 엔드 서비스 파이프라인 (신호 수집, 임베딩, 생성, 검색) 의 최적화 디테일을 공개했습니다.

4. 실험 결과 (Results)

오프라인 평가 (Offline Evaluation)

• 성능: PinRec-{MT, OC}(멀티 토큰 + 결과 조건부) 는 기존 베이스라인 (SASRec, PinnerFormer, TIGER 등) 을 압도적으로 능가했습니다. 특히 Homefeed 에서 10% 이상, Related Pins 에서 20% 이상, Search 에서 30% 이상의 Recall@10 향상을 보였습니다.
• 제어 가능성: 특정 행동 (예: Repin) 을 조건으로 지정했을 때, 해당 행동에 대한 Recall 이 크게 증가하고 다른 행동에 대해서는 감소하여 모델이 의도한 대로 작동함을 입증했습니다.
• 효율성: 멀티 토큰 생성을 통해 지연 시간을 약 10 배 줄이면서도 Recall 과 다양성 (Unique Items) 을 동시에 개선했습니다.

온라인 A/B 테스트 (Online A/B Experiments)

Pinterest 의 주요 표면 (Homefeed, Search, Related Pins) 에서 테스트한 결과는 다음과 같습니다:

• Homefeed: PinRec-{MT, OC}는 전체 사이트의 충족된 세션 (Fulfilled Sessions) 을 +0.28%, 사이트 전체 그리드 클릭을 +1.73% 증가시켰습니다.
• Search: PinRec-UC(조건부 없음) 는 검색 충족률을 +2.27%, 검색 저장 (Repins) 을 +4.21% 향상시켰습니다.
• 전체 영향: PinRec 도입으로 사이트 전체 클릭 (Sitewide Clicks) +2%, 검색 저장 (Search Repins) +4% 등의 긍정적인 비즈니스 지표를 달성했습니다.

5. 의의 및 결론 (Significance)

이 논문은 생성형 AI 가 학술적 실험을 넘어 실제 대규모 산업용 추천 시스템에서 어떻게 작동할 수 있는지를 입증한 획기적인 연구입니다.

• 비즈니스 정렬: 단순히 정확도만 높이는 것이 아니라, 비즈니스 목표 (Outcome) 에 따라 추천 전략을 실시간으로 조정할 수 있는 유연성을 제공합니다.
• 효율성 혁신: 생성형 모델의 고비용/고지연 문제를 멀티 토큰 생성과 인프라 최적화를 통해 해결하여, 대규모 트래픽 환경에서도 실용 가능함을 증명했습니다.
• 미래 방향: 생성형 추출을 랭킹 단계로 확장하거나, 프롬프트 엔지니어링 기법을 적용하는 등 향후 연구의 중요한 방향성을 제시합니다.

결론적으로, PinRec 은 생성형 모델의 강력한 표현 능력과 산업적 요구사항 (확장성, 다목적 최적화, 효율성) 을 성공적으로 결합한 모범 사례입니다.