Versioned Late Materialization for Ultra-Long Sequence Training in Recommendation Systems at Scale

대규모 추천 시스템에서 초장기 시퀀스 학습을 위한 버전 관리형 지연 물리화 (Versioned Late Materialization) 에 대한 이 논문의 상세 기술 요약은 다음과 같습니다.

1. 문제 제기: "Fat Row" 병목 현상

현대 딥러닝 추천 모델 (DLRM) 은 사용자 상호작용 기록 (UIH) 시퀀스 길이가 길어질수록 (10^4 에서 10^5+ 이벤트로 이동) 모델 품질이 단조롭게 향상되는 확장 법칙을 따릅니다. 그러나 이러한 데이터를 처리하는 업계 표준 방식은 "Fat Row" 문제로 알려진 중요한 인프라 병목 현상을 초래합니다.

• 사전 물리화 (Pre-Materialization) 중복: 현재 시스템은 온라인 - 오프라인 (O2O) 일관성을 보장하기 위해 전체 UIH 시퀀스를 물리적으로 복제 (사전 물리화) 하여 각 학습 예제에 포함시킵니다.
• K-폴드 증폭: 사용자가 N 일간의 기록을 가지고 있고 룩백 윈도우 내에서 K 개의 순위 결정 요청을 생성할 경우, 동일한 역사적 데이터가 K 번 저장됩니다. 이로 인해 막대한 저장소 및 I/O 중복이 발생합니다.
• 자원 한계 (The Resource Wall): 시퀀스 길이가 증가함에 따라 데이터를 지원하는 서비스 (저장소, 수집, 전처리) 의 자원 소모량이 GPU 학습 클러스터의 용량을 초과합니다. 이는 인프라 비용이 시퀀스 길이 확장 능력을 제한하는 '체감 수익'의 함정을 만들어내며, 결과적으로 HSTU 및 ULTRA-HSTU 와 같은 차세대 아키텍처의 채택을 실질적으로 방해합니다.
• 다중 테넌트 페널티: 서로 다른 시퀀스 길이 요구사항을 가진 여러 모델 테넌트 (예: 검색 대 순위 결정 모델) 를 서비스하는 공유 연합 데이터셋의 경우, "Fat Row" 패러다임은 모든 모델이 최대 시퀀스 길이를 읽도록 강요하여 더 짧은 시퀀스를 가진 모델들에게 불필요한 I/O 증폭을 초래합니다.

2. 방법론: 버전 관리형 지연 물리화

저자들은 저장소 집약적인 사전 물리화에서 컴퓨팅 중심의 지연 물리화 접근법으로의 패러다임 전환을 제안합니다. 핵심 통찰은 UIH 가 부록 전용 (append-only), 시간 순서대로 정렬된, 불변의 시퀀스라는 점입니다. 따라서 추론 시간 $t$에서의 사용자 기록의 정확한 상태는 물리적 스냅샷을 저장하지 않고도 결정론적으로 재구성할 수 있습니다.

A. 프로토콜

시스템은 O2O 일관성을 보장하고 미래 정보 누출 (future leakage) 을 방지하기 위해 이분화된 프로토콜을 사용합니다:

1. 추론 시간 스냅샷팅:
   • 전체 UIH 를 기록하는 대신, 시스템은 가변적인 (최근) UIH 부분과 함께 가벼운 버전 메타데이터 (시간적 경계 start_ts, end_ts, 시퀀스 길이, 그리고 체크섬) 만 기록합니다.
   • 이는 로깅 쓰기 증폭을 전체 시퀀스 길이와 분리합니다 ($O(seq\_length)$ 데이터 대비 $O(1)$ 메타데이터).
2. 학습 시간 재구성:
   • 학습 데이터 전처리 동안 시스템은 "시간 여행" 재구성을 수행합니다.
   • 학습 예제에서 최근 가변 UIH 를 검색한 후, 기록된 시간적 경계를 사용하여 정규화된 불변 UIH 저장소에 대해 경계된 범위 스캔을 수행합니다.
   • 두 구성 요소를 연결하여 추론 시간의 정확한 상태를 재현합니다.

B. 저장소 아키텍처

• 하이브리드 저장소:
  • 가변 UIH: 최근 이벤트용 실시간 저장소 (초 단위의 신선도). 추론 시에만 접근됩니다.
  • 불변 UIH: 장기 기록용 정규화, 읽기 최적화 저장소. 단일 레벨 레이아웃과 사전 정렬된 시간 순서 파일을 사용하여 범위 스캔 중 순수한 순차 I/O 를 보장합니다.
• 다차원 투영 (Projection): 불변 저장소는 user_id, feature_group, subsequence_timestamp 로 데이터를 조직화합니다. 이를 통해 시스템은 저장소 계층에서 투영을 푸시다운할 수 있습니다:
  • 시퀀스 길이 투영: 짧은 시퀀스 모델은 필요한 시간적 스트라이프 수만 스캔합니다.
  • 특성 그룹 투영: 모델은 관련 특성 열만 읽습니다.
• 속성 인식 인코딩: 희소 및 밀집 특성을 처리하기 위해 컬럼형 인코딩 (델타 인코딩, 비트맵, 사전 압축) 을 사용하여 바이트 수준에서 선택적 디코딩을 가능하게 합니다.

C. 학습 파이프라인 최적화

재구성 과정이 GPU 학습을 멈추게 하는 (GPU 기아) 것을 방지하기 위해 시스템은 다음을 구현합니다:

• 분리된 데이터 전처리 (DPP): 무거운 I/O 및 디코딩을 별도로 확장 가능한 전처리 작업자 클러스터로 오프로드합니다.
• 파이프라인 I/O 프리페칭: 다음 학습 배치 읽기와 현재 배치의 시퀀스 조회를 겹쳐 지연 시간을 마스킹합니다.
• 데이터 친화적 샤딩: 학습 예제와 해당 UIH 데이터가 동일한 해시 파티셔닝을 통해 동일한 저장소 샤드에 위치하도록 보장하여 네트워크 팬아웃을 최소화하고 배치 작업의 캐시 히트율을 극대화합니다.

3. 주요 기여

1. Fat Row 문제의 형식화: 사전 물리화된 UIH 중복이 데이터 인프라 사용량을 GPU 학습 용량 이상으로 끌어올려 모델 확장을 제한한다는 정량적 분석.
2. 버전 관리형 지연 물리화 프로토콜: 경량 버전 메타데이터 및 시간적 술어를 사용하여 O2O 일관성을 보장하고 미래 정보 누출을 방지하는 스트리밍 및 배치 학습을 위한 통합 솔루션.
3. 생산급 아키텍처: 읽기 최적화 불변 저장소, 다중 테넌트 투영 푸시다운, 그리고 재구성 지연 시간을 마스킹하여 학습 처리량을 GPU 바운드 상태로 유지하는 분리된 전처리를 결합한 시스템.
4. 대규모 배포: Meta 의 생산 DLRM 에 성공적으로 배포되어 인프라 자원 사용량을 줄이면서 공격적인 시퀀스 길이 확장 (최대 $10^5$ 이벤트) 을 가능하게 함.

4. 결과

이 시스템은 연합 데이터셋을 공유하는 세 가지 모델 테넌트와 두 개의 생산 추천 플랫폼을 통해 평가되었습니다.

• 시스템 효율성:

  • 쓰기 대역폭: K-폴드 중복을 제거하여 기본 쓰기 대역폭을 46.2% 감소시켰습니다.
  • 읽기 대역폭: 작업당 읽기 대역폭을 47–70% 감소시켰습니다. 투영 푸시다운으로 인해 짧은 시퀀스 모델 (B 및 C) 은 추가적인 이점 (최대 70% 감소) 을 보였습니다.
  • 지연 시간: 시퀀스 조회가 추가되었음에도 시스템은 낮은 지연 시간을 유지했습니다. 긴 시퀀스를 가진 모델 A 는 데이터 로딩 지연 시간이 **9.7%**만 증가했는데, 이는 탄력적 DPP 확장에 의해 흡수되었습니다. 모델 B 와 C 는 투영 푸시다운으로 인해 26–36% 지연 시간 개선을 보였습니다.
  • 처리량: 불변 저장소는 기본 부록 전용 저장소에 비해 호스트 자원 단위당 3.4 배 더 높은 읽기 처리량을 제공했습니다.

• 모델 성능:

  • 확장 돌파: 데이터 비용이 약 4K 시퀀스 길이에서 GPU 비용을 초과하는 "Fat Row Wall"을 돌파했습니다.
  • 품질 향상:
    • 플랫폼 A: 4K 에서 64K 이벤트로 확장하여 추가 1.2% 누적 정규화 엔트로피 (NE) 향상을 달성했습니다 (총 5% 이상 향상).
    • 플랫폼 B: 4K 에서 10K 이벤트로 확장하여 0.65% NE 향상을 달성했습니다.
  • 온라인 영향: 시퀀스 길이를 확장할 때 참여 지표 (Topline, Consumption, Explicit Engagement) 가 크게 개선됨을 A/B 테스트가 확인했습니다. 이러한 이득은 이전에는 Fat Row 패러다임 하에서는 불가능했습니다.

5. 의의

이 논문은 데이터 인프라가 추천 시스템의 1 급 확장 레버이며 모델 아키텍처 발전과 상호 보완적임을 입증합니다. 저자들은 UIH 를 정적 스냅샷이 아닌 불변의 버전 관리 시퀀스로 취급함으로써, 업계가 초장기 시퀀스로 학습하는 것을Previously 방해했던 저장소 및 I/O 벽을 제거했습니다. 이 패러다임은 생성형 추천 프레임워크 및 트릴리온 파라미터 순차 트랜스듀서의 실용적 배포를 가능하게 하여, 이전에는 비용이 너무 높아 실현 불가능했던 중요한 모델 품질 개선을 unlocking 합니다.