🤖 machine learning

PRQ-KMeans: Projection Residual Quantization for Semantic ID Tokenization

이 논문은 전역 평균 성분을 제거하고, 유사도 가중 업데이트를 통해 중심점을 정교화하며, 투영 잔차(projection residuals)를 채택하여 생성형 검색 및 추천 작업에서 우수한 성능을 달성함으로써 기존의 잔차 양자화(residual quantization)를 개선한 사후 의미론적 ID 토큰화 방법인 PRQ-KMeans를 소개한다.

원저자: Yunxiao Luo, Siyuan Wang, Ben Chen, Chenyi Lei

게시일 2026-08-26

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yunxiao Luo, Siyuan Wang, Ben Chen, Chenyi Lei

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

수십억 개의 제품, 기사, 동영상이 관심을 끌기 위해 경쟁하는 인터넷의 방대한 디지털 도서관에서, 컴퓨터는 단순한 라벨을 넘어 정보를 조직화할 수 있는 방법을 필요로 합니다. 전통적인 시스템은 각 항목마다 고유한 코드를 사용하는 방식에 의존하며, 이는 마치 각 책마다 별도의 번호가 부여된 도서관의 카드 카탈로그와 같습니다. 그러나 현대의 인공지능은 이러한 항목들의 이름이 무엇인지뿐만 아니라, 그것들이 '무엇인지'를 통해 그 의미를 이해하는 법을 배우고 있습니다. 제너레이티브 리트리벌(generative retrieval)이라고 알려진 이 접근 방식은 기계가 항목의 본질을 설명하는 짧은 단어 또는 토큰 시퀀스를 생성함으로써 관련 콘텐츠를 예측하고 찾아낼 수 있게 해줍니다. 이를 효율적으로 수행하기 위해 연구자들은 복잡한 데이터를 계층적 레이어로 분해하는 방법을 개발해 왔는데, 여기서 처음 몇 개의 토큰은 광범위한 범주를 설명하고 이후의 토کن들은 구체적인 세부 사항으로 좁혀 나갑니다. 문제는 각 단계에서 항목 그룹의 공유된 공통 특징을 어떻게 제거하느냐에 달려 있습니다. 즉, 다음 단계의 정보가 순수하게 그 항목을 고유하게 만드는 요소가 되도록 해야 합니다. 만약 시스템이 이러한 공통 특징을 깔끔하게 제거하지 못한다면, 이미 학습한 정보를 반복하는 데 용량을 낭비하게 되어, 가장 중요한 항목들을 구별하는 데 쓸 수 있는 공간이 줄어들게 됩니다.

콰이쇼우 테크놀로지(Kuaishou Technology)의 연구팀은 PRQ-KMeans라는 새로운 방법으로 이 특정 문제를 해결했습니다. 그들의 연구는 이러한 계층적 코드가 구축되는 메커니즘에 초점을 맞추어, 이전 시스템들이 한 세부 수준에서 다음 수준으로 넘어가는 과정을 처리할 때 발생했던 미묘한 결함을 식별해 냈습니다. 표준적인 접근 방식에서는 컴퓨터가 유사한 항목들의 집합을 대표하는 '중심(center)'을 선택할 때, 단순히 그 중심을 데이터에서 빼서 더 분석할 잔여물(residual)을 만듭니다. 연구진은 이 단순한 뺄셈이 종종 원래 중심의 희미한 메아리, 즉 다음 단계로 전달되는 데이터에 남아 있는 잔여 성분을 남긴다는 사실을 발견했습니다. 이 메아리는 문제가 됩니다. 왜냐하면 다음 레이어가 이미 고려된 차이점들을 다시 분석하는 데 시간을 낭비하게 만들어, 명확히 구분되어야 할 항목들 사이의 구별을 흐릿하게 만들기 때문입니다.

이를 해결하기 위해 연구팀은 더 정밀한 필터 역할을 하는 '점진적 공통성 제거(progressive commonality removal)' 프로세스를 도입했습니다. 표준적인 평균을 빼는 대신, 그들의 방법은 먼저 전체 데이터셋 전체에 걸쳐 공유되는 글로벌 배경 성분을 제거하여 시스템이 깨끗한 상태에서 시작하도록 보장합니다. 그런 다음 계층 구조를 구축할 때, 선택된 중심의 영향을 제거하기 위해 '투영(projection)'이라는 기술을 사용합니다. 데이터 벡터를 특정 방향을 가리키는 선이라고 상상해 보십시오. 연구진의 방법은 다음 단계로 전달되는 잔여 데이터가 방금 통과한 중심의 방향과 완벽하게 수직이 되도록 보장합니다. 이는 이전의 결정이 다음 단계로 누출되지 않도록 보장하며, 시스템이 오로지 더 미세한 세부 사항을 정의하는 새로운 고유한 차이점에만 집중하도록 강제합니다. 또한, 그들은 데이터 포인트가 단순히 가장 가까운 이웃뿐만 아니라 주변의 후보들까지도 영향을 미칠 수 있도록 하여, 최종 결정을 내리기 전에 데이터 지형을 더욱 정확하게 매핑할 수 있도록 시스템을 개선했습니다.

이 방법의 결과는 수백만 개의 항목과 쿼리를 포함하는 산업용 이커머스 검색 엔진의 방대한 데이터셋을 사용하여 기존 시스템들과 비교 측정되었습니다. 새로운 접근 방식은 데이터를 조직화하는 능력과 검색 엔진이 적절한 제품을 찾는 데 도움을 주는 효율성 측면에서 명확한 우위를 보여주었습니다. 이 산업용 데이터셋에서, 새로운 방법은 이전의 최고 방법과 비교했을 때 상위 50개 결과 안에 정확한 항목을 포함시키는 능력을 7.4% 향상시켰으며, 정확한 항목의 순위(ranking)를 11.8% 개선했습니다. 이러한 성과는 단 한 가지 유형의 데이터에 국한되지 않았습니다. 연구진은 스포츠, 장난감, 의류, 음악을 다루는 4개의 공개 추천 벤치마크에서도 이 방법을 테스트했습니다. 모든 경우에서 새로운 방법은 선두를 달리는 대안들과 대등하거나 더 나은 성능을 보였으며, 이는 이 기술이 다양한 유형의 콘텐츠에 걸쳐 작동함을 입증했습니다.

수치적인 성과 외에도, 연구진은 새로운 방법을 통해 시스템의 내부 지도가 어떻게 변화했는지 시각화했습니다. 기존 시스템의 조직 레이어들은 서로 밀집되는 경향이 있었는데, 이는 이전 결정의 '메아리'를 여전히 운반하고 있기 때문에 후속 레이어들이 중앙에 빽빽하게 클러스터링되었기 때문입니다. 새로운 투영법을 적용하자 레이어들이 더 고르게 퍼져나가며, 항목들을 구별하기 위해 사용 가능한 전체 공간을 활용하게 되었습니다. 이러한 구조적 개선은 시스템이 다양한 제품에 더 많은 고유 코드를 할당할 수 있게 하여, 서로 관련 없는 항목들이 동일한 식별자를 공유해야 하는 상황을 줄여주었습니다. 분석의 각 단계에서 어떤 정보를 전달할지를 정밀하게 제어함으로써, 연구진은 디지털 세상에서 무언가를 찾는 더 효율적이고 정확한 시스템을 구축하는 것이 가능하다는 것을 보여주었으며, 미묘한 수학적 교정이 온라인에서 콘텐츠를 검색하고 발견하는 방식에 대한 중대한 실질적 이득으로 전환될 수 있음을 증명했습니다.

기술 요약: PRQ-KMeans

문제 정의
시맨틱 식별자(Semantic Identifiers, SIDs)는 생성적 검색 및 추천을 위해 엔티티를 계층적 토큰 시퀀스로 표현합니다. 이러한 식별자를 구축하는 일반적인 방법은 잔차 양자화(Residual Quantization, RQ)이며, 여기서는 각 레벨에서 엔티티의 구성 요분을 나타내는 코드워드(codeword)를 선택하고, 그 잔차(표현과 코드워드 사이의 차이)를 다음 레벨로 전달합니다.

저자들은 표준 RQ 토크나이저(RQ-KMeans 및 RQ-VAE와 같은)가 계층적 SID 구축의 효율성을 저해하는 세 가지 구체적인 한계를 식별했습니다:

전역 구성 요소의 지배성 (Global Component Dominance): 코퍼스 전체에 걸쳐 공유되는 구성 요소(전역 평균)가 초기 표현을 지배할 수 있습니다. 표준 RQ에서는 첫 번째 코드북이 엔티티 간의 거친 차이를 구별하기보다는 이러한 전역적 배경을 모델링하는 데 용량을 소모하게 됩니다.
하드 할당의 한계 (Hard Assignment Limitations): 표준 K-Means는 하드 할당을 사용하며, 표현은 단 하나의 가장 가까운 중심점(centroid)만을 업데이트합니다. 이는 근처의 코드워드들과 갖는 점진적 유사성을 무시하여, 클러스터 경계 근처의 유용한 정보를 버리게 됩니다.
잔차 캐리오버 (Residual Carryover): 표준 RQ는 표현에서 중심점 벡터 전체를 뺍니다. 그러나 개별 표현이 중심점의 방향 성분에 대해 중심점 자체와 다른 크기를 포함하고 있다면, 뺄셈 과정에서 선택된 중심점의 방향을 따라 "잔차 캐리오버"(양 또는 음의 값)가 남게 됩니다. 이는 후속 코드북이 현재 토큰에 의해 이미 표현된 변동성을 다시 방문하도록 강제하여, 이후 SID 레벨의 활용도를 떨어뜨립니다.

방법론: PRQ-KMeans
본 논문은 "점진적 공통성 제거(progressive commonality removal)"를 통해 이러한 한계를 해결하기 위해 설계된 사후적(post-hoc) 계층적 SID 토크나이저인 PRQ-KMeans(Projection Residual Quantization K-Means)를 제안합니다. 가산적 재구성에 의해 제약받는 VAE 기반 방식과 달리, PRQ-KMeans는 입력값을 재구성할 필요 없이 기존 임베딩 상에서 작동하며, 이를 통해 잔차가 미래의 레벨을 위해 필요한 차이만을 보존할 수 있도록 합니다.

이 방법은 세 가지 핵심 메커니즘으로 구성됩니다:

전역 구성 요소 제거 (Global Component Removal): 첫 번째 코드북을 피팅하기 전에, PRQ-KMeans는 각 입력 임베딩을 코퍼스의 전역 평균에 투영하고 이 구성 요소를 뺍니다. 이는 전역적 배경이 첫 번째 레벨 코드북의 용량을 소비하는 것을 방지합니다.
Top-k 소프트 중심점 정제 (Top-k Soft Centroid Refinement): 각 코드북을 피팅하는 동안, 알고리즘은 소프트 정제 단계를 적용합니다. 단순히 가장 가까운 중심점만을 업데이트하는 대신, 코사인 유사도를 기반으로 Top- $k$ 근접 중심점을 식별합니다. 그 후, 유사도 점수(집중 파라미터 $\beta$ 를 통한 소프트맥스 활용)에 비례하는 가중치를 사용하여 이 중심점들을 업데이트합니다. 이를 통해 클러스터 경계 근처의 표현들이 여러 인접 중심점에 기여할 수 있게 하여 중심점 추정 성능을 향상시킵니다.
투영 잔차 구축 (Projection Residual Construction): 하드 할당이 중심점을 선택한 후, PRQ-KMeans는 중심점 벡터 전체를 빼지 않습니다. 대신, **투영 잔차(projection residual)**를 계산합니다. 선택된 중심점의 방향에 놓인 표현의 성분만을 제거함으로써, 결과 잔차가 선택된 중심점과 엄격히 직교하도록 보장합니다. 이는 "잔차 캐리오버" 문제를 제거하여, 다음 레벨이 현재 토큰에 의해 이미 포착된 변동성이 없는 표현을 받도록 보장합니다.

주요 기여

개념적 프레임워크: 저자들은 계층적 SID 구축을 "점진적 공통성 제거"의 관점으로 도입하며, 잔차 구축이 레벨 간에 어떤 정보를 전달할지를 결정한다는 점을 식별했습니다. 이들은 "잔차 캐리오버"를 표준 RQ의 비효율성의 원인으로 명확히 규정했습니다.
알고리즘 혁신: 전역 구성 요소 제거, Top-k 소프트 중심점 정제, 투영 기반 잔차 구축을 통합한 PRQ-KMeans를 제안합니다.
실증적 검증: 제안된 방법은 대규모 산업용 이커머스 검색 데이터셋과 4개의 공개 추천 벤치마크(Amazon Sports, Toys, Clothing, LastFM)에서 평가되었습니다.

실험 결과

산업용 데이터셋: PRQ-KMeans는 평가된 토크나이저 중 가장 강력한 전반적 성능을 달-성했습니다. 강력한 베이스라인인 RQ-KMeans와 비교했을 때, Order 태스크에서 HitRate 7.4%, **MRR 11.8%**를 개선하였고, Click 태스크에서는 각각 **6.4%**와 **8.9%**를 개선했습니다. 또한 더 높은 접두사(prefix) 활용도와 더 낮은 지니 계수(토큰의 더 나은 분포를 의미)를 통해 우수한 코드북 품질을 입증했습니다.
공개 벤치마크: PRQ-KMeans는 4개의 공개 데이터셋에 대한 8개 지표(Recall 및 NDCG) 모두에서 최고 성능을 기록하거나 공동 최고 성능을 달성하며, RQ-KMeans 및 RQ-VAE, RQ-GMM과 같은 다른 베이스라인을 일관되적으로 능가했습니다.
절제 연구 (Ablation Studies): 세 가지 구성 요소(전역 제거, 소프트 정제, 투영) 중 하나라도 제거하면 성능 저하가 발생하여, 세 메커니즘 모두가 방법론의 효과에 기여함을 확인했습니다.
강건성 (Robustness): 서로 다른 입력 임베딩(Qwen3 vs. BGE)을 사용하여 테스트했을 때도 우월성을 유지하여, 임베딩 변화에 대한 강건성을 입증했습니다.

의의 및 주장
본 논문은 연속적인 SID 레벨 사이에 전달되는 정보를 명시적으로 제어하는 것이 효과적임을 PRQ-KMeans를 통해 입증합니다. 전역 평균을 제거하고 잔차가 선택된 중심점과 직교하도록 보장함으로써, 이 방법은 계층의 후기 레벨이 더 넓은 접두사 집합을 활용하고 엔티티를 더 효과적으로 구별할 수 있게 합니다. 저자들은 자신들의 접근 방식이 하위 모델이 최적화되지 않은 식별자로부터 학습하기를 기다리는 것에 의존하기보다, 토크나이징 프로세스 자체를 최적화함으로써 생성적 검색 및 추천을 위한 더 강력한 토대를 제공한다고 결론짓습니다. 결과는 "잔차 캐리오버"를 모델링하고 제거하는 것이 계층적 양자화에서 중요하면서도 이전에 탐구되지 않았던 요소임을 시사합니다.

기술 요약: PRQ-KMeans

유사한 논문