기술 요약: 고립된 행동을 넘어: LLM 개인화를 위한 계층적 사용자 모델링

문제 정의

다양한 도메인에 걸친 거대 언어 모델(LLM)의 놀라운 능력에도 불구하고, 개별 사용자에 맞게 출력을 개인화하는 것은 여전히 중요한 과제로 남아 있다. 기존의 접근 방식은 주로 **평면적 행동 패러다임(flat behavioral paradigm)**을 채택하여, 사용자 상호작용을 순서가 없는 고립된 인스턴스들의 집합으로 취급한다. 이러한 정식화는 두 가지 결정적인 한계를 초래한다:

1. 행동 파편화(Behavior Fragmentation): 개별 사용자 이력은 내부 구조가 결여되어 있어, 고립된 행동들을 안정적인 장기 패턴으로 통합하지 못한다.
2. 사용자 고립(User Isolation): 사용자들이 독립적으로 모델링되어, 유사한 프로필을 가진 사용자들 사이의 공유된 행동적 규칙성을 무시한다. 이는 특히 사용자 이력이 희소한 시나리오에서 일반화 능력을 제한한다.

본 논문은 효과적인 개인화를 위해서는 행동이 개인 내에서 어떻게 응집되는지와 사용자 집단 간에 어떻게 규칙성이 공유되는지를 모두 모델링하는 구조적인 관점이 필요하다고 주장한다.

방법론: PHF 프레임워크

피에르 부르디외(Pierre Bourdieu)의 *실천 이론(Theory of Practice)*에 기초하여, 저자들은 LLM 개인화를 위한 사회학적 근거를 가진 계층적 프레임워크인 **PHF(Practice-Habitus-Field)**를 제안한다. 이 프레임워크는 세 가지 수준에서 사용자 행동을 개념화한다:

• 실천(Practice): 개별적이고 에피소드적인 행동 (예: 단일 쿼리-응답 쌍).
• 아비투스(Habitus): 사용자에 고유한 안정적이고 장기적인 행동 성향으로 변모하는 실천의 시간적 축적.
• 장(Field): 유사한 성향을 가진 사용자들 사이의 공유된 행동적 규칙성 및 집단적 패턴.

PHFCompass 구현

PHF를 구체화하기 위해 저자들은 동결된(frozen) LLM 위에서 작동하는 가볍고 모델 불가지론적인(model-agnostic) 아키텍처인 PHFCompass를 개발했다. 이 시스템은 네 가지 주요 단계로 기능한다:

1. 노이즈가 제거된 실천 추출 (의미적 양자화):
   원시 사용자 행동을 인코딩하고 **다단계 잔차 벡터 양자화(multi-level residual vector quantization)**를 적용한다. 이 과정은 연속적인 상호작용을 이산적인 **의미적 ID(Semantic IDs, 프로토타입)**로 추상화한다. 서로 다른 표면 형태를 가졌으나 의도가 유사한 행동들을 공유된 프로토타입으로 매핑함으로써, 시스템은 핵심적인 행동 의미는 보존하면서 표면적인 노이즈를 필터링한다.

2. 아비투스 구축 (시간적 집합):
   사용자의 노이즈가 제거된 실천 표현의 시퀀스는 **시간 융합기(Time Fusioner)**를 사용하여 시간에 따라 집합된다. 최근의 행동이 지배적이지 않도록 하면서도 최신성 효과를 고려하기 위해, 모델은 제곱근 스케일링을 사용하는 시간 가중 집합 방식을 채택한다. 그 결과, 사용자의 안정적이고 장기적인 행동 성향을 인코딩하는 **아비투스 임베딩(Habitus embedding)**이 생성된다.

3. 장 형성 (협업 클러스터링):
   사용자들은 아비투스 임베딩을 기반으로 잠재적인 **장(Fields)**에 조직된다. K-Means 클러스터링을 사용하여 유사한 장기적 성향을 가진 사용자들을 그룹화한다. 각 클러스터 중심점은 집단적 행동 규칙성을 포착하는 장 임베딩(Field embedding) 역할을 한다. 이를 통해 사용자들은 특히 콜드 스타트 또는 이력이 희소한 시나리오에서 공유된 신호를 활용할 수 있다.

4. 계층적 생성:
   추론 과정에서 LLM은 아비투스 임베딩(개인적 성향), 장 임베딩(집단적 패턴), 그리고 현재의 쿼리 임베딩으로 구성된 통합 입력 시퀀스에 의해 조건화된다. 기본 LLM은 동결된 상태로 유지하며, 경량 프로젝션 레이어만을 학습시킨다.

주요 기여

1. 이론적 프레임워크: 개인의 행동 형성(Practice $\to$ Habitus)과 사용자 간의 구조적 규칙성(Field)을 통합하며, 사회학적 이론에 근거한 통합 계층 모델인 PHF를 제안하였다.
2. PHFCompass 아키텍처: 잔차 행동 추상화, 시간적 집합, 협업 클러스터링을 통해 이러한 개념을 구현하며, 베이스 LLM의 수정 없이 작동하는 구체적이고 가벼운 구현체를 제시하였다.
3. 실증적 검증: 계층적으로 행동 구조를 모델링하는 것이 평면적 집합 방식이나 검색 기반 베이스라인보다 우수함을 입증하는 광범위한 실험을 수행하였다.

실험 결과

저자들은 6개의 태스크(분류 3개, 생성 3개)를 포함하는 언어 모델 개인화(LaMP) 벤치마크에서 PHFCompass를 평가하였다.

• 성능: PHFCompass는 검색 기반 방식(BM25, Dense), 집합 기반 방식(OPPU, PPlug), 제로샷 모델을 포함한 강력한 베이스라인들과 비교하여 모든 태스크에서 일관된 최첨단(SOTA) 성능 향상을 달eric했다.
  • 분류 태스크(LaMP-1 ~ 3)에서, 모델은 장(Field) 구성 요소가 희소한 개인 이력을 보완함에 따라 상당한 이득을 보였다.
  • 생성 태스크(LaMP-4, 5, 7)에서, 모델은 견고한 실천 및 아비투스 모델링의 혜택을 받으며 경쟁력 있는 성능을 유지했다.
• 절제 연구(Ablation Studies):
  • 아비투스(Habitus) 구성 요소를 제거했을 때 가장 큰 성능 저하가 발생하였으며, 이는 미세한 개인 행동 표현이 근본적임을 확인시켜 준다.
  • 장(Field) 구성 요소를 제거하면 특히 분류 작업에서 성능이 완만하게 하락하였으며, 이는 협업 신호의 유용성을 입증한다.
  • **시간적 가중치(temporal weighting)**를 균등 평균으로 대체하거나 **잔차 양자화(residual quantization)**를 제거하는 것 모두 성능 저하를 초래하여, 시간적 민감도와 행동 추상화의 중요성을 강조하였다.
• 확장성: 프레임ark은 서로 다른 인코더-디코더 조합(예: Contriever/Qwen, RoBERTa/LLaMA) 전반에서 견고함을 보여주었으며, 이는 모델 불가지론적 특성을 확인시켜 준다.
• 해석 가능성: 의미적 ID 분석을 통해 계층적 양자화가 사용자 고유의 의도와 공유된 의미 구조를 성공적으로 분리함을 보여주었다. 특정 코드들은 일관된 테마 그룹(예: 판타지 로맨스 vs 정체성 중심 로맨스)에 대응하였다.

의의 및 주장

본 논문은 PHF가 사용자 데이터를 평면적인 인스턴스 집합으로 취급하는 것에서 벗어나, 이를 구조화된 계층적 시스템으로 모델링하는 패러다임 전환을 나타낸다고 주장한다. 개인 행동 내의 시간적 일관성과 사용자 간의 공유된 규칙성을 명시적으로 포착함으로써, PHF는 현재의 개인화 방식에 내재된 파편화와 고립 문제를 해결한다.

저자들은 이 접근 방식이 (이산적 의미 프로토타입과 클러스터 장를 통해) 해석 가능하면서도 (모델 불가지론적로서) 확장 가능한 통합적 관점을 제공한다고 강조한다. 현재의 작업은 LaMP 벤치마크를 통해 검증되었으나, 이 프레임워크는 사용자 행동을 조직하기 위한 일반화 가능한 접근 방식으로 제시되며, 순수 통계적 또는 검색 기반 방식에 대한 사회학적 근거를 가진 대안을 제공한다.

논문은 현재 실험이 영어 텍스트 기반 태스크와 정적인 이력으로 제한되어 있다는 점을 언급하며 한계를 인정하였고, (K-Means와 같은) 구체적인 구현 방식은 더 넓은 PHF 개념의 하나의 가능한 사례임을 밝히고 있다.