기술 요약: SimPersona

문제 정의

대형 언어 모델 (LLM) 기반 웹 에이전트는 실시간 이커머스 스토어 앞을 탐색하고 쇼핑 흐름을 실행할 수 있는 능력을 입증해 왔습니다. 그러나 현재 에이전트들은 일반적으로 단일 "평균 구매자" 정책으로 수렴하여 실제 구매자 집단의 이질적이고 분포적인 특성을 포착하지 못합니다. 기존 개인화 방법들은 수동으로 설계된 프롬프트 기반 페르소나 (예: 역할극 프로필 또는 구매 요약) 에 의존하는데, 이는 취약하고 컨텍스트 효율성이 낮으며 집단 수준의 행동을 충실히 반영하지 못합니다. 또한, 사용자 모델링 문헌은 원시 클릭스트림에서 구조화된 구매자 표현을 학습할 수 있지만, 이러한 방법들은 오프라인 작업 (예측, 클러스터링) 을 위해 설계되었으며 이러한 표현을 폐루프 에이전트의 행동 공간에 "그라운딩"하지는 못합니다. 결과적으로, 특정 스토어의 트래픽을 정의하는 구매자 유형의 구체적인 분포를 재구성하는 것은 여전히 열린 과제로 남아 있습니다.

방법론

저자들은 역사적 트래픽에서 이산적인 구매자 유형을 학습하고 이를 LLM 기반 웹 에이전트에 컴팩트한 페르소나 토큰으로 노출시키는 SimPersona 프레임워크를 제안합니다. 이 접근법은 세 가지 핵심 구성 요소로 이루어집니다:

1. 데이터 파이프라인

시스템은 원시적이고 단편화된 이커머스 이벤트 로그 (페이지 뷰, 장바구니 행동, 검색) 를 두 가지 상호 보완적인 데이터 유형으로 처리합니다:

• 구매자 행동 표현: 원시 로그는 제품 카탈로그와 검색 쿼리로 보강되어 집계된 구매자 - 세션 벡터를 생성합니다. 이러한 벡터는 16 가지 스칼라 행동 특성 (노출, 참여, 퍼널 전환율, 의도 강도, 달러 가치) 과 PCA 를 통해 압축된 시맨틱 제품 임베딩을 결합합니다. 또한 구매자는 5 가지 퍼널 수준 (구매자, 체크아웃 포기자, 장바구니 구성자, 윈도우 쇼퍼, 이탈자) 으로 계층화됩니다.
• 에이전트 추적: 실제 구매자 세션이 실시간 스토어 앞에서 재생됩니다. LLM 은 이벤트 시퀀스를 자연어 탐색 목표로 재작성하고, 별도의 에이전트가 이 목표를 실행하여 지도 미세 조정 (SFT) 을 위한 DOM 관찰, 행동, 추론 추이의 다중 턴 시퀀스를 생성합니다.

2. 행동 인식 VQ-VAE 를 통한 페르소나 발견

벡터 양자화 변분 오토인코더 (VQ-VAE) 는 고차원 행동 벡터를 $K$개의 토큰으로 구성된 이산 코드북에 매핑합니다.

• 아키텍처: 인코더는 입력을 잠재 공간으로 압축한 후 학습된 코드북의 가장 가까운 항목으로 양자화합니다. 디코더는 입력을 재구성합니다.
• 행동 인식 목적 함수: 표준 클러스터링 (예: k-means) 과 달리, VQ-VAE 는 다음을 포함하는 복합 손실 함수로 훈련됩니다:
  • 재구성 손실: 그룹 인식 (스칼라에 대한 MSE, 임베딩에 대한 코사인 거리).
  • 대조 손실 (InfoNCE): 3 단계 게이팅 메커니즘 (퍼널 수준, 제품 유사성, 행동 스타일) 은 동일한 토큰에 할당된 구매자들이 기하학적 근접성뿐만 아니라 의미 있는 행동 유사성을 공유하도록 보장합니다.
  • 보조 헤드: 세 가지 분류 헤드는 참여 깊이, 탐색 범위, 구매 강도에 대한 대략적인 레이블을 예측하여 시맨틱 클러스터링을 강제합니다.
• 결과: 토큰 할당의 빈도는 특정 상인의 트래픽 내 구매자 유형의 경험적 분포를 자연스럽게 반영합니다.

3. 2 단계 페르소나 그라운딩

이러한 이산 토큰을 LLM(Qwen3-14B-Base) 에 통합할 때, 모델이 토큰을 표면적 프롬프트 단서보다 우선시하여 무시하는 것을 방지하기 위해 2 단계 미세 조정 과정이 사용됩니다:

• 1 단계 (페르소나 그라운딩): LLM 백본은 고정되며 새로운 페르소나 토큰 임베딩만 훈련됩니다. 모델은 구매자 유형을 구분하는 유일한 신호가 추적 전반에 걸친 행동의 통계적 패턴인 의도 중립적 목표 (예: "당신은 스커트에 관심이 있습니다") 로 훈련됩니다. 이는 임베딩이 페르소나의 행동적 의미를 흡수하도록 강제합니다.
• 2 단계 (행동 지향 미세 조정): 백본이 고정 해제되고 명시적 의도 (예: "당신은 스커트를 사기 위해 여기에 왔습니다") 가 포함된 목표 지향적 추적으로 모델이 훈련됩니다. 모델은 페르소나 토큰 (일반적인 행동 프로필) 과 특정 세션 의도를 융합하는 법을 학습합니다.

주요 기여

1. SimPersona 프레임워크: 행동 인식 VQ-VAE 를 사용하여 원시 클릭스트림에서 이산 페르소나 토큰을 학습하는 방법으로, 확장 가능한 페르소나 할당과 구매자 집단 분포의 충실한 재구성을 가능하게 합니다.
2. 2 단계 그라운딩: 토큰의 시맨틱 의미를 학습하는 것과 이를 실행하는 방법을 학습하는 것을 분리하는 훈련 절차로, 적응 없이도 보지 못한 스토어 앞에서도 일반화되는 임베딩을 생성합니다.
3. 오픈 소스 파이프라인: 원시 이커머스 이벤트 로그를 구매자 표현 및 에이전트 훈련 추적 데이터로 변환하는 데이터 파이프라인입니다.
4. 평가: 42 개의 실시간 스토어 앞의 837 만 명의 보지 못한 구매자에 대한 포괄적인 테스트.

결과

837 만 명의 구매자가 포함된 42 개의 홀드아웃 실시간 스토어 앞에서 평가된 SimPersona 는 다음을 보여줍니다:

• 전환 정렬: 에이전트는 실제 구매자 전환율 (장바구니 담기 및 구매) 과 78% 정렬을 달성하여 불일치 베이스라인을 크게 능가합니다.
• 행동 충실도: 특정 토큰에 조건부인 에이전트는 행동 차원에서 통계적으로 유의미한 분리를 보입니다 (예: 동일한 의도 하에 고구매 토큰은 저구매 토큰보다 100 배 이상 높은 전환율을 보입니다).
• 지시 따르기: SimPersona 는 복잡한 체크아웃 흐름에서 특히 목표 지향적 쇼핑 작업에서 8 배 더 많은 파라미터를 가진 베이스라인 모델 (GPT-OSS-120B) 보다 우수한 성능을 보이며 다양한 스토어 앞에서도 견고성을 유지합니다.
• 분포 복구: 학습된 토큰 분포는 스토어의 퍼널 단계 구성 (평균 제이슨-샤논 발산 0.054) 과 연속적 행동 특성 ($R^2 \ge 0.87$) 을 정확하게 복원합니다.
• 안정성: 2 단계 훈련은 단일 단계 훈련에서 발생하는 치명적인 실패 모드를 제거하여 상점당 최대 오류율을 71.3% 에서 28.5% 로 감소시킵니다.

의의

이 논문은 SimPersona 가 오프라인 사용자 모델링과 폐루프 에이전트 시뮬레이션 간의 간극을 해소한다고 주장합니다. 트래픽에서 직접 학습된 이산 토큰으로 구매자 행동을 표현함으로써, 이 프레임워크는 개별 에이전트뿐만 아니라 전체 집단에 대한 "페르소나 문제"를 해결합니다. 이는 상인별 트래픽 분포를 보존하는 현실적이고 이질적인 구매자 집단의 시뮬레이션을 가능하게 하여 더 정확한 스토어 앞 평가와 합성 A/B 테스트를 가능하게 합니다. 이 연구는 프롬프트 기반 조건부 설정의 취약성이나 확장성 문제 없이 이산적이고 학습된 토큰이 LLM 에이전트를 효과적으로 유도하여 특정 구매자 세그먼트를 반영할 수 있음을 보여줍니다.