WebRider: Persona-Conditioned Intent Controllers for Live-Web Assistance

기술 요약: WebRider

문제 정의

현재의 라이브 웹 에이전트들은 주로 정답에 도달했는지 여부로 평가됩니다. 그러나 이 지표는 위임 충실도(delegation fidelity), 즉 에이전트가 사용자가 정의한 특정 정책(제약 조건, 검증 단계, 불확실성 처리 및 중단 기준)을 얼마나 준수하는지를 포착하지 못합니다. 그럴듯한 최종 답변은 반품 정책을 무시하거나, 잘못된 위치로 이동하거나, 판매자 평판을 확인하지 않는 등 심각한 정책 위반을 은폐할 수 있습니다.

본 논문은 중요한 격차를 식정합니다. 강력한 컨트롤러는 높은 비율(예: 99.2%)로 작업을 종료할 수 있지만, 모든 정책 제약 조건을 준수하는 경우는 소수(예: 38.8%)에 불과합니다. 핵심적인 과학적 과제는 브라우저 에이전트가 웹 페이지 상태가 변함에 따라 가시적인 매 단계마다 어떻게 작업 국소적 정책(task-local policy)을 유지할 수 있는지, 그리고 이를 행동 실현(action realization)과 고차원적 충분성 결정(high-level sufficiency decisions)과 혼동하지 않을 수 있는지에 관한 것입니다.

방법론: WebRider 아키텍처

WebRider는 위임된 정책을 **의도 계약(Intent Contract)**으로 정형화하고, 이를 엄격한 계층적 아키텍처를 통해 강제함으로써 이 문제를 해결합니다.

1. 의도 계약 (The Intent Contract)

계약은 다음을 캡슐화하는 운영 기록입니다:

• 목표 ($g$): 작업 목적.
• 강한 제약 조건 ($H$): 타협 불가능한 한계(예: 예산, 위치).
• 약한 선호도 ($S$): 사용자 우선순위(예: "신뢰 우선" vs "가격 추구형").
• 증거 의무 ($E$): 수집해야 할 필수 데이터 포인트.
• 차단 조건 ($B_{mat}$): 명확한 설명이나 중단이 필요한 상황.
• 답변 스키마 ($A$): 최종 출력의 요구 형식.
• 페르소나/제어 정책 ($p$): 탐색 범위, 검증 깊이 및 상호작용 스타일을 규정하는 규칙.

계약은 사용자가 요청을 명시적으로 수정하지 않는 한 안정적으로 유지되며, 이를 통해 상호작용 전에는 의무 사항을 파악하고 상호작용 후에는 감사가 가능하도록 보장합니다.

2. 계층적 컨트롤러 (Hierarchical Controller)

시스템은 세 개의 레이어를 통해 장기적 충분성 결정과 페이지 국소적 행동 선택을 분리합니다.

• 상위 레이어 (Controller): 계약 상태를 유지합니다. 브라우징, 질문, 중단, 차단 또는 답변 여부와 같은 고차원 전략을 결정합니다. 증거의 충분성과 작업 완결성을 추적하지만, 구체적인 클릭을 생성하지는 않습니다.
• 중간 레이어 (Guarded Action Generator): 현재 상태(계약, 관찰, 이력)를 단일한 원자적 가드 JSON Action AST(예: Click, Type, Scroll, Search)로 매핑합니다.
  • 가드(Guards): 결정론적 컴파일러와 헬퍼 스위트가 문법을 강제하고, 잘못된 타겟을 거부하며, 차단된 상태를 감지하고, 복구 행동을 부착합니다.
  • 제약(Constraint): 이 레이어는 증거의 충분성이나 최종 답변 준비 여부를 결정하는 것이 금지되며, 오직 현재의 의도를 실현하는 역할만 수행합니다.
• 실행 레이어 (Executor Layer): 라이브 웹(브라우저, 검색, 지도)에서 행동을 실행하고 관찰 결과(스크린샷, 요소 라벨)를 반환합니다. 이 레이어는 추론 능력이 없습니다.

이 구조는 "왜"(정책 준수)와 "어떻게"(행동 실행)를 분리하여, 브라우징 경로를 일차적이고 감사 가능한 객체로 만듭니다.

벤치마크: RiderBench

이 접근 방식을 평가하기 위해 저자들은 42개의 공개 웹사이트와 12개의 도메인에 걸쳐 4,096개의 라이브 웹 계약을 포함하는 RiderBench를 구축했습니다.

• 구축 방식: 768개의 검증된 기본 작업에 15개의 별도 페르소나 정책을 결합하여, 요청은 동일하지만 요구되는 경로가 다른 대조적 시나리오를 생성했습니다.
• 지표:
  • 계약 게이트 성공 (CGS): 다섯 가지 게이트의 논리적 결합: 최종 완료, 강한 제약 조건 만족, 증거 충분성, 사용 가능한 답변 품질, 그리고 미해결 차단 요소의 부재.
  • 페르소나 일관성 점수 (PCS): 각 가시적 단계가 페르소나 정책을 유지하는지에 대한 인간 평가.
  • 인간 편의 선호도 (HCP): 인간 평가자가 해당 작업을 위임하기 위해 어떤 롤아웃(rollout)을 신뢰할지 선택함.

주요 결과

평가는 강력한 벤치마크 컨트롤러(Full-Pro)를 활용하여 이를 절제된 버전 및 학습된 중간 레이어(MidSFT-8B)와 비교했습니다.

1. 충실도 격차 (The Fidelity Gap): Full-Pro 컨트롤러는 99.2%의 계약을 종료했지만, 모든 계약 게이트(CGS)를 만족시킨 경우는 **38.8%**에 불과했습니다. 이는 높은 종료율이 정책 충실도를 의미하지 않음을 확인시켜 줍니다.
2. 인간 수용성: 쌍체 인간 연구에서, 페르소나와 의도를 지속적인 상태 및 가드된 행동에 결합한 IntentCore 방식은 70%인 교사/전체 컨트롤러에 비해 86%의 PCS를 달 기록했으며, 결과적으로 +42.5%의 순 HCP 우위를 보였습니다. 주목할 점은 PCS와 CGS가 상관관계가 있지만 별개라는 것($\rho \approx 0.55$)이며, 이는 최종 게이트를 만족시키는 것이 단계별 수용성을 보장하지 않음을 나타냅니다.
3. 구조의 가치: 지속적인 상위 상태와 가드된 행동을 추가한 것(IntentCore)은 동일한 페르소나/의도 텍스트를 가진 프롬프트 전용 컨트롤러보다 CGS를 +5.6 퍼센트 포인트 개선했습니다. 이는 계층적 구조 자체가 정보 내용 이상의 가치를 더한다는 것을 시사합니다.
4. 중간 레이어의 학습 가능성: 가드된 중간 인터페이스를 통해 학습된 8B 액션 정책 모델(MidSFT-8B)은 고정된 상위 레이어 하에서 50.8% CGS와 78.1% 증거 커버리지를 달성했습니다. 이는 실행 전용 베이스라인(32.9% CGS)을 크게 상회하는 수치로, 가드된 인터페이스가 전체 컨트롤러를 재학습할 필요 없이 액션 실현을 위한 고품질의 학습 가능한 타겟을 제공함을 입증합니다.

의의 및 주장

본 논문은 세 가지 주요 통찰을 주장합니다:

1. 경로가 중요하다: 높은 종료율은 낮은 계약 충실도와 공존할 수 있습니다. 취해진 경로는 최종 답변만큼이나 중요합니다.
2. 인간의 판단은 갈라진다: 최종 게이트가 단계별 수용성을 완전히 포착하지는 못합니다. 인간 평가자는 최종 답변은 만족하더라도 중간 정책 제약을 위반하는 궤적을 거부합니다.
3. 학습 가능한 인터페이스: 가드된 중간 트레이스는 재사용 가능하고 학습 가능한 액션 인터페이스를 제공합니다. 액션 실현을서 결정으로부터 분리함으로써, 액션 선택과 증거 충분성을 혼동하지 않고도 감사 가능하며 인간이 판단할 수 있는 정책 모델을 훈련하는 것이 가능해집니다.

WebRider는 개인적 메모리나 장기적 계약 추론을 해결하거나, CAPTCHA 또는 액세스 정책 차단을 해결한다고 주장하지 않습니다. 대신, 누락된 위임 충실도를 관찰 가능하게 만들고, 답변을 생성하는 특정 경로를 테스트, 감사 및 학습할 수 있는 통제된 프레임워크를 제공합니다.