기술 요약: MIRAGE (Implicit Reasoning 및 Generative World Models를 갖춘 모바일 에이전트)

1. 문제 정의

스크린샷과 언어적 목표를 바탕으로 일상적인 애플리케이션을 조작하는 모바일 에이전트는 추론 능력과 배포 효율성 사이에서 중대한 트레이드오프(trade-off)에 직면해 있습니다. 현재의 최첨단 시스템(예: UI-TARS, MAI-UI)은 모델이 행동을 실행하기 전 장황한 텍스트 근거를 생성하는 **명시적 사고 사슬(Explicit Chain-of-Thought, CoT)**에 의존합니다. 이는 의사결정 능력을 향상시키지만, 다음과 같은 상당한 오버헤드를 발생시킵니다:

• 비효율성: 긴 텍스트 사고를 생성하는 것은 디코딩 지연 시간과 토큰 소비를 증가시켜 대화형 제어를 느리게 만듭니다.
• 비용: 감독(Supervision)을 위해 사람이 작성하거나 합성된 근거 데이터가 필요하므로 훈련 비용이 증가합니다.
• 배포 제약: 실제 모바일 시나리오에서는 추가되는 모든 토큰이 피드백을 지연시키므로, 명시적 추론은 저지연 애플리케이션에 부적합합니다.

핵심 과제는 가시적인 텍스트로 중간 사고를 디코딩하는 비용을 제거하면서도, 명시적 CoT가 가진 다단계 추론 및 미래 상태 예측 능력을 보존하는 것입니다.

2. 방법론

MIRAGE는 추론을 가시적인 토큰 스트림에서 **연속적인 잠재 공간(Continuous Latent Space)**으로 전환함으로써 이 문제를 해결합니다. 이 프레임워크는 2단계 훈련 파이프라인을 채택하며, 근사 병렬 잠재 정제(APLR)와 Q-Former 월드 모델 헤드라는 두 가지 새로운 구성 요소를 도입합니다.

2.1 잠재 사고 정식화 (Latent-Thought Formulation)

$\tau_t$ 텍스트 토큰 시퀀스 다음에 행동 $a_t$를 생성하는 대신, MIRAGE는 디코더 컨텍스트 내에서 연속적인 잠재 변수 $z_t = (z_{t,1}, \dots, z_{t,N})$ 시퀀스를 생성합니다. 이러한 잠재 슬롯은 역토큰화(detokenization)되지 않은 상태로 에이전트의 내부 "사고"(관찰, 근거, 미래 예측)를 나타냅니다. 추론 과정에서는 최종 행동 토큰만을 디코딩하므로 출력 길이가 획기적으로 줄어듭니다.

2.2 근사 병렬 잠재 정제 (Approximate Parallel Latent Refinement, APLR)

모델이 과도한 비용 없이 잠재 공간에서 효과적으로 추론하도록 훈련하기 위해, MIRAGE는 APLR을 도입합니다.

• 개념: 전통적인 잠재 CoT는 순차적 정제(한 번에 한 단계씩)를 요구하며, 이는 계산 비용이 매우 높습니다. APLR은 사고 블록을 $N$개의 슬롯으로 취급하고 이를 $K$번의 라운드 동안 병렬로 정제합니다(Jacobi 방식).
• 메커니즘: 각 라운드 $k$에서 모든 잠재 슬롯 $z_i^{(k+1)}$은 라운드 $k$의 값을 사용하여 동시에 업데이트됩니다.
• 이론적 보장: 이 방법은 근사 오차에 대한 증명 가능한 경계(bound)를 제공합니다. $K$ 라운드 후, 처음 $K$개의 잠재 슬롯은 순차적 솔루션과 정확히 일치하며, 나머지 "테일(tail)" 슬롯은 유계된(bounded) 오차를 유지합니다.
• 효效率: 이는 훈련 비용을 $N$번의 순차적 패스에서 적은 수의 동기적 패스($K \ll N$, 일반적으로 $K=3$)로 줄여줍니다.

2.3 Q-Former 월드 모델 정렬

병렬 정제의 한계는 "테일" 잠재 슬롯(주로 미래 상태 예측을 포함하는)이 행동 전용 손실(action-only loss)에 의해 충분히 감독되지 않을 수 있다는 점입니다. 이를 해결하기 위해 MIRAGE는 월드 모델(World Model) 관점을 통합합니다:

• 목표: 모델은 현재의 잠재 추론 상태를 기반으로 다음 스크린샷($x_{t+1}$)의 시각적 특징을 예측하도록 훈련됩니다.
• 아키텍처: 경량 Q-Former 헤드는 정제된 잠재 상태를 고정된 비전 인코더로부터 추출된 다음 스크린샷의 stop-gradient 시각 특징과 정렬합니다.
• 이점: 이를 통해 잠재 슬롯이 환경의 역학(dynamics)과 전이 예측을 인코딩하도록 강제하며, 표현 붕괴(representation collapse)를 방방지하고 사고 과정의 "예측" 차원에 밀도 높은 감독을 제공합니다.

2.4 2단계 훈련 파이프라인

1. 1단계 (Explicit CoT 웜업): 모델은 <THOUGHT> (관찰, 근거, 예측) 및 <ACTION> 블록을 포함하는 구조화된 텍스트 트레이스(trace)를 통해 훈련됩니다. 이는 백본 모델에 모바일 액션 공간과 추론 패턴을 학습시킵니다.
2. 2단계 (잠재 증류): <THOUGHT> 텍스트 블록이 잠재 슬롯으로 교체됩니다. 모델은 APLR을 통한 정제와 Q-Former 헤드를 통한 월드 모델 정렬을 사용하여 훈련됩니다. 결합 손실 함수는 행동 교차 엔트로피($L_{ce}$)와 월드 모델 정렬 손실($L_{wm}$)을 결합합니다.

3. 주요 기여

본 논문은 세 가지 주요 기여를 주장합니다:

1. MIRAGE 프레임워크: 전체를 잠재 공간에서 추론하는 모바일 에이전트로, 명시적 CoT 수준의 성능을 달면서도 디코딩되는 토큰 수를 3~5배 줄이고 추론 지연 시간을 크게 단축했습니다.
2. APLR: 전체 순차적 잠재 CoT를 훨씬 적은 훈련 비용으로 근사하는 병렬 Jacobi 스타일의 정제 절차를 제공하며, 테일 슬롯의 근사 오차에 대한 이론적 경계를 가집니다.
3. Q-Former 월드 모델 헤드: 잠재 추론 상태를 미래 스크린샷 특징과 정렬하여, 에이전트가 GUI 상태 전이를 예측할 수 있게 함으로써 추론 시 픽셀이나 텍스트를 생성하지 않고도 태스크 수행 능력을 향상시키는 메커니즘입니다.

4. 실험 결과

MIRAGE는 AndroidControl(지시 이행 및 행동 정확도)과 AndroidWorld(동적 온디바이스 태스크 완료)에서 평가되었습니다.

• AndroidControl:

  • MIRAGE-4B는 Qwen3-VL-4B 베이스라인과 비교하여 Exact Match(EM)를 68.48%에서 77.59%로, Action Accuracy를 75.15%에서 91.09%로 개선했습니다.
  • 토큰 감소: 스텝당 평균 생성 토큰 수가 약 115개에서 약 19개로 감소했습니다 (83% 감소).
  • 지연 시간: 첫 번째 토큰부터 마지막 토큰까지의 지연 시간이 강력한 베이스라인 대비 1.8~2배 감소했습니다.

• AndroidWorld:

  • MIRAGE-4B는 52.6%의 작업 성공률(SR)을 달성하여, Qwen3-VL-4B 베이스라인(42.9%)보다 9.7%포인트 높은 성능을 보였습니다.
  • MIRAGE-8B는 57.8%의 SR을 달성하여 베이스라인 대비 10.2%포인트 향상되었습니다.
  • 효율성: 더 높은 성공률에도 불구하고, MIRAGE 모델은 베이스라인보다 약 70~75% 적은 토큰을 생성했습니다.

• 절제 연구 (Ablation Studies):

  • 월드 모델 목적 함수를 제거했을 때(APLR만 사용 시) 성능이 낮아졌으며(SR 48.2% vs 전체 MIRAGE 52.6%), 이는 테일 잠재 슬롯을 정제하기 위한 미래 상태 정렬의 필요성을 확인시켜 줍니다.
  • 잠재 슬롯을 9개에서 3개로 줄이면 성능이 크게 저하되어, 복잡한 추론을 표현하기 위한 충분한 연속적 용량의 필요성을 강조했습니다.

5. 의의 및 주장

본 논문은 MIRAGE를 모바일 에이전트의 "추론 병목 현상"에 대한 해결책으로 제시합니다. 저자들은 다음과 같이 주장합니다:

• 암시적 추론의 실효성: 고품질의 추론은 반드시 장황한 텍스트 출력을 필요로 하지 않으며, 잠재 상태로 효과적으로 압축될 수 있습니다.
• 희생 없는 효율성: 추론 계산을 토큰 스트림으로부터 분리함으로써, 에이전트는 명시적 CoT의 견고함을 달면서도 모바일 배포의 엄격한 지연 시간 및 토큰 예산 제약을 충족할 수 있습니다.
• 미래 상태 예측: 잠재 추론 과정에 월드 모델 목적 함수를 직접 통합함으로써, 에이전트가 인터페이스 변화를 예측할 수 있게 하며, 이는 컴팩트한 잠재 표현에서 유지하기 어려웠던 기능입니다.

저자들은 현재의 접근 방식이 지도 학습에 의존하고, 픽셀 단위가 아닌 특징 수준(feature-level)의 월드 모델링을 사용하며, 실제 배포 전 개인정보 보호 및 안전 조치가 필요하다는 점을 언급하며 한계점을 인정했습니다.