기술 요약: 멀티 헤드 잠재 제어 (Multi-Head Latent Control)

문제 정의

대규모 언어 모델(LLM)과 시각-언어 모델(VLM)이 자율 에이전트로 점점 더 많이 배치되고 있지만, 신뢰할 수 있는 에이전트 동작을 위해서는 단순히 다음 토큰을 정확하게 예측하는 것 이상의 능력이 필요하다. 복잡하고 장기적인 관점의 작업이나 도구 증강 환경에서, 에이전트는 현재의 추론을 계속할지, 더 강력한 모델로 이관할지, 추가 정보를 요청할지, 외부 도구를 호출할지, 혹은 작업이 불가능할 경우 기권할지와 같은 중요한 배포 시점의 결정을 내려야 한다.

기존의 접근 방식은 입력 측 신호(예: 작업 카테고리에 기반한 프롬프트 수준의 라우팅)나 외부 오케스트레이션(예: 다중 에이전트 협업 프레임워크)에 의존한다. 이러한 방법들은 인스턴스 수준의 모델 적절성을 평가하는 데 실패하는 경우가 많으며, 이는 비효율적인 자원 사용(예: 단순한 작업에 대형 모델 호출)이나 지나치게 보수적이거나 공격적인 전략으로 인한 다운스트림 오류의 누적으로 이어진다. 또한, 파운데이션 모델이 빠르게 진화함에 따라 이러한 역할을 수행하기 위해 새로운 백본을 작업별로 미세 조정하는 것은 비용이 많이 들고 지속 불가능하다. 본 논문은 제어 결정이 모델의 **잠재 생성 과정(latent generation process)**으로부터 직접 추론되어야 한다고 주장하며, 이를 통해 백본을 수정하지 않고도 가볍고 사후적인(post-hoc) 제어 인터페이스를 제공할 수 있다고 상정한다.

방법론: 멀티 헤드 잠재 제어 (Multi-Head Latent Control)

저자들은 동결된(frozen) LLM 또는 VLM에 부착되는 두 개의 가벼운 신경망 헤드로 구성된 통합 인터페이스인 멀티 헤드 잠재 제어를 제안한다. 이 헤드들은 모델 자체의 생성 과정에서 발생하는 은닉 상태 궤적(hidden-state trajectories)을 읽어 백본을 미세 조정하지 않고도 실행 가능한 제어 신호를 생성한다.

1. 아키텍처 및 입력

• 동결된 백본: 기본 모델($m_1$)은 동결된 상태를 유지한다. 시스템은 선택적으로 더 강력한 폴백(fallback) 모델($m_2$)에 접근할 수 있다.
• 잠재 흔적(Latent Traces): 헤드는 프롬프트를 제외하고 생성된 토큰과 정렬된 은닉 상태($H$)를 기반으로 작동한다.
  • 역량 헤드(Capability Head): 최종 레이어의 흔적($H^{(L)}$)을 읽어 모델의 적절성을 평가한다.
  • 해결 헤드(Resolution Head): 선택된 중간 레이어의 흔적($H^{(\ell_{res})}$)을 읽어 개입 전략을 결정한다.
• 압축: 가변 길이의 흔적은 디코딩 전 고정된 예산의 표현($\tilde{H}$)으로 압축된다.

2. 두 가지 제어 헤드

• 역량 헤드: 현재 모델이 해당 인스턴스에 충분한지를 나타내는 스칼라 점수 $p_{cap} \in [0, 1]$를 예측한다.
  • 결정 로직: 만약 $p_{cap} < \tau_{cap}$ (기본값 0.8)이면, 제어권은 더 강력한 모델 $m_2$로 이관된다. 그렇지 않으면 인스턴스는 $m_1$에 머문다.
  • 학습: LLM 기반 판독기가 모델의 출력과 참조 정답을 비교하여 생성한 스칼라 적절성 점수에 의해 지도 학습된다. 학습 혼합물은 광범위하게 전이 가능한 신호를 학습하기 위해 의도적으로 이질적(multimodal QA, 추론, 그라운딩 등)으로 구성된다.
• 해결 헤드: 인스턴스가 $m_1$에 남아 있는 경우의 개입을 관리하는 벡터 점수 $s_{res} \in [0, 1]^3$를 예측한다.
  • 액션 공간: $\{ \text{info (정보 요청)}, \text{tool (도구 호출)}, \text{cant (기권)} \}$. 직접 답변하는 것은 암묵적인 기본값(모든 요소가 0인 벡터)이다.
  • 결정 로직: 만약 $\max(s_{res}) > \tau_{res}$ (기본값 0.5)이면, 시스템은 가장 높은 점수를 가진 액션을 실행한다.
  • 학습: WHEN2CALL 데이터셋을 사용하여 지도 학습되며, 레이블은 모델의 표면적 행동이 아닌 실제 요구되는 정답 액션으로부터 도출된다. 이를 통해 헤드는 모델의 명시적 출력이 틀리더라도 올바른 결정을 내리는 법을 배울 수 있다.

3. 추론 시점 정책 (Inference-Time Policy)

시스템은 동적인 라우터로서 작동한다:

1. 역량 헤드가 생성을 평가한다. 부적절할 경우, 시스템은 $m_2$로 에스컬레이션(escalation)한다.
2. 적절하다면, 해결 헤드가 개입 필요성(명확화, 도구 사용 또는 기권)을 평가한다.
3. 충분히 강한 개입 신호가 없다면, 모델은 직접 답변을 진행한다.

주요 기여

1. 사후 자기 인식 레이어 (Post Hoc Self-Awareness Layer): 본 논문은 배포 시점의 의사결정을 잠재 상태 제어 문제로 공식화하여, 백본 수정 없이 모델 선택 및 개입을 위한 통합 제어를 가능하게 하는 2단계 메커니즘(역량 및 해결)을 도입했다.
2. 모델 적절성을 위한 역량 헤드: 인스턴스 수준의 적절성을 예측하는 가벼운 헤드를 통해, 제어권을 유지할지 아니면 더 강력한 모델로 이관할지에 대한 신뢰할 수 있는 결정을 가능하게 한다.
3. 개입을 위한 해결 헤드: 모델의 고유한 행동과 상관없이 적절한 개입(정보 요청, 도구 사용, 기권)을 결정하여 "언제 호출할지(when to call)"에 대한 결정 품질을 높인다.
4. 최소한의 적응성: 이 방법은 최소한의 학습 오버헤드(단일 GPU에서 하루 미만으로 헤드 학습 가능)로 상당한 품질-비용 이득을 달와내며, 다양한 모델 제품군(Qwen, Gemma) 및 모달리티에 적용 가능하다.

실험 결과

본 방법은 여러 벤치마크, 모델 제품군(Qwen3-VL, Qwen3.5, Gemma) 및 배포 시나리오를 통해 평가되었다.

1. 효율적인 다중 모델 협업 (라우팅)

라우팅된 실행(Small Model $\to$ Large Model)에서, 시스템은 성능을 유지하면서 대형 모델에 대한 의존도를 크게 낮추었다.

• AndroidWorld: 라우팅된 실행은 대형 모델 사용량을 크게 줄였다 (Qwen3-VL-4B $\to$ 32B의 경우 90.7%, Qwen3.5-9B $\to$ 27B의 경우 85.8%) 동시에 성공률을 향상시켰다 (예: 0.47에서 0.60으로).
• 일반 벤치마크: SimpleVQA, MathVerse, MMLU-Pro 등을 포함한 전반적인 벤치마크에서, 이 방법은 대형 모델의 성능 대부분을 보존하면서 평균 **27–53%**의 비용 절감을 달성했다.

2. 해결 결정 품질 (WHEN2CALL)

해결 헤드는 백본의 고유한 행동과 비교하여 구조화된 개입 결정을 개선했다.

• 성능 향상: Qwen-VL-2B에서 F1 점수는 37.3에서 49.0으로(+11.7 포인트), 정확도는 52.7에서 65.1로(+12.4 포인트) 향상되었다.
• 일반화: 개선 효과는 서로 다른 백본 전반에서 일관되게 나타났으며, 이는 표면적 출력이 틀리더라도 은닉 상태에 올바른 개입을 위한 정보가 회복 가능하다는 것을 입증한다.

3. 도구 사용 결정 품질 (TriviaQA)

웹 검색 에스컬레이션을 결정하는 역량 헤드를 사용하여 도구 사용 정밀도와 작업 점수를 크게 높였다.

• TriviaQA: Qwen3-VL-4B에서 제어 헤드를 추가했을 때, 상대적 점수 이득이 **+158.9%**였으며, 필수 도구 호출 누락을 65.5% 감소시켰다.
• 정밀도: Qwen3-VL-32B 백본에서 도구 호출 정밀도가 72.7%에서 75.5%로 향상되었다.

4. 접두사 시간 예측 (Prefix-Time Prediction)

본 논문은 적절성 신호를 (부분적인 생성으로부터) 조기에 감지할 수 있는지 조사했다. 전체 궤적 신호가 더 강력하지만, 접두사(Prefix-200)에 특화하여 학습된 헤드는 상당한 신호 품질을 회복하여, 비용을 더욱 절감할 수 있는 조기 이관 결정을 가능하게 했다.

의의 및 주장

본 논문은 멀티 헤드 잠재 제어가 얼어있는(frozen) 파운데이션 모델에 실용적인 자기 인식을 부여하기 위한 확장 가능하고 가벼운 기질(substrate)을 제공한다고 주장한다.

• 디코딩 최적화와의 직교성: 추측적 디코딩(speculative decoding)이 호출된 후의 추론 속도를 높이는 것과 달리, 이 방법은 대형 모델이 얼마나 자주 호출될지를 줄인다.
• 통합 인터페이스: 라우팅이나 도구 사용을 위한 별도의 메커니즘이 아닌, 다양한 결정(이관, 명확화, 도구 사용, 기권)을 위한 단일 제어 레이어를 제공한다.
• 빠른 적응성: 헤드가 오직 잠재 흔적만을 학습하고 백본을 수정하지 않기 때문에, 새로운 파운데이션 모델이 출시될 때마다 빠르게 부착할 수 있어 기존 오케스트레이션 방식의 유지보수 병목 현상을 해결한다.
• 내재적 자기 인식: 실험 결과는 은닉 상태 궤적이 모델 역량 및 필요한 개입에 대한 정보를 내재적으로 인코딩하고 있음을 시사하며, 가벼운 헤드를 통해 이를 디코딩함으로써 핵심 모델을 재학습하지 않고도 에이전트의 동작을 개선할 수 있음을 보여준다.