논문 요약: TASK VECTORS, LEARNED NOT EXTRACTED (ICLR 2026)

이 논문은 대규모 언어 모델 (LLM) 의 문맥 학습 (In-Context Learning, ICL) 메커니즘을 이해하고 성능을 향상시키기 위해 **학습된 작업 벡터 (Learned Task Vectors, LTVs)**를 제안하고, 그 작동 원리를 체계적으로 분석한 연구입니다. 기존 연구들이 모델의 숨겨진 상태 (hidden states) 에서 작업 벡터 (Task Vectors, TVs) 를 추출하는 데 의존했던 한계를 극복하고, 직접 학습을 통해 최적의 벡터를 도출하며, 이를 통해 ICL 의 저수준 및 고수준 메커니즘을 해명했습니다.

---

1. 문제 정의 (Problem)

• 문맥 학습 (ICL) 의 메커니즘 불명확: LLM 은 학습 없이 입력된 예시 (demonstrations) 를 통해 새로운 작업을 수행할 수 있습니다. 최근 연구는 이 예시들이 '작업 벡터 (TVs)'로 압축되어 모델의 추론에 활용된다고 주장합니다.
• 기존 방법의 한계:
  • 추출 기반의 비효율성: 기존 연구 (Vanilla TV, Function Vector 등) 는 ICL 프롬프트의 숨겨진 상태나 어텐션 헤드 출력에서 TV 를 추출합니다. 이 과정은 복잡하고 불투명하며, 모델의 표현 품질에 의존하여 최적의 벡터를 찾지 못할 수 있습니다.
  • 메커니즘 설명 부재: 추출된 TV 가 주입되었을 때 성능이 향상되는 것은 확인되었으나, 어떻게 (low-level) 그리고 왜 (high-level) 모델이 이를 활용하여 올바른 예측을 하는지에 대한 체계적인 설명이 부족했습니다.

2. 방법론 (Methodology)

A. 학습된 작업 벡터 (Learned Task Vectors, LTVs) 제안

저자들은 TV 를 추출하는 대신, **그라디언트 하강법 (Gradient Descent)**을 통해 직접 학습하는 LTV 를 제안했습니다.

• 학습 과정: 특정 레이어 $l$의 숨겨진 상태 $h_l$에 벡터 $\theta$를 추가하고, 제로샷 (zero-shot) 쿼리에 대한 정답 확률을 최대화하도록 $\theta$를 최적화합니다.
  • 목적 함수: $-\log p(y_q | x_q, \theta, L, P)$
  • 여기서 $L$은 주입 레이어, $P$는 토큰 위치를 의미합니다.
• 유연성: 기존 방법은 마지막 토큰의 특정 레이어에만 주입했으나, LTV 는 임의의 레이어와 임의의 토큰 위치 (여러 위치 동시 주입) 에 적용 가능하며, ICL 프롬프트 자체에도 주입할 수 있습니다.

B. 메커니즘 분석 (Mechanistic Analysis)

1. 저수준 상호작용 (Low-level Interactions):
   • TV 와 모델 구성 요소 간의 상호작용을 분석하여, **어텐션 헤드의 OV 회로 (Value-Output projection matrices)**가 TV 의 효과를 전달하는 핵심 경로임을 규명했습니다.
   • Key Heads: 모든 헤드가 아닌, 특정 소수의 '핵심 헤드 (Key Heads)'가 TV 를 활용하여 예측에 결정적인 역할을 합니다.
2. 고수준 영향 메커니즘 (High-level Influence):
   • Transformer 의 비선형성에도 불구하고, TV 가 후속 레이어를 통과하며 변형되는 과정은 **거의 선형적 (Linear)**임을 발견했습니다.
   • 회전 (Rotation) 과 스케일링 (Stretch):
     • 초기 레이어 주입: TV 는 후속 레이어를 거치며 작업 관련 하위 공간 (task-relevant subspace) 으로 **회전 (Rotation)**되어 라벨의 로짓 (logits) 을 증가시킵니다.
     • 후기 레이어 주입: TV 는 주로 **크기 조절 (Scaling/Stretch)**을 통해 출력에 영향을 미칩니다.

3. 주요 결과 (Key Results)

A. 성능 우위성

• 정확도: LTV 는 추출 기반의 Vanilla TV 및 Function Vector(FV) 보다 모든 레이어에서 일관되게 높은 정확도를 기록했습니다. 특히 후기 레이어에서 기존 방법의 성능이 급격히 떨어지는 반면, LTV 는 깊은 레이어에서도 효과적입니다.
• ICL 수준 달성: LTV 를 주입한 제로샷 프롬프트는 Few-shot ICL 수준과 맞먹거나 이를 초과하는 성능을 보였습니다.
• PEFT(파라미터 효율적 미세조정) 가능성: LTV 는 $d$개의 파라미터만 최적화하므로 (여기서 $d$는 임베딩 차원), Prefix Tuning이나 LoRA 와 비교하여 더 적은 파라미터로 동등하거나 더 나은 성능을 보여주며, 효율적인 PEFT 방법으로서의 잠재력을 입증했습니다.

B. 유연성과 확장성

• 주입 위치 및 레이어: LTV 는 마지막 토큰뿐만 아니라 임의의 토큰 위치와 여러 레이어에 동시 주입되어도 성능이 유지되거나 향상됩니다. 반면, 추출된 TV 는 주입 위치에 민감하고 다중 주입 시 성능이 저하됩니다.
• 복잡한 생성 작업: 단일 토큰 분류뿐만 아니라, Myopic dataset(단기 vs 장기 보상 선택) 과 같은 복잡한 생성 작업에서도 LTV 는 ICL 성능을 능가하는 행동을 유도했습니다.

C. 메커니즘 분석 결과

• OV 회로의 중요성: TV 의 효과를 OV 회로를 통해 재구성하면 원래 LTV 성능의 상당 부분을 복원할 수 있었으나, MLP 기반 재구성은 효과가 미미했습니다. 이는 TV 가 어텐션 메커니즘을 통해 작용함을 시사합니다.
• 선형적 전파: 초기 레이어에서 주입된 TV 는 후속 레이어를 거치며 회전되어 작업 방향과 정렬되고, 후기 레이어에서는 크기 조절이 주된 메커니즘으로 작용한다는 것을 실험적으로 확인했습니다.

4. 기여도 및 의의 (Contributions & Significance)

1. 실용적 도구 제공: 추출의 불확실성을 제거하고 그라디언트 기반 학습을 통해 **더 강력하고 유연한 작업 벡터 (LTV)**를 획득하는 효율적인 방법을 제시했습니다. 이는 ICL 성능 향상을 넘어 파라미터 효율적 미세조정 (PEFT) 기술로도 활용 가능합니다.
2. 이론적 통찰 (Mechanistic Insight):
   • ICL 이 어떻게 작동하는지에 대한 저수준 (OV 회로, Key Heads) 및 고수준 (선형적 회전/스케일링) 메커니즘을 체계적으로 규명했습니다.
   • "작업 벡터는 모델의 깊은 층을 통과하며 비선형적 변환을 거치는 것이 아니라, 선형적인 회전과 스케일링을 통해 최종 예측을 유도한다"는 새로운 관점을 제시했습니다.
3. 해석 가능성 (Interpretability): 블랙박스처럼 여겨졌던 ICL 의 내부 작동 원리를 명확히 설명함으로써, LLM 의 제어 (Steering) 및 해석 가능성 연구에 중요한 기여를 했습니다.

결론

이 논문은 "추출된 (Extracted)" 작업 벡터의 한계를 넘어 "학습된 (Learned)" 작업 벡터의 우월성을 입증하고, 이를 통해 LLM 이 문맥 학습을 수행하는 물리적, 수학적 메커니즘을 해명했습니다. 이는 향후 LLM 의 성능 최적화, 제어, 그리고 내부 작동 원리 이해를 위한 중요한 이정표가 될 것입니다.