Rotate2Think: Geometric Priming via Orthogonal Rotation to Improve Language Model Reasoning

... 모델의 inputs_embeds 인터페이스를 사용하여.
4. 최종 답변을 생성합니다.

이 과정은 그래디언트 업데이트, 미세 조정, 그리고 입력 임베딩을 추출하기 위한 단일 순전파 이상의 추가적인 추론 연산을 필요로 하지 않습니다.

주요 기여

1. 추론의 기하학적 특성 규명: 본 논문은 다양한 모델 제품군(Qwen, Phi, Gemma)과 벤치마크 전반에 걸쳐 입력 임베딩과 사고(thinking) 임베딩이 서로 정렬되지 않은 축을 가진 거의 1차원적인 원뿔 형태를 형성함을 입증했습니다. 단일 직교 회전(orthogonal rotation)을 통해 이들 사이를 높은 충실도(코사인 유사도 > 0.96)로 매핑할 수 있습니다.
2. Rotate2Think 방법론: 올바르게 해결된 예시들에 적합한 직교 프로크루스테스 회전(orthogonal Procrustes rotation)을 맞추고, 추론 궤적을 유도하기 위해 합성 사고 벡터를 주입하는 학습이 필요 없는 추론 시점 기술입니다.
3. 교차 도메인 일반화: 이 방법은 타겟 도메인 데이터나 벤치마크별 재적합(refitting) 없이도 수학, 과학, 코드 작업의 32개 모델-벤치마크 구성 중 30개에서 정확도를 향상시켰습니다.
4. 제로샷 교차 모달 전이: 텍스트 추론 벤치마크에만 적합된 회전이 멀티모달 MATH-Vision 벤치마크의 성능을 성공적으로 개선하였으며, 이는 입력-사고 간의 기하학적 구조가 입력 모달리티가 아닌 모델 자체의 속성임을 시사합니다.

실험 결과

네 가지 모델 제품군(Qwen3 4B, Phi-4 14B, Gemma-4 E4B, Gemma-4 31B)을 다섯 가지 벤치마크(AIME 2025/2026, GPQA Diamond, BigCodeBench, MATH-Vision)에서 평가했습니다:

• 기본 모델(Base Models): 기본 모델에 합성 벡터를 주입(Base+R2T)했을 때 정확도가 일관되게 향상되었으며, AIME에서는 최대 13%포인트의 이득을 보였습니다. 일부 사례(예: GPQA에서의 Gemma-4 E4B)에서는 Base+R2T가 동일 모델의 전체 추론 모드보다 더 나은 성능을 보였습니다.
• 추론 모델(Reasoning Models): 추론 모델에 프라이머(primer)를 증강(Reasoning+R2T)한 결과, 모든 작업에서 일관된 개선이 나타났으며, 종종 토큰 생성 수를 늘리지 않고도 성능이 향상되었습니다. 이는 더 긴 추론이 아닌 더 효과적인 추론이 이루어졌음을 시사합니다.
• 교차 모달 전이: MATH-Vision (testmini)에서 텍스트에 적합된 회전은 기본 모델의 정확도를 30.9%에서 38.1%로 향상시켰으며, 이는 모델 고유의 전체 추론 모드(34.9%)를 능가하는 수치입니다.

의의 및 주장

본 논문은 Rotate2Think가 추론 능력이 잠재되어 있으며 기하학적으로 접근 가능하다는 것을 입증한다고 주장합니다. 최소한의 섭동(하나의 회전된 임베딩)을 통해 단일 지점에서 개입함으로써, 이 방법은 모델을 추론이 더 안정적으로 표현되는 표현 영역으로 유도합니다.

저자들은 교차 모달 전이의 성공이 **플라톤적 표현 가설(Platonic Representation Hypothesis)**을 뒷받침한다고 주장하며, 이는 표현 기하학이 모델 규모에 따라 보편적으로 수렴하며 "사고 공간"이 입력 모달리티와 독립적인 모델의 구조적 속성임을 시사합니다. 이 방법은 강화 학습이나 미세 조정의 비용 없이 기본 모델과 추론 모델 모두의 추론 능력을 향상시킬 수 있는 실용적이고 가벼운 빌딩 블록을 제공합니다.

한계점

저자들은 다음과 같은 몇 가지 제약 사항을 인정합니다:

• 추론 변체에 대한 의존성: 이 방법은 적합을 위한 초기 사고 임베딩을 추출하기 위해 대상 모델의 추론 가능 변체에 대한 접근 권한이 필요합니다.
• 작업 특이성: 개선 효과는 수학 및 과학적 추론에서 가장 두드러졌으며, 코드 생성에서의 이득은 완만했습니다.
• 단일 토큰 주입: 현재 구현은 하나의 합성 토큰만을 주입합니다. 회전된 임베딩 시퀀스를 주입했을 때의 잠재적 이점에 대해서는 아직 탐구되지 않았습니다.
• 화이트박스 요구 사항: 이 방법은 모델의 내부 은닉 상태(특히 마지막 레이어)에 대한 접근을 필요로 하므로, 토큰 출력만을 사용할 수 있는 폐쇄형(closed-source) 모델에는 적용할 수 없습니다.