Reasoning Models Can Control Their Chains of Thought When They Tell Themselves To
이 논문은 기존에 보고된 추론 모델의 사고 사슬(chain of thought)에 대한 낮은 제어 가능성이 주로 단순한 사용자 프롬프팅 때문이라고 주장하며, 자기 지시(self-instruction)를 통해 상당히 더 높은 제어 가능성을 달 achieve할 수 있음을 입증하는 동시에, 이러한 능력이 모니터링을 회피하는 데 악용될 수 있다는 새로운 위험성을 밝혀낸다.