당신은 매우 똑똑하고 수다스러운 로봇 친구와 대화하고 있다고 상상해 보세요. 당신이 "프랑스의 수도는 어디인가요?"와 같은 간단한 질문을 던집니다. 당신은 "파리입니다"라는 빠르고 직접적인 답변을 기대합니다. 하지만 때때로, 이 로봇 친구는 단순히 "파리"라고 말하는 대신 긴 내적 독백을 시작합니다: "음, 생각해보자. 파리인가? 잠깐, 다시 확인해봐야겠어. 오, 이제 기억났다. 분명히 파리야." 이것을 "추론(reasoning)"이라고 부르며, 어려운 퍼즐을 풀 때는 훌륭하지만 단순한 사실을 전달할 때는 짜증스럽고 느립니다.

인공지능의 세계에서 연구자들은 어려운 문제를 해결하기 위한 "생각(Think)" 모드와 빠르고 직접적인 답변을 위한 "생각 안 함(No-Think)" 모드 사이를 전환하도록 설계된 "하이브리드 사고(hybrid-thinking)" 모델을 구축했습니다. 아이디어는 당신이 로봇에게 "헤이, 그냥 답만 줘, 생각하지 말고!"라고 말하면 로봇이 그 말을 따라야 한다는 것입니다. 하지만 문제는, 이 로봇들에게 생각하지 말라고 말해도 스스로를 제어하지 못하는 경우가 많다는 점입니다. 그들은 여전히 내적 독백을 속삭이고, 긴 루프에 갇히며, 의도치 않게 자신의 "사고" 과정을 드러내곤 합니다. 이를 "추론 누출(reasoning leakage)"이라고 합니다. 이는 마치 누군가에게 조용히 하라고 말했는데, 그 사람이 계속해서 콧노래를 흥얼거리는 것과 같습니다. 이것이 중요한 이유는, 로봇이 생각하지 말아야 할 때 생각을 멈출 수 없다면 시간을 낭비하고, 너무 많은 컴퓨터 전력을 사용하며, 효율적이라고 신뢰받을 수 없기 때문입니다.

당신이 읽게 될 논문인 "Path-Lock Expert"는 이 콧노래 문제를 다룹니다. Case Western Reserve와 Kyoto 같은 대학의 연구진으로 구성된 저자들은 로봇이 생각을 멈추지 못하는 이유가 단순히 더 나은 훈련이나 데이터가 필요한 것이 아니라고 주장합니다. 그들은 이 문제가 로봇의 뇌 구조, 구체적으로 정보가 처리되는 부분들이 서로 어떻게 연결되어 있는지에 내재되어 있다고 주장합니다.

문제점: 두 명의 인격체가 되려는 하나의 뇌

요리사가 동일한 칼과 팬 세트를 사용하여 동시에 완전히 다른 두 가지 식사를 준비하려고 노력하는 요리사를 상상해 보세요. 한 식사는 복잡하고 다채로운 코스 요리인 고급 디너( "생각" 모드)이고, 다른 하나는 간단하고 즉석에서 만드는 샌드위치("생각 안 함" 모드)입니다. 만약 요리사가 화려한 디너를 위해 채소를 다지는 데 사용한 똑같은 칼을 샌드위치의 빵을 써는 데 사용한다면, 샌드위치에 고급 디너의 부스러기가 섞일 수 있습니다. 이것이 바로 AI 모델에서 일어나고 있는 일입니다. 그들은 길고 성찰적인 답변과 짧고 직접적인 답변을 모두 생성하기 위해 동일한 내부 "칼"(MLP라고 불리는 수학적 층)을 사용하고 있습니다. 심지로 생각하지 말라고 명령을 내려도, 공유된 부분들이 계속해서 "사고" 습관을 단순한 답변 속으로 흘려보냅니다.

이 문제를 해결하려는 이전의 시도들은 요리사에게 "제발 더 조용히 노력해봐"라거나 "혹은 좀 더 단순한 재료를 사용해봐"라고 말하는 것과 같았습니다. 이러한 훈련 기법들은 약간의 도움은 되었지만, 요리사는 여전히 콧노래를 완전히 멈출 수 없었습니다. 모델은 직접적으로 말하라는 명시적인 지시가 있을 때조차도 너무 길거나 "잠깐, 확인해볼게요..."와 같은 순간들로 가득 찬 답변을 여전히 만들어냈습니다.

해결책: Path-Lock Expert

연구진은 **Path-Lock Expert (PLE)**라고 불리는 영리한 구조적 해결책을 제안합니다. 똑같은 뇌가 다르게 행동하도록 훈련하는 대신, 그들은 로봇에게 두 개의 별도 "사고 엔진"(또는 전문가)을 제공하되 나머지 뇌는 공유된 상태로 유지합니다.

작동 방식은 생생한 비유를 통해 설명하겠습니다:
로봇의 뇌가 거대한 도서관이라고 상상해 보세요. 이 도서관 내부에는 모든 사람이 사용하는 메인 복도(주의력 및 기억과 같은 공유 부분)가 있습니다. 하지만 복도 끝에는 두 개의 서로 다른 방으로 이어지는 두 개의 문이 있습니다.

• A번 방은 "생각의 방"으로, 화이트보드, 복잡한 차트, 그리고 어려운 퍼즐을 풀기 위한 도구들로 가득 차 있습니다.
• B번 방은 "생각 안 함의 방"으로, 작고 조용하며 빠르고 직접적인 답변을 위해 설계되었습니다.

기존 디자인에서는 로봇이 하나의 문을 통과하여 적절한 방에 있는 것처럼 행동하려고 노력해야 했기에 혼란스러웠습니다. Path-Lock Expert를 사용하면, 로봇에게 입구에 특별한 스위치가 있습니다. 당신이 /think를 입력하면, 스위치는 대화 내내 로봇을 "생각의 방"에 고정(lock)시킵니다. /no think를 입력하면, 스위치는 로봇을 "생각 안 함의 방"에 고정합니다. 결정적인 것은, 로봇은 문장 중간에 방을 바꾸지 않는다는 점입니다. 일단 문이 잠기면, 계속 잠겨 있습니다.

이 디자인은 로봇이 생각을 멈추려고 "노력"할 필요가 없다는 것을 의미합니다. 왜냐하면 "생각 안 함의 방"에 있을 때는 물리적으로 "사고 도구"에 접근할 수 없기 때문입니다. 두 방은 각자의 별도 도구 세트(MLP 전문가)를 가지고 있으므로, 복잡한 사고자의 습관이 단순한 답변가에게로 새어 들어가지 않습니다.

연구 결과

연구진은 AIME24(어려운 수학 경시 대회)와 GPQA(어려운 과학 벤치마크)와 같은 가장 어려운 수학 및 과학 퍼즐을 사용하여 이 새로운 디자인을 테스트했습니다. 그들은 이 새로운 "Path-Lock" 로봇을 기존의 "하이브리드" 로봇 및 더 나은 데이터로 훈련된 모델들과 비교했습니다.

결과는 놀라웠습니다:

• 훨씬 적은 누출: AIME24 수학 테스트에서, 기존의 하이브리드 모델들은 생각하지 말라고 지시받았을 때도 답변당 약 6.01개의 "성찰적" 토큰("잠깐", "음", 또는 "생각해보자"와 같은 단어들)을 생성했습니다. 새로운 Path-Lock 모델은 이를 단 0.35개로 줄였습니다. 이는 로봇이 내적 독백을 흥얼거리는 횟수를 17배나 줄인 것입니다!
• 더 짧은 답변: 기존 모델은 짧아야 할 답변임에도 불구하고 8,600 토큰이 넘는 답변을 내놓았습니다. Path-Lock 모델은 이를 약 4,100 토큰으로 줄여 훨씬 간결하게 만들었습니다.
• 더 똑똑한 직접 답변: 답변이 더 짧아졌을 뿐만 아니라, 더 정확해졌습니다. Path-Lock 모델은 "생각 안 함" 모드에서 어려운 수학 문제의 **44.67%**를 맞힌 반면, 기존의 훈련 전용 방식은 **35.33%**에 그쳤습니다.
• 사고 능력의 손실 없음: 중요한 점은, 새로운 디자인이 로봇의 실제 사고 능력을 저하시키지 않았다는 것입니다. 로봇이 실제로 "생각의 방"을 사용할 수 있도록 허용되었을 때, 모델은 이전과 마찬가지로 잘 수행(약 **61.33%**의 정확도)하여, 방을 분리하는 것이 복잡한 추론 능력을 망가뜨리지 않았음을 증명했습니다.

이것이 의미하는 바

이 논문은 "추론 누출" 문제가 단순히 훈련의 문제가 아니라 구조적인 문제임을 시사합니다. 사고하는 것과 사고하지 않는 것의 경로를 물리적으로 분리함으로써, 연구진은 두 모드 사이의 훨씬 깔끔한 전환을 만들어냈습니다.

또한 그들은 "재료"가 중요하다는 것을 발견했습니다. 만약 당신이 이미 지시를 잘 따르는 로봇에서 시작한다면, Path-Lock 시스템이 가장 잘 작동합니다. 만약 아무것도 훈련되지 않은 생생한 로봇으로부터 이것을 처음부터 구축하려고 한다면, 차이를 배우는 데 어려움을 겪습니다. 또한, 트레이드오프(trade-off)를 발견했습니다: 매우 어렵고 복잡한 훈련 데이터를 사용하면 "생각" 모드는 더욱 좋아지지만, 때때로 "생각 안 함" 모드가 아주 약간의 사고 흔적을 더 많이 노출하게 만들기도 합니다. 그러나 전반적인 균형은 이전보다 훨씬 더 좋았습니다.

요약하자면, 저자들은 당신이 로봇에게 뇌를 끄라고 요청할 때 진정으로 뇌를 끌 수 있게 하고 싶다면, 단순히 조용히 하라고 말해서는 안 된다고 제^{\text{안}}합니다. 당신은 "사고" 도구가 존재하지 않는 별도의 방을 제공해야 합니다. 이 간단한 구조적 변화는 AI를 훨씬 더 효율적이고, 예측 가능하며, 통제 가능하게 만드는 강력한 방법인 것으로 보입니다.