💬 NLP

Demystifying Entropy-based Selection for Chain-of-Thought Compression in Large Reasoning Models

이 논문은 사고 사슬(Chain-of-Thought) 추론을 압축하기 위한 엔트로피 기반 프루닝의 효용성에 이의를 제기하며, 이러한 휴리스틱이 무작위 선택보다 나은 이점을 제공하지 못할 뿐만 아니라, 작업에 결정적인 정보가 엔트로피 지표로 식별 가능한 특정 토큰에 집중되어 있기보다는 전체 추론 사슬 전반에 걸쳐 분포되어 있음을 입증한다.

원저자: Sara Candussio, Daniel Scalena, Luca Bortolussi, Elisabetta Fersini, Malvina Nissim, Gabriele Sarti

게시일 2026-08-03

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Sara Candussio, Daniel Scalena, Luca Bortolussi, Elisabetta Fersini, Malvina Nissim, Gabriele Sarti

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 아주 똑똑하지만 수다스러운 로봇에게 까다로운 퍼즐을 푸는 법을 가르치고 있다고 상상해 보세요. 올바른 답을 얻기 위해 로봇은 단순히 해결책을 내뱉는 것이 아니라, 먼저 자신의 생각, 계산, 그리고 "아하!" 하는 순간들을 긴 목록으로 적어 내려갑니다. 이 내부 독백을 "사고의 사슬(Chain-of-Thought)"이라고 부릅니다. 이것은 마치 탐정이 범인을 잡기 전, 아주 당연해 보이는 단서들까지도 모두 기록하는 것과 같습니다. 이 방식은 로봇을 훨씬 더 똑똑하게 만들지만, 생각의 목록이 믿을 수 없을 정도로 길어질 수 있기 때문에 로봇을 매우 느리게 만들고 컴퓨터 메모리를 많이 잡아먹게 합니다. 과학자들은 이제 이 '생각의 목록'을 잃지 않으면서도 어떻게 하면 더 짧게 줄일 수 있을지 고민하고 있습니다. 그들은 질문합니다: 이야기의 지루한 부분은 삭제하고 흥미롭고 중요한 부분만 남길 수 있을까요?

한동안 많은 연구자들은 자신들이 마법 같은 필터를 찾아냈다고 믿었습니다. 그들은 로봇이 다음에 할 말에 대해 얼마나 "놀랐는지"(엔트로피라고 불리는 개념)를 살펴봄으로써, 어떤 생각이 핵심적이고 어떤 것이 단순한 채움용인지 구려낼 수 있다고 생각했습니다. 아이디어는 이랬습니다. 만약 로봇이 다음에 할 말에 대해 매우 확신한다면(낮은 놀라움), 그 부분은 아마도 지루한 반복일 것이므로 잘라낼 수 있다는 것입니다. 반대로 로봇이 확신하지 못한다면(높은 놀라움), 그것은 진짜 사고가 일어나는 순간이므로 반드시 남겨두어야 한다는 것이었습니다. 이것은 로봇의 일기를 몇 페이지로 줄이면서도 좋은 내용만 남길 수 있는 완벽한 방법처럼 들렸습니다. 하지만 이 마법의 필터가 정말 존재하는 것일까요, 아니면 그저 운 좋은 추측에 불과할까요?

이 논문은 그 아이디어에 대한 현실 점검입니다. 호기심 많은 과학자들로 구성된 저자들은 이 "엔트로피 필터"를 훨씬 더 단순하고 멍청한 방법, 즉 무작위로 생각을 삭제하는 방법과 비교해 테스트하기로 했습니다. 그들은 로봇의 긴 추론 과정을 어지러운 방처럼 취급했고, 두 가지 전략을 사용하여 정리하려고 시도했습니다. 첫 번째 전략은 엔트로피 필터를 사용하여 무엇을 남길지 결정하는 "스마트한" 방식이었습니다. 두 번째 "무작위" 방식은 내용과는 상관없이 문장이나 단어를 한 움큼 집어 들어 남기는 방식이었습니다. 그들은 다양한 로봇(서로 다른 AI 모델)을 대상으로 수학 문제, 논리 퍼즐, 과학 질문 등 다양한 종류의 숙제를 주었습니다.

결과는 반전이었습니다. 과학자들이 문장 단위로 살펴보았을 때, "스마트한" 엔트로피 필터는 무작위 추측보다 나을 것이 없었습니다. 사실, 무작위 방식이 로봇의 성능을 높게 유지하는 데 있어 종종 대등하거나 심지어 더 나은 성과를 보였습니다. 즉, 문장의 "놀라움 수준"은 중요한 정보가 어디에 숨어 있는지 알려주는 신뢰할 만한 지도가 아니라는 것입니다. 저자들은 이전 연구들이 엔트로피가 효과적이라고 생각했던 이유가 주로 수학 문제에서 테스트했기 때문일 것이라고 제안합니다. 수학 문제에서는 "중요한" 단어들이 주로 숫자이기 때문입니다.

과학자들이 시야를 좁혀 문장 대신 개별 단어(토큰)를 살펴보았을 때, 기묘한 패턴이 나타났습니다. 수학 테스트의 경우, 놀라움이 낮은 단어들을 남기는 것이 도움이 되는 것처럼 보였습니다. 하지만 저자들은 더 깊이 파고들어, 이것이 그 단어들이 "사고"하는 단어여서가 아니라는 사실을 깨달았습니다. 수학 문제에서 놀라움이 낮은 단어들은 거의 항상 숫자(예: "2", "7", "5")였습니다. 수학에서는 숫자가 예측 가능하기 때문에 엔트로피가 낮습니다. 필터는 "똑똑한" 부분을 찾아낸 것이 아니라, 단지 우연히 숫자를 골라낸 것이었습니다. 숫자를 섞어 넣었을 때, 낮은 엔트로피 필터는 작동을 멈추고 무작위 추측만큼 형편없어졌습니다.

이를 증명하기 위해, 그들은 "액티베이션 패칭(activation patching)"이라는 특별한 기술을 사용했습니다. 이것은 전체 버전의 긴 이야기에서 로봇의 뇌 활동을 가져와 압축된 짧은 버전에 붙여넣는 것을 상상해 보세요. 이를 통해 누락된 맥락이 실제로 문제였는지 확인할 수 있습니다. 그들은 이 뇌 강화 기술을 사용하더라도, 엔로피 필터가 수학 문제에서 숫자를 구체적으로 남기는 경우가 아니라면 무작위 방식을 이길 수 없다는 것을 발견했습니다. 논리 퍼즐과 같은 비수학적 과제에서 엔트로피 필터는 완전히 실패하여, 우연에 의한 결과보다 나을 것이 없었습니다.

그렇다면 결론은 무엇일까요? 이 논문은 "놀라움"(엔트로피)을 사용하여 로봇의 사고 과정 중 가장 중요한 부분을 자동으로 찾아내고 유지하겠다는 아이디어가 대부분 신화에 불과하다는 점을 시사합니다. 의미론적 내용, 즉 추론의 실제 의미와 논리는 단순한 규칙으로 찾을 수 있는 몇 개의 특별한 저-놀라움 단어에 집중되어 있지 않습니다. 대신, 중요한 정보는 사고의 사슬 전체에 흩어져 있습니다. 숫자를 유지하는 것이 수학에는 도움이 될 수 있지만, 로봇의 추론 과정을 지능을 잃지 않으면서 압축할 수 있는 보편적인 "마법의 필터"는 존재하지 않습니다. 목록을 줄이는 가장 좋은 방법은 아마도 더 많은 내용을 남기거나, 어떤 단어가 지루한지 추측하는 데 의존하지 않는 더 똑똑한 절단 방법을 찾는 것일지도 모릅니다.

기술 요약: 엔트로피 기반 선택의 실체 규명: Chain-of-Thought 압축에 대하여

문제 제기

추론 시점의 스케일링을 위한 Chain-of-Thought(CoT) 추론은 복잡한 작업에서 대규모 언어 모델(LLM)의 정확도를 향상시켰으나, 종종 컨텍스트 윈도우를 고갈시키는 지나치게 긴 추론 흔적(trace)을 생성한다. 이를 완화하기 위해, 최근 문헌들은 엔트로피가 관련성의 신뢰할 수 있는 대리 지표 역할을 할 것이라는 가설을 세우고 엔트로피 기반 프루닝(pruning) 전략을 제안해 왔다. 구체적으로, 일부 연구는 고엔트로피 토큰(추론의 분기점을 나타냄)은 유지하고 저엔트로피 토큰(중복된 것으로 간주됨)은 버릴 것을 제안하는 반면, 다른 연구들은 저엔트로피 토큰이 의미적 내용을 담고 있으므로 유지해야 한다고 주장한다.

그러나 이러한 주장들은 무작위 베이스라인(random baseline)과의 비교가 부족하며, 주로 수학적 벤치마크에서만 테스트되었다. 이는 다음과 같은 중요한 질문을 제기한다: 엔트로피가 정말로 추론 내용의 지표인가, 아니면 관찰된 성공이 단순히 일반적인 압축의 결과인가? 또한 이것이 수학적 추론을 넘어 일반화될 수 있는가?

방법론

저자들은 다양한 조건에 걸쳐 엔트로피 기반 선택 방법의 강건성 평가를 종합적으로 수행한다:

모델: 세 가지 계열(gpt-oss, Gemma-4, Qwen3)과 다양한 파라미터 규모(4B에서 120B)를 아우르는 6개의 모델.
데이터셋: 수학적 추론(AIME 2024–2026, MATH-500), 논리 퍼즐(ZebraLogic), 그리고 상식 과학 질문(GPQA-Diamond).
선택 기준:
- 문장 단위(Sentence-level): 평균 토큰 엔트로피(저/고)에 따른 순위 지정, 숫자 토큰 비율, 그리고 무작위 균등 샘플링(random uniform sampling).
- 토큰 단위(Token-level): 유사한 엔트로피 기반 순위 지정, 그리고 숫자 토큰, 줄바꿈(\n), 문장 종료 마커를 대상으로 하는 특정 셀렉터.
압축 프로토콜:
1. 언패치드(Unpatched, 텍스트 전용): 모델이 압축된 텍st 흔적만을 바탕으로 답변을 생성함.
2. 패치드(Patched, 활성화 인지): 모델이 압축된 텍스트로부터 생성하되, 보존된 토큰에 해당하는 위치에서 원래의 전체 흔적으로부터 캐싱된 은닉 상태(activations)를 활용함. 이는 콘텐츠 유지 효과를 문맥적 유창성의 손실과 분리한다.
평가: 성능은 상대적 성능 유지율(Relative Performance Retention, RPR)과 다양한 유지율에 따른 RPR의 곡선 아래 면적(AUC)으로 측정되며, 무작위 베이스라인( $\Delta$ AUC)과 비교된다.

주요 결과

1. 문장 단위 프루닝: 엔트로피는 이점이 없다

모든 모델, 규모, 추론 도메인(수학 및 비수학)에 걸쳐, 무작위 문장 선택이 일관되게 저엔트로피 및 고엔트로피 선택 전략보다 우세하거나 그 이상의 성능을 보인다.

중간에서 높은 압축률에서, 무작위 프루닝은 전체 CoT 성능의 78~90%를 유지한다.
엔트로피 기반 전략(저/고 모두)은 일반적으로 필요한 내용을 격리하는 데 실패하며, 종종 무작위 베이스라인보다 성능이 크게 떨어지지만, 무작위 성능과 대등하거나 약간 상회하는 특정 예외 사례도 존재한다.
이는 문장 수준에서 엔트로피가 추론 관련성을 나타내는 신뢰할 수 있는 신호가 아님을 시사한다.

2. 토큰 단위 프루닝: "숫자 토큰"이라는 혼란 변수(Confound)

토큰 수준에서는 저엔트로피 선택의 명백한 이점이 오직 수학적 벤치마크에서만 나타나는데, 이는 엔트로피 자체 때문이 아니다.

메커니즘: 수학적 CoT에서 숫자 토큰(숫자/digits)은 문맥이 숫자를 암시할 때 모델의 어휘 옵션이 제한(0–9)되므로 본질적으로 매우 낮은 엔트로피를 가진다.
증거: 저엔트로피 셀렉터에서 숫자 토큰을 명시적으로 제외했을 때("low-entropy no numbers"), 성능이 급격히 하락하여 종종 무작위 선택보다 낮아진다. 반대로, 숫자 토큰만을 타겟팅하는 셀렉터("numbers")는 저엔트로피 선택과 비슷하거나 더 나은 성능을 보인다.
일반화: 비수학적 작업(ZebraLogic, GPQA)에서는 저엔트로피 토큰 선택의 이점이 완전히 사라지며, 무작위 선택과 대등한 성능을 보인다.

3. 활성화 패칭(Activation Patching)의 역할

연구에 따르면 텍스트 전용 압축은 종종 읽기 어렵거나 구문적으로 깨진 흔적(예: 연산자 없이 숫자만 나열된 시퀀스)을 생성한다.

패칭 효과: 보존된 토큰의 활성화 값을 패칭하면, 모델은 극단적인 압축률에서도 거의 완벽한 성능을 회복할 수 있다.
콘텐츠 vs 문맥: 패칭을 통해 모델은 주변의 구문적 문맥 없이도 보존된 토큰의 의미적 내용(특히 수학 작업에서의 숫자)을 활용할 수 있다.
셀렉터 효율성: 패칭을 적용했을 때, "numbers" 셀렉터가 가장 효율적이며, 단 10~20%의 토큰만으로 전체 성능을 회복한다. 저엔트로피 선택 또한 개선되지만, 그 성공은 주로 이러한 숫자 토큰을 포함하는 데 기인한다. 그 외의 셀렉터(고엔트로피, 숫자가 제외된 저엔트로피)는 이와 같은 회복력을 보여주지 못한다.

4. 기존 주장의 재평가

고엔트로피 제거: 고엔트로피 토큰을 제거하는 것이 정확도를 높인다는 주장은, 고엔트로피 제거와 숫자(저엔트로피) 토큰의 유지 사이의 중첩이 수학적 문맥에서 발생하기 때문이며, 이는 노이즈 감소 메커니즘이 아니라 수학적 특성에 의한 것임이 밝혀졌다.
저엔트로피 중복성: 본 논문은 프루닝 전략이 성능 향상을 이끌어낼 수 있음(일부 경우 전체 흔적의 정확도와 일치하거나 능가함)을 확인하면서도, 무작위 선택이 동일한 결과를 더 높은 압축률에서 달성할 수 있음을 입증했다. 따라서 저엔트로피 단계가 유독 중복적이라는 주장은 뒷받침되지 않는다. 관찰된 이득은 엔트로피 기반 프루닝에 특이적인 것이 아니라, 비록 효율성 측면에서 차이는 있을 수 있으나 무작위 선택을 통해서도 달성 가능하다.

의의 및 결론

본 논문은 엔트로피가 추론 흔적의 의미적 내용을 식별하기 위한 일반화 가능한 신호가 아님을 결론짓는다.

휴리스틱으로서의 엔트로피 반박: 기존 문헌에서 관찰된 엔트로피 기반 압축의 성공은 엔트로피 기반의 메커니즘이라기보다, 수학적 작업의 특성(숫자는 저엔트로피이며 정보가 풍부함)에 의해 유발된 가짜 상관관계(spurious correlation)에 불과하다.
정보의 분포: 작업 관련 정보는 엔트로피로 식별 가능한 소수의 토큰에 집중되어 있지 않다. 대신, 전체 추론 체인 전반에 걸쳐 분포되어 있다.
압축의 현실: 효과적인 압축을 위해서는 의미 있는 내용(수학에서의 숫자와 같은)을 가진 토큰을 유지해야 하며, 결정적으로 그들과 관련된 문맥적 활성화(contextual activations)를 보존해야 한다. 단순한 텍스트 기반 엔트로피 프루닝은 이러한 복잡성을 포착하는 데 실패한다.

저자들은 엔트로피가 추론 관련성의 보편적 대리 지표로 사용될 수 있다는 전제에 도전하며, 미래의 압축 방법은 단순한 엔트로피 지표를 넘어 실제 의미적 동인을 식별하고 보존하는 방향으로 나아가야 한다고 강조한다.