💬 NLP

The Benchmark Illusion: Pruned LLMs Can Pass Multiple Choice but Fail to Answer

이 논문은 가지치기(pruning)된 거대 언어 모델이 다지선다형 평가에서는 유능해 보이지만 개방형 생성에서는 실패하는 '벤치마크 환상(benchmark illusion)'을 밝혀내는데, 이는 가지치기가 정답을 삭제하기보다 정답의 순위를 낮추는 것이기 때문이며, 따라서 압축된 모델은 단순히 인식 능력뿐만 아니라 생성 능력에 대해서도 테스트되어야 함을 시사한다.

원저자: Rui Wen, Lu Sun, Jiayang Liu, Zesheng Xu, Tianshuo Cong, Zheng Li

게시일 2026-06-17

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Rui Wen, Lu Sun, Jiayang Liu, Zesheng Xu, Tianshuo Cong, Zheng Li

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신에게 거의 모든 질문에 답할 수 있는 지식과 박학다식함을 갖춘 뛰어난 사서(대규모 언어 모델)가 있다고 상상해 보십시오. 비용과 공간을 절약하기 위해, 당신은 도서관을 "가지치기(pruning)"하기로 결정합니다. 가장 필수적인 책들만 남겨두고 나머지 방대한 양의 책과 선반을 제거하는 것입니다.

당신이 묻고자 하는 논문은 이 줄어든 도서관을 테스트했을 때 어떤 일이 발생하는지를 조사합니다.

"객관식의 환상"

여기 속임수가 있습니다. 사서에게 질문할 때, 당신은 두 가지 방식으로 테스트할 수 있습니다:

주관식 질문: "아조레스 제도를 누가 발견했습니까?"라고 묻고, 그들이 기억을 되살려 답을 말할 때까지 기다립니다.
객관식 테스트: "아조레스 제도를 누가 발견했습니까? A) 1427년, B) 1500년, C) 1600년, D) 1700년."이라고 묻습니다.

논문은 놀라운 "환상"을 발견했습니다. 가지치기를 한 후, 사서는 종종 주관식 질문에서 실패합니다. 그들은 "15세기였던 것 같습니다"와 같이 모호하거나 틀린 답을 말할 수 있습니다. 하지만, 만약 객객식 테스트를 제공한다면, 그들은 이를 완벽하게 해냅니다. 그들은 즉시 "1427년"을 가리키며 정답을 맞힙니다.

표준 벤치마크(AI를 평가하는 데 사용되는 테스트)는 대개 이 객관식 형식을 따릅니다. 이는 잘못된 안도감을 줍니다. 테스트는 "당신의 도서관은 여전히 완벽합니다!"라고 말하지만, 실제로는 사서가 도움 없이 스스로 답을 *회상(recall)*하는 능력을 상실했다는 것을 의미합니다. 그들은 답을 보여주면 그것을 *인식(recognize)*할 수는 있지만, 스스로는 답을 *생성(produce)*해내지 못합니다.

"강등(Demotion)" vs "삭제(Erasure)" 이론

저자들은 중요한 질문을 던졌습니다. 가지치기가 지식을 삭제한 것일까요(사서가 그 사실을 완전히 잊어버린 것인가), 아니면 단지 지식을 강등시킨 것일까요(사서가 여전히 알고는 있지만, 더 이상 그것이 첫 번째 선택지가 아닌 것인가)?

그들은 이것이 대부분 강등이라는 것을 발견했습니다.

사서의 마음을 아이디어가 가득 찬 방이라고 생각해 보십시오. 가지치기 전에는 정답이 바로 앞문에 서서 당신에게 손을 흔들고 있었습니다. 가지치기 후에도 정답은 여전히 방 안에 있지만, 뒤쪽 세 번째나 네 번째 줄로 밀려났습니다.

탐욕적 디코딩 (Greedy Decoding - 기본 설정): 사서는 오직 앞문에 서 있는 사람만을 봅니다. 정답이 이제 3번 줄에 있기 때문에, 사서는 앞에 서 있는 틀린 사람을 선택합니다.
객관식: 당신이 사서에게 방 안에 있는 사람들의 목록을 건네줍니다. 정답이 비록 3번 줄에 있더라도, 사서는 목록에서 그를 찾아낼 수 있습니다.

"강등"을 해결하는 방법

지식이 삭제된 것이 아니라 단지 밀려난 것이기 때문에, 논문은 약간의 도움만 있으면 정답을 다시 찾을 수 있다는 것을 보여줍니다.

더 넓은 탐색: 단순히 앞문만 보는 대신(탐욕적 디코딩), 만약 당신이 사서에게 방 안의 상위 5명을 보라고 지시하거나(빔 서치/Beam Search), 몇 번의 추측을 해보라고 한다면(샘플링/Sampling), 사서는 정답을 다시 찾아낼 것입니다.
작은 힌트: 만약 당신이 사서에게 유사한 질문에 답하는 방식의 예시를 하나 제공한다면(인컨텍스트 학습/in-context example), 그것은 정답을 다시 맨 앞줄로 밀어 올리는 데 도움이 됩니다.

주의할 점

이 "강등" 효과는 특히 규모가 큰 모델이나 모델이 잘 다루는 언어에서 자주 발생합니다. 그러나 논문은 더 작은 모델이나 매우 어려운 언어의 경우, 가지치기가 실제로 지식을 완전히 삭제하기도 한다고 언급합니다. 그런 경우에는 목록을 보여주더라도 사서가 답을 찾을 수 없는데, 왜냐하면 이미 사라졌기 때문입니다.

핵심 요점

이 논문은 압축된 AI 모델을 판단할 때 "객관식" 점수를 너무 신뢰하지 말라고 경고합니다. 모델은 정답지를 들고 있을 때 완벽해 보일 수 있지만, 실제 사용자가 직접적인 질문을 던질 때는 처참하게 실패할 수 있습니다. 압축된 모델이 정말로 유용한지 알기 위해서는, 모델이 정답을 보고 무엇을 인식할 수 있는지뿐만 아니라, 스스로 무엇을 생성할 수 있는지를 테스트해야 합니다.

기술 요약: 프루닝된 LLM의 벤치마크 환상 (The Benchmark Illusion in Pruned LLMs)

문제 정의

대규모 언어 모델(LLM)은 메모리 사용량과 추론 비용을 줄이기 위해 프루닝(pruning, 가지치기)을 통해 빈번하게 압축됩니다. 개발자들은 일반적으로 압축 후에도 모델 성능이 유지되는지 검증하기 위해 표준적인 객관식(multiple-choice, MC) 벤치마크에 의존합니다. 그러나 본 논문은 프루닝된 모델이 객관식 평가에서는 높은 점수를 기록하면서도, 개방형 생성(open-ended generation) 및 그리디 생성(greedy generation) 작업에서는 정답을 생성하는 데 실패할 수 있다는 결정적인 "벤치마크 환상"을 식별합니다.

본 연구에서 조사하는 핵심 질문은 프루닝이 지식을 완전히 삭제하는 것인지, 아니면 단지 정답의 순위를 낮추어(demote) 이를 최상단 출력으로 만드는 것을 어렵게 만드는 것인지 여부입니다. 저자들은 표준적인 객관식 벤치마크가 '인식(recognition)'을 테스트할 뿐 '생산(production)'을 테스트하지 않기 때문에, 압축된 모델의 유용성을 과대평가하여 평가의 사각지대를 만든다고 주장합니다.

방법론

본 연구는 "인식하는 것"과 "생산하는 것"을 구분하기 위해 **쌍 항목 진단 프레임워크(paired-item diagnostic framework)**를 채택합니다. 방법론은 다음과 같습니다.

스트레스 테스트 설정: 저자들은 다국어 질의응답(QA)을 위해 TyDiQA 및 XQuAD 데이터셋을 활용합니다. 이들은 비압축(dense) 모델이 개방형 생성과 객관식 형식 모두에서 정답을 맞히는 질문들을 선정합니다.
압축: 모델들(Qwen3-8B, Mistral-7B-Instruct, Phi-3-mini 포함)을 재학습 없이 원샷(one-shot) 방식인 WANDA(고희소성) 및 SparseGPT를 사용하여 프루닝합니다.
3단계 평가: 동일한 질문들을 세 가지 형식을 통해 평가하여 "생성 격차( $\Delta_{PR}$ $Δ_{P R}$ )"를 측정합니다.
- 자발적 생성 (Spontaneous Generation): 후보군 없이 그리디 디코딩을 수행함 (가장 어려움).
- 프롬프트 기반 인식 (Prompted Recognition, 후보 제시형): 모델에게 정답과 오답(distractors)을 제공하고 정답을 생성하도록 함.
- 객관식 점수 산출 (Multiple-Choice Scoring): 로그 가능도(log-likelihood)를 통해 옵션들의 점수를 매겨 최적의 것을 선택함 (가장 쉬움).
진단 지표:
- 해리율 (Dissociation Rate): 프루닝 전에는 두 형식 모두에서 정답이었으나, 프루닝 후 "객관식 전용(MC-only)" 오류(객관식에서는 맞지만 생성에서는 틀림)가 된 항목의 비율.
- 토큰 순위 분석 (Token Rank Analysis): 확률 분포 내에서 골드 정답(gold answer)의 첫 번째 토큰의 순위를 조사하여, 이것이 삭제되었는지 아니면 단순히 순위가 밀려났는지(demoted)를 판별함.
- 회복 가능성 (Recoverability): 더 넓은 범위의 디코딩 방식(Beam Search, Nucleus Sampling)이나 가벼운 프롬프팅(1-shot 인컨텍스트 예시)이 프루닝된 모델로부터 정답을 회복할 수 있는지 테스트함.

주요 결과

1. "객관식 전용(MC-Only)" 현상

프루닝은 객관식 인식 능력은 유지하면서도 그리디 개방형 생성을 빈번하게 무너뜨립니다.

해리 (Dissociation): 고희소성 프루닝(예: WANDA 0.5 희소성) 시, 상당한 비율의 항목들(영어의 경우 12%에서 벵골어의 경우 50%에 이르는 범위)이 "객관식 전용" 오류가 됩니다. 즉, 모델은 정답을 직접 생성하는 데는 실패하지만, 목록에서 정답을 선택하는 데는 성공합니다.
지원 기울기 (Support Gradient): 평가 형식이 정답에 대한 지원을 더 많이 제공할수록 정확도 하락폭이 최소화됩니다. 개방형 생성은 가장 큰 하락(예: 8.7 퍼센트 포인트)을 겪는 반면, 객관식 점수 산출은 가장 적은 하락(2.7 퍼센트 포인트)을 보입니다.

2. 삭제가 아닌 순위 하락 (Demotion, Not Erasure)

본 논문은 프루닝이 일반적으로 정답을 삭제하기보다는 **순위를 낮춘다(demote)**는 것을 입증합니다.

토큰 순위: 프루닝 후 "객관식 전용"이 된 항목들에 대해, 골드 정답의 첫 번째 토큰은 확률 분포 내에서 중앙값 순위 3.5를 유지합니다. 이는 "아까운 실수(near miss, 상위권에 근접)"이지, (비압축 모델이 이미 실패했던 항목들에서 나타나는 것처럼) 깊게 매몰된 상태(예: 순위 17 이상)가 아닙니다.
메커니즘: 프루닝은 확률 질량을 상위권 근처로 이동시킵니다. 정답 토큰은 종종 순위 1에서 3 또는 4로 떨어지며, 이로 인해 그리디 디코딩이 경쟁 토큰을 선택하게 됩니다. 일단 첫 번째 토큰이 틀리면 오류가 누적됩니다.

3. 회복 가능성 (Recoverability)

지식이 삭제된 것이 아니라 순위가 밀려난 것이기 때문에, 다음과 같이 회복 가능한 경우가 많습니다.

더 넓은 디코딩: Beam Search(빔 크기 5) 또는 Nucleus Sampling(10개 샘호)을 사용하면 프러닝된 모델의 정확도가 크게 회복됩니다. 예를 들어, 스와힐리어 정확도는 39%(그리디)에서 74%(10개 샘플)로 상승합니다.
안정성: 그리디 정확도는 프루닝 후 약 9.1 퍼센트 포인트 하락하지만, "오라클 회복 가능성(oracle recoverability, 즉 정답이 분포 내에 존재하는지 여부)"은 약 0.7 퍼센트 포인트만 하락합니다.
프롬프팅: 단일 인컨텍스트 예시를 추가하는 것 또한 프러닝된 모델과 비압축 모델 간의 성능 격차를 줄이는 데 도움이 됩니다.

4. 한계 및 경계

"순위 하락(demotion)" 가설이 보편적으로 적용되는 것은 아닙니다.

모델 크기: 더 작은 규모의 Qwen 체크포인트들은 정답을 단순히 순위만 낮추는 것이 아니라, 근본적인 인식 능력 자체를 상실할 가능성이 더 높습니다.
언어/토큰화: 회복률은 언어마다 다릅니다. 복잡한 토큰화를 가진 저자원 언어(예: 벵골어, 텔루구어)는 다른 언어(예: 스와힐리어 59%)에 비해 낮은 회복률(12%)을 보이는데, 이는 특정 사례에서 실제적인 지식 손실이 발생했음을 시사합니다.

기여도

새로운 진단 도구: 생성, 인식, 도달 가능성(reachability)을 비교하는 쌍 항목 테스트를 도입하여 압축으로 인한 실패를 드러냄.
벤치마크 환상의 폭로: 공격적인 프러닝이 객관식 인식은 유지하면서도 그리디 생성을 파괴할 수 있음을 보여줌으로써, 벤치마크 점수가 부풀려질 수 있음을 증명함.
기계적 설명: 프러닝이 주로 정답을 삭제하는 것이 아니라 정답의 순위를 낮추어(near misses) 더 넓은 디코딩이나 가벼운 프롬프팅을 통해 회복 가능하게 만든다는 증거를 제시함.

의의

본 논문은 유지된 벤치마크 점수가 유지된 유용성을 보장하지 않는다고 결론짓습니다. 표준적인 객관식 벤치마크는 모델이 무엇을 인식할 수 있는지가 아니라 무엇을 생산할 수 있는지를 테스트한다는 점에서 사각지대를 만듭니다. 압축된 LLM의 실제 세계 유용성을 정확하게 평가하려면, 평가 방식이 단순히 목록에서 선택하는 능력이 아닌, 개방형 생성을 우선시하고 정답을 생산하는 능력을 테스트해야 합니다. "벤치마크 환상"은 현재의 압축 기술들이 리더보드가 보여주는 것보다 실제 배포 환경에서는 더 취약할 수 있음을 시사합니다.