기술 요약: DecompressionLM

문제 정의

대규모 언어 모델(LLM)의 지식을 탐색하는 기존 방법들은 사전에 정의된 쿼리(예: 클로즈 스타일 프롬프트 또는 특정 템플릿)에 의존한다. 이러한 "폐쇄형 세계(closed-world)" 접근 방식은 연구자가 이미 질문할 것을 알고 있는 개념으로 추출 범위를 제한하며, 모델에 인코딩된 지식의 전체 범위를 드러내는 데 실패한다. 또한, 표준적인 디코딩 기반 프로빙 방법은 세 가지 결정적인 비효율성을 겪는다:

1. 교차 시퀀스 결합(Cross-sequence coupling): 순차적 탐색(예: 빔 서치)은 확률 질량을 고빈도 접두사에 집중시켜 다양한 연속 생성(continuations)을 억제한다.
2. 경쟁적 디코딩 효과(Competitive decoding effects): 자기회귀적 샘플링은 초기 고확률 선택이 지배적인 양상을 보이는 "부익부 빈익빈(rich-get-richer)" 역학을 생성하여, 롱테일(long-tail) 개념의 커버리지를 감소시킨다.
3. 확장성 제약: 순차적 컨텍스트 확장을 통한 전수 조사(exhaustive probing)는 셀프 어텐션 메커니즘으로 인해 이차 시간 복잡도(quadratic time complexity)를 유발하여, 포괄적인 지식 추출을 계산적으로 불가능하게 만든다.

또한, 퍼플렉시티(perplexity)와 같은 표준 평가 지표는 지식의 폭이나 사실적 근거의 충실도를 포착하는 데 실패하는 경우가 많으며, 특히 압축(양자화)된 모델에서 그러하다.

방법론: DecompressionLM

저자들은 사전 지정된 쿼리 없이 LLM의 출력 분포를 체계적으로 샘플링하여 개념 그래프를 발견하도록 설계된 상태 비저장(stateless), 제로샷 프레임워크인 DecompressionLM을 소개한다.

핵심 메커니즘

1. 산술 디코딩을 결합한 반 데르 코르풋(Van der Corput, VdC) 샘플링:

   • 순차적 빔 서치 대신, 이 방법은 저불일치(low-discrepancy) 수열인 반 데르 코르풋 수열을 사용하는 결정론적 준무작위(quasi-random) 샘플링을 채택한다.
   • 산술 디코딩과 결합하여, 이는 시퀀스를 $[0, 1)$ 범위의 실수로 매핑한다. VdC 수열은 출력 공간의 균등한 커버리지를 보장하는 무제한의 저불일치 코드($v_n$) 집합을 생성한다.
   • 이 접근 방식은 완전한 병렬, 상태 비저장 생성을 가능하게 한다. 각 시퀀스는 고유한 코드를 사용하여 동일한 접두사 프롬프트로부터 독립적으로 생성되므로, 교차 시퀀스 결합을 제거하고 계산을 조정 없이 다른 머신으로 오프로드할 수 있다.

2. 개념 추출 파이프라인:

   • 프롬프팅: 모델은 구조적 가정을 최소화하기 위해 설명 텍스트를 피하고, 도메인 관련 개념을 단순한 키워드 리스트(한 줄에 하나씩) 형태로 생성하도록 프롬프트된다.
   • 정규화: 원시 개념은 유니코드 정규화, 소문자화, ASCII 필터링 및 형태론적 단수화(예: "violations" $\to$ "violation") 과정을 거친다.
   • 병합: 퍼지 매칭 알고리즘(길이 기반 블로킹을 적용한 레벤슈타인 거리)을 사용하여 유사 중복 항목을 병합함으로써 정준(canonical) 개념 집합을 구축한다.
   • 그래프 구축: 노드는 개념을 나타내고, 엣지는 생성된 시퀀스의 연속된 라인에서 유도된 약한 공생 신호를 나타내는 유향 그래프가 구축된다.

3. 검증:

   • 법률 도메인의 경우, 추출된 개념이 사실적 개념인지 환각(hallucination)인지 구분하기 위해 미국 판례 데이터베이스인 CourtListener를 통해 검증된다.

주요 기여

1. VdC 샘플링을 통한 체계적 커버리지: 본 논문은 순차적 빔 서치를 결정론적 준무작위 샘플링으로 대체한다. 이는 재현 가능하고 순서에 의존하지 않는 시드 없는(seed-free) 커버리지 스케줄을 제공하여, 다양한 모델 및 양자화 변체에 대한 일관된 벤치마킹을 가능하게 한다.
2. 상태 비저장 개념 추출: 시퀀스를 분리함으로써, 이 방법은 동적 컨텍스트 축적으로 인한 편향을 피하고 확장 가능한, 매우 병렬적인(embarrassingly parallel) 생성을 가능하게 한다.
3. 진단 지표로서의 개념 커버리지: 저자들은 전통적인 퍼플렉시티 및 다운스트림 태스크 벤치마크에 대한 보완적 평가 차원으로 "개념 커버리지"(추출 가능한 지식의 폭, 연결성 및 진실성)를 제안한다.

실험 결과

프레임워크는 두 가지 모델 패밀리(Qwen2.5-7B, Llama-3.1-8B), 다섯 가지 양자화 변체(BF16, GPTQ-Int8, GPTQ-Int4, AWQ-4bit, BNB-4bit), 그리고 네 가지 도메인(미국 법률, Git, 방사선학, FAA 항공)에 대해 평가되었다.

양자화 효과

• AWQ-4bit (활성화 인식): 놀랍게도, 이 방법은 BF16 베이스라인에 비해 개념 커버리지를 30~170% 확장하면서도 높은 그래프 연결성을 유지했다. 이는 활성화 통계에 기반하여 주요 가중치를 보호하는 것이 롱테일 지식에 대한 접근성을 보존함을 시사한다.
• GPTQ-Int4 (균등): 이 방법은 개념 커버리지를 71~86% 감소시키고 심각한 그래프 파편화(예: Llama의 경우 최대 연결 성분의 개념이 40.8%에 불과함)를 유발하는 치명적인 붕괴를 일으켰다.
• 퍼플렉시티 디커플링: 표준 퍼플렉시티 지표는 (퇴보적인 GPTQ-Int4 범위를 제외하고) 양자화 변체 전반에 걸쳐 비교적 안정적으로 유지되었으며, 개념 커버리지에서의 거대한 격차를 반영하지 못했다. 이는 모델이 알려진 개념에 대해 유창한 텍스트를 생성하면서도 희귀하고 유효한 개념을 표면화하는 능력은 상실할 수 있음을 나타낸다.

견고성 및 환각

• 오프셋 안정성: 여러 VdC 오프셋을 사용한 실험을 통해 관찰된 저하 패턴(예: AWQ의 우수성 대 GPTQ의 붕괴)이 초기화의 산물이 아니라 모델 지식 구조의 본질적인 특성임을 확인했다.
• 환각 격차: 미국 법률 도메인에서 MMLU-Pro Law 벤치마크의 상위 랭크 모델과 하위 랭크 모델 사이에 19.6포인트의 환각률 격차가 관찰되었다. 상위 모델은 평균 ~15%의 환로율을 보인 반면, 하위 모델은 평균 ~35%를 기록했다.
• 빈도 상관관계: 일부 모델은 빈번하게 생성되는 개념조차 신뢰할 수 없게 되는 "헤드 부패(head corruption, 음의 빈도-환각 상관관계)"를 보였고, 다른 모델은 희귀한 개념은 환각을 일으키지만 흔한 개념은 근거를 유지하는 "테일 붕괴(tail collapse)"를 보였다.

의의 및 주장

본 논문은 DecompressionLM이 LLM, 특히 배포 준비 단계의 압축 모델을 평가하기 위한 새로운 진단 능력을 구축한다고 주장한다.

• 퍼플렉시티를 넘어: 본 연구는 압축 모델의 품질 지표로서 퍼플렉시티의 독점적 지위에 도전한다. 모델은 낮은 퍼플렉시티를 유지하면서도 70%의 추출 가능한 개념을 잃을 수 있으며, 이는 표준 지표로는 보이지 않지만 RAG(검색 증강 생성), 지식 집약적 QA, 창의적 애플리케이션에서 매우 중요한 실패 모드이다.
• 양자화 통찰: 본 연구는 서로 다른 양자화 방법이 모델 지식의 서로 다른 측면에 영향을 미친다는 것을 밝혀냈다. 활성화 인식 양자화(AWQ)는 다양하고 롱테일인 개념을 생성하는 능력을 우선적으로 보존하는 것으로 보이지만, 균등 양자화는 유사한 퍼플렉시티 점수에도 불구하고 이러한 능력을 저하시킨다.
• 평가 차원: 개념 커버리지는 실제 배포를 목적으로 하는 모델의 사실적 근거와 지식 폭을 평가하기 위한 필수적인 보완적 차원으로 제안된다.

저자들은 이 프레임워크가 사전 지식 없이도 포괄적인 개념 그래프를 추출할 수 있게 하여, 모델 지식을 감사하는 장벽을 낮추고 전통적인 벤치마크가 놓치는 지식 표현의 질적 특성을 드러낸다고 결론짓는다.