기술 요약: LLM 생성에서 작업 해결과 출력 형식의 디커플링(Decoupling)

문제 정의

대규모 언어 모델(LLM)은 수학적 문제 해결 및 자동 평가와 같은 복잡한 추론 작업에서 높은 숙련도를 보여왔다. 그러나 프롬프트가 작업 지침과 엄격한 출력 형식 요구사항을 결합할 경우 성능이 저하되는 경우가 빈번하다. 이러한 "엉킴(entanglement)" 현상은 모델로 하여금 추론 정확도와 엄격한 형식 준수를 동시에 최적화하도록 강요하며, 이는 모델의 추론 능력을 저해하는 상충하는 목표를 생성한다.

기존의 접근 방식들은 이를 완화하기 위해 두 가지 주요 경로를 시도하지만, 모두 한계점을 가지고 있다:

1. 제약 조건 완화: 형식 요구사항을 제거하거나 완화하는 것은 낮은 준수율로 이어져, 구조화된 애플리케이션에서 출력을 사용할 수 없게 만든다.
2. 제약 기반 디코딩(Constrained Decoding): Outlines나 Guidance와 같은 프레임워크는 엄격한 토큰 전이를 강제하여 형식 준수를 보장한다. 그러나 이러한 방법들은 모델의 내부 추론 흐름에 침습적으로 개입하여, 모델의 추론 과정을 방해하고 갑작스러운 중단이나 비일관적인 출력을 초래하는 경우가 많다.

최근 연구(예: Tam et al., 2024; Long et al., 2025)는 더 엄격한 제약이 더 큰 추론 저하와 상관관계가 있음을 나타내며, 이는 LLM의 추론 잠재력을 희생하지 않으면서 형식 제약을 작업 해결로부터 분리할 수 있는 프레임워크의 필요성을 시사한다.

방법론: DECO-G

저자들은 작업 추론과 출력 형식을 명시적으로 분리하는 디코딩 프레임워크인 DECO-G를 제안한다. 핵심 철학은 형식 준수의 책임을 보조 모듈에 위임함으로써, 기본 LLM이 오로지 문제 해결에만 집중할 수 있도록 하는 것이다.

아키텍처

이 프레임워크는 이중 모듈 시스템을 통해 작동한다:

1. 작업 해결 LLM (Task-Solving LLM): 명시적인 형식 지침 없이 작업 특정 프롬프트(예: 수학 문제)만을 전달받는다.
2. 형식 추정 모듈 (Format Estimation Module, FEM): 형식 제약 조건(예: "최종 정답은...")을 전달받는다. FEM은 확률적 룩어헤드(lookahead)를 수행하여 미래의 토큰 시퀀스가 형식 제약을 충족할 가능성을 추정한다.

각 디코딩 단계에서 FEM의 추정된 준수 확률은 LLM의 원래 토큰 분포를 재가중치(reweigh)하는 데 사용된다. 최종 확률 분포는 다음과 같이 구성된다:
$$P(x_t|x_{<t}, \alpha) \propto P_{LM}(x_t|x_{<t}) [P_{FEM}(\alpha|x_{<t}, x_t)]^\gamma$$
여기서 $\alpha$는 형식 제약을 나타내며, $\gamma$는 조향 강도(steering strength) 하이퍼파라미터이다.

주요 기술적 혁신

이 접근 방식을 실용적이고 효율적으로 만들기 위해, 저자들은 세 가지 구체적인 혁신을 도입한다:

1. 지침 인식 증류 (Instruction-Aware Distillation):
   이전의 제어 가능한 생성 방법들(예: GeLaTo, Ctrl-G)은 무조건적인 랜덤 샘플링으로부터 은닉 마르코프 모델(HMM)을 증류한다. 이는 미세 조정된 LLM의 지침 조건부 행동을 포착하는 데 실패한다. DECO-G는 Natural-Instructions-v2 데이터셋의 지침-응답 쌍만을 사용하여 HMM을 증류함으로써 이 문제를 해결한다. 이를 통해 FEM이 특정 작업 지침을 따를 때의 LLM 행동을 정확하게 모델링할 수 있도록 보장한다.

2. 유연한 트라이(Trie) 구축:
   실제 형식 제약은 고정된 텍스트(Pivot)와 가변 길이 필드(Wildcard)를 포함하는 복잡한 템플릿을 포함하는 경우가 많다. 표준 결정적 유한 오토마타(DFA) 구축은 체인된 가변 길이 세그먼트를 처리할 때 상태 공간 폭발($O(K^N)$)을 초래한다. DECO-G는 **상태 수렴(State Convergence)**을 강제하는 유연한 트라이 알고리즘을 도입한다. 이 전략은 와일드카드 세그먼트의 모든 유효한 경로를 다음 세그먼트를 위한 단일 정준 진입 상태(canonical entry state)로 병합하여, 복잡도를 선형 성장($O(N \times K)$)으로 줄인다.

3. HMM 상태 프루닝 (HMM State Pruning):
   FEM의 확률적 룩어헤드는 전체 어휘 집합에 대해 방출 확률(emission probabilities)을 계산해야 하므로 계산 비용이 많이 든다($O(h|V|)$). 저자들은 은닉 상태 분포가 매우 희소하다는 점을 관찰했다. HMM을 상위-$k$개의 가장 확률이 높은 상태(예: 상위 5%)만 고려하도록 프루닝함으로써, 복잡도를 $O(k|V| + h \log h)$로 줄인다. 실험 결과, 단 5%의 상태만 유지해도 모델 성능의 98% 이상을 보존하면서 FLOPs를 약 13배 감소시킬 수 있음을 보여주었다.

실험 결과

저자들은 Llama-3.1-8B, Qwen2.5-7B, Qwen3-8B와 같은 모델을 사용하여 수학적 추론(GSM8k), 이벤트 인자 추출(ACE05), LLM-as-a-Judge(SummEval)의 세 가지 서로 다른 작업에 대해 DECO-G를 평가했다.

• 수학적 추론 (GSM8k): DECO-G는 일관되게 베이스라인들을 능가했다. 표준 프롬프팅(Prompt-Only)은 높은 정확도를 달성했지만 낮은 형식 준수율을 보였고, 구조화된 생성(Outlines)은 준수를 보장하지만 정확도를 저하시킨 반면, DECO-G는 100% 형식 준수를 달성하면서도 추론 정확도를 유지하거나 향상시켰다. 예를 들어, Llama-3.1-8B에서 DECO-G는 85.2%의 정확도를 달성하여 Outlines(81.3%) 및 Prompt-Only NL(82.3%)보다 높은 성능을 보였다.
• 이벤트 인자 추출 (ACE05): DECO-G는 전반적인 추출 품질, 특히 인자 ID(AI) 및 인자 부착 ID(AI+) 식별 능력을 개선하여 역할과 추출된 인자 간의 더 나은 통합을 시사했다.
• LLM-as-a-Judge (SummEval): DECO-G는 일관성, 일관성(consistency), 유창성 및 관련성 지표 전반에 걸쳐 인간 주석가와 가장 강력한 평균 상관관계를 보여주었다. 질적 분석 결과, DECO-G는 임의의 위치에 점수 문구를 더 자연스럽게 통합할 수 있게 하는 반면, 베이스라인들은 종종 경직된 평가 부착을 강제하는 것으로 나타났다.

의의 및 주장

본 논문은 DECO-G가 추론과 형식 사이의 "책임 분리(responsibility separation)"를 달성함으로써 제어 가능한 텍스트 생성의 새로운 패러다임을 제시한다고 주장한다.

• 추론 보존: 형식 지정에 대한 인지적 부담을 LLM의 즉각적인 생성 과정에서 제거함으로써, 이 프레임워크는 모델의 전체 추론 잠재력을 끌어낸다.
• 준수 보장: 비제약 프롬프팅과 달리, DECO-G는 FEM의 재가중치 메커니즘을 통해 형식 준수에 대한 수학적 보장을 제공한다.
• 실용적 효율성: 지침 인식 증류, 유연한 트라이 구축, 상태 프루닝을 통해 저자들은 계산 오버헤드가 무시할 만한 수준(LLM 메인 순전파의 약 0.53%를 구성)임을 입증하여, 실제 배포가 가능한 프레임워크임을 보여주었다.

저자들은 이 디커플링 접근 방식이 경직된 디코딩 프레임워크와 관련된 추론 저하 없이 엄격한 제약을 강제할 수 있는 능력에 의해 전반적인 성능 향상을 이끌어낸다고 결론짓는다. 또한, 새로운 LLM 제품군을 위해 새로운 HMM을 증류해야 한다는 점과 조향 하이퍼파라미터 $\gamma$가 모델의 토큰 분포 왜도(skewness)에 민감하다는 점 등의 한계를 인정한다.