[기술 요약] 소형 언어 모델(SLM)을 이용한 LLM 프롬프트의 의미론적 모호성 해결

1. 문제 정의 (Problem Statement)

대규모 언어 모델(LLM)은 뛰어난 추론 능력을 갖추고 있지만, 사용자가 입력하는 **자연어 프롬프트의 모호성(Semantic Ambiguity)**에 매우 취약합니다.

• 핵심 문제: 사용자의 프롬프트는 문법적으로 불완전하거나, 지칭 대상이 불분명(Referential ambiguity)하거나, 전제가 생략(Missing assumption)되는 경우가 많습니다.
• 영향: 이러한 모호성은 LLM의 **어텐션 분산(Attention dispersion)**을 초래하고, 모델이 잘못된 추론 경로를 선택하게 만들어 결과의 불안정성과 낮은 정확도를 유발합니다.
• 기존 방식의 한계: 기존의 프롬프트 엔지니어링(CoT, Self-consistency 등)은 LLM이 추론 과정 중에 모호성을 '내부적으로' 해결하도록 맡깁니다. 이는 모호성이 높은 입력에서 모델의 계산 비용을 높이고 출력의 변동성(Variance)을 키우는 근본적인 문제를 해결하지 못합니다.

2. 제안 방법론: DisambiguSLM

본 논문은 LLM이 추론을 시작하기 전, 상류(Upstream) 단계에서 프롬프트를 최적화하는 DisambiguSLM 메커니즘을 제안합니다. 핵심 아이디어는 저비용의 **소형 언어 모델(SLM)**을 '의미론적 검사관'으로 활용하여 프롬프트를 정제하는 것입니다.

3단계 정제 프로세스 (Three-stage Refinement)

1. Layer 1: 의미론적 위험 식별 (Semantic Risk Identification)
   • SLM이 프롬프트를 전체적으로 스캔하여 모호성, 논리적 공백 등 '위험 지점(Risk points)'을 찾아냅니다. 각 위험 지점은 위치 정보와 위험 유형으로 정의됩니다.
2. Layer 2: 일관성 검증 및 충돌 해결 (Consistency Verification & Conflict Resolution)
   • 식별된 각 위험 지점에 대해 두 개의 독립적인 SLM이 서로 다른 해석($r_{i,1}, r_{i,2}$)을 생성합니다.
   • 일관성 확인: 두 해석의 코사인 유사도를 계산합니다.
   • 해결: 해석이 일치하면 결합하여 안정적인 설명을 만들고, 불일치하면 SLM이 문맥을 바탕으로 두 해석을 통합한 자기 일관적(Self-consistent) 통합 설명을 생성합니다.
3. Layer 3: 의미론적 통합 및 강화 (Semantic Integration & Enhancement)
   • 해결된 모든 위험 지점들을 구조화된 논리적 형태로 재구성하여, 원래의 쿼리($Q$)와 결합된 **명확한 입력($Q'$)**을 생성합니다.

3. 주요 기여 (Key Contributions)

• 최초의 명시적 사전 최적화: 추론 과정 중에 모호성을 해결하는 것이 아니라, 추론 전 단계에서 명시적으로 의미론적 모호성을 제거하는 프롬프트 최적화 방법을 최초로 제안했습니다.
• SLM의 효율적 활용: 고비용의 LLM 대신 저비용의 SLM을 사용하여 계산 효율성을 극대화하면서도 효과적인 프롬프트 정제를 달성했습니다.
• 어텐션 메커니즘의 안정화: 모호성이 제거된 프롬프트가 LLM의 어텐션 분포를 어떻게 개선하는지 이론적/실험적으로 증명했습니다.

4. 실험 결과 (Results)

다양한 벤치마크(GPQA, MATH, WSC, LIAR 등)와 다양한 LLM(GPT-4o-mini, Llama-3-70B, DeepSeek-V3)을 대상으로 실험을 진행했습니다.

• 성능 향상: Naïve prompting 대비 정확도가 약 8%p, 기존 최신 프롬프트 최적화 기법 대비 약 3%p 향상되었습니다. 특히 WSC, LIAR와 같이 모호성에 민감한 작업에서 큰 효과를 보였습니다.
• 비용 효율성: 성능 향상 대비 비용이 매우 저렴합니다 (실험 기준 약 $0.02).
• 안정성 및 일관성: 샘플링 시 출력의 불일치율(Disagreement rate)을 획기적으로 낮추어, 모델의 추론 결과가 훨씬 더 일관되고 재현 가능함을 입증했습니다.
• 어텐션 분석: 실험 결과, 정제된 프롬프트($Q'$)를 사용할 때 LLM의 어텐션이 불필요한 토큰(Stop-words, Sink tokens)에서 벗어나 **의미론적으로 중요한 타겟 토큰에 집중(High focus ratio)**됨을 확인했습니다.

5. 의의 및 결론 (Significance & Conclusion)

본 연구는 LLM의 추론 성능을 높이기 위해 모델 내부 구조를 건드리지 않고도, 입력 데이터의 품질(Input-quality)을 상류에서 관리하는 것이 매우 효과적임을 보여주었습니다.

결론적으로, DisambiguSLM은 LLM의 추론 경로를 안정화하고, 모호성으로 인한 계산 낭비를 줄이며, 저비용으로 고성능의 신뢰할 수 있는 추론을 가능하게 하는 실용적인 프레임워크입니다.

참고: 본 논문의 한계점으로, 이 방법은 '의미론적 모호성'을 해결하는 것이지 '사실 관계의 오류(Factual error)'를 수정하는 것은 아니라는 점이 명시되어 있습니다.