1. 문제 정의 (Problem)

대규모 언어 모델 (LLM) 의 다중 에이전트 시스템 (Multi-agent LLM systems) 은 복잡한 추론 작업을 위해 여러 에이전트가 독립적으로 답변을 생성한 후 이를 집계하는 방식으로 널리 사용됩니다. 그러나 기존 불확실성 정량화 (Uncertainty Quantification, UQ) 방법론은 다음과 같은 한계를 가집니다:

• 표면적인 투표 통계 의존: 기존 방법은 다수결 (Majority Voting) 에 기반하여 '3 대 2'와 같은 투표 비율만 고려합니다. 이는 에이전트 간 의견 불일치의 **의미 있는 내부 구조 (Semantic Structure)**를 무시합니다.
• 정보 손실: 예를 들어, 소수파가 완전히 새로운 증거를 제시하며 강력한 논리를 펼치는 경우와, 소수파가 약한 논리를 펼치는 경우 모두 '3 대 2'로 동일하게 처리되어 신뢰도 (Confidence) 가 동일하게 산출됩니다. 이는 실제 정답 확률과 거리가 먼 경우가 많습니다.
• 보정 (Calibration) 부족: 기존 방법들은 모델이 스스로 표현한 확신도 (Verbalized Confidence) 나 토큰 확률에 의존하지만, 이는 과신 (Overconfidence) 경향이 있어 보정이 잘 되지 않습니다.

2. 방법론 (Methodology)

저자들은 에이전트 간 불일치의 **구조 (Structure)**를 분석하여 불확실성을 정량화하는 프레임워크 DISCOUQ를 제안합니다. 이 프레임워크는 언어적 구조와 임베딩 기하학적 구조 두 가지 특징을 추출합니다.

A. 특징 추출 (Feature Extraction)

1. 언어적 구조 특징 (Linguistic Structure Features):

   • 동일한 LLM 을 사용하여 (Temperature 0) 에이전트들의 추론 텍스트를 분석하게 합니다.
   • 주요 지표:
     • 증거 중첩도 (Evidence overlap): 다수파와 소수파가 공유하는 사실의 정도.
     • 소수파의 새로운 정보 (Minority new information): 소수파가 제시한 새로운 논증의 유무.
     • 소수파 논증의 강도 (Minority argument strength): 정답 여부와 무관한 논리적 타당성.
     • 다수파의 확신 표현 (Majority confidence language): 다수파의 어조 (확신적 vs. 유보적).
     • 추론 복잡도 (Reasoning complexity) 및 분기 깊이 (Divergence depth: 초기/중간/최종 단계).
   • 총 9 개의 특징 (투표 신뢰도 포함) 을 생성합니다.

2. 임베딩 기하학적 특징 (Embedding Geometry Features):

   • 에이전트의 추론 텍스트를 Sentence Transformer(BGE-large) 로 임베딩합니다.
   • 주요 지표:
     • 전체 분산 (Overall dispersion), 다수파 응집도 (Majority cohesion), 군집 간 거리 (Cluster distance), 소수파의 이상치 정도 등.
   • 총 8 개의 기하학적 특징 (투표 신뢰도 포함) 을 생성합니다.

B. 불확실성 정량화 모델 (UQ Methods)

추출된 특징들을 기반으로 세 가지 복잡도가 다른 모델을 제안합니다:

1. DISCOUQ-LLM (M1): 언어적 구조 특징 (9 개) 에 로지스틱 회귀 (Logistic Regression) 를 적용. 해석 가능성과 보정 성능에 중점.
2. DISCOUQ-Embed (M2): 임베딩 기하학적 특징 (8 개) 에 로지스틱 회귀 적용. 추가 LLM 호출 없이 임베딩 모델만으로 계산 가능.
3. DISCOUQ-Learn (M3): 모든 특징 (17 개) 을 입력으로 받는 2 층 MLP(신경망) 사용.

3. 주요 기여 (Key Contributions)

• 불일치 구조의 형식화: 다중 에이전트 시스템에서 불일치를 단순한 '존재'가 아닌, 언어적 및 기하학적 특징으로 구성된 구조적 개념으로 정의했습니다.
• 새로운 UQ 프레임워크 제안: 단순 투표 카운팅을 넘어, 불일치의 의미적 내용 (논증 강도, 증거 공유 등) 을 활용하는 세 가지 방법을 제안했습니다.
• 광범위한 실험 및 검증: 4 개의 벤치마크 (StrategyQA, MMLU, TruthfulQA, ARC-Challenge) 와 5 에이전트 시스템 (Qwen3.5-27B 기반) 에서 기존 방법론들을 압도하는 성능을 입증했습니다.

4. 실험 결과 (Results)

평가 지표: AUROC (분별력), ECE (기대 보정 오차), 선택적 예측 (Selective Prediction) 성능.

• 성능 (AUROC):
  • **DISCOUQ-LLM (M1)**이 평균 AUROC 0.802를 기록하여 가장 강력한 베이스라인인 'LLM Aggregator'(0.791) 보다 우수한 성능을 보였습니다.
  • 특히 약한 불일치 (Weak Disagreement, 투표 비율이 낮거나 애매한 경우) 영역에서 기존 투표 카운팅 방식이 실패하는 상황에서 가장 큰 개선을 보였습니다.
• 보정 (Calibration - ECE):
  • DISCOUQ-LLM 의 평균 ECE 는 0.036으로, 기존 방법 (Vote Count: 0.084, LLM Aggregator: 0.098) 보다 훨씬 잘 보정되었습니다. 로지스틱 회귀의 시그모이드 함수가 정보 있는 특징을 잘 보정된 확률로 매핑했기 때문입니다.
• 선택적 예측 (Selective Prediction):
  • 높은 정확도 (예: 95%) 를 유지하면서 더 많은 질문을 처리할 수 있는 능력 (Coverage) 에서 DISCOUQ-LLM 이 압도적이었습니다. (예: MMLU 에서 95% 정확도 유지 시 커버리지 65.6% vs 투표 카운팅 40.4%).
• 범용성 (Generalization):
  • 한 벤치마크에서 학습된 모델이 다른 벤치마크에서도 거의 성능 저하 없이 잘 일반화되었습니다.
• 비용 효율성:
  • DISCOUQ-LLM 은 비동일한 답변이 나온 경우에만 추가 LLM 호출 (구조 분석) 을 수행하므로, 전체 LLM 호출 수를 최소화하면서도 최고 성능을 냈습니다.

5. 의의 및 결론 (Significance)

• 패러다임 전환: 다중 에이전트 시스템의 불확실성 정량화가 단순한 '투표 비율'에서 '불일치의 질적 구조 분석'으로 전환되어야 함을 증명했습니다.
• 실용적 가치: 계산 비용이 적게 들면서도 (추가 LLM 호출 최소화) 높은 신뢰도와 보정 성능을 제공하여, 실제 생산 환경 (Production Systems) 에서 위험한 오류를 줄이고 안전한 AI 배포에 기여할 수 있습니다.
• 미래 연구 방향: 오픈 엔디드 생성 작업으로의 확장, 다양한 모델 패밀리 간 불일치 패턴 연구, 온라인 보정 방법론 개발 등의 가능성을 제시했습니다.

요약하자면, DISCOUQ 는 에이전트들이 왜, 어떻게 다른 의견을 내는지 그 '구조'를 분석함으로써, 단순한 다수결보다 훨씬 더 정확하고 신뢰할 수 있는 AI 의 확신도를 제공한다는 혁신적인 프레임워크입니다.