Calibrated Confidence Estimation for Tabular Question Answering

1. 연구 배경 및 문제 정의 (Problem)

대형 언어 모델 (LLM) 이 금융 분석, 비즈니스 인텔리전스, 데이터 탐색 등 구조화된 데이터 (표) 기반의 질문 응답 (Tabular QA) 에 점점 더 많이 활용되고 있습니다. 그러나 기존 연구는 주로 텍스트 기반 QA 에 집중되어 있었으며, 표 데이터에 대한 LLM 의 신뢰도 (Confidence) 보정 (Calibration) 은 거의 연구되지 않았습니다.

이 논문은 다음과 같은 핵심 문제를 제기합니다:

• 과도한 자신감 (Severe Overconfidence): LLM 이 표에 대한 질문을 답할 때, 모델이 보고하는 신뢰도가 실제 정답 확률을 반영하지 못합니다. 텍스트 QA 에서 보고된 오차 (ECE 0.10–0.15) 와 비교해 표 QA 에서는 모델들이 극도로 자신감 있게 틀린 답변을 내놓습니다 (ECE 0.35–0.64).
• 형식 민감성 (Format Sensitivity): 이전 연구들은 같은 표를 Markdown, HTML, JSON 등 다른 형식으로 직렬화했을 때 LLM 의 답변이 달라진다는 것을 '문제'로 간주했습니다. 본 논문은 이를 불확실성의 신호 (Uncertainty Signal) 로 활용해야 한다는 새로운 관점을 제시합니다. 즉, 형식에 따라 답변이 변한다면 모델은 표의 구조를 추론한 것이 아니라 표면적인 토큰 패턴에 의존한 것이므로 신뢰할 수 없다는 것입니다.

2. 방법론 (Methodology)

본 연구는 5 가지 frontier LLM(GPT-4o, GPT-4o-mini, Gemini 2.5 Flash, Llama-3.3-70B, DeepSeek-V3) 과 2 개의 벤치마크 (WikiTableQuestions, TableBench) 를 사용하여 5 가지 신뢰도 추정 방법을 체계적으로 비교했습니다.

A. 신뢰도 추정 방법 (Confidence Elicitation Methods)

두 가지 패러다임으로 분류됩니다:

1. 자기 평가 (Self-Evaluation): 모델이 스스로 답변의 정확성을 평가합니다.
   • Verbalized: 모델이 답변과 함께 0~100% 신뢰도 점수를 직접 출력합니다.
   • P(True): 모델이 답변을 생성한 후, 별도의 턴에서 "이 답변이 맞습니까?"라고 물어보고 확률을 구합니다.
2. 교란 기반 (Perturbation-based): 입력이나 출력을 변형하여 일관성을 확인합니다.
   • Self-Consistency (SC): 동일한 입력에 대해 여러 번 샘플링 (Temperature > 0) 하여 다수결 일치율을 신뢰도로 사용합니다.
   • Semantic Entropy (SE): 의미적 동등성으로 클러스터링된 샘플들의 엔트로피를 기반으로 신뢰도를 계산합니다.
   • Multi-Format Agreement (MFA, 제안된 방법): 본 논문의 핵심 제안입니다. 같은 표를 Markdown, HTML, JSON, CSV 등 4 가지 서로 다른 형식으로 직렬화하여 (입력 교란), 각 형식에서 모델이 동일한 답변을 내놓는 비율을 신뢰도로 계산합니다.
     • 특징: 의미 손실 없이 (Lossless), 결정론적 (Deterministic) 으로 작동하며, 구조화된 데이터만의 고유한 특성을 활용합니다.

B. 보정 기법 (Recalibration)

• 표 구조 인식 보정 (Structure-Aware Recalibration): 기존 Platt Scaling 을 확장하여, 표의 행/열 수, 열 유형 분포, 쿼리 복잡도 등 구조적 공변량 (Covariates) 을 모델에 추가합니다. 이는 단순한 신뢰도 점수 보정을 넘어, "어떤 상황 (예: 복잡한 쿼리, 큰 표) 에서 모델이 틀릴 확률이 높은지"를 학습하게 합니다.

3. 주요 기여 (Key Contributions)

1. 표 QA 에 대한 최초의 체계적 보정 연구: 5 가지 최신 LLM 과 2 가지 벤치마크를 대상으로 5 가지 신뢰도 추정 방법을 비교 분석했습니다.
2. MFA (Multi-Format Agreement) 제안:
   • 구조화된 데이터의 고유한 특성 (손실 없는 형식 변환) 을 활용한 입력 교란 기법입니다.
   • 기존 샘플링 기반 방법 (SC, SE) 과 유사한 성능을 내면서 API 호출 비용을 20% 절감합니다 (질문당 4 회 호출).
   • TableBench 에서 ECE 를 44~63% 감소시키고, 평균 AUROC 를 0.80 으로 높였습니다.
3. 자기 평가 vs 교란의 이분법 발견:
   • 자기 평가 방법 (Verbalized, P(True)) 은 거의 무작위 수준 (AUROC 0.42–0.76) 의 구별 능력을 보였습니다.
   • 반면, 교란 기반 방법 (MFA, SC, SE) 은 높은 구별 능력 (AUROC 0.78–0.86) 을 보였습니다. 이는 수학 및 SQL 생성 영역에서도 관찰된 현상이지만, 표 도메인에서 체계적으로 입증된 첫 사례입니다.
4. 구조 인식 보정의 효과: 표준 사후 보정 방법은 ECE 는 줄이지만 AUROC(구별 능력) 는 개선하지 못했습니다. 반면, 제안된 구조 인식 보정은 AUROC 를 10% 포인트 이상 향상시켰습니다.

4. 실험 결과 (Results)

• 과도한 자신감: 모든 모델이 심각한 과신 (Overconfidence) 을 보였습니다. 예를 들어, GPT-4o 는 정확도 76% 인 반면 평균 신뢰도는 99.5% 였으며, 신뢰도 점수와 정답 여부의 상관관계 (AUROC) 는 0.52(무작위 수준) 에 불과했습니다.
• MFA 의 우월성:
  • MFA 는 Verbalized 방법 대비 ECE 를 45~63% 감소시켰고, AUROC 를 크게 향상시켰습니다 (예: GPT-4o 의 경우 0.522 → 0.782).
  • MFA 는 샘플링 기반 방법 (SC, SE) 과 통계적으로 유의미하게 차이가 나지 않는 성능을 내면서 더 저렴했습니다.
• 상호 보완성: MFA(입력 교란) 와 SC/SE(출력 교란) 를 결합한 앙상블 (MFA + SC + SE) 은 단일 방법보다 성능이 더 뛰어났습니다 (Llama 모델 기준 AUROC 0.74 → 0.82). 이는 두 방법이 서로 다른 유형의 불확실성을 포착함을 의미합니다.
• 통계적 유의성: Holm-Bonferroni 보정을 적용한 페어드 부트스트랩 테스트에서, 교란 기반 방법이 자기 평가 방법보다 모든 모델에서 통계적으로 유의미하게 (p < 0.001) 우월함이 입증되었습니다.

5. 의의 및 결론 (Significance)

• 실무적 시사점: 표 기반 QA 시스템에서 단순한 "자기 평가 (Self-evaluation)"나 "말씀된 신뢰도 (Verbalized confidence)"는 신뢰할 수 없으며, 오히려 위험할 수 있습니다. 대신 입력 교란 (MFA) 또는 출력 교란 (Self-Consistency) 기반 방법을 사용하여 불확실성을 추정해야 합니다.
• 비용 효율성: MFA 는 높은 성능을 유지하면서 API 비용을 절감할 수 있는 가장 효율적인 방법 중 하나로 제안되었습니다.
• 안전성 강화: 신뢰도 보정 기술은 LLM 이 불확실한 상황에서 답변을 유보 (Abstention) 하도록 하여, 금융 및 의료 등 고위험 분야에서 AI 시스템의 안전성을 높이는 데 기여합니다.
• 미래 방향: MFA 의 원리 (손실 없는 교란) 는 지식 그래프, 코드, 화학식 등 다른 구조화된 도메인으로 확장 가능하며, 컨포멀 예측 (Conformal Prediction) 과 결합하여 공식적인 커버리지 보장을 제공할 수 있습니다.

이 논문은 표 데이터 처리를 위한 LLM 의 신뢰성 평가에 있어 새로운 표준을 제시하며, 특히 형식 민감성을 불확실성 신호로 전환한 MFA 방법론은 구조화된 데이터 분석 분야에서 중요한 기여를 하고 있습니다.