Evidence Lock Before Commitment: A Frozen Interface Degrades LLM-as-Judge Evaluation

기술 요약: 확정 전 증거 잠금 (Evidence Lock Before Commitment)

문제 제기
본 논문은 LLM-as-a-judge 평가에서 흔히 나타나는 특정 워크플로우 가설, 즉 최종 판결을 내리기 전 중간 단계에서 기준과 증거를 추출하는 것이 이후의 별도 결정 호출(decision call)을 위해 충분한 정보를 보존한다는 가설을 다룹니다. 구조화된 평가 방식(예: 점수를 매기기 전에 계획이나 근거를 요청하는 방식)은 감사 가능성과 견고함을 목적으로 하지만, 이는 자연어 형태의 증거 기록이 판결을 재현하기 위한 충분한 인터페이스라는 가정을 전제로 합니다. 저자는 이 증거 기록을 영속화(persisting)하고 이를 최종 결정 호출의 독점적인 입력값으로 사용하여 원본 답변에 대한 접근을 차단하는 것이 평가 품질을 저하시키는지 의문을 제기합니다. 이는 가시적인 출력 순서가 반드시 내부적인 결정 순서를 반영하지 않는 추론 능력을 갖춘 모델들에게 특히 중요합니다.

방법론
본 연구는 두 가지 추론 가능 모델(Claude Sonnet 4.5 및 GPT-5)과 세 가지 데이터셋(HelpSteer3, FeedbackQA, CoVal)을 사용하여 24,000건의 판단에 대해 통제된 반복 측정 평가를 수행합니다. 연구진은 네 가지 서로 다른 판정 프로토콜을 비교합니다:

1. 표준 쌍체 판정 (Standard Pairwise Judging): 판정 모델이 컨텍스트와 두 답변(A와 B)을 모두 보고 직접 판결을 내립니다.
2. 구조화된 단일 호출 판정 (Structured One-Call Judging): 판정 모델이 컨텍스트와 두 답변을 보되, 동일한 호출 내에서 승자를 선택하기 전 명시적으로 기준과 증거를 생성하도록 프롬프트됩니다.
3. 증거 잠금 (Evidence Lock, 2-Call):
   • 호출 1: 판정 모델이 컨텍스트와 두 답변을 검토하고, 승자를 선택하지 않은 상태로 증거/기준을 작성하여 기록을 영속화합니다.
   • 호출 2: 판정 모델은 영속화된 증거 기록만을 보고(원본 컨텍스트나 답변은 보지 않음) A, B, 또는 무승부를 선택합니다.
4. 포인트와이즈 잠금 (Pointwise Lock, 3-Call):
   • 호출 1 & 2: 답변 A와 B를 독립적으로 평가하여 고정된 평가(frozen assessments)를 생성합니다.
   • 호출 3: 판정 모델은 원본 답변을 보지 않고 두 고정된 평가를 비교하여 승자를 결정합니다.

연구는 두 가지 주요 결과를 측정합니다:

• 선호 일치도 (Preference Agreement): 공개된 엄격한 인간 선호 라벨(A/B)에 대한 판정 모델의 판결 정확도(AB 및 BA 제시 순서 모두에 대해 평균).
• 답변 순서 불일치 (Answer-Order Inconsistency): 후보들의 제시 순서를 바꿨을 때 정규화된 판결이 변경되는 빈도.

주요 기여

1. 관찰 가능한 개입 (Observable Intervention): 본 논문은 숨겨진 생각의 사슬(chain-of-thought) 순서에 대한 검증 불가능한 주장 대신, 중간 기록을 동결하고 원본 접근을 제거하는 효과를 격리하여 보여주는 "증거 잠금"이라는 관찰 가능한 개입을 도입합니다.
2. 대규모 평가: 두 모델과 세 가지 다양한 데이터셋에 걸쳐 24,000건의 판단을 포함하는 포괄적인 평가를 수행하며, 통계적 신뢰성을 위해 비모수적 부트스트랩 재표본 추출(non-parametric bootstrap resampling)을 활용합니다.
3. 잠금 인터페이스에 대한 부정적 결과: 구조화된 추출(한 번의 호출 내에서 증거 요청)은 여전히 효과적이지만, 해당 증거를 후속 결정 호출을 위한 고정된 독점 인터페이스로 전환할 경우 성능이 현저히 저하된다는 일관된 증거를 제시합니다.

결과
실험 결과, "잠금(locking)" 처리가 구조화된 단일 호출 판정에 비해 평가 품질의 측정 가능한 저하를 초래함을 입증했습니다:

• 선호 일치도 감소: 증거 잠금은 구조화된 단일 호출 판정 대비 인간 선호도 일치도를 4~6%포인트 감소시켰습니다.
  • Claude Sonnet 4.5: 76.0%(구조화됨)에서 71.7%(증거 잠금)로 하락.
  • GPT-5: 75.6%(구조화됨)에서 70.0%(증거 잠금)로 하락.
  • 포인트와이즈 잠금은 더 낮은 일치도를 보였습니다 (67.3% 및 69.2%).
• 순서 불일치 증가: 잠금 프로토콜은 답변 순서에 대한 민감도를 크게 높였습니다.
  • 증거 잠금은 구조화된 판정 대비 불일치를 8~10%포인트 증가시켰습니다.
  • Claude Sonnet 4.5의 경우, 불일치가 10.9%(구조화됨)에서 18.9%(증거 잠금)로 상승했습니다.
• 계산 비용: 잠금 프로토콜은 더 많은 API 호출과 토큰을 요구합니다 (예: Claude의 경우 구조화된 판정의 1,864 토큰 대비 증거 잠금 시 4,183 토큰 사용). 이는 결과는 더 나쁘면서 비용은 더 많이 든다는 것을 의미합니다.
• 일반화 가능성: 부정적인 효과는 세 가지 데이터셋(HelpStep3, FeedbackQA, CoVal)과 두 가지 판정 모델 모두에서 일관되게 나타났습니다.

의의 및 주장
본 논문은 영속화된 증거 기록이 결정 시점에 원본 답변을 대체해서는 안 된다고 결론짓습니다. 성능 저하는 증거가 요청될 때가 아니라, 증거 기록이 최종 판결을 위한 독점적인 인터페이스가 될 때 구체적으로 발생합니다.

• 정보 흐름 (Information Flow): 저자는 이를 "정보 흐름 효과"라고 주장합니다. 자연어 기록은 차이점을 누락하거나, 트레이드오프를 압축하거나, 원래 제시 순서에 따른 프레이밍을 보존할 수 있습니다. 일단 최종 결정 호출이 원본 답변에 대한 접근 권한을 잃으면, 이러한 누락이나 프레이밍 선택을 바로잡을 수 없습니다.
• 감사 가능성 vs. 의사 결정: 영속화된 증거가 감사, 로깅, 모듈화를 지원하지만, 실질적인 교훈은 기록이 원본 쌍을 대체하는 것이 아니라 보조해야 한다는 것입니다. 최종 판정 모델은 이상적으로 아티팩트(artifact)와 원본 답변을 함께 검토해야 합니다.
• 주장의 겸손함: 저자는 "증거 잠금"이 결합된 개입(단계 분리, 추가 호출, 기록 동결, 원본 제거의 결합)임을 명시합니다. 따라서 워크플로우가 저하를 일으키는 것은 사실이지만, 어떤 특정 구성 요소(예: 동결 vs. 원본 접근 제거)가 그 원인인지 유일하게 식별할 수는 없습니다. 다만 "정보 병목(information-bottleneck)" 설명이 타당한 해석으로 제시되었습니다. 본 연구는 숨겨진 추론 메커니즘을 증명하려는 것이 아니라, 입력 데이터를 제한함으로써 발생하는 관찰 가능한 결과들을 입증하는 데 목적이 있습니다.