Evidence-State Reliability Under Controlled Degradation: Parser-Validity Divergence in a Multi-Stage LLM Pipeline

기술 요약: 통제된 퇴화 하에서의 증거 상태 신뢰성

문제 정의
다단계 대규모 언어 모델(LLM) 파이프라인은 종종 단계 간(예: 결정, 감사, 에스컬레이션)에 변형, 압축 또는 라우팅되는 중간 증거 상태에 의존한다. 중요한 신뢰성 격차는 파이프라인이 해당 단계의 할당된 기능에 필요한 증거가 불완전, 상충 또는 불충분함에도 불구하고 구조적으로 유효한 출력(예: 구문론적으로 올정한 JSON)을 생성할 때 발생한다. 현재의 평가 방법은 종종 "파서 유효성"(구조적 부합성)과 "실질적 신뢰성"(증거 충분성)을 혼동한다. 본 논문은 시스템이 구조적 검증을 통해 운영상 성공적인 것처럼 보일 수 있지만, 증거 민감형 성능은 저하될 수 있으며, 이는 표준 지표가 포착하지 못하는 "신뢰성 계층 발산(reliability-layer divergence)"을 생성한다고 주장한다.

방법론
본 연구는 증거의 퇴화가 파이프라인 성능에 미치는 영향을 격리하기 위해 통제된 사례 내 실험 설계를 채택한다.

• 데이터셋: 소비자 금융 보호국(CFPB) 소비자 불만 데이터베이스에서 파생된 60개의 정제된 기본 사례.
• 모델: GLM-5.2.
• 파이프라인 아키텍처: 3단계 시퀀스: 결정(평가), 감사(퇴화 탐지), 에스컬레이션(복구 시도).
• 실험 조건: 각 기본 사례는 네 가지 증거 조건 하에서 처리되었다:
  1. Clean (클린): 퇴화되지 않은 베이스라인.
  2. Compressed-lossy (압축-손실형): 세부 사항을 제거하기 위해 증거를 응축함.
  3. Partial-dropout (부분-탈락형): 필요한 증거 요소의 통제된 부재.
  4. Noisy-conflicting (노이즈-상충형): 경쟁하거나 모순되는 신호의 도입.
• 실행: 설계는 720회의 계획된 모델 호출(60개 사례 × 4개 조건 × 3개 단계)로 구성되었으며, 7개의 리저(ledger)-전용 실패(타임아웃/URL 오류)를 제외한 후 713개의 정제된 실행 행이 유지되었다.
• 지표:
  • 파서 유효성 ($V$): 출력이 구조적 계약(예: 유효한 JSON)을 충족하는지에 대한 이진 지표.
  • 운영 증거 상태 신뢰성 (ESR): 파서 유효성과 모델 출력 코딩된 유효성 판단 모두를 요구하는 복합 성공 지표.
  • 신뢰성 계층 발산 (RLD): 퇴화 상황에서 파서 유효성의 변화와 ESR의 변화 사이의 차이.
  • 감사/복구 지표: 탐지율(감사가 퇴화를 식별함) 및 복구율(에스컬레이션이 성공을 복구함).
• 분석: 각 사례에 대해 매칭된 퇴화-대-클린 비교를 수행하였으며, 평균 변화에 대한 95% 신뢰 구간을 추정하기 위해 비모수적 부트스트래핑(2,000회 리샘플링)을 활용하였다.

주요 기여

1. ESR의 운영화: 본 논문은 증거가 완전하고 근거가 있으며 사용 가능한 상태로 유지되는지에 집중함으로써, 파서 유효성과 별개의 계층으로서 증거 상태 신뢰성을 정의하고 측정한다.
2. 신뢰성 계층 발산의 입증: 동일한 통제된 개입 하에서 구조적 부합성과 증거 민감형 성공이 서로 반대 방향으로 움직일 수 있다는 실증적 증거를 제공한다.
3. 탐지와 복구의 분리: 감사 단계가 퇴화를 탐지하는 능력과 에스컬레이션 단계가 그것으로부터 복구하는 능력을 구분하여, 이들이 서로 다른 파이프라인 기능임을 보여준다.
4. 시퀀스 수준 분류 체계: 실패를 파서 실패 연쇄, 탐지되었으나 복구되지 않은 패턴, 감사 허위 확신, 불완전한 실행, 보존된 성공으로 분류하는 진단적 분류 체계를 도입한다.

결과

• 발산: 9개의 모든 매칭된 퇴화-대-클린 조건-단계 비교에서, 운영 단계 성공 추정치는 음수였다(9개 모두 95% 부트스트랩 구간이 0 미만에 머무름). 이는 증거 민감형 성능의 저하를 나타낸다. 반대로, 9개의 모든 파서 유효성 점 추정치는 양수였으며, 이는 구조적 부합성의 개선을 나타낸다. 3개의 파서 유효성 구간(부분 탈락 상황 하)은 0을 포함했으나, 방향성 추세는 양수였다.
• 감사 및 에스컬레이션: 파서 유효한 퇴화된 감사 출력 중에서, 퇴화 탐지율은 모든 조건에서 1.0(100%)이었다. 그러나 감사 허위 확신율은 0이 아닌 상태로 남았다. 결정적으로, 파서 유효한 퇴화된 에스컬레이션 출력 중에서, 모든 퇴화 조건에서 복구율은 0.0이었다; 어떤 파서 유효한 퇴화된 에스컬레이션 출력도 복구된 것으로 분류되지 않았다.
• 시퀀스 결과: 240개의 조건 연결 시퀀스 그룹 중 223개가 운영적 연쇄 실패 정의를 충족했다. 실패 분류 체계는 143개의 파서 실패 연쇄, 71개의 탐지되었으나 복구되지 않은 패턴, 3개의 감사 허위 확신, 6개의 불완전한 시퀀스를 나타냈다. 단 17개의 그룹만이 보존된 성공이었다.

의의 및 주장
본 논문은 구조적 유효성이 다단계 LLM 파이프라인의 신뢰성을 위한 필요조건이지만 충분조건은 아니라고 주장한다. 주요 발견은 통제된 퇴화 하에서 파이프라인이 "구조적으로 개선"(높은 파서 유효성)되면서 동시에 "증거가 빈약"(낮은 단계 성공)해질 수 있다는 것이다. 이는 스키마 준수나 파서 검증에만 의존하는 것이 의사결정을 뒷받아야 하는 증거의 실질적 품질 저하를 은폐할 수 있음을 시사한다.

또한 본 연구는 증거 문제를 탐지하는 것이 시스템의 복구 능력을 보장하지 않는다는 것을 확립한다. 평가된 구성에서 탐지는 완벽했으나(파서 유효한 출력 중), 복구는 존재하지 않았다(파서 유효한 출력 중).

한계 및 범위
저자는 다음과 같이 평가된 맥락에 한정하여 결론을 명시한다:

• 모델 특이성: 결과는 GLM-5.2 구성에 국한되며 교차 모델 일반성을 확립하지 않는다.
• 실험 범위: 연구 결과는 60개의 선택된 정제된 사례를 사용한 단일 확장 실행에 적용되며, 실제 소비자 불만이나 배포된 시스템의 확률 표본을 대표하지 않는다.
• 측정: 모든 성공 및 적절성 지표는 독립적인 인간 판정이 아닌 모델 출력 코딩 필드로부터 도출되었다.
• 일반화 가능성: 본 연구는 보편적인 LLM 불신뢰성을 증명하거나 퇴화가 일반적으로 파서 유효성을 개선한다고 주장하지 않는다. 오직 테스트된 특정 통제된 조건 및 파이프라인 설계 하에서 이러한 발산을 입증할 뿐이다.
• 안전성: 본 결과는 금융 시스템에서의 배포 안전성, 규제 타당성 또는 소비자 피해의 발생 정도를 확립하지 않는다.

본 작업은 중간 증거 상태와 단계 전환을 진단하기 위한 방법론적 프레임워크 역할을 하며, 구조적 부합성과 증거 충분성을 분리하는 평가 계층을 옹호한다.