기술적 요약: 학습된 기피와 실시간 조정이 가능한 감사 대상 의사결정 모델

문제 정의

생산 환경의 AI 시스템은 종종 불완전하거나 상충되거나 증거가 부족한 입력을 마주칩니다. 전통적인 접근법은 이러한 모호한 사례를 이진 행동 레이블(예: YES/NO)로 강제로 분류하여 불확실성을 은폐하거나, 감사 가능한 실행 의사결정에 필요한 구조가 결여된 생성형 출력에 의존합니다. 본 논문이 다루는 핵심 문제는 불확실성이 강제된 예측이나 자유형 생성 안에 숨겨지는 것이 아니라, 명시적으로 라우팅 가능하고 정책으로 통제되며 감사 가능한 운영 의사결정 제어 인터페이스의 필요성입니다.

본 논문은 제한된 의사결정 공간 $Y_d = \{YES, NO, TBD\}$을 정의합니다.

• YES: 행동을 수행하기에 충분한 근거.
• NO: 거부하거나 차단하기에 충분한 근거.
• TBD: 직접적인 행동이나 거부에 대한 불확실성이 부족하여 학습된 연기 (deferral) 결과를 나타냄.

기피 (abstention) 를 이진 분류기에 적용된 사후 (post-hoc) 임계값으로 다루는 표준 기피 옵션 모델과 달리, 본 연구는 연기 (TBD) 를 레이블 공간 내의 감독된 클래스로 취급합니다. 이를 통해 모델은 훈련 중 낮은 신뢰도 영역을 균일한 거부 구역으로 처리하는 대신, 모호성의 의미론적 구조를 내부화할 수 있습니다.

방법론

아키텍처

제안된 모델인 EvaluatorDPT는 최대 시퀀스 길이 128 토큰을 사용하는 트랜스포머 인코더 (BERT-base-uncased) 를 활용합니다. 아키텍처는 멀티헤드 설계를 채택합니다:

1. 주 의사결정 헤드: $\{YES, NO, TBD\}$에 대한 제한된 분포를 예측합니다.
2. 보조 헤드: 값 (10 개 레이블) 및 감정/감성 (28 개 레이블) 을 위한 구조화된 채널.
   • 참고: 본 논문에서 보고된 특정 평가에서는 감정 헤드가 비활성화되었습니다. 경험적 주장은 의사결정 헤드로 제한되며, 보조 채널은 향후 정책 제어를 위한 아키텍처 능력으로 제시됩니다.

훈련 및 데이터

• 데이터셋: 자연어 추론 (NLI) 및 입장 (stance) 스타일 자료 (SNLI, MultiNLI, SemEval) 에서 선별된 코퍼스입니다. 함의 (Entailment) 는 YES 로, 모순 (contradiction) 은 NO 로, 중립/불충분한 증거는 TBD 로 매핑됩니다.
• 경계 정제: 모델은 이전 진단 오류에서 채굴된 소규모 하위 집합 (323 개 예시) 을 사용하여 타겟팅된 정제 에포크를 거칩니다. 이 하위 집합은 부정, 모순, 어휘 중첩 함정, 역할/숫자 교체, 그리고 완곡어법/조동사 진술을 포함한 어려운 의미 영역에 초점을 맞춥니다.
• 손실 함수: 가중 손실 (의사결정 1.0, 값 0.3, 감정 0.3) 과 레이블 스무딩 (0.05) 을 사용합니다.
• 구성: 웜업이 포함된 코사인 스케줄링, 잠금 해제된 인코더 레이어 9–11, 그리고 전역 학습률 $5.0 \times 10^{-6}$을 사용합니다.

운영 인터페이스

시스템은 모델이 학습한 의사결정 분포와 배포 정책을 분리합니다.

• 추론 시간 제어: 운영자는 모델 가중치를 재훈련하지 않고도 기록된 운영 임계값을 변경하여 (예: 고위험 워크플로우에 대한 연기율 증가) 라우팅 행동을 조정할 수 있습니다.
• 감사 가능성: 인터페이스는 제한된 분포, 신뢰도 점수, 그리고 구조화된 보조 신호를 출력합니다. 평가 패키지에는 외부 검토를 지원하기 위한 보정 데이터, 임계값 스윕, 혼동 행렬, 그리고 재현성 명령이 포함됩니다.

주요 기여

1. 학습된 연기 공식화: TBD 가 학습된 감독 결과인 제한된 3-way 출력으로 의사결정 라우팅을 모델링하여, 모호한 예시들이 훈련 중 표현을 형성하도록 합니다.
2. 의사결정과 정책의 분리: 모델은 분포를 방출하는 반면, 배포 임계값 정책은 외부에 있으며 검사 가능합니다. 이는 불확실성의 표현을 위험 허용도 선택과 분리합니다.
3. 감사 가능한 추론 시간 제어: 라우팅 정책 (임계값, 폴백 규칙, 보조 신호 사용) 이 모델 가중치에 내장되는 것이 아니라 운영 정책으로 기록되어 재훈련 없이 실시간 조정이 가능한 프레임워크입니다.
4. 도메인 중립 인터페이스: 출력 공간은 특정 하위 도메인과 무관하여, 동일한 제한된 레이블을 도메인별 보정을 통해 콘텐츠 심의, 승인 워크플로우, 또는 준수 검토에 적용할 수 있습니다.
5. 감사 지향적 평가: 단순한 집계 정확도를 넘어 클래스별 행동, 보정 증거 (ECE), 임계값 스윕, 다중 시드 안정성 검사, 그리고 재현성 자료를 포함하는 포괄적인 평가 구조입니다.

결과

성능 지표

홀드아웃 테스트 분할 ($n=44,597$) 에서 모델은 다음을 달성합니다:

• 정확도: 0.8260
• 마이크로 F1: 0.8252
• 클래스별 F1:
  • YES: 0.8314
  • NO: 0.8486
  • TBD: 0.7956

비교 분석

• 학습된 vs. 강제: 모델을 TBD 를 제거한 이진 YES/NO 의사결정으로 축소하면 Macro F1 이 0.4945 로 크게 하락하여 학습된 연기 클래스의 필요성을 보여줍니다.
• 임계값 적용: 이진 분류기에 90% 커버리지에서 기피 임계값을 적용하면 Macro F1 이 높게 (~0.863) 나오지만 사례의 10% 가 제외됩니다. 학습된 TBD 모델은 전체 커버리지 세트에서 높은 성능을 유지합니다.
• 보정: 모델은 검증 세트에서 0.0338 의 기대 보정 오차 (ECE) 를 보여주어 좋은 보정을 입증합니다.
• 정제 영향: 경계 정제 패스는 원시 Macro F1 을 크게 증가시키지 않았습니다 (원본: 0.8254 vs. 정제: 0.8252) 하지만 보정 오차와 고신뢰도 오류율을 감소시켰습니다 (예: 임계값 0.85 에서의 고신뢰도 오류는 0.0558 에서 0.0485 로 감소).

오류 분석

주요 잔류 오류는 실제 TBD 사례와 직접 행동 레이블 (YES/NO) 간의 혼동, 특히 YES 로 잘못 분류된 TBD 사례를 포함합니다. 이는 모호한 입력과 결정적인 증거를 가진 입력을 구분하는 의미론적 어려움을 강조하며, 이는 경계 정제 하위 집합이 타겟팅한 영역입니다.

중요성 및 주장

본 논문은 학습된 연기가 감사 가능한 의사결정 제어 인터페이스로 효과적으로 평가될 수 있다고 주장합니다. 그 중요성은 최대 자동화 달성이나 새로운 언어 모델 백본 제공에 있는 것이 아니라, 모호성 하에서 통제된 라우팅 메커니즘을 제공하는 데 있습니다.

주요 주장은 다음과 같습니다:

• 명시적 불확실성: 불확실성은 신뢰도 점수의 숨겨진 속성이 아니라 명시적이고 라우팅 가능한 결과 (TBD) 여야 합니다.
• 정책 분리 가능성: 모델 분포와 배포 임계값 정책은 독립적으로 검토 및 수정될 수 있어 거버넌스와 위험 관리를 지원합니다.
• 검토 가능성: 평가 증거 (보정, 안정성, 혼동 행렬) 는 외부 검토자가 시스템 행동을 검사하고 평가 과정을 재구성할 수 있게 하며, 저자들은 이것이 운영 AI 시스템에 필수적인 표준이라고 주장합니다.

저자들은 일반화에 대해 겸손한 태도를 유지하며, 결과는 평가된 코퍼스에 구체적이며 도메인 전이는 별도의 검증, 보정, 임계값 선택이 필요하다고 명시합니다. 보조 값 및 감정 채널은 아키텍처 능력으로 정의되었으나, 본 특정 릴리스에서는 경험적으로 검증되지 않았습니다.