CliniCARE-Bench: Clinical Calibrated Audit of Medical Reasoning in EHR

CliniCARE-Bench 기술 요약: 의료 기록(EHR) 내 의료적 추론의 임상적 교정 감사

문제 정의
대규모 언어 모델(LLM)이 의료 지식 벤치마크에서 강력한 성능을 보여주고 있지만, 이들의 임상 현장 배치는 정적인 질의응답 이상의 역량을 요구한다. 실제 임상 과업은 종종 이질적이고 종단적인 전자 건강 기록(EHR)에 대한 소급적 조사를 포함한다. 이러한 시나리오에서 에이전트는 필요한 증거를 결정하고, 구조화된 데이터와 자유 텍식 노트를 검색 및 조정하며, 검증 가능한 증거에 결론을 근거하고, 기록이 확정적인 결론을 뒷받침하기에 불충분할 때 이를 인지해야 한다. 기존 벤치마크들은 세 가지 안전 필수 역량, 즉 부정적 추론(특정 상태가 배제되었음을 확인하는 것), 다년간의 기록에 걸친 심층적 종단적 합성, 그리고 교정된 기권(누락된 증거와 진정한 의료적 모호성을 구분하는 것)을 테스트하는 데 실패하는 경우가 많다. 더욱이, 많은 벤치마크가 단순히 최종 답변의 정답 여부가 아니라, 에이전트가 필요한 증거를 수집했는지, 지배적인 표준을 적용했는지, 그리고 요구되는 절차를 준수했는지와 같은 '판결 과정의 방어 가능성(defensibility)'을 평가하는 데 미흡하다.

방법론
저자들은 소급적 임상 감사를 위한 배포 지향적 벤치마크인 CliniCARE-Bench를 소개한다. 이 프레임워크는 다음 구성 요소로 구축되었다:

• 데이터 기질(Data Substrate): 본 벤치마크는 단일 대학 병원의 입원, 중환자실(ICU), 응급실 데이터를 포괄하는 MIMIC-IV v3.1, MIMIC-IV-Note v2.2, MIMIC-IV-ED v2.2를 활용한다.
• 시나리오 구축: 시나리오는 14개 의료 전문 분야와 10가지 추론 역량(예: 시간 민감형 프로토콜 감사, 교차 모달 검증, 종단적 합성)을 아우르는 25개의 임상의 작성 시나리오로 구성된다. 이 시나리오들은 750개의 환자별 사례로 구체화된다.
• 통제된 도구 환경(Governed Tool Environment): 에이전트는 통제되고 임상의가 검증 가능한 도구가 있는 재현 가능한 런타임 내에서 작동한다. 에이전트는 원시 데이터베이스 스키마에 직접 접근할 수 없으며, 특정 기록 범주(노트, 검사 결과, 활력 징후 등)를 검색하고, 샌드박스 셸에서 명시적 계산을 수행하며, 고정된 지배 정책 코퍼스(예: KDIGO, CMS SEP-1)에 접근하기 위해 매개변수화된 도구를 사용해야 한다. 모든 도구 호출은 로그로 기록되어 재현 가능한 추적(trace)을 생성한다.
• 판결 프레임워크(Adjudication Framework):
  • 판결(Verdicts): 에이전트는 Yes, No, Indeterminate: Lack of Data(판단 불가: 데이터 부족), 또는 Indeterminate: Medically Ambiguous(판단 불가: 의료적 모호함) 중 하나의 판결을 반환해야 한다. 후자의 두 가지는 더 많은 증거가 문제를 해결할 수 있는 경우와, 전체 검토 후에도 전문가의 해석이 필요한 경우를 구분한다.
  • 참조 레이블(Reference Labels): 참조 판결은 다중 모델 판결 앙상블(Claude, Codex, Gemini)을 통해 생성되며, 임상 위원회(Clinical Board)의 블라인드 검토를 통해 교정된다.
  • 평가 지표: 프레임워크는 단순 정확도를 넘어 다각도로 시스템을 점수화한다:
    • 판결 정확도(Verdict Correctness): 정확한 4개 클래스 일치 여부.
    • 기권 행동(Abstention Behavior): 과잉 몰입(판단 유보가 필요한 사례에 대해 확정적 판결을 내리는 것)과 과잉 기권을 측정한다.
    • 근거 제시(Grounding): 인용된 증거의 정밀도(인용된 증거의 충실성)와 증거 범위(검색의 완전성).
    • 정책 근거(Policy Grounding): 에이전트가 지배적인 임상 표준을 올바르게 식별, 인용 및 적용하는지 여부.
    • 절차 준수(Process Adherence): 필수 수행(MUST-DO) 사항과 금지된 지름길(MUST-NOT) 기준에 대한 가중치 부여 루브릭.
    • 결함 없는 정확도(Defect-Free Accuracy): 판결이 정확하면서 동시에 금지된 프로세스 지름길이 없는 경우에만 점수를 부여하는 지표.

주요 기여

1. 기술 및 전문 분야를 아우르는 시나리오 세트: 다양한 의료 영역에서 안전 필수적 추론을 스트레스 테스트하도록 설계된, 750개 사례로 구체화된 25개의 시나리오 세트.
2. 통제되고 임상의가 검증 가능한 도구 환경: 기록의 이질성을 보존하면서 쿼리 엔지니어링 아티팩트를 격리하여, 에이전트가 능동적으로 증거를 검색하고 조정하도록 강제하는 재현 가능한 실행 표면.
3. 근거 중심의 프로세스 인식 평가 프레임워크: 클레임 수준의 증거 근거 제시, 정책 인용, 그리고 최종 답변의 정답 여부뿐만 아니라 충실한 조사 절차에 보상하는 프로세스 루브릭과 결합된 엄격한 4방향 판결 시스템.
4. 임상의 교정 레이블링을 위한 확장 가능한 프로토콜: 철저한 수동 검토로는 달성할 수 없는 규모에서 신뢰할 수 있는 참조 레이블을 생성하기 위해, 임상의 검증 사양과 다중 모델 판결 및 블라인드 위원회 교정을 결합한 방법론.

실험 결과
저자들은 16개의 에이전트 시스템(벤더 모델 기반의 10개 프로덕션 에이전트 CLI와 중립적 하네스 기반의 6개 오픈 웨이트 모델)을 평가하였다. 주요 결과는 다음과 같다:

• 정확도 대 프로세스: 원시 4방향 정확도는 65.3%에서 76.1% 사이였다. 그러나 결함 없는 정확도(프로세스 위반 없는 정확한 판결)는 4.8~14.8 퍼센트 포인트 더 낮았다. 이 격차는 리더보드의 순위를 재편했다. 예를 들어, 높은 원시 정확도를 가진 시스템은 프로세스 결함에 의해 페널티를 받을 때 순위가 크게 하락했다.
• 기권 행동: 모든 시스템은 체계적으로 **기권을 과소 수행(under-abstained)**했다. 확정적 판결을 내려야 할 사례에 대해 확정적 판결을 내리는 과잉 몰입률이 기권 과잉률보다 현저히 높았다. 시스템은 유보가 필요한 사례의 21.3%에서 55.3%에서 과잉 몰입을 보였다.
• 근거 제시 대 정확도: 판결 정확도와 근거 품질 사이에는 해리(dissociation)가 존재했다. 시스템은 종종 자신을 정당화하는 특정 증거를 인용하지 않고도 정확한 판결에 도달했다. 클레임 수준의 정밀도는 모델의 능력보다는 하네스 제품군에 따라 차이가 났으며, 이는 검색 스캐폴드(retrieval scaffold)가 근거 제시 품질의 주요 동인임을 시사한다.
• 정책 근거: 시스템은 실제 정책 문서를 높은 정밀도로 인용했지만, 적용 가능한 표준의 일부만을 인용하여 지배 문서를 누락하는 경우가 빈번했다(낮은 재현율).
• 신뢰성: 반복된 시도는 시스템이 무작위로 틀리는 것이 아니라 "안정적으로 틀리는(stably wrong)" 경향이 있음을 보여주었다. 높은 자기 일관성(self-consistency)이 반드시 정확성을 보장하는 것은 아니었으며, 특히 판단 유보 사례에서 그러했다.

의의 및 주장
본 논문은 CliniCARE-Bench가 공통된 환자 수준 판결 프레임워크 내에서 실제 종단적 EHR 조사, 클레임 수준의 증거 근거 제시, 지배 정책 사용, 프로세스 준수 및 교정된 기권을 공동으로 평가하는 최초의 배포 지향적 임상 에이전트 벤치마크라고 주장한다.

저자들은 원시 정확도가 임상 조사의 품질을 과장한다고 주장한다. 올바른 최종 답변은 결함 있는 조사(예: 금지된 지름길 사용 또는 증거 누락)를 은폐할 수 있다. 이 벤치마크는 "결과-프로세스 간극(outcome–process gap)"을 드러내며, 고위험 임상 감사에서 조사 과정의 방어 가능성이 최종 판결만큼 중요하다는 것을 입증한다. 통제된 도구 사용, 명시적 판결 기준, 추적 가능한 증거, 교정된 기권이라는 설계 원칙은 금융이나 법률과 같은 다른 고위험 영역에도 적용 가능한, 감사 가능한 에이전트 환경을 위한 일반적인 레시피로 제시된다. 이 벤치마크는 에이전트가 사례를 해결할 수 있는지뿐만 아니라, 어떻게 해결하는지, 그리고 그 결정이 투명하고 재현 가능한지를 측정함으로써 인간 감독 하의 배포를 지원하기 위해 설계되었다.