Same Facts, Different Diagnosis: Measuring and Mitigating Narrative Anchoring in Clinical Language Models

기술 요약: 동일한 사실, 다른 진단

문제 정의: 서사적 앵커링(Narrative Anchoring)
임상용 대규모 언어 모델(LLM)의 편향에 관한 기존 연구는 주로 명시적인 정체성 토큰(예: 인종, 성별, 소득)이 진단 출력을 변화시키는 인구통계학적 편향에 집중해 왔습니다. 그러나 본 연구는 **서사적 앵커링(Narrative Anchoring)**이라 명명된, 별도로 구분되며 이전에 조사되지 않았던 고유한 실패 모드를 식별합니다. 이 현상은 동일한 임상적 사실이 서로 다른 사회언어학적 레지스터(예: 다양한 사회경제적 또는 문화적 프레이밍)를 통해 표현될 때 진단 출력이 갈라지는 현상을 의미합니다. 결정적으로, 이 편향은 명시적인 인구통계학적 표식 없이도 작동하며, 모델의 추론은 환자가 누구인지가 아니라 환자가 증상을 어떻게 설명하는지에 따라 변화합니다. 기존 벤치마크들은 각 사례를 한 번만 제시하기 때문에, 모델이 레지스터에 따른 불일치를 드러낼 기회를 차단하여 이 편향을 감지하는 데 실패하는 경우가 많습니다.

방법론 및 데이터셋 구축
저자들은 이 편향을 격리하고 측정하기 위해 NARRATIVESHIELD-SDOH를 구축했습니다.

• 출처 및 필터링: USMLE 스타일의 임상 비넷(vignette) 1,000개를 MedQA-USMLE 코퍼스에서 추출하였으며, 서사적 깊이, 임상적 신호 용어, 특정 타겟 유형(진단, 치료, 검사)을 기준으로 필터링했습니다.
• 페르소나 생성: 각 비넷을 세 가지 뚜렷한 사회언어학적 페르소나로 재작성했습니다:
  1. 대조군 ($P_\alpha$): 원래의 레지스터를 보존함.
  2. 사회경제적 ($P_\beta$): 경제적 또는 직업적 스트레스를 통해 재구성함.
  3. 문화적 ($P_\gamma$): 문화적으로 정착된 은유를 통해 재구성함.
     제약 사항: 어떤 페르소나에도 명시적인 인구통계학적 표식(인종, 소득 수치, 문화적 식별자)을 포함하지 않았습니다.
• 사실 보존 감사: 레지스터 간에 임상적 사실이 일정하게 유지되는지 확인하기 위해 2단계 검증 프로세스를 채택했습니다. 첫째, 독립적으로 호출된 "감사(auditor)" 모델(생성 모델과 분리됨)이 모든 임상적 사실이 재작성 과정에서 생존했는지 검증했습니다. 둘째, 300개의 사례를 층화 샘플링하여 임상 배경을 가진 세 명의 인간 주석가가 100%의 사실 보존 및 레지스터 일치를 확인했습니다.

실험 설정
본 연구는 7개의 오픈 웨이트 모델(Llama, Mistral, Qwen, Gemma, BioMistral을 포함한 3B~12B 파라미터 범위)을 네 가지 조건에 대해 평가했습니다:

1. 직접 프롬프팅 (B1): 베이스라인 제로샷 프롬프팅.
2. 단계별 사고 (Chain-of-Thought, B2): 답변 전 단계별 추론 수행.
3. 명시적 디바이어싱 (Explicit Debiasing, B3): 사회언어학적 프레이밍을 무시하라는 단일 지시문.
4. NarrativeShield (NS): 제안된 3개 에이전트 아키텍처 개입.

주요 기여 및 결과

1. 만연한 서사적 앵커링의 증거:
   직접 프롬프팅(B1) 하에서, 7개 모델 모두 통계적으로 유의미한 서사적 앵커링 갭(Narrative Anchoring Gap, NAG)—대조군 레지스터가 마킹된 레지스터보다 정확도가 높은 격차—을 보였습니다. 모델 전반에 걸쳐 NAG는 0.064에서 0.151 사이였습니다. 이는 사회언어학적 레지스터만으로도 인구통계학적 라벨이 없는 상태에서 진단 출력을 변화시키기에 충분함을 입증합니다.

2. 프롬프트 수준 완화책의 한계:

• 단계별 사고 (B2): B2는 일부 모델에서 NAG를 감소시켰으나, 이는 종종 전체 정확도의 붕괴와 결합되었습니다 (예: Gemma-3-12b-it는 정확도가 21포인트 하락함). 저자들은 더 적은 수의 정답으로부터 도출된 낮은 NAG가 개선된 공정성을 의미하는 것은 아니라고 주장합니다.
• 명시적 디바싱 (B3): 프레이밍을 무시하라는 지시는 (Llama-3.1-8B의 경우 0.151에서 0.135로) 정확도 손실 없이 NAG를 완만하게 감소시켰습니다. 그러나 지시 튜닝이 되지 않은 도메인 적응 베이스 모델인 BioMistral은 B3에서 파싱 비율 0.00%를 기록하며 완전히 실패했는데, 이는 프롬프트 수준의 개입이 기초적인 지시 이행 능력을 전제로 함을 나타냅니다.

3. NarrativeShield 아키텍처:
   저자들은 임상적 사실과 서사적 레지스터를 구조적으로 분리하도록 설계된 3개 에이전트 파이프라인인 NarrativeShield를 도입했습니다:

• 에이전트 1 (적대적 인테이크 추출기): 모든 사회언어학적 레지스터, 경제적 프레이밍, 은유를 제거하고, 구조화된 JSON 형태의 임상 사실만을 출력합니다.
• 결정론적 도구 라우터 (Deterministic Tool Router): 추출된 사실을 바탕으로 임상 의사 결정 지원 도구(예: 위험 계산기, 약물 지식 베이스)를 주입합니다.
• 에이전트 2 (임상 추론 엔진): 원본 서사를 전혀 보지 않고, 오직 구조화된 JSON과 도구 출력만을 사용하여 진단 추론을 수행합니다.
• 에이전트 3 (비상 폴백): 에이전트 2가 출력 형식을 올바르게 생성하지 못할 경우 최종 답변 문자를 추출합니다.

성능: NarrativeShield는 모든 모델에서 NAG를 거의 제로 수준(−0.004 ~ 0.037)으로 줄였습니다. 또한 모든 조건 중 가장 낮은 수준의 심각하게 불안정한 결정(진단 안정성 점수 < 0.8) 비율을 달acia했습니다. 이는 대부분의 모델에서 (정보 추출 과정에서의 정보 손실로 인한) 미미하고 기계적으로 설명 가능한 정확도 비용을 동반했습니다. 다만, Gemma-4-E4B-it는 오히려 정확도가 향고되었는데, 이는 일부 모델의 경우 서사적 노이즈를 제거하는 것이 추론에 도움이 된다는 것을 시사합니다.

의의 및 주장
본 논문은 LLM의 임상적 편향이 단순히 인구통계학적 라벨링의 문제가 아니라, 환자의 서사가 처리되는 방식에 깊이 내재되어 있다고 주장합니다. 이 연구의 주요 의의는 세 가지입니다:

1. 식별: 서사적 앵커링이 표준 프롬프트 수준의 완화책을 우회하는 만연한 레지스터 기반 편향임을 확립했습니다.
2. 아키텍처 솔루션: 구조적 개입(사실 추출과 추론의 분리)이 지시형 프롬프트보다 이 편향을 제거하는 데 더 효과적임을 입증했습니다.
3. 전제 조건 능력: BioMistral에 대한 스트레스 테스트를 통해, 프롬프트든 파이프라인이든 모든 디바이어싱 개입은 모든 모델이 갖추지 못한 기초적인 제로샷 지시 이행 능력을 필요로 한다는 것을 보여주었습니다.

저자들은 임상적 편향을 닫기 위해서는 프롬프트 엔지니어링에 의존하는 것이 아니라, 임상적 사실을 사회언어학적 프레이밍으로부터 구조적으로 격리하는 파이프라인 설계가 필요하다고 결론짓습니다. 그들은 본 연구가 연구 단계의 진단 및 완화 도구이며, 실제 임상 배포용 도구가 아님을 명시하며, 이러한 아키텍처의 정확도 트레이드오프는 특정 임상적 이해관계에 따라 평가되어야 한다고 밝힙히고 있습니다.