A Computational Audit of Demographic Association Encoding in ClinicalBERT Language Predictions

기술 요약: ClinicalBERT 언어 예측 내 인구통계학적 연관성 인코딩에 대한 계산론적 감사

문제 제기
ClinicalBERT와 같은 트랜스포머 기반 임상 언어 모델이 고위험 의사결정 지원 파이프라인에 점점 더 통합되고 있는 한편, 의료 문서에 인코딩된 인구통계학적 연관성이 모델의 확률 분포로 전파되는 계산적 메커니즘은 경험적으로 명확히 규명되지 않은 상태로 남아 있다. 임상 NLP의 알고리즘 편향에 관한 기존 문헌은 주로 결과 수준의 불평황(예: 흑인 환자의 의료 요구 과소평가)에 초점을 맞추고 있으며, 인구통계학적 연관성을 인코딩하는 모델의 내부 표상 구조에 대해서는 다루지 않는다. 또한, 관찰된 모델 출력의 편향이 단순히 학습 데이터 분포에서 상속된 것인지, 아니면 모델의 내부 처리 과정에 의해 증폭된 것인지도 불분명하다. 본 연구는 사회적 집단의 상징적 묘사와 범주화로 인해 발생하는 피해로 정의되는 '표상적 위해(representational harm)'의 맥락에서, 통계적 격차(데이터의 차이)와 편향 증폭(모델이 생성한 데이터와의 괴리) 사이의 간극을 다룬다.

방법론
본 연구는 MIMIC-III 퇴원 요약서로 사전 학습된 BERT 기반 모델인 ClinicalBERT(Alsentzer et al., 2019)에 대한 체계적인 계산론적 감사를 제시한다. 이 감사는 생태적 타당성을 보장하기 위해 MIMIC-III 코퍼스에서 직접 추출한 98개의 실제 임상 문장 템플릿에 적용되는 두 가지 상호 보완적인 프로빙 방법론을 채택한다. 이 템플릿들은 8가지 교차적 인종-성별 조합(백인 남성, 흑인 남성, 흑인 여성, 히스패닉 남성, 히스패닉 여성, 아시아인 남성, 아시아인 여성, 백인 여성)에 걸쳐 구현되며, 백인 남성이 참조 그룹($D_0$) 역할을 한다.

1. 로그 확률 편향 분석 (LPBA): 이 방법은 행동적($\beta$) 및 평가적($E$) 의미론적 범주에 대한 데모그래픽 기술어 유도 마스크 토큰 확률 분포의 변화를 정량화한다. 이는 동일한 문장 맥락에 대해 대상 인구 집단($D_i$)과 참조 집단($D_0$) 사이의 로그 확률 차이를 계산한다.
2. 마스크 언어 모델 기반 분석 (MLM): 이 방법은 에이전시(agency, 주체성) 귀속($\alpha$) 인코딩을 조사하기 위해 내부 표상 구조를 탐색한다. LPBA와 달리, MLM은 로그 차이를 사용하는 대신 원시 마스크 토큰 확률을 사용하여 능동적 저항, 능동적 협력, 또는 임상적 조치의 수동적 수용을 나타내는 용어에 대한 절대적 확률 할당을 평가한다.
3. 코퍼스 빈도 분석: 통계적 격차와 편향 증폭을 구분하기 위해, 본 연구는 모델의 확률 출력($P_M$)을 MIMIC-III 학습 코퍼스의 경험적 용어 빈도($f_C$)와 벤치마킹한다. 모델의 확률 변화 방향이 코퍼스 빈도 변화의 방향과 상충할 경우($\text{sign}(\Delta S) \neq \text{sign}(\Delta C)$), 이를 편향 증폭(모델 생성)으로 분류한다.

통계적 유의성은 대응 표본 t-검정($p < 0.05$)과 Benjamini–Hochberg 허위 발견율(FDR) 보정을 통해 결정되었다.

주요 결과
감사 결과, 행동 언어, 평가적 프레이밍, 에이전시 귀속 전반에 걸쳐 32개의 통계적으로 유의미한 모델 발견 사항이 식별되었다. 핵심 결과는 데이터 상속보다는 모델 내부의 증폭이 지배적인 패턴임을 드러낸다:

• 전체 모순율: 유의미한 발견 사항 중 65.6%(21/32)가 관찰된 코퍼스 분포와 상충했다.
• 인구통계학적 특이성: 모순율은 흑인 환자의 경우 80.0%(12/15)로 가장 높았다.
• 에이전시 귀속: MLM 기반 분석은 모순율이 87.5%(7/8)로 가장 높음을 보여주었으며, 이는 환자의 에이전시에 관한 편향이 거의 전적으로 모델에 의해 생성되었음을 나타낸다.
• 특정 언어적 메커니즘:
  • 행동 언어: 모델은 백인과 흑인 사이의 "agitated(격앙된)" 빈도가 코퍼스에서 거의 동일함에도 불구하고, 흑인 환자(양성 모두)에 대해 "agitated"의 확률을 체계적으로 억제하는 동시에 히스패닉 및 아시아인 남성 환자에 대해서는 이를 증폭시켰다.
  • 평가적 프레이밍: 모델은 "refused(거부했다)"라는 단어가 코퍼스 내 흑인 환자 노트에서 거의 두 배 더 자주 나타남에도 불구하고(15.38 대 7.75 per 10,000 tokens), 여러 인구 집단(흑인 및 히스패닉 포함)에서 "refused"의 확률을 억제했다.
  • 에이전시 귀속: 흑인 환자들은 백인 남성에 비해 능동적 협력 용어("requested", "agreed") 및 능동적 저항 용어("declined")에 대해 유의미하게 낮은 확률을 할당받았다. 반대로, 흑인 여성 환자는 수동적 수용자("presented")로 인코딩될 확률이 더 높았다. 이러한 교차적 패턴—흑인 여성에 대한 능동적 에이전시의 억제와 수동성의 증폭이 동시에 일어나는 현상—은 인종 수준의 분석만으로는 포착되지 않는 것이었다.

의의 및 주장
본 논문은 널리 배포된 임상 언어 모델이 학습 코퍼스가 정당화하는 범위를 넘어 인구통계학적 연관성을 증폭시킨다는 직접적인 경험적 증거를 임상 NLP 분야에서 최초로 제공한다고 주장한다. 본 연구는 통계적 격차와 편향 증폭을 개념적으로 구분함으로써, ClinicalBERT의 표상적 편향이 단순한 학습 데이터 불균형의 반영이 아니라 모델의 구조적 속성임을 입증한다.

저자들은 이러한 결과가 편향 감사 및 임상 AI 거버넌스에 직접적인 시사점을 준다고 주장한다. 구체적으로, 본 연구 결과는 학습 데이터를 재균형화하거나 사후 학습 정렬(post-training alignment) 절차를 적용하는 것만으로는 불충분할 수 있음을 시사하는데, 이는 식별된 편향이 주로 모델의 내부 표상 구조에서 생성되기 때문이다. 본 연구는 인종 수준의 분석을 넘어 교차적 인구통계학적 조합에 대한 지속적인 감사가 필요하며, 행동적 특징화, 평가적 프레이밍, 에이전시 귀속을 구체적인 감사 대상으로 취급하는 거버넌스 프레임워크를 개발해야 한다고 제언한다. 제안된 프로빙 프레임워크는 임상 AI의 표상적 위해를 평가하기 위한 재현 가능한 방법론으로 제시된다.