기술 요약: 대규모 언어 모델의 임상 추론에 나타나는 성별 편향성 평가

문제 정의

대규모 언어 모델(LLM)은 문서화, 교육 및 임상 의사 결정 지원을 위해 의료 워크플로에 점점 더 많이 통합되고 있습니다. 그러나 이러한 모델들은 역사적 사회적·생물학적 편향(성별에 따른 진단 및 치료의 격차 포함)을 내재적으로 인코딩하고 있는 방대한 텍스트 코퍼스로 학습되었습니다. 기존 연구들이 인간 벤치마크에 대한 AI의 성능과 AI에 대한 대중의 인식을 조사해 왔으나, 현대의 LLM이 임상 정보를 해석할 때 생물학적 성별 편향 패턴을 재현하는지에 대한 실증적 증거를 제시하는 데에는 중요한 공백이 존재합니다. 특히, 명시적인 환자 데이터가 없는 상황에서 모델이 성별에 기반한 가정을 기본값으로 설정하는지, 그리고 이러한 편향이 다운스트림 진단 추론을 변화시키는지 여부는 여전히 불분명합니다.

방법론

저자들은 44개 의학 전문 분야를 아우르는 50개의 임상 사례(vignettes)를 사용하여 통제된 3단계 실험 연구를 수행했습니다. 이 사례들은 "성 중립적"으로 설계되었으며, 즉 초기 진단 경로가 환자의 성별에 의해 영향을 받지 않아야 합니다. 본 연구에는 네 가지 범용 LLM인 OpenAI ChatGPT (gpt-4o-mini), Anthropic Claude 3.7 Sonnet, Google Gemini 2.0 Flash, DeepSeek-chat이 사용되었습니다.

실험 설계는 세 가지 별도의 과제로 구성되었습니다:

1. 이진 성별 할당 (Binary Sex Assignment): 모델에게 중립적인 사례(환자의 성별을 생략함)를 제시하고, 이진 성별(남성/여성)을 할당하도록 지시했습니다.
2. 기권 능력 (Abstention Capability): 동일한 중립적 사례를 제시하되, 프롬프트에 "기권"이라는 세 번째 옵션을 허용했습니다. 이는 모델이 요청되지 않은 인구통계학적 추론을 자제할 수 있는지 테스트하기 위함입니다.
3. 감별 진단 추론 (Differential Diagnosis Reasoning): 모델에게 환자의 성별만 다른(남성형 vs 여성형 변이) 사례 쌍에 대해 상위 5개의 감별 진단 목록을 생성하도록 요청했습니다.

실험 조건:

• 온도 (Temperatures): 샘플링 가변성의 영향을 평가하기 위해 각 모델에 대해 세 가지 온도 설정(0.2, 0.5, 1.0)으로 쿼리를 보냈습니다.
• 반복 (Repetition): 견고성을 확보하기 위해 각 조건을 10회 반복했습니다.
• 분석:
  • 실험 1과 2의 경우, 성별 할당 및 기권 비율을 정확 이항 검정(exact binomial tests)을 사용하여 분석했습니다.
  • 실험 3의 경우, 진단 목록을 네 가지 지표를 사용하여 비교했습니다: Jaccard 유사도(중첩), 항목 수준 일치도(순위 정렬), 누적 일치 특성(divergence point), Kendall's tau-b(순서 유사도).
  • 통계적 유의성은 카이제곱 검정(Chi-square tests), ANOVA, 윌콕슨 부호 순위 검정(Wilcoxon signed-rank tests)을 사용하여 평가했습니다.

주요 결과

1. 성별 할당 왜곡 (Sex Assignment Skew)

모든 모델은 중립적인 임상 사례에 성별을 할당할 때 유의미하고 모델 특이적인 편향을 보였습니다 ($\chi^2_{(3)}=363.6, p<0.001$).

• ChatGPT: 가장 강한 여성 편향을 보였으며, 온도 0.5에서 여성으로 할당하는 경우가 70%에 달했습니다.
• DeepSeek & Claude: 각각 61%와 59%로 중간 정도의 여성 편향을 나타냈습니다.
• Gemini: 일관된 남성 편향을 보였으며, 여성으로 할당하는 경우가 36%에 불과했습니다.
• 온도 효과: 온도 자체는 성별 할당에 유의미한 주효과를 미치지 않았으나($p=0.95$), 모델과 온도 사이의 유의미한 상호작용이 존재했습니다.

2. 전문 분야별 패턴 (Specialty-Specific Patterns)

편향은 의료 영역 전반에 걸쳐 균일하게 나타나지 않았으며, 알려진 임상적 고정관념을 반영했습니다:

• 여성 레이블링 전문 분야: 정신의학, 류마티스학, 혈액학은 모든 모델에서 100% 확률로 여성으로 레이블링되었습니다. 내분비학은 주로 여성(60–100%)으로 분류되었습니다.
• 남성 레이벨링 전문 분야: 심장학 및 비뇨기과는 모든 모델에서 100% 확률로 남성으로 레이블링되었습니다. 폐의학은 대부분 남성(대부분의 모델에서 95–100%)으로 분류되었습니다.

3. 기권의 영향 (Impact of Abstention)

기권을 허용했을 때:

• ChatGPT: 모든 온도에서 100% 기권하여, 명시적인 성별 레이블링을 효과적으로 제거했으나, 이 작업에 대해 정보를 제공하지 못하는 상태가 되었습니다.
• 기타 모델: Claude(84%), Gemini(80%), DeepSeek(58%)는 온도 0.5에서 빈번하게 기권했습니다.
• 다운스트림 영향: 결정적으로, 모델이 명시적인 레이블링을 기권하더라도 성별에 따라 달라지는 감별 진단 생성의 차이는 지속되었습니다.

4. 진단 추론의 발산 (Diagnostic Reasoning Divergence)

동일한 사례의 남성형 대 여성형 변이에 대해 감별 진단을 생성할 때:

• 발산율 (Divergence Rates): 온도 0.5에서, 비교 대상의 58–78%가 서로 다른 목록(내용 또는 순서가 다름)을 생성했습니다. ChatGPT가 가장 높은 발산율(78%)을 보였고, DeepSeek가 가장 낮은 발산율(58%)을 보였습니다.
• 유사도 지표: 진단 중첩도(Jaccard similarity)는 모든 모델에서 온도가 높아짐에 따라 감소했습니다. ChatGPT는 가장 뚜렷한 감소(온도 0.2에서 0.76 vs. 온도 1.0에서 0.50)를 보였습니다.
• 결론: 온도를 높이는 것은 가변성을 증가시켰으나 성별에 따른 진단 차이를 제거하지는 못했습니다. 근본적인 편향은 샘플링의 부산물이 아니라 모델의 학습된 표현(representations)에 내재된 것으로 보입니다.

의의 및 주장

저자들은 본 연구가 성별 편향이 단순히 이론적인 문제가 아니라, 의료 분야에 적용되는 광범위하고 범용적인 모델의 출력에서 탐지 가능하다는 것을 보여주는 첫 번째 직접적인 실증적 증거를 제공한다고 주장합니다.

• 편향은 내재적이며 모델 특이적임: 편향의 방향과 규모는 추론 시의 온도 설정이 아니라, 주로 모델 아키텍처와 학습 데이터에 의해 결정됩니다. 서로 다른 상업용 모델들은 각기 다른 "성별 사전 확률(sex priors)"을 인코딩하고 있습니다.
• 고정관념이 임상적 중립성을 압도함: 모델들은 근거 중심의 중립적 추론을 수행하기보다, 내재된 언어적·문화적 고정관념(예: 정신의학을 여성과 연관시키고 비뇨기과를 남성과 연관시키는 것)을 재현합니다. 이는 모델이 인구 통계적 통계에 대한 베이지안 추론을 수행하는 것이 아니라 "고정관념 완성(stereotype completion)"을 수행하고 있음을 시사합니다.
• 설정의 한계: 기권 허용이나 온도 조절과 같은 단순한 설정 변경은 편향을 중화하기에 불충분합니다. 기권은 명시적인 레이블링은 줄여주지만, 다운스트림의 진단 차이를 방지하는 데는 실패합니다.
• 임상적 시사점: 이러한 결과는 엄격한 감독 없이 일반 목적의 LLM을 진단이나 치료 결정을 안내하는 데 사용하는 것에 반대합니다. 저자들은 다음과 같이 권고합니다:
  • 보수적이고 문서화된 모델 설정 사용.
  • 편향 핫스팟을 식별하기 위한 전문 분야별 임상 데이터 감사.
  • 이러한 모델을 배포할 때 지속적인 인간의 감독 유지.
  • 정제된 학습 코퍼스와 고정관념 완성을 억제하는 강화 학습 목표를 포함한 모델 개발의 구조적 변화.

본 논문은 LLM이 유창한 임상 텍스트를 생성할 수는 있지만, 현재 단계의 모델은 안전과 형평성을 저해할 수 있는 안정적이고 체계적인 성별 편향을 보이고 있으므로, 일반 목적의 배포에서 목적 기반의 감사 및 인간 감독 시스템으로 전환해야 한다고 결론짓습니다.