Investigating Demographic Bias in Brain MRI Segmentation: A Comparative Study of Deep-Learning and Non-Deep-Learning Methods

이 논문은 뇌 MRI 분할에서 인종과 성별에 따른 편향을 평가하기 위해 딥러닝 및 비딥러닝 기법을 비교 분석한 결과, 일부 모델은 인종 매칭 시 성능이 향상되지만 nnU-Net 은 인종에 독립적인 강건한 성능을 보이며, 편향된 모델로 추출한 뇌 영역 부피에서도 성별 효과는 유지되나 인종 효과는 대부분 사라짐을 밝혔습니다.

핵심

이 논문은 **"뇌 MRI 스캔을 자동으로 분석하는 인공지능 (AI) 이 인종과 성별에 따라 편견을 가지고 있을까?"**라는 아주 중요한 질문을 던집니다.

간단히 말해, 이 연구는 인공지능이 뇌의 특정 부분 (핵심부위) 을 그리는 능력이 사람마다 (흑인/백인, 남성/여성) 다르게 작동하는지, 그리고 그로 인해 어떤 문제가 생길 수 있는지 확인했습니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 연구의 배경: "편향된 지도 제작자"

상상해 보세요. 뇌의 구조를 그리는 **지도 제작자 (AI)**가 있다고 칩시다. 이 지도 제작자는 과거에 많은 사람의 뇌 사진을 보고 학습했습니다.

• 문제: 만약 이 지도 제작자가 주로 백인 남성의 뇌 사진만 많이 보고 배웠다면, 흑인 여성의 뇌를 그릴 때 "이건 내가 본 적 없는 모양이네?"라고 생각해서 엉뚱하게 그릴 수 있습니다.
• 위험성: 뇌의 특정 부위 (이 연구에서는 '핵심부위'인 Nucleus Accumbens) 의 크기는 우울증 같은 질환을 진단하는 중요한 지표가 됩니다. AI 가 인종이나 성별에 따라 이 크기를 잘못 재면, 환자가 필요한 치료를 받지 못하거나 오진할 수 있습니다.

2. 실험 방법: "다양한 요리사들의 시식"

연구진은 네 가지 다른 방식의 AI(지도 제작자) 를 준비했습니다.

1. 세 명의 최신 AI 요리사 (UNesT, nnU-Net, CoTr): 최신 기술 (딥러닝) 을 쓴 전문가들입니다.
2. 한 명의 전통적인 요리사 (ANTs): 오래전부터 쓰여온 고전적인 방법 (아틀라스 기반) 을 쓴 전문가입니다.

이 요리사들에게 **네 가지 다른 재료 (데이터)**로 훈련을 시켰습니다.

• 흑인 여성, 흑인 남성, 백인 여성, 백인 남성.

그리고 각 요리사가 자신이 배운 재료와 다른 재료로 요리를 했을 때, 결과가 얼마나 일관되게 나오는지 테스트했습니다.

3. 주요 발견: "요리사들의 실력 차이"

🏆 최고의 요리사: nnU-Net

• 특징: 이 요리사는 어떤 재료를 가지고 있든 요리 실력이 일정했습니다.
• 비유: "흑인 여성이든 백인 남성이든, 내 손맛은 변하지 않아!"라고 말하는 요리사처럼, 인종이나 성별에 상관없이 뇌를 정확하게 그렸습니다. 가장 공평하고 신뢰할 수 있는 모델이었습니다.

⚠️ 편향된 요리사들: ANTs 와 UNesT

• 특징: 이 요리사들은 자신이 배운 재료와 같은 재료를 다룰 때는 잘했지만, 다른 인종의 재료를 다룰 때는 실수가 많았습니다.
• 비유: "내가 흑인 남성의 뇌만 보고 배웠는데, 갑자기 백인 여성의 뇌를 그리라고? 어색해서 모양이 이상해져!"라고 하는 상황입니다.
• 특이한 점: 특히 인종에 따라 실력이 크게 달라졌습니다. 성별 (남자/여자) 에 따른 차이는 크지 않았지만, 인종이 다르면 AI 가 뇌를 그리는 정확도가 뚝 떨어졌습니다.

📉 가장 큰 문제: "보이지 않는 편견"

• 수동 측정 (사람이 직접 그릴 때): 흑인과 백인의 뇌 부위 크기에 실제 차이가 있다는 것을 발견했습니다.
• 편향된 AI 가 그릴 때: AI 가 흑인 데이터로 훈련되었을 때, 흑인과 백인의 뇌 크기 차이가 사라져버렸습니다. 마치 AI 가 "흑인이나 백인이나 다 똑같아"라고 잘못 인식해서, 실제 존재하는 차이를 지워버린 것입니다.
• 비유: 요리사가 특정 재료의 특성을 무시하고 "다 똑같은 재료야"라고 생각해서 요리를 해버린 꼴입니다. 이는 의학적으로 매우 위험합니다. 실제 차이가 있는데 AI 가 없다면, 진단이 틀릴 수 있기 때문입니다.

4. 결론: "공평한 AI 를 위한 교훈"

이 연구는 우리에게 두 가지 중요한 교훈을 줍니다.

1. 데이터의 다양성이 생명입니다: AI 를 만들 때, 한쪽 인종이나 성별의 데이터만 많이 넣으면 그 AI 는 그 그룹에만 특화되고 다른 그룹에게는 불공평해집니다. 다양한 사람 (흑인, 백인, 남성, 여성 등) 의 데이터를 골고루 섞어서 훈련해야 모든 사람에게 공정한 AI 가 됩니다.
2. 모델마다 편견의 정도가 다릅니다: 모든 AI 가 똑같이 편향된 것은 아닙니다. 어떤 AI(nnU-Net) 는 편견에 강하지만, 어떤 AI(ANTs, UNesT) 는 편향에 매우 취약합니다. 따라서 의료용 AI 를 개발할 때는 단순히 "정확한가?"만 보는 것이 아니라, **"누구에게나 공정한가?"**를 반드시 검증해야 합니다.

한 줄 요약:

"뇌 MRI 를 분석하는 AI 는 사람마다 다르게 작동할 수 있으며, 특히 인종에 따라 편견을 가질 수 있습니다. 하지만 올바른 데이터로 훈련된 AI 는 누구에게나 공평하게 뇌를 그릴 수 있습니다. 따라서 의료 AI 개발에는 '다양한 데이터'와 '공정성 검증'이 필수적입니다."

기술 요약

논문 요약: 뇌 MRI 분할에서의 인구통계학적 편향 조사

1. 문제 제기 (Problem)

의료 영상 분석 분야에서 딥러닝 기반 분할 알고리즘은 구조적 경계 정의에 혁신을 가져왔으나, 인종 (Race) 과 성별 (Sex) 과 같은 민감한 속성에 기반한 데이터의 내재적 편향으로 인해 불공정한 예측을 초래할 수 있습니다. 기존 연구들은 주로 분류 (Classification) 작업의 공정성에 집중했으나, 임상 의사결정에 직접적인 영향을 미치는 분할 (Segmentation) 작업에서의 편향은 상대적으로 덜 연구되었습니다. 특히, 특정 인구통계학적 그룹에서 성능이 저하될 경우 오진이나 과소진단으로 이어져 건강 불평등을 심화시킬 수 있습니다. 본 연구는 뇌 MRI 분할에서 딥러닝 모델과 전통적인 비딥러닝 모델이 인구통계학적 편향에 어떻게 반응하는지, 그리고 이러한 편향이 파생된 체적 (Volume) 분석에 어떤 영향을 미치는지 체계적으로 평가하고자 합니다.

2. 방법론 (Methodology)

• 데이터셋:

  • 인간 연결체 프로젝트 (HCP) Young Adult 데이터셋 사용.
  • 대상 구조: 좌우 측 선조체 (Nucleus Accumbens, NAc). 신경해부학적 전문가 (Dr. Jarrett Rushmore) 가 수동으로 주석 (Gold-standard) 을 달았으며, 미세구조의 성별 차이를 보인다고 보고된 구조입니다.
  • 인구통계학적 그룹: 흑인 여성 (BF), 흑인 남성 (BM), 백인 여성 (WF), 백인 남성 (WM) 의 4 가지 하위 그룹으로 분류.
  • 데이터 분할: 훈련 (Training) 과 테스트 (Testing) 를 위해 각 그룹별 특정 수의 이미지를 할당 (훈련: BF 30, BM 32, WF 33, WM 31; 테스트: 각 그룹별 약 19~20 개).

• 평가 모델 (4 가지):

  1. UNesT: 계층적 트랜스포머 인코더를 사용하는 최신 딥러닝 모델.
  2. nnU-Net: 자동 구성이 가능한 적응형 딥러닝 모델.
  3. CoTr: CNN 과 Deformable Transformer 를 결합한 모델.
  4. ANTs (Multi-Atlas Segmentation with Joint Label Fusion): 전통적인 아틀라스 기반 분할 방법 (비딥러닝).
  • 편향 도입 전략: 각 모델은 4 가지 인구통계학적 그룹 중 단 하나의 그룹으로만 훈련된 4 개의 변형 모델을 생성하여 편향을 의도적으로 유발하고 평가했습니다.

• 평가 지표:

  • 성능 지표: Dice Similarity Coefficient (DSC), Normalized Surface Dice (NSD).
  • 공정성 지표: ESSP (Equity-Scaled Segmentation Performance). 전체 정확도에 그룹 간 편차 ($\Delta$) 를 패널티로 적용한 지표.
  • 통계 분석: 선형 혼합 모델 (Linear Mixed Models) 을 사용하여 훈련/테스트 데이터 간의 '동일 인종/성별 매칭 (Same Race/Sex)'이 성능에 미치는 영향을 정량화했습니다. 또한, 분할 결과로부터 유도된 NAc 체적에 대한 인종 및 성별 효과를 분석했습니다.

3. 주요 기여 (Key Contributions)

1. 다양한 아키텍처의 비교: 뇌 MRI 분할 분야에서 딥러닝 기반 모델 (UNesT, nnU-Net, CoTr) 과 전통적인 아틀라스 기반 방법 (ANTs) 을 동시에 비교하여 편향을 분석한 최초의 연구 중 하나입니다.
2. 고품질 골드 스탠다드 사용: 자동화된 라벨이 아닌, 신경해부학 전문가가 수동으로 주석한 고품질 데이터를 훈련 및 평가에 사용하여 편향 분석의 신뢰성을 높였습니다.
3. 분할 정확도 및 체적 분석의 연계 평가: 단순히 분할 정확도 (Dice) 만을 평가하는 것을 넘어, 편향된 모델이 생성한 분할 결과가 인구통계학적 체적 분석 (Morphometric analysis) 에 미치는 영향을 분석했습니다.
4. 편향의 메커니즘 규명: 훈련 데이터의 인종 구성이 모델 성능에 미치는 구체적인 영향을 통계적으로 입증하고, 데이터 균형 (Balancing) 이 편향 완화에 미치는 효과를 검증했습니다.

4. 주요 결과 (Results)

• 모델별 편향 민감도:

  • nnU-Net: 인종이나 성별 매칭 여부와 관계없이 가장 강건한 (Robust) 성능을 보였습니다. 훈련 데이터와 테스트 데이터의 인구통계학적 구성이 달라도 성능 저하가 거의 없었습니다.
  • ANTs 및 UNesT: 훈련 데이터와 테스트 데이터의 인종이 일치할 때 분할 정확도가 유의미하게 향상되었습니다. 특히 ANTs 는 흑인 그룹으로 훈련된 경우 백인 그룹에 비해 성능이 크게 저하되었습니다 (예: DSC 기준 ESSP 감소).
  • CoTr: nnU-Net 다음으로 좋은 성능을 보였으나, 일부 조건에서 인종 편향이 관찰되었습니다.

• 성별 vs 인종 영향:

  • 성별 (Sex): 훈련 데이터의 성별과 테스트 대상의 성별이 일치하는 것은 분할 정확도에 통계적으로 유의미한 영향을 미치지 않았습니다.
  • 인종 (Race): 훈련 데이터와 테스트 데이터의 인종이 일치하는 것은 ANTs 와 UNesT 모델의 성능에 매우 큰 긍정적 영향을 미쳤습니다. 즉, 인종 불일치는 성능 저하의 주요 원인입니다.

• 체적 분석 (Morphometric Analysis) 에 미치는 영향:

  • 수동 주석 (Gold Standard): 수동 분할 결과에서는 NAc 체적에 대해 성별 효과와 인종 효과가 모두 통계적으로 유의미하게 관찰되었습니다.
  • 자동 분할 (Biased Models): 편향된 모델들을 사용하여 생성된 체적 데이터에서는 성별 효과는 유지되었으나, 인종 효과는 대부분의 모델에서 사라졌습니다. 이는 편향된 모델이 실제 인구통계학적 차이를 왜곡하거나 제거하여 임상적 추론을 방해할 수 있음을 시사합니다.

• 데이터 균형의 효과:

  • UNesT 의 경우, 인종이 균형 잡힌 대규모 데이터셋 (120 명) 으로 훈련하면 편향 ($\Delta$) 이 크게 감소하고 ESSP 가 향상되었습니다.
  • 반면, ANTs 의 경우 아틀라스 수를 늘리거나 인종을 균형 있게 구성하더라도 편향이 완전히 해결되지 않았으며, 때로는 정확도는 높아지지만 공정성 지표 (ESSP) 는 오히려 나빠지는 복잡한 양상을 보였습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 임상적 중요성: 편향된 분할 모델은 특정 인구통계학적 그룹 (특히 흑인) 에서 뇌 구조를 과소평가하거나 과대평가할 수 있어, 우울증 등 NAc 체적과 관련된 질환의 진단 및 연구에 치명적인 오류를 초래할 수 있습니다.
• 모델 선택의 중요성: 모든 딥러닝 모델이 편향에 취약한 것은 아니며, nnU-Net과 같은 자동 구성 및 데이터 증강 전략을 갖춘 모델은 상대적으로 공정성이 높습니다. 반면, 아틀라스 기반 방법이나 특정 트랜스포머 아키텍처는 훈련 데이터의 편향에 매우 민감합니다.
• 데이터의 다양성 필요: 공정하고 일반화 가능한 뇌 MRI 분할 모델을 개발하기 위해서는 훈련 데이터셋이 다양한 인구통계학적 그룹을 균형 있게 포함해야 합니다.
• 향후 과제: 본 연구는 단일 구조 (NAc) 와 단일 데이터셋 (HCP) 에 국한되었으므로, 다양한 뇌 구조와 임상 데이터 (환자 포함) 로의 확장 연구가 필요하며, 편향 완화 전략 (데이터 증강, 합성 데이터 등) 을 적용한 연구가 후속적으로 요구됩니다.

이 논문은 의료 AI 의 공정성을 확보하기 위해 단순한 정확도 최적화를 넘어, 모델의 아키텍처와 훈련 데이터의 구성이 어떻게 인구통계학적 편향을 유발하거나 완화하는지에 대한 체계적인 분석을 제공한다는 점에서 중요한 의의를 가집니다.