FairHealth: An Open-Source Python Library for Trustworthy Healthcare AI in Low-Resource Settings

이 논문은 공정한 감시, 프라이버시를 보호하는 연방 학습, 저대역폭 설명 가능성, 그리고 글로벌 사우스 데이터셋을 위한 특수 도구를 통합하는 통일된 모듈식 프레임워크를 제공함으로써 저자원 환경의 의료 인공지능에서 중요한 격차를 해소하도록 설계된 오픈소스 파이썬 라이브러리인 FairHealth 를 소개합니다.

핵심

원격 마을에서 인터넷 연결이 불안정하고 전력이 불안하며 전문의가 부족한 곳에서 사람들을 돕기 위해 의사 팀을 구축한다고 상상해 보세요. 여러분은 그들을 돕기 위해 컴퓨터 프로그램 (AI) 을 사용하고 싶지만, 세 가지 큰 우려가 있습니다:

1. 공정한가요? 컴퓨터가 도시의 노인 남성과 마을의 젊은 여성을 동일하게 대우합니까?
2. 안전한가요? 우리는 환자 개인 기록을 훔치지 않고도 컴퓨터를 가르칠 수 있습니까?
3. 신뢰할 수 있나요? 컴퓨터가 제안을 할 때, 수학 박사 학위가 없는 지역 간호사가 그 선택이 왜 이루어졌는지 이해할 수 있습니까?

FairHealth는 방글라데시와 같은 저자원 국가와 같은 곳을 위해 이 세 가지 문제를 해결하도록 특별히 설계된 새로운 무료 '도구상자'(파이썬 라이브러리) 입니다. 이를 윤리적 의료 AI 를 위한 스위스 아미 나이프로 생각하세요.

다음은 여섯 가지 주요 도구로 세분화된 이 도구상자의 작동 방식입니다:

1. "공정성 거울" (fairhealth.fairness)

문제: 종종 AI 모델은 부유한 국가의 데이터로 훈련됩니다. 이를 다른 지역에서 사용할 때 특정 집단 (예: 여성이나 특정 민족 집단) 에 대해 잘못 판단할 수 있습니다. 사하라 사막의 비를 예측하려는 런던 날씨만 훈련된 날씨 앱과 같습니다. 단순히 작동하지 않을 것입니다.
도구: 이 모듈은 AI 가 편향되지 않았는지 확인하는 거울처럼 작동합니다. AI 가 서로 다른 집단을 평등하게 대우하는지 확인하기 위해 '공정성 감사'를 실행합니다.

• 실제 사례: 이 논문에 따르면, 이 도구를 사용하지 않으면 심박수 (ECG) 를 확인하는 AI 는 남성과 여성 간에 23% 만 공정했습니다. 이 도구를 사용하여 AI 를 '수정'한 후 공정성은 71% 로 급증했습니다.

2. "번역기" (fairhealth.explain)

문제: 대부분의 AI 는 '블랙박스'입니다. 답을 내놓지만, 어떻게 그 답에 도달했는지 아는 사람은 없습니다. 저자원 환경의 바쁜 진료소에서 의사는 컴퓨터 과학자에게 수학을 설명해 달라고 요청할 수 없습니다. 그들은 간단한 이유가 필요합니다.
도구: 이 모듈은 복잡한 수학을 지역 노인과 대화하는 번역가처럼 평이한 언어 규칙으로 번역합니다.

• 실제 사례: "확률 점수는 0.88 입니다"라고 말하는 대신, "규칙 1: 고혈압 AND 고혈당 = 고위험"이라고 말합니다. 이 논문에서 언급된 연구에 따르면 의사는 복잡한 차트보다 이러한 간단한 '규칙 기반' 설명을 선호했습니다.

3. "비밀 금고" (fairhealth.federated)

문제: 병원은 개인정보 보호법 때문에 환자 기록을 공유할 수 없습니다. 마치 실제 재료가 금고에 잠겨 있는 상태에서 요리사에게 새로운 레시피를 가르치기 위해 그 재료를 보내려는 것과 같습니다.
동작: 이 도구는 '동형 암호화'라고 불리는 특별한 종류의 '마법 자물쇠'를 사용합니다. 이는 병원이 실제 환자 데이터를 보내거나 금고를 열지 않고도 AI 를 함께 훈련할 수 있게 합니다. 그들은 레시피에 대한 '암호화된 힌트'만 보냅니다.

• 결과: 이 논문은 이 방법이 인터넷을 통해 전송되는 데이터 양을 97.5% 줄여 느린 연결에서도 빠르게 작동하도록 하면서 해커가 수학적으로 데이터를 해독하지 못하게 한다고 주장합니다.

4. "응급 분류" (fairhealth.lowresource)

문제: 질병 발생 (예: 뎅기열) 동안 진료소는 과부하 상태가 됩니다. 환자를 신속하게 분류할 방법이 필요하지만, 시스템은 오프라인으로 작동하고 현지 언어를 지원해야 합니다.
도구: 이는 뎅기열을 위한 지능형 분류 보조 도구입니다. 간단한 질문 (나이, 위치, 주거 유형) 을 묻고 영어 또는 벵골어로 권장 사항을 제공합니다.

• 실제 사례: 다카의 어린이가 발열을 앓고 있다면, 이 도구는 즉시 "심각함: 즉시 의사에게 가십시오"라고 말하여 의사가 누구를 먼저 도와야 할지 결정하는 데 도움을 줍니다.

5. "형평성 나침반" (fairhealth.equity)

문제: 홍수와 같은 재해가 발생하면 구호는 종종 접근하기 쉬운 곳 (도시) 으로 향하여 가장 큰 피해를 입은 농촌 지역을 방치합니다. 구형 AI 모델은 이 실수를 그대로 반복합니다.
도구: 이 모듈은 거주지와 관계없이 도움이 가장 필요한 사람들을 가리키는 나침반처럼 작동합니다. '위치 편향'을 무시하는 특수 기술을 사용합니다.

• 실제 사례: 2022 년 방글라데시 홍수에서 이 도구는 우선순위 목록을 변경했습니다. 이전에 구호 순위 14 위였던 스나망간지 (Sunamganj) 라는 농촌 지역은 모델이 그들이 가장 고통받고 있음을 깨닫고 1 위로 올바르게 상향 조정되었습니다.

6. "오픈 도서관" (fairhealth.datasets)

문제: 대부분의 의료 AI 연구는 환자 기록에 접근하기 위해 특별한 허가 ('데이터 사용 계약') 가 필요합니다. 이는 독립 연구자, 학생, 또는 대형 병원 네트워크가 없는 국가의 사람들을 배제합니다.
도구: FairHealth 는 오직 이미 무료이고 공개된 데이터만 사용하는 최초의 도구상자입니다. 허가를 요청하거나 법적 서류에 서명할 필요가 없습니다.

• 혜택: 컴퓨터를 가진 누구나 데이터를 다운로드하여 즉시 공정한 AI 를 구축하기 시작할 수 있습니다.

요약

FairHealth는 연구자와 의사가 공정한(차별하지 않는), 개인정보를 보호하는(비밀을 안전하게 지키는), 그리고 설명 가능한(이해하기 쉬운) AI 를 구축하는 데 도움이 되는 무료 오픈 소스 툴킷입니다. 이는 모든 사람이 무료로 사용할 수 있는 데이터만을 사용하여 저자원 환경의 도전에 맞춰 특별히 구축되었습니다.

다른 앱과 마찬가지로 (pip install fairhealth) 설치하여 이러한 도구를 사용하여 의료 AI 를 모두에게 더 안전하고 신뢰할 수 있도록 만들 수 있습니다.

기술 요약

기술 요약: FairHealth

문제 정의

머신러닝은 의료 분야에서 큰 잠재력을 지니고 있으나, 특히 저자원 및 저소득 국가 (LMIC) 환경에서의 실제 배포는 세 가지 구조적 한계로 인해 방해받고 있습니다:

1. 인구통계학적 편향: 인구 수준의 데이터로 훈련된 모델은 소수 집단에서 성능이 저하되는 경향이 있습니다. 예를 들어, 보정되지 않은 심전도 (ECG) 기반 심근경색 탐지 모델은 성별 그룹 간 불균형 영향 비율이 0.23 으로 나타나며, 이는 형평성을 위한 0.80 임계값보다 훨씬 낮습니다.
2. 개인정보 보호 제약: 의료 기록에 대한 법적 보호로 인해 기관 간 데이터 공유가 제한됩니다. 연방 학습 (FL) 이 해결책을 제시하지만, 기존 파이썬 라이브러리는 의료 연구자가 접근 가능한 암호학적 동형 암호화 (HE) 를 통합하지 못하고 있습니다.
3. 설명 가능성 격차: LMIC(예: 방글라데시) 의 임상 의사결정 지원 도구는 ML 전문 지식이 없는 임상가가 해석할 수 있는 설명, 저대역폭 환경에서의 운영, 그리고 현지 언어 지원을 필요로 합니다. 기존 라이브러리 (예: SHAP, LIME) 는 임상 워크플로우 통합이 부족합니다.

PyHealth 와 같은 현재 툴킷은 광범위한 전자의무기록 (EHR) 데이터를 다루지만 공정성 감사, 연방 학습, 그리고 LMIC 특화 배포는 누락되어 있습니다. 반면, AIF360 과 같은 공정성 라이브러리는 의료 특화 데이터셋이 부족하고, FATE 와 같은 FL 프레임워크는 의료 집중도가 부족하며 높은 엔지니어링 오버헤드를 부과합니다.

방법론 및 라이브러리 설계

FairHealth는 이러한 격차를 해결하기 위해 설계된 오픈소스 모듈형 파이썬 라이브러리입니다. 이는 5 개의 동료 검토 연구 기여에 기반하여 구축되었으며, 6 개의 느슨하게 결합된 모듈로 구조화되어 있습니다. 이 라이브러리는 세 가지 핵심 설계 원칙을 준수합니다:

• 공개 데이터만 사용: 모든 데이터셋은 기관 데이터 사용 계약 (DUA) 없이 공개 소스에서 다운로드 가능합니다. 특히 방글라데시 특화 모성 건강 데이터는 가상이나 시뮬레이션된 값이 아닌, 실제 공개 등록부에서 파생된 지표입니다.
• 논문 기반: 모든 모듈은 특정 동료 검토 간행물과 연결되며, 추적 가능성을 위해 주요 결과가 docstring 에 문서화되어 있습니다.
• 임상적 프레임: 출력물은 ML 전문 용어가 아닌 임상 언어로 제시되며, 14 명의 의료 전문가가 참여한 연구를 통해 검증되었습니다.

핵심 모듈

1. fairhealth.fairness (생체신호 공정성):

   • 기능: 생체신호 및 표 형식 데이터에 대한 모델 독립적 공정성 지표 (인구통계학적 평등, 균등화 오즈, 불균형 영향) 를 제공합니다.
   • 혁신: 성별 × 연령과 같이 여러 민감 속성을 동시에 평가하기 위한 intersectional_fairness 를 포함합니다.
   • 검증: PTB-XL 데이터셋에서 검증되었으며, 적대적 편향 제거를 통해 불균형 영향 비율을 0.23 에서 0.71 로 개선했으며 AUROC 를 0.8472 로 유지했습니다.

2. fairhealth.explain (하이브리드 설명 가능성):

   • 기능: 사전적 (ante-hoc) 퍼지 논리 규칙과 사후적 (post-hoc) SHAP 설명을 결합합니다.
   • 혁신: 자원 제약 환경에서의 '신뢰 결핍'을 해결합니다. 임상가 검증 연구에서 SHAP 전용 또는 점수 전용 설명보다 하이브리드 접근법에 대한 선호도가 71.4% 였습니다.
   • 성능: UCI 모성 건강 위험 데이터셋에서 88.67% 의 정확도를 달성하여 Gradient Boosting 기준선보다 2.46 퍼센트 포인트 더 높은 성능을 보였습니다.

3. fairhealth.federated (개인정보 보호 연방 학습):

   • 기능: 동형 암호화 (HE) 와 차등 프라이버시 (DP) 를 적용한 연방 학습을 구현합니다.
   • 혁신: 적응형 그래디언트 희소화와 CKKS 동형 암호화를 공동 설계한 MedHE 접근법을 사용합니다.
   • 성능: 표준 FedAvg 와 통계적으로 동등한 매크로-F1 점수를 유지하면서 통신 오버헤드를 1,277 MB 에서 32 MB 로 97.5% 감소시켰습니다. 또한 구성원 추론 공격 (MIA) 에 대한 저항성을 51.1% 성공률로 무작위 수준까지 향상시켰습니다.

4. fairhealth.lowresource (다국어 분류):

   • 기능: 영어와 벵골어를 지원하는 뎅기열 분류를 위한 의사결정나무 (Decision Tree) 분류기입니다.
   • 혁신: 연령, 성별, 지역 유형 등 인구통계학적 특징을 사용하여 저대역폭 조건에서 작동합니다.
   • 성능: F1 점수 0.802 및 AUC 0.851 을 달성했습니다. 파일럿 연구 (n=50) 는 낮은 신뢰도 사례를 의사에게 재전송하는 신뢰도 임계값 메커니즘에 대해 75% 의 사용자 만족도를 보고했습니다.

5. fairhealth.equity (재해 구호 배분):

   • 기능: 공평한 홍수 구호 배분을 위한 적대적 편향 제거 아키텍처입니다.
   • 혁신: 그래디언트 반전 레이어를 사용하여 지역 불변 취약성 표현을 학습하고, 역사적 데이터의 도시 편향을 수정합니다.
   • 성능: 방글라데시 87 개 우자일라 (upazila) 에서 평가된 결과, 통계적 평등 차이를 41.6% 줄이고 지역적 형평성 격차를 43.2% 줄였으며, 최소한의 R² 비용 (2.7 퍼센트 포인트) 으로 달성되었습니다.

6. fairhealth.datasets (공개 로더):

   • 기능: PTB-XL 및 MIMIC-III Demo 와 같은 표준 데이터셋과 함께 방글라데시 특화 모성 건강, 뎅기열 감시, 홍수 피해 (PDNA) 데이터를 포함한 6 개의 특정 데이터셋을 위한 런타임 로더를 제공합니다.
   • 데이터 출처 명시: 모성 건강 모듈에 사용되는 지역 의료 데이터는 실제 공개 등록부에서 직접 파생된 것입니다. 구체적으로 Healthcare_Access_Score 및 MMR(10 만 명당 모성 사망률) 변수는 다음과 같은 두 가지 주요 출처에서 제공된 실제 공개 지표입니다:
     1. DGHS Dashboard 2024(방글라데시 보건총국, Directorate General of Health Services)
     2. UNFPA MPDSR 2023(모성 및 산아기 사망 감시 및 대응, UNFPA Maternal and Perinatal Death Surveillance and Response)
        이 데이터는 시뮬레이션된 값이 아닌, 실제 정책 및 임상 기록을 기반으로 한 검증된 지표입니다.

주요 결과 및 기여

본 논문은 다음과 같은 기여를 주장합니다:

1. 통합 프레임워크: 의료 분야에 특화된 연방 학습, 공정성, 설명 가능성, 저자원 도구를 통합한 최초의 pip 설치 가능 라이브러리입니다.
2. 재현성: 기관 DUA 의 장벽을 제거하여 독립 연구자를 위해 공개적으로 이용 가능한 데이터셋만으로 구축된 최초의 의료 AI 툴킷입니다.
3. LMIC 집중: 기존 ML 라이브러리에서 찾을 수 없는 방글라데시 특화 건강 데이터셋 (모성, 뎅기열, 홍수) 의 선별된 컬렉션입니다.
4. 오픈 구현: 5 개의 동료 검토 방법에 대한 오픈소스 코드로, 직접 재현 및 확장을 가능하게 합니다.

기술적 성능 하이라이트:

• 공정성: ECG 데이터에서 불균형 영향 비율을 0.23 에서 0.71 로 개선했습니다.
• 개인정보 보호: HE 를 적용한 연방 학습에서 모델 유틸리티 (매크로-F1 ≈ 0.95) 를 유지하면서 통신을 97.5% 감소시켰습니다.
• 설명 가능성: 하이브리드 퍼지+SHAP 설명에 대한 임상가 선호도가 71.4% 였습니다.
• 형평성: 재해 피해 지역의 70.6% 에 대한 우선순위 순위를 변경하여 취약한 농촌 지역 (예: 수남간지) 을 크게 상향 조정했습니다.

중요성 및 주장

본 논문은 FairHealth 를 PyHealth 와 같은 기존 광범위한 라이브러리에 대한 보완 계층으로 위치시키며, 다른 도구들이 열어둔 '신뢰성 차원 (공정성, 개인정보 보호, 설명 가능성)'을 특히 타겟팅합니다. 이의 주요 중요성은 다음과 같은 방식으로 글로벌 사우스의 의료 AI 연구를 민주화하는 데 있습니다:

• 기관 데이터 접근 계약의 필요성을 제거합니다.
• 저대역폭 및 다국어 임상 환경에 맞춤화된 도구를 제공합니다.
• 공정성과 개인정보 보호가 사후 고려사항이 아니라 ML 워크플로우의 통합되고 감사 가능한 구성 요소임을 보장합니다.

저자들은 이 라이브러리가 병원 소속이 없는 연구자를 포함한 전 세계 연구자들이 엄격하고 재현 가능한 의료 AI 연구를 수행할 수 있게 한다고 명시합니다. 향후 작업은 신경망 가중치를 위한 완전한 TenSEAL 기반 CKKS 암호화로 연방 모듈을 확장하고, 뎅기열 감시를 위한 실시간 대시보드를 통합하는 것으로 제한됩니다.