Automated ICD Classification of Psychiatric Diagnoses: From Classical NLP to Large Language Models

기술 요약: 정신과 진단의 자동화된 ICD 분류

문제 제기
정신과 진단을 국제질병분류 (ICD) 코드로 분류하는 것은 중요하지만 노동 집약적인 행정 업무입니다. 임상 기록이 명시적인 장애명 대신 주관적 설명과 암시적 의미 단서를 포함하는 정신건강 영역에서 수동 코딩은 불일치와 오류에 취약합니다. 본 연구는 자유 텍스트 형태의 스페인어 정신과 설명을 표준화된 ICD 코드로 매핑하는 자동화 과제의 난제를 해결합니다. 이 작업은 소수의 흔한 진단이 데이터셋을 지배하고 희귀 질환은 심각한 클래스 불균형으로 고통받는 '롱테일 (long-tail)' 분포를 특징으로 하는 극단적 다중 레이블 분류 문제로 정의됩니다.

방법론
본 연구는 85 개 특정 ICD 코드에 걸쳐 전문가가 주석을 단 기준 레이블이 포함된 79,048 개 항목으로 구성된 하위 집합으로 정제된 145,513 개의 스페인어 정신건강 진단 설명으로 구성된 전문 데이터셋을 활용했습니다. 방법론은 텍스트 표현 및 분류의 세 가지 서로 다른 계층을 평가하는 포괄적인 파이프라인을 따랐습니다:

1. 텍스트 표현 패러다임:

   • 빈도 기반: 고전적인 Bag of Words(BoW) 및 Term Frequency-Inverse Document Frequency(TF-IDF).
   • 임베딩/차원 축소: 잠재 의미 분석 (LSA), 잠재 디리클레 할당 (LDA), Doc2Vec.
   • 대규모 언어 모델 (LLM): e5 large, BioLORD, Llama-3-8B, 그리고 다양한 스페인어 생체의학 BERT 변형 (예: roberta-base-biomedical-clinical-es) 을 포함한 최첨단 모델에서 추출된 문맥 임베딩.

2. 분류 전략:

   • 머신러닝: Random Forest 및 XGBoost 분류기를 다양한 특징 집합에 적용했습니다.
   • 딥러닝: 고차원 희소 데이터와 조밀한 임베딩 모두를 처리하도록 설계된 동적으로 최적화된 아키텍처 (깊이, 너비, 드롭아웃) 를 가진 다층 퍼셉트론 (MLP) 을 개발했습니다.
   • 엔드투엔드 미세 조정 (Fine-Tuning): 선택된 LLM(특히 e5 large) 을 작업 특화 분류 헤드로 미세 조정했습니다. 이 접근법은 백본과 헤드에 별도의 학습률을 적용하고 클래스 불균형을 해결하기 위해 손실 함수 조정을 병행하는 선형 프로빙 후 미세 조정 (LP-FT) 전략을 활용했습니다.

3. 실험 설정:
   희귀 레이블의 주변 확률 분포를 보존하기 위해 엄격한 층화 셔플 분할 (70% 학습, 15% 검증, 15% 테스트) 을 사용했습니다. 하이퍼파라미터 최적화는 마이크로-F1 점수를 극대화하기 위해 베이지안 최적화 (TPE) 를 사용한 Optuna 를 통해 수행되었습니다.

주요 결과
주로 빈도 가중 마이크로-F1 과 가중치 없는 평균인 매크로-F1 으로 측정된 실험적 평가는 다음과 같은 결과를 도출했습니다:

• 트랜스포머 임베딩의 우위: 트랜스포머 기반 임베딩을 활용한 모델은 일관되게 고전적인 빈도 기반 방법 및 비지도 토픽 모델보다 우수한 성능을 보였습니다. 구체적으로, e5 large 모델은 XGBoost 와 결합되었을 때 고정 표현 접근법 중 가장 높은 성능을 달성했습니다 (F1micro ≈ 0.861).
• 분류기 시너지: 본 연구는 명확한 최적 조합을 확인했습니다: XGBoost 는 조밀한 문맥 임베딩에 가장 강력했으며, MLP 는 BoW/TF-IDF 와 같은 고차원 희소 데이터에서 고유한 효과를 발휘하여 이러한 특정 컨텍스트에서 트리 기반 앙상블을 능가했습니다.
• 미세 조정의 영향: 정적 특징 추출에서 e5 large 모델의 능동적 엔드투엔드 미세 조정으로 전환함으로써 연구의 최고 성능이 달성되었습니다. 미세 조정된 모델은 테스트 F1micro 점수 0.866 및 F1macro 점수 0.804를 달성했으며, 정밀도 마이크로 (precision micro) 는 0.910, 재현율 마이크로 (recall micro) 는 0.826 이었습니다.
• 롱테일 도전: 전반적인 높은 성능에도 불구하고 마이크로-F1 과 매크로-F1 사이에는 상당한 격차가 존재했습니다. 분석 결과, 빈번한 클래스는 높은 안정성으로 분류되었으나 희귀 질환 (예: F32.0, F65.0) 은 종종 0 의 정밀도를 초래하여, 의미적 풍부함만으로는 극단적인 데이터 부족을 완전히 보완할 수 없음을 보여주었습니다.

의의 및 기여
본 논문은 대규모 언어 모델을 특정 임상 명명법에 적응시키는 것이 정신과 담화의 본질적 모호성을 극복하는 데 필수적임을 입증하는 것을 주요 기여로 주장합니다. 방대한 현실 세계 스페인어 임상 데이터셋을 활용함으로써, 본 연구는 도메인 특화 문맥 임베딩이 전통적인 키워드 매칭 접근법보다 암시적 의미 단서와 미묘한 의학적 용어를 훨씬 더 잘 포착함을 검증했습니다.

본 연구는 자동화 시스템이 행정적 부담을 크게 줄이고 코딩 일관성을 개선할 수 있지만, 현재 근본적인 한계에 직면해 있음을 강조합니다. 즉, 이러한 시스템은 희귀 질환에 대한 임상적 포괄성보다는 빈번한 장애를 처리하는 행정적 효율성에 최적화되어 있습니다. 저자들은 향후 발전이 모델 확장에만 의존하기보다는 설명 가능성 향상 (어텐션 시각화를 통해) 과 합성 데이터 생성이나 특수 손실 함수와 같은 기법을 통한 희귀 진단에 대한 데이터 부족 해결에 초점을 맞춰야 한다고 결론지었습니다.