From Documents to Spans: Code-Centric Learning for LLM-based ICD Coding

1. 문제 정의 (Problem)

의료 보험 청구 및 건강 데이터 분석의 핵심인 ICD(국제질병분류) 코딩 작업은 자동화되어야 하지만, 기존 LLM(대형 언어 모델) 기반의 미세 조정 (Fine-tuning) 방식은 다음과 같은 세 가지 주요 한계에 직면해 있습니다.

1. 제한된 코드 커버리지 (Limited Code Coverage): 공개된 ICD 코딩 데이터셋 (예: MIMIC-IV) 은 전체 ICD 코드 공간 (약 7 만 개) 의 매우 작은 부분 (약 10%) 만을 포함합니다. 이로 인해 모델이 훈련 데이터에 없는 '보이지 않는 코드 (Unseen Codes)'에 대해 일반화하는 능력이 떨어집니다.
2. 해석 가능성 부족 (Poor Interpretability): 대부분의 데이터셋은 할당된 코드에 대한 명시적인 근거 (Evidence) 를 제공하지 않습니다. 따라서 LLM 을 미세 조정하면 코드를 직접 예측하는 것은 가능하지만, 그 근거를 설명하거나 인간이 검증/수정할 수 있는 기능을 상실하게 되어 의료 현장에서의 신뢰도가 낮아집니다.
3. 비효율적인 학습 (Low Training Efficiency): 임상 문서는 매우 길기 때문에 (평균 1,500 단어 이상), 이를 전체적으로 학습하는 것은 계산 비용이 매우 높고 학습 시간이 오래 걸립니다.

2. 방법론 (Methodology)

저자들은 이러한 문제를 해결하기 위해 **코드 중심 학습 (Code-Centric Learning, CCL)**이라는 새로운 학습 프레임워크를 제안합니다. 이 프레임워크는 전체 임상 문서에 대한 감독을 **확장 가능한 짧은 증거 스패너 (Evidence Spans)**로 전환하는 것을 핵심 아이디어로 합니다.

A. 핵심 철학

ICD 코딩은 두 가지 하위 작업으로 분해될 수 있습니다: (1) 증거 찾기, (2) 코드 할당.
모델이 짧은 증거 스패너에 대해 올바른 ICD 코드를 할당하는 법을 학습하면, 이는 암묵적으로 긴 임상 문서 내에서 해당 증거를 식별하고 코드를 할당하는 능력을 향상시킵니다.

B. 주요 전략

1. 혼합 학습 전략 (Mixed Training Strategy):

   • 문서 수준 데이터 (Document-level): 인간이 주석한 증거와 코드가 포함된 소수의 임상 문서 (예: MDACE 데이터셋) 를 사용하여 모델이 전체 문맥에서 증거를 집계하고 여러 코드를 할당하는 능력을 학습시킵니다.
   • 스패너 수준 데이터 (Span-level): 짧은 증거 스패너와 단일 ICD 코드의 쌍을 사용하여 모델이 특정 코드에 대한 지식을 효율적으로 학습하도록 합니다. 이는 학습 비용을 크게 줄이고 해석 가능성을 높입니다.

2. 코드 중심 데이터 확장 (Code-Centric Data Expansion):
   전체 ICD 코드 커버리지를 확보하기 위해 3 단계의 증거 - 코드 쌍을 구축합니다.

   • Gold Pairs: 공식 ICD 자원 (Alphabetic Index, Tabular List) 에서 추출한 고품질 데이터.
   • Silver Pairs: 공개 데이터셋 (MIMIC-IV 등) 에서 LLM 을 이용해 추출한 노이즈가 있는 데이터.
   • Synthetic Pairs: 공개 데이터와 공식 지식 베이스에 없는 '보이지 않는 코드'를 위해, LLM 이 인접한 코드의 지식을 바탕으로 합리적인 증거를 추론하여 생성한 데이터.

3. 주요 기여 (Key Contributions)

• 새로운 학습 패러다임: 문서 전체 학습에서 스패너 단위 학습으로의 전환을 통해 ICD 코딩의 3 가지 장기적 문제 (커버리지 부족, 해석 불가능성, 비효율성) 를 동시에 해결하는 프레임워크를 제안했습니다.
• 데이터 확장 기법: 공식 가이드라인과 공개 데이터셋을 넘어서는 전체 ICD 코드 커버리지를 달성하기 위해 LLM 을 활용한 데이터 증강 (Silver/Synthetic) 전략을 도입했습니다.
• 소규모 모델의 성능 극대화: 이 프레임워크를 통해 소규모 LLM(예: 8B 파라미터) 이 훨씬 큰 상용 모델이나 대규모 미세 조정 모델과 경쟁력 있는 성능을 달성할 수 있음을 증명했습니다.

4. 실험 결과 (Results)

저자들은 MDACE(인간 주석 데이터) 와 ACI-Bench(외부 벤치마크) 에서 다양한 SOTA 방법론과 비교 실험을 수행했습니다.

• 성능 향상: 동일한 LLM 백본 (예: Llama-3.1-8B, Qwen3-4B) 을 사용했을 때, 제안된 CCL 방법이 기존 SFT(전통적 미세 조정), CoT(Chain-of-Thought), CLH(에이전트 기반 방법) 보다 Micro-F1 및 Macro-F1 에서 유의미하게 높은 성능을 기록했습니다.
  • 예: Llama-3.1-8B 기준 ACI-Bench 에서 Micro-F1 이 57.4(SFT) 에서 65.8(CCL) 로 향상되었습니다.
• 보이지 않는 코드 (Unseen Codes) 처리: 문서 학습 데이터에 없는 코드에 대한 정확도가 기존 방법 대비 약 5 배 (8.8% → 50.0%) 크게 향상되었습니다. 이는 스패너 단위 데이터가 새로운 코드를 학습하는 데 효과적임을 보여줍니다.
• 학습 효율성: 전통적인 SFT(10 만 개 문서) 대비 CCL(200 개 문서 + 15 만 개 스패너) 은 학습 시간을 약 80% 단축 (210 시간 → 40 시간) 시켰습니다.
• 해석 가능성 및 인간-AI 협업: 모델이 생성한 증거를 인간이 검토하고 수정할 수 있도록 하여, 인간이 개입할 경우 성능이 더욱 크게 향상됨을 입증했습니다 (Micro-F1 59.3 → 78.0).

5. 의의 및 결론 (Significance)

이 논문은 스패너 레벨 학습이 문서 레벨 ICD 코딩을 효과적으로 향상시킨다는 중요한 발견을 제시합니다.

• 실용성: 계산 비용이 적게 들고, 해석 가능성이 높으며, 인간 코더와의 협업을 용이하게 하여 실제 의료 현장에서의 배포 가능성을 높였습니다.
• 확장성: 소규모 오픈 소스 LLM 을 사용하여 대규모 상용 모델 수준의 성능을 달성할 수 있게 함으로써, 데이터 프라이버시와 컴퓨팅 자원이 제한된 환경에서도 고품질 자동 ICD 코딩 시스템을 구축할 수 있는 길을 열었습니다.

결론적으로, 이 연구는 ICD 코딩 분야에서 전체 문서 기반 학습에서 증거 기반 스패너 학습으로의 패러다임 전환을 주도하며, 완전 자동화된 의료 코딩의 실현을 위한 강력한 기반을 마련했습니다.