💻 computer science

A Hierarchical Ensemble Inference Pipeline for Robust White Blood Cell Classification Under Domain Shifts

이 논문은 도메인 변화(domain shift) 상황에서도 강건한 백혈구 분류를 위해 DinoBloom 백본과 LoRA, 그리고 메모리 증강 계층적 앙상블 파이프라인을 결합하여 WBCBench 챌린지에서 우수한 성능을 입증한 연구입니다.

원저자: Ruyi Dai, Tingkwong Ng, Hao Chen

게시일 2026-04-28

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Ruyi Dai, Tingkwong Ng, Hao Chen

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🩸 제목: "백혈구 분류의 달인: 헷갈리는 세포들을 잡아내는 똑똑한 3단계 탐정 시스템"

1. 배경: 왜 이 연구가 필요한가요? (문제 상황)

우리 몸의 혈액 속에는 '백혈구'라는 군대가 살고 있습니다. 이 백혈구들은 암(백혈병)을 잡아내는 아주 중요한 역할을 하죠. 의사 선생님들은 현미경으로 이 백혈구들을 관찰해서 병을 진단합니다.

하지만 문제가 있어요!

세포들이 너무 비슷하게 생겼어요: 어떤 세포는 '나쁜 놈(암세포)'인데, 그냥 '조금 피곤한 일반 세포'처럼 보일 때가 있습니다.
환경이 제각각이에요: 병원마다 사용하는 염색약이 다르고, 현미경 기계도 다릅니다. 마치 **"똑같은 사과인데, 어떤 곳은 빨갛게 보이고 어떤 곳은 약간 갈색으로 보이는 것"**과 같아서, 인공지능(AI)이 헷갈려 하기 딱 좋습니다.

2. 이 논문의 해결책: "3단계 계층적 탐정 시스템" (핵심 방법론)

연구팀은 AI가 단순히 "이건 A야!"라고 단정 짓지 않고, 마치 숙련된 탐정처럼 단계별로 추론하는 시스템을 만들었습니다.

비유하자면, 이 AI는 '생물 분류 전문가'입니다.

[1단계: 뼈대 잡기 (Fine-tuning & LoRA)]
먼저, AI에게 아주 똑똑한 기초 지식을 가르칩니다. 하지만 모든 걸 새로 가르치려면 시간이 너무 오래 걸리죠. 그래서 연구팀은 **'LoRA'**라는 기술을 썼습니다. 이건 마치 **"이미 박사 학위를 가진 전문가에게, 백혈구에 관한 핵심 요점 정리 노트만 살짝 쥐여주는 것"**과 같습니다. 아주 효율적으로 빠르게 전문가로 만드는 거죠.

[2단계: 데이터 도서관 만들기 (Feature Bank)]
AI는 공부한 내용을 바탕을 토대로 수많은 세포의 특징을 정리한 **'거대한 도서관(Feature Bank)'**을 만듭니다. 세포가 들어오면 "어? 이 세포는 내가 도서관에서 봤던 그 세포랑 아주 비슷하게 생겼는데?"라고 비교할 수 있게 말이죠.

[3단계: 3단계 계층적 추론 (Hierarchical kNN Inference)]
이게 이 논문의 가장 멋진 부분입니다! AI는 한 번에 정답을 맞히려고 욕심내지 않고, '큰 카테고리 $\rightarrow$ 중간 카테고리 $\rightarrow$ 세부 종류' 순서로 범위를 좁혀 나갑니다.

1단계 (대분류): "음, 이 세포는 일단 '림프구 계열'인 것 같군!" (큰 울타리 치기)
2단계 (중분류): "림프구 계열 중에서... 형태를 보니 '성숙한 림프구' 쪽이겠어." (범위 좁히기)
3단계 (소분류): "그럼 최종적으로 이건 '림프구(LY)'야!" (최종 정답)

이렇게 하면, 설령 AI가 처음에 조금 헷갈리더라도 **"적어도 림프구 계열 안에서 틀리지는 말자"**라는 규칙이 생기기 때문에, 완전히 엉뚱한 답(예: 갑자기 암세포라고 답함)을 내놓는 실수를 획기적으로 줄일 수 있습니다.

3. 결과: 얼마나 잘했나요? (결론)

연구팀은 이 방식을 통해 아주 까다로운 테스트(WBCBench)에서 상위 10위 안에 드는 뛰어난 성적을 거두었습니다.

특히, 아주 희귀해서 찾기 힘든 세포(암세포 등)를 찾아내는 데 매우 강한 모습을 보였습니다. 마치 **"수만 명의 군중 속에서 아주 특이한 옷을 입은 사람 한 명을 찾아내는 탐정"**처럼 말이죠.

💡 요약하자면!

이 논문은 **"AI가 백혈구를 볼 때, 처음부터 정답을 찍지 않고 '큰 분류부터 세부 분류까지' 차근차근 계단을 밟듯 추론하게 만들어서, 환경이 바뀌어도 실수하지 않고 정확하게 병을 찾아내도록 만든 기술"**에 대한 이야기입니다.

[기술 요약] 도메인 변화에 강건한 백혈구 분류를 위한 계층적 앙상블 추론 파이프라인

1. 문제 정의 (Problem Statement)

임상적 배경: 백혈구(WBC) 분류는 백혈병 선별 진단에 필수적이지만, 수동 검사는 시간과 노동력이 많이 들고 관찰자마다 결과가 다를 수 있는 한계가 있습니다.
기술적 난제: 실제 의료 현장에서는 염색 프로토콜(staining protocols), 스캐너 특성, 실험실 간 차이 등으로 인해 **도메인 변화(Domain Shift)**가 발생합니다. 이는 딥러닝 모델의 성능을 저하시키는 주요 원인입니다.
데이터 불균형: 특정 희귀 세포(예: Blast cells)는 데이터 수가 매우 적어, 기존의 CNN 기반 모델들은 이러한 불균형한 클래스를 정확히 탐지하는 데 어려움을 겪습니다.

2. 제안 방법론 (Methodology)

본 논문은 도메인 변화와 클래스 불균형에 대응하기 위해 **"메모리 증강 계층적 앙상블 파이프라인(Memory-augmented, Hierarchical Ensemble Pipeline)"**을 제안합니다.

[단계별 프로세스]

Stage I: Fine-tuning (모델 학습)
- Backbone: 사전 학습된 DinoBloom을 기반 모델로 사용합니다.
- LoRA (Low-Rank Adaptation): 파라미터 효율적인 미세 조정을 위해 LoRA를 적용하여 전이 가능한 임베딩(Transferable Embeddings)을 학습합니다.
- 학습 전략: EMA(Exponential Moving Average) 기반의 Teacher-Student 구조와 DINO 스타일의 자기지도 학습(Self-supervised learning) 손실 함수를 결합하여, 레이블이 있는 데이터와 없는 데이터를 모두 효과적으로 활용합니다.
Stage II: Feature Bank Construction (특징 저장소 구축)
- 학습된 모델을 통해 추출된 $\ell_2$ -정규화된 임베딩을 **특징 저장소(Feature Bank)**에 저장합니다. 각 임베딩에는 혈액학적 분류 체계에 따른 3단계 계층적 레이블이 함께 저장됩니다.
Stage III: Hierarchical kNN Inference (계층적 kNN 추론)
- Coarse-to-Fine 전략: 쿼리 이미지와 가장 유사한 $k$ 개의 이웃을 찾는 kNN(k-Nearest Neighbors) 방식을 사용하되, **계층적 일관성(Hierarchical Consistency)**을 강제합니다.
- 추론 과정: 1단계(Lineage)에서 다수결(Majority Voting)로 분류한 후, 2단계와 3단계(Leaf classes)로 넘어갈 때 이전 단계에서 예측된 부모 클래스의 자식 노드 내에서만 후보를 제한하여 투표를 진행합니다. 이를 통해 클래스 간 혼동을 줄이고 계층적 구조를 유지합니다.

3. 주요 기여 (Key Contributions)

계층적 앙상블 전략 제안: 도메인 변화 상황에서도 안정적인 분류를 수행할 수 있는 'Coarse-to-fine' 추론 프레임워크를 설계했습니다.
효율적인 임베딩 학습: LoRA를 활용하여 DinoBloom 모델을 미세 조정함으로써, 적은 파라미터 업데이트만으로도 도메인 변화에 강건한 특징 추출 능력을 확보했습니다.
다중 분할 앙상블(Multi-split Majority Voting): 여러 데이터 분할(Split)에 대한 예측을 다수결로 통합하여, 데이터 불균형 및 롱테일(Long-tailed) 클래스에 대한 예측 안정성을 높였습니다.

4. 실험 결과 (Results)

성능 지표: ISBI 2026 WBCBench 챌린지 데이터셋에서 평가한 결과, Macro F1-score 0.682를 달성하며 상위 10위권 내의 성적을 기록했습니다.
백본 비교: 기존의 ResNet-50, Swin-T, ViT-B 등보다 DinoBloom + LoRA 조합이 더 높은 성능을 보였습니다.
Ablation Study (절제 연구):
- 단순 kNN 방식보다 **계층적 제약(Hierarchy)**을 가했을 때 성능이 비약적으로 상승했습니다 (0.625 $\rightarrow$ 0.682). 이는 계층적 구조가 희귀 클래스에 대한 편향을 줄이는 데 매우 효과적임을 입증합니다.
- 앙상블 모델의 수를 늘릴수록(Split ensembling) 성능이 점진적으로 향상되어 모델의 강건성이 증명되었습니다.

5. 의의 및 결론 (Significance & Conclusion)

본 연구는 미세한 세포 간 차이와 도메인 변화가 심한 의료 영상 분야에서, 계층적 구조를 추론 과정에 직접 통합함으로써 기존 엔드투엔드(End-to-end) 분류기의 한계를 극복했습니다. 특히, 적은 데이터로도 높은 성능을 내는 LoRA와 retrieval 기반의 kNN 방식을 결합하여 실무적인 확장성을 보여주었으며, 향후 혈액 세포 분석을 위한 파운데이션 모델(Foundation Model) 구축의 기반을 마련했다는 점에서 의의가 있습니다.