Singpath-VL: 자궁경부 세포학 (Cervical Cytology) 을 위한 전문 비전 - 언어 대형 모델

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 멀티모달 대형 언어 모델 (MLLM) 의 발전은 계산 병리학 (Computational Pathology) 분야에 혁신을 가져왔으나, 세포 병리학 (Cytopathology), 특히 자궁경부 세포 검사 (Cervical Cytology) 분야에서의 적용은 아직 미흡합니다.
• 주요 병목 현상:
  • 데이터 부족: 조직 병리학 (Histopathology) 과 달리 세포 병리학은 개별 세포나 소규모 세포 군집의 미세한 핵 및 세포질 특징 (핵 과색소성, 불규칙한 핵막, 핵 - 세포질 비율 등) 을 정밀하게 해석해야 하므로, 대규모 고품질의 이미지 - 텍스트 쌍 데이터셋이 극도로 부족합니다.
  • 기존 모델의 한계: 범용 의료 이미지 - 텍스트 데이터로 학습된 일반 MLLM 은 자궁경부 세포 진단에 필요한 세밀한 시각적 근거 (Fine-grained visual grounding) 와 전문적인 진단 논리를 포착하는 데 실패합니다.
• 목표: 자궁경부 세포 검사 (The Bethesda System, TBS 기준) 에 특화된 AI 어시스턴트를 개발하여 진단 보조 및 교육 도구로서의 역할을 수행하는 것.

2. 제안 방법론 (Methodology)

2.1. 데이터 생성 파이프라인 (Data Curation)

기존의 수작업 데이터 부족 문제를 해결하기 위해, 3 단계 자동화 파이프라인을 통해 100 만 장 규모의 고품질 이미지 - 설명 데이터셋 (Singpath-CytoText) 을 구축했습니다.

1. Stage 1: 병렬 이미지 캡션 생성
   • Qwen3-VL-32B, InternVL-3.5-38B, Baichuan-Omni-1.5 등 3 개의 강력한 오픈소스 MLLM 을 병렬로 실행하여 자궁경부 세포 이미지 타일에 대한 초기 설명을 생성합니다.
   • TBS 기반 세포 분류에 중요한 형태학적 분석 차원에 초점을 맞춥니다.
2. Stage 2: 합의 융합 및 일관성 요약
   • 생성된 3 개의 설명을 하나의 대형 언어 모델 (LLM) 에 입력하여 통합합니다.
   • 합의 추출: 다수 모델이 공통적으로 언급한 형태학적 특징을 추출합니다.
   • 필터링: 모델의 능력 부족으로 인해 일관되게 잘못 인식된 특징은 제거하고, 유창하고 구조화된 단일 문단으로 재작성합니다.
3. Stage 3: 전문가 지식 주입 (Expert Knowledge Injection)
   • 자궁경부 세포 병리학에 특화된 파인튜닝된 전문가 모델을 도입합니다.
   • 이 모델은 2 단계에서 필터링된 '모델이 놓친 차원 (Model-missing dimensions)'을 보완하고, 미세한 형태학적 세부 사항을 추가하여 최종 고품질 설명을 생성합니다.

2.2. 모델 학습 전략 (Training Recipe)

기저 모델인 Qwen3-VL-4B를 기반으로 한 3 단계 학습 전략을 적용하여 Singpath-VL 을 개발했습니다.

1. Stage 1: 비전 - 언어 정렬 (Vision-Language Alignment)
   • 제안된 Singpath-CytoText 데이터셋으로 전체 파라미터 파인튜닝을 수행하여, 세포 이미지 (형태, 염색 패턴) 와 병리학적 용어 간의 근본적인 정렬을 달성합니다.
2. Stage 2: 지시 따기 위한 지도 미세 조정 (Supervised Fine-Tuning for Instruction Following)
   • TBS 보고 템플릿을 기반으로 이미지 - 설명 쌍을 지시 - 응답 형식으로 변환합니다.
   • 단일 턴 및 멀티 턴 대화 시나리오를 통해 실제 진단 쿼리에 대응하는 능력을 강화합니다.
3. Stage 3: 지식 재생 (Knowledge Replay for Mitigating Forgetting)
   • 과적합 및 범용 지식의 망각 (Catastrophic Forgetting) 을 방지하기 위해 두 가지 데이터 스트림을 활용합니다.
     • 도메인 특화 지식: 이전 단계의 세포 병리학 데이터 및 원본 Qwen3-VL 4B 로 생성한 텍스트 QA 쌍.
     • 일반 도메인 지식: 일반 이미지 및 원본 모델로 생성한 VQA 쌍.
   • 근거: 더 강력한 모델 대신 원본 기저 모델을 사용하여 데이터 생성 시 모델 정규화를 수행하고, 과도한 편향을 줄입니다.

3. 주요 기여 (Key Contributions)

1. 혁신적인 데이터 생성 파이프라인: 내부 자궁경부 이미지 리포지토리를 기반으로 3 단계 파이프라인을 통해 100 만 장 규모의 고품질 이미지 - 텍스트 데이터셋 (Singpath-CytoText) 을 자동 생성했습니다.
2. 전문 모델 개발: 생성된 데이터셋을 기반으로 Qwen3-VL-4B 를 다단계 전략으로 파인튜닝하여, 세포 병리학에 특화된 MLLM 인 Singpath-VL을 구축했습니다.
3. 성능 입증 및 오픈소스 기여: 미세한 형태학적 패턴 인식 및 세포 수준 진단 분류에서 기존 범용 MLLM 을 압도하는 성능을 입증했으며, 연구 투명성을 위해 데이터셋의 일부를 오픈소스로 공개할 예정입니다.

4. 실험 결과 (Results)

4.1. 벤치마크 구축

• MorphoPercept-Bench: 9 가지 핵심 형태학적 특징 (핵 크기, 염색질 패턴, 핵 - 세포질 비율 등) 에 대한 이진 분류 태스크를 수행하는 고품질 데이터셋.
• CytoCell-Bench: TBS 진단 카테고리 (NILM, ASC-US, LSIL, ASC-H, HSIL, AGC) 에 따라 29,102 개의 세포 이미지가 라벨링된 대규모 진단 데이터셋.

4.2. 성능 평가

• 형태학적 인식 (Morphological Perception):
  • Singpath-VL 은 평균 정확도 **89.0%**를 기록하여, Qwen3-VL-4B(53.1%), InternVL-3.5-38B(50.0%) 등 모든 기존 모델보다 월등히 우수했습니다.
  • 특히, 전문가 간 합의 수준 (Inter-rater agreement, 78.2%) 을 초과하여, 인간 전문가와 유사하거나 더 일관된 성능을 보임을 입증했습니다.
• TBS 기반 진단 분류 (CytoCell-Bench):
  • NILM (정상): 100.0% 정확도 (EfficientNet B0 와 동급).
  • 모호한 카테고리 (ASC-US, ASC-H): 기존 CNN 모델 (EfficientNet B0) 보다 각각 +5.5%, +3.7% 높은 정확도를 기록하여 미묘한 형태학적 차이를 구분하는 능력이 뛰어남을 보였습니다.
  • 범용 MLLM: 특정 클래스로 편향되어 진단에 실패하는 경향을 보인 반면, Singpath-VL 은 모든 카테고리에서 균형 잡힌 성능을 발휘했습니다.
• 정성적 평가: NILM 및 LSIL 사례에서 Singpath-VL 만이 정확한 형태학적 설명과 TBS 분류를 제공했으며, 범용 모델들은 과진단 (Over-classification) 경향을 보였습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 데이터 부족 해결: 자궁경부 세포학 분야의 대규모 고품질 데이터 부족 문제를 해결하기 위한 확장 가능한 데이터 생성 방법론을 제시했습니다.
• 임상 적용 가능성: 미세한 세포 형태학적 특징을 정밀하게 인식하고 TBS 기준에 따라 진단을 내릴 수 있는 AI 어시스턴트를 실현하여, 병리학자의 진단 정확도 향상 및 업무 효율화에 기여할 잠재력이 있습니다.
• 미래 방향:
  • 인과 추론: 단순 패턴 인식을 넘어, 진단 논리 (예: "특징 A 와 B 가 동시에 존재하므로 HSIL 로 판단") 를 설명 가능한 형태로 제공하는 모델로 발전.
  • 범용 세포 병리학 확장: 자궁경부뿐만 아니라 갑상선, 소변 등 다른 세포 병리학 분야로 범위를 확대.
  • 인터랙티브 시스템: 병리학자와의 멀티턴 대화를 통한 협업형 진단 지원 시스템 구축.

이 연구는 범용 AI 모델을 의료 전문 분야에 적용할 때 발생하는 데이터 및 성능 격차를 해결하기 위한 체계적인 접근법을 제시했다는 점에서 중요한 의의를 가집니다.