🤖 machine learning

Segmentation and Classification of Pap Smear Images for Cervical Cancer Detection Using Deep Learning

본 연구는 자궁경부암 검출을 위해 U-Net 세그멘테이션과 분류를 결합한 딥러닝 프레임워크를 제안하며, 이미지 세그멘테이션이 Herlev 데이터셋에서 정밀도와 F1 점수를 미미하게 향상시키기는 하지만 분류 성능에 미치는 전반적인 영향은 제한적이라는 것을 발견하였다.

원저자: Nisreen Albzour, Sarah S. Lam

게시일 2026-06-24

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Nisreen Albzour, Sarah S. Lam

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

개요: 건초더미에서 바늘 찾기

당신이 거대하고 어지러운 정원(자궁경부암 세포 검사 슬라이드) 속에 숨겨진 몇 가지 특정하고 위험한 잡초(암세포)를 찾아내려는 의사라고 상상해 보세요. 현재 의사들은 현미경을 통해 이 슬라이드들을 하나하나 직접 살펴봐야 합니다. 이는 느리고, 피로하며, 때로는 피곤하거나 사진이 흐릿해서 잡초를 놓치거나 무해한 꽃을 잡초로 착각하기도 합니다.

이 논문은 다음과 같은 간단한 질문을 던집니다: 만약 컴퓨터를 사용하여 먼저 잡초만을 "잘라내고" 흙과 배경 소음을 제거한다면, 컴퓨터가 위험한 것들을 찾아내는 능력이 더 좋아질까요?

설정: 정원과 도구들

연구진은 Herlev 데이터셋이라는 유명한 디지털 정원을 사용했습니다. 여기에는 917장의 세포 사진이 들어 있습니다. 연구진은 이를 두 그룹으로 나누었습니다:

정상 (Normal): 건강한 세포 (좋은 꽃).
비정상 (Abnormal): 암세포 또는 전암 단계의 세포 (나쁜 잡초).

그들은 이 사진들을 분류하기 위해 두 명의 "디지털 탐정"(AI 모델)을 만들었습니다:

탐정 A: 잡초와 흙이 섞인 전체적인 지저킨 사진을 그대로 봅니다.
탐정 B: 먼저 U-Net이라는 특별한 도구를 사용하여 배경 소음을 제거하고 세포만을 정교하게 잘라낸 뒤, 깨끗하게 잘려 나온 세포만을 살펴봅니다.

실험: 렌즈를 깨끗하게 닦기

테스트가 공정하게 진행되도록 하기 위해, 연구진은 단순히 데이터를 반으로 나누지 않았습니다. 대신 **5-겹 교차 검증(5-fold cross-validation)**이라는 방법을 사용했습니다. 이것은 데이터를 다섯 팀으로 나누는 이어달리기 경주와 같습니다. AI는 네 팀을 가지고 학습하고 다섯 번째 팀으로 테스트를 수행하며, 이 과정을 반복하여 모든 팀이 테스트 그룹이 되도록 순환시킵니다. 이는 AI가 단순히 정답을 암기하는 것이 아니라 실제로 규칙을 배우고 있는지 확인하기 위함입니다.

또한 그들은 사진 속의 꽃을 찍은 뒤, 사진을 뒤집거나 회전시키거나 조명을 바꾸는 등의 방식으로 사진을 더 많이 찍는 데이터 증강(Data Augmentation) 기법을 사용했습니다. 이를 통해 잡초가 기울어져 있거나 그늘에 있더라도 여전히 잡초라는 것을 AI에게 가르칩니다.

결과: 청소가 도움이 되었는가?

연구진은 탐정 A(지저분한 사진)와 탐정 B(깨끗하게 분할된 사진)가 각각 얼마나 잘 수행했는지 비교했습니다. 결과는 다음과 같습니다:

정확도 (전반적인 정답률): 두 탐정의 성과는 거의 비슷했습니다. 탐정 A는 **81.02%**의 정확도를 보였고, 탐정 B는 **80.80%**의 정확도를 보였습니다. 사실, 지저분한 사진을 본 탐정이 전체 점수에서는 약간 더 나았습니다!
정밀도 (허위 경보 방지): 탐정 B는 건강한 세포를 병든 것으로 잘못 진단하지 않는 데 약간 더 뛰어났습니다. 정밀도가 0.41% 향상되었습니다.
"균형 잡힌" 점수 (F1-Score): 이는 정확성을 유지하면서도 놓치는 것이 없도록 균형을 맞추려는 점수입니다. 여기서 탐정 B(깨끗하게 잘려 나온 세포를 본 탐정)가 1.30% 더 높은 수치를 기록하며 약간 더 우수한 성적을 냈습니다.

결론: 큰 도약이 아닌 작은 한 걸음

주요 시사점은 놀라울 정도로 겸손합니다. 연구진은 배경을 잘라내는 것(세그멘테이션)이 컴퓨터가 조금 더 균형 잡힌 시각을 갖도록 도와주었으며, F1-score를 1% 남짓 개선했다는 것을 발견했습니다.

하지만 이 논문은 명시적으로 이러한 개선이 매우 작다고 밝히고 있습니다. "깨끗한" 이미지가 컴퓨터를 슈퍼히어로로 만들어준 것이 아니라, 단지 건강한 세포와 병든 세포 사이의 차이를 이해하는 데 있어 아주 약간 덜 혼란스럽게 만들었을 뿐입니다. 세그멘테이션이 최종 분류 성능에 미치는 영향은 제한적인 것으로 보입니다.

향에 대하여

저자들은 "청소" 방법이 효과가 있긴 했지만, 이것이 마법의 해결책은 아닐 수도 있다고 제안합니다. 그들은 향후 연구에서 더 발전된 도구(예를 들어, 더 강력한 종류의 카메라 렌즈와 같은 "비전 트랜스포머(Vision Transformers)")를 살펴보고, 이 시스템들이 실제로 의사들이 암을 더 일찍, 더 신뢰성 있게 진단하는 데 도움을 줄 수 있는지 확인하기 위해 더욱 엄격하게 테스트해야 한다고 제안합니다.

요약하자면: 사진을 깨끗하게 만드는 것이 컴퓨터에 아주 약간의 도움을 주었지만, 문제 전체를 해결하지는 못했습니다. 컴퓨터는 여전히 정원 속의 잡초를 찾는 법을 배워가는 중입니다.

기술 요약: 딥러닝을 이용한 자궁경부암 검출을 위한 파프 스미어(Pap Smear) 이미지의 분할 및 분류

문제 정의
자궁경부암은 전 세계적으로 여성의 암 관련 사망의 주요 원인으로 남아 있으며, 사망률을 낮추기 위해서는 파프 스미어 검사를 통한 조기 발견이 매우 중요하다. 그러나 파프 스미어 슬라이드의 수동 검사는 노동 집약적이고, 인간의 오류가 발생하기 쉬우며, 관찰자 간의 변동성이 크다는 단점이 있다. 딥러닝(DL), 특히 합성곱 신경망(CNN)은 의료 영상 분석 자동화에서 유망한 가능성을 보여주었으나, 전처리 단계, 특히 이미지 분할(segmentation)이 자궁경부 세포 분류 성능에 미치는 구체적인 영향에 대해서는 추가적인 경험적 검증이 필요하다. 본 연구는 배경 노이즈로부터 자궁 세포를 분리하는 분할 과정이 원본 이미지를 사용하는 것보다 진단 정확도 측면에서 측정 가능한 개선을 가져오는지 확인하고자 한다.

방법론
본 연구는 917개의 자궁 세포 이미지가 포함된 벤치마크 컬렉션인 Herlev 파프 스미어 데이터셋을 활용하여 체계적인 프레임워크를 채택하였다. 방법론은 다음 단계로 진행되었다:

데이터셋 재구조화: 기존의 7개 클래스 데이터셋을 정상(건강한 상피 세포, $n=242$ )과 비정상(이형성 및 암 세포, $n=675$ )의 이진 분류 문제로 재구조화하였다.
전처리 및 분할:
- 이미지는 $128 \times 12 8$ 픽셀 크기로 조정되었으며 정규화되었다.
- U-Net 아키텍처를 사용하여 세그멘테이션 마스크를 생성함으로써 자궁 세포를 배경으로부터 분리하였다. 생성된 마스크는 픽셀 값을 재조정하는 후처리 과정을 거쳤으며, 이를 통해 분류 단계에서의 배경 노이즈를 효과적으로 감소시켰다.
데이터 증강: 데이터 부족 문제를 해결하고 과적합을 방지하기 위해 뒤집기(flipping), 회전, 대비 조절 등의 기법을 적용하였다.
분류 아키텍처: 이진 분류를 위해 맞춤형 CNN을 설계하였다. 아키텍처는 다음과 같이 구성된다:
- 필터 크기가 32, 64, 128인 세 개의 합성곱 계층(convolutional layers)과 각 계층 뒤에 이어지는 맥스 풀링(max pooling).
- ReLU 활성화 함수.
- 과적합 완화를 위한 L2 규제(regularization) 및 드롭아웃(dropout) 계층.
- 128개의 뉴런을 가진 완전 연결 계층(fully connected layer) 및 소프트맥스(softmax) 출력 계층.
- Adam 옵티마이저와 범주형 교차 엔트로피 손실(categorical cross-entropy loss)을 사용하여 학습을 최적화하였다.
평가 프로토콜: 견고한 일반화 성능을 보장하기 위해 단순한 훈련/테스트 분할 대신 **5-겹 교차 검증(5-fold cross-validation)**을 구현하였다. 성능은 비분할(원본) 이미지로 학습된 파이프라인과 분할 이미지로 학습된 파이프라인의 두 가지 별도 파이프라인을 통해 평가되었다. 지표로는 정확도(accuracy), 정밀도(precision), 재현율(recall), F1-스코어(F1-score)가 포함되었다.

주요 기여

비교 분석: 본 연구는 원본 파프 스미어 이미지와 U-Net으로 분할된 이미지에 대한 CNN 성능을 직접적으로 비교함으로써, 분할이라는 변수를 고립시켜 진단 정확도에 미치는 구ền 구체적인 기여도를 측정하였다.
프레임워크 구현: U-Net을 통한 분할과 컴팩트한 CNN을 결합하고 엄격한 교차 검증을 통해 검증된 딥러닝 파이프라인을 구축하였다.
해석 가능성 맥락: 본 연구는 임상적 신뢰를 높이기 위한 클래스 활성화 맵(CAM) 및 설명 가능한 AI(XAI)의 역할을 인정하며, 제안된 프레임워크를 투명한 자동 진단을 향한 단계로 위치시킨다.

결과
실험 결과, 분할의 포함은 분류 성능에 미미한 개선만을 가져오는 것으로 나타났다:

정확도: 비분할 모델은 **81.02%**를 달alog 달성한 반면, 분할 모델은 **80.80%**를 기록하여 0.22% 감소하였다.
정밀도: 비분할 모델의 **80.44%**에서 분할 모델의 **80.85%**로 소폭 상승하여 **+0.41%**의 이득을 보였다.
재현율: **81.02%**에서 **80.80%**로 감소하였다.
F1-스코어: 가장 주목할 만한 개선을 보였으며, **78.25%**에서 **79.55%**로 상승하여 **+1.30%**의 이득을 기록하였다.

분할 모델은 정밀도와 재현율 사이의 더 균형 잡힌 성능(F1-스코어의 향상으로 나타남)을 보여주었으나, 전반적인 분류 정확도는 두 접근 방식 간에 유사한 수준을 유지했다. 저자들은 분할 모델이 학습 과정 중 검증 정확도의 변동이 적었다는 점을 언급하며, 이는 해당 모델이 더 판별적인 특징을 학습할 수 있음을 시사한다고 밝혔다. 그러나 최종적인 성능 향상은 제한적이었다.

의의 및 주장
본 논문은 분할이 특징 추출과 노이즈 감소에는 도움이 되지만, 본 특정 CNN 아키텍처와 데이터셋의 범위 내에서 최종 분류 성능에 미치는 영향은 제한적이라고 겸허하게 결론짓는다. 이 연구는 분할이 자궁경부암 검출을 위한 결정적인 해결책이라고 주장하는 것이 아니라, "약간 더 균형 잡힌 분류 성능"을 제공한다는 점을 시사한다.

저자들은 본 연구를 병리학자를 대체하는 것이 아니라 병리학자의 업무를 돕는 임상 적용을 위한 보조 도구로 규정한다. 또한, 본 연구의 결과를 향후 연구를 위한 베이스라인으로 명시하였다. 저자들은 향후 연구가 단순한 CNN 비교를 넘어 더 복잡한 아키텍처(예: Vision Transformer), 하이브리드 앙상블, 그리고 캘리브레이션 인지 파이프라인(calibration-aware pipelines)을 평가하는 방향으로 나아가야 한다고 주장한다. 또한, 모델의 복잡성이 엄격한 검증 프로토콜 없이는 반드시 견고한 일반화를 보장하는 것은 아니라는 점을 강조하며, 미래의 평가는 통계적 견고성, 캘리브레이션 및 다양한 코호트에 걸친 설명 가능성을 우선시해야 한다고 강조한다.