🤖 AI

OptiModNet: A UNet-Transformer Hybrid with Grouped-Query and Channel Attention for Optic Disc and Cup Segmentation

이 논문은 REFUGE2 데이터셋에서 시신경 유두 및 컵 분할에 대해 높은 계산 효율성을 유지하면서도 최첨단 성능을 달절하는, 그룹 쿼리 및 채널 어텐션 메커니즘과 통합된 Aggregated Pyramid Loss를 포함하는 경량 하이브리드 UNet-Transformer 아키텍처인 OptiModNet을 소개한다.

원저자: Soumili Ghosh, Debapriya Roy, Aryan Das, Bikash Santra

게시일 2026-08-20

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Soumili Ghosh, Debapriya Roy, Aryan Das, Bikash Santra

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

녹내장은 전 세계적으로 돌이킬 수 없는 실명의 주요 원인이며, 종종 초기 증상 없이 조용히 진행됩니다. 손상이 영구적이기 때문에 질병의 가장 초기 단계에서 포착하는 것이 매우 중요합니다. 의사들은 눈의 뒷부분을 검사하는 데 의존하며, 특히 두 개의 원형 구조물인 시신경 유두(시신경이 눈으로 들어가는 곳)와 그 안의 더 작은 함몰 부위인 시신경 컵을 관찰합니다. 이 컵의 크기를 유두에 대비하여 측정함으로써, 임상의들은 질병의 중요한 경고 신호 역할을 하는 비율을 계산할 수 있습니다. 그러나 이러한 경계를 손으로 그리는 것은 어렵고 시간이 많이 걸리며, 특히 이미지가 흐릿하거나 대비가 낮은 경우 인간의 실수에 취약합니다. 이를 해결하기 위해 과학자들은 인공지능을 활용하여 컴퓨터가 이러한 구조를 자동으로 인식하도록 가르치고 있습니다. 현재의 컴퓨터 프로그램들도 이를 수행할 수 있지만, 가장 정확한 프로그램들은 종로히 무겁고 복잡하여 강력하고 비싼 하드웨어를 필요로 하는 경우가 많으며, 이는 속도와 단순성이 필수적인 일상적인 클리닉이나 대규모 선별 검사 프로그램에서 사용하기 어렵게 만듭니다.

한 연구팀은 높은 정확도와 가벼움을 동시에 갖춘 새로운 접근 방식을 개발하여, 'OptiModNet'이라 불리는 시스템을 만들어냈습니다. 그들의 목표는 슈퍼컴퓨터 없이도 눈의 해부학적 전체 구조를 파악하는 동시에 가장 작고 미세한 가장자리 세부 사항까지 포착할 수 있는 모델을 구축하는 것이었습니다. 그들은 두 가지 서로 다른 유형의 인공지능 아키텍처를 결 комби네이션함으로써 이를 달로했습니다. UNet으로 알려진 한 유형은 지도의 특정 부분을 자세히 들여다보는 사람처럼 국소적인 세부 사항과 가장자리를 포착하는 데 탁-월합니다. 트랜스포머(transformer)에 기반한 다른 유형은 큰 그림을 이해하고 이미지의 서로 다른 부분들이 먼 거리에서 어떻게 연결되는지를 파악하는 데 더 능숙합니다. 이 두 가지를 혼합하려는 이전의 시도들은 여전히 너무 무겁거나 복잡한 모델을 만드는 결과를 초래했습니다. 본 연구의 연구진은 두 가지 특정 개선 사항을 도입하여 이 혼합 과정을 정교화했습니다. 첫째, 모델이 정보를 처리하는 '사고' 레이어에서 질문들을 그룹화하도록 변경하여 계산량을 크게 줄였습니다. 둘째, 디코딩 레이어에 모델이 덜 유용한 특징들은 무시하고 가장 중요한 특징들에 집중할 수 있도록 돕는 메커니즘을 추가하여, 시신경 유두와 시신경 컵의 최종 윤곽을 더욱 선명하게 만들었습니다.

이 새로운 시스템을 훈련시키기 위해 연구진은 전문가가 그린 경계선이 포함된 수천 개의 안구 스캔 데이터인 REFUGE2 데이터셋이라는 대규모 망막 이미지 모음을 사용했습니다. 또한 다양한 유형의 이미지에서도 잘 작동하는지 확인하기 위해 ORIGA라는 두 번째 데이터셋으로 모델을 테스트했습니다. 결과는 놀라웠습니다. 첫 번째 데이터셋에서 이 새로운 모델은 시신경 유두를 99.45%, 시신경 컵을 93.23%의 점수로 정확히 식별하여 기존의 최고 방법들보다 2.5% 이상 높은 성능을 보였습니다. 두 번째 데이터셋에서는 해당 테스트에서 보고된 것 중 가장 높은 정확도를 달 기록했습니다. 아마도 더 중요한 점은, 이 모델이 믿기지 않을 정도로 효율적이라는 것입니다. 이 모델은 작동하는 데 단 1.93백만 개의 파라미터만을 필요로 하는데, 이는 가장 복잡한 경쟁 모델들보다 약 96% 적은 수치입니다. 계산 능력 측면에서 보면, 이 모델은 다른 고성능 시스템이 요구하는 에너지의 아주 적은 부분인 3.73 GFLOPs만을 사용합니다. 이는 이 모델이 특수한 고사양 서버가 아닌 표준 의료 장비에서도 실행될 수 있음을 의미합니다.

연구진은 또한 각 설계 요소가 최종 성공에 어떻게 기여했는지 테스트했습니다. 그들은 그룹화 메커니즘과 집중 향상 기능 레이어를 각각 추가했을 때 결과가 개별적으로 개선되었지만, 이 둘을 결합했을 때 최상의 결과를 낸다는 것을 발견했습니다. 또한 학습 과정 중 여러 단계에서 모델의 진행 상황을 점검하는 새로운 학습 방식을 도입했습니다. 이 방법은 모델이 더 일관되게 학습하고 더 매끄럽고 정확한 경계선을 생성하도록 도왔습니다. 연구진이 자신들의 모델의 시각적 출력을 다른 시스템과 비교했을 때, 새 모델은 혈관이 영역을 가로지르거나 조명이 불균일한 어려운 사례에서도 전문가가 그린 정답(ground truth)과 훨씬 더 밀접하게 일치하는 윤곽을 만들어냈습니다. 이 연구는 이러한 다양한 기술들을 세심하게 혼합함으로써, 높은 정확도를 유지하면서도 광범위한 사용이 가능할 만큼 가벼운 도구를 만드는 것이 가능하다는 결론을 내립니다. 이러한 진전은 고품질의 자동화된 녹내장 선별 검사가 곧 자원이 제한된 환경에서도 실질적인 현실이 될 수 있음을 시사하며, 잠재적으로 더 많은 사람의 시력을 구할 수 있음을 보여줍니다.

기술 요약: OptiModNet

문제 정의

망막 안저 영상에서 시신경 유두(Optic Disc, OD)와 시신경 함몰(Optic Cup, OC)을 정밀하게 분할하는 것은 시신경 유두 함몰비(Cup-to-Disc Ratio, CDR) 계산을 통한 녹내장 조기 발견 및 진단의 핵심적인 전제 조건입니다. 그러나 다양한 데이터셋에 걸쳐 높은 성능의 분할을 유지하면서도 낮은 계산 오버헤드를 유지하는 것은 여전히 큰 과제로 남아 있습니다. 기존의 딥러닝 접근 방식들은 다음과 같은 구체적인 트레이드오프(trade-offs) 문제를 안고 있습니다:

UNet 기반 모델은 국소적 특징을 포착하는 데는 뛰어나지만, 장거리 의존성(long-range dependencies)과 전역적 해부학적 맥락을 모델링하는 데 어려움을 겪습니다.
**Vision Transformer (ViT)**는 셀프 어텐션(self-attention)을 통해 전역적 관계를 효과적으로 포착하지만, 상당한 계산 비용(이차 복잡도)이 발생하며 대규모의 주석 데이터셋을 필요로 하므로 고해상도 안저 영상 처리에 있어 자원 집약적입니다.
하이브리드 아키텍처(예: TransUNet, UNetR)는 이러한 간극을 메우려 시도하지만, 종종 일반적인 Transformer의 계산 비효율성을 그대로 물려받습니다.
**확산 기반 모델(Diffusion-based models)**은 경쟁력 있는 결과를 보여주지만, 높은 학습 및 추론 비용으로 인해 실시간 임상 워크플로우에 적용하기에는 한계가 있습니다.

결과적으로, 과도한 계산 오버헤드 없이 전역적 맥락 모델링과 국소적 경계 정밀도 사이의 균형을 맞추는 가볍고 효율적인 아키텍처가 필요합니다.

방법론

저자들은 2D 시신경 유두 및 함몰 분할에 특화된 새로운 경량 하이브리드 아키텍처인 OptiModNet을 제안합니다. 이 모델은 Transformer 기반 인코더와 컨볼루션 디코더를 통합하며, 특정 어텐션 메커니즘과 다단계 손실 함수(multi-stage loss function)에 의해 강화됩니다.

1. 아키텍처 개요

인코더 (Transformer 기반): 입력 이미지는 겹치지 않는 패치(patch)로 나뉘며 위치 정보와 함께 임베딩됩니다. 인코더는 12개의 스택된 트랜스포머 블록으로 구성됩니다.
- 그룹 쿼리 어텐션 (Grouped Query Attention, GQA): 표준 멀티 헤드 셀프 어텐션(MSA)과 비교하여 계산 복잡도를 줄이기 위해 인코더는 GQA를 채택합니다. 이 메커니즘은 쿼리를 그룹으로 나누고, 각 그룹이 단일 키-값(key-value) 쌍을 공유하도록 합니다. 이는 어텐션 메커니즘을 간소화하여 고해상도 입력에서의 장거리 의존성 모델링 능력을 유지하면서도 계산 부하를 크게 낮춥니다.
디코더 (Convolutional): 디코더는 전치 컨볼루션(transposed convolutions)을 사용하여 특징 맵을 점진적으로 업샘플링하며, 인코더로부터 오는 다중 해상도 스킵 연결(skip connections)을 통합합니다.
- 채널 어텐션 (Channel Attention, CA): 디코더를 위한 새로운 구성 요소인 채널 어텐션은 특징의 중요도를 재보정(recalibrate)하기 위해 적용됩니다. 이는 전역 평균 풀링(Global Average Pooling)과 완전 연결 계층(fully connected layers)을 사용하여 어텐션 가중치를 생성함으로써, 정보가 풍부한 특징 채널을 강조하고 덜 관련 있는 채널을 감쇄시킵니다. 이는 특히 OD/OC 경계의 정밀한 묘사에 도움을 줍니다.

2. 집계 피라미드 손실 (Aggregated Pyramid Loss)

영역 수준의 중첩(overlap)과 픽셀 단위 분류를 모두 최적화하기 위해, 저자들은 집계 피라미드 손실을 도입합니다.

구성: 이는 Soft Dice Loss와 이진 교차 엔트로피(Binary Cross-Entropy, BCE) 손실을 결합합니다.
다단계 감독 (Multi-Stage Supervision): 최종 출력만을 감독하는 표준 방식과 달리, 이 손실 함수는 여러 중간 디코더 단계에서 결합된 손실을 계산합니다.
가중치 집계: 총 손실은 중간 및 최종 출력으로부터의 손실들의 가중 합( $L_{total} = \sum \lambda_k L_k$ )입니다. 이 설계는 네트워크 전체에 걸쳐 더 나은 그래디언트 흐름(gradient flow)을 촉진하고 미세한 경계 분할의 구조적 일관성을 보장합니다.

주요 기여

본 논문은 네 가지 주요 기여를 설명합니다:

인코더의 그룹 쿼리 어텐션: 표준 Transformer의 비효율성을 해결하면서 장거리 의존성을 효과적으로 모델링하기 위해 GQA를 통합했습니다.
디코더의 채널 어텐션: 돌출된 특징 채널에 집중하기 위해 CA를 구현하여 시신경 유두와 함몰 사이의 경계 묘사 능력을 향상시켰습니다.
집계 피라미드 손실: 미세한 세부 사항 분할과 그래디언트 흐름을 강화하기 위해 여러 디코더 단계를 감독하는 새로운 손실 함수를 제안했습니다.
효율적인 하이브리드 설계: UNet, Transformer, 그리고 어텐션 메커니즘의 상호 보완적인 강점을 활용하여 현저히 적은 파라미터 수로 높은 정확도를 달리는 모델을 구축했습니다.

실험 결과

모델은 REFUGE2 및 ORIGA 데이터셋을 통해 평가되었습니다.

정량적 성능

REFUGE2 데이터셋: OptiModNet은 기존 방법들을 2.5% 이상 능가하며 최첨단(SOTA) 성능을 달성했습니다.
- 시신경 유두 (Optic Disc): Dice Score 99.45%, IoU 98.16%.
- 시신경 함몰 (Optic Cup): Dice Score 93.23%, IoU 89.41%.
- 이러한 결과는 디스크 분할에 대해 이전 최고 모델인 MedSegDiff-V2보다 Dice 기준 2.75%, IoU 기준 2.26% 더 높은 수치를 기록했습니다.
ORIGA 데이터셋: 모델은 3-클래스 분류(시신경 함몰, 시신경 유두, 배경)에서 가장 높은 보고된 점수를 기록했으며, IoU는 98.92%, Dice 점수는 **99.31%**를 달성했습니다.

효율성 및 복잡도

파라미터: OptiModNet은 단 1.93백만 개의 파라미터를 사용하며, 이는 복잡한 SOTA 모델인 MedSegDiff-V2(46백만 개)와 비교했을 때 96% 감소한 수치입니다.
계산 비용: 모델은 단 3.73 GFLOPs를 필요로 하며, 이는 MedSegDiff-V2(983 GFLOPs) 계산 비용의 약 0.38%에 불과합니다.

절제 연구 (Ablation Studies)

구성 요소 분석: 채널 어텐션 또는 그룹 쿼리 어텐션 중 하나라도 제거했을 때 성능이 눈에 띄게 저하되었으며, 이는 두 모듈 모두 최종 정확도에 의미 있게 기여함을 확인시켜 줍니다.
손실 함수: 집계 피라미드 손실에서 가중치( $\lambda$ )를 변화시킨 결과, 특정 가중치 체계(세 단계의 중간 단계에 대해 0.2, 0.3, 0.5 및 최종 출력에 대해 1.0)를 사용하는 것이 최적의 결과를 냈음을 입증했습니다.

의의 및 주장

본 논문은 OptiModNet이 분할 정확도와 계산 효율성 사이의 트레이드오프를 성공적으로 해결했다고 주장합니다. UNetR 기반 프레임워크 내에 그룹 쿼리 어텐션과 채널 어텐션을 통합함으로써, 이 모델은 표준 Transformer나 확산 모델의 무거운 계산 부담 없이 우수한 경계 묘사와 전역적 맥락 모델링을 달성합니다.

저자들은 모델의 높은 효율성(낮은 파라미터 및 GFLOPs)이 고해상도 안저 영상이 하드웨어 제약에 직면하는 자원 제한적 임상 환경 및 대규모 신속 스크리닝 배포에 특히 적합하다고 강조합니다. 결과는 OptiModNet이 자동화된 녹내장 스크리닝을 위한 실용적이고 고성능인 솔루션을 제공하여, 관찰자 간 편차를 줄이고 조기 진단을 용이하게 한다는 것을 시사합니다.