Vision Normalizing Flows for the probability-informed detection of banana diseases from in-field images

기술 요약: 확률적 바나나 질병 탐지를 위한 비전 정규화 흐름(Vision Normalizing Flows)

문제 정의
Xanthomonas Wilt (BXW), Banana Bunchy Top Disease (BBDT), Fusarium Wilt, Yellow Sigatoka, 그리고 Black Sigatoka를 포함한 바나나 질병은 소농 체계에서 심각한 생산 손실을 야기한다. 다양한 품종 및 성장 단계에 따른 증상 발현의 가변성, 그리고 형태학적으로 중첩되는 엽상 징후로 인해 현장에서의 정확한 진단은 어렵다. PCR, ELISA와 같은 실험실 방법은 높은 민감도를 제공하지만, 비용과 인프라 요구 사항으로 인해 소농들이 접근하기 어려운 경우가 많다. 기존의 컴퓨터 비전 솔루션은 주로 합성곱 신경망(CNN)에 기반하며, 이는 "폐쇄 집합(closed-set)" 가정을 기반으로 작동한다. 이러한 판별 모델들은 모든 입력을 훈련 클래스 중 하나로 할당하며, 이로 인해 분포 외(out-of-distribution, OOD) 이미지(예: 바나나가 아닌 식생, 비정형적 스트레스, 또는 새로운 질병)에 대해서도 높은 확신도를 가진 예측을 내놓는 경우가 많아, 불확실성을 정량화하거나 입력 이미지가 훈련 분포를 벗어났음을 인식하는 데 실패한다.

방법론
저자들은 시각적 특징 추출과 확률적 추론을 분리하는 확률적 이미지 인식 프레임워크를 제안한다. 이 아키텍처는 두 가지 주요 구성 요소로 이루어져 있다:

1. 동결된 비전 파운데이션 모델(Frozen Vision Foundation Model): 시스템은 DINOv3(레이블이 없는 자기 지도 증류) 비전 파운데이션 모델을 동결된 특징 추출기로 활용한다. 백본을 미세 조정(fine-tuning)하는 대신, 모델은 입력 이미지로부터 1,152차원의 임베딩을 추출한다. 이 임베딩은 ViT-S 변형 모델의 분류 토큰(classification token), 평균 레지스터 토큰(averaged register token), 그리고 평균 패치 토큰(averaged patch token)을 결합하여 구성된다. 이 접근 방식은 작업 특화된 적응 없이 범용적인 자기 지도 학습 표현을 활용한다.
2. 조건부 정규화 흐름(Conditional Normalizing Flow): 추출된 임베딩은 PyTorch 라이库인 Zuko로 구현된 조건부 정규화 흐름에 입력된다. 이 흐름은 이미지 임베딩 $z$와 질병 클래스 조건 벡터 $y$에 대한 조건부 확률 밀도 $p_\theta(z | y)$를 모델링한다.
   • 이 흐름은 SiLU 활성화 함수를 사용하는 마스크드 완전 연결 네트워크(masked fully connected networks)로 매개변수화된 8개의 자기 회귀 신경 스플라인 변환(autoregressive neural spline transformations)을 사용한다.
   • 이 변환들은 DINOv3 임베딩의 복잡한 다중 모드 분포를 단순한 다변량 가우시안 잠재 분포로 매핑하기 위해 단조 유리 이차 스플라인(monotonic rational-quadratic spline, RQS) 비약을 활용한다.
   • 클래스 조건화는 모든 변환에 제공되는 8차원 벡터를 통해 이루어진다.
   • 추론 과정에서 모델은 8개의 질병/조건 클래스(5가지 질병, 건강한 바나나, 바나나가 아닌 식생, 일반 자연 경관) 각각에 대한 단일 이미지 임베딩의 로그 가능도(log-likelihood)를 평가한다.

훈련 전략
모델은 네 개의 공개 데이터셋(Ouedraogo et al., Mduma and Elinisa, Garcin et al., Unsplash)에서 수집된 10만 장 이상의 결합된 데이터셋을 통해 훈련되었다. 클래스 불균형을 해결하고 일반화 성능을 높이기 위해 저자들은 다음을 채택하였다:

• 디리클레 믹스업(Dirichlet Mixup): 훈련 배치에는 디리클레 분포 가중치에 따라 서로 다른 클래스의 잠재 표현을 선형적으로 결합하여 생성된 4,096개의 잠재 벡터가 포함된다.
• 증강(Augmentation): 특징 추출 전 훈련 세트에 광범위한 이미지 증강(기하학적, 환경적, 카메라 및 노이즈 효과)을 적용하였다.
• 최적화(Optimization): 모델은 수동적인 학습률 스케줄링 없이 평균 조건부 음의 로그 가능도(NLL)를 최소화하는 Prodigy 옵티마이저와 Schedule-Free 프레임워크를 사용하여 최적화되었다.

주요 결과
독립적인 테스트 세트에서 평가된 이 프레임워크는 다음과 같은 성과를 보였다:

• 높은 분류 정확도: 모델은 완벽에 가까운 다중 클래스 정확도를 달est했다. F1 점수는 5가지 질병 모두에서 0.98을 초과했다. 평균 정밀도(Average precision)는 0.968에서 0.999 사이였으며, AUROC 값은 0.997에서 1.000 사이였다.
• 특이 성능: Fusarium Wilt는 가장 높은 성능(F1 = 0.9927, AUROC = 0.9998)을 기록했다. 주요 혼동 원인은 Yellow Sigatoka와 Black Sigatoka 사이의 모호함이었으며, 이는 초기 감염 증상이 겹치는 생물학적 타당성을 가진 모호함이다.
• 불확실성 및 OOD 탐지: 소프트맥스 분류기와 달리, 정규화 흐름은 명시적인 가능도 추정치를 제공했다. 시스템은 두 가지 상보적인 로그 가능도 비(ratio)를 사용하여 질병 식물, 건강한 식물, 그리고 OOD 이미지(바나나가 아닌 식생 및 일반 장면)를 성공적으로 구분하였다:
  1. 질병 비(disease ratio): 질병 클래스 대 건강한 바나나.
  2. 식물 비(plant ratio): 바나나 대 바나나가 아닌 식물.
• 진단 공간: 이 비율들은 클래스를 명확히 분리하고 불확실한 예측(결정 경계 근처의 샘물)을 플래그 처리하는 2차원 진단 공간을 정의한다.

의의 및 주장
본 논문은 현재의 시스템이 언제 자신이 불확실한지 또는 입력이 훈련 분포 밖에 있는지 인식하지 못한다는 기존 농업 AI의 핵심적인 격차를 해결한다고 주장한다. 주요 기여는 다음과 같다:

• 불확실성을 고려한 진단: 결정 경계가 아닌 명시적인 조건부 확률 밀도를 추정함으로써, 시스템은 예측 신뢰도와 이미지 관련성에 대한 해석 가능한 척도를 제공한다. 이를 통해 전문가 검토나 실험실 확인이 필요한 모호한 사례를 식별할 수 있다.
• 효율성 및 전이성: 이 방법은 질병 특화된 미세 조정을 위해 비전 백본을 사용하지 않고도 높은 성능을 달성하며, 이는 범용 파운데이션 모델이 질병 구분에 충분한 시각적 특징을 포착함을 시사한다. 이는 대규모의 질병 특화 주석 데이터셋에 대한 의존도를 낮춘다.
• 확장성: 추론 과정은 동결된 임베딩과 경량화된 흐름 평가에 의존하므로, 소농 체계 및 질병 감시 프로그램을 위한 스마트폰 배포에 적합하다.

저자들은 가시적인 증상에 의존한다는 점(잠복 감염 탐지 불가), 회고적 공개 데이터셋 사용(전향적 현장 시험 미실시), 그리고 훈련 데이터에서의 혼합 감염 또는 새로운 질병의 과소 대표성 등의 한계를 언급하였다. 결론적으로, 이 시스템은 분자 진단을 대체할 수는 없지만, 희소한 진단 자원을 우선순위화하고 감시 범위를 개선하기 위한 확장 가능한 도구를 제공한다.