기술 요약: 해석 가능한 MCI 선별을 위한 적응형 포컬 로스를 적용한 비전 파운데이션 모델의 파라미터 효율적 프롬프트 튜닝

1. 문제 정의

경도 인지 장애(MCI)는 알츠하이머병으로 진행되기 전 단계인 매우 중요한 초기 인지 저하 상태를 나타냅로. 신경심리 검사 도구(특히 시계 그리기 검사, 입방체 복사 검사, 선 추적 검사)를 이용한 자동 탐지는 세 가지 근본적인 제약에 직면해 있습니다:

1. 데이터 부족 및 불균형: 데이터셋은 대개 규모가 작고 클래스 분포가 치우쳐져 있습니다 (예: 건강한 대조군과 MCI 환자의 비율이 2.4:1).
2. 진단적 모호성: 임상적 경계가 불분명하며, MoCA 점수가 컷오프인 25점 주변에 밀집되어 있어 엄격한 이진 분류는 최적의 방법이 아닙니다.
3. 기존 방법론의 한계: 현재의 최첨단 방식들은 계산 비용이 많이 드는 전체 미세 조정(full fine-tuning) 하이브리드 아키텍처(예: ResNet과 ViT의 결합)에 의존하며, 이는 파라미터 효율성이 부족합니다. 또한, 이러한 모델에서의 해석 가능성은 내재적인 구조적 특성이 아니라 사후 근사치(예: attention rollout 또는 Grad-CAM)에 불과합니다.

2. 방법론

저자들은 DINOv2-Small 비전 파운데이션 모델을 **프롬프트 튜닝(Prompt Tuning)**과 새로운 **MoCA 적응형 포컬 로스(MoCA-adapted Focal Loss)**를 통해 적응시키는 파라미터 효율적인 프레임워크를 제안합니다.

2.1 아키텍처: 파라미터 효율적 프롬프트 튜닝

전체 백본을 미세 조정하는 대신, 모델은 DINOv2-Small의 가중치를 동결(frozen) 상태로 유지합니다. 적응은 다음을 통해 이루어집니다:

• 양식 특화 학습 가능 토큰(Modality-Specific Learnable Tokens): 세 가지의 서로 다른 학습 가능한 프롬프트 토큰이 도입되며, 이는 각 수행 과제(시계, 입방체, 선 추적)를 위한 것입니다. 각 토کن은 무작위로 초기화되며 엔드 투 엔드(end-to-end)로 최적화됩니다.
• 교차 주의 집중 집계(Cross-Attention Aggregation): 각 과제 특화 토큰은 공유된 교차 주의 집중 레이어에서 쿼리(query) 역할을 수행하며, 동결된 백본에 의해 처리된 해당 이미지의 패치 토큰들에 주목(attend)합니다. 이를 통해 특정 인지 기능에 대해 가장 정보가 풍부한 공간적 패치를 요약하는 과제 조건부 임베딩($e_k$)을 생성합니다.
• 학습 가능한 쿼리 주의 집중 융합(Learnable Query Attention Fusion): 세 가지 과제 임베딩은 임베딩들을 주목하는 학습 가능한 쿼리 벡터를 통해 하나로 융합됩니다. 이를 통해 최종 결정에 가장 큰 영향을 미친 드로잉 테스트가 무엇인지 나타내는 **양식 중요도 가중치($\alpha$)**와 융합된 환자 벡터를 생성합니다.
• 내재적 해석 가능성: 프롬프트 토큰에서 이미지 패치로 향하는 교차 주의 집중 가중치는 직접적인 공간적 돌출도 맵(spatial saliency maps) 역할을 하며, 추가적인 역전파 계산이나 사후 근사치를 필요로 하지 않습니다.

2.2 손실 함수: MoCA 적응형 포컬 로스

진단적 모호성과 클래스 불균형을 해결하기 위해, 저자들은 소프트 라벨 접근 방식을 일반화하는 통합 손실 함수를 도입합니다. 이는 다음을 통합합니다:

1. 소프트 앵커(Soft Anchor): 연속적인 MoCA 점수($m_i$)를 임상적 컷오프($C=25.5$)를 중심으로 하는 시그모이드 함수를 사용하여 소프트 타겟($s_i$)으로 변환합니다.
2. MoCA-확률 조절기(MoCA-Probability Modulator): 모델의 예측 확률($p_i$)과 MoCA 기반 기대값($s_i$) 사이의 불일치를 기준으로 손실을 재가중하는 새로운 조절기입니다. 예측이 점수 기반 기대치와 일치하지 않는 샘플에 더 높은 가중치를 부여합니다.
3. 적응형 샘플별 가중치(Adaptive Per-Sample Weighting): MoCA 점수 구간별로 상이한 피험자 빈도를 보정하여(MoCA-bin adaptive weighting), 희귀하거나 경계선에 있는 사례들이 무시되지 않도록 합니다.

2.3 훈련 전략

프레임워크는 다음과 같은 표적화된 증강 및 샘플링 전략을 채택합니다:

• 이미지 반전(Image Inversion): 흰색 배경의 드로잉을 사전 학습된 DINOv2의 자연 이미지 통계와 일치시키기 위해 픽셀 강도를 반전시킵니다.
• 클래스 균형 배치 샘플링: 각 배치 내에서 클래스의 균등한 표현을 보장합니다.
• 유형 보존 믹스업(Type-Preserving Mixup): 임상적 일관성을 유지하기 위해 동일한 드로잉 유형 내에서 이미지와 라벨을 보간합니다.
• MoCA-이웃 드로잉 스왑(MoCA-Neighbour Drawing Swap): 구조적 다양성을 높이기 위해 삼중항(triplet) 중 하나 또는 두 개의 드로잉을 유사한 MoCA 점수를 가진 피험자의 드로잉으로 교체합니다.

3. 주요 기여

1. 파라미터 효율적이고 해석 가능한 분류: 본 프레임워크는 동결된 파운데이션 모델을 활용하여 1.19백만 개의 학습 가능한 파라미터(전체 파라미터의 6% 미만)만을 사용합니다. 또한 추론 과정의 직접적인 부산물로서 공간적 주의 집중 맵과 양식 중요도 가중치를 산출합니다.
2. MoCA 인지형 포컬 로스: 연속적인 인지 점수를 훈련 타겟, 손실 조절 및 적응형 가중치에 통합함으로써 기존의 소프트 라벨 방식들을 엄격하게 일반화하는 통합 손실 공식을 제공합니다.
3. 표적화된 증강: 광학적 도메인 차이(이미지 반전)와 제한된 신경심리 데이터의 다양성(드로잉 스왑, 유형 보존 믹스업)을 해결하기 위해 설계된 전략을 사용합니다.

4. 실험 결과

모델은 918명의 피험자(건강한 그룹 651명, MCI 그룹 267명) 데이터셋을 대상으로 층화 5-겹 교차 검증(stratified five-fold cross-validation)을 통해 평가되었습니다.

• 성능: 제안된 아키텍처는 MCI 클래스 F1 점수 0.641 ± 0.026 및 AUC 0.795 ± 0.024를 달성했습니다.
• 비교: 제안된 모델은 훨씬 적은 수의 학습 가능한 파라미터를 사용함에도 불구하고, 계산량이 훨씬 많은 ResViT 베이스라인(하이브리드 ResNet50/ViT 모델)보다 MCI 클래스 F1에서 0.110 더 높은 성능을 보였습니다.
• 절제 연구(Ablation Studies):
  • MoCA-확률 조절기를 제거했을 때 가장 큰 성능 저하(F1MCI 0.017 감소)가 발생하여, 경계 모호성을 처리하는 데 있어 이 조절기의 결정적인 역할을 확인했습니다.
  • 과제 특화 프롬프트 토큰은 공유 토큰이나 CLS 전용 방식보다 MCI 민감도 측면에서 우수함이 밝혀졌는데, 이는 모델이 이를 평균화하는 대신 과제별 결함에 특화될 수 있도록 하기 때문입니다.
  • 프롬프트 튜닝은 LoRA 및 Top Tuning 전략보다 우수한 성능을 보였으며, 가장 적은 추가 파라미터로 최적의 MCI 재현율(recall)을 달 Achieve 했습니다.

5. 의의 및 주장

본 논문은 이 작업에 있어 아키텍처의 복잡성(여러 대규모 네트워크를 쌓는 것)이 불필요하다고 주장합니다. 대신, 자가 지도 학습 기반의 비전 파운데이션 모델을 가벼운 과제 특화 프롬프트 튜닝으로 적응시키는 것이 더 우수한 토대가 됩니다.

주요 의의에 대한 핵심 주장은 다음과 같습니다:

• 효율성: 본 방법론은 전체 미세 조정이나 하이브리드 아키텍처에 필요한 파라미터의 극히 일부만을 사용하여 최첨단 성능을 달성합니다.
• 내재적 해석 가능성: 사후 근사치에 의존하는 이전 연구들과 달리, 본 프레임워크는 구조적 결과로서 공간적 돌출도 맵과 양식 중요도 점수를 직접 제공합니다.
• 모호성 처리: MoCA 적응형 포컬 로스는 엄격한 이진 라벨 대신 연속적인 인지 점수를 활용함으로써 임상적 경계 근처의 내재적 불확실성을 효과적으로 다룹니다.
• 임상적 관련성: 어떤 특정 드로잉 양식(시계, 입방체, 또는 선 추적)이 예측을 주도했는지 식별할 수 있는 능력은 임상적 의사결정 지원에 유용할 수 있는 수준의 해석 가능성을 제공합니다. 다만, 저자들은 이를 위해 전문가의 판단에 대한 향후 검증이 필요함을 명시하고 있습니다.

저자들은 단일 기관의 단일 데이터셋 사용, 시간적 운동 데이터(펜 속도/압력)의 제외, 그리고 양식 가중치에 대한 임상 전문가의 외부 검증 필요성 등 한계점을 인정하며 신중한 입장을 유지합니다.