Multi-Modal Graph Neural Network with Transformer-Guided Adaptive Diffusion for Preclinical Alzheimer Classification

기술 요약: 전임상 알츠하이머 분류를 위한 트랜스포머 유도 적응형 확산 기반 멀티 모달 그래프 신경망

문제 정의
관심 영역(ROI)과 그 연결체(connectome) 특징으로부터 구축된 뇌의 그래프 표현은 알츠하이머병(AD)과 같은 신경퇴행성 질환을 진단하는 데 결정적인 통찰을 제공한다. 그러나 기존의 그래프 신경망(GNN)은 이러한 네트워크를 해석하는 데 있어 내재적인 한계에 직면해 있다. 전통적인 합성곱 방식은 먼 이웃으로부터 정보를 집계하는 데 어려움을 겪으며, 어텐션 기반 방식은 특히 중추적인 노드의 핵심적인 특성을 파악하는 데 있어 충분한 노드 중심 정보를 포착하지 못하는 경우가 많다. 이러한 결함은 다양한 영상 모달리티(예: MRI, PET)를 활용할 때 질병 특이적 변이를 식별하는 것을 방해한다. 또한, 여러 바이오마커 크기에서 발생하는 이질성은 국소적 대 글로벌 그래프 속성의 분석을 복잡하게 만든다.

방법론: GTAD 프레임워크
저자들은 단거리(국소) 및 장거리(글로벌) 그래프 속성을 모두 집계하도록 설계된 통합 프레임워크인 GTAD(Transformer-guided Adaptive Diffusion, 트랜스포머 유도 적응형 확산)를 제안한다. 이 아키텍처는 세 가지 주요 구성 요소로 이루어져 있다:

1. 모달리티별 적응형 합성곱 블록:

   • 모델은 뇌 네트워크를 정규화된 라플라시안 $\hat{L}$을 가진 무방향 그래프 $G$로 취급한다.
   • 각 영상 모달리티 $m$에 대해, 인코더는 열 커널 합성곱(heat-kernel convolution)을 사용하여 노드 특징 $x^m$을 처리한다. 합성곱 연산은 $H^m_z = \sigma_z(e^{-s^m \hat{L}} H^m_{z-1} W^m_z)$로 정의되며, 여기서 $s^m$은 각 모달리티에 특화된 학습 가능한 노드별 스케일 벡터이다.
   • 고정된 커널과 달리, 이 스케일들은 서로 다른 모달리티에 따른 개별 노드의 국소적 특성을 적응적으로 포착하기 위해 학습된다. 이를 통해 모델은 특정 영상 데이터에 기반하여 각 ROI의 최적의 이웃 범위를 결정할 수 있다.

2. 모달리티별 셀프 어텐션 블록:

   • 합성곱 블록의 임베딩 $\{H^m_Z\}$는 트랜스포머 기반 셀프 어텐션 메커니즘으로 입력된다.
   • 모든 토큰을 균등하게 다루는 일반적인 트랜스포머와 달리, GTAD는 각 모달리티에 특정 어텐션 헤드를 할당한다. 이를 통해 모델은 국소 합성곱이 포착하지 못하는 그래프 상의 장거리 정보를 통합할 수 있다.
   • 멀티 헤드 셀프 어텐션은 다양한 ROI에 걸쳐 서로 다른 모달리티로부터의 정보에 공동으로 주의를 기울임으로써 글로벌 특성을 계산한다. 이 블록에는 학습을 안정화하기 위한 잔차 연결(residual connections)과 레이어 정규화가 포함된다.

3. 트랜스포머 유도 스케일 업데이트:

   • 어텐션 블록의 글로벌 표현 $B_P$는 질병 레이블을 예측하기 위해 다운스트림 분류기로 전달된다.
   • 손실 함수(교차 엔트로피)는 가중치를 업데이트할 뿐만 아니라 모달리티별 스케일 $s^m$을 업데이트하도록 역전파된다.
   • 열 커널에 대한 양수 스케일을 보장하기 위해 $\ell_1$ 노름 규제가 적용된다. 이 메커니즘을 통해 트랜스포머는 적응형 확산 과정을 유도하여, 글로벌 분류 작업에 기반해 국소 수용 영역(receptive fields)을 효과적으로 조정할 수 있게 한다.

주요 기여

1. 새로운 프레임워크: 본 논문은 적응형 확산 커널을 통한 단거리 속성과 멀티 헤드 어텐션을 통한 장거리 속성을 결មាន하는 프레임워크를 제안하여, 순수 합성곱 또는 순수 어텐션 기반 GNN의 한계를 해결한다.
2. 우수한 성능: 모델은 합성곱 기반 GNN(GCN, GAT), 확산 기반 GNN(GraphHeat, GDC, ADC, LSAP), 그리고 그래프 트랜스머(NodeFormer, DIFFormer, SGFormer)를 포함한 다양한 베이스라인 모델들을 능가하며 전임상 AD 그래프 분류 작업에서 최첨단(SOTA) 성능을 입증했다.
3. 해석 가능성: 프레임워크는 학습된 노드별 스케일과 어텐션 점수를 통해 해석 가능성을 제공한다. 이를 통해 전임상 AD와 관련된 핵심 ROI를 식별할 수 있으며, 특정 영상 모달리티에 대해 어떤 해부학적 영역이 가장 중요한지에 대한 통찰을 제공한다.

실험 결과
실험은 정상 대조군(CN), 유의미한 기억력 저하(SMC), 초기 경도 인지 장애(EMCI)로 분류된 919명의 전임상 피험자를 포함하는 알츠하이머병 신경영상학 이니셔티브(ADNI) 데이터셋을 대상으로 수행되었다. 연구에는 확산 텐서 영상(DTI)의 구조적 뇌 네트워크와 FDG-PET, $\beta$-아밀로이드-PET, MRI(피질 두께)의 ROI 측정이 사용되었다.

• 분류 정확도: GTAD는 모든 모달리티 조합에서 가장 높은 정확도를 달 기록했다. 특히, 모든 영상 특징을 사용할 때 96.3%의 정확도를 달성하여 차순위 성능을 보인 트랜스포머 기반 방법(SGFormer, 95.1%)을 앞질렀다.
• 강건성: 모델은 피질 두께와 $\beta$-아밀로이드를 사용하여 초기 AD 단계를 예측하는 것과 같이 어려운 조건에서도 높은 성능을 유지했으며, 이때 정확도는 94.5%에 달했다.
• 절제 연구(Ablation Study): 적응형 합성곱 레이어나 멀티 모달 어텐션 메커니즘을 제거했을 때 성능이 크게 하락하였으며, 이는 국소 적응형 스케일과 글로벌 어텐션의 공동 학습이 모델의 효과성에 필수적임을 확인시켜 준다.

해석 가능성 발견 사항
연구는 학습된 스케일과 어텐션 점수를 분석하여 질병 특이적 변이를 식별하였다:

• 적응형 스케일: 모델은 학습된 스케일이 작은 ROI는 이웃 정보에 크게 의존하는 반면, 큰 스케일을 가진 ROI는 먼 곳의 특징을 필요로 한다는 것을 식별했다. 스케일은 동일한 뇌 영역에 대해서도 모달리티별로 유의미하게 다르게 나타났으며, 이는 서브네트워크에 대한 다차원적 이해를 제공한다.
• 핵심 ROI: 모델은 높은 중요도를 가진 특정 영역을 강조했는데, 여기에는 설회(lingual gyrus)(모든 모달리티에서 가장 높은 중요도율로 검출됨), 해마(hippocampus)(FDG에서 높은 중요도), 그리고 피각(putamen)(피질 두께 및 $\beta$-아밀로이드에서 높은 중요도)이 포함된다. 이 영역들은 AD 진행 과정에서 가장 먼저 영향을 받는 곳으로 알려져 있다.

의의
저자들은 GTAD가 전임상 AD 분류 및 해석을 위한 실질적인 솔루션을 제공한다고 주장한다. 트랜스포머 유도 확산 과정을 통해 국소 및 글로벌 그래프 속성을 효과적으로 결합함으로써, 모델은 진단 정확도를 높일 뿐만 아니라 질병과 관련된 핵심 해부학적 영역을 식별한다. 이러한 이중 능력은 특정 바이오마커 변이를 규명함으로써 조기 진단과 질병 예방 전략의 가능성을 지원한다.