Explaining RhythmFormer: A Systematic XAI Analysis of Periodic Sparse Attention for Remote Photoplethysmography

기술 요약: RhythmFormer: 원격 광혈류 측정(rPPG)을 위한 주기적 희소 어텐션의 체계적 XAI 분석

문제 정의

딥러닝, 특히 RhythmFormer와 같은 트랜스포머 기반 아키텍처를 이용한 원격 광혈류 측정(rPPical rPPG)은 벤치마크에서 낮은 심박수 오차를 달성했습니다. 그러나 이러한 시스템이 임상 배포 단계로 나아감에 따라, 그 의사결정 과정은 여전히 불투서합니다. 기존의 rPPG용 설명 가능한 AI(XAI) 접근 방식은 다음과 같은 한계가 있습니다:

1. 질적 우세: 정량적인 충실도(faithfulness) 지표 없이 시각적 히트맵 검사에 의존함.
2. 생리학적 근거 부족: 알려진 생리학적 신호원(예: 얼굴 피부 영역)에 대한 검증 부재.
3. 방법론적 격차: 원시 어텐션 맵(raw attention maps)이 모델의 집중도를 나타내는 충실한 대리 지표인지에 대해 논란이 있으며, 강조된 영역이 실제로 예측을 주도하지 않을 수 있음.
4. 희소 어텐션 복잡성: RhythmFormer는 top-k 선택을 통한 "이중 레벨 라우팅(bi-level routing)" 메커니즘을 사용하여 희소 어텐션 행렬을 생성합니다. 표준 누적 기여도 방법(예: attention rollout)은 이러한 희소성 제약이 레이어를 가로질러 어떻게 상호작용하는지 설명하지 못할 수 있습니다.

방법론

모델 및 아키텍처

본 연구는 rPPG를 위한 단일 스트림 트랜스포머인 RhythmFormer에 초점을 맞춥니다. 이 모델의 핵심 혁신은 계층적 시간 주기적 트랜스포머(TPT) 블록 내의 주기적 희소 어텐션(Periodic Sparse Attention) 메커니즘입니다:

• 이중 레벨 라우팅: 쿼리(Queries)와 키(Keys)가 투영 및 풀링되어 거친 점수를 생성합니다. top-k 선택(k=40)을 통해 영역을 필터링하여 가장 높은 점수를 받은 영역만을 유지합니다.
• 정밀 어텐션: 수집된 키-값(key-value) 쌍에 대해서만 표준 스케일드 닷 프로덕트(scaled dot-product) 어텐션을 적용합니다.
• 구조: 모델은 3개의 계층적 TPT 레벨로 구성되며, 각 레벨은 2개의 블록을 포함하여 총 6개의 어텐션 레이어를 가집니다.

XAI 프레틱워크

저자들은 RhythmFormer의 희소 아키텍처에 적합하도록 네 가지 기여도(attribution) 방법을 수정 및 적용했습니다:

1. Raw Attention: 어텐션 가중치의 열 단위 집계.
2. Attention Rollout: 입력과 출력 토큰 간의 전이적 관계를 포착하기 위해 확장된 어텐션 행렬을 재귀적으로 곱함.
3. Attention Flow: 어텐션을 흐름 네트워크(flow network)로 모델링하여 입력과 출력 토큰 사이의 최대 유량(maximum flow)을 계산함.
4. Beyond Intuition (BI): 어텐션 롤아웃과 통합 그래디언트(integrated gradients)를 결합한 하이브리드 방법. 이는 기여도를 다음과 같이 분해합니다:
   • $P(L)$: W-보정된 어텐션 롤아웃 (정보 흐름 왜곡을 보정하기 위해 값 투영 크기에 따라 토큰의 가중치를 재조정).
   • $F^c$: 마지막 레이어 어텐션에 대한 손실(loss)의 통합 그래디언트 마스크.
   • 최종 기여도: $T = P(L) \odot F^c$.

RhythmFormer를 위한 수정 사항: 저자들은 행렬 연산을 가능하게 하기 위해 희소 행렬을 밀집된(dense) $N \times N$ 행렬(제외된 영역은 0으로 처리)로 재구성합니다. 또한, 분포적 타당성을 유지하기 위해 통합 그래디언트의 베이스라인을 검은 화면 대신 클립당 평균 강도 비디오로 조정합니다.

평가 지표

시각적 검사를 넘어서기 위해 두 가지 정량적 지표를 도입했습니다:

1. 피부 커버리지(Skin Coverage): 전체 어텐션 질량 대비 생리학적으로 유효한 피부 영역(얼굴 및 목)에 떨어지는 어텐션 질량의 비율. 이는 사전 학습된 BiSeNet 얼굴 파서를 사용하여 계산됩니다.
2. SaCo 충실도(SaCo Faithfulness): 분류 문제를 rPPG 회귀로 적응시킨 것입니다. 이는 픽셀 그룹의 돌출도(salience) 순위와 예측 영향력(원래 파형과 섭동된 파형 사이의 평균 절대 오차(MAE)로 측정됨) 사이의 일관성을 측정합니다. SaCo 점수가 높을수록 고-돌출 영역을 마스킹했을 때 더 큰 예측 오차가 발생함을 의미하며, 이는 설명의 충실도를 확인해 줍니다.

주요 결과

1. 희소 어텐션에서의 멀티홉 누수(Multi-Hop Leakage)

표준 어텐션 롤아웃에서 발생하는 결정적인 발견은 "멀티홉 누수(multi-hop leakage)" 효과입니다.

• 관찰: 개별 정밀 어텐션 레이어는 top-k 선택을 통해 비대각 성분의 약 50%를 명시적으로 0으로 만들지만, 누적된 롤아웃 곱은 이러한 연결을 복원합니다.
• 정량화: 일반적인 롤아웃에서 발생하는 전체 비대각 기여도 질량의 약 48%는 적어도 하나의 레이어에서 0으로 처리되었던 항목에서 기인합니다.
• 결과: 이 누수는 정밀한 롤아웃이 "전(pre)-어텐션" 단계보다 오히려 피부 커버리지가 낮게 만드는 결과를 초래하며, 이는 희소성이 집중도를 높일 것이라는 직관에 반합니다.

2. Beyond Intuition의 성능

**Beyond Intuition (BI)**이 이 설정에서 가장 강력한 후보로 나타났습니다:

• 누수 완화: BI의 $P(L)$ 구성 요소에 포함된 W-보정은 멀티홉 누수를 감쇄시킵니다.
• 피부 커버리지: BI는 일반 롤아웃(0.57)이나 어텐션 플로우(0.46)에 비해 가장 높은 중앙값 정밀 피부 커버리지(0.83)를 달s합니다.
• 충실도: BI는 UBFC-rPPG 데이터셋에서 가장 높은 중앙값 SaCo 충실도 점수(0.92)를 기록했습니다.
• 메커니즘: 값 투영 가중치와 그래디언트 지원 마스크의 결합은 기여도를 모델이 실제로 의존하는 영역으로 효과적으로 제한하여, 표준 롤아웃의 "재채워진" 0(zeros)을 방지합니다.

3. 예측 품질과의 상관관계

• 파형 품질 vs 피부 커버리지: 피부 커버리지와 파형 재구성 충실도(Pearson $r$) 사이에 유의미한 양의 상관관계가 존재합니다.
• 심박수 오차 vs 피부 커버리지: 피부 커버리지와 심박수(HR) 평균 절대 오차(MAE) 사이에 약한 음의 경향이 존재합니다. 저자들은 이 상관관계가 약한 이유를 통제된 환경과 높은 SNR을 가진 UBFC-rPPG 데이터셋의 포화된 성능(saturated performance) 때문이라고 설명합니다. 즉, 불완한 파형조차 정확한 심박수 추정을 가능하게 하여 공간적 어텐션의 영향을 가리고 있습니다.
• 충실도 vs 정확도: SaCo 충실도 점수는 예측 정확도(MAE 또는 파형 $r$)와 유의미한 상관관계를 보이지 않습니다. 이는 모델이 특정 영역에 의존하더라도(충실함), 해당 영역이 반드시 가장 정확한 예측을 생성하는 것은 아니거나 그 반대의 경우가 있을 수 있음을 시사합니다.

4. 사례 연구: 아티팩트 제거(Artifact Ablation)

손 가림(hand occlusion)이 있는 클립(Subject 46, Clip 11)에 대한 사례 연구에서, BI는 처음에 매우 낮은 SaCo 점수($F = -0.53$)를 생성했습니다. 가려진 프레임을 안정적인 인접 프레임으로 교체한 후:

• 네 가지 방법 모두 SaCo 점수가 $F \approx 0.8$로 회복되는 것을 보여주었습니다.
• 피부 커버지도 개선되었습니다.
• 알고리즘적으로 서로 다른 방법들 간의 이러한 일관성은 SaCo가 아티팩트에 의한 기여도 불일치를 탐지하는 데 있어 견고한 지표로 작동함을 시사합니다.

의의 및 주장

본 논문은 시각적 타당성과 감사 가능한 증거 사이의 간극을 메운다고 주장합니다. 주요 기여는 다음과 같습니다:

1. 체계적 프레임워크: rPPG를 위한 희소 top-k 라우팅 트랜스포머에 특화되어 적응된 여러 기여도 방법의 첫 번째 정량적 비교를 제공합니다.
2. 누수 식별: 표준 누적 기여도 방법(rollout, flow)이 희소 아키텍처에서 "멀티홉 누수"를 겪으며, 이는 모델의 집중도에 대한 해석을 오도할 수 있음을 입증합니다.
3. 방법론 추천: 값 투영 가중치와 생리학적 우선순위(피부 커버리지) 및 충실도 지표에 대한 정렬을 통해, 누수를 명시적으로 완화하는 Beyond Intuition을 가장 견고한 방법으로 식한합니다.
4. 지표 적응: SaCo 충실도 계수를 분류 문제에서 rPPG 회귀로 성공적으로 적응시켜, 설명 품질에 대한 정량적 평가를 가능하게 했습니다.

저자들은 자신의 발견이 UBFC-rPPG 데이터셋과 RhythmFormer 아키텍처에 국한되어 있다는 점을 언급하며 신중한 입장을 유지합니다. 이들은 피부 커버리지와 심박수 오차 사이의 약한 상관관계가 데이터셋의 높은 품질에 의한 결과일 수 있음을 강조하며, 이러한 발견을 일반화하기 위해서는 더욱 다양하고 노이즈가 많은 데이터셋에 대한 추가 검증이 필요하다고 강조합니다.