Adaptive Group-Based Counterfactual Explanations for Time-Series Rehabilitation Data

기술 요약: 시계열 재활 데이터를 위한 적응형 그룹 기반 반사실적 설명(Adaptive Group-Based Counterfactual Explanations)

문제 정의
임상 재활, 특히 다중 센서 관성 측정 장치(IMU)를 통한 움직임 분석 시, 머신러닝 모델은 도메인 전문가들에게 해석 가능성이 부족한 경우가 많습니다. 임상의들은 개별 센서 채널이 아니라 의미론적 특징 그룹(예: 근육군, 관절 세그먼트, 시너지)을 기준으로 추론합니다. 표준적인 시계열 반사실적 설명(Counter-factual Explanation, CE) 방식은 일반적으로 채널 단위로 작동합니다. 이러한 접근 방식은 고차원 IMU 설정(예: 8개 센서로부터의 48개 채널)에서 네 가지 결정적인 문제를 야기합니다:

1. 조합 폭발(Combinatorial Explosion): 탐색 공간이 채널 수와 타임 스텝의 곱에 비례하여 확장되므로, 결과적으로 밀집되고 분산된 섭동(perturbation)이 발생합니다.
2. 생체역학적 비일관성(Biomechanical Incoherence): 채널 단위의 편집은 물리적 제약을 위반할 수 있어, 비현실적인 시퀀스(예: 관절 운동학을 무시한 고립된 축 변화)를 생성할 수 있습니다.
3. 시간적 파편화(Temporal Fragmentation): 분산된 편집은 일관된 개입 창(intervention window) 대신 "시간적 컨페티(temporal confetti, 흩뿌려진 종이 조각)" 현상을 만듭니다.
4. 계층 구조의 부재(Lack of Hierarchy): 설명이 시스템 수준의 개념(근육군)을 특정 센서로 매핑하는 데 실패합니다.

기존 방법론들은 센서 그룹화나 세그먼트 수준의 추상화를 거의 반영하지 못하며, 이는 임상적 유용성을 제한합니다.

방법론
저자들은 고차원 시계열 데이터에 대한 그룹 기반 반사실적 설명을 생성하기 위한 2단계 프레임워크인 Adaptive-MO를 제안합니다. 이 방법은 도메인 지식 기반의 그룹화와 적응형 다목적 최적화(adaptive multi-objective optimization)를 통합합니다.

1. 도메인 기반 그룹화(Domain-Informed Grouping):
   본 프레임워크는 해부학적 위치와 신호 모달리티를 기반으로 센서 그룹을 정의합니다. 구체적으로, 가속도계와 자이로스코프 신호를 각 근육에 대해 별개의 그룹으로 취급하는 모달리티 기반 그룹화 전략을 채택합니다(48개 채널로부터 16개 그룹 생성). 이는 선형 가속도와 회전 운동학을 구분하면서 해부학적 관계를 보존합니다.

2. 샤플리 적응형(Shapley-Adaptive, SA) 그룹 랭킹:
   탐색 복잡도를 줄이기 위해, 본 방법은 먼저 채널 수준의 샤플리 값(GradientSHAP 활용)을 추정하고, 이를 최대 절대값을 사용하여 그룹 수준의 중요도로 집계합니다. 상위 $k$개의 영향력 있는 그룹을 선택하여 최적화 탐색 공간을 제한합니다. 그러나 실험 결과, 정적인 SA 랭킹은 유효성은 유지하지만 충분한 그룹 수준의 희소성(sparsity)을 강제하는 데 실패함을 확인했습니다.

3. 학습 가능한 게이트(Learnable Gate, LG) 메커니즘:
   희소성 문제를 해결하기 위해, 저자들은 학습 가능한 게이트를 도입했습니다. 이는 섭동 마스크와 함께 공동 최적화되는 학습 가능한 그룹별 관련성 파라미터($\gamma_g$)입니다.

• 파라미터화: 입력값과 가장 가까운 다른 이웃(guide)을 연속적인 마스크를 통해 혼합함으로써 반사실적 사례를 생성합니다.
• 정규화: 게이트는 사용되지 않는 게이트를 0으로 유도하는 $\ell_1$ 패널티와 게이트를 0 또는 1로 밀어내는 이진화(binarization) 패널티가 결합된 방식으로 정규화됩니다. 이를 통해 모델은 최적화 과정 중 불필요한 그룹을 동적으로 제거하여, 희소하고 이진화된 그룹 서브셋을 생성할 수 있습니다.

4. 다목적 최적화(Multi-Objective Optimization):
   프레임워크는 다음 네 가지 항으로 구성된 총 손실 함수를 최적화합니다:

• 유효성(Validity): 수정된 입력이 타겟 클래스를 예측하도록 보장합니다.
• 희소성(S Sparsity): 마스크의 크기(채널 수준)와 활성화된 그룹 수를 최소화합니다.
• 시간적 매끄러움(Temporal Smoothness): 고차 도함수 전변동(total variation) 노름을 통해 매끄러움을 강제합니다.
• 게이트 정규화(Gate Regularization): 최소한의 그룹 세트 선택을 장려합니다.
  적응형 가중치 스케마는 확신 있는 타겟 예측이 달성되면 강조점을 유효성에서 희소성으로 전환합니다.

주요 기여

1. Adaptive-MO 프레임워크: 고차원 시계열에 대한 구조화된 CE를 위해 샤플리 기반 그룹 랭킹과 동적 센서 그룹 선택을 결합한 새로운 프레임워크를 제안합니다.
2. 학습 가능한 게이트(LG) 메커니즘: 섭동 마스크와 공동 최적화되어 희소하고, 해석 가능하며, 임상적으로 의미 있는 센서 그룹 세트를 자동으로 선택하는 방법을 제시합니다.
3. 경험적 검증: KneE-PAD 데이터셋(31명의 환자, 8개의 IMU, 3가지 운동: 스쿼트, 무릎 신전, 보행)에 대한 체계적인 평가를 통해, 그룹 구조화된 반사실적 설명이 간결한 근육 수준의 교정 가이드를 제공함을 입증했습니다.

결과
실험에서는 제안된 LG 변형 모델들을 채널 수준의 M-CELS 베이스라인(다변량 시계열을 위한 최첨단 방법)과 비교하였습니다.

• 유효성 및 성공률: 가장 성능이 우수한 LG-SHAP pruned 변형 모델은 높은 타겟 확신도(80.8%)와 함께 **94.7%**의 반사실적 성공률을 달이트(M-CELS의 90.0% 대비).
• 희소성: LG 방법은 설명 복잡성을 크게 줄였습니다. LG-SHAP pruned는 평균 8.2개의 모달리티 그룹(M-CELS의 11.2개 대비 27% 감소)과 18.0개의 채널(22% 감소)을 수정했습니다. LG-fixed prune 변형 모델은 유효성의 약간의 트레이드오프를 통해 더 높은 희소성(5.2개 그룹)을 달성했습니다.
• 타당성 및 매끄러움: 그룹 구조화된 섭동은 M-CELS와 대등한 시간적 매끄러움을 유지하여, 인위적인 불연속성을 도입하지 않음을 보여주었습니다.
• 운동 특이적 패턴: LG는 생체역학에 부합하는 운동 특이적이고 선택적인 활성화 패턴(예: 무릎 신전 시 대퇴사두근/햄스트링 공동 수축 타겟팅)을 생성한 반면, M-CELS는 그룹 전반에 걸쳐 확산되고 넓은 활성화를 보였습니다.
• 효율성: LG 변형 모델의 생성 시간(8.0–9.7초)은 M-CELS(10.0초)와 비슷하거나 더 빨랐습니다.

의의 및 주장
본 논문은 제안된 프레임워크가 반사실적 품질을 저하시키지 않으면서 해석 가능성을 향상시킨다고 주장합니다. 센서 그룹화를 임상적 추론(근육군 및 관절 세그먼트)과 일치시킴으로써, 이 방법은 **실행 가능한 설명(actionable explanations)**을 생성합니다.

• 임상적 정렬: 그룹 구조화된 반사실적 설명은 물리치료사의 계층적 추론과 일치하는 간결한 근육 수준의 교정 가이드(예: "오른쪽 햄스트링 활동을 줄이십시오")를 제공합니다.
• 구조적 개선: 본 연구는 동적 특징 그룹 수준의 최적화가 채널 수준 방법보다 더 해석 가능하고 신뢰할 수 있는 설명을 생성함을 입증합니다.
• 설계 선택: 본 논문은 센서 그룹화가 시계열 반사실적 설명을 위한 이론적으로 근거 있고 실질적으로 중요한 설계 선택임을 강조합니다.

한계점 및 향후 과제
저자들은 실험이 특정 환자 기록을 포함한 KneE-PAD 데이터셋에 국한되었다고 언급했습니다. 센서 그룹화는 하체 IMU를 위해 수동으로 제작되었습니다. 향후 연구로는 자동 그룹 발견, 다중 모달 융합(예: sEMG와 결합), 원격 재활을 위한 실시간 배포, 그리고 신뢰도와 실행 가능성을 평가하기 위한 임상의 대상 사용자 연구 등이 제안되었습니다.