Towards Uncertainty-Aware Federated Granger Causal Learning

기술 요약: 불확실성 인식 연방 그랜저 인과 학습을 위한 방향

문제 제기
스마트 그리드 및 공급망과 같은 분산 산업 시스템에서 하위 시스템들은 밀접하게 결합된 물리적 및 운영적 의존성을 통해 상호작용하며, 탈중앙화된 인과 구조를 형성합니다. 이러한 클라이언트 간 인과 상호작용 (그랜저 인과성) 을 식별하는 것은 고장 진단 및 위험 완화에 중요합니다. 그러나 데이터 주권 제약으로 인해 클라이언트 간 원시 시계열 데이터 공유가 불가능합니다. 데이터 공유 없이 이러한 상호작용을 복원하기 위해 연방 그랜저 인과성 (FedGC) 이 도입되었으나, 기존 방법들은 오직 결정론적 점 추정치만 반환합니다. 이러한 보정된 불확실성의 부재는 특히 유한 표본 효과와 이질적 노이즈가 존재할 때, 운영자가 진정한 클라이언트 간 상호작용과 허위 간선을 구별할 수 있는 원칙적 근거를 제공하지 못합니다.

방법론
본 논문은 FedGC 아키텍처의 결합된 클라이언트 - 서버 피드백 루프를 통해 불확실성이 어떻게 전파되는지를 특성화하는 불확실성 인식 FedGC 프레임워크를 제안합니다. 이 방법론은 클라이언트가 수직으로 분할된 특징을 관측하는 선형 시불변 (LTI) 상태 공간 모델을 기반으로 합니다.

1. 불확실성 분해: 저자들은 확률적 요소를 두 가지 소원으로 분할합니다.

   • 알레토릭 불확실성 (Aleatoric Uncertainty): 클라이언트 데이터에 내재된 불가감 노이즈 (측정 노이즈 및 과정 노이즈).
   • 에피스테믹 불확실성 (Epistemic Uncertainty): 모델 파라미터의 무작위성에서 비롯된 불확실성 (클라이언트 증강 행렬 $\theta_m$ 및 서버 인과 행렬 $\hat{A}_{mn}$에 대한 초기 사전 분포).

2. 전파 분석: 핵심 기술적 기여는 네 가지 서로 다른 채널을 가로질러 불확실성 전파를 추적하는 **폐형 공분산 재귀식 (closed-form covariance recursions)**의 유도입니다.

   • 클라이언트 내부: 클라이언트 파라미터 분산 ($\Sigma^t_{\theta_m}$) 및 상태 분산 ($\Sigma^t_{h_m}$) 의 진화.
   • 서버 내부: 서버 파라미터 분산 ($\Sigma^t_{A_{mn}}$) 의 진화.
   • 클라이언트에서 서버로: 클라이언트 상태 불확실성이 서버로 전파됨.
   • 서버에서 클라이언트로: 서버 기울기 불확실성이 클라이언트로 역전파됨.

   특히, 이 분석은 데이터 노이즈와 파라미터 불확실성을 아키텍처 전반에 걸쳐 결합시키는 네 가지 이전에 인식되지 않았던 **교차 공분산 항 ($\Omega^t_m, \Lambda^t_m, \Gamma^t_{mn}, \Psi^t_{mn}$)**을 식별합니다.

3. 정상 상태 특성화: 경미한 안정성 조건 (이득 행렬의 스펙트럼 반경 < 1) 하에서, 저자들은 시스템이 정상 상태로 수렴함을 증명합니다. 핵심 이론적 발견은 정상 상태 불확실성이 오직 클라이언트 데이터 통계 (알레토릭 불확실성) 에만 의존하며 초기 에피스테믹 사전 분포와는 무관하다는 것입니다. 학습이 수렴함에 따라 초기 파라미터 무작위성의 영향은 감소하여, 데이터 노이즈가 정상 상태 행동의 유일한 동인이 됩니다.

4. 하류 활용성: 점근 공분산 $\Sigma^\infty_{A_{mn}}$을 활용하여 저자들은 학습 후 가설 검정 절차를 구성합니다. 이 검정은 유도된 표준 편차를 사용하여 추론된 간선의 유의성 ($H_0: A_{mn} = 0$) 을 평가하여 허위 간선의 통계적 가지치기를 가능하게 합니다.

주요 기여

• 이론적 기반: 결합된 동적 시스템을 위한 수직 분할 연방 학습에서 불확실성 정량화를 공식화한 최초의 작업으로, 알레토릭 및 에피스테믹 효과를 명시적으로 구분합니다.
• 폐형 재귀식: 불확실성 전파에 대한 명시적 식을 유도하여 클라이언트 데이터, 클라이언트 파라미터, 서버 파라미터 간의 상호작용을 지배하는 네 가지 새로운 교차 공분산 항을 식별했습니다.
• 수렴 보장: 클라이언트 및 서버 노드 모두에서 정상 상태 분산에 대한 폐형 해를 도출하는 스펙트럼 반경 기반 수렴 조건을 확립했습니다.
• 사전 분포 무관성: 점근 불확실성이 클라이언트 데이터 분포에 의해서만 결정됨을 증명하여, 최종 모델의 불확실성이 초기화에 무관함을 입증했습니다.
• 통계적 간선 선택: 유도된 불확실성을 사용하여 진정한 인과 간선과 노이즈를 구별하는 가설 검정 프레임워크를 개발하여, 결정론적 FedGC 의 주요 한계를 해결했습니다.

실험 결과
본 프레임워크는 합성 데이터셋과 세 가지 실제 산업 데이터셋 (HAI: HIL 기반 증강 ICS, TEP: 테네시 이스트먼 공정, SMD: 서버 머신 데이터셋) 에서 검증되었습니다.

• 이론 검증: 실험은 예측된 불확실성 전파가 다양한 노이즈 영역에서 이론적 역학과 일치함을 확인했습니다. 결과는 정상 상태 공분산이 초기 파라미터 사전 분포의 분산에 영향을 받지 않음을 보여주어 에피스테믹 불확실성으로부터의 독립성을 검증했습니다.
• 인과 발견: 알려진 실제값 (ground truth) 을 가진 합성 데이터에서, 불확실성 인식 FedGC 는 모든 참 간선을 복원하지만 많은 허위 간선도 예측하는 'Vanilla FedGC'에 비해 거짓 양성 (FP) 을 현저히 줄이면서 거짓 음성 (FN) 은 0 으로 유지했습니다. 이는 클라이언트 간 상호작용을 효과적으로 모델링하지 못했던 FedPC, FedDAG, NOTEARS-ADMM 과 같은 베이스라인보다 우수한 성능을 보였습니다.
• 근본 원인 분석: 실제 데이터셋에서 제안된 방법은 베이스라인에 비해 이상치 근본 원인 국소화 정확도 (AC@k 로 측정) 를 향상시켜, 추론된 인과 그래프의 실용적 유용성을 입증했습니다.

의의 및 주장
본 논문은 연방 그랜저 인과 학습에서 불확실성을 분석하기 위한 최초의 이론적 기반을 제공한다고 주장합니다. 주요 의의는 FedGC 를 결정론적 점 추정 도구에서 통계적으로 원칙적인 프레임워크로 전환하는 데 있습니다. 정상 상태 불확실성이 초기화가 아닌 데이터 특성에 의해서만 주도됨을 증명함으로써, 저자들은 운영자가 추론된 클라이언트 간 상호작용을 신뢰하거나 거부할 수 있는 방어 가능한 근거를 제공합니다. 제안된 가설 검정 메커니즘은 허위 간선을 필터링하는 엄격한 방법을 제공하여, 데이터 실로화되고 수직으로 분할된 환경에서 신뢰할 수 있는 인과 구조를 식별하는 과제를 직접적으로 해결합니다.

한계점
저자들은 이론적 결과가 선형 시불변 동역학 및 가우시안 노이즈 가정에 의존함을 인정합니다. 비선형 모델로의 확장 (EKF 및 가우시안 프로세스를 통해) 은 구조적으로 논의되었으나, 비선형 영역에 대한 엄격한 수렴 보장 및 '알레토릭 전용' 정상 상태 속성은 공식적으로 확립되지 않았습니다. 또한, 서버 파라미터가 블록 행 간에 독립적이라는 가정이 포함되어 있으며, 이는 공유 잠재 혼란 변수가 있는 시스템에서는 성립하지 않을 수 있습니다. 마지막으로, 가설 검정은 점근 공분산에 의존하며, 학습 시간과 정상 상태 불확실성 사이의 격차를 정량화하는 유한 표본 경계는 유도되지 않았습니다.