기술 요약: 인과 모델로서의 이진 스파이킹 신경망 (Binary Spiking Neural Networks)

문제 정의

본 논문은 인공 신경망(ANN)의 정확도와 설명 가능성 사이의 트레이드오프 문제를 다룬다. 이진 신경망(BNN) 및 이진 스파이킹 신경망(BSNN)은 하드웨어 효율성과 논리적 표현력 측면에서 이점을 제공하지만, 내부 의사결정 과정은 여전히 불투명하다. SHAP와 같은 기존의 설명 가능한 AI(XAI) 방법론들은 모델을 "블랙박스"로 취급하여 내부의 인과 구조를 고려하지 못하는 경우가 많다. 결과적으로, 이러한 방법들은 네트워크 출력과 인과적 연결이 없는 경우(예: 가중치가 0인 연결)에도 특정 특징을 유의미한 것으로 식별할 수 있다. 저자들은 BSNN의 역학을 인과적 프레임워크에 정식으로 매핑함으로써, 포함된 특징들의 인과적 관련성을 보장하는 엄격하고 논리 기반적인 설명을 생성할 수 있도록 이 간극을 메우고자 한다.

방법론

1. BSNN의 정식화

저자들은 BSNN 아키텍처 $S$를 입력 뉴런($I$), 비입력 뉴런($L$), 연결 관계($R$), 가중치 함수($W$), 그리고 발화 임계값($\tau$)으로 구성된 튜플로 정의한다. 이들은 누설(leak)이 없는 적분-발화(Integrate-and-Fire, IF) 메커니즘을 사용하여 스파이킹 역학을 모델링하며, 시간 $t$에서의 뉴런 발화 상태는 이전 상태와 유입되는 스파이크의 가중 합에 재귀적으로 의존한다.

• 가중치 양자화: 본 연구는 가중치가 이진 집합 $\{0, 1\}$ 또는 삼진 집합 $\{-1, 0, 1\}$로 양자화된 네트워크에 집중한다.
• 스파이크 인코딩: 실험에는 포아송 비율 코딩(Poisson rate coding)과 임계값 이진화 기법을 활용한다. 저자들은 설명 생성의 계산 복잡성을 관리하기 위해 복잡한 시간적 코딩(temporal coding)을 명시적으로 배제한다.

2. 이진 인과 모델(BCM)로의 매핑

본 연구의 핵심적인 방법론적 기여는 BSNN의 스파이킹 역학을 이진 인과 모델(Binary Causal Model, BCM)로 매핑하는 것이다.

• 변수: 각 시간 단계 $t$에서의 각 뉴런 $X$는 불리언 변수 $p_{X,t}$를 할당받는다. 입력 뉴런은 외생 변수에 해당하며, 비입력 뉴런은 내생 변수에 해당한다.
• 인과적 의존성: 발화 로직은 일련의 불리언 방정식(구조 방정식)으로 번역된다. 뉴런이 발화하기 위해서는 특정 조합의 선행 스파이크가 임계 조건을 충족해야 한다.
• 동등성: 저자들은 BSNN의 발화 함수가 BCM과 호환될 조건은 불리언 해석이 모델의 모든 방정식을 만족하는 것과 동치임을 증명한다(정리 5.2).

3. 가추적 설명(Abductive Explanation, AXp) 생성

본 논문은 특정 출력 분류를 보장하는 최소한으로 충분한 입력 특징(리터럴)의 집합으로 정의되는 **가추적 설명(AXp)**을 채택한다.

• 정의: 출력 $\omega_0$에 대한 AXp $\lambda$는 다음을 만족해야 한다: (i) $\lambda$는 주어진 입력에 대해 참이다; (ii) $\lambda$는 BCM 제약 조건 하에서 $\omega_0$를 논리적으로 함의한다; (iii) $\lambda$는 최소이다 (어떠한 진부분집합도 $\omega_0$를 함의하지 않음).
• 알고리즘: AXp를 찾기 위해 두 가지 솔버 기반 접근 방식이 구현되었다:
  1. SAT 기반: BCM과 설명 조건을 명제 논리로 인코딩한다.
  2. SMT 기반: SMT(특히 선형 정수 산술)를 사용하여 모델을 인코딩하며, 이는 변수 집합에 대한 보편 양화(universal quantification)를 피함으로써 상당한 속도 향상을 제공한다.
• 탐색 전략: 알고로리즘은 전체 입력을 나타내는 완전한 항(term)에서 시작하여, 함의 관계가 유효하게 유지되는지 확인하면서 리터럴을 반복적으로 제거한다.

4. 실험 설정

방법론은 필기 숫자 인식용 MNIST 데이터셋에 대해 테스트되었다.

• 아키텍처: 다양한 은닉층 크기($k \in \{8, 16, 32, 64, 128\}$)와 가중치 양자화(이진 및 삼진)를 가진 완전 연결 네트워크를 사용하였다.
• 태스크: 3자리 숫자 서브셋 및 전체 10자리 숫자 세트에 대한 분류 작업을 수행하였다.
• 검증: 이진 및 삼진 양자화 네트워크를 사용하여 높은 정확도(3자리 태스크의 경우 최대 ~95%)를 달럽하였다.

주요 기여

1. BSNN의 최초 인과적 매핑: 본 논문은 이진 스파이킹 신경망을 이진 인과 모델에 매핑하여 뉴런 단위 간의 시간적 인과 의존성을 포착하는 최초의 정식 매핑을 제시한다.
2. 논리 기반 설명 프레임워크: 이진 성질을 가진 BSNN을 통해 인과 모델로부터 직접 SAT 및 SMT 솔버를 사용하여 가추적 설명을 계산할 수 있음을 입증한다.

• 인과적 관련성의 보장: 본 프레임워크로부터 도출된 가추적 설명에 포함된 모든 특징은 반드시 네트워크의 은닉층과 0이 아닌 가중치 연결을 가져야 함을 증명하는 명제 6.2는 중요한 이론적 기여이다. 이는 설명에 완전히 무관한 특징이 포함되지 않음을 보장한다.

3. SHAP과의 비교 분석: 본 논문은 SHAP(SHapley Additive exPlanations)과의 엄격한 비교를 제공하며, SHAP이 모델 불가지론적 특성으로 인해 가중치가 0인 연결을 가진 특징에도 유의미성을 부여하는 경향이 있음을 지적한다.

결과

• 계산 효율성: SMT 기반 접근 방식이 SAT 기반 접근 방식보다 성능이 월등히 뛰어났다. 이진 가중치 네트워크($S^{bin}_k$)의 경우, SMT는 탐색 시간을 몇 시간(SAT의 경우 약 11시간)에서 몇 초(예: $k=32$일 때 약 12초)로 단축시켰다. 삼진 가중치 네트워크($S^{tern}_k$)의 경우, SMT 탐색 시간은 0.27~1.0시간 사이였다.
• 설명 품질: 생성된 설명은 분류를 트리거하기에 충분한 활성화되거나 비활성화된 픽셀의 최소 집합이었다.
• SHAP 비교:
  • SHAP은 샘플 크기에 따라 평균적으로 약 47%의 경우에서 가중치가 0인 연결을 가진 특징을 유의미한 것으로 잘못 식별하였다.
  • SHAP의 샘플 크기를 늘리면 이 오류율은 줄어들지만 계산 시간이 급격히 증가한다(예: 100만 개 샘플에 173초).
  • 반면, 제안된 논리 기반 방법은 수학적으로 무관한 특징이 설명에 포함되지 않음을 보장한다.

의의 및 주장

저자들은 본 연구가 BSNN을 형식 논리를 통해 해석 가능하게 만드는 기초적인 단계라고 위치시킨다. 저자들은 BSNN에 내재된 인과 구조를 활용함으로써, 효율적일 뿐만 아니라 형식적으로 보장된 무관한 특징 없는 설명을 생성할 수 있다고 주장한다. 이는 SHAP과 같은 통계적 또는 모델 불가지론적 방법으로는 제공할 수 없는 속성이다.

본 논문은 현재 작업이 가추적 설명(AXp)과 완전 연결 아키텍처에만 국과되어 있음을 겸허히 언급한다. 저자들은 이 프레임워크가 더 복적인 인과 개념(실제 원인 및 NESS 원인 등)과 합성곱 BSNN(C-BSNNs) 및 언어 데이터셋으로 학습된 네트워크와 같은 다른 아키텍처로 확장 가능하다고 제안하며, 이는 현재의 성과라기보다 향후 연구 방향으로 식별되었다.