기술 요약: 지속적 학습을 위한 샤플리 뉴런 값

1. 문제 제기

지속적 학습 (Continual Learning, CL) 은 신경망이 이전에 습득한 지식을 망각하지 않고 순차적 작업을 학습할 수 있도록 하는 것을 목표로 합니다. 그러나 표준 신경망은 새로운 작업을 학습할 때 이전 작업의 성능이 저하되는 재앙적 망각 (catastrophic forgetting) 현상에 시달립니다. 기존 해결책들은 다음과 같은 중대한 한계에 직면해 있습니다:

• 메모리 기반 방법 (예: iCaRL, DER++) 은 과거 데이터를 저장하고 재생성하여, 과거 데이터에 접근할 수 없는 엄격한 CL 설정을 위반하며 (GDPR 과 같은) 개인정보 보호 문제를 야기합니다.
• 동적 아키텍처 방법 (예: PNN, DyTox) 은 시간이 지남에 따라 모델 크기를 확장하여 무제한적인 파라미터 증가와 계산적 비실용성을 초래합니다.
• 정규화 기반 방법 (예: EWC, SI) 은 종종 이질적인 작업에서 어려움을 겪으며, 보조 모듈이나 작업별 제약을 필요로 할 수 있습니다.

이 연구가 다루는 핵심 과제는 과거 데이터를 재방문하지 않고 아키텍처를 확장하지 않으면서, 고정 용량의 백본 네트워크 내에서 망각에 강한 지속적 학습을 달성하는 것입니다.

2. 방법론: 샤플리 뉴런 값 (SNV)

저자들은 현대 신경망의 고유한 과파라미터화 특성을 활용하는 버퍼 없는 프레임워크인 샤플리 뉴런 값 (Shapley Neuron Values, SNV) 을 제안합니다. 이 방법은 협력 게임 이론의 원리를 사용하여 각 작업에 대한 "전문가 서브네트워크 (expert subnetworks)"를 식별하고 보존합니다.

핵심 메커니즘

1. 뉴런 정의: 합성곱 네트워크에서 "뉴런"은 합성곱 필터 (커널) 로 정의됩니다.
2. 샤플리 평가: 각 뉴런의 중요도는 네트워크의 다양한 부분집합에 대한 한계 기여도에 기반하여 모델의 성능 지표 $V(M)$ 을 뉴런들 사이에 공정하게 분배하는 샤플리 값 (Shapley Values) 을 사용하여 정량화됩니다.
   • 이 평가는 효율성, 영 기여도, 대칭성, 선형성이라는 네 가지 공리를 만족합니다.
   • 뉴런 $i$에 대한 샤플리 값 $\phi_i$는 다음과 같이 계산됩니다:
     $$\phi_i = \sum_{S \subseteq M \setminus \{i\}} \frac{|S|!(|M| - |S| - 1)!}{|M|!} [V(S \cup \{i\}) - V(S)]$$
   • 여기서 $V(S)$는 $M \setminus S$에 포함된 뉴런들을 평균 활성화로 대체 (마스킹) 했을 때의 모델 성능을 나타내며, 재학습 없이 신호 통계를 보존합니다.
3. 근사 전략: 정확한 샤플리 계산은 지수적이므로, SNV 는 세 가지 근사 기법을 사용합니다:
   • 몬테카를로 추정: 한계 기여도를 추정하기 위해 뉴런의 순열을 샘플링합니다.
   • 절단 (Truncation): 성능이 임계값 아래로 떨어지는 작은 부분집합에 대한 한계 계산을 건너뜁니다 (모델이 비기능적이라고 가정).
   • 멀티-암드 밴딧 (MAB): 가장 중요한 뉴런을 효율적으로 식별하기 위해 상위 $k$개 추정 값과 중첩되는 신뢰 구간을 가진 뉴런에 샘플링 노력을 집중합니다.
4. 동결 (Freezing) 과 가소성 (Plasticity):
   • 각 작업 $t$에 대해, 가장 높은 샤플리 값을 가진 상위 $c \cdot N$개의 뉴런 (여기서 $c$는 희소성 비율이고 $N$은 총 뉴런 수) 이 선택됩니다.
   • 작업 1 부터 $t$까지 선택된 모든 뉴런을 표시하는 누적 이진 마스크 $B_t$ 가 유지됩니다.
   • 작업 $t+1$에 대한 학습 중에는 $B_t$에 포함된 모든 뉴런에 대해 기울기가 차단 (동결) 되며, 나머지 "가소성" 뉴런만 업데이트됩니다. 이는 과거 작업에 대한 안정적인 지식 보존을 보장하면서도 새로운 작업에 대한 유연성을 허용합니다.

3. 주요 기여

• 원칙적인 뉴런 선택: 휴리스틱 또는 이진 중요도 점수를 넘어, 특정 작업에 가장 중요한 뉴런을 식별하기 위한 게임 이론적 프레임워크 (샤플리 값) 를 도입합니다.
• 버퍼 없는 및 고정 용량: 중요한 뉴런을 선택적으로 동결함으로써 재학습 버퍼나 아키텍처 확장의 필요성 없이 고정 용량 네트워크가 무한히 순차적 작업을 학습할 수 있음을 입증합니다.
• 안정성 - 가소성 트레이드오프: 동결된 안정적 뉴런을 통한 지식 보존과 가소성 뉴런을 통한 새로운 작업 학습을 명시적으로 분리하여 작업 간 간섭을 줄입니다.
• 효율적인 추정: 지속적 학습에 샤플리 값 추정을 계산적으로 가능하게 하는 실용적인 파이프라인 (몬테카를로 + 절단 + MAB) 을 제안합니다.

4. 실험 결과

ResNet-18 을 사용하여 CIFAR-100, Tiny-ImageNet, ImageNet-1k에서 실험을 수행했으며, 클래스 증분 학습 (CIL) 과 작업 증분 학습 (TIL) 시나리오 모두를 포함했습니다.

성능 하이라이트

• ImageNet-1k (CIL): SNV 는 10 개 작업에서 **41.30%**의 정확도를, 20 개 작업에서 34.20%, 50 개 작업에서 **25.60%**의 정확도를 달성했습니다. 이는 모든 버퍼 없는 베이스라인 (예: NFL+, DCNet) 을 일관되게 능가했으며, 20,000 개의 예시물을 저장하는 메모리 기반 방법인 DyTox 를 10 개 작업 시나리오에서 능가했습니다.
• ImageNet-1k (TIL): SNV 는 0.0의 역방향 전이 (BWT) 로 **57.82%**의 정확도를 달성하여, 모든 버퍼 없는 방법을 능가하고 데이터를 저장하지 않고도 메모리 기반 방법과 맞먹거나 초과하는 성능을 보였습니다.
• 베이스라인 비교:
  • CIL 에서 SNV 는 10 개 작업에서 두 번째로 좋은 버퍼 없는 방법 (NFL+) 보다 정확도를 +2.88% 향상시켰으며, 50 개 작업에서는 이 격차가 **+3.20%**로 벌어졌습니다.
  • TIL 에서 SNV 는 CIFAR-100 에서 $c=0.5$일 때 WSN(Winning SubNetwork) 보다 15.76% 더 높은 성능을 보여, 이진 휴리스틱 선택보다 원칙적인 샤플리 선택이 우수함을 입증했습니다.
• 파라미터 효율성: 가지치기 분석 결과, SNV 는 PEC 나 EWC 와 같은 방법보다 파라미터를 더 효율적으로 활용하는 것으로 나타났습니다. SNV 는 붕괴되기 전 더 깊은 가지치기 하에서도 높은 정확도를 유지하여, 덜 중복되고 더 중요한 파라미터 사용임을 나타냈습니다.
• 계산 비용: SNV 는 경량 정규화 (예: EWC) 보다 더 많은 FLOPs 를 필요로 하지만, 오버헤드는 적당합니다 (~NFL+ 의 1.24 배). 2.8 배의 FLOPs 와 2.1 배의 GPU 메모리가 필요한 DyTox 와 같은 메모리 기반 방법보다 훨씬 효율적입니다.

5. 중요성과 주장

이 논문은 SNV 가 자원 제약이 있고 개인정보 보호가 중요한 환경에 적합한, 재앙적 망각에 대한 원칙적이고 버퍼 없는 해결책을 제공한다고 주장합니다.

• 개인정보 보호: 과거 데이터 저장 필요성을 제거함으로써 데이터 보관 규정 (예: GDPR) 과 관련된 개인정보 위험을 피합니다.
• 확장성: 동적 아키텍처 방법의 무제한 메모리 증가를 피합니다.
• 효과성: 저자들은 단순히 샘플을 저장하고 재생성하는 것이 최적의 전략이 아닐 수 있다고 주장하며, 대신 고정된 네트워크 내에서 "올바른" 뉴런을 식별하고 보존하는 것이 엄격한 지속적 학습을 위한 더 견고한 접근법이라고 합니다.
• 한계: 저자들은 작업 후 샤플리 추정 단계가 계산 비용을 추가하여 매우 큰 모델의 경우 병목 현상이 될 수 있음을 인정합니다. 향후 연구는 별도의 추정 단계를 없애기 위해 이러한 값을 온라인으로 근사하는 것을 목표로 합니다.

이 연구는 SNV 를 메모리 기반 접근법에 대한 강력한 대안으로 위치시키며, 엄격한 데이터 접근 제약을 위반하지 않고도 지속적 학습에서 높은 성능을 달성할 수 있음을 입증합니다.