기술 요약: ACIL – 이미지 분류를 위한 능동적 클래스 점진적 학습 (Active Class Incremental Learning)

1. 문제 정의

본 논문은 컴퓨터 비전 분야의 클래스 점진적 학습(Class Incremental Learning, CIL) 과제를 다룹니다. 이는 딥 뉴럴 네트워크(DNN)가 이전 클래스에 대한 지식을 유지하면서 에피소드 데이터로부터 새로운 클래스를 순차적으로 학습해야 하는 시나리오입니다. CIL의 주요 장애물은 **파괴적 망각(catastrophic forgetting)**으로, 새로운 클래스를 위해 네트워크를 최적화하는 과정에서 기존 클래스의 지식이 삭제되는 현상입니다.

기존의 CIL 연구는 주로 망각을 완화하는 데 집중하며, 모든 에피소드의 모든 훈련 샘플이 완전히 주석(annotation)되어 있다는 가정을 전제로 합니다. 저자들은 이러한 가정이 두 가지 이유로 비현실적이고 비효율적이라고 주장합니다:

1. 높은 주석 비용: 수동 주석 작업은 시간, 노동력, 전문성 측면에서 비용이 많이 듭니다.
2. 주석 낭비: 에피소드 설정에서는 현재 에피소드의 대부분 데이터가 향후 에피소드에서 접근 불가능합니다. 따라서 모든 샘플에 주석을 다는 것은 낭비입니다. 왜냐하면 이후 단계에서 망각을 방지하기 위해 필요한 것은 이 샘플들의 일부(exemplars)뿐이기 때문입니다.

본 논문은 각 에피소드에서 데이터의 아주 작은 부분만 주석 처리되고 나머지는 레이블이 없는 상태로 남는 새로운 설정을 제안합니다. 목표는 최소한의 엑셈플러(exemplar) 샘플 세트를 선정하여 주석을 달고 다음 에피소드로 전달하는 프레임워크를 개발함으로써, 주석 비용을 줄이면서도 파괴적 망각을 효과적으로 방지하는 것입니다.

2. 방법론: ACIL 프레임워크

저자들은 능동 학습(Active Learning, AL) 전략을 CIL 파이프라인에 통합한 ACIL (Active Class Incremental Learning) 프레임워크를 제안합니다. 핵심 메커니즘은 각 에피소드에서 고정된 크기 $k$를 가진 엑셈플러 세트를 선정하여 수동으로 주석을 달고 다음 에피소드의 데이터에 추가하는 것입니다.

2.1 문제 설정

• 데이터 흐름: 훈련 데이터는 $N$개의 순차적인 에피소드로 들어옵니다. 각 에피소드 $n$은 소량의 레이블된 세트($X^L_n$), 대량의 레이블 없는 세트($X^U_n$), 그리고 이전 에피소드에서 온 엑셈플러 세트($E_{n-1}$)를 포함합니다.
• 제약 조건: 모델은 $X^L_n$과 $E_{n-1}$을 사용하여 훈련됩니다. 현재 에피소드로부터 시스템은 주석을 달 $E_n$ 크기 $k$의 새로운 엑셈플러 세트를 선정해야 합니다.
• 선정 소스: $E_n$은 $X^U_n$(현재의 레이블 없는 데이터), $E_{n-1}$(이전 엑셈플러), 그리고 잠재적으로 $X^L_n$으로부터 샘플을 선택하여 구성됩니다 (단, 저자들은 크기 문제로 인해 $X^U_n$이 우선시된다고 언급함).

2.2 예산 분할 전략 (Budget Splitting Strategy)

새로운 클래스를 학습하는 것과 기존 지식을 유지하는 것 사이의 균형을 맞추기 위해, ACIL은 주석 예산 $k$를 현재의 레이블 없는 세트($X^U_n$)와 이전 엑셈플러 세트($E_{n-1}$) 사이에 배분합니다.

• 분할은 각 세트에 존재하는 클래스 수($|C_{episode}|$ 대 $|C_{exemplar}|$)에 비례합니다.
• 공식:
  $$k_{unlabeled} = \left( \frac{|C_{episode}|}{|C_{episode}| + |C_{exemplar}|} \right) \cdot k$$
  $$k_{exemplar} = \left( \frac{|C_{exemplar}|}{|C_{episode}| + |C_{exemplar}|} \right) \cdot k$$
• 이를 통해 $E_n$이 지금까지 관찰된 모든 클래스의 표현을 유지하도록 하여 망각을 완화합니다.

2.3 능동 샘플링 전략 (Active Sampling Strategy)

할당된 예산 내에서 특정 샘플을 선정하는 것은 **불확실성(uncertainty)**과 **다양성(diversity)**을 결합한 기준에 의해 결정됩니다.

• 불확실성: 모델 예측의 샤논 엔트로피(Shannon's entropy)를 사용하여 측정합니다.
• 다양성: 후보 세트를 $B$개의 클러스터(여기서 $B$는 예산)로 분할하여 각 클러스터 내의 분산을 최소화함으로써 달성합니다.
• 최적화: 저자들은 예측 불확실성을 가중치로 사용하여 파티션 내의 가중 분산을 최소화하는 가중 집합 분할 문제를 정식화합니다.
  $$\text{argmin}_P \sum_{b=1}^{B} \sum_{x \in X_b} I(x) ||F(x) - c_b||^2$$
  여기서 $I(x)$는 불확실성(엔트로피)이고 $F(x)$는 특징 임베딩입니다.
• 알고리즘: **가중 K-평균(Weighted K-Means)**을 사용하여 근사화된 NP-난해(NP-hard) 문제입니다. 각 파티션에서 가중 중심점에 가장 가까운 샘플이 주석을 위해 선택됩니다.

2.4 손실 함수 (Loss Function)

DNN은 다음의 조합을 사용하여 훈련됩니다:

1. 가중 교차 엔트로피 손실 ($L_{WCE}$): 클래스 불균형을 처리하기 위해 레이블된 데이터($X^L_n \cup E_{n-1}$)에 적용되며, 가중치는 클래스 빈도에 반비례합니다.
2. 지식 증류 손실 ($L_D$): 이전 모델($M_{n-1}$)에서 현재 모델($M_n$)로 지식을 전달하여 망각을 방지하기 위해 엑셈플러 세트 $E_{n-1}$에 적용됩니다.
   $$L = L_{WCE} + \lambda L_D$$

3. 주요 기여

1. 새로운 학습 패러다임 제시: 에피소드 데이터의 전체 주석을 가정하지 않는 CIL 설정을 도입하여, 현재 CIL 벤치마크의 높은 비용과 비효율성 문제를 해결했습니다.
2. ACIL 프레임워크: 불확실성과 다양성이라는 이중 기준에 따라 엑셈플러를 선정하고, 새로운 클래스와 기존 클래스 모두를 커버하기 위해 예산 분할 전략을 사용하는 구체적인 알고리즘을 제안했습니다.
3. 효율성 대 성능: ACIL이 (전체 주석을 가정하는) 최신 SOTA CIL 방법들과 대등한 성능을 달면서도, 인간의 주석이 필요한 샘플 수를 획기적으로 줄일 수 있음을 입증했습니다.

4. 실험 결과

이 프레임워크는 MNIST, SVHN, CIFAR-10, CIFAR-100, COIL, Tiny ImageNet 등 6개의 비전 데이터셋에서 평가되었습니다.

• 정확도: ACIL은 능동 학습 베이스라인(Random, Coreset, BADGE)보다 성능이 월등히 높았습니다. 해당 베이스라인들은 현재의 레이블 없는 세트에서만 샘플링하기 때문에 이전 에피소드의 지식을 유지하는 데 실패했기 때문입니다. ACIL은 전체 주석 기반의 CIL 베이스라인(iCaRL, GDumb, Rainbow Memory)과 대등하거나 때로는 약간 더 나은 정확도를 달s했습니다.
• 주석 노력: ACIL은 모든 방법 중 가장 적은 주석 노력을 기록했습니다. 예를 들어, CIFAR-10에서 ACIL은 유사한 정확도를 유지하면서도 CIL 베이스라인에 비해 에피소드당 약 4.13배 적은 주석만을 필요로 했습니다.
• 유지 능력: ACIL은 첫 번째 에피소드로부터의 지식 유지력이 리플레이 기반 CIL 방법들과 대등함을 보여주었으며, 이는 파괴적 망각을 완화하는 능력을 검증합니다.
• 강건성: 엑셈플러 세트 크기(예산)를 변화시킨 실험에서, ACIL은 다양한 메모리 제약 조건 하에서도 CIL 베베이스라인과 일관된 성능 추세를 유지함을 보여주었습니다.

5. 의의 및 주장

본 논문은 ACIL이 다음과 같은 상황에서 실제적인 딥 러닝 애플리케이션을 위한 솔루션을 제공한다고 주장합니다:

• 메모리가 제한적인 경우: 엑셈플러 세트 크기가 고정되어 있어 제한된 저장 공간을 시뮬레이션합니다.
• 주석 비용이 높은 경우: 프레임워크는 시간이 지남에 따라 모델을 훈련하는 데 필요한 인간의 노동력을 대폭 줄여줍니다.
• 데이터가 일시적인 경우: 각 에피소드에서 제한된 주석 데이터로부터 학습하는 능력은 과거 데이터를 완전히 보유할 수 없는 개인정보 보호 및 저장 공간 제약 환경과 부합합니다.

저자들은 지능적으로 선택된 정보량이 많은 소수의 샘플을 전파함으로써, ACIL이 주석 비용과 모델 성능 사이의 트레이드오프를 성공적으로 조절하여 자원이 제한된 환경에서 지속 학습을 더욱 실용적으로 만든다고 결론짓습니다. 향후 연구에서는 이 프레임워크를 회귀(regression) 작업으로 확장할 가능성이 있다고 언급했습니다.