CI-CBM: Class-Incremental Concept Bottleneck Model for Interpretable Continual Learning

1. 문제 정의 (Problem Definition)

• 배경: 딥러닝 모델은 대량의 정적 데이터로 학습할 때 뛰어난 성능을 보이지만, 시간이 지남에 따라 순차적으로 새로운 데이터가 유입되는 환경에서는 성능이 급격히 저하됩니다. 이를 지속 학습 (Continual Learning) 이라고 하며, 특히 새로운 클래스가 추가되는 클래스 증분 학습 (Class Incremental Learning, CIL) 설정이 가장 도전적입니다.
• 핵심 과제:
  1. 치명적 망각 (Catastrophic Forgetting): 새로운 작업을 학습할 때 이전에 학습한 지식 (이전 클래스) 을 잊어버리는 현상.
  2. 해석 가능성 (Interpretability) vs. 정확도 (Accuracy) 의 트레이드오프: 기존 CIL 해결책들은 대부분 정확도를 높이기 위해 '블랙박스' 모델을 사용하거나, 해석 가능한 모델을 만들면 정확도가 크게 떨어지는 문제가 있었습니다.
  3. 예시 데이터 부재 (Exemplar-Free): 이전 단계의 원본 데이터를 저장하지 않고 (Privacy 및 저장 공간 제약), 새로운 클래스만 주어졌을 때 이전 지식을 유지하며 학습해야 하는 Exemplar-Free CIL (EFCIL) 의 어려움.

2. 제안 방법: CI-CBM (Methodology)

저자들은 Class-Incremental Concept Bottleneck Model (CI-CBM) 을 제안합니다. 이는 해석 가능한 'Concept Bottleneck Model (CBM)'을 EFCIL 환경에 적응시킨 프레임워크입니다.

핵심 구성 요소

CI-CBM 은 크게 세 가지 모듈로 구성됩니다 (그림 2 참조):

1. 증분적 개념 집합 확장 (Incremental Concept Set Expansion):

   • 새로운 클래스가 등장할 때마다 LLM(GPT-3 등) 을 활용하여 해당 클래스를 설명하는 새로운 '개념 (Concepts, 예: "파란 머리", "작은 꼬리")'을 생성합니다.
   • 기존 개념과 중복되거나 클래스 이름과 유사한 개념은 필터링하여 개념 집합을 업데이트합니다.

2. 지식 보존 개념 학습 (Knowledge-Preserving Concept Learning):

   • 개념 정규화 (Concept Regularization): 새로운 개념을 학습할 때, 이전에 학습된 개념의 기능이 왜곡되거나 망각되는 것을 방지하기 위해 지식 증류 (Knowledge Distillation) 기법을 적용합니다.
   • 이전 단계의 개념 bottleneck 레이어 출력과 현재 단계의 출력을 유사하게 유지하도록 손실 함수에 항을 추가하여 개념의 의미적 일관성을 유지합니다.

3. 동적 예측 계층 적응 및 의사 개념 생성 (Dynamic Adaptation & Pseudo-Concept Generation):

   • 의사 특징 (Pseudo-features) 생성: 이전 클래스의 데이터가 없으므로, 가장 유사한 새로운 클래스의 특징 분포를 이전 클래스의 평균 (centroid) 으로 이동시켜 가상의 데이터 (pseudo-features) 를 생성합니다.
   • 의사 개념 (Pseudo-concepts): 생성된 의사 특징을 현재 학습된 개념 bottleneck 레이어를 통과시켜 '의사 개념'을 도출합니다.
   • 희소 예측 계층 학습: 새로운 클래스에는 실제 개념을, 이전 클래스에는 생성된 의사 개념을 사용하여 희소 (Sparse) 한 선형 분류기를 학습합니다. 이를 통해 이전 클래스의 분류 경계를 유지하면서도 새로운 클래스를 구분할 수 있습니다.

3. 주요 기여 (Key Contributions)

1. 성능과 해석 가능성의 동시 달성: 기존 해석 가능한 CIL 모델들 (ICICLE, IN2, CONCIL 등) 에 비해 평균 36% 이상의 정확도 향상을 이루었으며, 블랙박스 모델과 유사한 성능을 달성했습니다.
2. 범용성 (Pretrained 및 Non-Pretrained 지원): 대규모 사전 학습 (ImageNet 등) 이 된 백본 모델뿐만 아니라, 처음부터 학습 (Training from scratch) 하는 상황에서도 효과적으로 작동합니다. 이는 기존 해석 가능한 방법들이 대부분 강력한 사전 학습에 의존했던 한계를 극복한 것입니다.
3. 새로운 기술 제안:
   • 개념 정규화: 새로운 개념 학습 중 기존 개념의 기능 손실을 방지.
   • 의사 개념 생성: 원본 데이터 없이 이전 클래스의 개념적 기여도를 보존하여 분류기를 업데이트하는 메커니즘.
4. 심층적인 분석: 전역적 (Global) 인 개념 - 클래스 관계와 국소적 (Local) 인 개별 입력에 대한 의사 결정 과정을 시각화하여 모델의 해석 가능성을 입증했습니다.

4. 실험 결과 (Results)

• 데이터셋: CIFAR-10/100, CUB, TinyImageNet, ImageNet-Subset, Places365 등 7 개 데이터셋에서 평가.
• 성능 비교:
  • 해석 가능한 모델 대비: CIFAR-100, TinyImageNet, CUB 등 다양한 벤치마크에서 기존 해석 가능한 방법들보다 25~43% 높은 정확도를 기록했습니다.
  • 비해석 가능한 모델 (Black-box) 대비: 사전 학습된 백본을 사용할 때 최첨단 (SOTA) 블랙박스 모델과 7% 이내의 오차로 경쟁력 있는 성능을 보였습니다.
  • 비사전 학습 (Non-pretrained) 시나리오: 백본을 처음부터 학습하는 상황에서도 FeTrIL 등 최신 EFCIL 방법들과 견줄 만한 성능을 보여주었습니다.
• Ablation Study:
  • 의사 개념 생성과 개념 정규화가 모두 결합되었을 때 성능이 가장 우수함을 확인했습니다. (의사 개념만으로는 이전 클래스의 가중치가 0 으로 떨어지는 문제가 발생함).
  • 개념 정규화 (Distillation) 는 개념의 의미적 일관성 (Fidelity) 을 유지하는 데 필수적임을 입증했습니다.

5. 의의 및 결론 (Significance)

• 실용적 가치: CI-CBM 은 "정확한 모델은 해석할 수 없고, 해석 가능한 모델은 정확도가 낮다"는 기존의 통념을 깨뜨렸습니다. 의료, 로봇공학 등 신뢰성이 요구되는 분야에서 인간이 이해할 수 있는 의사 결정 과정을 유지하면서도 지속적으로 새로운 지식을 습득할 수 있는 모델을 제공합니다.
• 데이터 프라이버시 보호: 이전 데이터 (Exemplar) 를 저장하지 않고도 학습이 가능하므로, 데이터 프라이버시 문제가 심각한 환경에서도 적용 가능합니다.
• 미래 지향성: 본 연구는 해석 가능한 AI 의 지속 학습을 위한 새로운 패러다임을 제시하며, 특히 사전 학습에 의존하지 않는 상황에서도 작동한다는 점에서 실제 응용 가능성 (Generalizability) 이 매우 높습니다.

요약하자면, CI-CBM 은 개념 기반의 해석 가능한 모델이 치명적 망각 없이 새로운 클래스를 학습할 수 있도록 돕는 혁신적인 프레임워크로, 해석 가능성과 성능 간의 균형을 성공적으로 달성했습니다.