SphOR: A Representation Learning Perspective on Open-set Recognition for Identifying Unknown Classes in Deep Learning Models

본 논문은 훈련 중 알려지지 않은 클래스를 식별하는 오픈셋 인식 (OSR) 의 성능을 향상시키기 위해, 직교 레이블 임베딩, 구면 제약, 그리고 Mixup 및 레이블 스무딩을 통합한 새로운 표현 학습 프레임워크인 SpHOR 을 제안하고 이를 통해 다양한 벤치마크에서 최첨단 결과를 달성함을 보여줍니다.

핵심

🎓 배경: 인공지능의 '아는 척' 문제

일반적인 인공지능 (AI) 은 학교에서 배운 것만 시험에 출제된다고 가정하고 훈련됩니다. 예를 들어, 강아지와 고양이만 배운 AI 에게 "판다" 사진을 보여주면, AI 는 "이건 강아지야!"라고 100% 확신하며 틀린 답을 내놓습니다.

실제 세상에서는 AI 가 배운 적 없는 새로운 사물이 끊임없이 등장합니다. 이를 **오픈셋 인식 (Open-Set Recognition)**이라고 하는데, AI 가 "이건 내가 배운 게 아니야, 모르겠다"라고 정직하게 말하는 것이 핵심입니다.

하지만 기존 AI 는 새로운 사물을 배운 사물 중 하나로 착각하는 **'익숙함의 함정 (Familiarity Trap)'**에 자주 빠집니다.

---

🚀 SpHOR 의 해결책: 3 단계의 마법

이 논문이 제안한 SpHOR는 AI 가 새로운 것을 구별하도록 돕기 위해 3 가지 독특한 전략을 사용합니다.

1. 🧱 각자만의 '독특한 방' 만들기 (직교성, Orthogonality)

• 비유: imagine 하세요. 학교 교실에는 각 학생 (사물) 이 앉을 자리가 있습니다. 기존 AI 는 학생들을 모두 한 줄로 앉히거나, 서로 엉켜 있게 둡니다. 그래서 새로운 학생이 들어오면 "아, 이 학생은 A 반 학생이랑 비슷하네?"라고 착각합니다.
• SpHOR 의 방법: SpHOR 는 각 사물 (강아지, 고양이 등) 이 서로 완전히 다른 방향을 바라보는 독립된 방에 앉게 합니다. 마치 북극, 남극, 적도처럼 서로 겹치지 않는 방향으로 배치하는 것입니다.
• 효과: 새로운 사물 (예: 판다) 이 들어오면, 어느 방에도 딱 들어맞지 않습니다. "어? 이거 어디에도 속하지 않네?"라고 AI 가 바로 알아챕니다.

2. 🌍 완벽한 '구' 모양으로 정리하기 (구면 표현, Spherical Constraint)

• 비유: 기존 AI 는 사물들을 무한히 넓은 평면 (지하철 노선도처럼) 에 흩뿌려 둡니다. 새로운 사물이 나타나면 "아직 빈 공간이 많으니 어딘가에 끼워넣자"라고 생각하며 엉뚱한 곳에 붙여버립니다.
• SpHOR 의 방법: SpHOR 는 모든 사물들을 구 (공) 의 표면에만 앉게 합니다. 공의 표면은 크기가 정해져 있고, 중심에서 멀어질 수 없습니다.
• 효과: 공 표면의 빈 공간은 '알 수 없는 영역'으로 명확히 남습니다. 새로운 사물이 공 표면의 빈 공간에 떨어지면, AI 는 "여기는 내가 아는 사물들이 없는 곳이야"라고 쉽게 판단합니다.

3. 🎭 '혼합 요리'와 '부드러운 점수' 활용 (Mixup & Label Smoothing)

• 비유:
  • Mixup (혼합 요리): AI 에게 강아지 사진과 고양이 사진을 섞어서 "이건 50% 강아지, 50% 고양이"라고 가르칩니다. 이렇게 하면 AI 는 "완벽한 강아지도, 완벽한 고양이도 아닌 중간 상태"를 이해하게 되어, 완전히 새로운 사물을 볼 때 "이건 중간 상태도 아니네?"라고 더 잘 구별합니다.
  • Label Smoothing (부드러운 점수): "100 점만 받아!"라고 강요하지 않고 "90 점 정도면 충분해"라고 가르칩니다. 이렇게 하면 AI 가 너무 자신만만해지지 않고, 새로운 것에 대해 더 겸손하게 ("모르겠다") 반응할 수 있습니다.

---

📊 왜 이것이 중요한가요? (결과)

이 연구는 SpHOR가 기존 방법들보다 훨씬 뛰어나다는 것을 증명했습니다.

1. 정확한 구별: 새로운 사물을 '아는 사물'로 잘못 분류하는 실수를 크게 줄였습니다.
2. 작은 데이터로도 강력함: 보통 AI 는 엄청난 양의 데이터를 필요로 하지만, SpHOR 는 적은 데이터로도 잘 작동합니다. (비유하자면, 적은 재료로도 훌륭한 요리를 해내는 셰프 같습니다.)
3. 실제 적용 가능성: 의료 영상 (새로운 질병 발견), 자율 주행 (예상치 못한 장애물 감지) 등 안전이 중요한 분야에서 AI 가 실수를 줄이는 데 큰 도움이 될 것입니다.

💡 한 줄 요약

SpHOR는 인공지능에게 "너가 아는 것들은 서로 완전히 다른 방향을 보고 있어야 해 (방 배치), 그리고 새로운 건 어디에도 딱 맞지 않는다면 '모른다'고 해야 해 (구면 정리)"라고 가르쳐주는 똑똑한 지도자입니다. 덕분에 AI 는 더 이상 새로운 사물을 보고 "아는 척"하지 않고, 정직하게 "모르겠다"고 말할 수 있게 되었습니다.

기술 요약

1. 문제 정의 (Problem Definition)

개방형 인식 (Open-Set Recognition, OSR) 의 한계
기존의 딥러닝 분류기는 폐쇄형 (Closed-set) 가정을 기반으로 하여, 테스트 데이터가 훈련 시에 보았던 클래스에만 속한다고 가정합니다. 그러나 실제 응용 분야 (예: 의료 영상, 자율 주행) 에서는 훈련 데이터에 포함되지 않은 알 수 없는 클래스 (Unknown Classes) 가 테스트 데이터에 나타날 수 있습니다. 이러한 경우를 '알 수 없음 (Unknown)'으로 식별하지 못하고 기존 클래스 중 하나로 잘못 분류하는 것이 OSR 의 핵심 문제입니다.

기존 방법론의 문제점

1. 함수적 결합 (Joint Training): 대부분의 OSR 방법은 특징 추출기 (Backbone) 와 분류기 (Classifier) 를 동시에 훈련합니다. 이로 인해 특징 공간이 알 수 없는 데이터에 적응하지 못하고, 단순히 결정 경계 (Decision Boundary) 만을 최적화하는 데 그칩니다.
2. 일반적인 목적 함수의 부적합: 기존에 개발된 지도 대조 학습 (Supervised Contrastive Learning) 등의 기법은 OSR 을 위해 특별히 설계되지 않아, 알 수 없는 클래스를 효과적으로 분리하는 데 한계가 있습니다.
3. 친숙함의 함정 (Familiarity Trap): 알 수 없는 클래스가 훈련 클래스와 공유하는 속성 (배경, 질감 등) 이 강할 경우, 잠재 공간에서 훈련 클래스와 매우 가깝게 매핑되어 높은 확신으로 잘못 분류되는 현상이 발생합니다. 이는 공변량 편이 (Covariate Shift) 가 아닌 의미론적 편이 (Semantic Shift) 가 발생하는 미세한 변화 (Fine-grained) 에서 특히 심각합니다.

2. 제안 방법론: SpHOR

저자들은 SpHOR (Spherical Hyperbolic Orthogonal Representation) 를 제안하며, 이는 특징 표현 학습 (Representation Learning) 단계와 분류기 훈련 단계를 분리하는 2 단계 디커플링 (Decoupled) 전략을 사용합니다.

핵심 혁신 요소 (Key Innovations)

1. 직교 레이블 임베딩 (Orthogonal Label Embeddings):

   • 각 클래스의 특징이 서로 다른 선형 부분 공간 (Subspace) 을 차지하도록 강제합니다.
   • 레이블 임베딩 벡터들을 직교 (Orthogonal) 시켜 클래스 간 특징의 중복을 제거하고, 클래스 고유의 특징만 학습하도록 유도합니다.
   • 이를 통해 '친숙함의 함정'을 완화하고, 알 수 없는 클래스가 기존 클래스 영역으로 침투하는 것을 방지합니다.

2. 구면 표현 및 von Mises-Fisher 분포 모델링:

   • 유클리드 공간의 무제한적인 특징 크기로 인한 '열린 공간 위험 (Open-space Risk)'을 해결하기 위해, 특징을 L2 정규화하여 초구면 (Hypersphere) 위에 투영합니다.
   • 각 클래스를 von Mises-Fisher (vMF) 분포의 혼합으로 모델링합니다. 이는 구면 데이터에 적합한 확률 분포로, 특징의 정렬 (Alignment) 과 균일성 (Uniformity) 을 수학적으로 유도합니다.
   • vMFAL (von Mises-Fisher Alignment Loss): 레이블 임베딩과 특징 벡터 간의 정렬을 최대화하고, 클래스 간 균일성을 확보하는 손실 함수를 사용합니다.

3. Mixup 과 Label Smoothing (LS) 의 통합:

   • Mixup 과 Label Smoothing 을 표현 학습 단계에 직접 통합합니다.
   • Mixup 은 모호한 샘플 (알 수 없는 클래스와 유사한 특성) 을 생성하여 모델이 '비클래스 특정 공간 (Non-class specific space)'을 더 잘 모델링하도록 돕습니다.
   • 이는 알 수 없는 클래스를 기존 클래스 중심에서 밀어내어 (Push away), 개방형 인식 성능을 향상시킵니다.

2 단계 훈련 프로세스

• Stage 1 (표현 학습): 인코더와 프로젝션 네트워크를 사용하여 구면 특징을 학습합니다. vMFAL 과 직교 정규화 (Orthogonality Regularizer) 를 통해 특징 공간의 구조를 명시적으로 설계합니다.
• Stage 2 (분류기 훈련): Stage 1 에서 학습된 고정된 (Frozen) 특징을 사용하여 표준 교차 엔트로피 손실 함수로 분류기 헤드를 미세 조정합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 2 단계 디커플링 OSR 훈련 프레임워크: 표현 학습과 분류기를 분리하여, 표현 학습 단계에서부터 알 수 없는 클래스를 고려한 구조 (직교성, 구면 제약) 를 명시적으로 설계합니다.
2. Mixup 과 LS 의 통합 및 새로운 평가 지표:
   • 표현 학습 단계에 Mixup 과 LS 를 통합하여 '친숙함의 함정'을 줄였습니다.
   • 이를 정량화하기 위해 Angular Separability (AS, 각도 분리성) 와 Norm Separability (NS, 노름 분리성) 라는 두 가지 새로운 지표를 도입했습니다. AS 는 알 수 없는 샘플이 알려진 클래스에 얼마나 가까운지, NS 는 특징의 크기를 통해 알 수 없는 클래스를 얼마나 잘 구분할 수 있는지를 측정합니다.
3. 이론적 분석: 제안된 손실 함수가 표현 공간에서 정렬 (Alignment) 과 균일성 (Uniformity) 을 유도함을 수학적으로 증명했습니다.
4. State-of-the-Art 성능: 다양한 coarse-grained 및 fine-grained 벤치마크에서 최첨단 성능을 달성했습니다.

4. 실험 결과 (Results)

• Semantic Shift Benchmark (SSB): CUB, Stanford Cars, FGVC-Aircraft 와 같은 미세한 의미론적 편이 (Fine-grained) 데이터셋에서 SpHOR 은 기존 방법 (ARPL, MLS, SupCon 등) 을 압도적으로 능가했습니다.
  • 성능 향상: Semantic Shift Benchmark 에서 **OSCR(Open Set Classification Rate) 은 최대 5.1%, AUROC 는 5.2%**까지 향상되었습니다.
  • 강건성: 사전 훈련 (Pretraining) 이 없는 경우에도 SpHOR 은 경쟁력 있는 성능을 유지하는 반면, 기존 방법들은 성능이 급격히 하락했습니다.
  • 스코어링 규칙 불감성: 다양한 스코어링 규칙 (MaxLogit, KNN 등) 에 대해 다른 방법들보다 덜 민감하게 안정적인 성능을 보였습니다.
• Legacy CNN-32 Benchmarks: CIFAR-10, SVHN, Tiny-ImageNet 등 기존 coarse-grained 벤치마크에서도 ConOSR, ARPL 등 기존 SOTA 방법들보다 높은 AUROC 를 기록했습니다.
• 효율성: SpHOR 은 SupCon 과 같은 대조 학습 방법의 $O(B^2)$ 복잡도 대신 $O(B \cdot C)$의 선형 복잡도를 가지며, 작은 배치 크기에서도 안정적인 수렴을 보입니다.

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 OSR 문제를 단순히 분류기의 결정 경계 최적화 문제가 아닌, 특징 표현 공간 (Feature Representation Space) 의 구조적 설계 문제로 재정의했습니다.

• 핵심 통찰: 알 수 없는 클래스를 효과적으로 식별하려면, 특징 공간이 클래스 간 명확히 분리되어야 하고 (직교성), 알 수 없는 샘플이 기존 클래스 중심에서 밀려나야 하며 (구면 제약 및 Mixup), 특징의 크기와 방향이 모두 정보로 활용되어야 합니다.
• 실용적 가치: SpHOR 은 계산 효율성이 높고, 사전 훈련 없이도 작동하며, 미세한 의미론적 변화 (Fine-grained Semantic Shift) 를 가진 실제 응용 환경에서 높은 신뢰성을 제공합니다. 이는 안전이 중요한 분야 (의료, 자율 주행 등) 에서 딥러닝 모델의 신뢰성을 높이는 중요한 기여로 평가됩니다.