💻 computer science

Don't Collapse Your Features: Why CenterLoss Hurts OOD Detection and Multi-Scale Mahalanobis Wins

본 논문은 다중 스케일 특징과 마할라노비스 거리를 활용하여 최첨단 베이스라인을 능가하는 간단하고 효율적인 OOD 탐지 파이프라인인 GOEN을 소개하며, CenterLoss 가 분류 정확도를 향상시키지만 신뢰할 수 있는 인식적 불확실성 추정에 필요한 특징 기하학을 왜곡시켜 OOD 탐지를 크게 저하시킨다는 것을 보여줍니다.

원저자: Rahul D Ray

게시일 2026-05-22

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Rahul D Ray

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇에게 고양이, 개, 말, 새 등 열 가지 특정 동물을 인식하도록 가르친다고 상상해 보세요. 수천 장의 사진을 보여주어 분류 작업의 전문가가 되도록 훈련시킵니다. 하지만 로봇에게 토스터, 구름, 혹은 완전히 가상의 생물의 사진을 보여준다면 어떻게 될까요?

이것이 분포 외 (Out-of-Distribution, OOD) 감지의 문제입니다. 현실 세계에서는 AI 가 실제로 토스터인데도 고양이라고 확신하며 추측하는 대신, "이게 무엇인지 모른다"고 말할 수 있어야 합니다. AI 가 이 차이를 구분하지 못하면 위험한 실수를 저지를 수 있습니다.

이 논문은 AI 가 새로운 무언가를 마주했을 때 이를 인식하도록 돕는 새로운 방법인 GOEN(Geometry-Optimised Epistemic Network, 기하학적 최적화 인식 네트워크) 을 소개합니다. 저자들은 놀라운 비밀을 발견했습니다: AI 의 내부 "지식 지도"를 너무 완벽하게 만들려고 애쓰는 것이 오히려 미지의 것을 찾아내는 능력을 떨어뜨린다는 사실입니다.

간단한 비유를 사용하여 그들의 발견을 다음과 같이 정리해 보겠습니다:

1. "완벽한" 덩어리의 함정 (CenterLoss 문제)

일반적으로 AI 를 훈련할 때 연구자들은 각 동물 그룹 (고양이, 개 등) 의 특징이 단단하게 뭉치도록 만듭니다. CenterLoss라는 도구를 사용하여 이러한 그룹들을 깔끔하고 컴팩트한 공 모양으로 밀어 넣습니다. 논리는 다음과 같습니다: "모든 고양이들이 하나의 단단한 공 안에 있고 모든 개들이 또 다른 공 안에 있다면, AI 는 매우 정확하게 분류할 것이다."

놀라운 사실: 저자들은 이것이 고양이와 개를 식별하는 능력은 향상시키지만, 토스터를 찾아내는 능력은 떨어뜨린다는 사실을 발견했습니다.

비유: 모든 "역사" 관련 책을 작은 단일 선반에, 모든 "과학" 관련 책을 또 다른 작은 선반에 강제로 밀어 넣는 도서관을 상상해 보세요. 이제 누군가 "과학의 역사"에 관한 책을 가져오면 어느 선반에도 깔끔하게 들어맞지 않습니다. 선반들이 너무 꽉 짜여 있기 때문에 그 책은 두 선반의 정중앙에 위치하게 되어 양쪽 모두에 속하는 것처럼 보입니다. AI 는 혼란을 겪으며 "아, 이건 역사 책이군"이라고 생각하지만, 사실은 새로운 무엇인가입니다.
결과: "짜임"을 멈추고 (CenterLoss 를 제거하면) 지식 그룹들이 조금 더 퍼지게 됩니다. 이렇게 하면 그룹 간의 공간이 생겨 AI 가 빈 공간 (즉, "미지" 영역) 에 떨어지는 것을 훨씬 쉽게 감지할 수 있게 됩니다.

2. 전체 그림과 세부 사항을 동시에 보기 (다중 스케일 특징)

미지의 것을 찾아내기 위해 AI 는 두 가지 방식으로 동시에 사물을 바라봐야 합니다:

질감 (2 층): 붓터치, 색상, 입자 등을 살펴봅니다. 이는 그림이 만화 동물이 아니라 거리 표지판 (SVHN) 처럼 보이는지 알아차리는 데 도움이 됩니다.
의미 (4 층): 전체적인 형태와 개념을 살펴봅니다. 이는 "여우"가 "개"가 아님을 깨닫는 데 도움이 됩니다.

비유: 낯선 사람을 식별하려 한다고 상상해 보세요. 얼굴 (의미) 만 보면 의상을 입고 있다는 사실을 놓칠 수 있습니다. 신발 (질감) 만 보면 그 사람이 누구인지 놓칠 수 있습니다. GOEN 은 둘 다 동시에 봅니다. 논문은 오직 "얼굴"만 보거나 오직 "신발"만 사용하는 것이 위조자를 찾아내는 AI 의 효과를 떨어뜨린다고 보여줍니다.

3. "현실 세계" 시험 (보정)

AI 가 동물을 학습한 후, 연구자들은 "모른다"고 말하는 법을 배우기 위해 특별한 "최종 시험"을 제공합니다.

가우스 노이즈(TV 화면의 정적) 를 보여줍니다. 이는 "이상하다"는 것을 알아채기 쉽습니다.
중요하게도, 실제 까다로운 예시(다른 데이터셋의 집 번호 등) 도 보여줍니다. 이들은 동물과 어느 정도 비슷해 보이지만 실제로는 다릅니다.
비유: 경비원에게 돌 (쉬운 것) 만 찾아내도록 가르친다면, 돌 복장을 한 사람 (어려운 것) 을 놓칠 수 있습니다. 경비원을 "돌 복장"(어려운 예시) 으로 훈련시킴으로써, 그들은 익숙해 보이지만 느낌이 이상한 것들에 대해 의심을 갖는 법을 배웁니다.

4. 승리하는 공식

저자들은 이러한 아이디어들을 다음과 같은 파이프라인으로 결합했습니다:

그룹을 너무 꽉 짜지 마세요. "고양이"와 "개" 그룹이 숨 쉴 공간을 가지도록 하세요.
세부 사항과 전체 그림을 함께 보세요.
실제 까다로운 예시를 사용하여 "모른다"는 버튼을 훈련하세요. 단순히 무작위 노이즈만 사용하지 마세요.

결과

이 새로운 방법 (GOEN) 을 다른 유명한 AI 안전 방법들과 비교하여 테스트했을 때:

GOEN은 미지 입력을 **94.8%**의 확률로 정확하게 식별했습니다.
다음으로 좋은 방법인 Deep Ensembles 는 **88.3%**만 맞췄습니다.
KNN 과 ODIN 과 같은 다른 방법들은 더 낮은 점수를 기록했습니다.

핵심 교훈

이 논문의 주요 메시지는 AI 연구자들에게 주는 경고입니다: AI 가 알려진 것을 분류하는 데 뛰어나다고 해서 그 한계를 아는 데도 뛰어나다는 뜻은 아닙니다.

사실, AI 의 내부 지식을 너무 완벽하게 (너무 컴팩트하게) 만들려고 노력하는 것은 미지의 것에 대해 눈을 멀게 할 수 있습니다. 지식 그룹들이 숨 쉴 수 있게 허용하고, AI 를 현실 세계의 까다로운 예시로 훈련시킴으로써, 우리가 알지 못하는 것에 대해 더 안전하고 정직한 시스템을 구축할 수 있습니다.

전체 시스템 또한 매우 빠르며, 단일 컴퓨터에서 20 분 미만으로 훈련되어 현실 세계의 안전을 위한 실용적인 도구가 됩니다.

기술 요약: 특징을 붕괴시키지 마십시오: 왜 CenterLoss 가 OOD 탐지를 해치고 Multi-Scale Mahalanobis 가 승리하는가

문제 제기
열린 세상 환경에서 머신러닝 시스템의 안전한 배포는 강력한 Out-of-Distribution(OOD) 탐지를 요구합니다. 현재 방법들은 종종 분류 정확도만을 위해 최적화된 특징 표현에 의존하며, 인식적 불확실성 (epistemic uncertainty) 의 고유한 요구사항을 간과합니다. 이 분야의 지배적인 가정은 분류 기하학 (예: 특징 클러스터를 더 조밀하게 만드는 것) 을 개선하는 것이 자동으로 불확실성 추정을 향상시킨다는 것입니다. 본 논문은 이러한 가정에 도전하며, 특징의 조밀함을 강제하는 인기 있는 정규화 기법인 CenterLoss 가 실제로 OOD 탐지 성능을 저하시킬 수 있는 이유를 조사합니다.

방법론: GOEN 파이프라인
저자들은 분류뿐만 아니라 OOD 탐지를 위해 특별히 특징 기하학을 최적화하도록 설계된 3 단계 파이프라인인 **Geometry-Optimised Epistemic Network(GOEN)**을 소개합니다. 파이프라인은 다음으로 구성됩니다:

Multi-Scale 특징 추출: 표준 교차 엔트로피 손실을 사용하여 ResNet-18 백본을 훈련합니다. 결정적으로, 모델은 두 개의 중간 계층에서 특징을 추출합니다: Layer 2(128 차원, 저수준 텍스처 및 도메인 변화를 포착) 와 Layer 4(512 차원, 고수준 의미론적 콘텐츠를 포착). 이들을 연결하여 640 차원 벡터를 형성합니다.
L2 정규화 및 Mahalanobis 피팅: 추출된 특징은 단위 구 (unit sphere) 상에 위치하도록 L2 정규화됩니다. 이 단계는 단일 주성분이 분산을 지배하는 "특징 붕괴 (feature collapse)"를 완화하여 조건이 잘 맞는 공분산 행렬을 보장합니다. 클래스 조건부 평균 ( $\mu_c$ ) 과 묶인 공분산 행렬 ( $\Sigma$ ) 을 훈련 데이터에 적합시킵니다. OOD 점수는 테스트 포인트와 가장 가까운 클래스 중심까지의 Mahalanobis 거리에서 유도됩니다.
보정 헤드 (Calibration Head): 경량 Multi-Layer Perceptron(MLP) 을 훈련하여 세 가지 불확실성 단서를 보정된 확률로 매핑합니다:
- Log-Mahalanobis 거리.
- 클래스 평균에 대한 최대 코사인 유사도.
- 분류 헤드에서 예측 엔트로피.
- 훈련 데이터: 헤드는 In-Distribution(ID) 데이터와 "어려운" OOD 예제 (SVHN 의 부분 집합) 그리고 합성 가우스 노이즈의 혼합물로 훈련됩니다.

주요 발견 및 기여
이 논문의 주요 기여는 체계적인 제거 실험을 통해 드러난 반직관적인 발견입니다: CenterLoss 는 OOD 탐지에 심각한 해를 끼칩니다.

CenterLoss 역설: CenterLoss 는 특징을 더 조밀한 클러스터로 강제하여 분류 정확도를 향상시키지만, OOD 평균 AUROC 를 CenterLoss 없이 0.9483에서 CenterLoss 사용 시 0.9366으로 감소시킵니다. 저자들은 과도하게 조밀해진 특징 클러스터가 클래스 간 마진을 압축하여 클러스터 사이에 위치한 OOD 포인트를 구별하기 어렵게 만든다고 가설을 세웁니다. 또한, 조밀한 클러스터는 조건이 나쁜 공분산 행렬을 초래하여 Mahalanobis 거리의 효과를 저하시킬 수 있습니다.
Multi-Scale 의 필요성: 제거 실험은 의미론적 특징 (Layer 4) 만 사용할 경우 성능이 크게 떨어짐을 보여줍니다 (평균 AUROC 0.9270 대 0.9483). 텍스처 (Layer 2) 와 의미론적 특징을 결합하는 것은 도메인 변화 (예: SVHN) 와 의미론적 변화 (예: CIFAR-100) 모두를 탐지하는 데 필수적입니다.
실제 어려운 OOD 보정: 합성 노이즈뿐만 아니라 실제 도메인 변화 예제 (SVHN) 로 보정 헤드를 훈련하는 것이 중요합니다. 보정 혼합물에서 SVHN 을 제거하면 SVHN 테스트 세트에서 AUROC 가 거의 2.5% 감소하여, 합성 노이즈만으로는 모델이 복잡한 도메인 변화를 인식하도록 가르칠 수 없음을 보여줍니다.

실험 결과
CIFAR-10(ID) 을 SVHN, 필터링된 CIFAR-100, 합성 가우스 노이즈 (OOD) 에 대해 평가한 결과, 가장 우수한 GOEN 변형 (GOEN-NoCenterLoss) 은 다음을 달성했습니다:

평균 OOD AUROC: 0.9483, 모든 기준을 능가함.
비교: Deep Ensembles(0.8827), KNN(0.8967), ODIN(0.8870), 표준 Mahalanobis(0.6790) 보다 우수함.
효율성: 전체 파이프라인은 단일 GPU 에서 20 분 미만에 훈련됩니다.
안정성: 시딩 실험은 방법의 안정성을 확인했으며, 5 개의 무작위 시드에서 ID 정확도 (0.9344 ± 0.0013) 및 OOD AUROC 의 분산이 낮았습니다.

의의 및 주장
본 논문은 분류 기하학과 인식적 기하학은 정렬되어 있지 않다고 주장합니다. 분류 정확도를 최적화하는 것 (조밀성 정규화 기법을 통해) 은 모델이 새로운 데이터를 접할 때 이를 인식하는 능력을 능동적으로 해칠 수 있습니다.

저자들은 GOEN 을 "자신의 한계를 신뢰할 수 있게 인식하는" AI 시스템을 구축하기 위한 실용적인 청사진으로 위치시킵니다. 분류와 인식적 불확실성의 목표를 분리하고, L2 정규화된 Mahalanobis 거리를 활용한 Multi-Scale 특징을 활용함으로써, GOEN 은 Deep Ensembles 나 복잡한 변분 추론의 계산 오버헤드 없이 OOD 탐지를 위한 간단하고 효율적이며 최첨단 솔루션을 제공합니다. 이 작업은 분류를 개선하는 기법이 본질적으로 불확실성 추정을 향상시킨다는 자동적인 가정에 대한 경계담으로 작용합니다.