RAID: Retrieval-Augmented Anomaly Detection

이 논문은 검색된 정상 샘플을 활용하여 매칭 노이즈를 효과적으로 억제하고 정밀한 이상 탐지 및 위치 파악을 가능하게 하는 새로운 검색 증강 이상 탐지 프레임워크인 RAID 를 제안하며, 다양한 벤치마크에서 최첨단 성능을 입증했습니다.

핵심

🕵️‍♂️ RAID: 불량품 사냥꾼의 새로운 전략

1. 기존 방식의 문제점: "기억력 좋은 but 망각증 환자"

기존의 불량품 찾기 AI 들은 두 가지 방식 중 하나를 썼습니다.

• 재구성 방식: "정상적인 물체는 이렇게 생겼지"라고 머릿속에 그려본 뒤, 실제 물체와 비교하는 방식입니다. 하지만 머릿속 그림이 완벽하지 않아서, 진짜 결함이 아닌데도 "아, 이거 이상해!"라고 잘못 소리치는 경우가 많았습니다. (소위 '환각' 현상)
• 매칭 방식: "이건 정상 제품 A, 저건 정상 제품 B"라는 수많은 사진을 기억해두고, 들어온 물체가 그중 어디와 가장 비슷한지 비교했습니다. 하지만 기억해둔 사진이 너무 많거나, 물체마다 미세한 차이가 있어서 "이건 비슷해 보이는데... 아니다, 저건 아니야?" 하며 헷갈려 하기도 했습니다.

핵심 문제: 기존 방식은 **정답 (정상 제품) 과 오답 (불량품) 을 구분할 때, '노이즈 (잡음)'**가 너무 많이 섞여 들어와서 정확한 판단을 못 했습니다.

2. RAID 의 등장: "현명한 도서관 사서"

저자들은 이 문제를 해결하기 위해 **RAG(검색 증강 생성)**라는 개념을 차용했습니다. 이를 **'현명한 도서관 사서'**에 비유해 볼까요?

• 기존 AI: 도서관에 책이 너무 많아서, 질문을 받으면 무작위로 책 몇 권을 꺼내와서 대충 비교합니다. (정확도 낮음, 속도 느림)
• RAID (새로운 AI): 질문을 받으면, 3 단계로 나누어 매우 정교하게 검색합니다.

📚 RAID 의 3 단계 검색 전략 (계층적 벡터 데이터베이스)

1. 1 단계: 큰 카테고리 분류 (Class Prototype)
   • "이건 '의자'에 관한 질문이야?"라고 먼저 큰 틀을 잡습니다. (예: 병, 케이블, 캡슐 등)
2. 2 단계: 세부 특징 찾기 (Semantic Prototype)
   • "의자 중에서도 '나무 재질'이거나 '바퀴가 달린' 종류 중 어떤 게 가장 비슷하지?"라고 더 구체화합니다.
3. 3 단계: 정확한 책 찾기 (Instance Token)
   • 드디어 "아, 이 특정 의자의 사진이랑 가장 비슷하네!"라고 딱 맞는 예시를 찾아냅니다.

이렇게 넓게 → 좁게 → 정밀하게 검색하는 과정을 거치기 때문에, 엉뚱한 책 (노이즈) 을 꺼낼 확률이 확 줄어듭니다.

3. 최종 판단: "전문가 패널의 토론" (가이드드 MoE 필터)

검색을 통해 "가장 비슷한 정상 제품"들을 찾아냈다고 해서 바로 끝나는 게 아닙니다. 여기서 RAID 는 **가상의 '전문가 패널'**을 소환합니다.

• 상황: 검색된 정상 제품과 들어온 불량품 (혹은 정상품) 을 비교했을 때, "여기가 조금 어색해 보이는데?" 하는 부분이 생깁니다. (이걸 '매칭 잡음'이라고 합니다.)
• 전문가 패널의 역할:
  • 패널에는 다양한 전문가 (MoE, Mixture of Experts) 가 있습니다. 어떤 전문가는 '색상'을 잘 보고, 어떤 전문가는 '무늬'를 잘 봅니다.
  • 들어온 물체의 특징에 따라 가장 적합한 전문가들만 자동으로 선택되어 토론을 합니다.
  • "아, 이 부분은 검색된 정상 제품과 비슷하지만, 사실은 조명 차이일 뿐이야. 무시해!"라고 잡음을 제거하고, "이 부분은 진짜 결함이야!"라고 명확하게 지적합니다.

이 과정을 통해 불량품의 경계를 선명하게 그리고 미세한 결함까지 놓치지 않게 됩니다.

---

🌟 왜 RAID 가 대단한가요?

1. 적은 데이터로도 잘 합니다 (Few-shot):
   • 기존에는 수천 장의 정상 제품 사진이 필요했지만, RAID 는 몇 장만 있어도 (1 장, 2 장) 잘 찾아냅니다. 마치 도서관 사서가 책 한 권만 봐도 그 분야의 모든 책을 기억해내는 것처럼요.
2. 새로운 제품도 잘 알아봅니다 (Generalization):
   • 훈련할 때 보지 못한 새로운 종류의 제품 (예: 새로운 형태의 병) 이 와도, 검색 시스템이 그 특징을 찾아내어 정상인지 불량인지 잘 판단합니다.
3. 잡음 제거의 달인:
   • "아, 이거 결함인가?"라고 헷갈려 하던 부분들을 전문가 패널이 "아니야, 그냥 그림자야"라고 잡아주어, 거짓 경보 (False Alarm) 를 크게 줄였습니다.

💡 요약하자면

RAID 는 "정답을 외우는 것"이 아니라, "정답을 찾아내는 능력"을 키운 AI입니다.

마치 유능한 탐정이 사건 현장 (불량품) 에 왔을 때, 단순히 기억력만 믿지 않고 **수첩 (데이터베이스)**을 차근차근 넘기며 가장 유사한 사례를 찾아내고, **전문가 팀 (MoE)**과 상의하여 오해의 소지를 제거한 뒤 최종 결론을 내리는 것과 같습니다.

이 기술 덕분에 공장의 불량품 검사나 의료 진단에서 더 빠르고, 더 정확하며, 더 적은 비용으로 이상을 찾아낼 수 있게 되었습니다.

기술 요약

1. 문제 정의 (Problem Statement)

무감독 이상 탐지 (Unsupervised Anomaly Detection, UAD) 는 정상 템플릿과 테스트 이미지 간의 대응 관계를 구축하여 이상 영역을 식별하는 것을 목표로 합니다. 기존 방법론들은 주로 이미지 재구성 (Reconstruction) 또는 템플릿 검색 (Template Retrieval) 에 의존하고 있습니다. 그러나 이러한 접근 방식은 다음과 같은 근본적인 한계를 겪고 있습니다:

• 노이즈 발생: 클래스 내 변동성 (intra-class variations), 불완전한 대응 관계, 그리고 제한된 템플릿 수로 인해 테스트 이미지와 정상 템플릿 간의 매칭 과정에서 필연적으로 노이즈가 발생합니다.
• 허상 (Hallucination) 및 경계 흐림: 불완전한 재구성이나 비최적의 템플릿 검색으로 인해 이상 맵 (anomaly map) 에 허상의 노이즈가 생성되거나, 미세한 이상 징후가 누락되고 경계가 흐려지는 문제가 발생합니다.
• 일반화 능력 부족: 소수 샷 (few-shot) 이나 다중 데이터셋 환경에서 도메인 특화 카테고리에 적응할 때 성능이 크게 저하됩니다.

2. 방법론 (Methodology)

저자들은 UAD 문제를 검색 증강 생성 (Retrieval-Augmented Generation, RAG) 패러다임의 관점에서 재해석하여 RAID (Retrieval-Augmented Industrial anomaly Detection) 프레임워크를 제안했습니다. RAID 는 검색된 샘플을 직접 생성 과정에 활용하여 노이즈를 억제하고 정밀한 이상 탐지를 수행합니다.

A. 계층적 벡터 데이터베이스 (Hierarchical Vector Database)

기존의 평면적 (flat) 검색 구조 대신, 효율성과 정확성을 동시에 확보하기 위해 3 단계 계층 구조를 도입했습니다:

1. 클래스 프로토타입 (Class Prototype): CLS 토큰을 기반으로 K-means 클러스터링을 수행하여 카테고리 수준의 개념을 인덱싱합니다. 이는 데이터셋 및 카테고리 무관한 검색을 가능하게 합니다.
2. 시맨틱 프로토토타입 (Semantic Prototype): 클래스 내에서 패치 토큰을 클러스터링하여 질감, 구조적 구성 요소, 배경 등 반복되는 시맨틱 패턴을 그룹화합니다.
3. 인스턴스 토큰 (Instance Token): 실제 템플릿 패치 토큰을 저장하여 세밀한 시각적 디테일을 보존합니다.

• 작동 원리: 입력 이미지의 토큰이 이 계층 구조를 통해 거칠게 (coarse) 에서 정밀하게 (fine) 검색됩니다. 즉, 클래스 → 시맨틱 → 인스턴스 순서로 검색 공간을 축소하여 관련성 높은 템플릿만 선별합니다.

B. 가이드드 MoE 필터링 기반 생성 (Guided MoE Filtering-based Generation)

검색된 템플릿과 입력 이미지 간의 매칭 과정에서 발생하는 노이즈를 제거하기 위해 가이드드 혼합 전문가 (Mixture-of-Experts, MoE) 네트워크를 설계했습니다.

1. 매칭 비용 볼륨 (Matching Cost Volume): 입력 토큰과 검색된 인스턴스 템플릿 간의 코사인 유사도를 기반으로 초기 이상 비용 볼륨을 생성합니다.
2. 이중 가이드 (Dual Guidance):
   • 시맨틱 프로토타입 가이드: 검색된 시맨틱 프로토타입이 생성된 지도 (guidance map) 를 제공합니다.
   • 쿼리 가이드: 입력 이미지 자체의 토큰이 또 다른 가이드 역할을 합니다.
3. MoE 필터링:
   • 1 단계 (가이드 융합): 라우터 (Router) 를 통해 활성화된 전문가 (Experts) 를 선택하여 두 가지 가이드를 융합합니다.
   • 2 단계 (노이즈 제거): 융합된 가이드 하에서, 교차 주의 (Cross-Attention) 브랜치와 합성곱 (Convolutional) 브랜치를 통해 비용 볼륨을 정제합니다. 이는 특정 시맨틱 및 공간적 컨텍스트에 특화된 여러 '덴오이징 전문가'들이 적응적으로 작동하여 허상 노이즈를 억제하고 미세한 이상 경계를 복원합니다.

3. 주요 기여 (Key Contributions)

1. RAID 프레임워크 제안: UAD 를 RAG 패러다임으로 재개념화하여, 검색과 생성을 결합한 새로운 접근법을 제시했습니다.
2. 계층적 벡터 데이터베이스: 클래스, 시맨틱, 인스턴스 수준의 3 단계 계층 구조를 도입하여 검색 효율성을 극대화하고 컨텍스트 일관성을 유지하는 검색 흐름을 구현했습니다.
3. 가이드드 MoE 필터링 네트워크: 검색된 템플릿과 입력 데이터를 이중 가이드로 활용하여 매칭 노이즈를 적응적으로 억제하고, 미세한 이상 경계를 보존하는 정제된 이상 맵을 생성합니다.
4. 광범위한 검증: 풀샷 (full-shot), 소수 샷 (few-shot), 다중 데이터셋 (multi-dataset) 설정에서 MVTec, VisA, MPDD, BTAD 등 주요 벤치마크에서 기존 SOTA 방법들을 압도하는 성능을 입증했습니다.

4. 실험 결과 (Results)

• 풀샷 설정 (Full-shot): MVTec-AD 에서 I-AUROC 99.4%, P-AUROC 98.6% 를 기록하여 기존 최상위 방법 (CostFilter-AD, AnomalyDINO 등) 보다 우수한 성능을 보였습니다. VisA, MPDD, BTAD 에서도 일관된 개선을 달성했습니다.
• 소수 샷 설정 (Few-shot): 1-shot, 2-shot, 4-shot 환경에서 기존 방법들 (PatchCore, WinCLIP 등) 보다 월등히 높은 일반화 능력을 보여주었습니다. 특히 1-shot MVTec-AD 에서 I-AUROC 95.1% 를 달성했습니다.
• 다중 데이터셋 설정: 여러 데이터셋을 통합하여 학습한 단일 모델이 각 데이터셋에서 높은 성능을 유지하며, 확장성 (Scalability) 을 입증했습니다.
• 정성적 분석: 생성된 이상 맵은 기존 방법들에 비해 노이즈가 적고, 이상 경계가 선명하며, 미세한 결함 (subtle defects) 을 더 잘 포착하는 것을 시각적으로 확인했습니다.

5. 의의 및 결론 (Significance)

RAID 는 산업용 이상 탐지 분야에서 검색 증강 생성 (RAG) 패러다임을 성공적으로 적용한 선구적인 작업입니다.

• 노이즈 내성 강화: 단순한 검색을 넘어, 생성 단계에서 가이드드 필터링을 통해 매칭 노이즈를 효과적으로 제거함으로써 탐지 신뢰도를 높였습니다.
• 강력한 일반화: 클래스 및 데이터셋에 구애받지 않는 검색 전략과 MoE 를 통한 적응적 처리로, 새로운 카테고리나 제한된 데이터 환경에서도 뛰어난 성능을 발휘합니다.
• 미래 전망: 이 연구는 설명 가능하고 확장 가능하며 데이터 효율적인 산업 지능 (Industrial Intelligence) 을 위한 새로운 방향성을 제시하며, 에이전트 기반 및 크로스-모달 이상 탐지로의 확장을 기대하게 합니다.

요약하자면, RAID 는 기존 UAD 방법론의 한계인 '매칭 노이즈'와 '일반화 부족'을 RAG 와 MoE 아키텍처를 결합하여 해결한 획기적인 모델입니다.