기술 요약: 자동 추출된 개념 활성화 벡터를 이용한 이미지 유사성 설명

문제 정의

이미지 유사성은 이미지 검색, 얼굴 인식, 패션 호환성 등 수많은 컴퓨터 비전 응용 분야의 기초적인 구성 요소입니다. 유사성은 일반적으로 사전 학습된 딥 네트워크의 잠재 임베딩 공간(latent embedding spaces)에서 측정되지만, 특정 유사도 점수의 근거는 불투명한 상태로 남아 있습니다. 단일 입력 분류 작업에 주로 설계된 기존의 설명 가능성(xAI) 방법들은 두 개의 입력을 본질적으로 요구하는 유사성 함수의 전역적 통찰을 제공하는 데 어려움을 겪습니다. 현재의 접근 방식은 그래디언트 기반의 어트리뷰션 맵(attribution maps)이나 수동으로 정의된 속성(예: "줄무늬" 또는 "색상")에 의존하여 살리언시 맵(saliency maps)을 생성합니다. 이러한 방법들은 다음과 같은 두 가지 주요 한계점을 가집니다:

1. 전역적 통찰의 부재: 이들은 임베딩 공간의 특정 영역(예: 질감 vs 형태)이 무엇을 통해 유사성을 유도하는지에 대한 구체적인 설명을 제공하지 못하는 경우가 많습니다.
2. 수동 정의에 대한 의존성: 이들은 종종 사전 정의된 개념 데이터베이스나 의도적으로 라벨링된 데이터셋을 필요로 하며, 이는 새로운 도메인이나 모델에 대한 적용성을 제한합니다.
3. 분포적 충실도(Distributional Faithfulness): 원시 픽셀 공간에서의 섭동(perturbation, 예: 마스킹)은 입력을 데이터 매니폴드(data manifold)에서 벗어나게 하여 신뢰할 수 없는 설명을 초래합니다.

방법론

저자들은 희소 오토인코더(Sparse Autoencoders, SAE)를 통해 자동으로 추출된 개념 활성화 벡터(Concept Activation Vectors, CAVs)를 사용하여 이미지 유사성을 설명하는, 모델 및 메트릭 불가지론적(model- and metric-agnostic) 프레임워크를 제안합니다. 방법론은 세 가지 주요 단계로 구성됩니다:

1. 희소 사전 학습 (개념 추출)

데이터셋 $\mathcal{X}$와 임베딩 함수 $g: \mathcal{X} \to \mathbb{R}^d$가 주어졌을 때, 저자들은 활성화 행렬 $A$를 가중치 행렬 $U$와 개념 사전(concept dictionary) $V$로 분해합니다. 이는 프로베니우스 노름(Frobenius norm)을 최소화함으로써 달성됩니다:
$$(U, V) = \arg \min_{U,V} \|A - UV^\top\|_F^2$$
이 과정은 인간의 라벨링 없이 개념 사전을 학습하기 위해 다양한 SAE 정식화(Top-K, JumpReLU, Vanilla SAE)를 활용합니다. 각 활성화는 학습된 개념들의 선형 결합으로 근사됩니다.

2. 쌍별 설명을 위한 잠재 공간 섭동

두 이미지의 임베딩 $a_i$와 $a_j$ 사이의 유사성을 설명하기 위해, 본 방법은 학습된 개념의 방향을 따라 임베딩을 섭동시킵니다. 특정 개념 $c_k$의 중요도는 개념의 기여가 제거되었을 때 유사성 함수 $f$가 변화하는 정도를 측정하여 결정됩니다:
$$e_l^k(a_i, a_j) = (f(a_i, a_j) - f(a_i/c_k, a_j)) + (f(a_i, a_j) - f(a_i, a_j/c_k))$$
여기서 $a_i/c_k = a_i - u_{i,k}v_k^\top$입니다. 이 대칭적 접근 방식은 설명이 두 입력 모두의 기여를 고려하도록 보장합니다. 결과물은 공유된 속성과 구별되는 속성을 특징짓는 로컬 설명 벡터입니다.

3. 그룹 수준 설명 및 예시 검색 (Exemplar Retrieval)

프레임워크는 그룹 $G$에 대해 로컬 설명을 평균화함으로써 그룹 설정으로 확장됩니다:
$$e_G = \frac{1}{\binom{|G|}{2}} \sum_{i,j \in G, i<j} e_l(a_i, a_j)$$
이를 통해 임베딩 공간 내 클러스터의 분석이 가능해집니다. 나아가 저자들은 **예시 검색(Exemplar Retrieval)**이라는 과업을 도입합니다. 이는 쿼리-참조 쌍이 주어졌을 때, 시스템이 단순히 전체적인 외관 점수가 유사한 것이 아니라, 동일한 근본적 '이유'(즉, 유사한 설명 벡터)를 공유하는 다른 이미지 쌍들을 검색하도록 하는 작업입니다.

핵심 기여

1. 새로운 프레임워크: 자동으로 추출된 CAVs를 기반으로 이미지 유사성을 설명하는 모델 및 메트릭 불가지론적 설명 가능성 프레임워크를 제로하며, 이를 통해 사전 정의된 개념 데이터베이스 없이도 쌍별 및 그룹 수준의 분석을 가능하게 합니다.
2. 유사성 기반 어트리뷰션: 유사성 함수로부터 직접 개념 중요도 점수를 도출하는 방법을 제공하여, 국소화(히트맵을 통해)와 개념 영향력의 정량화를 모두 수행합니다.
3. 충실한 섭동: 잠재 공간 섭동이 픽셀 공간의 베이스라인(마스킹 등)보다 데이터 분포에 더 충실하며, 결과적으로 더 적은 분포 외(Out-of-Distribution, OOD) 임베딩을 생성한다는 실험적 증거를 제시합니다.
4. 실행 가능한 통찰: 예시 검색과 그룹 분석을 도입하여, 사용자가 의미론적 개념에 기반하여 유사성 판단을 이해하고 조작할 수 있도록 합니다.

실험 결과

저자들은 VITON-HD(패션) 데이터셋과 합성된 Multi-CIFAR-10 Collage 데이터셋을 사용하여 6개의 비전 백본(DINOv2, DINOv3, ResNet50, ConvNeXt, ViT, SigLIP)에 대해 접근 방식을 평가했습니다.

• 개념 검증: 합성 데이터셋에서 본 방법은 유사성 함수의 대칭성을 성공적으로 보존했습니다. 학습된 사전들은 개념 스왑 후에도 원래의 유사성 점수를 약 90% 회복하였으며, 특히 Top-K SAE가 가장 낮은 편차를 보였습니다.
• 분포적 충실도: 잠재 공간 섭동은 모든 테스트된 모델에서 입력 공간 마스킹 전략(예: 블러링, 랜덤 마스킹)보다 일관되게 낮은 Wasserstein (W1) 및 OOD 점수를 기록했습니다. 이는 잠재 섭동이 데이터 매니폴드에 더 가깝게 유지됨을 확인시켜 줍니다.
• 선형 회복 가능성: 설명 벡터로 학습된 선형 회귀 모델은 원래의 유사성 점수를 높은 정확도로 예측할 수 있었으며 ($R^2 > 0.87$, Cosine 및 Euclidean 메트릭 모두), 이는 CSIM, 블러 기반 벡터, 그래디언트 기반 어트리뷰션과 같은 베이스라인을 능가하는 성능입니다.
• 정성적 유용성: 사례 연구에서 본 방법은 유사성의 의미론적 동인(예: "줄무늬", "네크라인")을 성공적으로 식별하였으며, 단순한 시각적 유사성이 아닌 공유된 개념(예: 줄무늬 셔츠 쿼리에 대해 줄무늬 셔츠를 검색)에 기반한 예시 검색을 가능하게 했습니다.

의의 및 주장

본 논문은 자사의 접근 방식이 기존 방법들보다 이미지 유사성에 대해 더 충실하고(faithful) 해석 가능한(interpretable) 이해를 제공한다고 주장합니다. 잠재 공간에서 작동함으로써, 본 방법은 비현실적인 이미지를 생성하는 픽셀 공간 섭동의 함정을 피합니다. 저자들은 본 프레임워크가 자동화되어 있어 수동 개념 정의가 필요 없으며, 어떤 사전 학습된 모델과 유사성 메트릭에도 적용 가능한 유연성을 갖추고 있음을 강조합니다.

그 의의는 모델이 "어디에" 집중하는지(살리언시)를 넘어, "무엇이" 유사성을 유도하는 의미론적 특징인지를 파악할 수 있다는 데 있습니다. 저자들은 자신의 연구를 실행 가능한 통찰로 나아가는 단계로 위치시키며, 이를 통해 모델 설계자가 원치 않는 유사성 동인(예: 배경 아티팩트)을 식별하고 잠재적으로 완화할 수 있게 하며, 특정 의미론적 이유에 따라 조건화된 고급 검색 작업을 가능하게 한다고 설명합니다. 다만, 저자들은 본 방식이 CAVs를 통한 임베딩 공간의 선형 재구성을 가정하며, 이는 1차 근사(first-order approximation)라는 점과 SAE의 안정성 또한 고려 사항임을 겸허히 언급하고 있습니다.