A Unifying Framework for Concept-Based Representational Similarity

기술 요약: 개념 기반 표현 유사성을 위한 통합 프레임워크

문제 정의

현대 딥러닝 모델들은 내부 표현에서 놀라운 구조적 유사성을 보이곤 하며, 이는 아키텍처, 초기화 및 양상(modality)을 가로질러 공유된 기저의 개념 분해(concept decomposition)가 존재함을 시사한다. 그러나 "개념 정렬(concept alignment)"이라는 개념은 여전히 명확하게 정의되지 않은 상태로 남아 있다. 기존 문헌들은 서로 다른 목적 함수를 최적화하면서도 동일한 용어를 사용하고 있으며, 이로 인해 구체적으로 어떤 속성이 실제로 정렬되고 있는지 모호해지고 있다. 또한, 하나의 정렬 목적(예: 변환/translation)을 최적화하는 것이 다른 목적(예: 개념 일관성/concept consistency)을 안정적으로 회복할 수 있는지, 혹은 순수하게 비지도 학습 방식인 분포적 목적 함수가 의미 있는 인스턴스 수준의 정렬을 회복할 수 있는지 여부도 불분명하다. 본 논문은 기존 방법론들이 표현(representation)의 정렬과 개념(concept)의 정렬을 구분하지 못하며, 인스턴스 단위(instance-wise) 정렬과 분포적(distributional) 정렬을 구분하는 엄밀한 프레임워크가 부족하다고 주장한다.

방법론: 통합 프레임워크

저자들은 개념 정렬을 두 가지 축을 따라 분해하는 공식적인 프레임워크를 제안한다:

1. 무엇이 정렬되는가: 표현(변환, translation) vs. 개념(개념 일관성, concept consistency).
2. 정렬의 수준: 인스턴스 단위(특정 데이터 포인트) vs. 분포적(데이터의 통계적 특성).

이러한 분해는 네 가지 근본적인 속성을 도출한다:

• 인스턴스 단위 변환 ($P_{tr}$): 시스템 $i$의 표현을 시스템 $j$로 매핑하는 능력 ($(\psi^{-1}_j \circ \psi_i)(x_i) = x_j$).
• 인스턴스 단위 개념 일관성 ($P_{cont}$): 두 시스템 모두가 공유된 개념 공간의 압축된 뷰를 동일하게 회복하는 능력 ($\psi_i(x_i) = \psi_j(x_j)$).
• 분포적 변환 ($P^{dist}_{tr}$): 변환의 푸시포워드 측도(pushforward measure)가 타겟 분포와 일치함.
• 분포적 개념 일관성 ($P^{dist}_{cont}$): 개념 공간의 푸시포워드 측도가 일치함.

프레임워크는 이러한 속성들을 희소 오토인코더(Sparse Autoencoders, SAEs)의 학습 손실 내 정규화 항으로 구현한다. 저자들은 이 속성들 사이의 이론적 관계를 분석하며, 엄격한 단사성(injectivity) 및 재구성 가정 하에서는 변환과 개념 일관성이 이론적으로 동등하지만, 실제 환경에서는 이러한 조건들이 실패하는 경우가 많다는 점에 주목한다.

이러한 속성들을 평가하기 위해, 저자들은 SAEBench를 확장한 진단 벤치마크인 InterVenchA를 도입한다. 평가는 다음과 같이 구분된다:

• 추출 품질 ($M_{extract}$): SAE가 단일 도메인 내에서 특징을 얼마나 잘 재구성하고 분리(disentangle)하는가.
• 변환 품질 ($M_{tr}$): 학습된 개념이 (일관성과 독립적으로) 다른 도메인을 재구성하는 데 얼마나 잘 전이되는가.
• 개념 일관성 ($M_{cont}$): 동일한 개념 집합이 (변환과 독립적으로) 도메인 간에 작업 관련 정보를 얼마나 잘 포착하는가.

제안된 솔루션: 결합 희소 오토인코더 (CoSAE)

단일 목적 함수만으로는 충분하지 않다는 발견을 바탕으로, 저자들은 상보적인 정렬 목적 함수들을 공동으로 강제하는 모듈형 SAE 프레임워크인 CoSAE를 제안한다. CoSAE는 다음을 결합한다:

• 재구성 손실 ($L_{dcy}$).
• 소량의 쌍을 이룬(paired) 데이터를 활용한 인스턴스 단위 변환 손실 ($L_{tr}$).
• 동일한 쌍 데이터를 활용한 인스턴스 단위 개념 일관성 손실 ($L_{cont}$).
• 전체 데이터셋을 활용한 분포적 정렬 손실 ($L^{dist}_{tr}$ 및 $L^{dist}_{cont}$).

결정적으로, 이 방법은 운송 문제(transport problem)의 식별 불가능성(unidentifiability)을 해결하기 위해 최소한의 쌍 데이터를 사용하여 분포적 목적 함수를 "앵커링(anchoring)"하는 것에 의존한다(데이터셋의 0.1%만큼의 아주 적은 양만 사용).

주요 결과

합성 데이터, 비전 모델(ViT, DinoV2, SigLIP), 그리고 멀티모달 인코더(CLIP, OpenCLIP)에 대한 실험을 통해 저자들은 다음을 입증한다:

1. 동등성의 실패: 정렬 목적 함수들 사이에 흔히 가정되는 동등성이 실제로는 성립하지 않는다.

   • 변환을 최적화하는 것이 개념 일관성을 반드시 회복시키지는 않으며, 그 역도 마찬가지이다.
   • 사이클 일관성(cycle consistency, 쌍이 없는 환경에서 변환의 대리 지표로 자주 사용됨)은 정렬의 충실한 대리 지표가 아니다; 높은 사이클 일관성이 낮은 정렬과 공존할 수 있다.
   • 순수하게 분포적인 목적 함수는 운송 문제의 식별 불가능성 때문에 인스턴스 수준의 정렬을 회복하는 데 실패한다.

2. 다중 목적 최적화의 필요성: 강력한 정렬은 변환과 개념 일관성이 명시적으로 함께 정규화될 때만 나타난다.

   • 실제 임베딩에서 $L_{tr}$만을 최적화하면 변환은 개선되지만 일관성은 개선되지 않으며, $L_{cont}$만을 최적화하면 일관성은 개선되지만 추출 품질이 저하된다.
   • 두 가지를 모두 결 조합했을 때만 두 지표 모두에서 높은 점수를 얻을 수 있다.

3. 희소한 감독의 효과성: "앵커링" 전략은 매우 효과적이다. 매칭된 쌍을 1,000개 중 단 1개만 사용하여 분포적 목적 함수를 앵커링함으로써, CoSAE는 전체 인스턴스 단위 감독을 통해 학습된 모델의 성능에 필적하거나 이를 능가하는 강력한 인스턴스 수준 정렬을 회복할 수 있다.

4. 성능: CoSAE는 모든 정렬 지표($M_{tr}$ 및 $M_{cont}$)에서 Crosscoders, Universal SAEs (USAEs), SAE-Aligned (SAE-A)를 포함한 최신 기술(SOTA)보다 우수한 성능을 보인다. 특히, 건축적 제약(코드 합산)을 통해 일관성을 강제하는 Crosscoders는 강력한 단독 인코더를 유지하는 데 실패하는 반면, CoSAE는 견고한 개별 인코더를 유지한다.

5. 다운스트림 유용성: CoSAE가 학습한 정렬은 밀집 프로젝터(dense projector)를 사용하는 방법들과 비교하여 경쟁력 있는 제로샷 전이 성능(예: ImageNet 분류)을 지원한다.

의의 및 주장

본 논문은 개념 정렬이 단일 대리 목적 함수로는 포착될 수 없는 근본적인 다중 목적 문제라고 주장한다. 저자들은 다음과 같이 논한다:

• 기존 방법들은 서로 다른 속성을 혼동하여 "정렬"에 대한 모호한 해석을 초래한다.
• 정렬(representation vs. concept)과 수준(instance vs. distributional)을 구분하는 엄격한 정의가 발전을 위해 필수적이다.
• 가장 강력한 실질적 성능은 하나의 목적을 완벽하게 최적화하는 것이 아니라, 최소한의 감독을 통해 상보적인 정규화 항들을 결합하는 것에서 온다.

저자들은 CoSAE를 단순한 새로운 모델이 아니라, 정렬에 대한 더 명확한 이론적 이해의 건설적 결과물로 위치시킨다. 이들은 의미 있는 정렬을 위해서는 단일 점수 지표에서 벗어나, 결합된 형태의 목적 함수 패밀리를 향해 나아가며 문제의 구조를 존중하는 것이 필요하다고 강조한다.

인정된 한계점:

• 본 프레임워크는 공유된 구조에 집중하며, 자기 재구성(self-reconstruction) 이상의 고유하거나 도메인 특화된 특징을 명시적으로 모델링하지 않는다.
• 평가는 실제 개념(ground-truth concepts) 대신 대리 지표에 의존하므로, 의미론적 정렬과 기능적 전이가 항상 일치하지 않을 수 있다.
• 결합된 목적 함수는 하이퍼파라미터 민감도를 유발한다.
• 실험적 검증은 특정 아키텍처와 데이터셋에 국한되어 있으나, 프레임워크 자체는 일반화 가능하도록 설계되었다.