AudioSAE: Towards Understanding of Audio-Processing Models with Sparse AutoEncoders

기술 요약: AudioSAE

문제 정의
희소 오토인코더(Sparse Autoencoders, SAEs)가 자연어 처리(NLP) 및 컴퓨터 비전 분야의 밀집된 신경 표현을 해석하는 표준 도구로 자리 잡았음에도 불구하고, 오디오 처리 모델에 대한 적용은 여전히 현저히 미개척 상태로 남아 있다. Whisper와 HuBERT 같은 기존 오디오 모델들은 음성 인식 및 일반적인 오디오 이해를 위해 가공되지 않은 오디오로부터 복잡한 표현을 학습한다. 그러나 이러한 모델들의 내부 메커니즘, 즉 모델이 음향적, 의미적, 그리고 준언어적(paralinguistic) 정보를 어떻게 인코딩하는지에 대한 체계적인 해석 방법은 부족한 실정이다. 현재의 방법론들은 뉴런 수준의 분석이나 임베딩 클러스터링에 의존하는 경우가 많으며, 이는 트랜스포머 레이어에 내재된 다의적(polysemantic) 특징들을 효과적으로 분리해내지 못할 수 있다. 따라서 SAE가 오디오 표현을 희소하고, 해석 가능하며, 실행 가능한 구성 요소로 성공적으로 분해할 수 있는지 여부를 결정할 필요가 있다.

방법론
저자들은 두 가지 주요 오디오 모델인 Whisper(68만 시간의 다국어 음성으로 학습된 인코더-디코더 트랜스포머)와 HuBERT(6만 시간의 영어 음성으로 학습된 인코더 전용 트랜스포머)의 인코더 활성화 값에 대해 SAE를 학습시킨다.

• 아키텍처 및 학습: SAE는 Jump-ReLU나 Top-k 방식보다 재구성 품질과 희소성 사이의 균형이 우수하다고 경험적으로 선택된 Batch-Top-k 비선형성을 활용한다. 모델은 약 2,800시간의 다양한 오디오 코퍼스(음성, 음악, 환경음)를 사용하여 별도의 보조 정규화 없이 L2 재구성 손실(L2 reconstruction loss)을 사용하여 학습된다.
• 평가 프레임워크: 본 연구는 NLP 벤치마크(Karvonen et al., 2025)에서 파생된 다각적 평가 전략을 채택한다:
  1. 안정성(Stability): 분포 유사도 지표(이진 활성화 패턴의 Intersection-over-Union)를 통해 무작위 시드, 레이어 및 모델 아키텍처 간의 특징 일관성을 측정한다.
  2. 도메인 특화(Domain Specialization): 특징들을 프레임 및 오디오 레벨 모두에서 음성, 음악, 환경음 도메인에 따른 활성화 빈도에 따라 분류한다.
  3. 해석 가능성(Interpretability): 저자들은 top-k 프로빙, 언러닝(특징 제거), 상위 활성화 샘플에 대한 수동 검사, 음소 정렬, 그리고 오디오 캡셔닝 및 대규모 언어 모델(LLM)을 통한 자동 해석을 활용한다.
  4. 실용적 유용성(Practical Utility): SAE를 사용하여 Whisper 모델을 제어함으로써 환각 현상(비음성 구간에서의 잘못된 음성 탐지)을 줄인다.
  5. 신경과학적 정렬(Neuroscientific Alignment): SAE 특징을 음성 인지 중의 인간 EEG 활동과 시간 응답 함수(TRF)를 사용하여 상관 분석한다.

주요 기여

1. 최초의 대규모 오디오 SAE 분석: 본 논문은 Whisper 및 HuBERT의 모든 인코더 레이어에 걸쳐 SAE를 체계적으로 학습하고 분석한 최초의 연구이며, 모델과 코드를 공개한다.
2. 안정성 및 분리 능력 검증: 저자들은 50% 이상의 SAE 특징이 서로 다른 무작위 시드 간에도 일관되게 유지됨을 입증한다. 또한, 이러한 특징들이 일반적인 음향/의미 정보와 특정 이벤트(예: 웃음, 속삭임, 재채기)를 효과적으로 분리함을 보여준다.
3. 정량적 언러닝(Unlearning): 본 연구는 오디오 모델에서 개념을 삭제할 때 발생하는 "비용"을 정량화한다. 특정 음성 개념(예: 모음 "A")을 제거하기 위해서는 19~27%의 특징을 억제해야 하며, 이는 텍스트 기반 SAE에 비해 음성 정보가 더 높은 중복성과 분산된 특성을 가짐을 나타낸다.
4. 실용적 스티어링(Steering): 저자들은 Whisper의 잘못된 음성 탐지(환각)를 줄이기 위해 SAE 특징을 성공적으로 적용하여, 단어 오류율(WER)에 미미한 영향을 주면서도 환각 현상을 70% 감소시켰다(오탐률을 0.37에서 0.11로 감소).
5. 신경 상관관계: 본 연구는 특정 SAE 특징과 음성 인지 중의 인간 EEG 활동(특히 Pz 전극) 사이의 통계적으로 유의미한 상관관관계를 확립하였으며, 이는 모델 표현과 인간의 신경 처리 과정 간의 정렬을 시사한다.

결과

• 특징 일관성: 서로 다른 시드로 학습된 체크포인트 간의 특징 커버리지는 50%를 초과하여 견고함을 확인했다. 그러나 HuBERT가 학습한 특징은 Whisper의 특징과 일치하지 않는데, 이는 사전 학습 목표와 데이터의 차이 때문인 것으로 보인다.
• 레이어 특화: Whisper는 중간 레이어(레이어 5 부근에서 정점)에서 음악 특징에 대한 뚜렷한 특화를 보였으며, 음성 관련 특징은 프레임 및 오디오 레벨 모두에서 독특한 패턴을 보였다.
• 의미론적 포착: SAE 특징은 음소를 성공적으로 인코딩하며(음소 정렬 정확도 약 0.9 달성), 준언어적 소리도 포착한다. 캡셔닝을 통한 자동 해석 결과 "울리는 알람", "새가 지저귀는 소리"와 같은 고유한 음향 이벤트를 식별했으나, 기초가 되는 캡셔닝 모델의 한계로 인해 세밀한 음성학적 세부 사항을 파악하는 데는 어려움을 겪었다.
• 환각 감소: Whisper의 상위 100개 SAE 특징을 스티어링한 결과, 비음성 데이터셋(Musan, FSD50k, WHAM)에서 WER 증가를 0.4% 미만(5.1%에서 5.5%)으로 유지하면서도 오탐률(FPR)을 70% 감소시켰다.
• EEG 상관관계: 특정 SAE 특징들은 특히 특정 모음에 의해 활성화되는 특징들에 대해 0~500ms 사이의 시간 지연에서 EEG 신호와 유의미한 상관관계를 보였다.

의의 및 주장
본 논문은 SAE가 밀집된 오디오 표현을 분해하는 데 효과적인 도구임을 입증함으로써 오디오 모델 해석성의 중요한 공백을 메운다고 주장한다. 저자들은 본 연구가 SAE 특징이 두 가지 역할을 수행함을 증명한다고 단언한다: 즉, 모델이 음향 및 의미 정보를 어떻게 인코딩하는지 밝혀내는 해석 가능한 단위로서의 역할과, 모델의 행동을 제어(예: 환각 감소)할 수 있는 실행 가능한 레버로서의 역할이다. 나아가, EEG 활동과의 상관관계는 학습된 이러한 특징들이 인간의 신경 처리 과정과 정렬되어 있음을 시사하며, 인공적 청각 지각과 생물학적 청각 지각 사이의 가교를 제공한다. 저자들은 본 연구가 특정 분류 작업과 base/small 모델 변형에 국한되어 있음을 인정하며, 더 광범위한 오디오 작업과 더 정교한 뇌 모델을 탐구하기 위한 향후 연구가 필요하다는 신중한 입장을 유지하고 있다.