Does Role Specialization Matter for Explanation Faithfulness in Mixture-of-Experts?

기술 요약: MoE에서 역할 전문화가 설명 충실도(Explanation Faithfulness)에 영향을 미치는가?

문제 정의
최근 혼합 전문가(Mixture-of-Experts, MoE) 아키텍처는 멀티모달 환경에서의 해석 가능성을 높이기 위해 역할 기반 메커니즘을 도입하여 확장되었습니다. 이러한 접근 방식은 개별 전문가 구성 요소에 의미론적 역할(예: 고유성, 중복성, 시너지)을 할당하여 교차 모달 상호작용을 분해합니다. 그러나 저자들은 중요한 간극을 발견했습니다. 구조적 역할 분해는 명시적으로 정의되어 있지만, 이 구조가 **설명 충실도(explanation faithfulness)**를 보존하는지는 불분명하다는 점입니다. 실제로 서로 다른 의미론적 역할을 부여받은 전문가들이 공유 인코더와 동일한 작업 목표로 인해 매우 중첩된 표현(representations)을 학습하는 경우가 많습니다. 이러한 전문가 간 표현 중첩은 효과적인 역할 분리를 약화시켜, 역할 할당을 명목상으로만 만들고 특성 기여도(feature attributions)가 실제 예측에 사용된 증거를 제대로 반영하지 못하게 만들 수 있습니다. 본 논문은 표현 중첩을 줄이는 것이 작업 성능을 저하시키지 않으면서 설명의 충실도를 개선할 수 있는지 조사합니다.

방법론
저자들은 FL-I2MoE라 명명된, 특징 수준(feature-level) 확장이 적용된 해석 가능한 멀티모달 상호작용 인식 MoE(I2MoE)를 백본으로 사용하는 통제된 연구를 제안합니다. 아키텍처를 재설계하는 대신, 저자들은 전문가 간 표현 중첩을 조절 가능한 요소로 취급합니다.

1. 프레임워크: 모델은 공유 인코더를 통해 멀티모달 입력을 처리하고, 특징 수준의 표현을 $E$개의 전문가($M$개의 고유성, 1개의 시너지, 1개의 중복성)에게 전달합니다. 각 전문가는 클래스 로짓(logits)과 잠재 표현($z_e$)을 생성합니다.
2. 정규화 전략: 라우팅 메커니즘이나 기여도 산출 절차를 변경하지 않고 중첩을 줄이기 위해, 저자들은 **표현 수준의 탈상관화 정규화(representation-level decorrelation regularization)**를 도입합니다. 각 전문가에 대한 앵커 잠재 표현(원래 입력에 대한 출력)을 정의하고, 전문가 쌍 사이의 유사성을 최소화하기 위해 세 가지 별도의 목적 함수를 적용합니다:
   • Rep-Cos: $L_2$ 정규화된 잠재 벡터 사이의 제곱 코사인 유사도를 최소화합니다 (인스턴스 수준의 방향성 정렬).
   • Rep-CKA: 중심화된 표현 행렬 간의 중심 커널 정렬(Centered Kernel Alignment, CKA)을 최소화합니다 (집단 수준의 구조적 유사성).
   • Rep-Barlow: 표준화된 잠재 차원 간의 교차 상관 행렬의 비대각 성분을 최소화합니다 (교차 특성 중복성).
3. 학습 목적 함수: 전체 손실(loss)은 작업 손실($L_{task}$), 부분 정보 분해(Partial Information Decomposition)에서 유도된 역할별 상호작용 손실($L_{interaction}$), 그리고 선택된 탈상관화 손실($L_{decor}$)의 결합입니다:
   $$L = L_{task} + \alpha L_{interaction} + \lambda L_{decor}$$
   하이퍼파라미터 $\lambda$는 예측 성능을 유지하면서(2% 오차 범위 내) 중첩을 줄이는 영역을 식별하기 위해 탐색됩니다.

주요 기여

• 간극 식별: 본 논문은 전문가 간 표현이 여전히 중첩되어 있다면 구조적 역할 분해만으로는 충분한 설명 충실도를 보장할 수 없음을 밝혀냈습니다.
• 탈상관화 메커니즘: 기존의 아키텍처와 라우팅 로직을 유지하면서 전문가 간의 더 명확한 전문화를 강제하기 위한 메커니즘으로서 표현 수준의 탈상관화를 도입했습니다.
• 일반화 가능성: 표현 분리의 이점이 명시적인 역할 기반 아키텍처(I2MoE 등)를 넘어 표준 희소 MoE 베이스라인(예: GShardGate)에도 적용됨을 입증함으로써, 일반적인 메커니즘임을 시사합니다.

실험 결과
저자들은 세 가지 멀티모달 벤치마크인 ENRICO(UI 분류), MIMIC-IV(사망 예측), MMIMDb(영화 장르 분류)에서 접근 방식을 평가했습니다.

• 작업 성능: 세 가지 데이터셋과 모든 탈상관화 변형(Rep-Cos, Rep-CKA, Rep-Barlow)에 대해, 모델은 베이스라인 대비 2% 이내의 예측 성능을 유지하여, 분리가 본질적으로 유용성을 저하시키지 않음을 확인했습니다.
• 설명 충실도: 섭동 기반 지표(포괄성 및 충분성)와 그 AOPC(Area Over the Perturbation Curve) 요약을 사용하여, 탈상관화된 모델이 베이스라인보다 일관되게 우수한 성능을 보였습니다. 특히, "식별된 마스킹"(설명에 의해 강조된 특성을 제거함)과 "무작위 마스킹" 사이의 격차가 커졌는데, 이는 설명이 의사결정에 유의미한 증거를 더 잘 포착했음을 나타냅니다.
• 표현 기하학: 분석 결과, 정규화가 전문가 간의 쌍별 CKA 및 상관관계를 감소시켰습니다. 여러 사례에서 실루엣 점수(silhouette scores)가 개선되어, 클러스터 수준의 분리가 더 명확해졌음을 보여주었습니다.
• 역할 정렬: 알려진 상호작용 구조를 가진 합성 벤치마크에서, Rep-CKA를 통한 중첩 감소는 라우팅 가중치와 실제 의미론적 역할(예: 시너지 전문가가 시너지 입력에 대해 더 높은 가중치를 받는 것) 사이의 정렬을 개선했습니다.
• 어블레이션(Ablation): 어블레이션 연구에 따르면, 역할 기반 상호작용 학습만으로는 표준 MoE보다 충실도가 개선되지 않았고, 탈상관화만으로는 부분적인 이점만을 제공했으나, 두 가지의 결합이 가장 높은 충실도 이득을 얻었습니다.

의의 및 주장
본 논문은 구조적 역할 분해가 MoE 시스템에서 설명 충실도를 위한 충분 조건이 아니라고 결론짓습니다. 주요 발견은 전문가 간 표현 중첩이 효과적인 전문화를 방해하는 병목 현상으로 작용한다는 것입니다. 탈상관화 정규화를 통해 이 중첩을 명시적으로 줄임으로써, 저자들은 작업 성능을 유지하면서 설명 충실도를 크게 향상시킬 수 있음을 입증했습니다.

저자들은 자신들의 연구 결과가 명시적인 의미론적 역할이 없는 표준 희소 MoE 아키텍처에도 적용 가능한, 설명 충실도를 높이기 위한 더 일반적인 메커니즘을 제공한다는 점을 완곡하게 주장합니다. 또한 특정 탈상관화 목적 함수(Cosine vs. CKA vs. Barlow)의 효과가 데이터셋과 지표에 따라 다르다는 점을 강조하며, 이는 분리와 충실도 사이의 관계가 모달리티 구조 및 상호작용 복잡성에 의해 영향을 받는다는 것을 시사합니다. 이 연구는 역할 기반 MoE가 진정으로 해석 가능하려면, 역할의 잠재 표현이 기하학적으로 구별되어야 한다는 가설을 뒷받침합니다.