기술 요약: DeRA-MOS

문제 정의

텍스트-음악 생성(Text-to-Music, TTM) 시스템의 평가는 음악 인상(Music Impression, MI) 및 텍스트 정렬(Text Alignment, TA)에 대한 인간의 평균 의견 점수(Mean Opinion Scores, MOS)가 갖는 높은 비용과 주관성으로 인해 병목 현상을 겪고 있습니다. 자동 MOS 추정기들이 존재하기는 하지만, 이들은 일반적으로 점별 회귀(point-wise regression, 예: L1, MSE) 또는 분포 분류 목적 함수에 의존합니다. 이러한 접근 방식은 다음과 같은 두 가지 주요 한계점을 가집니다:

1. 훈련-평가 불일치(Training-Evaluation Mismatch): 표준적인 점별 목적 함수는 샘플을 독립적으로 취급하며, 상대적 시스템 품질을 평가하는 표준인 스피어만 서열 상관 계수(Spearman's Rank Correlation Coefficient, SRCC)를 직접적으로 최적화하지 못합니다.
2. 모달리티 드리프트(Modality Drift): TA 추정에서 교차 주의(cross-attention) 메커니즘은 융합 전 단일 모달리티 임베딩에 대한 명시적인 기하학적 제약을 결여하는 경우가 많습니다. 인간의 판단에 기반한 고정점(anchoring)이 없으면, 이러한 표현(representation)은 표류하여 의미론적 일관성이 떨어지고, 진정한 정렬보다는 훈련 데이터의 암기 현상을 초과하게 됩니다.

방법론

저자들은 MI와 TA의 최적화 목적을 분리하면서도 공유된 백본 아키텍처(DORA-MOS의 이중 브랜치 구조 기반)를 유지하는 DeRA-MOS(Decoupled Ranking and Alignment) 프레임워크를 제안합니다. 이 프레임워크는 훈련 시에만 사용되는 두 가지 특화된 손실 함수를 도입합니다:

1. 음악 인상을 위한 배치 인식 리스트와이즈 랭킹(Batch-Aware Listwise Ranking, BALR)

점별 훈련과 순위 기반 평가 사이의 불일치를 해결하기 위해, MI 브랜치는 표준 점별 감독 대신 리스트와이즈 랭킹 손실을 사용합니다.

• 메커니즘: 전체 미니 배치를 하나의 쿼리 리스트로 취급합니다. 정답(ground-truth) 및 예측된 MI 점수는 온도 스케일링된 소프트맥스(temperature-scaled softmax)를 통해 확률 분포로 변환됩니다.
• 목적: 이 손실은 타겟 분포와 예측된 확률 분포 사이의 교차 엔트로피를 최소화합니다.
• 이점: 이 접근 방식은 배치 내의 글로벌 순서를 최적화하여 SRCC와 일치하는 그래디언트를 제공합니다. 이는 $O(B^2)$의 비용이 드는 쌍별(pairwise) 방식의 비용을 피하면서 $O(B)$ 복잡도로 글로벌 배치 역학을 포착합니다. 이는 인간 평점의 상대적 특성을 존중합니다.

2. 텍스트 정렬을 위한 점수 고정 모달리티 정렬(Score-Anchored Modality Alignment, SAMA)

TA 브랜치에서 표현 표류를 방지하기 위해, 교차 주의 융합 단계 이전에 기하학적 제약이 적용됩니다.

• 메커니즘: 이 방법은 융합 전 오디오와 텍스트 임베딩 간의 코사인 유사도(L2-정규화됨)를 계산합니다. 이 유사도는 [0, 1] 범위로 선형 매핑됩니다.
• 목적: 매핑된 유사도를 정규화된 인간 TA MOS 점수와 직접 정렬하도록 회귀 손실이 적용됩니다.
• 이점: 이는 잠재적 오디오-텍스트 유사도를 인간의 판단에 "고정(anchor)"하여, 네트워크가 어텐션을 통해 융합을 시도하기 전에 잠재 공간을 정규화하고 높은 점수를 받는 쌍들이 기하학적으로 더 가까워지도록 보장합니다.

공동 최적화

전체 손실 함수는 기본 가우시안 소프트닝 분류 손실($L_{CE-Gauss}$)과 제안된 보조 손실들을 결합합니다:
$$L_{Total} = L_{CE-Gauss} + \alpha L_{BALR} + \beta L_{SAMA}$$
결정적으로, 이러한 보조 손실들은 훈련 중에만 적용됩니다. 추론 시에는 프레임워크가 기본 모델과 동일한 복잡도 및 파라미터를 사용하여 추가적인 계산 오버헤드가 발생하지 않습니다.

주요 기여

1. 배치 인식 리스트와이즈 랭킹: 독립적인 점별 예측을 넘어 MI 최적화를 SRCC 평가 지표와 직접 정렬하는 리스트와이즈 손실을 도입했습니다.
2. 점수 고정 모달리티 정렬: 잠재 오디오-텍스트 유사도와 인간 TA 점수 사이의 기하학적 일관성을 강제하여 표현 표류를 완화하는 새로운 손실을 제시했습니다.
3. 강건한 디커플링 프레임워크: 결합된 두 목적 함수가 동질적인 점별 베이스라인에 비해 랭킹(SRCC, Kendall's Tau)과 절대 정확도(MSE) 모두에서 우수한 성능을 낸다는 것을 입증하였으며, 이는 동종의 점별 방식보다 뛰어난 성능을 보여줍니다.

실험 결과

MusicEval 데이터셋(AudioMOS 2025 챌린지의 공식 벤치마크)에서 평가한 결과, DeRA-MOS는 재현된 DORA-MOS 베이스라인 대비 유의미한 개선을 보여주었습니다:

• 음악 인상 (MI): 전체 모델은 SRCC 0.989와 Kendall's Tau (KTAU) 0.940를 달성하였으며, 베이스라인 대비 KTAU가 +0.050 향상되었습니다. 이는 순위 역전 현상이 실질적으로 감소했음을 나타냅니다.
• 텍스트 정렬 (TA): 모델은 SRCC를 0.952에서 0.956으로 개선하였고, MSE를 0.060에서 0.028로 크게 낮추어 절대 점수의 캘리브레이션(calibration)을 개선했습니다.
• 통계적 유의성: 쌍체 윌콕슨 부호 순위 검정(Paired Wilcoxon signed-rank tests)을 통해 두 작업 모두에서 SRCC의 이득이 통계적으로 유의함($p < 0.01$)을 확인했습니다.
• 절제 연구(Ablation) 결과:
  • BALR만 사용하는 경우 MI 랭킹은 개선되었으나 TA 성능은 저하되었으며, 이는 랭킹 압력만으로는 공유된 표현을 왜곡할 수 있음을 확인시켜 줍니다.
  • SAMA만 사용하는 경우 랭킹 지표를 유지하면서 TA 캘리브레이션을 급격히 개선했습니다.
  • 두 손실을 결합했을 때 가장 우수한 종합 프로필을 얻었으며, 이는 두 손실의 상호 보완적인 성격을 확인해 줍니다.
• 하이퍼파라미터 민감도: 최적의 성능은 배치 크기 32와 온도 스케일링 인자($\tau$) 1.0에서 관찰되었습니다. 프레임워크는 다양한 손실 가중치 계수($\alpha, \beta$)에 대해 견고함을 유지했습니다.

의의 및 주장

본 논문은 훈련 목적 함수와 평가 지표 사이의 간극을 효과적으로 메움으로써, 대규모 TTM 평가를 위한 견고한 패러다임을 구축한다고 주장합니다. 랭킹(MI)과 정렬(TA)의 최적화를 분리함으로써, DeRA-MOS는 점별 훈련 불일치와 모달리티 드리프트라는 특정 병목 현상을 해결합니다.

저자들은 제안된 손실들이 훈련 전용 정규화 도구이기 때문에, 이 프레임워크가 추론 효율성을 저해하지 않으면서도 상당한 성능 향상을 제공한다는 점을 강조합니다. 이는 계산 자원과 평가 비용이 중요한 대규모 생성 음악 모델의 반복적인 개발 및 평가에 DeRA-MOS가 매우 적합함을 의미합니다. 본 연구는 명시적인 기하학적 고정과 리스트와이즈 랭킹이 정확하고 확장 가능한 자동 MOS 추정을 위한 필수 구성 요소임을 시사합니다.