기술 요약: 시계열 표현 학습을 위한 신호 다이스 계수 (Signal Dice Coefficient, SDSC)

1. 문제 정의

시계열 데이터를 위한 자기지도 학습(Self-Supervised Learning, SSL)은 주로 거리 기반 손실 함수인 평균 제곱 오차(MSE)를 사용하는 재구성 기반 목적 함수에 크게 의존해 왔습니다. 저자들은 이러한 지표들이 다음과 같은 결정적인 한계를 지니고 있다고 주장합니다:

• 진폭 민감도 vs. 극성 불변성: 거리 기반 지표는 진폭 스케일에는 매우 민감하지만 파형의 극성(polarity)에는 불변적입니다. 결과적으로, 위상이 반전되거나, 진폭이 스케일링되거나, 제로 베이스라인으로 이동한 신호는 구조적으로 상이하거나 역전된 상태임에도 불구하고 낮은 오차 점수를 기록할 수 있습니다.
• 구조적 충실도 부족: 낮은 재구성 오차가 반드시 높은 의미론적 충실도(semantic fidelity)와 상관관련성을 갖는 것은 아닙니다. 예를 들어, 상수 0 신호와 스케일링된 파형은 구조적으로는 극명한 차이가 있음에도 불구하고 동일한 MSE 점수를 생성할 수 있습니다.
• 비유계성(Unbounded Nature): 거리 기반 손실은 유계가 아니며 정규화가 결여되어 있어, 다양한 도메인 간의 해석 및 모델 선택을 어렵게 만듭니다.

본 논문은 진폭 중심의 지표에만 의존하는 것이 특히 EEG나 ECG와 같이 국소적 파형의 형태와 극성이 진단적 중요성을 갖는 도메인에서 의미론적으로 잘못된 재구성을 초래할 수 있다고 상정합니다.

2. 방법론

2.1. 신호 다이스 유사도 계수 (Signal Dice Similarity Coefficient, SDSC)

저자들은 시간적 신호 간의 국소적 구조적 일치도를 정량화하기 위해 설계된 구조 인식형 지표인 **신호 다이스 유사도 계수(SDSC)**를 도입합니다.

• 개념적 기초: SDSC는 의미론적 분할(semantic segmentation)에서 집합의 중첩을 측정하기 위해 전통적으로 사용되는 다이스 유사도 계수(Dice Similarity Coefficient, DSC)를 연속적이고 부호가 있는 시계열 데이터로 확장한 것입니다.
• 정의: 집합 멤버십을 측정하는 대신, SDSC는 각 타임 스텝에서의 **부호가 있는 진폭 교차(signed amplitude intersections)**를 기반으로 구조적 정렬을 계산합니다. 이는 곡선 아래의 면적을 파형 형태의 대리 지표로 해석합니다.
  • $E(t)$를 정답(ground truth), $R(t)$를 재구성(reconstruction)이라 할 때,
  • 교차 항 $S(t)$는 $E(t) \cdot R(t)$로 정의됩니다.
  • 합집합 유사 항 $M(t)$는 $|E(t)| + |R(t)| - \frac{||E(t)| - |R(t)||}{2}$로 정의됩니다.
  • 연속적인 SDSC는 다음과 같이 공식화됩니다:
    $$SDSC(E(t), R(t)) = \frac{2 \int H(S(t)) \cdot M(t) \, dt}{\int (|E(t)| + |R(t)|) \, dt}$$
    여기서 $H(\cdot)$는 헤비사이드 계단 함수(Heaviside step function)입니다.
• 특성: SDSC는 $[0, 1]$ 범위 내로 유계되어 있으며, 진폭 변화에 대한 민감도가 낮고, 국소적 파형 구조(부호 및 크기 중첩)의 일치 여부를 명시적으로 반영합니다. 또한 정렬 불필요(alignment-free) 방식이며, 전역적 시간 이동이나 워핑(warping)을 고려하지 않습니다.

2.2. 미분 가능한 근사 및 학습

헤비사이드 함수는 미분 불가능하므로, 저자들은 경사 하강법 기반 최적화를 가능하게 하기 위해 매끄러운 시그모이드 기반 근사 함수 $\hat{H}(x) = \frac{1}{1 + e^{-\alpha x}}$를 사용합니다. 학습 목적 함수는 $1 - SDSC$를 최소화하는 것으로 정의됩니다.

2.3. 하이브리드 손실 함수

SDSC는 구조는 포착하지만 진폭은 무시하고, MSE는 진폭은 포착하지만 구조는 놓친다는 점을 인식하여, 저자들은 다음과 같은 **하이브리드 손실(Hybrid Loss)**을 제안합니다:
$$L_{hybrid} = \lambda_{sdsc} \cdot L_{sdsc} + \lambda_{mse} \cdot L_{MSE}$$
가중치 $\lambda_{sdsc}$와 $\lambda_{mse}$는 각 손실 항의 동종 분산 불확실성(homoscedastic uncertainty)을 나타내는 학습 가능한 파라미터인 Kendall et al. (2018)의 불확실성 기반 튜닝 전략을 사용하여 결정됩니다.

2.4. 실험 프레임워크

제안된 지표들은 대조 학습(contrastive learning, InfoNCE)과 재구성을 결리한 SimMTM에 통합됩니다. 재구성 목적 함수의 효과를 격리하기 위해, 대조 학습 구성 요소는 고정된 상태를 유지하며 재구성 손실(MSE, SDSC 또는 Hybrid)만을 변경합니다.

3. 주요 기여

1. SDSC 지표: MSE의 극성 및 스케일 불감성을 해결하며, 부호가 있는 시계열 신호의 국소적 구조적 일치를 명시적으로 측정하는 유계되고 정규화된 지표를 도입했습니다.
2. 미분 가능한 공식화: 시그모이드 함수를 사용하여 SDSC의 미분 가능한 근사치를 제공함으로써, 이를 직접적인 학습 목적 함수로 사용할 수 있게 했습니다.
3. 하이브리드 목적 함수: 학습 가능한 불확실성 가중치를 통해 구조적 일관성(SDSC)과 진폭 충실도(MSE) 사이의 균형을 맞추는 새로운 손실 함수를 제안했습니다.
4. 실증적 분석: SDSC 기반 사전 학습이 MSE 기반 목적 함수에 비해, 특히 인도메인(in-domain) 및 저자원 설정에서 더 일관된 성능을 보임을 입증하는 종합적인 평가를 수행했습니다.

4. 실험 결과

4.1. 사전 학습 분석

• 지표 상관관계: 사전 학습 중 MSE와 SDSC 사이에 약한 음의 상관관계($-0.324$)가 관찰되었습니다. 이는 진폭 오차를 최소화하는 것이 구조적 정렬을 보장하지 않음을 나타냅니다.
• 구조적 일관성: 고정된 MSE 조건 하에서, SDSC로 사전 학습된 모델은 MSE 기반 모델에 비해 유의미하게 높고 일관된 SDSC 점수를 달-성했습니다.

4.2. 다운스트림 예측(Forecasting)

• 성능: SDSC 기반 모델은 Electricity 데이터셋 등에서 MSE 기반 모델과 대등한 예측 성능을 보였음에도 불구하고, 사전 학습 중에는 더 높은 재구성 오차(MSE)를 나타냈습니다.
• 시사점: 이는 특정 임계값을 넘어서면 진폭 오차를 추가로 줄이는 것이 수확 체감의 법칙(diminishing returns)을 따르며, 국소적 파형 구조를 보존하는 것만으로도 효과적인 예측 표현을 생성하기에 충분함을 시사합니다.

4.3. 다운스트림 분류

• 인도메인(In-Domain): 프리즈드 인코더(frozen-encoder) 시나리오에서, SDSC 기반 사전 학습은 변별에 유효한 의미론적 정보를 보존하는 능력을 바탕으로 MSE 기반 사전 학습보다 일관되게 우수한 성능을 보였습니다.
• 교차 도메인(Cross-Domain): 성능은 데이터셋의 특성에 따라 달랐습니다. 진폭 의존적 특징은 MSE에 유리했고, 구조 의전적 특징은 SDSC에 유리했습니다.
• 미세 조정(Fine-Tuning): 미세 조정 과정에서 성능 격차가 줄어들었으나, SDSC 기반 모델은 일관되게 더 높은 정밀도(precision)를 보여주어 더 의미론적으로 일관된 표현을 형성함을 시사했습니다.

4.4. 계산 효율성

이차 복잡도(quadratic complexity)를 갖는 정렬 기반 목적 함수(예: SoftDTW, DILATE)와 달리, SDSC는 계산량이 선형적이며 정렬이 필요하지 않아 확장 가능한 대안을 제공합니다.

5. 의의 및 주장

본 논문은 SDSC가 시계열 자기지도 학습을 위한 순수 거리 기반 목적 함수의 보완적 대안 역할을 한다고 주장합니다.

• MSE의 재평가: 본 연구는 MSE에 대한 기본적 의존에 의문을 제기하며, 낮은 재구성 오차가 의미론적으로 불일치하는 신호를 은폐할 수 있음을 시사합니다. SDSC는 구조적 불일치를 명시적으로 처벌함으로써 이러한 한계를 드러냅니다.
• 구조 인식 학습: 구조적 일관성을 재구성에 명시적으로 장려하는 것이 거리 기반 목적 함수를 보완한다는 것을 보여줍니다.
• 실용성: SDSC는 동적 시간 워핑(DTW)의 계산적 오버헤드 없이, 다양한 신호 도메인에서 표준화된 평가를 용이하게 하는 가볍고 유계되며 해석 가능한 지표를 제공합니다.

저자들은 SDSC가 모든 다운스트림 작업에서 MSE를 보편적으로 능가하는 것은 아니지만, 진폭 스케일링이나 극성 변화가 작업의 의미론적 핵심과 무관한 경우, 국소적 파형 구조를 보존하는 데 있어 강력한 메커니즘을 제공한다고 결론짓습니다.