Robust OT-Guided Generative Residual Domain Adaptation for Bike-Sharing Demand Prediction under Temporal Domain Shift

기술 요약: 자전거 공유 수요 예측을 위한 강건한 OT 기반 생성적 잔차 도메인 적응

문제 정의
역사적 정소-시간 데이터를 기반으로 학습된 자전거 공유 수요 예측 모델은 시간적 도메인 변화로 인해 이후 연도에 배포될 때 성능이 저하되는 경우가 많습니다. 정소의 인기 변화, 통근 행동, 라이더 구성, 운영 패턴 등의 요인이 근본적인 데이터 분포를 변경합니다 ($P_s(X, Y) \neq P_t(X, Y)$). 이 문제는 수요 데이터에 내재된 희소성, 왜도, 노이즈로 인해 더욱 악화되는데, 소수의 정소와 피크 시간대가 예측 오차를 지배하기 때문입니다. 또한, 목표 도메인에는 비정상적인 사건이나 데이터 품질 문제로 인한 비정상 레코드가 포함되어 있어 표준 도메인 적응 방법을 불안정하게 만들 수 있습니다. 본 논문은 2021 년부터 2026 년까지의 Citi Bike 수요를 예측하는 특정 작업을 다루며, 2025 년에서 2026 년으로의 전이를 주요 평가 시나리오로 삼습니다.

방법론: Gen-ROTDA
본 논문은 잔차 분해, 특징 생성, 강건한 운송 정렬을 결합하여 시간적 변화를 처리하도록 설계된 Gen-ROTDA(Generative Robust Optimal Transport Domain Adaptation) 를 제안합니다. 방법론은 다음 네 가지 핵심 단계로 구성됩니다:

1. 앵커 - 잔차 분해:
   원시 수요를 직접 전달하는 대신, 로그 변환된 수요 ($z = \log(1+Y)$) 를 두 가지 구성 요소로 분해합니다:

   • 앵커 구성 요소: 레이블이 지정된 목표 샘플을 기반으로 안정적인 공간 및 캘린더 특징 (예: 좌표, 시간, 요일) 을 사용하여 학습된 목표 도메인 모델 $a_\phi(A)$입니다. 이는 안정적인 정소 - 시간 구조를 포착합니다.
   • 잔차 구성 요소: $r = z - a_\phi(A)$로 정의되며, 연도별 동역학을 포함합니다. 도메인 적응은 이 잔차 구성 요소에만 적용됩니다.

2. 레이블 보존 잔차 특징 생성기:
   결정론적 생성기 $G_\theta(T) = T + h_\theta(T)$ (여기서 $h_\theta$는 작은 MLP) 는 소스 잔차 특징을 목표 특징과 유사하도록 변환합니다. 확률적 GAN 과 달리, 이 생성기는 분포를 정렬하면서도 변환된 특징이 원래 표현과 가깝게 유지되도록 합니다. 학습 목표는 다음을 결합합니다:

   • 생성된 소스 특징과 목표 특징 간의 분포 정렬 손실 (MMD 스타일).
   • 과도한 특징 이동을 방지하기 위한 정체성 정규화.
   • 수요 관련 정보가 유지되도록 보장하는 레이블 보존 및 감독 손실.

3. 강건한 최적 운송 (OT) 정렬:
   특징 생성 후, 이 방법은 최적 운송을 사용하여 소스와 목표 분포를 정렬합니다. 표준 OT 의 이상치에 대한 민감성을 해결하기 위해 Gen-ROTDA 는 강건한 트리밍 단계를 사용합니다:

   • 운송 결합 항목을 비용별로 정렬합니다.
   • 유지된 질량이 지정된 임계값 (예: 0.8) 에 도달할 때까지 고비용 매칭 (이상치) 을 제거합니다.
   • 나머지 결합을 재정규화하여 바리센트릭 투영을 계산합니다. 소스 행이 모든 질량을 잃은 경우, 원래 생성된 특징을 대체 수단으로 유지합니다.

4. 최종 예측:
   잔차 예측기는 운송된 소스 잔차와 레이블이 지정된 목표 잔차 (목표 잔차는 가중치가 높음) 를 기반으로 학습됩니다. 최종 수요 예측은 예측된 잔차를 앵커 예측에 더하고 역로그 변환을 적용하여 재구성됩니다.

주요 기여

1. 문제 공식화: 본 논문은 연도 간 자전거 공유 예측을 잔차 시간적 도메인 적응 문제로 공식화하여, 안정적인 구조적 효과를 전달 가능한 잔차 동역학으로부터 분리합니다.
2. 프레임워크 제안: 결정론적이고 레이블을 보존하는 잔차 특징 생성기와 강건한 OT 트리밍을 독창적으로 결합한 Gen-ROTDA 를 도입합니다.
3. 종합 평가: 이 방법은 주요 작업, 다년 전이, 비정상 레코드에 대한 강건성 테스트, 그리고 제거 실험을 통해 Citi Bike 데이터 (2021–2026) 에서 평가되었습니다.

실험 결과

• 주요 작업 (2025 $\to$ 2026): Gen-ROTDA 는 0.8625의 가장 낮은 평균 절대 오차 (MAE) 를 달성하여 소스 전용 기준 (0.8834) 과 Sinkhorn OTDA 변형 (0.8633) 을 능가했습니다. Gen-OTDA(강건한 트리밍 없음) 가 가장 낮은 RMSE 와 가장 높은 $R^2$를 달성했지만, Gen-ROTDA 는 희소하고 왜도된 수요 데이터에 중요한 평균 절대 오차 최소화에 있어 우월했습니다.
• 다년 성능: 인접 연도 및 2 년 전이 작업 전반에 걸쳐 Gen-ROTDA 는 OT 계열 내에서 최고 성능을 보이는 방법으로, Sinkhorn OTDA, ROTDA, Gen-OTDA 를 약간 능가했습니다. 그러나 전체 평균 MAE 측면에서는 파인튜닝 및 MMD 적응과 같은 강력한 기준을 능가하지는 못했습니다.
• 강건성: 주입된 비정상 목표 레코드 (최대 20% 오염) 하에서 Gen-ROTDA 는 우수한 안정성을 보여주었습니다. MAE 는 0.8625 에서 0.8629 로 미미하게 증가한 반면, 비강건 변형 (Sinkhorn OTDA 및 Gen-OTDA) 은 현저한 저하를 보였습니다.
• 제거 실험: 연구는 강건한 OT 트리밍이 MAE 개선의 주요 동력임을 확인했습니다. 생성기는 modest 한 추가 이점을 제공했으나 단독으로는 지배적인 요인이 아니었습니다.

의의 및 주장
본 논문은 강건한 운송이 도시 이동성 예측에서 노이즈가 있는 시간적 전이를 처리하는 데 있어 결정적인 구성 요소라고 주장합니다. 고비용 운송 매칭을 트리밍함으로써, 이 방법은 일반적으로 표준 OT 접근 방식을 불안정하게 만드는 비정상 목표 레코드의 영향을 효과적으로 완화합니다.

저자들은 Gen-ROTDA 를 모든 기준에 걸쳐 보편적으로 우수한 예측기로 위치 짓지 않습니다 (단순 파인튜닝 및 MMD 적응이 여전히 강력함을 인정). 대신 데이터 이상치가 존재할 때 상당한 안정성을 제공하는 강건한 OT 계열 방법으로 위치 짓습니다. 앵커 - 잔차 설계는 안정적인 구조를 분리하는 실용적인 전략으로 강조되며, 이를 통해 잔차 적응 문제를 차원이 낮고 더 다루기 쉬운 문제로 만듭니다. 연구 결과에 따르면 생성적 특징 변환은 유연성을 제공하지만 그 가치는 보완적이며 작업에 의존하는 반면, 노이즈가 많은 환경에서 신뢰할 수 있는 시간적 도메인 적응을 위해서는 강건한 정렬이 필수적입니다.