🤖 machine learning

DSETA: A Dual-Stage Continual Learning Framework for Travel Time Prediction in Dynamic Traffic Environments

본 논문은 동적인 교통 패턴에 효과적으로 대응하고 치명적 망각을 방지하기 위해 일중 실시간 적응과 일간 이력 통합을 결합한 이단계 지속 학습 프레임워크인 DSETA를 제안하며, 이를 통해 여러 주요 도시의 DiDi 운영 ETA 예측 시스템에서 상당한 정확도 향상을 달성하였다.

원저자: Yanming Lyu, Yue Cheng, Lingkun Li, Ruipeng Gao, Xinyue Liu, Hui Gao, Qiang Ni

게시일 2026-08-04

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yanming Lyu, Yue Cheng, Lingkun Li, Ruipeng Gao, Xinyue Liu, Hui Gao, Qiang Ni

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신의 집에서 친구의 파티 장소까지 가는 데 시간이 얼마나 걸릴지 추측하려고 한다고 상상해 보세요. 완벽한 세상이라면 교통 상황은 메트로놈처럼 일정하고, 예측 가능하며, 매일 똑같을 것입니다. 하지만 현실 세계의 교통은 마치 혼란스러운 댄스 파티와 같습니다. 때로는 갑작스러운 사고가 도로를 막기도 하고, 때로는 공휴일 때문에 차량이 몰려들기도 하며, 때로는 새로운 도로가 개통되어 도시의 전체적인 리듬을 바꾸기도 합니다. 이것이 바로 DiDi나 Uber와 같은 승차 공유 앱에 매우 중요한 작업인 ETA(도착 예정 시간) 예측의 세계입니다. 만약 앱이 예측에 실패하면, 당신은 늦을 수도 있고 운전자는 예상치 못한 교통 체증에 갇힐 수도 있습니다.

오랫동안 컴퓨터는 과거 데이터를 살펴보는 방식으로 이 문제를 해결하려 노력했습니다. 컴퓨터는 "지난주 화요일 오후 5시에는 20분이 걸렸으니, 오늘도 20분이 걸릴 것이다"라고 말하곤 했습니다. 하지만 이러한 방식은 작년의 지도를 가지고 폭풍우 치는 바다를 항해하려는 것과 같습니다. 날씨가 평온할 때는 괜찮지만, 갑작스러운 폭풍이 몰아칠 때는 처참하게 실패합니다. 여기서 **지속 학습(Continual Learning)**이 등장합니다. 이것은 단순히 사실을 암기하는 것이 아니라, 과거의 것을 잊지 않으면서 매일 새로운 것을 계속해서 배우는 뇌라고 생각하면 됩니다. 큰 과제는 두 가지 사이의 균형을 맞추는 것입니다. 즉, 일반적인 패턴(예: 매일 아침의 출퇴근 시간)을 기억하는 것과, 기이한 일회성 사건(예: 퍼레이드나 사고)에 즉각적으로 반응하는 것 사이의 균형입니다. 만약 컴퓨터가 퍼레이드에 대해 너무 많이 배우면, 보통 오후 5시에 출근 시간대가 된다는 사실을 잊어버릴 수 있습니다. 반대로 일반적인 루틴에 대해 너무 많이 배우면, 지금 퍼레이드가 일어나고 있다는 사실을 알지 못할 것입니다.

이것이 바로 베이징 교통대학교(Beijing Jiaotong University)와 DiDi의 연구진이 DSETA라는 새로운 프레임워크를 통해 해결하고자 했던 퍼즐입니다. 연구진은 교통 상황에는 두 가지 다른 '속도'의 변화가 있다는 점을 깨달았습니다. 즉, 단 하루 동안 발생하는 빠른 변화와, 몇 주 또는 몇 달에 걸쳐 발생하는 느린 변화입니다. 이를 처리하기 위해 그들은 두 가지 서로 다른 눈을 가진 운전자처럼 작동하는 2단계 학습 시스템을 구축했습니다.

첫 번째는 일중 단계(Intra-day stage), 즉 "당일의 눈"입니다. 이 부분은 '지금 당장' 일어나고 있는 일에 극도로 민감하게 반응합니다. 이 단계는 분 단위로 실시간 데이터를 살펴보며 갑작스러운 돌발 상황을 포착합니다. 만약 자동차 사고가 나거나 공휴일 교통량이 급증하기 시작하면, 이 단계는 즉시 예측치를 조정합니다. 이는 마치 운전자가 전방의 빨간불을 보고, 비록 5분 전 지도에는 도로가 뚫려 있다고 되어 있었더라도 즉시 속도를 줄이는 것과 같습니다. 이러한 빠른 반응이 운전자의 정상적인 운전법을 잊게 만들지 않도록 하기 위해, 그들은 **매개변수 격리(Parameter Isolation)**라는 영리한 기술을 사용합니다. 운전자의 뇌에 두 부분이 있다고 상상해 보세요. 하나는 도로의 기본 규칙(예: 특정 거리를 지나가는 데 보통 시간이 얼마나 걸리는지)을 알고 있는 "안정적인 손"이고, 다른 하나는 갑작스러운 방향 전환을 처리하는 "빠른 반사 신경"입니다. 시스템은 "안정적인 손"을 고정하여 혼란 때문에 헷도되지 않도록 하는 한편, "빠른 반사 신경"만을 사용하여 새롭고 무질서한 데이터로부터 학습하도록 합니다.

두 번째는 일간 단계(Inter-day stage), 즉 "장기적인 눈"입니다. 이 부분은 하루에 한 번 깨어나 더 큰 그림을 살펴봅니다. "지난 몇 주 동안 도시가 어떻게 변했는가?"라고 묻습니다. 아마도 새로운 도로가 열렸거나, 계절이 바뀌면서 사람들이 보통 언제 출근하는지의 패턴이 바뀌었을 수도 있습니다. 이 단계는 **주간 정보 재생(Weekly Information Replay)**이라는 방법을 사용하는데, 이는 지난 몇 주간의 하이라이트 영상을 복기하는 것과 같습니다. 이를 통해 오늘이 비록 이상하게 조용했던 화요일이었더라도, 화요일은 보통 붐빈다는 사실을 시스템이 기억하도록 합니다. 또한, **지식 증류(Knowledge Distillation)**라는 방식을 사용하는데, 이는 자신의 새로운 추측치를 기존의 신뢰할 수 있는 지식과 대조하여 기초적인 것을 실수로 잊어버리지 않는지 확인하는 세련된 방법입니다.

연구진은 베이징, 우한, 시안의 수백만 건의 여정을 포함한 실제 DiDi 데이터를 사용하여 이 시스템을 테스트했습니다. 그들은 단순히 시뮬레이션을 돌린 것이 아니라, 실제로 DSETA를 실제 앱에 적용하여 실제 사용자들을 위한 여정을 예측하게 했습니다. 결과는 인상적이었습니다. 베이징에서 이 시스템은 평균 예측 오차를 6.62% 줄였습니다. 우한에서는 오차를 0.73% 줄였고, 시안에서는 2.40% 줄였습니다. 더 중요한 것은, 이 시스템이 혼란스러운 시기에 앱을 훨씬 더 신뢰할 수 있게 만들었다는 점입니다. 예측이 크게 빗나가는 "나쁜 사례(bad case)" 비율이 현저히 감소했으며, 이는 운전자가 예상치 못한 정체에 갇히거나 승객이 예상보다 오래 기다리는 일이 줄어들었음을 의미합니다.

이 시스템이 정말 멋진 점은 매우 견고하다는 것입니다. 설령 컴퓨터가 바빠서 하루 동안 몇 번의 빠른 업데이트를 놓치더라도, 시스템은 멈추거나 형편없는 조언을 내놓지 않습니다. 새로운 예측치가 준비될 때까지 마지막으로 좋았던 예측치를 계속 사용하는 안전망을 갖추고 있습니다. 연구진은 이 이중 단계 접근 방식이 모든 것을 한꺼번에 배우려고 하는 기존 방식보다 더 효과적이라는 것을 발견했습니다. "빠른" 학습과 "느린" 학습을 분리함으로써, DSETA는 유연성과 안정성을 동시에 확보할 수 있었습니다.

결국, DSETA는 혼란스러운 세상에서 미래를 예측하는 최선의 방법은 모든 세부 사항을 암기하는 것이 아니라, '지금'에 집중해야 할 때와 '과거'를 기억해야 할 때를 아는 시스템을 갖추는 것임을 보여줍니다. 이는 도시의 일반적인 리듬을 잘 알면서도, 퍼레이드가 길을 막았을 때 즉각적으로 반응할 줄 아는 숙련된 택시 운전자와 같습니다. 이 프레임웨 덕분에 승차 공유 앱은 이제 단순한 과거 기반의 추측이 아니라, 도시가 숨 쉬고 변화함에 따라 적응하는 스마트하고 살아있는 예측을 제공할 수 있게 되었습니다.

기술 요약: DSETA

문제 정의

도착 예정 시간(ETA) 예측은 지능형 교통 시스템의 초석이며, 차량 호출 배차, 경로 계획 및 동적 가격 책정에 있어 매우 중요합니다. 그러나 대규모의 역동적인 도시에서 높은 정확도를 유지하는 것은 교통의 비정상성(non-stationary nature)으로 인해 상당한 어려움을 수반합니다. 기존의 딥러닝 모델들은 시공간적 의존성을 포착하는 데는 효과적이지만, 추론 과정에서 정적인 상태로 머무르는 경우가 많아 분포 변화(distribution shifts)에 직면했을 때 최적의 성능을 내지 못하는 한계가 있습니다.

저자들은 현재의 지속 학습(Continual Learning, CL) 방법론이 적절히 해결하지 못하는 세 가지 구체적인 산업적 과제를 식별했습니다:

불확실한 동적 교통 패턴: 현재의 모델들은 불규칙한 상황(예: 사고, 공휴일)에서 발생하는 급격하고 유의미한 역사적 규범으로부터의 이탈을 예측하는 데 어려움을 겪습니다. DiDi 플랫폼에서 이러한 불규칙한 혼잡은 2024년 주요 예측 실패 원인의 약 60%를 차지했습니다.
혼합된 다중 스케일 시간 패턴: 기존 프레임워크는 단기 변동(사고와 같은 일시적 이벤트)과 장기 분포 변화(계절적 트렌드, 도로 네트워크 진화)를 구분하는 데 실패하는 경우가 많습니다. 이러한 이질적인 신호들을 동일하게 취급하면 실제 교통 역학을 파악하기 어렵게 만듭니다.
파괴적 망각(Catastrophic Forgetting): 표준 업데이트 전략은 새로운 분포를 학습하지 못하거나 최근 데이터에 과적합될 위험이 있으며, 이는 일상 운영에 필수적인 기초적이고 반복적인 교통 패턴을 망각하게 만듭니다.

방법론: DSETA 프레임워크

이러한 과제를 해결하기 위해 저자들은 지속 학습을 일중(Intra-day) 및 일간(Inter-day) 업데이트의 두 가지 상호 보완적인 단계로 분해하는 점진적 업데이트 프레임워크인 DSETA(Dual-Stage ETA)를 제안합니다.

1. 베이스 모델 아키텍처

기저 예측기는 시공간적 상관관계를 모델링하는 데 효과적인 DeepFM 아키텍처를 기반으로 합니다. 이는 다음과 같이 구성됩니다:

Wide 모듈: 임베딩 투영(embedding projections)과 일반화된 선형 레이어를 통해 글로벌 및 경로 수준의 특징(예: 드라이버 ID, 요일, OD 쌍, 날씨)을 학습합니다.
Deep 모듈: 2개 층의 완전 연결 네트워크(fully connected network)를 사용하여 미세한 링크 수준의 정보(예: 링크 ID, 길이, 혼잡 상태)를 모델링합니다.
출력: 두 모듈의 표현을 결합하여 이동 시간을 예측하는 3개 층의 MLP로 구성됩니다.

2. 이중 단계 지속 학습

핵심 혁신은 시간적 스케일에 따라 학습 과정을 분리하는 데 있습니다:

일중 단계 (단기 적응):
- 목표: 일시적 이벤트(사고, 공휴일)로 인한 단기 교통 변동에 빠르게 적응합니다.
- 메커니즘: 단일 일 내의 시간 단위 윈도우 내에서 수집된 실시간 스트리밍 데이터를 사용합니다.
- 파라미터 격리 전략: 안정적인 패턴의 파괴적 망각을 방지하기 위해, 모델 파라미터를 고정된 컴포넌트( $u$ , Wide 모듈)와 적응형 컴포넌트( $v$ , Deep 모듈)로 분리합니다. Deep 모듈만 현재 데이터 배치(batch)를 사용하여 업데이트함으로써, 글로벌 특징의 안정성을 보존하는 동시에 지역적이고 실시간적인 역동성에 대한 민감도를 허용합니다.
일간 단계 (장기 적응):
- 목표: 계절적 트렌드 및 도로 네트워크 진화와 같은 장기적인 분포 변화를 포착합니다.
- 메커니즘: 짧은 룩백 윈도우(예: 3~5주)로부터 집계된 과거 데이터를 활용하여 일과 일 사이의 전환 시점에 발생합니다.
- 주간 정보 리플레이(Weekly Information Replay): 망각을 완화하기 위해, 타겟 서브셋(동일한 요일의 데이터)과 제네릭 서브셋(다른 요일의 데이터)을 함께 재생(replay)하여 학습 데이터셋을 구성합니다. 이는 지속적인 시간적 구조를 강화합니다.
- 지식 증류(Knowledge Distillation): 손실 함수에는 이전 날의 모델 상태로부터의 발산을 페널티로 부여하는 증류 항이 포함되어, 역사적 지식을 잃지 않으면서 장기적 변화에 부드럽게 적응하도록 보장합니다.

3. 시스템 아키텍처 및 결함 허용(Fault Tolerance)

시스템은 고동시성 산업 배포(예: QPS $\ge$ 10k)를 위해 설계되었습니다. 다음과 같은 서비스 결함 허용 메커니즘을 채택합니다:

파라미터 버퍼링: 중간 파라미터는 라이브 서비스에 영향을 주지 않도록 임시 버퍼에 저장됩니다.
원자적 업데이트(Atomic Updates): 파라미터 편차가 안전 임계값 이내인 경우에만 모델 교체가 발생하며, 그렇지 않으면 시스템은 이전의 안정적인 모델로 롤백됩니다.
타임아웃 복구: 훈련이 제한 시간을 초과할 경우, 시스템은 자동으로 마지막으로 알려진 양호한 상태로 복구됩니다.

주요 기여

DSETA 프레임워크: 학습을 일간 및 일중 단계로 분리함으로써 정규 및 불규칙한 교통 패턴을 명시적으로 포착하는 새로운 지속 학습 프레임워크를 제시합니다.
이중 단계 업데이트 메커니즘: 장기 분포 변화(지식 증류를 통한 일간 업데이트로 처리)와 단기 변동(실시간 데이터를 통한 일중 업데이트로 처리)을 구분하는 특화된 설계를 제공합니다.
지식 통합 모듈: 주간 정보 리플레이(주간 구조적 트렌드 보존을 위함)와 파라미터 격리(변동성이 큰 업데이트 중 안정적인 글로벌 특징 보호를 위함)의 조합을 통해 파괴적 망각을 효과적으로 완화합니다.
산업적 검증: DiDi 플랫폼의 실제 데이터셋을 사용하여 광범위한 오프라인 및 온라인 실험을 수행하였으며, 다양한 도시와 교통 조건에서의 견고함을 입증하였습니다.

실험 결과

저자들은 베이징의 오프라인 데이터셋과 베이징, 우한, 시안에서의 온라인 A/B 테스트를 통해 DSETA를 평가했습니다.

오프라인 성능 (베이징): DSETA는 모든 지표에서 SOTA 베이스라인(WDR, HierETA, iETA 포함)보다 우수한 성능을 보였습니다.
- MAE: 110.21초로 감소 (iETA의 113.14초 대비).
- Bad Case Rate: 3.72%로 감소 (iETA의 4.07% 대비), 이는 까다로운 조건 하에서 신뢰성이 크게 향상되었음을 나타냅 most.
- 2분 정확도: 69.70% 달성.
- 절제 연구(Ablation Studies): 일중 또는 일간 단계, 혹은 지식 통합 메커니즘 중 하나라도 제거할 경우 측정 가능한 성능 저하가 발생함을 확인하여, 이중 단계 설계의 필요성을 입증했습니다.
온라인 A/B 테스트: 3개 도시에서 2주간(6일간의 공휴일 기간 포함) 실시되었습니다.
- 베이징: MAE 6.62% 감소.
- 우한: MAE 0.73% 감소.
- 시안: MAE 2.40% 감소.
- 사용자 경험: DSETA는 일관되게 사용자 불만율을 낮추었으며, 특히 교통 패턴이 가장 불규칙한 공휴일 기간에 가장 큰 개선을 보였습니다.
- 효율성: 높은 쿼리 부하(최대 6000 QPS) 하에서도 프레임워크는 베이스라인 대조군과 유사한 지연 시간을 유지하여 결함 허용 메커니즘의 효용성을 입증했습니다.

의의

본 논문은 DSETA가 학술적 지속 학습 연구와 산업적 배포 요구 사항 사이의 간극을 성공적으로 메웠다고 주장합니다. 단기 변동성과 장기 구조적 변화를 명시적으로 분리함으로써, 이 프레임워크는 불규칙한 이벤트에 적응하지 못하거나 정규 패턴에 대한 파괴적 망각을 겪는 기존 모델의 핵심적인 한계를 해결합니다.

저자들은 DSETA가 매일 수억 건의 요청을 처리하는 DiDi의 프로덕션 환경에 성공적으로 배포되었음을 강조합니다. 이러한 배포는 역동적인 교통 환경에서 높은 예측 정확도와 시스템 안정성을 유지하는 프레임워크의 능력을 검증하며, 사용자 경험과 플랫폼 효율성을 직접적으로 향상시킵니다.