⚡ electrical engineering

Statistical Efficiency of Single- and Multi-step Models for Forecasting and Control

이 논문은 선형 동적 시스템에서 모델이 정확할 때는 단일 단계 모델이 가장 효율적이지만, 부분 관측성으로 인해 모델이 부정확할 경우 직접적인 다단계 예측기가 편향을 줄여 예측 및 제어 성능을 향상시킨다는 통계적 효율성 트레이드오프를 이론적·실증적으로 분석합니다.

원저자: Anne Somalwar, Bruce D. Lee, George J. Pappas, Nikolai Matni

게시일 2026-03-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Anne Somalwar, Bruce D. Lee, George J. Pappas, Nikolai Matni

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"미래를 예측할 때, 한 걸음씩 차근차근 예측하는 게 나을까, 아니면 한 번에 먼 거리를 예측하는 게 나을까?"**라는 아주 실용적인 질문에 대한 답을 찾아줍니다.

로봇이 길을 찾거나, 주가나 날씨를 예측할 때 우리는 보통 "내일 뭐가 될까?"를 예측하고, 그 결과를 바탕으로 "모레는?"을 예측하는 식으로 한 걸음씩 (Single-step) 나아가곤 합니다. 하지만 이 방법은 작은 실수가 쌓여서 (Compounding error) 먼 미래일수록 예측이 엉망이 될 수 있다는 치명적인 단점이 있습니다.

그래서 "아예 10 일 뒤까지 한 번에 예측해 보자 (Multi-step)"는 방법도 있는데, 이 방법은 데이터가 많이 필요하고 모델이 너무 복잡해질 수 있습니다.

이 논문은 어떤 상황에서 어떤 방법이 더 좋은지 수학적으로 증명했습니다. 핵심 내용을 일상적인 비유로 설명해 드릴게요.

1. 두 가지 상황: "완벽한 지도" vs "안개 낀 길"

이 논문은 예측을 할 때 두 가지 상황을 가정합니다.

상황 A: 완벽한 지도가 있는 경우 (Well-specified Setting)

비유: 당신이 아주 정확한 GPS 가 있는 차를 타고, 모든 도로가 잘 표시된 지도를 보고 운전한다고 상상해 보세요.

한 걸음씩 예측 (Single-step): 매번 "다음 교차로에서 오른쪽으로 가자"라고 말하고, 그다음 "다음 신호에서 왼쪽으로"라고 계속 말합니다.
- 결과: 지도가 완벽하기 때문에, 한 번에 먼 거리를 예측하는 것보다 한 걸음씩 차근차근 예측하는 것이 가장 정확합니다. 작은 실수가 쌓여도 전체 시스템이 안정적이기 때문입니다.
한 번에 먼 거리 예측 (Multi-step): "10 분 뒤에는 저기서 멈출 거야"라고 한 번에 외칩니다.
- 결과: 너무 많은 변수를 한 번에 고려해야 하므로, 오히려 실수가 더 많이 날 수 있습니다. (데이터가 부족할 때 특히 그렇습니다.)

👉 결론 1: 시스템이 완벽하게 이해되고 데이터가 충분하다면, **"한 걸음씩 예측하는 것 (Single-step)"**이 가장 효율적이고 정확합니다.

상황 B: 안개 낀 길, 혹은 정보가 부족한 경우 (Misspecified Setting)

비유: 이제 지도가 없거나, 안개가 자욱해서 앞이 잘 안 보이는 상황을 상상해 보세요. 혹은 차의 시야가 가려져서 바퀴가 어디에 있는지 정확히 알 수 없는 경우입니다.

한 걸음씩 예측의 치명적 약점: "다음 교차로에서 오른쪽으로 가자"라고 말하지만, 안개 때문에 다음 교차로가 어디인지 정확히 모릅니다. 그래서 실수가 나옵니다. 그 실수를 바탕으로 "그다음은 왼쪽으로"라고 하면, 실수가 폭발적으로 커집니다. (이걸 '오류의 누적'이라고 합니다.)
한 번에 먼 거리 예측의 강점: "10 분 뒤에는 저기서 멈출 거야"라고 전체적인 흐름을 한 번에 파악하려고 노력합니다. 비록 세부적인 교차로는 모를지라도, "전체적으로 오른쪽으로 가야 한다"는 큰 그림을 잡으면, 안개 속에서도 전체적인 방향을 더 잘 맞출 수 있습니다.

👉 결론 2: 정보가 부족하거나 시스템이 복잡해서 정확한 모델을 만들 수 없다면, **"한 번에 먼 거리를 예측하는 것 (Multi-step)"**이 실수를 줄이고 더 나은 결과를 줍니다.

2. 중간 지대: "한 걸음씩 예측하되, 먼 거리를 염두에 두고 훈련하기"

연구자들은 또 다른 방법을 제안했습니다.

비유: "한 걸음씩 예측하되, 10 분 뒤의 목적지를 생각하면서 운전하는 법을 배워보자."

방법: 기본은 한 걸음씩 예측하는 모델을 쓰지만, 훈련할 때는 "10 분 뒤까지의 전체 경로가 잘 맞아야 해"라고 가르치는 것입니다.
결과:
- 완벽한 지도 상황에서는 **가장 좋은 방법 (한 걸음씩 예측)**보다는 조금 못하지만, **가장 나쁜 방법 (한 번에 먼 거리 예측)**보다는 훨씬 낫습니다.
- 안개 낀 상황에서는 한 번에 먼 거리 예측보다는 조금 못하지만, 순수한 한 걸음씩 예측보다는 훨씬 낫습니다.

3. 실제 제어 (로봇이나 자동차) 에 적용하면?

예측만 하는 게 아니라, 그 예측을 바탕으로 **자동차를 운전 (제어)**한다고 가정해 봅시다.

완벽한 상황: 한 걸음씩 예측한 모델을 쓰면, 자동차가 가장 부드럽고 정확하게 목적지에 도착합니다.
불완전한 상황 (안개 낀 길):
- 한 걸음씩 예측한 모델을 쓰면, 작은 실수가 쌓여 **자동차가 길을 잃거나 위험한 상태 (불안정)**가 될 수 있습니다.
- 반면, 한 번에 먼 거리를 예측한 모델은 전체적인 흐름을 잘 파악해서, 비록 완벽하지는 않아도 자동차를 안전하게 (안정적으로) 운전하게 해줍니다.

📝 요약: 언제 무엇을 써야 할까?

이 논문의 핵심 메시지는 **"상황에 따라 다르다"**는 것입니다.

시스템을 완벽하게 이해하고 데이터도 풍부하다면?
- 👉 **한 걸음씩 예측 (Single-step)**이 최고입니다. (가장 빠르고 정확함)
시스템이 복잡하고 정보가 부족하거나 (부분 관측), 안개가 끼어 있다면?
- 👉 **한 번에 먼 거리를 예측 (Multi-step)**하는 것이 훨씬 낫습니다. (실수가 쌓이는 것을 막아줌)
그 사이라면?
- 👉 **한 걸음씩 예측하되, 먼 거리를 고려해서 훈련 (Intermediate)**하는 것이 좋은 타협책입니다.

한 줄 요약:

"모든 게 확실할 때는 작은 걸음이 빠르고 정확하지만, 안개가 끼어看不清 (잘 안 보일) 때는 큰 그림을 한 번에 보는 것이 길을 잃지 않는 지름길입니다."

이 연구는 인공지능을 이용해 로봇을 조종하거나 미래를 예측할 때, **"무조건 한 걸음씩 예측하는 게 좋은 건 아니다"**라는 중요한 통찰을 제공해 줍니다.

이 논문은 학습 기반 제어 (Learning-based Control) 및 예측 분야에서 발생하는 누적 오차 (Compounding Error) 문제를 해결하기 위해, 단일 단계 (Single-step) 모델과 다단계 (Multi-step) 모델 간의 통계적 효율성 (Statistical Efficiency) 을 정량적으로 비교 분석한 연구입니다. 저자들은 선형 동적 시스템 (Linear Dynamical Systems) 을 가정하여, 예측 지평 (Horizon) 이 길어질 때 어떤 예측 전략이 더 유리한지에 대한 이론적 근거와 실증적 증거를 제시합니다.

다음은 논문의 주요 내용을 요약한 기술적 요약입니다.

1. 문제 정의 (Problem Statement)

배경: 시계열 예측에서 일반적으로 한 단계 앞 (one-step ahead) 예측 모델을 학습한 후 이를 재귀적으로 적용하여 장기 예측을 수행합니다. 그러나 작은 예측 오차가 시간이 지남에 따라 누적되어 장기 예측 성능이 급격히 저하되는 누적 오차 (Compounding Error) 문제가 발생합니다.
대안: 이를 해결하기 위해 예측 지평 (H) 동안의 오차를 직접 최소화하는 다단계 예측기 (Direct Multi-step Predictor) 를 학습하는 방법이 제안되었습니다.
쟁점: 다단계 예측기는 누적 오차를 줄일 수 있지만, 모델의 복잡도가 예측 지평에 비례하여 증가하여 더 많은 데이터가 필요할 수 있습니다. 반면, 단일 단계 모델은 데이터 효율이 높지만 누적 오차에 취약합니다.
연구 질문: "모델 클래스가 잘 정의된 경우 (Well-specified) 와 잘못 정의된 경우 (Misspecified, 예: 부분 관측성) 에 따라, 단일 단계 모델의 재귀적 적용과 직접적인 다단계 예측 중 언제 어떤 방법이 더 우세한가?"

2. 방법론 (Methodology)

저자들은 선형 시불변 (LTI) 시스템을 가정하고, 다음 세 가지 예측기 클래스를 정의하여 비교 분석했습니다.

단일 단계 예측기 (Single-step, SS): 1 단계 오차를 최소화하는 모델을 학습한 후, 이를 재귀적으로 적용하여 H 단계 예측을 수행합니다.
다단계 예측기 (Multi-step, MS): H 단계의 전체 예측 오차를 직접 최소화하는 모델을 학습합니다. (모델 파라미터 수가 지평 H 에 비례하여 증가)
중간 형식 예측기 (Intermediate, I): 단일 단계 모델 구조를 유지하면서, 다단계 손실 함수 (Multi-step loss) 를 사용하여 학습합니다. (파라미터 수는 단일 단계와 동일하지만 손실 함수는 다단계)

연구는 두 가지 주요 시나리오에서 진행되었습니다:

잘 정의된 설정 (Well-specified Setting): 시스템이 완전히 관측 가능하고 마르코프 성질이 성립하는 경우 ( $C=I, D_v=0$ ).
잘못 정의된 설정 (Misspecified Setting): 부분 관측성 (Partial Observability) 으로 인해 마르코프 가정이 위배되는 경우 ( $C \neq I$ 또는 관측 노이즈 존재).

3. 주요 기여 및 결과 (Key Contributions & Results)

A. 잘 정의된 설정 (Well-specified Setting)

이론적 결과: 시스템이 완전히 관측 가능하고 안정적일 때, 단일 단계 예측기 (SS) 가 점근적 예측 오차 (Asymptotic Prediction Error) 측면에서 가장 효율적입니다.
- 단일 단계 모델은 누적 과정 노이즈 (Process Noise) 를 학습 손실에 포함시키지 않아 분산이 작습니다.
- 다단계 예측기 (MS) 는 예측 지평 H 에 비례하는 추가 파라미터로 인해 데이터 효율성이 떨어지며, 오차 감소 속도가 느립니다.
- 중간 형식 (I) 은 단일 단계와 다단계 사이에서 성능을 보이지만, 단일 단계보다는 효율성이 낮습니다.
순서: 단일 단계 (SS) $\le$ 중간 형식 (I) $\le$ 다단계 (MS) (오차 기준)
제어 성능: 폐루프 제어 (Closed-loop Control) 시나리오에서도 잘 정의된 환경에서는 단일 단계 예측기를 기반으로 한 제어기가 더 낮은 제어 비용 (LQR Cost) 을 보입니다.

B. 잘못 정의된 설정 (Misspecified Setting)

이론적 결과: 부분 관측성으로 인해 마르코프 가정이 위배될 경우, 직접 다단계 예측기 (MS) 가 편향 (Bias) 측면에서 가장 우수한 성능을 발휘합니다.
- 단일 단계 모델은 잘못된 마르코프 가정으로 인해 예측 오차가 지평 H 에 따라 기하급수적으로 증가할 수 있습니다.
- 다단계 예측기는 데이터의 시간적 의존성을 직접 학습하여 모델 오차 (Bias) 를 크게 줄여줍니다.
순서: 다단계 (MS) $\le$ 중간 형식 (I) $\le$ 단일 단계 (SS) (편향 기준)
제어 성능: 모델 오차가 심한 경우, 단일 단계 기반 제어기는 시스템을 불안정하게 만들 수 있으나, 다단계 예측기 기반 제어기는 시스템을 안정화 (Stabilize) 할 가능성이 더 높습니다.

C. 비선형 시스템에 대한 확장

선형 시스템에 대한 이론적 분석 결과가 비선형 시스템 (Koopman 리프팅을 통한 선형화) 에 대해서도 유사한 경향을 보임을 실험을 통해 확인했습니다.

4. 의의 및 시사점 (Significance)

이 논문은 학습 기반 제어 및 예측 분야에서 다음과 같은 중요한 통찰을 제공합니다:

모델 선택에 대한 정량적 가이드: 단순히 "다단계 예측이 누적 오차를 줄인다"는 경험적 사실을 넘어, **시스템의 관측 가능성 (Observability)**과 **모델의 정확도 (Specification)**에 따라 최적의 전략이 달라진다는 것을 수학적으로 증명했습니다.
- 완전한 관측/정확한 모델: 단일 단계 모델 (재귀적 적용) 이 데이터 효율성과 성능 면에서 우세합니다.
- 부분 관측/부정확한 모델: 다단계 예측기가 편향을 줄이고 시스템 안정화에 필수적입니다.
학습 기반 제어의 안정성: 모델 오차가 존재할 때, 다단계 예측기를 사용하면 제어기가 시스템을 불안정하게 만드는 위험을 줄일 수 있음을 보여줍니다.
실무 적용: 데이터가 부족하거나 시스템 동역학이 불완전하게 이해된 상황 (부분 관측) 에서는 비용이 더 들더라도 다단계 예측 전략을 채택해야 함을 시사합니다.

결론

이 연구는 단일 단계와 다단계 예측 전략 간의 트레이드오프를 **통계적 효율성 (Statistical Efficiency)**과 **모델 오차 (Model Misspecification)**의 관점에서 체계적으로 규명했습니다. 잘 정의된 시스템에서는 단일 단계 모델이, 그리고 부분 관측이나 모델 불확실성이 있는 시스템에서는 다단계 모델이 각각 우세함을 이론과 실험을 통해 입증하여, 학습 기반 제어 시스템 설계에 중요한 지침을 제시했습니다.