🤖 machine learning

Single State Update Predictive Coding training for Time Series Forecasting and Anomaly Detection

이 논문은 생성적 PCN을 인코딩 PCN과 쌍으로 결합하여 순차적인 역방향 오차 전파를 제거함으로써 시계열 예측 및 이상 탐지를 위한 안정적이고 연속적인 온라인 학습을 가능하게 하는 예측 코딩 네트워크(Predictive Coding Networks)를 위한 병렬 훈련 기법을 소개한다.

원저자: Matteo Cardoni, Sam Leroux

게시일 2026-08-26

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Matteo Cardoni, Sam Leroux

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인공지능의 세계에서 기계는 종종 완성된 결과물을 보고 그것이 어떻게 만들어졌는지 역으로 추적하며 학습하도록 교육받습니다. 백프로파게이션(backpropagation, 오차 역전파)이라고 알려진 이 방식은 현대 딥러닝의 핵심 엔진이지만, 한 가지 중대한 결함을 가지고 있습니다. 바로 컴퓨터가 정보를 엄격하고 단계적인 순서에 따라 처리해야 한다는 점입니다. 방 뒷줄에서 앞줄로 메시지를 전달하는 사람들의 줄을 상상해 보십시오. 만약 맨 뒷줄에 있는 사람이 마음을 바꾼다면, 오류를 수정하기 위해 메시지는 다시 줄 전체를 거쳐 끝까지 돌아가야 합니다. 이러한 순차적인 특성은 프로세스를 느리게 만들며, 실시간으로 학습이 필요한 작고 휴대 가능한 기기에서 구동하기 어렵게 만듭니다. 예측 코딩(predictive coding)이라 불리는 다른 접근 방식은 해결책을 제시합니다. 이 패러다임은 뇌와 기계가 다음에 어떤 일이 일어날지 끊임없이 추측하고, 현실이 그 추측과 다를 때만 내부 상태를 조정함으로써 학습한다고 제안합니다. 목표는 이러한 조정을 신호가 한쪽 끝에서 다른 쪽 끝으로 전달되기를 기다리는 대신, 전체 시스템 전체에서 한꺼번에 일어나도록 만드는 것입니다.

헨트 대학교의 연구자 마테오 카르도니(Matteo Cardoni)와 샘 르루(Sam Leroux)는 이 병렬 학습 개념을 비디오 스트림이나 센서 판독값과 같은 시계열 데이터에 구현하는 새로운 훈련 기법을 개발했습니다. 그들의 연구는 예측 코딩 네트워크의 고질적인 병목 현상을 다룹니다. 이론적으로는 병렬 업데이트가 가능함에도 불구하고, 실제 구현 과정에서는 여면 출력층에서 입력층으로 오차 신호가 순차적으로 전파되기를 기다리며 정체되는 경우가 많기 때문입니다. 이를 해결하기 위해 연구팀은 두 개의 신경망을 하나로 묶는 방법을 도입했습니다. 생성자 역할을 하는 하나의 네트워크는 이전 순간을 바탕으로 다음 순간을 예측하려고 시도합니다. 두 번째 네트워크인 인코더 역할은 실제 들어오는 데이터를 관찰합니다. 생성자가 느리고 반복적인 과정을 통해 홀로 학습하도록 강요하는 대신, 인코더가 생성자와 나란히 실행되며 그 내부 활동을 일치시킵니다. 이러한 파트너십을 통해 시스템은 여러 차례의 수정 과정을 거치는 대신, 단 한 번의 통합된 단계로 전체 내부 상태를 업데이트할 수 있습니다.

연구진은 표준 이미지 세트의 숫자가 검은 배경 위를 움직이는 시뮬레이션 환경을 구축하여 이 접근 방식을 테스트했습니다. 그들은 5개 층으로 구성된 신경망에 이 움직임의 다음 프레임을 예측하도록 과제를 부여했습니다. 일반적인 조건에서 숫자는 대각선으로 움직였지만, 연구진은 숫자가 갑자기 방향을 바꾸거나, 벽에 튀거나, 심지어 완전히 다른 숫자로 바뀌는 것과 같은 갑작스러운 이상 현상을 도입했습니다. 시스템은 이러한 새로운 행동을 관찰한 후 이를 정상적인 것으로 간로하며 즉석에서 새로운 패턴을 학습해야 했습니다. 실험에서 여러 단계의 순차적 과정을 통해 오류를 수정하는 데 의존하는 전통적인 방식은 패턴이 변할 때 어려움을 겪었습니다. 이 방식은 빠르게 적응하지 못해 예측이 현실과 동떨어지는 현상이 자주 발생했습니다. 반면, 새로운 쌍 네트워크 방식은 거의 즉각적으로 회복되었습니다. 움직임 패턴이 바뀌었을 때, 시스템은 단 한 번의 업데이트로 내부 표현을 조정했고, 새로운 궤적을 정확하게 예측하며 안정적이고 연속적인 학습 곡선을 유지했습니다.

결과에 따르면, 이 단일 상태 업데이트 기법은 훨씬 더 안정적인 학습 과정을 제공하는 것으로 나타났습니다. 전통적인 방식은 데이터가 변할 때마다 오류가 급격히 치솟는 현상을 보인 반면, 새로운 방식은 이러한 전환을 부드럽게 처리하여 모델이 발을 헛디디지 않고 새로운 역학을 정상적인 것으로 받아들일 수 있게 했습니다. 이 연구는 지원 네트워크를 사용하여 학습 과정을 안내함으로써, 시스템이 일반적으로 이러한 유형의 모델을 제한하는 느린 순차적 오차 전파를 우회할 수 있음을 시사합니다. 이 발견은 스마트폰이나 센서와 같이 전력과 처리 속도가 제한된 엣지 디바이스에서의 인공지능 미래에 특히 중요합니다. 기계가 병렬적으로 지속해서 학습할 수 있도록 함으로써, 이 기술은 긴 수정 체인이 완료되기를 기다리는 무거운 계산 비용 없이도 변화하는 세상에 실시간으로 적응할 수 있는 시스템을 향한 유망한 길을 제시합니다.

기술 요약: 시계열 예측을 위한 단일 상태 업데이트 예측 코딩

문제 정의
예측 코딩(Predictive Coding, PC)은 신경 학습 패러다임으로서, 역전파(Backpropagation)에 대한 저복잡도 대안을 제공하며, 계층별 병렬 업데이트가 가능하다는 특징이 있다. 그러나 예측 코딩 네트워크(PCNs)에는 출력층에서 모든 계층으로 순차적인 오차 전파가 필요하다는 중대한 병목 현상이 존재한다. PCNs는 수렴을 가속화하기 위해 종종 피드포워드(feedforward) 방식으로 초기화되지만, 이 방식은 네트워크 깊이와 같거나 그보다 많은 수의 추론 단계(inference steps)를 필요로 한다. 이러한 순차적 의존성은 업데이트 전파의 소실(vanishing)을 초과하여 발생시키며, 특히 빠른 적응이 중요한 시계열 응용 분야에서 온라인 학습의 효율성을 저해한다.

방법론: 가이드형 PC 학습 (Guided PC Training)
이러한 순차적 업데이트 병목 현상을 해결하기 위해, 저자들은 두 개의 별개 네트워크인 **생성형 PCN (G-PCN)**과 **인코딩 PCN (E-PCN)**을 쌍으로 결합하는 "가이드형 PC(Guided PC)" 학습 기법을 제안한다. 이 네트워크들은 신경 활성화(neural activations)를 일치시키도록 병렬로 학습되며, 이를 통해 여러 번의 상태 업데이트 반복 없이도 순차적 전파의 요구 사항을 극복한다.

단일 타임 스텝 $t$ 에 대한 학습 과정은 네 가지 통합된 단계로 구성된다:

병렬 피드포워드 초기화:
- G-PCN(디코더 역할)은 시간 매핑 계층( $\theta_0$ )을 통해 이전 상태 $h_{t-1}^0$ 를 현재 입력 표현 $\mu_t^0$ 로 매핑한 후, 다음 타임 스텝 데이터 $\hat{x}_t$ 를 예측한다.
- E-PCN(인코더 역할)은 실제 입력 $x_t$ 를 받아 표준 피드포워드 패스를 수행하여 활성화 값 $\gamma_t$ 를 생성한다.
병렬 상태 업데이트 (가이딩 및 내부 에너지):
- 두 네트워크는 두 가지 에너지 함수를 최소화하기 위해 병렬로 상태를 업데이트한다:
  - 가이딩 에너지 (Guiding Energy, $G$ ): 두 네트워크 간의 활성화 차이의 제곱 합 ( $\sum (\mu_l - \gamma_l)^2$ ).
  - 출력층의 내부 에너지 (Internal Energy, $I$ ): G-PCN의 예측값과 실제 입력 간의 차이의 제곱 ( $(\hat{x}_t - x_t)^2$ ).
- 이 단계는 두 네트워크의 모든 계층이 동시에 비제로(non-zero) 업데이트를 받도록 보장한다.
G-PCN 내부 상태 정교화:
- G-PCN은 내부 에너지 ( $I = \sum (h_l - \mu_l)^2$ )를 최소화하기 위해 고전적인 "바닐라(Vanilla)" PC 상태 업데이트를 수행한다. 2단계에서 이미 상태가 업데이트되었기 때문에, 이 단계는 실제 입력 $x_t$ 를 참조점으로 사용하여 G-PCN의 표현을 더욱 정교하게 만든다. E-PCN은 이 특정 단계를 수행하지 않으며, 대신 가이딩 에너지를 통해 G-PCN과 정렬되는 것에 의존한다.
병렬 가중치 업데이트:
- G-PCN의 가중치는 내부 에너지( $I$ )를 최소화하도록 업데이트된다.
- E-PCN의 가중치는 가이딩 에너지( $G$ )를 최소화하도록 업데이트된다.

이 아키텍처에서 E-PCN은 G-PCN의 표현을 맞추도록 학습되는 지원 네트워크(교사 모델과 유사) 역할을 하며, G-PCN은 E-PCN의 가이드를 사용하여 업데이트를 전파하는 주요 학습자(학생 모델) 역할을 한다.

주요 기여

단일 상태 업데이트 메커니즘: 본 논문은 특정 듀얼 네트워크 설정을 통해, 표준 PC 학습에서 요구되는 다중 상태 업데이트 반복 없이 모든 계층의 PCN을 단일 통합 반복 내에 업데이트할 수 있는 기술을 도입하였다.
듀얼 네트워크 아키텍처: 생성형 PCN과 인코딩 PCN을 쌍으로 결합함으로써, 계층별 활성화 일치를 강제하고, 이는 여러 번의 추론 단계 없이도 상태 업데이트를 가속화한다.
병렬화: 기존의 가속화 방법들과 달리, 이 접근 방식은 배치 데이터를 사용하여 네트워크 깊이에 걸쳐 병렬적이고 계층적인 업데이트를 제공한다.

실험 결과
저자들은 움직이는 MNIST 숫자 데이터셋을 사용하여 연속적인 온라인 학습 과제인 시계열 이상 탐지(anomaly detection)에 대해 기술을 평가하였다.

설정: 다음 프레임을 예측하도록 학습된 5계층 MLP가 사용되었다. 이상 징립(anomaly)은 움직임 방향(X/Y 반전) 또는 숫자 값의 급격한 변화로 도입되었다.
성능: 가이드형 PC는 전통적인 "바닐라" PC(5회의 추론 단계 필요)에 비해 우수한 안정성을 보여주었다.
- 두 방법 모두 초기 역학(dynamics)을 빠르게 학습하였다.
- 이상 징립이 도입되었을 때, 가이드형 PC는 새로운 행동을 "정상"으로 취급하도록 빠르게 적응하며 신속히 회복하였다.
- 바닐라 PC는 오차 신호 전파가 느리고 소실됨에 따라 이상 징립 이후 발산하였다.
지표: 가이드형 PC는 더 낮은 평균 제곱 오차(MSE) 스파이크와 더 빠른 회복 시간을 달성하였으며, 단 한 번의 통합 상태 업데이트 단계만으로도 안정성을 유지하였다.

의의 및 주장
본 논문은 이 학습 기법이 다중 상태 업데이트 반복의 필요성을 극복함으로써 예측 코딩 고유의 순차적 상태 업데이트 병목 현상을 효과적으로 해결한다고 주장한다. 듀얼 네트워크 아키텍처를 통해 단일 단계에서 모든 계층의 병렬 업데이트를 가능하게 함으로써, 이 방법은 훈련 안정성과 수렴 속도를 향상시킨다. 저자들은 이러한 효율성이 이 접근 방식을 에지 디바이스(edge devices)에서의 온라인 학습에 특히 유망하게 만든다고 제안하는데, 이는 계산 자원과 지연 시간 제약이 매우 중요한 환경이기 때문이다. 결과는 가이드형 PC가 전통적인 PC 방법이 빠르게 적응하지 못할 수 있는 동적인 환경에서도 지속적인 학습 안정성을 유지할 수 있음을 나타낸다.

기술 요약: 시계열 예측을 위한 단일 상태 업데이트 예측 코딩

유사한 논문