🤖 machine learning

NeST: Neighborhood-aware semantic alignment and temporal modulation for LLM based time series forecasting

본 논문은 이웃 인지적 텍스트 프로토타입을 생성하고 이를 대조 학습을 통해 시계열 표현과 정렬하며, 우수한 성능과 다양한 벤치마크 및 실제 작업 전반의 일반화 능력을 달성하기 위해 프로토타입 조건부 시계열 변조를 적용함으로써 LLM 기반 시계열 예측을 향상시키는 새로운 프레임워크인 NeST를 제안한다.

원저자: Jayanie Bogahawatte, Sachith Seneviratne, Maneesha Perera, Saman Halgamuge

게시일 2026-08-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jayanie Bogahawatte, Sachith Seneviratne, Maneesha Perera, Saman Halgamuge

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

시간에 따라 변화하는 숫자의 미래를 예측하는 작업은 도시의 전력을 공급하고, 재정을 관리하며, 날씨에 대비하는 방식을 결정짓는 중요한 과업입니다. 수십 년 동안 과학자들은 시계열(time series)이라 불리는 패턴을 예측하기 위해 특화된 수학적 도구들에 의존해 왔습니다. 이러한 도구들은 데이터가 예측 가능한 방식으로 움직일 때는 잘 작동하지만, 패턴이 복형적이거나 복잡하거나, 혹은 학습할 데이터가 매우 적을 때는 어려움을 겪곤 합니다. 최근 몇 년 사이, 거대 언어 모델(Large Language Model)이라는 새로운 종류의 인공지능이 등장했습니다. 원래 인간의 언어를 이해하도록 훈련된 이 모델들은 단어의 시퀀스(sequence)에서 패턴을 찾아내는 데 매우 뛰어납 ability를 보입니다. 시계열 데이터 또한 하나의 시퀀스이기 때문에, 연구자들은 이 언어 모델들에게 문장 대신 숫자를 예측하도록 가르치기 시작했습니다. 여기서 핵심적인 과제는 언어 모델이 알고 있는 이산적이고 뚜렷한 단어들과, 전력 사용량이나 기온처럼 실제 세상의 부드럽고 연속적인 흐름 사이의 간극을 메우는 것입니다.

멜버른 대학교의 한 연구팀은 이 문제를 해결하기 위한 새로운 방법론인 NeST 프레임워크를 개발했습니다. 이들의 접근 방식은 언어 모델의 언어적 이해를 시간을 이해하는 가이드로 어떻게 가장 잘 변환할 것인가에 초점을 맞춥 만큼 정교합니다. 모델에게 단순히 숫자 목록을 단어처럼 읽도록 강요하거나, 엄청난 양의 컴퓨 计算 능력을 요구하는 강압적인 기술을 사용하는 대신, NeST는 '텍스트 프로토타입(text prototypes)'이라는 세트를 생성합니다. 이 프로토타입들을 언어 모델의 방대한 어휘 속에 존재하는 의미의 국소적 영역을 포착하는, 신중하게 선택된 대표적 닻(anchor)이라고 생각하면 됩니다. 연구진은 이 닻들이 언어 모델이 가진 지식의 원래 구조를 그대로 유지하며, 모델이 실제로 이해하지 못하는 영역으로 표류하지 않도록 시스템을 훈련시켰습니다.

이러한 텍의 닻이 확립되면, 시스템은 예측해야 할 실제 시계열 데이터와 이를 정렬합니다. 이는 데이터와 텍스트 닻 사이의 가장 가까운 일치 항목을 찾음으로써 수행되며, 이를 통해 언어 모델의 의미론적 지식이 숫자의 특정 패턴과 직접적으로 관련되도록 보장합니다. 결정적으로, NeST는 텍스트와 숫자를 모델의 내부 타이밍을 혼란스럽게 만드는 방식으로 섞는 대신, 텍스트 닻을 사용하여 데이터를 부드럽게 조정합니다. 시스템은 수치적 특징들을 스케일링하고 이동시켜, 언어 모델이 시계열의 자연스러운 리듬을 해치지 않으면서도 학습된 지혜를 적용할 수 있게 합니다. 이 과정은 모델 설정의 아주 작은 부분만을 변경하면서도 나머지 방대한 지식은 온전히 유지하기 때문에 매우 효율적입니다.

이 새로운 접근 방식의 결과는 다양한 테스트에서 견고하고 일관되게 나타났습니다. 전력 수요나 교통 흐름 예측과 같은 표준 벤치마크를 통한 장기 예측 테스트에서, NeST는 기존의 최선책들을 능가하며 예측 오차를 평균 1.2% 줄였습니다. 이것이 작아 보일 수 있지만, 예측의 세계에서는 아주 미세한 개선조차도 상당한 비용 절감과 더 나은 의사결정으로 이어질 수 있습니다. 또한 이 방법은 데이터가 부족한 상황에서도 놀라울 정도로 효과적이었습니다. 모델이 가용 데이터의 아주 작은 부분만을 가지고 학습해야 하거나, 이전에 본 적 없는 새로운 유형의 데이터를 예측해야 하는 상황에서도 NeST는 다른 방식들에 비해 오차를 거의 5% 가까이 줄이며 높은 정확도를 유지했습니다.

표준 테스트를 넘어, 연구진은 NeST를 실제적인 도전 과제인 분산형 태양광 패널의 전력 출력 예측에 적용했습니다. 태양 에너지 발전은 날씨 조건에 따라 변동성이 크고 지역마다 다르기 때문에 예측하기 까다롭기로 유명합니다. 이 시스템은 다양한 지리적 영역에 위치한 태양광 발전소의 9개 서로 다른 데이터 세트를 대상으로 테스트되었습니다. 모든 경우에서 NeST는 가장 우수한 종합 성능을 보여주었으며, 태양 에너지에 특화되어 설계된 기존 방식들에 비해 예측 정확도를 평균 3.3% 향상시켰습니다. 이는 이 프레임워크가 단순한 이론적 개선을 넘어, 실제 세계의 에너지 시스템이 가진 무질서하고 가변적인 특성을 다룰 수 있는 실용적인 도구임을 시사합니다.

NeST의 성공은 언어와 시간의 고유한 특성을 존중하는 능력에 달려 있습니다. 언어 모델 어휘 내의 기하학적 관계를 보존하고, 이를 통해 숫자의 데이터를 강제적인 연결 없이 가이드함으로써, 연구진은 유연하면서도 정밀한 시스템을 만들어냈습니다. 연구진의 시각화 자료는 기존 방식들이 닻을 공백이거나 무의-미한 공간으로 표류하게 만든 것과 달리, 이들의 방법이 텍스트 닻을 언어 모델 지식의 밀도 높고 의미 있는 영역에 단단히 고정시킨다는 것을 보여줍니다. 이러한 세심한 정렬 덕분에 모델은 데이터에 노이즈가 많거나 불완전한 상황에서도 패턴에 대한 깊은 이해를 활용하여 더 나은 예측을 할 수 있습니다.

궁극적으로, 이 연구는 거대 언어 모델이 핵심적인 강점을 잃지 않으면서도 시계열 예측을 위해 효과적으로 적응될 수 있음을 입증합니다. NeST 프레임워크는 텍스트 지식을 수치적 예측에 통합하는, 계산적으로 효율적이면서도 매우 정확한 방법을 제시합니다. 세상이 더 많은 데이터를 생성하고 더 복합적인 예측 과제에 직면함에 따라, 이러한 방식은 신뢰할 수 있는 길을 제공하며, 언어를 이해하기 위해 사용하는 도구가 물리적 세계의 리듬을 이해하는 데에도 도움을 줄 수 있음을 증명합니다. 이번 연구 결과는 적절한 접근 방식이 있다면 텍스트와 시간 사이의 간극을 메울 수 있으며, 이를 통해 에너지 관리에서 경제 계획에 이르기까지 다양한 분야에서 더 정확한 예측을 이끌어낼 수 있음을 시사합니다.

기술 요약: NeST – LLM 기반 시계열 예측을 위한 이웃 인식 세만틱 정렬 및 시간적 변조(Neighborhood-aware Semantic Alignment and Temporal Modulation)

1. 문제 정의

이산적인 텍스트 데이터로 사전 학습된 대규모 언어 모델(LLM)을 연속적인 시계열 신호 예측에 적응시키는 데는 상당한 어려움이 따릅니다. LLM을 미세 조정(fine-tuning)하는 것이 이러한 적응을 가능하게 하지만, 기존 방식들은 다음과 같은 세 가지 주요 한계점에 직면해 있습니다:

비효적인 프롬프트 통합: 기존 접근 방식은 텍스트와 시계열 모달리티를 단순한 결합(concatenation)이나 파라미터 집약적인 교차 주의 집중(cross-attention) 메커니즘을 통해 결합합니다. 이는 시계열 임베딩의 고유한 시간적 구조를 저해할 수 있는 경직된 결합을 생성하며, 세만틱 사전 지식(semantic priors)이 시간적 특징과 상호작용하는 방식에 대한 제어가 제한적입니다.
최적화되지 않은 프로토타입 학습: 현재의 방법들은 선형 프로빙(linear probing)이나 고정된 사전 정의 세트를 사용하여 텍스트 프로토타입을 생성합니다. 이러한 방식은 사전 학습된 워드 토큰 임베딩 공간의 기하학적 구조를 보존하지 못하는 경우가 많으며, 이로 인해 프로토타입이 LLM의 유효한 매니폴드(manifold) 밖에 위치하게 됩니다. 이는 특히 제한된 감독 하에서 과적합을 유발할 수 있는 퓨샷(few-shot) 환경에서 치명적입니다.
부적절한 시간적 분해: 많은 방법론이 시계열 임베딩을 학습하기 위해 분해 기술(예: STL)에 의존합니다. 그러나 이러한 기술은 실제 응용 분야에서 흔히 발생하는 복잡하고 비정상적인(non-stationary) 시간적 역동성을 충분히 포착하지 못할 수 있습니다.

2. 방법론: NeST 프레임워크

저자들은 LLM 미세 조정을 위한 새로운 텍스트 통합 시계열 프롬프트를 구성하도록 설계된 프레임워크인 NeST(Neighborhood-aware Semantic Alignment and Temporal Modulation)를 제안합니다. 이 아키텍처는 다섯 가지 모듈로 구성됩니다:

모듈 1: 시계열 표현 학습 (Time Series Representation Learning)

입력되는 다변량 시계열은 단변량 채널로 분할됩니다. 각 채널은 분포 변화(distribution shifts)를 완화하기 위해 가역적 인스턴스 정규화(Reversible Instance Normalization, RevIN)를 사용하여 정규화됩니다. 그 후 데이터는 패치 임베딩 레이어(1D convolution)를 통한 패치(국소 시간 창) 분할 과정을 거쳐, 시계열 패치 임베딩( $P^{(i)}$ )과 글로벌 입력 임베딩( $Z^{(i)}$ )을 생성합니다.

모듈 2: 이웃 인식 텍스트 프로토타입 학습 (Neighborhood-aware Text Prototype Learning)

단순히 예측 손실(forecasting loss)을 통해서만 프로토타입을 학습하는 대신, NeST는 LLM의 세만틱 기하학을 보존하는 메커니즘을 도입합니다.

초기화: 학습 가능한 텍스트 프로토타입( $E$ ) 세트를 초기화합니다.
최적화: 프로토타입이 사전 학습된 워드 토큰 임베딩( $W$ )의 로컬 이웃의 중심점(centroid) 역할을 하도록 최적화됩니다. 이는 각 동결된(frozen) 워드 토큰과 가장 가까운 텍스트 프로토타입 사이의 평균 제곱 오차(MSE)를 최소화함으로써 달성됩니다. 이를 통해 프로토타입이 사전 학습된 임베딩 매니폴드의 밀집 영역 내에 머물게 하여 세만틱 사전 지식을 보존합니다.

모듈 3: 최근접 이웃 대비 학습(NNCL) 기반 정렬

학습된 텍스트 프로토타입을 시계열 표현과 정렬하기 위해, NeST는 최근접 이 neighbor 대비 학습 목적 함수를 사용합니다.

서포트 세트(Support Set): FIFO(First-In-First-Out) 큐( $Q$ )가 전체 분포를 근사하기 위해 이전 배치로부터의 대규모 텍스트 프로토타입 세트를 유지합니다.
대비 목적 함수: 주어진 시계열 임베딩 $Z^{(i)}$ 에 대해, 서포트 세트에서 상위- $k$ 최근접 이웃 텍스트 프로토타입을 검색합니다. 시계열 임베딩을 이 관련 텍스트 프로토타입에 더 가깝게 끌어당겨 프로토타입이 시계열 특성을 잘 나타내도록 하는 대비 손실( $L_{NNCL}$ )을 계산합니다.

모듈 4: 텍스트 프로토타입 조건부 시간적 변조 (Text Prototype Conditioned Temporal Modulation)

이 모듈은 토큰 시퀀스를 변경하거나 보조 토큰을 도입하지 않고 세만틱 정보를 시계열에 통합합니다.

집계(Aggregation): 검색된 상위- $k$ 텍end 텍스트 프로토타입을 글로벌 텍스트 컨텍스트 벡터( $C$ )로 집계합니다.
변조(Modulation): 경량 투영 함수(lightweight projection function)를 통해 $C$ 를 특성별 스케일( $\gamma$ ) 및 이동( $\beta$ ) 파라미터로 매핑합니다.
적용: 이 파라미터들은 잔차 보간(residual interpolation)을 통해 시계열 패치 임베딩에 적용됩니다: $P^{(i)*} = \gamma \odot P^{(i)} + \beta$ . 이는 고유한 시간적 구조를 보존하면서 세만틱 컨텍스트에 따라 시간적 특징을 적응적으로 스케일링하고 이동시킵니다.

모듈 5: LLM 미세 조정 및 출력

변조된 임베딩은 LLM의 입력 프롬프트 역할을 합니다. 사전 학습된 우선순위를 유지하고 계산 오버헤드를 줄이기 위해, NeST는 LLM의 멀티 헤드 어텐션(multi-head attention)과 피드 포워드(feed-forward) 레이어를 동결합니다. 오직 **위치 임베딩(positional embeddings)**과 레이어 정규화(layer normalization) 파라미터만을 미세 조정합니다. LLM 출력은 평탄화(flattened)된 후 선형 레이어를 통과하여 최종 예측을 생성합니다.

총 손실(Total Loss): 최적화 목적 함수는 하이퍼파라미터 $\lambda$ 에 의해 가중치가 부여된 예측 손실( $L_{forecast}$ ), 프로토타입 학습 손실( $L_{proto}$ ), 그리고 대비 정렬 손실( $L_{NNCL}$ )을 결합합니다.

3. 주요 기여

이웃 인식 텍스트 프로토타입 학습: 사전 학습된 LLM 워드 토큰 임베딩 공간 내의 로컬 이웃 구조를 명시적으로 보존함으로써, 세만틱 영역의 대표적인 앵커 역할을 하는 텍스트 프로토타입을 학습하는 메커니즘.
NNCL 기반 교차 모달 정렬: 퓨샷 시나리오에서의 견고성을 높이기 위해 서포트 세트를 활용하여 학습된 텍스트 프로토타입을 시계열 표현과 정렬하는 최근접 이웃 대비 학습 목적 함수의 도입.
프로토타입 조건부 시간적 변조: 적응적 스케일링 및 이동을 통해 텍스트 세만틱을 시계열 표현에 주입하는 특성별 조건부 메커니즘을 제공하여, 토큰 결합이나 교차 주의 집중의 경직된 결합 및 높은 계산 비용을 회피함.
포괄적인 실증적 평가: 장기, 단기, 퓨샷 및 제로샷 예측 벤치마크 전반에서 최첨단(SOTA) 성능을 입증함.
실제 환경 검증: 9개의 데이터셋에 걸친 분산형 태양광(PV) 발전량 예측에 성공적으로 적용되어, 재생 에너지 통합 시나리오에서의 견고성을 입증함.

4. 실험 결과

저자들은 장기 예측을 위한 7개 벤치마크 데이터셋(ETTh1, ETTh2, ETTm1, ETTm2, Weather, Traffic, ECL), 단기 예측을 위한 M4 벤치마크, 그리고 9개의 실제 PV 데이터셋에서 NeST를 평가했습니다.

장기 예측: NeST는 7개 장기 예측 벤치마크에서 두 번째로 우수한 SOTA 방법론 대비 평균 1.2%의 MSE 감소를 달고 성과를 거두었습니다. S2TS-LLM, Time-LLM, PatchTST와 같은 베이스라인 모델들을 일관되게 능가했습니다.
퓨샷 예측: 10%의 훈련 데이터만을 사용했을 때, NeST는 4개 ETT 데이터셋 중 3개에서 최고의 결과를 보여주는 등 강력한 성능을 나타냈으며, 데이터가 부족한 조건에서도 견고함을 입명했습니다.
제로샷 예측: 교차 도메인 전이 설정(한 데이터셋에서 학습하고 다른 데이터셋에서 테스트)에서, NeST는 8개의 전이 시나리오 중 7개에서 기존 베이스라인을 능가했으며, 전이 쌍에 따라 1.9%에서 11.5% 사이의 MSE 감소를 보였습니다.
단기 예측 (M4 벤치마크): NeST는 비교된 방법들 중 가장 우수한 SMAPE(11.940)와 MASE(1.607)를 기록하며 다양한 샘플링 간격에 대해 경쟁력 있는 성능을 보여주었습니다.
실제 PV 예측: 분산형 PV 발전 데이터셋에서, NeST는 두 번째 데이터셋(4개 스테이션)에서 두 번째로 우수한 방법(PV 예측을 위해 설계된 LLM 기반 접근법)보다 $R^2$ 점수를 1.2% 개선했으며, 첫 번째 데이터셋(5개 스테이션)에서는 평균 $R^2$ 점수를 4.9% 향상시켰습니다.
절제 연구(Ablation Studies): 실험을 통해 각 구성 요소(이웃 인식 학습, NNCL, 시간적 변조)가 성능에 긍정적으로 기여함을 확인했으며, 가장 큰 이득은 퓨샷 설정에서 관찰되었습니다.
시각화: UMAP 시각화를 통해 선형 프로빙 방법들이 고립된 구조를 생성하는 것과 달리, Ne-ST의 프로토타입이 사전 학습된 토큰 매니폴드의 밀집 영역 내에 존재함을 확인했습니다.

5. 의의 및 주장

본 논문은 NeST가 LLM 기반 예측을 위해 텍스트와 시계열 모달리티를 효과적으로 통합하는 데 있어 핵심적인 격차를 해결한다고 주장합니다. 사전 학습된 세만틱 기하학을 보존하고 파라미터 효율적인 변조 전략을 활용함으로써, NeST는 다음과 같은 일반화 가능한 프레임워크를 제공합니다:

일반화 능력 향상: 라벨링된 데이터가 제한적인 시나리오에서 매우 중요한 강력한 제로샷 및 퓨샷 능력을 입증합니다.
시간적 무결성 유지: 토큰 결합의 경직된 방식 없이 시계열 데이터의 고유한 시간적 구조를 저해하지 않습니다.
실용적 유용성: 표준 학술 벤치마크뿐만 아니라 비정상적이고 가변적인 데이터를 포함하는 복잡한 실제 재생 에너지 예측 작업에서도 효과적임을 증명합니다.

저자들은 NeST를 광범적인 아키텍처 수정이나 계산 비용이 많이 드는 주의 집중 메커니즘 없이도 다양한 시계열 예측 작업에 LLM을 적응시킬 수 있는 견고하고 실용적인 프레임워크로 포지셔닝합니다.