GenAutoML: An Agentic Framework for Dynamic Architecture Generation and Optimization in Time-Series Analysis

기술 요약: GenAutoML

문제 정의

산업 환경(예: 전력망 모니터링, IoT)에서의 다변량 시계열 예측 및 이상 탐지를 위한 신경 구조 설계는 두 가지 주요 과제에 의해 저해됩니다: **정상성 문제(Stationarity Problem)**와 기존 자동화 머신러형 학습(AutoML) 시스템의 한계입니다.

1. 정상성의 역설 (The Stationarity Paradox): 실제 데이터셋(ETTh1, ETTm1, Weather 벤치마크 등)은 비정상적 특성과 복잡한 시간적 상호 의존성을 나타냅니다. 전통적인 딥러닝 모델(LSTM, Transformer)은 이러한 분포를 처리하는 데 어려움을 겪는 경우가 많으며, 수동 구조 설계는 부적절할 수 있는 정적 귀납 편향(static inductive biases)에 의존합니다.
2. 기존 AutoML/NAS의 한계: 현재의 신경 구조 탐색(NAS) 프레임워크는 사전 정의된 정적 탐색 공간에 의존합니다. 이들은 "의미론적 창의성(Semantic Creativity)"이 부족하여, 고정된 연결 패턴을 넘어 새로운 구조적 구성 요소(예: 커스텀 템포럴 믹싱 레이어)를 발명할 수 없습니다. 또한, "설계에서 배포까지(design-to-deployment)"의 간극이 큽니다. 새로운 모델을 통합하려면 전체 시스템을 재시작해야 하는 경우가 많습니다.
3. Edge AI 제약 사항: Chronos와 같은 시계열 파운데이션 모델(TSFM)은 높은 정확도를 제공하지만, 방대한 파라미터 수(100M+)와 높은 추론 지연 시간으로 인해 자원이 제한된 실시간 Edge AI 배포에는 적합하지 않습니다.

방법론: GenAutoML 프레임워크

GenAutoML은 패러다임을 "모델 탐색"에서 **"에이전트 기반 신경 공학(Agentic Neural Engineering)"**으로 전환하는 에이전트 프레임워크입니다. 이는 대규모 언어 모델(LLM)을 자율적인 "신경 설계자(Neural Architect)"로 활용하여 자연어 요구 사항을 실행 가능한 PyTorch 코드로 변환합니다. 이 프레임워크는 네 가지 핵심 구성 요소로 이루어진 폐쇄 루프 아키텍처를 통해 작동합니다.

1. 에이전트 기반 신경 합성 (의미론적 인터페이스)

핵-엔진은 LLM(특히 Llama 3-70B)을 사용하여 자연어 제약 조건을 해석하고 신경 모듈 정의를 생성합니다.

• 구조적 기하학적 계약 (Structural Geometric Contract): 에이전트는 3D 입력 텐서($B \times L \times D$)를 받아 예측 텐서($B \times H \times D$)를 반환하도록 제한되어, 다운스트림 파이프라인과의 호환성을 보장합니다.
• 동적 레지스트리 (Dynamic Registry): 생성된 코드는 동적 레지스트리에 직접 기록되어, 시스템이 사용자 설명을 바탕으로 복잡한 구조(예: 다중 스케일 Inception 블ック)를 "발명"할 수 있게 합니다.

2. 샌드박스 성찰 루프 (Sandboxed Reflection Loop)

제로샷(zero-shot) LLM 생성에서 흔히 발생하는 코드 환각(hallucination) 및 차원 불일치를 완화하기 위해 다음과 같이 작동합니다.

• 생성된 아키텍처는 안전한 실행 샌드박스 내에 격리됩니다.
• 에이전트는 모델을 인스턴스화하고 더미 텐서를 사용하여 시뮬레이션된 순전파(forward pass)를 수행합니다.
• 출력 형상이 예상되는 호라이즌(horizon)과 일치하지 않거나 오류(예: 트레이스백 로그)가 발생하면, 시스템은 이 오류를 추가 프롬프트로서 LLM에 다시 전달합니다.
• 이 다회차 피드백 루프를 통해 에이전트는 구조적으로 건전한 모델이 생성될 때까지 텐서 리셰이프(reshape) 및 채널 순열(permutation)을 반복적으로 디버깅합니다.

3. 적시(Just-In-Time, JIT) 아키텍처 통합

GenAutoML은 시스템 재시작 없이 새로운 모델을 활성 최적화 환경에 통합하기 위해 성찰 기반 오케스트레이션(Reflection-based Orchestration) 파이프라인을 채택합니다.

• 핫 스와핑 (Hot-Swapping): Python의 importlib.reload를 사용하여 실시간으로 모듈 캐시를 업데이트합니다.
• 시그니처 인식 호출 (Signature-Aware Invocation): inspect.signature를 사용하는 런타임 내성(introspection)을 통해 런타임 텐서를 생성된 모듈의 인자와 매칭합니다.
• 형태 불가지론적 투영 (Shape-Agnostic Projection): 만약 LLM이 임의의 은닉 채널 수를 가진 모델을 생성할 경우, 투영 레이어($\hat{Y} = W_{proj} \cdot M_{gen}(\hat{X}) + b_{proj}$)가 수학적으로 잠재 특징(latent features)을 요구되는 타겟 차원으로 연결하여 치명적인 실패를 방지합니다.

4. 동적 RevIN을 통한 통계적 경화 (Statistical Hardening via Dynamic RevIN)

휘발성이 강한 산업 데이터의 비정상성 및 그래디언트 폭주 문제를 해결하기 위해 다음과 같이 작동합니다.

• 프레임워크는 LLM이 생성한 로직을 동적 가역 인스턴스 정규화(Dynamic Reversible Instance Normalization, Dyn-RevIN) 레이어로 감쌉니다.
• 이 레이어는 신뢰할 수 없는 아키텍처 로직을 통계적 정상성 제약으로부터 분리합니다. 입력 데이터를 프로세싱하기 전에 정상 분포로 정규화하고, 출력 데이터를 원래의 신호 도메인으로 역정규화합니다.
• 이는 "안전 가드레일" 역할을 하여, 생성된 아키텍처의 스케일링이 미흡하더라도 수렴을 보장합니다.

주요 기여

1. 샌드박스 성찰을 결합한 에이전트 기반 신경 합성: 자연어 요구 사항을 실행 가능한 PyTorch 코드로 변환하고, 배포 전 수학적 유효성을 검증하는 자율 디버깅 루프를 갖춘 새로운 인터페이스를 제시합니다.
2. 런타임 아키텍처 주입: 생성된 신경 모듈을 활성 Optuna 기반 최적화 루프에 "핫 스왑"할 수 있는 파이프라인을 통해 시스템 재부팅 없이 실시간 검증을 가능하게 합니다.
3. 수학적 경화 (Dyn-RevIN): 입력-출력 매니폴드 상에서 정상성을 강제하는 동적 가역 인스턴스 정규화 프레임워크를 통합하여 비정상 신호에 대한 훈련 안정성을 높였습니다.
4. 엔드 투 엔드 대화형 파이프라인: 사용자가 데이터셋을 업로드하고, Pandas DataFrame 에이전트를 통해 탐색적 데이터 분석(EDA)을 수행하며, 커스텀 아키텍처 설계를 요청하고 이를 연합 샌드박스에서 검증할 수 있는 워크플로우를 제공합니다.

실험 결과

본 프레임워크는 세 가지 다변량 벤치마크(ETTh1, ETTm1, Weather)에서 평가되었습니다.

• 예측 성능: 에이전트가 합성한 모델(예: ResNet, Inception)은 TimesNet 및 CrossFormer와 같은 최첨단(SOTA) Transformer 모델들과 경쟁할 만한 성능을 달。 ETTh1 데이터셋에서 합성된 ResNet(MAE = 0.532)은 선형 모델들과 유사한 수준에 도달했습니다.
• 이상 탐지: 합성된 모델은 우수한 민감도를 보여주었습니다. 에이전트가 설계한 ResNetBlock은 ETTh1에서 약 265배의 변별 격차(Anomalous MSE / Clean MSE)를 달성하여, TimesNet(33배) 및 DLinear(8배)를 크게 상회했습니다.
• 추론 지연 시간 및 효율성:
  • 거대 파운데이션 모델(예: Chronos-T5-Mini)은 높은 정확도를 달성하지만, 높은 지연 시간(~988 ms/sample)을 보입니다.
  • 에이전트가 생성한 WaveInterferenceNet은 <0.01 ms/sample의 추론 지연 시간을 달성하여, 파운데이션 모델 대비 약 100,000배 빠른 속도를 보여주었습니다.
  • 탐색 비용도 최소화되었습니다. WaveInterferenceNet은 전통적인 베이스라인보다 훨씬 긴 시간이 소요되는 일반적인 방식과 달리, 단 ~2분의 GPU 튜닝 시간(5번의 Optuna trial)만을 필요로 했습니다.
• 안정성 및 재현성:
  • 제로 분산 수렴 (Zero-Variance Convergence): 무작위 시드에 극도로 민감한 표준 베이스라인(예: DLinear, MAE 변동 $\sigma = 0.760$)과 달리, 에이전트가 합성한 WaveInterferenceNet은 시드 결정론이 적용되었을 때 독립적인 실험 간에 제로 분산 ($\sigma = 0.000$)을 유지했습니다.
  • 절제 연구 (Ablation Studies): 연구를 통해 Dyn-RevIN이 휘발성 데이터셋(ETTh1에서 MAE 약 94% 개선)에 필수적임을 확인했으나, 안정적인 데이터셋(Weather)에서는 때때로 주기적 신호를 가릴 수 있음을 확인하여, 최적의 구성을 결정하기 위한 에이전트 기반 자동 탐색의 필요성을 입증했습니다.

의의 및 주장

본 논문은 GenAutoML을 단순히 원시 예측 정확도를 극대화하는 도구가 아니라, 결정론적이고 엣지에 배포 가능한 합성을 위한 프레임워크로 포지셔닝합니다.

• 패러다임 전환: 본 프레임워크는 "거대 모델 탐색"에서 "에이전트 기반 신경 공학"으로의 전환을 의미하며, 정확도의 미세한 손실을 감수하더라도 마이크로초 단위의 추론 지연 시간과 매우 안정적인 배포 특성을 갖춘 초경량 아키텍처(1M 파라미터 미만)를 우선시합니다.
• 안전 필수 적합성: 원시 정확도보다 결정론적인 제로 분산 수렴을 우선시함으로써, 본 프레임워크는 안전이 중요한 자원 제한적 엣지 AI 배포(예: 임베디드 산업용 센서)에 독보적으로 적합한 아키텍처를 산출합니다.
• 의미론적 창의성: 본 프레임워크는 추상적인 자연어 지시를 바탕으로 (삼각 투영을 사용하는 WaveInterferenceNet과 같이) 진정으로 새로운 토폴로지를 합성할 수 있는 능력을 입증하며, 이는 ResNet이나 LSTM과 같은 표준 모티프의 반복을 넘어섭니다.

저자들은 GenAutoML이 LLM API 응답 시간(현재의 한계점)에 의존하고 있음에도 불구하고, 생성형 AI의 창의적 잠재력과 산업용 시계열 분석의 엄격한 안정성 요구 사항 사이의 간극을 성공적으로 메웠다고 결론짓습니다.