GridPilot: Real-Time Grid-Responsive Control for AI Supercomputers

기술 요약: GridPilot – AI 슈퍼컴퓨터를 위한 실시간 그리드 반응형 제어

문제 제기
AI 및 고성능 컴퓨팅 (HPC) 워크로드를 수용하는 대규모 데이터센터는 이를 공급하는 전력망보다 빠르게 성장하고 있습니다. 유럽, 북미, 아시아의 송전 시스템 운영자 (TSO) 들은 그리드 안정성을 유지하기 위해 초단위 주파수 응답 (FR) 서비스 (예: 700ms 이내 응답이 요구되는 북유럽 고속 주파수 예비력) 를 점차 조달하고 있습니다. 수메가와트급 컴퓨팅 사이트가 잠재적인 유연 부하로 지목되고 있지만, 중요한 격차가 존재합니다: 즉, 실제 GPU 하드웨어에서 구성된 멀티 티어 제어기의 엔드투엔드 지연 시간을 공개된 TSO 활성화 예산과 비교하여 측정한 선행 연구는 없습니다. 또한, 기존 제어기들은 종종 순간적인 전력 사용 효율 (PUE) 을 무시하여, GPU 보드 수준에서 약속된 전력과 시설 미터에서 측정되는 실제 공급 전력 사이에 불일치가 발생합니다.

방법론
저자들은 GPU 전력 소비를 밀리초, 초, 시간의 세 가지 시간 척도에 걸쳐 조정하도록 설계된 "안전 섬 (safety island)" 바이패스로 보강된 3 단계 예측 제어기인 GridPilot을 제시합니다.

1. 아키텍처:

   • 티어 1 (GPU 단위, 200Hz): NVIDIA Management Library(NVML) 를 통해 GPU별 전력 목표를 추적하는 비례 - 적분 - 미분 (PID) 루프입니다. NVML 업데이트 지연 시간과 일치하도록 5ms 틱으로 작동합니다.
   • 티어 2 (호스트 단위, 1Hz): 이전 4 개의 샘플을 기반으로 호스트 사용량을 예측하여 호스트 전력 범위 내에서 GPU별 상한선을 조정하는 4 차 자기회귀 (AR(4)) 모델입니다.
   • 티어 3 (클러스터 단위, 시간 단위): 주파수 응답 품질과 탄소 중립 에너지 (CFE) 정렬이라는 복합 목적을 최적화하기 위해 클러스터의 작동 지점 (평균 사용률 및 FR 예비력 밴드) 을 결정하는 선택기입니다.
   • 안전 섬: 그리드 트리거가 도착할 때 느린 소프트웨어 스택 (Python 감독자 등) 을 우회하는 실시간 C 프로그램 (격리된 CPU 코어에 고정됨) 입니다. 이 프로그램은 트리거를 읽고 NVML 을 통해 GPU 에 직접 새로운 전력 상한선을 기록합니다.

2. PUE 인식 회계:
   시스템은 3 단계 목적 함수에 4 구성 요소 PUE 모델 (냉각기, 펌프, 공기 측, 기타) 을 통합합니다. 이는 IT 측 전력 설정값이 시설 미터의 약속과 일치하도록 보장하며, IT 전력이 감소할 때 발생하는 "냉각 오버헤드 드래그"(냉각 시스템 바닥값으로 인해 PUE 가 일시적으로 증가하는 현상) 를 보정합니다.

3. 실험 설정:
   실험은 각각 300W TDP 인 세 개의 NVIDIA Tesla V100 SXM2 GPU 가 탑재된 EPFL 테스트베드에서 수행되었습니다. 연구는 행렬 곱셈 (matmul), 추론 (ResNet-50), 그리고 버스티 (bursty) 워크로드라는 세 가지 워크로드 원형을 활용했습니다. 제어기는 합성 TSO 트리거에 대해 테스트되었으며, Marconi100 추적 데이터와 ENTSO-E 탄소 강도 데이터를 사용하여 여섯 개 유럽 그리드 (스웨덴, 스위스, 프랑스, 이탈리아, 독일, 폴란드) 에 대해 검증되었습니다.

주요 기여

1. 실제 환경 지연 시간 측정: 이 논문은 공개된 TSO 예산에 대해 실제 AI/HPC 하드웨어에서 멀티 티어 제어기의 엔드투엔드 응답 시간을 측정한 첫 번째 사례를 제공합니다.
2. 결정론적 안전 섬: 표준 Python 기반 감독자의 비결정론적 지연 시간 (예: 가비지 컬렉션, 지연된 가져오기) 을 극복하고 100ms 미만의 응답 시간을 보장하는 실시간 C 바이패스 구현입니다.
3. 시설 측 PUE 보정: 시설 전력 역학을 명시적으로 모델링하는 제어 전략으로, GPU 보드가 아닌 미터 수준에서 그리드 약속이 충족되도록 보장합니다.
4. 오픈 소스 공개: 메가와트 규모의 컴퓨팅 수요가 설계에 의해 제어 가능함을 입증하기 위해 전체 제어기 스택, 원시 원격 측정 데이터, 재현성 스크립트를 공개했습니다.

결과

• 지연 시간 성능: 3 GPU V100 테스트베드에서 그리드 트리거부터 GPU 전력이 새로운 목표의 95% 를 초과할 때까지의 중앙값 엔드투엔드 응답 시간은 97.2ms(90 회 시도 중 최악의 경우 101.1ms)였습니다. 이는 가장 엄격한 유럽 그리드 제품 (북유럽 FFR, 700ms 예산) 보다 약 6.9 배 빠릅니다.
• 안전 섬 영향: 안전 섬 바이패스 없이 Python 감독자 스택을 사용한 동일한 실험에서는 p99 지연 시간이 250ms 를 초과하여 TSO 사전 자격 요건을 충족하지 못했습니다.
• PUE 영향: 여섯 개 유럽 그리드에서의 실험 결과, PUE 인식 보정은 시설 미터에서 "냉각 오버헤드 드래그"를 2.5~5.8 퍼센트 포인트 (pp) 줄여 제어기의 약속이 계량된 현실과 일치하도록 했습니다.
• 제어 정확도: 티어 1 PID 루프는 18~29ms 내에 설정값의 ±2% 이내로 수렴했습니다. 티어 2 AR(4) 예측기는 안정적 워크로드 (예: 추론 시 4.69W) 에 대해 낮은 평균 절대 오차 (MAE) 를 달성했으나, 버스티 워크로드에서는 더 높은 분산 (19.66W) 을 보였으며, 이는 캐스케이드 아키텍처가 흡수했습니다.

의의 및 주장
이 논문은 GridPilot 이 MW 규모의 AI/HPC 시설이 유연하고 그리드 반응형 부하로 설계될 수 있음을 보여주는 개념 증명 (proof of concept) 역할을 한다고 주장합니다. 저자들은 결정론적 안전 섬 바이패스, 예측 제어 티어, 그리고 시설 측 PUE 보정의 조합이 초단위 그리드 활성화 예산을 충족하기에 충분하다고 단언합니다.

의의는 공학적 검증으로 제시됩니다:

• 현실적인 워크로드 경쟁 하에서도 소프트웨어 스택이 결정론적 디스패치를 보장할 수 있음을 입증합니다.
• 순간 PUE 를 무시하면 미터 수준에서 4~7pp 만큼 공급 부족이 발생하므로, 그리드 준수를 위해 PUE 인식 제어가 필수적임을 보여줍니다.
• 표준 소프트웨어 스택은 초단위 주파수 응답에 너무 느리므로, "안전 섬" 아키텍처가 가장 엄격한 지연 시간 요구 사항을 충족하는 데 필수적임을 확립합니다.

저자들은 확장성에 대해 겸손하게 언급하며, 현재 측정은 3 GPU 노드에서 이루어졌으며, 랙 규모의 경쟁과 H100/H200 의 전력 변동 (1.5~2 배 더 높음) 은 아직 FR 지연 시간 계층에서 완전히 검증되지 않았다고 밝힙니다. 이 작업은 기존 클러스터 내 전력 관리자와 수직적으로 구성되도록 의도된 신흥 HPC PowerStack 의 그리드 지향 계층으로 위치합니다.