Rethinking Neural Width for Alternating Current Optimal Power Flow Proxies

기술 요약: 교류 최적 조류 계산(ACOPF) 프록시를 위한 신경망 너비의 재고

문제 정의
교류 최적 조류 계산(ACOPF)을 위한 딥러닝 프록시는 그리드 배전 및 컨틴전시 스크리닝을 위한 신속하고 근사적인 솔루션을 제공하기 위해 점점 더 많이 사용되고 있다. 그러나 현재의 방법론들은 네트워크의 필요한 아키텍처 크기를 결정하는 체계적인 접근 방식이 부족하다. 지배적인 추세는 모델의 너비와 깊이를 확장하여 정확도를 높이는 "과잉 매개변수화(over-parameterization)"에 의존하는 것이다. 이러한 방식은 데이터가 풍부한 환경에서는 효과적이지만, 전력 계통에는 심각한 리스크를 초래한다. 즉, 거대하고 불투명한 심층 신경망(DNN)은 엣지 배포 시 자원 집약적이며, 결정적으로, 공식적인 검증(formal verification)이 어렵다. 안전이 중요한 그리드 운영에서, 물리적 한계 준수 여부를 검증할 수 없다는 점은 그리드 보안에 위협이 된다. 기존 문헌에 따르면 동일한 시스템(예: IEEE-118)에 대해 레이어 너비가 매우 다양하게 나타나며, 일부 모델은 레이어당 1,000개가 넘는 뉴런을 사용하기도 하는데, 이는 그러한 용량이 과연 필요한지에 대한 의문을 제기한다.

방법론: 손실 가이드 신경망 밀집화 (Loss-Guided Neural Densification, LG-ND)
모델 크기를 결정하는 데 있어 체계적인 접근 방식이 결여된 문제를 해결하기 위해, 저자들은 구성적 사고 실험을 제안한다: 즉, ACOPF 매니폴드를 정확하게 근사하는 데 필요한 최소 신경망 너비를 결정하는 것이다. 저자들은 표준적인 설계 과정을 역전시킨 손실 가이드 신경 밀집화(LG-ND) 알고리즘을 도입한다. LG-ND는 큰 모델에서 가지치기(pruning)를 하는 대신, 의도적으로 매개변수가 적게 설정된 최소한의 아키텍처에서 시작하여 필요할 때만 점진적으로 용량을 확장한다.

알고리즘은 다음과 같이 작동한다:

1. 초기화: 프록시 $f_\phi$를 최소 용량(예: 작은 은닉층)으로 초기화한다.
2. 훈련 및 평가: 수치적 ACOPF 솔버에 의해 생성된 부하-해(load-solution) 쌍에 대해 평균 제곱 오차(MSE) 손실을 사용하여 모델을 수렴할 때까지 훈련한다.
3. 밀집화 로직: 검증 손실($L$)은 비볼록(non-convex) ACOPF 매니폴드를 포착하고 물리적 제약을 충족하는 모델의 능력을 측정하는 지표로 사용된다.
   • 현재 검증 손실이 개선되면 ($L < L^\star$), 모델 상태를 저장하고 은형층을 고정된 단계 크기($\Delta = 10$ 뉴런)만큼 확장한다.
   • 만약 손실이 개선되지 않으면 ($L \ge L^\star$), 밀집화 프로세스를 중단하고 현재의 모델을 최소 충분 아키텍처로 반환한다.
4. 타당성 분석: 최적성과 엄격한 물리적 타당성 사이의 트레이드오프를 연구하기 위해, 저자들은 "클리핑(clipped)" 변형 모델도 함께 평가한다. 추론 과정에서, 경계가 있는 출력 변수(전압 크기, 발전기 설정값)에 대해 좌표별 클리핑 연산자를 적용하여 운영 한계($y^{min} \le y \le y^{max}$)를 강제한다.

주요 기여

• 구성적 크기 결정 프레임워크: 본 논문은 모델 용량을 정적인 하이퍼파라미터가 아니라 LG-ND를 통해 그리드 물리 복잡성에 따라 결정되는 동적인 변수로 정의하며, 이를 통해 "최소 충분 너비"를 발견한다.
• 아키텍처의 미니멀리즘: 본 연구는 고정밀 ACOPF 근사를 위해 거대한 과잉 매개변수화가 필요하지 않음을 입증한다.
• 공식 검증 가능성 확보: 네트워크 너비를 엄격한 물리적 필요성에 맞춰 제한함으로써(뉴런 수를 일반적인 값인 >512개에서 ~50개로 축소), 결과적으로 도출된 컴팩트한 아키텍처는 분기 한계법(branch-and-bound methods)에 따라 너비에 따라 급격히 확장되는 공식 안전 검증 도구(예: $\alpha,\beta$-CROWN)에 대해 계산적으로 다룰 수 있는 수준이 된다.

실험 결과
LG-ND 프레임워크는 IEEE 57-bus 및 118-bus 시스템에 대해 평가되었으며, 고정된 넓은 너비(레이어당 472 뉴런)를 가진 표준 베이스라인(Naïve MSE, Naïve MAE, Penalty-based 방법)과 비교되었다.

• 축소된 용량에서의 성능 동등성: IEEE-118 시스템에서 LG-ND 모델은 은닉층 크기가 단 50 뉴런(2개 레이어)이었으며, 총 파라미터 수는 약 32k였다. 이는 472-뉴런 베이스라인과 비교했을 때 레이어당 뉴런 수는 약 10배 적으며, 추론 복잡도(파라미터/FLOPs 기준)는 15.5배 낮다.
• 우수한 정확도 및 타당성:
  • 최적성 격차(Optimality Gap): LG-ND 모델은 Gap%에서 **0.0517%**를 달성하여, Naïve MSE 베이스라인(0.5474%) 및 Penalty-based 방법(최대 1.90%)보다 현저히 우수한 성능을 보였다.
  • 제약 조건 충족: LG-ND 모델은 평균 등식 잔차(Mean Equality residual) **0.0485 p.u.**를 기록하였는데, 이는 Naïve MSE 베이스라인(0.2152 p.u.)보다 거의 5배 더 나은 수치이다.
  • 클리핑 성능: 제약 조건 클리핑을 적용했을 때, LG-ND 모델은 낮은 Gap%(0.0691%)를 유지하면서 평균 등식 잔차 0.0399 p.u. 및 **평균 부등식 위반 제로(zero)**를 달성하였다. 반면, 더 넓은 베이스라인 모델들은 큰 불가능성을 수정하기 위해 클리핑이 필요한 경우가 많았으며, 이로 인해 등식 일관성이 저하되거나 더 큰 최적성 격차가 발생했다.
• 강건성: IEEE-57 시스템에 대한 분석 결과, 훈련 샘생이 증가함에 따라 적응형 모델은 안정적인 "린(lean)" 아키텍처(총 40~140 뉴런)로 수렴하였으며, 물리적 잔차(유효/무효 전력 및 전압)가 급격히 감소하여 전력 흐름의 비선형성이 성공적으로 해결되었음을 확인하였다.

의의 및 주장
본 논문은 제안된 아키텍처 미니멀리즘이 안전 중심의 그리드 운영에 필수적인 **공식 검증(formal verification)**을 위해 매우 중요하다고 주장한다. ACOPF 프록시가 현재 문헌의 베이스라인보다 최대 10배 적은 뉴턴만으로도 높은 성능을 유지할 수 있음을 입증함으로써, 본 연구는 딥러닝 모델의 실제 그리드 배치를 가로막는 주요 장벽인 거대 "블랙박스" 네트워크 검증의 난해함을 제거한다. 저자들은 모델의 너비를 시스템의 엄격한 물리적 필요성에 맞게 줄이는 것이 프록시를 $\alpha,\beta$-CROWN과 같은 엄격한 안전 점검에 적합하게 만들어, ML 기반 대리 모델(surrogates)이 실시간 그리드 제어 루프에 안전하게 통합될 수 있도록 한다고 단언한다. 결론적으로, 거대한 과잉 매개변수화는 정확한 ACOPF 근사에 불필요하며, 린(lean)하고 검증 가능한 모델이 핵심 인프라를 위해 본질적으로 더 신뢰할 수 있다.