기술 요약: 장애물 문제의 최적 제어를 위한 단일 루프 바이레벨 딥 러닝 방법론

1. 문제 정의

본 논문은 비매끄럽고(nonsmooth), 비선형적이며, 계층적 구조를 가진 최적화 문제 클래스인 장애물 문제(obstacle problems)의 최적 제어를 다룹다. 이러한 문제는 탄소성 비틀림(elastic-plastic torsion), 막 변형(membrane deformation), 미국형 옵션 가격 결정(American option pricing) 등 다양한 물리 및 공학 응용 분야에서 발생한다.

수학적으로 이 문제는 다음과 같은 바이레벨 최적화(bilevel optimization) 과제로 정식화된다:

• 상위 레벨 (Upper Level): 제어 변수 $u$에 대하여 목적 함수 $J(y, u)$ (일반적으로 목표 상태 $y_d$를 추적하며 제어 정규화를 포함함)를 최소화한다.
• 하위 レ벨 (Lower Level): 상태 $y$는 독립 변수가 아니라, 장애물 제약 조건 $y' \geq \psi$를 만족하는 에너지 범함수 $E(y', u)$의 유일한 최소값으로서 암묵적으로 정의된다.

핵심 과제는 다음과 같다:

1. 비매끄러움 및 비미분성: 장애물 제약 조건으로 인해 제어-상태 연산자(control-to-state operator)는 일반적으로 가토(Gâteaux) 미분 가능하지 않으며, 이는 경사 하강 기반 최적화를 어렵게 만든다.
2. 자유 경계 (Free Boundary): 해(solution)는 접촉 집합과 비접촉 집합 사이의 인터페이스인 자유 경계를 포함하며, 이는 고전적 방법론의 격자(mesh)와 일치하지 않을 수 있어 상당한 오차를 유발한다.
3. 계산 확장성: 고전적인 수치 해석 방법(예: 유한 요소법(FEM), 유한 차분법(FDM))은 격자 기반 이산화에 의존한다. 결과적으로 발생하는 대규모의 불량 조건(ill-conditioned) 대수 시스템을 반복적으로 푸는 것은 계산 비용이 매우 높으며, 고차원 설정이나 복잡한 기하학적 구조로 확장하는 데 어려움이 있다.
4. 기존 딥 러닝의 한계: 표준 딥 러닝 접근 방식은 목적 함수에 가중치를 부여함으로써 바이레벨 구조를 단일 레벨 문제로 붕괴시키는 경향이 있다. 저자들은 이러한 방식이 상태와 제어 사이의 엄격한 계층적 의존성을 강제하지 못해 물리적으로 일관되지 않은 해를 도출한다고 주장한다.

2. 방법론

제안된 솔루션은 격자 이산화를 피하고 문제의 본질적인 구조를 보존하는 단일 루프 바이레벨 딥 러닝 프레임워크이다.

2.1. 제약 조건 임베딩 신경망 (Constraint-Embedding Neural Networks)

저자들은 제약 조건을 처리하기 위해 페널티 항이나 활성 집합 식별(active-set identification)을 사용하는 대신, 구조적으로 제약 조건을 엄격히 준수하는 신경망(NN)을 설계한다:

• 상태 근사 ($\hat{y}$): 신경망 출력은 $\hat{y} \geq \psi$ 및 경계 $\partial\Omega$에서의 $\hat{y} = 0$을 보장하도록 변환된다 (예: 제곱 연산 또는 매끄러운 경계 함수 $m(x)$와 결합된 ReLU 연산 활용).
• 제어 근사 ($\hat{u}$): 마찬가지로, 제어 네트워크는 박스 제약 조건 $u_a \leq \hat{u} \leq u_b$를 엄격히 만족하도록 변환된다.

2.2. 확률적 바이레벨 정식화 (Stochastic Bilevel Formulation)

연속적인 문제는 NN 파라미터($\theta_y, \theta_u$)에 대한 유한 차원 확률적 바이레벨 최적화 문제로 근사된다. 목적 함수 및 에너지 범함수의 적분은 도메인 $\Omega$에 대한 몬테카를로 샘플링(미니 배치)을 사용하여 근사되며, 이를 통해 방법론의 메쉬 프리(mesh-free) 특성을 구현한다.

2.3. S2-FOBA 알고리즘

결과적인 확률적 바이레벨 문제를 해결하기 위해 저자들은 **단일 루프 확률적 1차 바이레벨 알고리즘(S2-FOBA)**을 개발하였다. 주요 특징은 다음과 같다:

• 모로 포락선(Moreau Envelope) 재정식화: 하위 레벨 제약 조건은 모로 포락선을 사용하여 재정식화되며, 이는 값 함수(value function)의 매끄러운 근사치를 제공한다. 이를 통해 하위 레벨의 유일성이나 강한 볼록성(strong convexity)과 같은 제한적인 가정을 피할 수 있다.
• 단일 루프 구조: 하위 레벨 문제를 매 상위 레벨 단계마다 수렴할 때까지 푸는 중첩 최적화(nested optimization) 방식과 달리, S2-FOBA는 하위 레벨 파라미터와 근사 점(proximal point)을 추적하는 보조 변수를 단일 루프 내에서 동시에 업데이트한다.
• 확률적 업데이트: 알고리즘은 미니 배치로부터 계산된 확률적 경사(stochastic gradients)를 사용하여, 대규모 선형 시스템을 풀거나 전체 도메인에 대한 정확한 경사를 계산하는 데 드는 계산 비용을 회피한다.
• 2단계 훈련 전략:
  1. 바이레벨 훈련: S2-FOBA를 사용하여 근사 최적 파라미터를 찾는다.
  2. 하위 레벨 정밀화: 제어 파라미터를 고정한 후, 상태가 최적 조건을 엄격히 만족하도록 하위 레벨 문제를 한 번 더 풀어 물리적 일관성을 높인다.

3. 주요 기여

1. 프레임워크 설계: 가중치 기반 단일 레벨 정식화의 함정을 피하고, 장애물 제어 문제의 계층적 구조를 보존하는 바이레벨 딥 러닝 프레임워크를 설계하였다.
2. 제약 조건 임베딩: 페널티 튜닝이나 활성 집합 탐지 없이 장애물 및 제어 제약 조건을 엄격하게 강제하는 새로운 NN 아키텍처를 제시하였다.
3. 알고리즘 개발: S2-FOBA 알고리즘은 다음과 같은 특성을 갖는다:
   • 단일 루프: 중첩 최적화를 제거함.
   • 확률적: 미니 배치 샘플링을 통해 고차원에서 효율적임.
   • 강건성: 하위 레벨의 유일성이나 강한 볼록성 가정에 의존하지 않음.
4. 수렴 분석: 하위 레벨 목적 함수의 약한 볼록성(weak convexity)과 같은 완만한 가정 하에서 S2-FOBA의 수렴성을 입증하였으며, 메리트 함수(merit function)의 감소와 정체성 척도(stationarity measure)의 붕괴를 보여주었다.
5. 확장성: 제안된 방법이 비대칭 연산자를 포함한 일반적인 타원형 변분 부등식(Elliptic Variational Inequalities, EVIs)의 최적 제어로 자연스럽게 확장됨을 입증하였다.

4. 수치 결과

본 방법론은 Python과 PyTorch를 사용하여 NVIDIA H100 GPU 기반의 고성능 하드웨어에서 여러 벤치마크 문제를 통해 검증되었다:

• 예제 1 (Bi-active set): 비자명한 활성 집합을 가진 2D 문제. 제안된 방법은 단순 가중치 기반 단일 레벨 딥 러닝 방식(Algorithm 1)에 비해 현저히 낮은 상대적 $L_2$ 오차를 달성했다. 또한 고전적 활성 집합 방법과 비교하여 우수한 효율성을 보였다. 활성 집합 방법은 격자 세분화에 따라 정확도가 향상되지만 재계산이 필요한 반면, 제안된 방법은 평가 격도 해상도에 관계없이 일관된 오차를 유지하며 새로운 해상도에 대해서는 순전파(forward pass)만 필요했다.
• 예제 2 (Flat free boundary): 활성 집합에서 까다로운 평탄한 전이를 보이는 문제. 제안된 방법은 기존의 프라이멀 활성 집합 기법들이 어려움을 겪는 자유 경계 지점에서도 견고한 정확도로 해를 성공적으로 포착했다.
• 예제 3 (고차원): 5차원 분산 최적 제어 문제. 분리 가능한 물리 정보 신경망(SPINNs)과 준 몬테카를로(quasi-Monte Carlo) 샘플링을 사용하여, 이 방법은 차원의 저주를 극복하고 최적 해를 정확하게 포착하였다.
• 예제 4 (복잡한 도메인): 꽃 모양의 비직사각형 도메인 문제. 메쉬 프리 특성 덕분에 복잡한 격자 생성 과정 없이 불규형 기하학적 구조를 원활하게 처리할 수 있었다.
• 확장 (예제 5 & 6): 프레임워크는 장애물 제어(장애물 자체가 제어가 되는 경우) 및 비대칭 EVI의 최적 제어에도 성공적으로 적용되어 광범위한 적용 가능성을 입증하였다.

5. 의의 및 주장

본 논문은 기존 딥 러닝 기술로 해결하기 어려웠던 최적 제어 문제에 대해 계산 효율적이고 확장 가능한 학습 기반 방법론을 제공한다고 주장한다.

• 의의: 핵심 기여는 격자 기반 이산화의 계산적 병목 현상 없이 고차원 및 복잡한 도메인의 최적 제어 문제를 해결할 수 있다는 점이다. 바이레벨 구조를 보존함으로써 가중치 기반 단일 레벨 방식이 결여한 물리적 일관성을 확보한다.
• 한계점: 저자들은 S2-FOBA가 효율적이긴 하지만, 현재 하이퍼파라미터 튜닝(스텝 사이즈, 페널티 시퀀스 등)에는 수동 조정이 필요하며 향후 자동화가 필요함을 인정한다. 또한, 현재 프레임워크가 정적인 문제로 제한되어 있으며, 시간 의존적 장애물 문제 및 확률적 EVI가 향후 연구 과제임을 밝힌다.
• 비교: 본 방법론은 솔루션의 품질 측면에서 기존 딥 러닝 접근 방식보다 우수하며, 고차원 또는 복잡한 도메인 시나리오에서는 고전적 수치 방법보다 효율적이라고 제시된다. 다만, 미세한 격자를 사용하는 저차원 문제에서는 고전적 방법이 더 높은 정밀도를 제공할 수 있다.