Empirical risk minimization for risk-neutral composite optimal control with applications to bang-bang control

1. 연구 배경 및 문제 정의 (Problem)

이 논문은 불확실성 하의 비매끄러운 (nonsmooth) 복합 최적화 문제, 특히 편미분방정식 (PDE) 에 제약된 최적 제어 문제에 초점을 맞추고 있습니다.

• 문제 형식 (P):
  $$\min_{u \in U} G(u) := F(Bu) + \psi(u)$$
  여기서 $F(w) = \mathbb{E}[f(w, \xi)]$는 기대값 (기대 손실) 함수이며, $\psi(u)$는 비매끄러운 볼록 함수 (예: $L_1$-노름) 입니다. $B$는 힐베르트 공간 $U$에서 바나흐 공간 $W$로 가는 컴팩트 선형 연산자입니다.
• 구체적 적용:
  • PDE 제약: $S(Bu, \xi)$가 무작위 입력 $\xi$를 가진 PDE 의 해일 때, 추적 (tracking) 함수형 $J$를 최소화하는 문제.
  • 뱅 - 뱅 (Bang-bang) 제어: $\psi(u)$에 $L_1$-노름 항을 추가하여 해가 $\{-1, 0, 1\}$과 같은 이산적인 값을 갖도록 유도하는 문제 (혼합 정수 최적 제어 문제의 완화).
• 난제: 목적 함수가 비볼록 (nonconvex) 일 수 있고, $\psi$가 강볼록 (strongly convex) 이 아니기 때문에 기존 이론적 분석과 수치 해법이 어렵습니다.

2. 방법론 (Methodology)

논문의 핵심 방법론은 **표본 평균 근사 (Sample Average Approximation, SAA)**를 사용하여 기대값 문제를 근사화하고, 이를 경험적 위험 최소화 (Empirical Risk Minimization, ERM) 프레임워크로 분석하는 것입니다.

• SAA 문제 (PN):
  무작위 변수 $\xi_1, \dots, \xi_N$을 사용하여 기대값을 근사합니다.
  $$\min_{u \in U} \hat{G}_N(u) := \hat{F}_N(Bu) + \psi(u), \quad \hat{F}_N(w) = \frac{1}{N}\sum_{i=1}^N f(w, \xi_i)$$
• 이론적 도구:
  • 컴팩트성 활용: $B$의 컴팩트성과 PDE 해의 정규성 (regularity) 을 이용하여 무한 차원 공간에서의 수렴성을 증명합니다.
  • 갭 함수 (Gap Function): 최적성 조건을 만족하는지 확인하기 위해 $\Psi(u)$ 및 $\hat{\Psi}_N(u)$를 정의하고, 이를 0 으로 만드는 점을 임계점 (critical point) 으로 간주합니다.
  • 커버링 수 (Covering Number): 무한 차원 공간에서의 복잡도를 측정하기 위해 컴팩트 집합 $B(D(\psi))$의 $\nu$-커버링 수를 활용하여 표본 크기 추정을 유도합니다.

3. 주요 기여 (Key Contributions)

이 논문은 다음과 같은 세 가지 주요 이론적 기여를 제공합니다:

1. 점근적 일관성 (Asymptotic Consistency):

   • 표본 크기 $N \to \infty$일 때, SAA 문제의 최적값, 해, 그리고 임계점이 원래 문제 (P) 의 대응되는 값들로 **확률 1 (w.p. 1)**로 수렴함을 증명했습니다.
   • 이는 비볼록 목적 함수와 비매끄러운 정규화 항을 포함하는 일반적인 설정에서도 성립합니다.

2. 비점근적 표본 크기 추정 (Nonasymptotic Sample Size Estimates):

   • 임계점 오차: 임의의 $\epsilon > 0$에 대해, $\mathbb{E}[\Psi(u_N)] \le \mathbb{E}[\hat{\Psi}_N(u_N)] + \epsilon$을 만족하는 데 필요한 표본 크기 $N$을 커버링 수와 로그 항을 포함하는 식으로 유도했습니다.
   • 이 결과는 목적 함수가 매끄럽지 않거나 강볼록이 아닌 경우에도 적용 가능합니다.

3. 볼록 문제에서의 수렴 속도 (Convergence Rates for Convex Problems):

   • 목적 함수가 볼록하고 특정 **성장 조건 (growth condition)**이 만족될 때, SAA 해 $u_N^*$와 참 해 $u^*$ 사이의 거리의 기대값에 대한 상한을 제시했습니다.
   • 수렴 속도:
     • 해의 거리 ($L_2$-오차): Monte Carlo 표준 속도인 $O(1/\sqrt{N})$.
     • 갭 함수 및 목적 함수의 하위 최적성 (suboptimality): 초수렴 (superconvergence) 현상을 보이며 $O(1/N)$ 속도로 수렴함을 증명했습니다. 이는 컴팩트 연산자 $B$의 컴팩트성 없이도 성립합니다.

4. 수치 결과 및 적용 (Results & Applications)

논문의 이론적 결과는 선형 (Affine-linear) 및 이차 (Bilinear) PDE 제약 최적 제어 문제에 적용되었으며, 수치 실험을 통해 검증되었습니다.

• 적용 사례:
  • 선형 PDE: $E(u, y) = -u$ 형태.
  • 이차 PDE: $E(u, y) = uy$ 형태 (불확실한 확산 계수를 가진 타원형 PDE).
  • 정규화: $L_1$-노름을 사용하여 뱅 - 뱅 (bang-bang) 또는 뱅 - 뱅 - 오프 (bang-bang-off) 해를 유도.
• 수치 실험:
  • 조건부 기울기 방법 (Conditional Gradient Method): 비매끄러운 문제를 해결하기 위해 제안된 알고리즘 사용.
  • 결과:
    • 선형 문제: 목적 함수 오차와 해의 거리가 이론적으로 예측된 $O(1/N)$ 및 $O(1/\sqrt{N})$ 속도와 일치하는 수렴성을 보임.
    • 이차 문제: 이론적 예측보다 더 빠른 수렴 속도를 관찰했으나, 이는 커버링 수 기반 분석이 고차원 정규성이나 국소 곡률을 완전히 반영하지 못했기 때문으로 해석됨.
  • 시각화: 결정론적 해 (Nominal solution) 와 확률적 SAA 해 (Reference SAA solution) 를 비교하여 불확실성이 해의 구조에 미치는 영향을 확인.

5. 의의 및 결론 (Significance)

• 이론적 확장: 기존의 PDE 제약 최적 제어 연구가 주로 강볼록 정규화 (Tikhonov 등) 에 의존했던 것과 달리, 비매끄러운 $L_1$-정규화를 포함한 일반적인 볼록 정규화 함수에 대해 SAA 의 수렴성과 표본 크기를 체계적으로 분석했습니다.
• 실용적 가치: 불확실성 하의 공학적 설계 (센서 배치, 재생 에너지 평가, 지하수 정화 등) 에서 뱅 - 뱅 제어와 같은 구조적 해를 구할 때, Monte Carlo 기반 접근법의 이론적 근거와 필요한 계산 자원 (표본 수) 을 제공합니다.
• 재현성: 모든 수치 실험 코드와 데이터가 Zenodo 를 통해 공개되어 결과의 재현성을 보장합니다.

요약하자면, 이 논문은 불확실성 하의 비매끄러운 PDE 최적 제어 문제에 대해 SAA 방법의 이론적 타당성을 입증하고, 구체적인 수렴 속도를 제시하며, 이를 뱅 - 뱅 제어와 같은 실제 문제에 성공적으로 적용한 중요한 연구입니다.