論文「Data-driven Reachable Set Estimation with Tunable Adversarial and Wasserstein Distributional Guarantees」の技術的サマリー

1. 概要

本論文は、未知の離散時間動的システムにおける有限時間ホライズン（finite horizon）の到達可能集合（reachable set）推定に関するデータ駆動型アプローチを提案しています。従来のシナリオ最適化をブラックボックスとして扱うのではなく、到達可能集合推定という特定のタスクに合わせて最適化問題を再構築し、観測された軌跡全体に基づいて集合の族を学習する手法を開発しました。

この手法の最大の特徴は、以下の 3 つの重要な課題を統一的なフレームワークで解決することです：

1. 集合の緊密さ（サイズ）と信頼性（将来の軌跡の包含確率）の調整可能なトレードオフ
2. 観測軌跡に対する摂動（ノイズや敵対的攻撃）への頑健性
3. Wasserstein 距離に基づく分布シフトに対する保証の滑らかな劣化評価

2. 問題設定

• 対象システム: 状態 $x_k$ が $x_{k+1} = f(x_k)$ で記述される動的システム（$f$ は未知）。
• データ: $N$ 個のサンプル軌跡 $\{x^{(i)}\}_{i=1}^N$ が、未知の確率分布 $P$ から独立にサンプリングされている。
• 目的: 将来の任意の軌跡 $x$ が、推定された到達可能集合 $\mathcal{R}_k$ に含まれる確率を保証しつつ、集合のサイズを最小化する。
• 課題: 従来の手法は硬い制約（hard constraints）を用いるため、外れ値（outliers）に敏感であり、また観測データの摂動や部署時の分布変化に対する頑健性を明示的に扱えていない。

3. 提案手法と主要な貢献

3.1. スラック変数を導入した緩和シナリオプログラム

到達可能集合 $\mathcal{R}_k(\theta_k)$ をパラメータ $\theta_k$ で定義し、以下の最適化問題 $\mathcal{P}_{N,\rho}$ を定式化します。

$$\begin{aligned} \min_{\theta, \xi \ge 0} \quad & \sum_{k \in \mathcal{T}} \left[ S(\mathcal{R}_k(\theta_k)) + \rho \sum_{i \in \mathcal{N}} \xi_i \right] \\ \text{s.t.} \quad & g(x^{(i)}, \theta) \le \xi_i, \quad \forall i \in \mathcal{N} \end{aligned}$$

• $S(\mathcal{R}_k)$: 集合のサイズ（体積や半径など）。
• $\xi_i$: 緩和変数（スラック変数）。観測軌跡 $x^{(i)}$ が集合から外れることを許容する変数。
• $\rho$: ペナルティ係数。
  • $\rho$ を大きくすると、軌跡との整合性を重視し、集合サイズは大きくなります。
  • $\rho$ を小さくすると、集合サイズを小さくしますが、外れ値の影響を受けやすくなります。
  • これにより、集合のサイズと将来の軌跡包含確率の間の調整可能なトレードオフを実現しています。

3.2. 敵対的頑健性（Adversarial Robustness）

観測データがノイズや敵対的攻撃により摂動を受ける場合を考慮します。各サンプル軌跡 $x^{(i)}$ が半径 $R$ の摂動集合 $\mathcal{A}_{x^{(i)}}$ 内にあると仮定し、以下の「敵対的到達可能集合」推定問題 $\hat{\mathcal{P}}_{N,\rho,A}$ を解きます。

$$g(\tilde{x}^{(i)}, \theta) \le \xi_i, \quad \forall \tilde{x}^{(i)} \in \mathcal{A}_{x^{(i)}}$$

これにより、摂動された軌跡に対しても包含が保証されるように設計されます。

• 結果: 敵対的複雑度（adversarial complexity）$s^*_A$ を定義し、シナリオ最適化の理論を拡張することで、**事後確率的保証（a posteriori probabilistic guarantees）**を導出しました（定理 1）。

3.3. Wasserstein 分布シフトに対する頑健性

実運用において、訓練データと部署時のデータの分布が異なる（Distribution Shift）場合を扱います。

• 分布 $P$ から Wasserstein 距離 $\tilde{\mu}$ 以内の分布 $\tilde{P}$ へのシフトを仮定します。
• 結果: 推定された到達可能集合の違反確率が、元の保証値に $\tilde{\mu}/R$ の項を加えた値以下に抑えられることを示しました（定理 2）。これにより、分布シフトに対する保証の劣化が明示的に評価可能です。

3.4. 異なる幾何学形状への凸再定式化

計算実用性を確保するため、以下の幾何学形状に対する凸最適化問題への再定式化を導出しました。

1. $p$-ノルム球: 半径と中心を決定変数。
2. 楕円体: 行列とベクトルを決定変数（対数体積を用いた近似も可能）。
3. ゾノトープ（Zonotopes）: 生成行列と半幅を決定変数。
   これらはいずれも効率的に数値計算可能な凸問題として定式化されています。

4. 数値シミュレーション結果

• システム: 非線形項（tanh 関数）と外乱を含む 2 次元線形システム。
• 設定: ホライズン $T=25$、サンプル数 $N=1000$。
• 結果:
  • $\rho$ の効果: $\rho$ を増加させるにつれて、到達可能集合は大きくなり、観測データ（摂動を含む）をよりよくカバーするようになることが確認されました。
  • 理論保証と実証: 敵対的摂動および分布シフト（テストデータの分布をずらす）に対する理論的な違反確率の上限は、実験的に観測された違反確率よりも常に上回っており、理論的保証が有効であることを示しました。
  • 幾何形状の比較:
    • ゾノトープ: より緊密な（tight）集合を形成できるが、同じ保証レベルを得るには楕円体や球よりも多くのサンプル数を必要とする傾向がありました。
    • 楕円体・球: 計算が容易で、比較的少ないサンプルで良好な保証が得られました。

5. 意義と結論

本論文は、データ駆動型の到達可能集合推定において、以下の点で重要な進展をもたらしました。

1. 柔軟なトレードオフの制御: 従来の「硬い制約」から「緩和変数付きの最適化」へ移行することで、設計者が安全性（包含率）と保守性（集合の大きさ）のバランスを $\rho$ によって調整可能にしました。
2. 実用的な頑健性の統合: 敵対的摂動と分布シフトの両方を考慮した保証を提供し、現実世界のノイズやモデルミスマッチに対する信頼性を高めました。
3. 理論と実装の橋渡し: 複雑な確率的保証を、具体的な幾何形状（球、楕円、ゾノトープ）に対して計算可能な凸最適化問題として定式化し、実用性を担保しました。

今後の課題として、訓練プロセス自体に Wasserstein 曖昧集合（ambiguity set）を組み込み、敵対的学習から得られる頑健性ではなく、分布ロバスト性を明示的に保証する手法の確立が挙げられています。

---

要約: この研究は、未知システムの到達可能集合をデータから推定する際、外れ値への耐性、敵対的摂動への強さ、そして分布変化への適応性を同時に考慮した、調整可能な確率的保証付きの凸最適化フレームワークを提案した画期的なものです。