Inexact Proximal Point and Tseng Algorithms with Nonsummable Errors to Solve Monotone Inclusions

本論文は、チコノフ正則化、縮小写像の性質、およびR-連続性理論を活用することにより、非総和可能誤差の下でのヒルベルト空間における単調包含問題を解くための、実用的な不正確近接点アルゴリズムおよびツェング・アルゴリズムの収束性を初めて確立するものである。

要約

暗く霧がかった部屋の中央（「解」）を正確に見つけ出そうとしている場面を想像してください。あなたには、中央を指し示すコンパス（アルゴリズム）があります。完璧な世界であれば、あなたのコンパスは非の打ち所がなく、あなたは真っ直ぐに中央へと歩んでいくでしょう。

しかし、現実の世界では、あなたのコンパスは少し不安定です。時には左に少し傾き、時には右に少し傾きます。この「揺らぎ」こそが、数学者が**誤差（エラー）**と呼ぶものです。

長い間、数学者たちは、あなたが最終的に中央に到達するためには、この揺らぎによる誤差が、いつかは消えてなくなるほど、どんどん小さくなっていかなければならないと考えてきました。つまり、あなたの旅における全行程の「ふらつき」の合計が、極めて小さな有限の値に収まらなければならないと考えていたのです。もし、このふらつきが一定の、無視できないレベルで永遠に続けば、あなたは円を描いて彷徨い続け、決して止まることはないだろうと彼らは考えていました。

この論文はこう言っています。「必ずしもそうではありません。」

著者である Ba Khiet Le、Boris S. Mordukhovich、そして Michel Théra は、コンパスが一定の、消え去ることのない誤差で揺れ続けている場合でも、ナビゲーションが可能になる新しい方法を発見しました。ただし、重要な点は、この方法ではあなたは決して中央の「一点」に完全に到達するわけではありません。代わりに、あなたは中央のすぐ近くの、小さな「安全圏」の中に落ち着き、その範囲内でわずかに揺れ動きながら、その位置を維持し続けるのです。

以下に、その手法をシンプルな比喩を用いて説明します。

1. 問題点：「総和可能（Summable）」というルール

伝統的に、あなたが中央に到達することを保証するためのルールは、「誤差は最終的に消失しなければならない」というものでした。
これは、標的に向かって歩いている最中に、風に押されている状態を想像してみてください。もし風がどんどん弱まり、最終的に止まるのであれば、あなたは標的に到達できるでしょう。しかし、もし風が一定の、厄らだたしい速さで吹き続けているとしたら（非総和的な誤差）、従来の数学では、あなたは決してそこに辿り着けないとされてきました。

2. 解決策： 「磁力」を加える（ティコノフ正則化）

著者たちの秘密兵器は、**ティコノフ正則化（Tikhonov regularization）**です。
単に平らな床の上を歩くのではなく、中央へと直接つながる緩やかなカーブを描いた斜面の上を歩いている様子を想像してください。たとえ風（誤差）があなたを横に押し流そうとしても、その斜面（数学的な「引き」）が、常にあなたを正しい経路へと引き戻します。

彼らの数学では、問題に対して小さな人工的な「力」（$\epsilon$ で表される）を加えます。この力が、風景をより「急」で明確なものにします。これにより、平坦で滑りやすい地面が、ボウル状の形へと変わります。たとえ一定の誤差によって進路を外されたとしても、このボウルの形状があるおかげで、あなたは永遠に彷徨うことなく、中央のすぐ近くの、小さな範囲内に留まり続けることができるのです。

重要な違い： この方法では、あなたはボウルの底（中央）に完全に静止して到達するわけではありません。一定の風（誤差）が吹き続けている限り、あなたはボウルの底のすぐ近くで、小さな範囲内で揺れ動きながら留まり続けます。しかし、その揺れは制御された範囲内に収まり、遠くへ流されることはありません。

3. 二つのアルゴリズム： ハイカーとガイド

論文では、このアイデアを二種類の特定の「ハイカー（アルゴリズム）」でテストしています。

• 不正確な近接点アルゴリズム (Inexact Proximal Point Algorithm - IPPA): これは、一歩進んでは地図を確認し、進路を修正するハイカーのようなものです。著者たちは、地図に一定の小さな「ぼけ（誤差）」があったとしても、「磁力による斜面」があることで、ハイカーが目標の極めて近い範囲内に留まり続けることを示しています。
• 不正確なツェング・アルゴリズム (Inexact Tseng Algorithm - ITA): これは、二つの異なる種類の地形（二つの異なる数学的演算子）を同時に扱う必要がある、より複雑なハイカーです。著者たちは、この追加の複雑さと一定の誤差がある状況でも、「磁力による斜面」がハイカーを軌道に乗せ続け、中央の近くで安定して留まることを示しています。

4. 「R-連続性」というセーフティネット

これが機能することを証明するために、彼らは**R-連続性（R-continuity）**という概念を使用します。
これは、「もしあなたがターゲットの近くにいるなら、あなたのステップは予測可能である」ということを意味するセーフティネットのようなものです。これは、マップが中央付近で突如として異常な動きをしないことを保証します。マップが中央付近でデタラメにねじ曲がることがない限り、ハイカーは予測可能な範囲内に留まることができます。

5. 結果：「十分な精度」とは何か

この論文は、この新しい手法を用いることで、以下のことが証明できると述べています。

• 誤差が消失する必要はありません。
• 誤差の合計が極めて小さな数になる必要もありません。
• ただ、誤差が固定された管理可能な範囲内（例えば、コンパスが常に最大でも 2 度しか狂わないような状態）に収まっているだけでよいのです。

パラメータを正しく設定すれば、ハイカーは彷徨うことをやめ、真の中心のすぐ近くの、予測可能な範囲内に留まり続けます。論文ではこれを**「近似解（approximate solution）」**と呼んでいます。

ここで重要な区別を明確にします：
もしあなたが**「正確な中央（解）」に完全に到達し、そこで完全に静止したい**のであれば、古いルール（誤差の合計が有限であること、つまり誤差が最終的に消えること）が必要です。しかし、現実世界のコンピュータ計算において、誤差を完全に消し去ったり、誤差の合計を極めて小さな数にしたりすることは、しばしば不可能です。コンピュータには限界があり、常に、完全には消えない微小な「ノイズ」や「丸め誤差」が存在します。

この論文が示すのは、この「磁力による斜面」のテクニックを用いることで、コンピュータの誤差がしつこく、決して消えない場合であっても、これらのアルゴリズムが**「十分に良い」答えを見つけ出し、その位置を安定して維持**できると信頼できるということです。

実用的な観点から言えば、誤差が「最終的に消える」ことを確認するのは難しいですが、「すべての誤差が、ある小さな固定値を超えない」こと（絶対的な有界性）を確認するのは非常に簡単です。この論文は、このシンプルで現実的なルールさえ満たせば、解の近くで安定した結果が得られることを保証するのです。

要約すると： この論文は、たとえ道具が不完全で、誤差が止まることがなかったとしても、誤差があなたを遠くに押し流せないように「問題の形」を変えることで、正確な中心には到達しないものの、そのすぐ近くで安定して留まり続ける解決策を見つけ出すことができるということを教えてくれます。

技術概要

技術要約：非可算誤差を伴う不正確な近接点アルゴリズムおよびTsengアルゴリズム

問題設定
本論文は、実ヒルベルト空間 $H$ における $0 \in Ax$ という形式の単調包含問題（ここで $A: H \rightrightarrows H$ は最大単調集合値作用素である）を解く問題に取り組んでいる。主な焦点は、近接点アルゴリズム（PPA）とTsengアルゴリズム（複合包含 $0 \in Ax + Bx$ 用）の、実用的な不正確版の収束性にある。

本研究における決定的な制約は、計算誤差の扱いである。既存の文献の多くは、誤差列が可算（すなわち $\sum \|y_k\| < \infty$ であり、誤差が漸近的に消失することを意味する）であることを前提としている。しかし、実務において反復計算の誤差 $y_k$ がゼロに収束することは稀である。このため、検証が容易な「絶対的に有界な誤差」条件（誤差が一定の許容範囲内に留まる）が現実的な代替案として重要となる。本論文では、有界かつ非可算な誤差の下でのアルゴリズムを調査している。具体的には、誤差列 $(y_k)$ が固定された許容誤差 $\delta > 0$ に対して $\|y_k\| \le \delta$ を満たす条件である。

手法
著者らは、誤差の可算性に依存しない新しいアプローチを提案している。その手法は、以下の3つの核となる要素に基づいている。

1. チコノフ正則化（Tikhonov Regularization）： 元の包含問題に対し、強単調項 $\epsilon I$ （ここで $\epsilon > 0$）を加えることで正則化を行う。PPAの場合、作用素は $\tilde{A} = A + \epsilon I$ となる。複合問題の場合、正則化された包含関係は $0 \in \tilde{A}x + Bx$ となる。この正則化により、関連するレゾルベント作用素が強縮小性を有することが保証される。
2. 縮小特性： 正則化項によって誘導される強単調性を利用することで、著者らはレゾルベント作用素（および関連するTseng写像）が縮小写像になることを示している。これにより、誤差がゼロに減衰することを要求することなく、誤差の伝播を制御することが可能となる。
3. R-連続性理論： 収束解析には、集合値写像に関する近年発展したR-連続性の理論を活用している。具体的には、逆作用素（例：$A^{-1}$ または $(A+B)^{-1}$）が原点においてR-連続であると仮定する。この性質により、正則化された問題の解と元の問題の解集合との間の距離を抑えることができる。

主要な貢献と結果

• 不正確近接点アルゴリズム (IPPA):
  本論文は、有界誤差の仮定 $\|y_{k+1}\| \le \delta$ の下でのIPPA $x_{k+1} = J_{\gamma \tilde{A}}x_k + y_{k+1}$ の挙動を確立している。

  • 結果と収束性の厳密な定義：
    重要な点として、非可算（非総和）な誤差の仮定の下では、反復列 $(x_k)$ は元の包含問題の真の解に収束（converge）しない。 代わって、$(x_k)$ は解集合 $S = \text{zer}(A)$ の近傍に留まり、その距離が明示的に有界であることが示される。すなわち、漸近的な距離の上極限（limsup）が以下の定数によって制御される：
    $$\limsup_{k \to \infty} d(x_k, S) \le \delta(1 + \gamma^{-1}\epsilon^{-1}) + \rho(\epsilon a)$$
    ここで $\rho$ は $A^{-1}$ の原点におけるR-連続性のモジュラスであり、$a$ は $S$ における最小ノルム要素のノルムである。
    注記：ここで $y_{k+1}$ は、ステップ $k$ におけるレゾルベント作用素（または近接点作用素）の評価における誤差（不正確さ）であり、これは解集合 $S$ と反復点 $x_k$ の間の距離 $d(x_k, S)$ とは明確に区別される。本論文の仮定では、この反復ごとの誤差 $y_k$ は小さな正の許容誤差 $\delta$ によって有界に保たれるが、ゼロに収束することはない。
    真の（弱）収束性： 反復列 $(x_k)$ が解集合内の特定の点へ真に収束するためには、古典的な「誤差の総和条件（$\sum \|y_k\| < \infty$）」が必要不可欠である。本論文の非可算誤差の枠組みでは、この強い結論は得られない。得られるのは、誤差が許容範囲内に収束する「安定した近似解（有界近傍内での停留）」である。
  • 収束条件： $\delta = \epsilon^2$ と選択することで、この上界は $\epsilon \to 0$ のときに消失し、アルゴリズムが任意に精度の高い近似解（解集合に任意に近い点）を生成することを保証する。

• 不正確Tsengアルゴリズム (ITA):
  このアプローチは、$B$ が単価値、単調、かつリプシッツ連続である複合問題 $0 \in Ax + Bx$ に拡張される。ITAは、チコノフ正則化された問題に対して適用される。

  • 結果： $(A+B)^{-1}$ が原点においてR-連続であるという仮定の下で、著者らはITAの数列が近似解に収束するのではなく、解集合 $S$ に対して以下の誤差上界内で漸近的に留まることを証明している：
    $$\limsup_{k \to \infty} d(x_k, S) \le \delta(1 + 2\gamma^{-1}\epsilon^{-1}) + \rho(\epsilon a)$$
  • IPPAと同様に、$\delta = \epsilon^2$ と設定することで、正則化パラメータ $\epsilon$ がゼロに近づくにつれて、反復点は解集合の任意に小さな近傍に収束する。

意義と主張
本論文は、有界かつ非可算な誤差のみを仮定して、実用的な不正確PPAおよびTsengアルゴリズムの漸近的安定性を確立した最初の文献であると主張している。

著者らは、アルゴリズムの安定性とウェルポーズドネス（良設定性）を保証している本質的なメカニズムは、古典的な誤差の可算性ではなく、チコノフ正則化によって誘導された強単調性であることを強調している。彼らは、実務において誤差がゼロに収束しない（$y_k \to 0$ とならない）ため、検証が困難な相対誤差基準ではなく、検証が容易な絶対的に有界な誤差基準を採用する必要性を論じている。この研究は、そのような現実的な誤差条件下において、アルゴリズムが解集合から逸脱することなく有界な近傍に留まることを理論的に正当化するものであり、解への真の収束を主張するものではない。

提案された手法は、非可算な摂動を伴う最適化関連問題の他の不正確なアルゴリズムを分析するために拡張可能な、柔軟なフレームワークとして提示されている。本論文は新しい応用や実験的な検証を提案するものではなく、緩和された誤差条件下におけるこれらのアルゴリズムの理論的正当化に厳密に焦点を当てている。