技術的概要：密予測のための位相意識型ウェーブレットベース・スキャタリングエンコーダ・デコーダ

1. 問題定義

スキャタリング変換は、Mallat (2012) および Bruna & Mallat (2013) によって導入され、リプシッツ安定性と並進不変性を特徴とする数学的に裏付けられた信号表現を提供する。これらの性質は分類タスクにおいて極めて価値がある。しかし、これらはピクセルレベルの空間対応を必要とする密予測タスク（画像ノイズ除去、セグメンテーションなど）と根本的な矛盾を呈する。

標準的なスキャタリングの中核メカニズムである、$2^J$ 倍のグローバル平均化およびダウンサンプリングは、再構成に必要な微細な空間情報を本質的に破棄する。モジュラス演算は解像度に関わらず安定性を保証するが、並進不変性のために必要なサブサンプリングは空間等変性を破壊する。著者らは、密予測においてはこれらの性質を分離することが可能であると仮定する。すなわち、スキャタリング変換の数学的安定性を維持しつつ、グローバル不変性を破ることで空間構造を回復させることである。

2. 手法

著者らは位相意識型スキャタリングエンコーダ・デコーダアーキテクチャを提案する。この設計は、学習された畳み込みエンコーダを、数学的に裏付けられた固定のウェーブレットフィルタに置き換えつつ、密予測を可能にするための特定のアーキテクチャ的革新を導入する。

2.1. エンコーダ：ストライド 1 等変性と位相保存

エンコーダは、標準的なスキャタリング変換を 2 つの重要な点で修正する。

• ストライド 1 等変性: 著者らは、並進不変性を達成するために通常用いられるグローバル平均化およびサブサンプリング（$2^J$）を除去する。代わりに、スケール依存の平滑化ウィンドウ（$\phi_j \propto 2^j$）を用いたストライド 1 処理を採用する。これにより、階層全体で完全な空間解像度が保持され、ボトルネックが完全に解像された空間構造を受け取ることを保証する。これはグローバル並進不変性を犠牲にするが、カスケードされたモジュラス演算に由来し、任意の解像度で有効であるリプシッツ安定性は維持される。
• 位相保存: 標準的なスキャタリングは、複素ウェーブレット係数の位相を破棄し、モジュラス（大きさ）のみを保持する。著者らは、大きさだけではエッジや特異点のような構造的詳細を捉えられないと主張する。エンコーダは、モジュラス前の複素係数から明示的に大きさ（$A$）と位相（$\Phi$）の両方を抽出・保存する。これらは別々に保存され、スキップ接続を介してデコーダへ伝達される。

2.2. ボトルネック

単一の $3 \times 3$ 畳み込み層がブリッジとして機能し、高次元のスキャタリング係数（1000 以上のチャネルに達し得る）をコンパクトな潜在表現（$C_{bn}$）に圧縮しつつ、完全な空間解像度を維持する。この層がエンコーダ経路における唯一の学習可能コンポーネントである。

2.3. デコーダ：位相意識型ゲーティングと融合

デコーダは、$J$ 段階のアップサンプリングレベルを持つ U-Net 型の構造に従う。各レベルで 3 つの情報源を統合する。

1. ボトルネック特徴: アップサンプリングされた潜在表現。
2. 大きさスキップ接続: テクスチャおよびエネルギー情報。
3. 位相スキップ接続: 幾何学的構造および空間的局在。

デコーダは位相情報に基づくゲーティングメカニズムを採用する。学習されたゲーティングネットワークが、連結された大きさと位相を処理して空間マスクを生成する。このマスクはアップサンプリングされたボトルネック特徴を変調し、理論的には位相が重要な構造（エッジ、特異点）を符号化する領域にネットワークが集中することを可能にする。最後に、融合ネットワークがゲーティングされたボトルネック特徴を大きさと位相のスキップ接続と結合し、最終的なピクセルレベル予測を生成する。

3. 主要な貢献

本論文は、ウェーブレット理論と深層学習の統合を、以下の 4 つの具体的な貢献を通じて進展させる。

1. 安定性と不変性の分離: グローバル不変性をストライド 1 等変性に置き換えることで、スキャタリングを分類から密予測へ拡張し、空間構造を回復する。
2. 位相意識型アーキテクチャ: 数学的に裏付けられたスキャタリングアーキテクチャに明示的な位相保存を統合し、複素値のスキップ接続が再構成に不可欠であることを実証する。
3. 極形式表現: スキップ接続に極形式（大きさと位相）を用いることで勾配を分離し、位相を独立した学習信号として孤立させる。
4. 解釈可能性: 固定された理論的に定義されたウェーブレットフィルタを使用することで、DnCNN や SwinIR などのブラックボックス学習手法に対する解釈可能な代替案を提供し、安全性が重要な応用分野に対する頑健性の保証を提供する。

4. 実験結果

本手法（M6 と呼称）は、BSD68 画像ノイズ除去ベンチマーク（ガウスノイズ $\sigma=25$）およびISIC 2018 皮膚病変セグメンテーションに関する予備研究において評価された。

4.1. ノイズ除去性能 (BSD68)

• ベースライン比較: M6 は 27.41 dB の PSNR を達成する。これは完全に学習されたベースラインである DnCNN (29.27 dB)、BM3D (28.57 dB)、DSWN (29.61 dB) よりも劣る。
• トレードオフ: 著者らは、約 2 dB の性能ギャップを、ブラックボックスの学習型エンコーダではなく、リプシッツ安定性の保証を持つ固定された数学的に解釈可能なエンコーダを使用することによる「原理的なコスト」として明確に位置づけている。
• アブレーション研究:
  • ストライド 1 等変性: 標準的な不変スキャタリング (24.19 dB) からストライド 1 等変スキャタリング (26.36 dB) へ移行することで +2.17 dB の向上が得られ、空間等変性が密予測にとって決定的であることを検証した。
  • 位相保存: ストライド 1 モデルに複素値のスキップ接続（大きさ＋位相）を追加することで、さらに +1.03 dB (27.39 dB) の向上が得られた。
  • 空間シャッフル: 位相係数の空間インデックスをランダム化すると −1.26 dB のペナルティが生じるのに対し、振幅をシャッフルしても −0.25 dB のペナルティに留まる。これは、位相が再構成に不可欠な位置依存の構造的な情報を符号化しており、振幅の 5.14 倍ほど重要であることを確認した。
  • 極形式: 生複素値に代わって極形式表現を使用すると、主に最適化の安定性を助けることで +0.02 dB のわずかな向上が得られた。

4.2. 頑健性と安定性

• 幾何学的摂動: M6 は学習型手法と比較して、幾何学的変換に対して優れた頑健性を示す。10 度の回転下では、M6 は 10.4 dB 劣化するのに対し、DnCNN は 16.1 dB 劣化する。M6 は 1.55 倍 頑健であり、スキャタリングエンコーダのリプシッツ安定性を経験的に検証した。
• データ効率: M6 は DnCNN よりもデータ不足に対して頑健性が低い。訓練データの 10% の場合、M6 の性能は 5.29% 低下するのに対し、DnCNN は 1.71% の低下に留まる。著者らは、これが非常に少数の注釈付きサンプルを持つ分野（例：$N < 50$ の医療画像など）での適用性を制限すると指摘している。

4.3. セグメンテーション（予備的）

ISIC 2018 皮膚病変セグメンテーションに関する予備的研究（訓練セットのみ、検証なし）では、一貫して 0.886–0.887 の Dice 係数が得られた。本研究では、明示的な位相正則化は利益をもたらさず、タスク損失を通じた暗黙的な位相学習で十分であることを示唆した。

4.4. 否定的な知見

本論文は、特定の設計選択に関する「正直な Null 結果」を報告している。

• ゲーティングメカニズム: 学習されたゲーティングネットワークは、意味のある空間的注意ではなく、空間的に一定のスケーリングマスクに収束し、性能への寄与は無視できる程度（+0.02 dB）であった。
• 位相正則化: 明示的な制約（位相全変動、位相整合）は、ノイズ除去およびセグメンテーションの両方で性能を低下させ、手動調整された数学的制約がタスク固有の学習を妨げる可能性があることを示唆した。

5. 意義と主張

本論文は、リプシッツ安定性と空間不変性を分離できることを実証することで、ウェーブレットベースの深層学習の原理的な統合を進展させると主張する。その意義は以下の点にある。

1. 理論的厳密性: 密予測に奉仕するために不変性を破っても、安定性（変形に対する頑健性）を維持できることを示す。
2. 位相の重要性: ウェーブレット表現において、位置依存の構造的コンテンツの主要な担い手は位相情報であり、再構成タスクにおいては大きさよりもはるかに重要であるという経験的証拠を提供する。
3. 解釈可能性と性能のトレードオフ: 数学的解釈可能性、固定されたマルチスケール分解、証明可能な安定性の保証を得るために、提案手法はピーク再構成精度（約 2 dB）を犠牲にするという明確なトレードオフを確立する。

著者らは、学習されたウェーブレット手法（DSWN など）が優れた性能を提供する一方で、提案された位相意識型スキャタリングエンコーダ・デコーダは、数学的透明性と頑健性が絶対的なピーク性能よりも優先される応用分野において、十分な訓練データが利用可能であれば、実行可能で解釈可能な代替案を提供すると結論づけている。