Deep Probabilistic Unfolding for Quantized Compressive Sensing

技術概要：量子化圧縮センシングのための深層確率展開

問題定義
量子化圧縮センシング（QCS）は、粗い量子化（例：1 ビットまたは低ビット）を受けた圧縮測定値からの信号再構成という課題に対処する。粗い量子化は帯域幅と消費電力を大幅に削減するため、大規模 MIMO、レーダー、無線センサーネットワークなどの応用において不可欠であるが、信号振幅に関する強い非線形性と情報損失をもたらす。既存の再構成手法は、以下の二極化に直面している：

1. 従来のモデル駆動型アルゴリズム：これらは手作業で設計された事前分布と反復最適化に依存する。堅牢ではあるが、計算コストが高く、再構成品質が限定的であるという欠点がある。
2. 深層学習に基づく生成アプローチ：最近の手法（例：QCS-SGM、QCS-SGM+）は、スコアベース生成モデルを用いて、アンネaled ランジュバン動力学による事後サンプリングを実行する。これらは高い知覚的品質を達成するが、複数のノイズレベルにわたる反復的な確率的更新を必要とするため、計算コストが高い。これにより、高い遅延とスループット制約のため、リアルタイム展開には不適切となる。さらに、これらの手法は、扱いやすい尤度近似のために制限的な仮定（例：センシング行列の行直交性）に依存するか、特定のドメイン設定と一致しない可能性のある大規模データセットでの重み付け前学習を必要とする。

手法：深層確率展開ネットワーク（DPUNet）
著者は、原理的なベイズ推論と効率的な深層学習の間のギャップを埋める、決定論的かつエンドツーエンドで学習可能な深層展開フレームワークである DPUNet を提案する。

• 閉形式尤度勾配射影：
  $L_2$ 射影を適用するか、期待伝播（EP）近似に依存する従来の展開手法とは異なり、DPUNet は数値的に安定した閉形式の尤度勾配を導出する。

  • メカニズム：この手法は、量子化制約を硬い制約ではなく、ソフトな確率的ガイダンスとして扱う。測定ドメインを、固有のものまたは人工的なノイズによって擾乱されたものとしてモデル化する。
  • 1 ビットの場合：Mills 比を用いて、二値測定値（$y = \text{Sign}(Mx + n)$）に対する対数尤度の勾配を計算する。
  • マルチビットの場合：量子化区間におけるガウス累積分布関数（CDF）の差を用いて勾配を導出する。
  • 利点：このアプローチは、EP ベースの手法に必要な行直交性の仮定を回避し、スコアベースモデルの反復サンプリングステップを排除することで、単一のフォワードパスを可能にする。

• 双ドメイン Mamba ブロック（DMB）：
  展開ステージ内のリファインメントネットワークとして機能するため、著者は局所的および大域的な特徴を効率的に捉える新しい双ドメイン Mamba ブロックを設計する。

  • 空間ブランチ：フラット化された空間系列に対して標準的な状態空間モデル（SSM）を実装し、局所的な依存関係を捉える。
  • スペクトルブランチ（S3M）：複素数値で周波数条件付きのスペクトル層を導入する。順序依存性を持つ逐次トークン走査の代わりに、S3M はフーリエモード上で動作する。周波数ドメインで安定した複素状態空間システムをパラメータ化し、スペクトル応答に対する閉形式解を得る。
  • クロス周波数相互作用：純粋な対角フィルタリング（周波数の独立性を仮定する）の限界に対処するため、S3M は構造化された低ランク射影・ブロードキャスト項を組み込む。これにより、密なスペクトル混合の二次的なコストを回避しつつ、$O(LR)$ の複雑さで効率的なクロス周波数相互作用を実現する。
  • 順序不変性：フーリエドメインで動作することで、大域的受容野は順序不変となり、標準的な走査ベースの Mamba アーキテクチャに固有の順序依存性を克服する。

• 学習目的：
  ネットワークは、$L_2$ 再構成誤差と負対数尤度（NLL）項からなる複合損失関数を最小化することで最適化される。NLL 項は、確率モデルから導出された量子化データ整合性制約に従って出力が保証されることを確保する。

主な貢献

1. DPUNet フレームワーク：閉形式尤度勾配射影を通じて、硬い量子化制約をソフトな確率的ガイダンスに変換する新しい深層展開アーキテクチャ。これにより、反復的な事後サンプリングの計算負担なしに、決定論的かつ単一パスの推論が可能となる。
2. 双ドメイン Mamba ブロック：空間状態空間モデリングと、周波数条件付きかつ順序不変なスペクトル演算子を融合させた新しいリファインメントモジュール。反復的な再帰ではなく、構造化されたスペクトル演算子を通じて大域的特徴相互作用を達成し、計算コストを大幅に削減する。
3. 性能と効率：1 ビットから 3 ビットまでの量子化レベルにおいて、再構成精度（PSNR/SSIM）で最先端（SOTA）の性能を示し、スコアベースサンプリングのベースラインよりも桁違いに高速な推論速度を維持する。

実験結果
著者は、CelebA（64×64）および FFHQ（256×256）データセット上で DPUNet を評価し、QCS-SGM、QCS-SGM+、およびバニラ深層展開ベースラインと比較した。

• 精度：DPUNet は、すべての量子化ビットにおいて優れた PSNR および SSIM スコアを達成した。例えば、1 ビット測定値を用いた FFHQ において、DPUNet は 27.18 dB の PSNR を達成し、QCS-SGM+ の 13.26 dB と比較して優れていた。
• 効率：256×256 画像に対する DPUNet の推論時間は約 0.25 秒であったのに対し、QCS-SGM は 558 秒、QCS-SGM+ は 1072 秒であった。
• アブレーション研究：尤度勾配射影を除去すると、最も深刻な性能低下（約 10.57 dB の低下）が生じ、核心的な確率定式化の有効性が検証された。スペクトルブランチとランク-R 結合も性能に大きく寄与した。
• 分布外（OOD）：FFHQ で学習したモデルは、OOD データセットである CSet8 においても堅牢な再構成能力を示し、1 ビットシナリオにおいても従来の手法を上回った。

意義と主張
本論文は、DPUNet が、生成サンプリングの計算オーバーヘッドなしに、モデルベース展開の解釈可能性と深層学習の表現力を統合することで、既存の QCS 再構成手法に対する原理的な代替案を提供すると主張する。

• 実用的展開：反復サンプリングを排除し、制限的なセンシング行列仮定への依存を減らすことで、この手法は遅延とスループットが重要な現実世界のアプリケーションにおける実現可能なソリューションとして位置づけられる。
• 将来の可能性：著者は、このフレームワークが、認識や安全な伝送などの下流目的に対して再構成パイプラインを共同で調整できる、タスク対応型またはハードウェアインザループ最適化の将来のプロトタイプとして機能すると示唆している。この手法は、量子化圧縮センシングのためのより効率的かつ合理的なエンドツーエンド設計への一歩として提示されている。