=== 要約 ===

技術要約：Restoring Without Forgetting (RwF)

問題の定式化

本論文は、継続学習（continual learning）、特にドメイン増分学習（Domain-Incremental Learning: DIL）の設定におけるマルチデグラデーション（多重劣化）画像復元の課題に取り組んでいる。近年の「オールインワン」型アーキテクチャは複数の劣化を同時に扱うことができるが、これらは学習時にすべての対象劣化データに同時にアクセスできるという「クローズド・ワールド」の仮定に基づいている。これは、現実世界のデプロイメントにおいては成立しない。実際には、フィールドに配備されたシステムでは、ストレージ、プライバシー、またはライセンスの制約により、過去の学習データにアクセスできない状態で、劣化（ノイズ、ブラー、雨、ヘイズ、低照度など）が時間の経過とともに逐次的に発生する。

既存の手法は以下のジレンマに直面している：

1. 逐次ファインチューニング（Sequential Fine-Tuning）： 新しいデータで再学習すると、以前の劣化に対する表現が上書きされ、**破滅的忘却（catastrophic forgetting）**を招く。
2. ゼロからの再学習（Retraining from Scratch）： 新しい劣化ごとに新しいネットワークを訓練することは、計算コストが高く、拡張性に欠ける。
3. オールインワン共同学習（All-In-One Joint Training）： 過去および現在のすべてのデータを再集結させる必要があるが、過去のデータが利用不可能な場合には不可能である。

さらに、既存のパイプラインは、テスト画像がどの劣化タイプに属するかを知っている「オラクル（神託）」の存在を暗黙的に仮定しているが、この仮定は、推論時にドメインラベルが利用できないオープンワールドのシナリオでは崩壊する。

手法：RwFフレームワーク

著者らは、過去のデータを保持せず、かつテスト時に劣化ラベルを知ることなく、劣化を逐次的に学習するために設計されたパラメータ効率の高いフレームワークである**Restoring without Forgetting (RwF)**を提案する。

1. コンテンツ制御型ベンチマークの構築

劣化学習をデータセットの変動から分離するために、著者らは、5つのすべての劣化ドメイン（ノイズ、モーションブラー、雨、ヘイズ、低照度）を**単一の共有クリーン画像コーパス（DIV2K）**から合成したベンチマークを構築した。これにより、ドメインの違いがコンテンツの変動（$p(c)$）ではなく、劣化演算子（$T_t$）のみに由来することを保証し、ルーティング機構がデータセット固有の事前分布ではなく、劣化特有のシグネチャを学習できるようにしている。

2. フリーズされたバックボーンと劣化分離型アダプター

RwFは、ガウスノイズ除去の重みで初期化され、学習プロセス全体を通じて凍結（frozen）される学習済み復元バックボーン（例：RestormerまたはNAFNet）を利用する。このバックボックは、強力な自然画像の事前分布を提供する、共有された固定の基質として機能する。

• 低ランクアダプター（Low-Rank Adapters）： 各新しい劣化ドメイン $t$ に対して、バックボーンに付随する軽量でネットワーク全体に広がる低ランクアダプターのパスを装着する。これらのアダプターは、各ブロックのフィーチャに対してボトルネック残差補正を適用する。
• パラメータの隔離（Parameter Isolation）： ステージ $t$ では、新しいアダプターパス $\Phi_t$ のみが訓練され、バックボーンおよびすべての以前のパス $\Phi_{<t}$ は凍結されたままとなる。この厳格なパラメータ隔離により、新ドメインの勾配が以前のドメインに影響を与えないことが保証され、構成上、破滅的忘却がゼロとなる。
• 効率性： オーバーヘッドは最小限であり（ドメインあたりバックボーン・パラメータの約3〜4%）、バックボーンを複製するのではなく、ドメイン数に対して線形にスケールする。

3. 非教師ありプロトタイプベース・ルーティング

テスト時にはドメインラベルが利用できないため、RwFは補助的な分類器を用いずに、入力を正しいアダプターパスへとルーティングするためのプロトタイプ照合メカニズムを採用している。

• 特徴量の読み出し（Feature Readout）： 分類タスクでは深い特徴量が使用されるが、著者らは、初期エンコーダの特徴（最初のエンコーダステージの出力）が劣化に対して最も識別力が高いことを見出した。復元バックボーンが進むにつれて、クリーンな画像を再構成するために劣化信号が抑制されるため、深い特徴量は劣化の種類を区別するための情報として不適切になる。
• 埋め込みの集約（Embedding Aggregation）： 空間特徴マップは、チャネルおよび空間次元にわたる平均と標準偏差の両方を計算することによって集約される。これらのモーメントは独立して $\ell_2$ 正規化され、結合されてドメイン埋め込みを形成する。
• ルーティング： 各ドメインのプロトタイプは、学習サンプルのサブセットの埋め込みを平均化することによって形成される。推論時には、未知の入力が埋め込まれ、そのプロトタイプとのコサイン類似度が最も高いパスへとルーティングされる。

主な貢献

1. 継続学習の定式化： 本論文は、マルチデグラデーション復元を、劣化が逐次的に到来し、過去のデータが利用できず、かつドメインの同一性がテスト時に未知であるという、ドメイン増分学習の問題として定式化した。
2. パラメータ効率の高いフレームワーク： RwFは、劣化特有の低ランクアダプターを通じて、凍結されたバックボーン・アーキテクチャを導入することで、忘却を排除する。また、軽量なプロトタイプ照合メカニズムを介して非教師ありでルーティングを行い、専用のドメイン別ネットワークのコストを回避する。
3. コンテンツ制御型ベンチマークとSim-to-Real評価： 著者らは、劣化演算子をコンテンツの変動から分離した5ドメインのベンチマークを提供し、学習されたアダプターが、再学習なしで11の標準的な実世界劣化ベンチマーク（3,465枚の画像）に転移できることを示した。

実験結果

フレームワークは、5つの劣化のシーケンスにわたって、Restormer（Transformerベース）およびNAFNet（畳み込みベース）のバックボーンを用いて評価された。

• 逐次ファインチューニングとの比較： 逐次ファインチューニングは深刻な忘却に陥る。RwFは、逐次ファインチューニングと比較して、最終的な平均PSNRを15.25 dB（Restormer）および11.83 dB（NAFNet）向上させた。
• オールインワンとの比較： RwFは、5つの全ドメインの連合体を用いた共同「オールインワン」学習と同等、あるいは（Restormerの場合）それよりも優れた性能を達成した。これは、後続ドメインの学習中に過去のデータを一度も見ていないにもかかわらず実現された。
• 忘却指標： RwFは0.00 dBの忘却（$F=0$）を達成した。これは、新しいドメインを学習した後でも、以前のドメインに対する性能が完全に保持されていることを意味する。
• 実世界への転移： 11の実世界ベンチマークにおいて、RwFは89.5%のルーティング精度を達成し、グラウンドトゥルースのドメインを知っているオラクルと比較して、残差は**+0.94 dBのPSNRギャップ**であった。
• アブレーション研究：
  • 読み出しの深さ（Readout Depth）： 初期のエンコーダ特徴（ステージ1）を使用することで、深い特徴やボトルネック（58.8%）よりも有意に高いルーティング精度（79.7%）が得られ、復元バックボーンが深い層で劣化のヒントを抑制することを裏付けた。
  • 集約（Aggregation）： 平均と標準偏差を個別に正規化して組み合わせることは、Global Average Pooling (GAP) 単独よりも優れた性能を示した。

意義と主張

本論文は、著者らの知る限り、継続的なマルチデグラデーション画像復元のための最初の体系的なベースラインを確立したと主張している。それは以下のことを示している：

1. 忘却は排除可能である： 生成的な復元タスクにおいて、リプレイバッファや正則化ペナルティを用いることなく、厳格なパラメータ隔離を通じて忘却を排除できる。
2. 非教師ありルーティングは可能である： 特定の劣化演算子に特有の初期段階の特徴を活用することで、ピクセルレベルの密なタスクにおいても非教師ありルーティングが可能である。
3. 合成から実世界への転移（Synthetic-to-Real transfer）は可能である： 劣化演算子が実世界の特性に一致するように物理的にモデル化されていれば、学習コーパスがコンテンツ制御型であっても転移が可能である。

著者らは、低照度のような主にグローバルなシグネチャを持つ劣化についてはルーティング精度が低下すること、また、学習時の合成範囲を超える実世界の分布に対しては、アダプター経路を周波数領域の投影やカーネル認識の再パラメータ化によって強化できる可能性があるといった、限界についても認めている。