Stabilizing Deep Reconstruction Operators with Contractive Anchoring

기술 요약: 수축적 앵커링(Contractive Anchoring)을 통한 딥 재구성 연산자의 안정화

문제 정의
사전 학습된 딥 디노이저(Deep Denoiser)는 디블러링(Deblurring) 및 초해상도(Super-resolution)와 같은 모델 기반 영상 재구성(IR) 작업에서 PnP(Plug-and-Play) 및 RED(Regularization-by-Denoising) 알고리즘을 통해 널리 사용됩니다. 이러한 방법들은 특정 역문제(Inverse Problem)를 위해 다시 학습할 필요 없이 강력하고 태스크 불가지론적인(Task-agnostic) 디노이저를 사용할 수 있게 해줍니다. 그러나 단일 단계 추론(Single-step inference)만을 위해 학습된 이러한 디노이저들이 반복적인 재구성 스킴에 정규화 도구로 사용될 때 결정적인 한계가 발생합니다.

저자들은 **"피크 앤 콜랩스(Peak-and-Collapse, PC)"**라고 불리는 만연한 실패 모드를 식별했습니다. 이 시나리오에서는 재구성 품질(PSNR로 측정)이 초기 반복 과정 동안 개선되다가, 정점(Peak)에 도달한 후 급격히 저하됩니다. 이러한 불안정성은 표준 PnP 및 RED 알고리즘을 실무에서 신뢰하기 어렵게 만듭니다. 최적의 정지 시점을 파악하는 것이 매우 어렵기 때문입니다. 기존의 해결책들은 특정 구조적 제약(예: 비확장성)을 갖도록 디노이저를 재학습시키거나, 디노이저를 재구성 모델과 공동 최적화해야 하는데, 이는 기존의 고성능 사전 학습 네트워크를 재사용하는 데 한계를 줍니다.

방법론
본 논문은 기존의 사전 학습된 디노이저나 근사 솔버(Proximal Solver)를 수정하거나 재학습할 필요가 없는 "드롭인(Drop-in)" 메커니즘으로서 데이터 기반 안정화 프레임워크를 제안합니다. 핵심 접근 방식은 **수축적 앵커(Contractive Anchor)**를 사용하여 IR 연산자의 불안정성을 제어하는 것입니다.

1. 안정성 지표 ($\eta$): IR 연산자 $\mathcal{T}$가 블랙박스로 취급되므로, 저자들은 참조점 $\mathbf{p}$에 대한 국소 안정성 지수 $\eta_p(\mathbf{x}, \mathcal{T})$를 정의합니다. 이 지수는 연산자에 의해 유도되는 상대적인 확장 또는 수축을 측정합니다. 불안정성은 $\eta > 1$인 경우로 특징지어집니다.
2. 적응형 수축적 앵커링(Adaptive Contractive Anchoring): 이 방법은 고유한 고정점 $\mathbf{p}$를 가진 수축 연산자 $\mathcal{S}$(앵커)를 도입합니다. 불안정한 연산자 $\mathcal{T}$는 평균 연산자 $\mathcal{T}_\theta = (1-\theta)\mathcal{T} + \theta\mathcal{S}$를 형성하기 위해 $\mathcal{S}$와 혼합됩니다.
   • 이론적 보장: Lemma 1과 Theorem 1은 수축(Contraction)과의 평균화가 안정성 지수를 엄격하게 감소시킨다는 것을 입증합니다. 저자들은 안정성 지수를 목표 수준 $\xi$(구체적으로 $\xi=1$)로 낮추는 것을 보장하는 명시적인 임계값 $\tilde{\theta}$를 도출합니다.
   • 알고리즘 1: 제안된 알고리즘은 각 반복마다 혼합 가중치 $\theta_k$를 적응적으로 계산합니다. 만약 $\eta > 1$이면 $\theta_k$는 $\eta$를 1로 낮추는 데 필요한 최소값으로 설정되며, 그렇지 않으면 $\theta_k = 0$이 됩니다. 이는 안정성이 필요할 때만 강제되어, 원래 연산자 $\mathcal{T}$에 의해 구동되는 재구성 품질을 보존하도록 보장합니다.
3. 수축적 앵커의 구성: 앵커 $\mathcal{S}$ 역할을 하기 위해, 저자들은 구조적으로 수축성을 갖는(Contractive by construction) 경량화된 노이즈 인식 디노이저 $\mathcal{D}_\sigma$를 설계합니다.
   • 이 디노이저는 그래디언트 단계 연산자 $\mathcal{D}(\mathbf{x}) = \mathbf{x} - \gamma \nabla \Phi(\mathbf{x})$로 모델링됩니다.
   • 포텐셜 함수 $\Phi$는 기울기가 $[0, 1]$ 사이로 제한된 스플라인 기반 비선형성과 학습 가능한 컨볼루션 필터를 사용하여 매개변수화됩니다.
   • 컨볼루션 가중치의 특정 재매개변수화와 단계 크기 $\gamma$ 및 정규화 파라미터 $\tau$에 대한 제약을 통해, 저자들은 결과 연산자가 어떤 노이즈 레벨 $\sigma$에 대해서도 $\kappa$-수축($\kappa < 1$)임을 증명합니다(Proposition 2 및 3). 이 앵커는 표준 가우시안 디노이저로서 학습되지만, 수학적으로 증명 가능한 수축성을 유지합니다.

주요 기여

1. 안정성 지수의 공식화: 블랙박스 IR 연산자의 확장성을 정량화하는 국소 안정성 지수 $\eta$를 도입하여, 네트워크의 내부 지식 없이도 불안정성을 탐지하고 제어할 수 있게 했습니다.
2. 적응형 안정화 알고리즘: 발산을 방지하기 위해 수축적 앵커의 영향력을 적응적으로 조정하는 증명 가능한 수렴 알고리즘(Algorithm 1)을 제공합니다. 이는 앵커의 학습 외에는 추가적인 하이퍼파라미터 튜닝이 필요 없는 완전한 드롭인 래퍼(Wrapper)로 작동합니다.
3. 학습 가능한 수축적 앵커: 구조적으로 수축성을 갖는 경량화된 노이즈 인식 디노이저를 설계했습니다. 이를 통해 제약 없는 학습 절차를 사용하면서도 안정화 프레임워크에 필요한 수학적 성질을 보장할 수 있습니다.

실험 결과
본 프레임워크는 다양한 근사 솔버(PGD, HQS, ADMM, RED-GD), 다양한 디노이저 아키텍처(DnCNN/DRUNet과 같은 CNN, 확산 모델, 트랜스포머), 그리고 다양한 영상 작업(모션 디블러링, 가우시안 디블러링, 초해상도)에 대해 평가되었습니다.

• 안정성: 이 방법은 바닐라(Vanilla) PnP 및 Equivariant PnP에서 관찰되는 피크 앤 콜랩스 현상을 일관되게 방지합니다. 베이스라인 방법들은 종종 발산하거나(결과에서의 $\times$ 표시) 정점 이후 PSNR이 크게 저하되는 반면, 안정화된 변형들은 최종 PSNR 값을 피크 성능에 가깝게 유지합니다.
• 성능: 안정화된 방법들은 DPIR, GSPnP, DEAL과 같은 최첨단 파이프라인과 대등하거나 더 우수한 결과를 달s합니다. 예를 들어, 모션 디블러링에서 안정화된 HQS+GS-DRUNet은 30.70 dB를 달성하여 DPIR(30.69 dB)과 일치하는 반면, 표준 PnP-HQS는 발산했습니다.
• 효율성: 계산 오버헤드는 바닐라 PnP에 비해 약 20% 증가한 것으로 보고되었습니다. 혼합 가중치 $\theta$가 안정적인 단계에서는 작게 유지되므로, 업데이트는 여전히 고성능 블랙박스 연산자에 의해 주로 구동되어 재구성 품질을 보존합니다.

의의 및 주장
본 논문은 이 프레임워크가 PnP/RED 패러다임의 모듈성을 희생하지 않으면서 딥 재구성 연산자의 불안정성에 대한 견고한 해결책을 제공한다고 주장합니다. 안정화 메커니즘을 특정 디노이저 아키텍처로부터 분리함으로써, 저자들은 기존의 강력한 사전 학습 모델을 반복적인 재구성 작업에서 신뢰성 있게 사용할 수 있도록 합니다. 이 접근 방식은 유계된 반복(Bounded iterates)에 대한 증명 가능한 보장을 제공하며, 현재 PnP 방법의 실무 배포를 제한하는 급격한 성능 저하를 방지합니다. 저자들은 이를 본질적으로 신뢰할 수 있는 IR 시스템을 향한 단계로 규정하며, 향-후 연구에서 이러한 원칙을 IR 시스템의 학습에 직접 통합할 수 있음을 언급했습니다.