Trainable Nonexpansive Denoisers for Contractive Image Reconstruction

기술 요약: 수축적 이미지 재구성을 위한 학습 가능한 비확장성 디노이저(Nonexpansive Denoisers)

문제 정의
노이즈가 섞이거나 불완전한 선형 측정값으로부터 이미지를 재구성하는 것은 계산 영상 처리(computational imaging) 분야의 근본적인 난해한 역문제(ill-posed inverse problem)이며, 이는 디블러링(deblurring), 초해상도(superresolution), MRI 등의 과업을 포괄한다. 전통적인 변분법적 접근 방식은 $\min_x f(x) + g(x)$를 해결하며, 여기서 $f$는 데이터 충실도 항이고 $g$는 정규화 항이다. 그러나 효과적인 명시적 정규화 항을 설계하는 것은 어렵다. Plug-and-Play (PnP) 방식은 정규화 항의 근사 연산자(proximal operator)를 일반적인 디노이저 $D$로 대체함으로써 이 문제를 해결한다. PnP는 디노이저를 순방향 모델(forward model)로부터 분리하여 사전 학습된 네트워크를 재사용할 수 있게 해주지만, $D$를 블랙박스로 취급할 경우 수렴성을 보장하기 어렵다는 단점이 있다.

수렴성을 보장하기 위한 기존의 접근 방식들은 대개 훈련 데이터에 대해 페널티 항을 통해 립시츠 제약(특히 리프시츠 상수 $\le 1$인 비확장성)을 경험적으로만 강제한다. 이러한 "연성(soft)" 제약은 훈련 분포 외부에서는 보장을 제공하지 못하므로, 재구성 과정에서 불안정한 동작이나 발산을 초래할 가능성이 있다. 반대로, 고성능 비선형 구조(예: DRUNet 또는 DnCNN)에 전역적 립시츠 제약을 강제하면 디노이징 성능이 크게 저하되는 경우가 많다. 핵심 과제는 높은 품질의 재구성을 위한 충분한 표현력을 유지하면서도, 설계 단계에서부터 전역적으로 비확장성을 갖는 디노이저를 구축하는 것이다.

방법론
저자들은 설계 단계에서부터 전역적으로 비확장성을 갖도록 하는 파라미터화된 디노이저 패밀리를 구축하기 위한 원칙적인 프레임워크를 제안한다. 이 방법은 이미지 격자(lattice)에 작용하는 치환(permutation)의 작용을 활용하는 데 기초한다.

1. 치환 기반 집계 (Permutation-Based Aggregation):
   디노이저 $D$는 입력 이미지의 치환된 버전들을 집계하여 구성된다. $G$를 이미지 격자 $\Omega$에 작용하는 치환 그룹이라 하자. 노이즈가 섞인 이미지 $x$와 참조 이미지 $\xi$에 대하여, 디노이저는 다음과 같은 가중 집계를 계산한다:
   $$D(x; \xi) = \left( \sum_{\pi \in G} N_\theta(\xi, \pi \cdot \xi) \odot (\pi \cdot x) \right) \oslash \left( \sum_{\pi \in G} N_\theta(\xi, \pi \cdot \xi) \right)$$
   여기서 $N_\theta$는 참조 이미지 $\xi$와 그 치환된 변형들에 기반하여 양수 가중치를 예측하는 경량 신경망이다. 비선형성은 가중치 예측($\xi$에 의존)에 국한되며, $x$에 대한 집계는 선형성을 유지한다.

2. 비확장성을 위한 구조적 조건:
   결과적인 연산자가 비확장성(립시츠 상수 $\le 1$)을 갖도록 보장하기 위해, 저자들은 다음과 같은 특정 구조적 조건을 부과한다:

• 양수성 (Positivity): 신경망 출력 $N_\theta$는 반드시 엄격히 양수여야 한다.
• 역관계 일관성 조건 (Inverse-Consistency Condition, ICC): 가중치는 $N_\theta(\xi, \pi \cdot \xi) = \pi \cdot N_\theta(\xi, \pi^{-1} \cdot \xi)$를 만족해야 한다. 이는 기저의 선형 집계 연산자가 대칭임을 보장한다.
• 대칭화 (Symmetrization): $D$의 정의에 포함된 정규화 단계가 대칭성을 깨뜨릴 수 있으므로, 저자들은 대칭적이고 확률적인(stochastic) 연산자 $D_{sym}$을 생성하기 위해 대칭화 프로토콜 $\phi(D)$(Sreehari et al., 2016 기반)를 적용한다.
• 치환 집합 (Permutation Set): 집합 $G$는 역원에 대해 닫혀 있어야 하며, ICC를 지나치게 제한적으로 만드는 비자명한 2차 원소(involution)를 피하도록 선택된다. 저자들은 이러한 요구사항을 충족하는 국소적 평행 이동(local translations) $T[R]$을 활용한다.

3. 수렴하는 재구성 (Convergent Reconstruction):
   대칭화된 디노이저 $D_{sym}$은 PnP-HQS (Half-Quadratic Splitting) 프레임워크에 통합된다. 저자들은 순방향 연산자의 비영멸(non-annihilating) 성질을 포함한 완만한 가정 하에, 결과적인 고정점 반복 연산자 $T = D_{sym} \circ \text{prox}_{\rho f}$가 수축(contractive)함을 증명한다. 이는 유일한 고정점으로의 전역 수렴을 보장한다.

4. 훈련 및 구현:
   신경망 $N_\theta$는 디노이징 작업의 평균 제곱 오차(MSE)를 최소화하도록 엔드투엔드로 훈련된다. 재구성 과정에서는 가중치의 품질을 개선하기 위해 참조 이미지 $\xi$를 반복적으로 업데이트하는 "웜업(warm-up)" 단계가 사용된다. 참조 이미지가 안정화되면, 이론적 수축 조건을 충족하기 위해 이를 고정(freeze)한다.

주요 기여

• 비확장성 디노이저 설계: 본 논문은 훈련 과정에서 네트워크의 립시츠 상수를 추정하거나 제약할 필요 없이, 설계 단계에서부터 전역적으로 비확장성을 갖는 디노이저를 구축하는 프레임워크를 제안한다.
• 이론적 보장: 저자들은 제안된 디노이저를 PnP-HQS와 결-합했을 때 형성되는 재구성 연산자가 완만한 가정 하에서 수축함을 증명하여 전역 수렴을 보장한다.
• 경험적 성능: 제안된 방법은 표준 역문제(디블러링 및 초해상도)에서 최신 수렴 기반 모델들(예: ADMM+CoCo-DRUNet, IHQS+SPC-DRUNet, GSPnP+GSDRUNet)과 비교하여 경쟁력 있는 재구성 품질을 달성한다.

실험 결과
실험은 다양한 노이즈 레벨($\nu \in \{0.03, 0.05\}$)과 블러 커널에 대해 표준 데이터셋(CBSD10)을 사용하여 디블러링 및 초해상도 작업을 수행하였다.

• 디노이징: 높은 노이즈 레벨($\sigma = 50/255$)에서 제안된 디노이저는 BM3D를 유의미하게 능가하며, 제약이 없는 DRUNet과 경쟁하면서도 미세한 디테일을 효과적으로 보존한다.
• 재구성: 디블러링 및 초해상도 작업에서 제안된 "Ours" 방법은 최근의 수렴 기반 모델들과 대등하거나 더 나은 PSNR 점수를 달ates한다.
• 안정성: 경험적 제약에 의존하여 실제 상황에서 발산할 수 있는 연성 제약 기반 모델들(예: SPC-DRUNet, CoCo-DRUNet)과 달리, 제안된 방법은 전역적 비확장성 덕분에 모든 테스트 시나리오에서 안정성을 유지한다.
• 효율성: 국소적 평행 이동과 ICC 전략( $\pi$와 $\pi^{-1}$ 쌍을 맞춤)을 사용하여 계산 오버헤드를 줄였다. 대칭화 단계가 실행 시간을 추가하지만, 네트워크 출력을 캐싱함으로써 이를 완화한다.

의의 및 주장
본 논문은 PnP 방식에서 표현력과 수렴성 보장 사이의 트레이드오프를 해결한다고 주장한다. 치환 군(permutation group)의 작용을 활용함으로써, 저자들은 훈련 분포 외부에서 실패할 수 있는 경험적 제약에 의존하지 않고도, 전역적으로 비확장성이 증명되면서도 매우 높은 표현력을 가진 학습 가능한 디노이저를 구축할 수 있음을 보여준다. 결과적인 재구성 프레임워크는 발산을 배제하는 "강력한 형태의 수렴 보장"(수축)을 제공하며, 이는 안정성이 필수적인 계산 영상 처리 응용 분야에서 더욱 신뢰할 수 있는 접근 방식을 제공한다. 이 연구는 역문제를 위한 해석 가능하고 신뢰할 수 있는 머신러닝 방법론의 발전을 이끈다.