Bayesian imaging inverse problem with scattering transform

기술 요약: 산란 변환(Scattering Transform)을 이용한 베이지안 영상 역문제

문제 정의
본 논문은 천체물리학 및 우주론 분야에서 단 하나의 오염된 관측값($d_0$)만을 가용할 수 있는 "저데이터 환경(low-data regimes)"에서의 베이지안 영상 역문제를 해결하는 과제를 다룹니다. 핵심적인 어려움은 알려져 있으나 종종 확률적이거나 역산이 불가능한 순방향 연산자(forward operator, $F$)에 의해 생성된 데이터 $d_0 = F(s_0)$로부터 기저의 물리적 장(physical field, $s_0$)을 복원하는 것입니다.

전통적인 베이지안 접근 방식은 신호에 대한 물리적 지식을 인코딩하는 사전 분포 $p(s)$를 필요로 합니다. 그러나 복잡하고 비가우시안(non-Gaussian) 특성을 가진 천체물리학적 장(예: 대규모 구조, 은하계 먼지)의 경우, 물리적으로 동기화된 사전 분포를 지정하기 어렵고, 데이터 기반의 사전 분포는 학습 데이터가 부족할 때 실패합니다. 저자들은 외부 사전 분포나 대규모 학습 데이터셋에 의존하지 않고, 비가우시안 정규 장(regular fields)에 집중하여 사후 분포 $p(s | d_0)$를 특징짓는 문제로 이 문제를 프레임화합니다.

방법론
제안된 접근 방식은 추론의 목적을 고차원의 픽셀 공간($n \approx 10^5$)에서 산란 변환(Scattering Transform, ST) 통계량의 저차원 매니폴드($l \approx 10^2$)로 전환합니다.

1. 산란 변환 표현: 이 방법은 방향성 스케일 간의 상호작용을 포착하여 비가우시안 프로세스를 특징짓는 ST 통계량 $\phi(s)$를 활용합니다. 이러한 통계량은 ST 통계량 $\mu_S$로 매개변수화된 효율적인 최대 엔트로피 생성 모델 $p_{\mu_S}(s)$를 구축하는 데 사용됩니다.
2. 차원 축소: 저자들은 장에 대한 사후 분포 $p(s | d_0)$를 추론하는 대신, ST 통계량 파라미터에 대한 사후 분포 $p(\mu_S | \phi(d_0))$를 추론합니다. 이는 문제를 관측된 데이터의 통계량과 일치하는 생성 모델을 찾는 것으로 축소합니다.
3. 우도 근사(Likelihood Approximation): 생성 모델로부터의 샘플링이 필요하기 때문에, ST 공간에서의 순방향 연산자(매개변수 $\mu_S$를 데이터 통계량 $\phi(d)$로 매핑하는 연산자)는 해석적으로 다루기 어렵습니다. 저자들은 테일러 전개를 통해 유도된 가우시안 선형 모델 $p(\phi(d) | \mu_S) \sim \mathcal{N}(A\mu_S + b | \Sigma)$를 사용하여 이 우도를 근사합니다.
4. 반복적 적응 알고리즘: 이 가우시안 우도와 그에 따른 사후 분포의 파라미터($A, b, \Sigma$)를 추정하기 위해, 저자들은 다음과 같은 순차적 추정 알고리즘을 제안합니다.
   • 초기화: 참조 맵 $\tilde{s}$의 ST 통계량을 중심으로 하는 좁은 가우시안 제안 분포 $q_0(\mu_S)$를 설정합니다. 이때 참조 맵은 관측된 데이터의 통계량과 화이트 노이즈 사이의 거리를 최소화하도록 화이트 노이즈를 최적화하여 얻습니다.
   • 순차적 정교화: 이전의 제안 분포를 추정된 우도와 결합하여 제안 분포를 반복적으로 업데이트합니다. 동일한 관측값에 중복으로 조건화됨으로써 발생하는 인위적인 과잉 확신을 방지하기 위해 공분산은 각 단계에서 2배로 스케일링됩니다.
   • 수렴: 제안 분포가 고정점으로 수렴할 때 프로세스가 중단되며, 이는 균등 사전 분포(uniform prior)와 선형 가우시안 우도 하에서의 사후 분포와 일치합니다.

주요 기여

• 새로운 추론 프레임워크: 본 논문은 외부 사전 분포 없이 비가우시안 장을 다룰 수 있도록, 픽셀 공간이 아닌 산란 변환 통계량 공간에서 추론을 수행하는 베이지안 프레임워크를 도입합니다.
• 적응형 알고리즘: 고차원 공간에서 신경망 밀도 추정기를 훈련시키는 계산 비용을 피하면서, 선형 가우시안 우도 근사를 사용하여 생성 모델 파라미터의 사후 분포를 근사하는 특정 반복 알고리즘을 제안합니다.
• 단일 이미지 재구성: 이 방법은 딥 러닝 접근 방식에 일반적으로 요구되는 대규모 학습 데이터셋 없이도 작동하도록 설계되었습니다.

결과
이 방법은 Quijote 우주론 시뮬레이션의 칼럼 밀도 장(column density field, 대규모 구조)과 화이트 가우시안 노이즈 및 무작위 타원형 마스크로 구성된 모의 기기 순방향 연산자를 사용하여 검증되었습니다.

• 통계적 추론: 추론된 ST 통계량의 사후 샘플은 실제 기저 장 $s_0$의 통계적 특성(파워 스펙트럼 및 일점 확률 분포 함수)을 정확하게 재현했습니다.
• 결정론적 재구성: 추론된 생성 모델로부터 샘플링함으로써, 저자들은 순방향 연산자를 통과했을 때 관측값과 시각적으로 구별할 수 없는 맵을 생성했습니다. 생성된 장 자체는 대규모 구조(LSS) 맵과 일관성을 보였으며, 주로 노이즈가 지배적인 가장 작은 스케일에서 변동성을 나타냈습니다.
• 외부 사전 없음: 재구성은 관심 장에 대한 어떠한 외부 사전 분포 없이, 오직 ST 기반의 생성 모델 구조에만 의존하여 달성되었습니다.

의의 및 주장
본 논문은 산란 변환 통계량이 까다로운 저데이터 환경에서 복잡한 영상 역문제를 해결하는 데 효과적인 표현임을 주장합니다. 이 접근 방식은 다음의 상황에서도 비가우시안 천체물리학적 신호에 대한 정확한 통계적 추론과 결정론적 신호 재구성이 가능하다는 것을 보여줍니다:

1. 단 하나의 오염된 이미지만 사용 가능한 경우.
2. 물리적으로 동기화된 사전 분포나 현실적인 학습 데이터셋이 존재하지 않는 경우.

저자들은 이 연구가 현재 거의 또는 전혀 사전 모델링이 불가능한 비가우시안 천체물리학 및 우주론적 신호에 대한 새로운 응용 분야를 열어줄 것이며, 테스트된 특정 대규모 구조 사례를 넘어 일반화 가능한 솔루션을 제공한다고 밝히고 있습니다.