Discretization-free Bayesian inverse problems in distribution spaces

기술 요약: 분포 공간에서의 이산화가 필요 없는 베이지안 역문제

문제 정의
역문제(Inverse problems)는 일반적으로 관측 가능한 양과 관련된 노이즈가 섞인 측정값으로부터 미지의 알려지지 않은 양을 추론하는 과정을 포함한다. 이러한 문제들은 흔히 부적절하게 정의되어 있어(ill-posed), 사전 정보(prior information)를 통한 정규화(regularization)가 필요하다. 베이지안 접근법은 사전 분포와 가능도 모델을 결합함으로써 이를 위한 엄밀한 프레임워크를 제공하지만, 무한 차원 함수 공간에서의 이론적 공식과 실제적인 계산 구현 사이에는 상당한 간극이 존재한다.

전통적으로 실질적인 해결책들은 "이산화 후 분석(discretize-then-analyze)" 방식에 의존하며, 여기서 미지의 양은 (예: 픽셀 값과 같은) 유한 차원 벡터로 근사된다. 이는 절단 오차(truncation errors)와 기저 의존적 아티팩트(basis-dependent artifacts)를 유발한다. 반면, 무한 차원 이론(힐베르트 또는 바나흐 공간)은 일관된 프레임워크를 제공하지만, 직접적인 계산적 유용성이 부족한 경우가 많다. 이는 무한 차원 연산자(공분산 역연산자 등)를 포함하는 사후 분포 공식이 문제를 다시 이산화하지 않고는 유한 차원으로 투영되기 어렵기 때문이다. 본 논문이 다루는 핵심 과제는 미지의 대상에 대한 이산화 없이 어떻게 무한 차원 이론과 실질적인 계산 사이의 가교를 놓을 것인가 하는 점이다.

방법론
저자들은 미지 변수 $X$의 이산화를 피하면서, 분포(일반화된 함수) 공간 내에서 완전히 정식화된 베이지안 선형 역문제 프레임워크를 제안한다.

1. 분포 공간 프레임워크:

   • 미지 $X$는 테스트 함수(예: $C^\infty$ 함수)의 공간 $U$의 쌍대 공간인 $H = U^*$를 값으로 갖는 일반화된 확률 변수로 모델링된다.
   • $H$의 위상과 $\sigma$-대수는 테스트 함수들에 대한 유한한 평가(evaluations)에 의해 생성되는 실린더 집합(cylinder sets)에 의해 정의된다.
   • 측정값은 쌍대 평가(dual evaluations)로 정의된다. 유한 차원의 관측값 $Z$는 확률 변수 $B$(노이즈가 섞인 순방향 모델 출력)를 테스트 함수 집합 $\Psi = \{\psi_1, \dots, \psi_m\}$와 쌍을 이룸으로써 얻어진다.

2. 가우시안 선형 모델:

   • 순방향 모델은 $B = AX + E$이며, 여기서$A$는 연속 선형 연산자이고$E$는 가우시안 노이즈이다.
   • $X$와 $E$는 각각 테스트 함수들에 대한 작용을 통해 정의된 평균 및 공분산 연산자를 갖는 독립적인 가우시안 일반화 확률 변수로 가정된다.
   • 사후 분포는 조건부 가우시안 분포의 성질을 사용하여 유도된다. 결정적으로, 사후 평균 및 공분산 연산자는 미지의 대상에 대한 특정 측정 집합이 선택되기 전에 무한 차원 공간 내에서 유도된다.

3. 쌍대 평가를 통한 사후 분포 계산:

   • 역문제의 해는 임의의 테스트 함수 $\Phi = \{\phi_1, \dots, \phi_n\}$에 대한 특정 유한 차원 투영 $\langle \Phi, X \rangle$의 사후 분포이다.
   • 사후 평균 벡터 $z$와 공분산 행렬 $D$는 $X$와 $E$의 공분산 연산자 및 순방향 연산자 $A_0$(즉, $A$의 수반 연산자)로부터 구성된 유한 차원 상관 행렬($C_{11}, C_{12}, C_{22}$)을 사용하여 계산된다.
   • 이러한 행렬 성분들은 테스트 함수와 공분산 커널을 포함하는 적분이다. 본 논문은 이러한 적분들이 $X$의 어떠한 기저 표현에도 의존하지 않는 수치 적분 규칙(numerical quadrature rules)을 통해 근사될 수 있음을 강조한다.

4. 사례 연구: X선 단층 촬영(X-ray Tomography):

   • 프레임워크는 X선 단층 촬영(평행 빔 및 팬 빔 모두)에 적용된다.
   • 순방향 연산자 $A_0$는 테스트 함수를 검출기 화면상의 "릿지 함수(ridge functions)"(광선에 따라 일정한 함수)로 매핑한다.
   • 저자들은 필요한 행렬 성분(예: $C_{22}$ 및 $C_{12}$)이 사전 공분산 커널에 대한 릿지 함수들의 적분으로 계산될 수 있음을 보여준다.
   • 특정 경우(예: 백색 잡음 사전 분포 및 특성 함수 근사)에는 이러한 적분이 문제의 기하학적 교차 면적으로 환원되어, 미지의 대상에 대한 픽셀 격자를 명시적으로 정의하지 않고도 표준 단층 촬영 행렬 성분을 회복한다.

주요 기여 및 결과

• 이산화가 필요 없는 정식화: 본 논문은 가우시안 선형 역문제에 대해 미지의 대상에 대한 이산화가 수치적 처리를 위한 필수 단계가 아님을 입증한다. 요구되는 유일한 근사는 적분에 대한 수치 적분이며, 이는 $X$의 사전 선택된 기저에 의존하지 않는다.
• 사후 분포의 유연성: 주요 결과(정리 2.5)는 사후 평균 및 공분산 연산자가 미지를 탐사하는 데 사용되는 특정 테스트 함수와 독립적임을 보여준다. 분포 공간에서 역문제가 해결되면, 사후 평균이나 공분산을 재계산하거나 전체 분석을 다시 실행하지 않고도 임의의 유한한 테스트 함수 집합 $\Phi$를 선택하여 세부 사항(예: 특정 관심 영역)을 추출할 수 있다.
• 이산화 모델과의 일관성: 제안된 접근법과 전통적인 이산화 모델 간의 관계를 분석한다. 표준 픽셀 기반 근사는 제안된 이산화 없는 적분에 적용된 특정 수치 적분 규칙으로 볼 수 있음을 보여준다. 이러한 근사의 오차는 픽셀 수가 증가함에 따라 0으로 수렴함을 보인다.
• 행렬 불일치 문제 해결: 전통적인 이산화 단층 촬영에서는 순방향 행렬과 수반 행렬이 서로 전치 관계가 아닌 경우가 있다. 제안된 프레임워크에서는 관련 행렬($C_{22}$)이 자동으로 대칭이며 양의 정부호(positive definite)가 되며, "단층 촬영 행렬"은 오직 교차 상관 항에만 나타나므로 불일치 문제가 무효화된다.

의의 및 주장
저자들은 본 연구가 무한 차원 베이지안 분석의 이론적 우아함과 실질적인 유한 차원 계산의 필요성 사이의 간극을 메운다고 주장한다. 분포 공간으로 문제를 프레이밍함으로써, 이 접근법은 다음과 같은 이점을 제공한다:

1. 표준 이산화에서 발생하는 "기저 선택" 오차와 절단 아티팩트를 피한다.
2. 미지의 대상에 대한 "한계 제거 없는(marginalization-free)" 질의를 허용하여, 전체 솔루션을 재계산하거나 무관한 변수를 적분하여 제거하지 않고도 특정 공간적 세부 사항을 추출할 수 있게 한다.
3. 임의의 픽셀화가 아닌 문제의 기하학적 구조로부터 자연스럽게 발생하는 일관된 단층 촬영 행렬 정의를 제공한다.

본 논문은 개념적 초점에 집중하며, 비록 이 프레임워크가 수치적으로 적용 가능한 공식(수치 적분을 통해)을 제공하지만, 상세한 수치적 예시와 계산 효율성에 대한 비교는 향후 연구 과제로 남겨두었음을 명시한다. 또한, 현재의 정식화는 매끄러운 함수를 매끄러운 함수로 매핑하는 매끄러운 연산자를 가정하고 있으며, 비매끄러운 연산자에 대한 일반화는 부록 및 향후 연구로 미루어 두었다고 언급한다.