Diffusion Graph Posterior Sampling for Nonlinear Inverse Problems with Application to Electrical Impedance Tomography

기술 요약: 전기 임피던스 단층촬영 적용을 위한 비선형 역문제에 대한 확산 사후 표본 추출

문제 제기
부분 미분 방정식 (PDE) 에 의해 지배되는 전기 임피던스 단층촬영 (EIT) 과 같은 영상 역문제는 심각한 비제정성 (ill-posedness) 과 비선형성을 특징으로 합니다. 전통적인 변분법은 수동으로 설계된 정규화에 의존하는데, 이는 실제 데이터 분포의 복잡하고 고차원적인 특징을 포착하는 데 종종 실패합니다. 반면, 데이터 기반의 딥러닝 접근법은 "환각" (물리적으로 부정확하지만 시각적으로 그럴듯한 출력) 을 도입할 위험이 있으며, 일반적으로 특정 작업을 위한 지도 학습을 필요로 합니다.

EIT 에서의 중요한 구조적 과제는 물리적 영역이 규칙적인 격자가 아닌 비정형 삼각 메쉬 (유한 요소 메쉬) 로 자연스럽게 이산화된다는 점입니다. 픽셀 격자를 위해 설계된 표준 합성곱 아키텍처는 이러한 설정에 최적이지 않습니다. 유한 요소량을 규칙적인 격자로 보간하는 것은 기하학적 부정확성을 초래하며, 전방향 PDE 솔버와 일관되지 않은 아티팩트를 유발합니다. 확산 사후 표본 추출 (DPS) 이 역문제에 유망한 것으로 입증되었지만, 기존 프레임워크는 주로 격자 기반이며 비정형 메쉬 데이터에 대한 네이티브 접근법이 부족합니다.

방법론
저자들은 **정규화된 확산 사후 표본 추출 (RDPS)**이라는 새로운 프레임워크를 제안하며, 이는 DPS 를 비정형 메쉬와 같은 그래프 구조 데이터에서 네이티브로 작동하도록 확장합니다. 방법론은 세 가지 핵심 구성 요소로 이루어집니다:

1. 그래프 기반 무조건부 스코어 네트워크:
   합성곱 신경망 (CNN) 대신, 저자들은 계층적 U-Net 아키텍처 (DGN$\theta$) 기반의 멀티스케일 그래프 신경망 (GNN) 을 사용합니다. 이 네트워크는 영역 이산화에 사용되는 2D 삼각 유한 요소 메쉬에 직접 훈련됩니다. 이 네트워크는 격자 보간 없이 전도도 (conductivity) 와 같은 물리적 해 공간의 사전 분포를 모델링하기 위한 무조건부 스코어 함수 $\nabla_{x_t} \log p_t(x_t)$를 학습합니다.

2. 정규화된 확산 사후 표본 추출 (RDPS):
   측정 데이터만으로는 전도도 분포를 고유하게 결정하기에 불충분한 EIT 의 심각한 비제정성을 해결하기 위해, 저자들은 표본 추출 과정에 명시적 정규화 항 $R(x)$를 도입합니다.

   • 베이즈 공식화: 이 방법은 가이드된 목표 사후 확률 $\tilde{p}(x|y) \propto p(y|x)p(x)p_R(x)$를 정의하며, 여기서 $p_R(x) \propto \exp(-\lambda R(x))$는 추가적인 사전 분포로 작용합니다.
   • 표본 추출 알고리즘: 역방향 확산 과정은 그라디언트 기반 가이드 단계를 포함하도록 수정됩니다. 각 시간 단계에서 업데이트는 학습된 확산 사전 분포, 데이터 가능도 (전방향 연산자 $F$를 통해), 그리고 명시적 정규화기에서 유래한 세 가지 소스의 그라디언트를 통합합니다.
   • 정규화기: 이 프레임워크는 날카로운 인터페이스를 보존하기 위한 총변분 (TV), 공간적 부드러움을 위한 일반화 티호노프 (Tikhonov), 그리고 표준 티호노프와 같은 모듈식 정규화 항을 지원합니다.
   • 적응형 단계 크기: 현재 잔차에 기반하여 가이드 보정을 정규화하여, 특히 고잡음 영역에서 역방향 확산 궤적 중 안정성을 보장하기 위해 적응형 단계 크기 $\eta_t$가 사용됩니다.

3. 물리 기반 가이드:
   전방향 연산자 $F$(완전 전극 모델을 통한 EIT 측정 과정을 모델링) 는 표본 추출 루프에 직접 통합됩니다. 알고리즘은 Tweedie 추정기를 사용하여 깨끗한 신호 $\hat{x}_0(x_t)$를 근사하고, 잡음이 섞인 상태 $x_t$에 대한 데이터 충실도 항의 그라디언트를 계산합니다.

주요 기여

1. 네이티브 메쉬 처리: 비정형 메쉬와 규칙적 격자 간의 보간 필요성을 제거하는 2D 삼각 메쉬에서 직접 작동하는 무조건부 확산 모델의 개발.
2. RDPS 프레임워크: 암시적 확산 사전 분포와 명시적 정규화 (TV, 티호노프) 를 결합하여 심하게 비제정적인 비선형 역문제를 안정화시키는 DPS 의 정규화된 변형 도입.
3. 종합적 검증: 잡음에 대한 방법의 강건성, 분포 외 기하학에 대한 일반화 능력, 그리고 최첨단 베이스라인 대비 우수한 성능을 보여주는 합성 및 실제 2D EIT 데이터셋에 대한 광범위한 실험.

실험 결과
저자들은 제안된 DDIM-RDPS(결정론적 DDIM 샘플러 사용) 를 여러 베이스라인과 비교 평가했습니다:

• 베이스라인: 정규화된 가우스 - 뉴턴 (RGN-TV), 무작위화 후 최적화 메트로폴리스 - 헤이스팅스 (RTO-MH), 생성형 플러그 앤 플레이 (GPnP-BM3D), 그리고 딥 사후 표본 추출 (DP-SGS).
• 데이터셋: 다양한 포함물 모양 (원, 삼각형, 덩어리, 말발굽) 을 가진 합성 데이터셋과 실제 2D EIT 데이터셋.
• 성능 지표: 평균 제곱 오차 (MSE), 상대 L2 오차, 그리고 구조적 유사성 지수 (SSIM).

결과:

• 정확도: RDPS 는 재구성 정확도 (낮은 RMSE/RelErr) 와 구조적 유사성 (높은 SSIM) 에서 모든 베이스라인을 일관되게 능가했습니다. 특히 다른 방법들이 흐릿한 가장자리나 과도하게 단순화된 기하학을 생성하는 곳에서 날카로운 경계와 기하학적 모양 (예: 삼각형 포함물) 을 보존하는 데 특히 효과적이었습니다.
• 강건성: 이 방법은 가산 가우시안 및 라플라시안 잡음 모두에 대해 높은 강건성을 보여주었습니다. 적응형 정규화 전략은 계산 비용이 많이 드는 격자 탐색 매개변수 튜닝 없이도 모델이 성능을 유지하도록 허용했습니다.
• 일반화: 이 모델은 분포 외 포함물 기하학 (예: 원으로 훈련하고 말발굽으로 테스트) 에 잘 일반화되었으며, 재훈련 없이 실제 실험 데이터로부터 전도도 분포를 성공적으로 재구성했습니다.
• 애블레이션: 정규화 선택 중 총변분 (TV) 이 전도도 포함물의 조각별 상수 (piecewise-constant) 특성과 일치하여 EIT 에 대해 가장 좋은 결과를 제공했습니다.

의의 및 주장
이 논문은 RDPS 가 생성 모델의 통계적 힘과 물리적 무결성을 통합함으로써 비선형 PDE 제약 역문제를 해결하는 데 있어 중요한 진전을 나타낸다고 주장합니다. 유한 요소 메쉬에서 네이티브로 작동함으로써, 이 방법은 격자 기반 접근법 내재적인 기하학적 부정확성을 피합니다. 확산 표본 추출 과정 내 명시적 정규화의 통합은 EIT 의 심각한 비제정성을 효과적으로 완화하여, 근본적인 물리학에 충실한 안정적이고 물리적으로 그럴듯한 재구성을 생성합니다. 저자들은 이 작업을 비지도 생성 모델링과 엄격한 물리 기반 역문제 해결 사이의 가교로 위치시키며, 작업별 지도 학습이 필요하지 않은 유연한 프레임워크를 제공합니다.