Nonlinear RMM-GKS for Large-Scale Dynamic and Streaming Inverse Problems with Uncertain Forward Operators

기술 요약: 대규모 동적 및 스트리밍 역문제에 대한 비선형 RMM-GKS

문제 정의
컴퓨터 단층촬영 (CT) 및 광음향 단층촬영 (PAT) 을 포함한 많은 실용적 영상 시스템은 불완전하게 보정된 투사 각도나 센서 위치와 같은 획득 기하학의 불확실성으로 고통받습니다. 이러한 불확실성은 전방 연산자 $H(p)$를 미지의 매개변수 $p$에 의존하게 만들어, 영상 복원 작업을 비선형 역문제로 변환합니다. 목표는 정규화된 최소제곱 목적 함수를 최소화함으로써 영상 $u$와 기하학적 매개변수 $p$를 공동 추정하는 것입니다:
$$\min_{u, p} \frac{1}{2}\|H(p)u - b\|_2^2 + \lambda\|\Psi u\|_1$$
여기서 $\Psi$는 정규화 연산자이며 (일반적으로 총변동 (total variation) 을 통해 에지 보존을 촉진함) 입니다. 표준 선형 접근법은 여기서 실패하며, 기존 비선형 방법들은 종종 확장성, 메모리 제약, 또는 초기화 민감성 문제로 어려움을 겪습니다. furthermore, 동적 영상 시나리오는 시간적 변화를 도입하여, 시간에 따라 변하는 영상과 잠재적으로 시간 불변인 기하학적 매개변수의 공동 추정을 요구합니다.

방법론
저자들은 비선형 재사용 대주최 - 최소화 일반화 크릴로프 부분공간 (NL-RMM-GKS) 프레임워크를 제안합니다. 이 방법은 대규모 문제에서 유한한 메모리 사용량을 유지하면서 $p$로 인해 도입된 비선형성을 처리하도록 선형 RMM-GKS 접근법을 확장합니다.

이 프레임워크는 공동 최적화 문제를 해결하기 위한 두 가지 상호 보완적인 형식에 기반합니다:

1. 교대 최소화 (AltMin): 이 접근법은 문제를 분리하여 다음을 번갈아 수행합니다:
   • 영상 업데이트: 고정된 $p$로 RMM-GKS 알고리즘을 사용하여 $u$를 해결합니다. 여기에는 nonsmooth $\ell_1$ 페널티에 대한 2 차 대주함수 (quadratic majorant) 를 구성하고 재사용된 크릴로프 부분공간에 투영하는 작업이 포함됩니다.
   • 매개변수 업데이트: 고정된 $u$로 백트래킹 라인 검색을 적용한 감쇠 가우스 - 뉴턴 반복을 사용하여 $p$를 해결합니다.
2. 변수 투사 (VarPro): 이 접근법은 대주된 부분문제를 암시적으로 해결함으로써 영상 변수 $u$를 분석적으로 제거하여, 공동 문제를 $p$에 대한 최적화 문제로 축소합니다. 축소된 목적 함수는 가우스 - 뉴턴 단계를 사용하여 최적화됩니다.

주요 기술 구성 요소:

• 재사용 전략: 부분공간 차원이 무한히 증가하는 표준 크릴로프 방법의 메모리 병목 현상을 해결하기 위해, 저자들은 "확대 - 압축" 사이클을 사용합니다. 크릴로프 부분공간은 최대 차원 ($k_{max}$) 까지 확장된 후, 가장 정보량이 많은 탐색 방향만 유지하며 잘라낸 SVD 를 사용하여 최소 차원 ($k_{min}$) 으로 다시 압축됩니다. 이는 반복 횟수에 관계없이 유한한 메모리 사용량을 보장합니다.
• 고정규화 안정화: 영상 추정치에서 불충분한 정규화로 인해 매개변수 업데이트가 나쁜 국소 최소값으로 끌려가는 것을 방지하기 위해, 큰 정규화 매개변수를 가진 선택적 2 차 해결이 수행됩니다. 이는 영상 복원을 위한 주해석을 유지하면서 매개변수 업데이트 단계에 더 매끄러운 영상 추정치를 제공합니다.
• 스트리밍 변형 (s-NL-RMM-GKS): 메모리에 맞지 않거나 순차적으로 도착하는 데이터셋의 경우, 이 방법은 데이터를 블록 단위로 처리합니다. 압축된 크릴로프 기저, 영상 추정치, 매개변수 추정치는 블록 간에 계승되어 전체 전방 연산자를 형성하지 않고도 복원이 가능하도록 합니다.
• 시간적 정규화: 동적 문제의 경우, 프레임워크는 두 가지 플러그인 전략을 통합합니다:
  • 이방성 총변동 (ANISO-TV): 공간 기울기와 프레임 간 강도 차이를 패널티로 부과합니다.
  • 광학 흐름 (OF): 프레임 간 속도장을 추정하여 이를 정규화 연산자에 통합함으로써 물리 기반 운동 모델을 강제합니다.

주요 기여

1. 통합 비선형 프레임워크: 본 논문은 불확실한 전방 연산자를 가진 비선형 설정으로 이전 선형 방법들 (MM-GKS, RMM-GKS, s-RMM-GKS, MMGKS-OF) 을 일반화하는 포괄적인 프레임워크인 NL-RMM-GKS 를 제시합니다.
2. 이중 구현: 초기화에 대한 강건성 (AltMin) 과 좋은 초기화 시의 수렴 속도 (VarPro) 사이의 균형을 제공하는 AltMin 과 VarPro 구현의 개발.
3. 비선형 문제에 대한 유한 메모리: 매개변수 업데이트에 따라 전방 연산자가 변함에도 불구하고 메모리 요구 사항이 유한하게 유지되도록 비선형 설정에 재사용 전략을 적응화함.
4. 스트리밍 및 동적 확장: 순차 데이터 처리를 위한 스트리밍 변형의 도입과 동적 영상을 위한 시간적 정규화 전략의 통합.
5. 수렴 분석: 표준 규칙성 가정 하에서 알고리즘이 생성한 시퀀스가 공동 목적 함수의 정상점에 수렴함을 보여주는 이론적 증명.

수치 결과
저자들은 팬빔 CT 와 PAT 에서의 광범위한 수치 실험을 통해 프레임워크를 검증했습니다:

• 정적 복원: 불확실한 투사 각도를 가진 CT 실험에서, 재사용을 적용한 NL-RMM-GKS 는 재사용이 없는 표준 MM-GKS 에 비해 현저히 낮은 복원 오차 (RRE) 를 달성했습니다. 스트리밍 변형 (s-NL-RMM-GKS) 은 데이터 블록 수에 기반하여 메모리/실행 시간과 복원 품질 사이의 조절 가능한 균형을 보여주었습니다.
• 초기화 민감성: 센서 반경 불확실성을 가진 PAT 실험에서, VarPro 는 좋은 초기 추측으로 더 빠르게 수렴했으나 나쁜 초기화 시 진동적 행동과 불안정성을 보였습니다. 반면, AltMin 은 나쁜 초기화에 대해 더 큰 강건성을 보이며 안정적인 수렴을 유지했습니다.
• 동적 영상: 동적 CT(Moving MNIST) 와 PAT(Blocks Phantom) 실험에서 광학 흐름 정규화는 특히 프레임 간 운동이 크거나 많은 블록을 사용한 스트리밍 시 ANISO-TV 보다 일관되게 우수한 성능을 보였습니다. 프레임워크는 영상 시퀀스와 기하학적 매개변수를 모두 성공적으로 복원하여 거친 그리드 검색 초기화만 사용한 기준선들을 능가했습니다.
• 메모리 효율성: 재사용 전략은 메모리 무한 증가를 성공적으로 방지하여, 총 반복 횟수나 데이터셋 크기에 관계없이 피크 메모리 사용량이 일정하게 유지되었습니다.

의의 및 주장
본 논문은 NL-RMM-GKS 가 불확실한 전방 연산자를 가진 대규모 비선형 역문제에 대한 강건하고 확장 가능한 솔루션을 제공한다고 주장합니다. 그 의의는 다음과 같습니다:

• 확장성: 재사용을 통한 메모리 사용량 제한과 스트리밍 처리 가능을 통해 표준 크릴로프 부분공간 방법으로는 해결 불가능한 문제를 해결합니다.
• 공동 추정: 기하학적 불확실성으로 인한 아티팩트를 완화하여 영상 복원과 매개변수 추정을 효과적으로 결합합니다.
• 유연성: 프레임워크는 모듈식이며, 다양한 시간적 정규화 전략을 수용하고 특정 문제 특성 및 초기화 품질에 따라 AltMin 과 VarPro 사이를 선택할 수 있게 합니다.
• 이론적 보장: 많은 휴리스틱 하이브리드 접근법과 달리, 이 방법은 정상점으로의 수렴 보장을 지원합니다.

저자들은 이 방법이 효과적이지만 비볼록 문제의 경우 전역 최소값으로의 전역 수렴은 보장할 수 없으며, 향후 연구는 수렴 속도 확립, 고차원 매개변수 공간으로의 확장, 그리고 실세계 데이터 검증을 집중할 것이라고 언급합니다.