Self-Supervised Conformal Prediction with Equivariant Bootstrapping for Image Uncertainty Quantification

기술적 요약: 이미지 불확실성 정량화를 위한 등변 부트스트래핑을 활용한 자기지도식 컨포멀 예측

문제 제기
$x^\star = Ax^\star + \epsilon$로 정의된 노이즈가 포함된 관측치 $y$로부터 근본적인 신호 $x^\star$를 복원하는 역영상 문제는 천문학 및 의료 진단과 같은 과학 분야에서 광범위하게 존재합니다. 이러한 문제들은 종종 잘 정의되지 않아 여러 가지 타당한 해와 상당한 재구성 불확실성을 초래합니다. 신뢰할 수 있는 과학적 분석을 위해 정확한 불확실성 정량화 (UQ) 가 필수적이지만, 기존 방법들은 두 가지 주요 한계에 직면해 있습니다:

1. 정확성 보장 부재: 많은 휴리스틱 UQ 방법들은 통계적 엄밀성이 부족합니다.
2. 정답 데이터 의존성: 컨포멀 예측과 같은 통계적으로 엄밀한 방법들은 보정을 위해 교환 가능한 정답 데이터를 필요로 합니다. 많은 분야 (예: 우주론) 에서는 정답 데이터를 구할 수 없거나, 시뮬레이션하는 데 비용이 많이 들거나, 실제 관측치에 비해 분포 변화가 발생하기 쉽습니다. 시뮬레이션된 보정 데이터에 의존하면 하류 과학적 추론에 숨겨진 편향이 도입될 수 있습니다.

방법론
저자들은 **Stein 의 편향 없는 위험 추정기 (SURE)**를 통해 보정된 **위험 제어 예측 집합 (RCPS)**과 **등변 부트스트래핑 (Equivariant Bootstrapping)**을 결합한 완전 자기지도식 UQ 프레임워크를 제안합니다. 방법론은 다음과 같이 진행됩니다:

1. 등변 부트스트래핑:

   • 단일 점 추정치로부터 부트스트래핑할 때 편향이 발생하는 표준 매개변수 부트스트래핑 대신, 이 방법은 영상 작업의 대칭성을 활용합니다.
   • 신호 공간을 불변하게 유지하지만 전방 연산자 $A$나 재구성 방법과는 교환 법칙을 따르지 않는 일련의 가역 변환 $\mathcal{G}$ (예: 회전, 반전, 순환 이동) 를 사용합니다.
   • 부트스트랩 관측치는 추정치 $\hat{x}(y)$에 무작위 변환 $T_{g_i} \in \mathcal{G}$를 적용한 후 노이즈 모델을 통과시키고 변환을 역으로 적용하여 생성됩니다. 이는 정답 데이터 없이도 재구성 변이성을 반영하는 부트스트랩 샘플 집합 $\{\tilde{x}_i\}$의 분포를 생성합니다.

2. 자기지도식 보정 (SURE 를 활용한 RCPS):

   • 휴리스틱 부트스트랩 영역을 보장된 커버리지를 가진 통계적으로 엄밀한 신뢰 집합으로 변환하기 위해 프레임워크는 RCPS 를 사용합니다.
   • 과제: RCPS 는 위험 (오류율) 을 추정하기 위해 보정 데이터셋이 필요합니다. 정답 데이터가 없으므로 저자들은 실제 비동일성 점수 $s(x^\star, \hat{x})$를 **Stein 의 편향 없는 위험 추정기 (SURE)**에서 유도된 편향 없는 추정치로 대체합니다.
   • 비동일성 점수: 점수는 측정 공간에서 $s_{A^\top A}(x^\star, \hat{x}(y)) = \frac{1}{m}\|Ax^\star - A\hat{x}(y)\|_2^2$로 정의됩니다.
   • SURE 추정: SURE 공식은 관측치 $y$와 재구성 연산자 $\hat{x}(y)$만을 사용하여 이 점수의 편향 없는 추정을 제공합니다:
     $$\text{SURE}(y) = \frac{1}{m}\|y - A\hat{x}(y)\|_2^2 - \text{tr}(\Sigma) + \frac{2}{m}\text{tr}\left(\Sigma \frac{\partial}{\partial y} A\hat{x}(y)\right)$$
   • 보정: 예측 집합 $C_{\lambda; \alpha}$가 위험 제약 조건 $P(R(C) \le \alpha) \ge 1 - \delta$를 만족하도록 하기 위해 루트 찾기 알고리즘을 통해 스케일링 인자 $\lambda$가 결정되며, 여기서 위험은 SURE 값을 사용하여 경험적으로 추정됩니다.

주요 기여

• 자기지도식 UQ 프레임워크: 이 논문은 정답 보정 데이터 없이 통계적으로 엄밀한 이미지별 불확실성 정량화를 생성하는 방법을 소개함으로써, 보정 집합과 관측 집합 간의 분포 이동 편향을 제거합니다.
• 등변 부트스트래핑과 RCPS 의 통합: 이 연구는 SURE 로 정제된 RCPS 의 통계적 보장과 방법론에 구애받지 않는 등변 부트스트래핑의 불확실성 생성 능력을 결합합니다.
• 약한 렌즈 질량 매핑 적용: 이 프레임워크는 은하 전단 측정으로부터 암흑 물질 수렴 장을 재구성하는 우주론적 역문제에 시연되었습니다. 이 응용 분야는 기존 방법들이 종종 특정 우주론적 모델에 묶인 시뮬레이션 데이터에 의존하기 때문에 보정 편향에 특히 민감합니다.
• 방법론 중립성: UQ 프레임워크는 사용된 특정 재구성 알고리즘 (예: Kaiser-Squires, 딥러닝, 웨이블릿 희소성) 에 독립적이며, 사후 보정 계층으로 작용합니다.

실험 결과
이 방법은 300$\times$300 픽셀 모의 COSMOS 탐사 수렴 맵을 사용한 약한 중력 렌즈 질량 매핑 작업에서 평가되었습니다.

• 설정: 재구성은 Kaiser-Squires 방법을 사용하여 수행되었습니다. 등변 부트스트래핑은 기하학적 변환과 주파수 쉘링 필터를 사용하여 이미지당 100 개의 샘플을 생성했습니다.
• 보정: RCPS 는 보정에 SURE 를 사용하여 목표 오류율 $\delta = 0.1$로 적용되었습니다.
• 성능: 컨포멀화된 예측 집합은 다양한 신뢰 수준에서 이상적인 커버리지 대각선을 밀접하게 추적했습니다.
• 비교: 자기지도식 컨포멀화된 접근법은 컨포멀화되지 않은 등변 부트스트래핑 및 매개변수 부트스트래핑보다 현저히 우수한 성능을 보였습니다. 매개변수 부트스트래핑은 커버리지가 미미하여 적절한 재구성 변이성을 포착하지 못했습니다.

의의 및 주장
저자들은 이 프레임워크가 정답에 접근할 수 없는 역영상 작업에서 UQ 를 위한 강력한 해결책을 제공한다고 주장합니다. 시뮬레이션된 보정 데이터를 피함으로써, 이 방법은 우주론적 매개수 추정과 같은 하류 과학적 추론을 훼손할 수 있는 숨겨진 편향을 도입하는 것을 방지합니다. 이 접근법은 정확성 보장이 부족하거나 잠재적으로 편향된 시뮬레이션 데이터셋에 의존하는 기존 방법들에 대한 통계적으로 엄밀한 대안을 제공합니다.

한계
이 논문은 몇 가지 한계를 인정합니다:

• 교환 가능성 가정: 보정 단계는 동일한 분포에서 추출된 여러 관측치에 대한 접근을 가정합니다. 실제 세계의 질량 매핑에서는 종종 단일 대규모 천구 관측이 사용되며, 이를 통해 교환 가능한 에뮬레이션을 생성하는 것이 이 가정을 완벽하게 충족시키지 못할 수 있습니다.
• 널 공간 무감각성: SURE 기반 점수는 전방 연산자 $A$의 널 공간 내 오류에 무감각합니다. 이는 질량 매핑 (여기서 $A$는 거의 풀랭크임) 에서는 덜 중요하지만, 심각하게 랭크 결손이 있는 역문제에서는 과소평가된 불확실성으로 이어질 수 있습니다.
• 세분화: 현재 프레임워크는 픽셀별 불확실성 추정 (지도식 접근법에서 일반적) 이 아닌 이미지 수준 (MSE) 에서 불확실성을 정량화합니다.
• 계산 비용: 수많은 부트스트랩 샘플을 생성하려면 효율적인 재구성 알고리즘이 필요합니다.