📊 statistics

Latent Diffusion for Missing Data

본 논문은 강건한 VAE 기반의 결측치 대체기와 잠재 공간 확산 모델을 결합한 2 단계 프레임워크를 제안하며, 고도의 결측 데이터 하에서 픽셀 공간 확산에 비해 학습된 잠재 표현으로 생성 모델링을 전환할 때 결측치 대체의 안정성과 품질이 크게 향상됨을 입증합니다.

원저자: Alberte Heering Estad, Ignacio Peis, Jes Frellsen

게시일 2026-05-28

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Alberte Heering Estad, Ignacio Peis, Jes Frellsen

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 사진 앨범이 있다고 상상해 보세요. 하지만 누군가 페이지의 절반에 커피를 쏟아서 중요한 세부 사항들이 흐릿해졌습니다. 당신의 목표는 사진의 누락된 부분이 어떻게 생겼을지 추측하는 것입니다. 이것이 바로 결측 데이터 보정의 문제입니다.

오랫동안 컴퓨터들은 이 문제를 해결하기 위해 이미지의 "픽셀"(이미지를 구성하는 작은 점들) 을 직접 살펴보려고 노력해 왔습니다. 하지만 공유하신 **"Latent Diffusion for Missing Data"**라는 제목의 논문은, 특히 사진이 심하게 손상된 경우 이를 해결할 더 현명한 방법이 있다고 주장합니다.

이들이 발견한 이야기의 핵심을 간단히 설명해 드리겠습니다.

문제: 픽셀 하나하나씩 흐릿한 사진을 수리하려는 시도

연구자들은 기존 방법들 ( Pixel-Space Diffusion이라고 함) 을 살펴보았습니다. 마치 손상된 그림을 수리할 때 페인트 한 점 한 점을 개별적으로 살펴보는 상황을 상상해 보세요. 만약 그림의 50% 가 커피로 덮여 있다면, 컴퓨터는 혼란에 빠집니다. 컴퓨터는 많은 "0" 값 (커피 자국) 을 보고 이를 바탕으로 색상을 추측하려 합니다. 손상이 심해질수록 컴퓨터는 환각을 보기 시작합니다. 이미지가 거칠고, 노이즈가 많으며, 신호가 나쁜 구형 TV 의 정적처럼 가득 차게 되는 것입니다.

해결책: "스케치 먼저" 접근법 (Latent Diffusion)

저자 Alberte Heering, Ignacio Peis, Jes Frellsen 은 LDMiss라는 새로운 방법을 제안했습니다. 그들은 컴퓨터가 페인트 한 점 한 점을 보는 대신, 먼저 이미지의 "요지"나 "스케치"를 학습하도록 합니다.

이렇게 생각해 보세요:

인코더 (예술가의 스케치): 먼저 컴퓨터는 지저분하고 커피 자국이 묻은 사진을 단순화된 저해상도 스케치로 압축합니다. 작은 세부 사항은 무시하고 큰 형태 ("이것은 코다", "이것은 눈이다") 에 집중합니다.
확산 (복원): 컴퓨터는 이제 원래 사진이 아니라 이 스케치의 누락된 부분을 수리하려고 합니다. 스케치는 더 단순하고 깨끗하기 때문에, 종이 절반이 얼룩져 있더라도 누락된 선이 어떻게 생겼을지 추측하기 훨씬 쉽습니다.
디코더 (최종 그림): 스케치가 수리되면, 컴퓨터는 이를 다시 풀어서 완전한 고품질 사진으로 확장합니다.

실험: 커피 자국과의 경주

이 팀은 유명한 MNIST 데이터셋(0, 1, 2 등의 손글씨 숫자 수천 개로 구성됨) 에서 이 방법을 테스트했습니다. 그들은 무작위로 픽셀을 검게 만들어 (커피 자국처럼) 10%, 30%, 50%, 그리고 심지어 80% 까지 결측되는 다양한 비율로 "결측 데이터"를 시뮬레이션했습니다.

그들은 그들의 "스케치 먼저" 방법 (LDMiss) 을 기존의 "픽셀 하나하나씩" 방법 (DDPM) 과 몇몇 다른 경쟁자들과 비교했습니다.

결과: 누가 경주를 이겼을까?

기존 방법 (Pixel-Space): 손상이 경미할 때 (10% 결측) 는 그럭저럭 잘 작동했습니다. 하지만 손상이 20~30% 에 달하자마자 이미지들이 정적 노이즈처럼 보이기 시작했습니다. 50% 가 결측되면 결과는 끔찍했습니다. 커피 자국을 응시하며 그림을 수리하려는 것과 같아서, 컴퓨터는 압도당하고 말았습니다.
새로운 방법 (LDMiss): 이 방법은 침착함을 유지했습니다. 데이터의 50% 가 결측되었을 때조차 생성된 숫자들은 선명하고 뚜렷하게 보였습니다. 손상이 극심할 때 (60~80%) 에만 약간 흐릿해지기 시작했습니다.
"채우기" 테스트: 이 모델들을 실제로 사진의 누락된 부분을 채우는 데 사용했을 때, LDMiss 는 일관되게 더 좋았습니다. 단순히 보기만 좋은 것이 아니라, 다른 방법들보다 누락된 숫자를 더 정확하게 추측했습니다.

왜 이것이 작동할까요?

이 논문은 "스케치 먼저" 접근 방식이 필터 역할을 한다고 제안합니다. 원시 픽셀을 볼 때, 결측된 점은 단순히 혼란스러운 검은 사각형일 뿐입니다. 하지만 "잠재 (latent)" 즉, "스케치" 버전을 볼 때 컴퓨터는 이미지의 의미를 이해합니다. "이것은 '3'이니까, 윗쪽 고리가 비어있더라도 둥글어야 한다는 것을 안다"고 인식하는 것입니다. 이는 결측 데이터로 인한 "0" 오류가 증폭되는 것을 방지합니다.

결론

이 논문은 불완전한 데이터를 수리하려 할 때 원시 픽셀을 응시하지 말 것이라고 결론 내립니다. 대신, 컴퓨터에게 데이터의 근본적인 "분위기"나 "구조"를 먼저 이해시킨 다음, 그 자리에서 수리 작업을 하도록 가르쳐야 합니다.

이 논문이 말하지 않는 것:

그들은 아직 의료 기록, 주식 시장, 기후 데이터에 대해 이 방법을 테스트하지 않았습니다.
그들은 이것이 "무작위성이 아닌 결측 (Missing Not At Random, 결측 데이터가 값 자체와 관련 있는 경우, 예를 들어 연구에서 탈락한 아픈 사람들)"에 대해 작동한다고 주장하지 않았습니다. 그들은 오직 "완전 무작위 결측 (Missing Completely At Random, 순수한 무작위 커피 쏟음)"만 테스트했습니다.
그들은 복잡한 고양이 사진이나 자동차 사진이 아닌 손글씨 숫자 (MNIST) 만 테스트했습니다.

요약하자면: LDMiss 는 작은 손상된 세부 사항에 빠지는 대신 큰 그림에 집중하기 때문에 퍼즐의 누락된 조각을 추측하는 더 견고한 방법입니다.

기술 요약: 결측 데이터를 위한 잠재 확산 모델

문제 제기
실제 세계의 데이터셋은 임상 연구에서의 추적 손실이나 불완전한 문서화 등의 요인으로 인해 빈번히 결측값을 포함합니다. 확률적 생성 모델 (VAE, GAN, Flows) 과 최근의 확산 모델이 결측치 보정에 유망한 성과를 보였음에도 불구하고, 기존 확산 기반 방법들은 주로 데이터 (픽셀) 공간에서 직접 작동합니다. 훈련 데이터가 심하게 불완전한 상황에서 표현 공간 (픽셀 대 잠재) 의 선택이 생성 품질과 보정 성능에 미치는 영향을 이해하는 데에는 중요한 격차가 존재합니다. 구체적으로, 픽셀 공간에서 작동하는 방식이 완전 무작위 결측 (MCAR) 왜곡이 높은 비율로 발생할 때 저하되는지 여부는 명확하지 않으며, 이 경우 결측값의 0 보정은 스코어 추정을 방해하는 아티팩트를 도입할 수 있습니다.

방법론
저자들은 결측 데이터에 대한 강인성을 향상시키기 위해 확산 과정을 픽셀 공간에서 학습된 잠재 표현으로 전환하는 2 단계 프레임워크인 LDMiss를 제안합니다.

잠재 공간 학습 (1 단계): 불완전한 관측치에 대해 강인한 변이형 오토인코더 (VAE) 를 훈련합니다. 저자들은 결측 항목을 0 으로 보정한 $\beta$ -VAE 아키텍처를 활용합니다. 재구성 손실은 관측된 차원에 대해서만 계산되며, KL 발산은 고정밀 재구성을 보장하기 위해 작은 $\beta$ ( $10^{-6}$ ) 로 가중치가 부여됩니다. 이 단계는 불완전한 데이터로부터 압축된 의미론적 특징 공간 ( $z = E(x)$ ) 을 학습합니다.
잠재 확산 (2 단계): 확산 모델은 원시 픽셀 $x$ 가 아닌 잠재 표현 $z$ 에 대해 훈련됩니다. 순방향 과정은 분산 보존 (VP) 확률 미분 방정식 (SDE) 을 따르며, 역방향 과정은 잠재 변수에 맞게 적응된 노이즈 제거 스코어 매칭 목적 함수를 사용하여 최적화된 시간 의존적 신경망 $s_\theta$ 를 통해 학습됩니다.
보정 전략 (자기 유도): 하류 보정을 위해 저자들은 "자기 유도" 방법을 사용합니다. 압축된 잠재 공간에는 "결측 차원"이라는 개념이 존재하지 않으므로, 생성 과정은 관측된 픽셀 데이터에 조건부 설정됩니다. 조건부 스코어는 베이즈 정리를 사용하여 근사화되며, 무조건부 스코어와 트위디 (Tweedie) 공식에서 유도된 유도 항으로 분해됩니다. 모델은 잠재 사후 평균 추정치를 픽셀 공간으로 디코딩하여 기울기를 계산함으로써, 자신의 예측 능력을 활용하여 샘플링 과정을 효과적으로 유도합니다.

실험 설정
이 연구는 다양한 결측률 (최대 80%) 에서 MCAR 왜곡 하의 MNIST 데이터셋에 대해 통제된 비교를 수행합니다. 제안된 LDMiss 는 다음과 같은 기준과 비교 평가됩니다:

픽셀 공간 DDPM: MissDiff 접근법 (마스크된 손실을 사용한 0 보정) 과 DiffPuter EM 기반 반복 알고리즘을 사용하여 훈련된 모델.
보정 기준선: 오토인코더 재구성과 교체 또는 유도 전략을 적용한 DDPM.

주요 결과

샘플 품질: LDMiss 는 FID 와 IS 로 측정된 높은 샘플 품질을 유지하며 50% 까지 결측이 발생해도 안정적입니다. 반면, 픽셀 공간 DDPM 은 결측률이 증가함에 따라 점진적으로 저하되며, 0 보정된 값을 직접 처리함으로써 10% 이상의 결측률에서 "거친" 질감을 보입니다. DiffPuter 는 낮음에서 중간 수준의 결측률에서는 잘 작동하지만 60~80% 결측률에서는 다양성과 충실도를 상실합니다.
보정 성능: LDMiss 는 모든 훈련 결측률에서 일관되게 우수한 보정 성능 (MSE, FID, IS) 을 달성합니다. 80% 결측 데이터로 훈련되더라도 강인성을 유지합니다. 픽셀 공간 DDPM 은 스코어 네트워크가 저하된 추정에 의존하기 때문에 훈련 결측률이 증가함에 따라 성능이 저하됩니다.
안정성: LDMiss 는 픽셀 공간 대안들에 비해 랜덤 시드 간 분산이 낮아 더 일관된 성능을 나타냅니다.

의의 및 주장
본 논문은 잠재 공간 모델링이 불완전한 데이터로 훈련된 픽셀 공간 확산 모델의 주요 실패 모드인 0 보정 입력으로 인한 아티팩트의 증폭을 완화한다고 주장합니다. 확산 과정 전에 데이터를 의미론적 특징으로 압축함으로써, 모델은 불완전 데이터 학습을 위한 더 강인한 생성적 사전 지식을 학습합니다.

저자들은 LDMiss 가 결측 데이터 문제에 대한 픽셀 공간 확산의 강력하고 실용적인 대안이라고 결론지었습니다. 다만, 현재 발견된 결과는 0 보정과 MCAR 가정 하의 MNIST 데이터셋으로 제한되며, 관찰된 성능 격차에는 아키텍처 차이도 기여할 수 있음을 지적합니다. 향후 연구에서는 더 복잡한 데이터셋, 다른 결측 메커니즘 (MAR/MNAR), 그리고 대체 보정 함수에서 이러한 이점을 검증할 것을 제안합니다.