Diffusion Mental Averages

1. 문제 정의 (Problem)

기존의 생성 모델 (특히 Diffusion 모델) 은 동일한 프롬프트로 수천 개의 다양한 이미지를 생성할 수 있지만, 모델이 특정 개념에 대해 가지는 "정신적 평균 (Mental Average)" 즉, 가장 전형적이고 대표성이 있는 단일 이미지를 시각화하는 방법은 부재했습니다.

기존의 접근 방식들은 다음과 같은 한계가 있었습니다:

• 픽셀 평균 (Pixel Averaging): 공간적으로 정렬된 이미지들의 픽셀을 평균내면, 세부 사항이 모호해지고 (blurry) 비현실적인 결과가 나옵니다. 특히 얼굴이나 동물처럼 정렬이 쉬운 영역을 제외하고는 적용하기 어렵습니다.
• 샘플 선택 (Sample Selection): 기존 데이터셋에서 대표적인 이미지를 선택하는 방식은 데이터셋의 편향을 그대로 반영하며, 생성된 이미지의 다양성을 포괄하지 못합니다.
• 데이터 증류 (Data Distillation): 하류 작업 (downstream tasks) 을 위해 최적화된 프로토타입을 생성하지만, 개념의 본질을 요약하거나 모델의 내재된 편향을 분석하는 데는 적합하지 않으며, 생성된 이미지가 비자연스럽거나 일관성이 떨어지는 경우가 많습니다.
• Diffusion 모델의 특성: Diffusion 모델은 명시적인 잠재 공간 (semantic bottleneck) 이나 디코더가 없어, 특징 공간에서 평균을 내어 다시 이미지를 복원하는 것이 어렵습니다.

2. 방법론 (Methodology)

저자들은 Diffusion Mental Averages (DMA) 를 제안하며, 이를 궤적 정렬 (Trajectory Alignment) 문제로 재정의했습니다.

핵심 아이디어: 궤적 정렬 (Trajectory Alignment)

단순히 생성된 이미지를 평균내는 것이 아니라, 여러 노이즈 잠재 벡터 (noise latents) 의 탈노이즈 (denoising) 궤적을 모델의 의미 공간 내에서 정렬하여 하나의 공통된 의미적 합의 (semantic consensus) 에 수렴하도록 최적화합니다.

1. 의미 공간 활용 (h-space): Diffusion 모델의 U-Net 중간 레이어인 h-space는 추상적이고 해석 가능한 의미 정보를 포함하며, 공간적 세부 사항보다는 개념적 구조를 잘 표현합니다.
2. 단계적 평균 정렬 (Progressive Mean Alignment):
   • $K$개의 노이즈 잠재 벡터 $\{z_k\}$를 초기화합니다.
   • 각 시간 단계 (timestep) $t$에서, 모든 잠재 벡터의 h-space 활성화 값 (activation) 을 추출하여 평균 $\bar{A}^{(t)}$를 계산합니다.
   • 각 잠재 벡터 $z_k$가 이 평균 활성화 값 $\bar{A}^{(t)}$와 일치하도록 **노이즈 최적화 (Noise Optimization)**를 수행합니다.
   • 이 과정을 $t_{stop}$까지 반복하며, coarse-to-fine(거시적 구조에서 미세한 디테일) 순서로 의미적 정렬을 진행합니다.
   • 최종적으로 하나의 선명하고 사실적인 프로토타입 이미지를 생성합니다.

다중 모드 처리 (Mode Discovery)

"개 (Dog)"처럼 여러 하위 범주 (견종) 가 존재하는 다중 모드 (multimodal) 개념의 경우, 단일 평균은 모호한 결과를 초래할 수 있습니다. 이를 해결하기 위해:

1. 클러스터링: CLIP 또는 BLIP-VQA 와 같은 외부 임베딩 공간에서 생성된 샘플을 클러스터링하여 의미적 모드 (예: 특정 견종, 인종 등) 를 분리합니다.
2. 조건부 적응 (Conditioning): 클러스터와 Diffusion 모델의 h-space 간의 불일치를 해결하기 위해, 각 클러스터에 특화된 Textual Inversion 또는 LoRA를 학습시켜 탈노이즈 과정을 해당 의미 하위 공간으로 유도합니다.

3. 주요 기여 (Key Contributions)

1. 최초의 Diffusion 모델 내 평균 생성: 사전 학습된 Diffusion 모델에서 직접 일관성 있고 사실적인 개념 평균 이미지를 생성하는 첫 번째 방법론을 제안했습니다.
2. 궤적 정렬 프레임워크: 이미지 공간이 아닌, 모델의 탈노이즈 궤적 내에서 의미적 합의를 도출하는 새로운 최적화 기법을 제시했습니다.
3. 다중 모드 및 일반화: LoRA/Textual Inversion 을 통해 다중 모드 개념을 처리할 수 있으며, Stable Diffusion 의 다양한 변형 (Realistic Vision, PixelArt 등) 및 DiT (Diffusion Transformer) 아키텍처에도 적용 가능함을 입증했습니다.
4. 모델 편향 분석 도구: 생성된 평균 이미지를 통해 모델이 학습한 개념의 본질과 훈련 데이터에 내재된 편향 (예: 성별, 인종, 문화적 고정관념) 을 시각적으로 분석할 수 있는 도구를 제공합니다.

4. 실험 결과 (Results)

• 비교 대상: GANgealing, Avg VAE, D4M, MGD3 등 기존 방법론과 비교했습니다.
• 성능 지표:
  • 일관성 (Consistency): 다른 초기 노이즈에서 시작하더라도 동일한 프로토타입을 생성하는 능력. DMA 는 다른 방법들보다 훨씬 높은 일관성을 보였습니다.
  • 대표성 (Representativeness): 생성된 평균이 전체 개념 분포의 중심에 얼마나 가까운지. DMA 가 가장 우수한 점수를 기록했습니다.
  • 이미지 품질 (ImageReward): 인간 선호도 기반 평가에서 DMA 는 가장 높은 점수를 받아 선명하고 사실적인 이미지를 생성함을 입증했습니다.
• 정성적 결과:
  • 추상적 개념 (예: "자유", "행복") 에서도 명확한 시각적 요약 (예: 자유의 여신상) 을 생성했습니다.
  • 다양한 SD 변형 모델 (Realistic Vision, PixelArt 등) 에서 모델별 고유한 스타일과 편향 (예: '병사' 개념에서의 성별 편향) 을 드러냈습니다.
  • 다중 모드 (예: 자동차 색상, 견종) 를 클러스터링하여 각 모드의 특징을 잘 반영한 평균 이미지를 생성했습니다.

5. 의의 및 의의 (Significance)

• 모델 해석 가능성 (Interpretability): Diffusion 모델이 내부적으로 개념을 어떻게 표현하고 있는지, 어떤 편향을 가지고 있는지 이해할 수 있는 강력한 렌즈 (lens) 역할을 합니다.
• 편향 감지 및 감사: 모델의 훈련 데이터에 숨겨진 사회적 편향 (인종, 성별, 문화적 고정관념 등) 을 시각적으로 드러내어 모델 감사 (auditing) 에 기여합니다.
• 데이터 압축 및 프라이버시: 원본 데이터셋 없이 모델의 지식만으로부터 개념을 요약할 수 있어, 데이터 증류나 프라이버시 보호가 필요한 다운스트림 작업에 활용될 잠재력이 있습니다.
• 새로운 분석 도구: 생성형 AI 의 '생각'을 시각화하여, AI 의 의사결정 과정을 투명하게 만드는 데 기여합니다.

이 논문은 생성 모델의 내부 작동 원리를 이해하고, 그 편향을 분석하며, 더 나은 모델을 설계하는 데 중요한 통찰을 제공하는 획기적인 연구로 평가됩니다.