From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition

기술 요약: From Fake to Real (FFR)

문제 정의
시각 인식 모델은 훈련 세트가 편향되어 있을 때 특정한 조건 $B$(예: "실내")가 특정 클래스 $Y$(예: "대형견") 내에서 과하게 표현되는 경우, 가짜 상관관계(spurious correlations)를 학습하기 쉽습니다. 대규모 생성 모델(예: 확산 모델)로 생성된 합성 데이터는 이러한 미표집 하위 그룹을 보강함으로써 문제를 완화할 수 있는 유망한 방안을 제공하지만, 기존 방식들은 새로운 형태의 편향을 유발합니다.

ASB(Additive Synthetic Balancing) 및 USB(Uniform Synthetic Balancing)와 같은 기존 방법들은 훈련 중에 실제 데이터와 합성 데이터를 혼합합니다. 저자들은 이것이 새로운 혼란 변수 $G$(데이터 소스: 실제 vs. 합성)를 생성한다고 주장합니다. 합성 데이터와 실제 데이터는 분포적 차이(예: 생성 아티팩트)를 가질 수 있기 때문에, 혼합된 데이터로 훈련된 모델은 진정한 의미론적 특징이 아닌 쌍 $(B, G)$를 기반으로 $Y$를 예측하도록 학습될 수 있습니다. 예를 들어, 모델은 "합성 여성"은 웃고 "실제 여성"은 웃지 않는다는 상관관계를 생성 과정에서 만들어냈다면, 단순히 그 이유만으로 이를 학습할 수 있습니다. 본 논문은 표준적인 가짜 상관관계 설정에서 합성 데이터로 편향된 데이터셋을 증강하는 것은 필연적으로 쌍 $(B, G)$에 대한 편향을 초래한다는 것을 이론적 증명(정리 1)을 통해 보여줍니다.

방법론: From Fake to Real (FFR)
데이터 소스 $(B, G)$에 대한 편향을 해결하기 위해, 저자들은 합성 데이터와 실제 데이터의 분포 학습을 분리하는 2단계 훈련 파이프라인인 **From Fake to Real (FFR)**을 제안합니다.

1. 1단계: 균형 잡힌 합성 데이터에 대한 사전 훈련 (Pretraining on Balanced Synthetic Data)
   모델은 타겟 라벨 $Y$가 편향 그룹 $B$와 통계적으로 독립적인($P_{D_{syn}}(Y|B) = P_{D_{syn}}(Y)$) 균형 잡힌 합성 데이터셋($D_{syn}$)만을 사용하여 사전 훈련됩니다. 이는 생성 모델(예: Stable Diffusion)을 사용하여 각 편향 하위 그룹에 대해 동일한 수의 합성 이미지를 샘플링함으로써 달성됩니다. 목표는 실제 데이터와 합성 데이터 사이의 통계적 차이에 노출되지 않고 모든 하위 그룹에 대해 강건하고 편향되지 않은 표현(representation)을 학습하는 것입니다.

2. 2단계: 실제 데이터에 대한 미세 조정 (Fine-tuning on Real Data)
   1단계에서 초기화된 모델은 편향된 실제 데이터셋($D$)에 대해 미세 조정됩니다. 실제 데이터에 존재하는 편향을 모델이 다시 학습하는 것을 방지하기 위해, 이 단계에서는 표준적인 경험적 위험 최소화(ERM) 또는 일반적인 손실 기반 편향 완화 방법(예: GroupDRO, Resampling, Deep Feature Reweighting)을 활용합니다. 결정적으로, 모델은 균형 잡힌 데이터로 사전 훈련되었기 때문에, 실제 데이터의 가짜 상관관계에 덜 취약한 표현으로부터 시작하게 됩니다.

두 데이터 소스를 별도의 훈련 단계로 분리함으로써, FFR은 모델이 $(B, G)$의 결합 분포를 관찰하는 것을 방지하여, 이미지가 실제인지 합성인지와 관련된 가짜 신호를 학습하는 것을 차단합니다.

주요 기여

• 새로운 파이프라인: 실제 데이터와 합성 데이터 간의 분포 격차에 모델을 노출시키지 않으면서도 편향 완화를 위해 합성 데이터를 활용하는 단순한 2단계 훈련 프레임워크인 FFR을 도입했습니다.
• 이론적 분석: 데이터를 혼합하여 단일 훈련 단계에서 사용하는 것은 필연적으로 데이터 소스 $(B, G)$에 대한 편향을 도입하며, 기존의 혼합 훈련 방식들을 최적해가 아니게 만든다는 공식적인 증명을 제공했습니다.
• 포괄적인 평가: 세 가지 데이터셋(CelebA-HQ, UTK-Face, SpuCo Animals)과 다섯 가지 편향 비율(90%에서 99.9% 범위)에 걸쳐 총 5,000회 이상의 실험을 통한 체계적인 분석을 수행했습니다.
• 통합성: FFR이 기존의 합성 데이터 미사용 편향 완화 방법(예: GroupDRO, DFR)과 호환되며 이를 향상시킨다는 점을 입증했습니다.

실험 결과
저자들은 최악 정확도(WA)와 균형 정확도(BA)를 지표로 사용하여 FFR을 합성 데이터가 없는 경우, USB, ASB를 포함한 베이스라인들과 비교 평가했습니다.

• 성능 향상: FFR은 평가된 데이터셋 전반에서 최첨단 방법들보다 최악 그룹 정확도(Worst Accuracy)를 최대 **20%**까지 개선했습니다. 예를 들어, 95% 편향 비율을 가진 UTK-Face 데이터셋에서 FFR은 USB와 ASB보다 10% 이상 높은 성능을 보였습니다.
• 강건성: 편향 심도가 증가함에 따라 성능이 크게 저하되는 기존 방식들(특히 CelebA-HQ 및 UTK-Face에서)과 달리, FFR은 모든 편향 비율에서 안정적인 성능을 유지합니다.
• 특징 학습: RISE 살리언시 맵(saliency maps)을 이용한 질적 분석 결과, FFR로 훈련된 모델은 가짜 배경 특징이나 생성 아티팩트(예: 합성 이미지의 여분의 발가락)가 아닌 관련 의미론적 특징(예: 개의 얼굴)에 집중함을 보여줍니다. 반면, ASB 및 USB 모델은 종종 이러한 아티팩트에 의존합니다.
• 임베딩 분석: t-SNE 투영은 FFR이 실제 데이터와 합성 데이터 임베딩을 하나의 조밀한 클러스터로 투영함을 보여주며, 이는 모델이 공유된 핵심 특징을 학습함을 나타냅니다. 반대로, ASB와 USB는 실제 데이터와 합성 데이터를 별개의 클러스터로 투영하여, 소스 특유의 특징에 의존함을 확인시켜 줍니다.

의의 및 한계
본 논문은 FFR이 이전의 합성 데이터 증강 전략들이 간과했던 문제, 즉 실제 데이터와 합성 데이터 간의 분포적 차이로 인해 발생하는 편향 문제를 효과적으로 해결한다고 주장합니다. 두 데이터 소스의 훈련을 분리함으로써, FFR은 합성 데이터가 실제 데이터의 성능을 향상시키는 편향되지 않은 표현의 원천 역할을 할 수 있게 합니다.

저자들은 사용된 생성 모델의 품질에 관한 한계를 인정합니다. 만약 생성 모델 자체가 편향되어 있거나 프롬프트를 충실히 따르지 못한다면(예: 구성력 문제), 사전 훈련 분포가 여전히 불균형할 수 있으며, 이는 FFR 성능에 큰 악영상을 미칩니다(절제 연구에서 확인됨). 또한, 이 방법은 생성 모델이 균형 잡힌 합성 데이터셋을 생성할 수 있는 능력에 의존합니다. 만약 모델이 특정 하위 그룹을 정확하게 생성하지 못한다면, 첫 번째 단계의 이점은 줄어듭니다. 저자들은 더 공정하고 정확한 생성 모델을 훈련하는 데 집중하는 향후 연구가 이러한 문제를 더욱 완화할 수 있을 것이라고 제안합니다.