Bias Is a Subspace, Not a Coordinate: A Geometric Rethinking of Post-hoc Debiasing in Vision-Language Models

1. 문제 정의 (Problem Definition)

시각 - 언어 모델 (VLM) 은 이미지 텍스트 검색, 시각적 질문 응답, 이미지 생성 등 다양한 다중 모달 작업에서 핵심적인 역할을 하지만, 대규모 웹 데이터에서 학습된 결과 인종, 성별, 연령 등 인구통계학적 편향을 내재화하고 증폭시킵니다.

기존의 사후 (Post-hoc) 편향 제거 방법, 특히 Jung et al. (2024) 이 제안한 SFID (Selective Feature Imputation for Debiasing) 는 임베딩 공간에서 민감한 속성 (예: 성별, 인종) 과 가장 상관관계가 높은 개별 좌표 (coordinates) 를 식별하여 중립적인 값으로 대체하는 방식을 취합니다.

그러나 본 논문은 SFID 와 같은 좌표 단위 (coordinate-wise) 접근법이 다음과 같은 세 가지 근본적인 한계를 가짐을 체계적으로 분석하여 지적합니다:

1. 특성 얽힘 (Feature Entanglement): 서로 다른 속성 (성별, 인종, 연령 등) 이 임베딩의 서로 다른 좌표에 분리되어 있는 것이 아니라, 동일한 좌표들이 여러 속성 정보를 공유하고 있습니다. 따라서 한 속성을 제거하기 위해 좌표를 수정하면 다른 속성의 표현이 왜곡됩니다.
2. 교차 데이터셋 일반화 실패 (Poor Cross-dataset Generalization): 한 데이터셋 (예: FairFace) 에서 중요하다고 판단된 좌표 인덱스가 다른 데이터셋 (예: FACET) 에서는 중요하지 않거나 다른 인덱스로 이동합니다. 이는 좌표 기반 치환이 새로운 데이터에 적용될 때 실패함을 의미합니다.
3. 불완전한 편향 제거 (Incomplete Bias Removal): 편향이 상위 $m$개의 좌표에만 집중되어 있다는 가정이 성립하지 않습니다. 편향 정보는 더 많은 차원에 분산되어 있어, 상위 좌표만 제거해도 선형 분류기로 여전히 민감한 속성을 높은 정확도로 예측할 수 있습니다.

2. 제안 방법: SPD (Subspace Projection Debiasing)

저자들은 편향이 특정 좌표가 아닌 선형 부분공간 (Linear Subspace) 에 분포되어 있다는 기하학적 통찰을 바탕으로, SPD (Subspace Projection Debiasing) 라는 새로운 프레임워크를 제안합니다. 이는 좌표 단위 편집을 넘어 연속적이고 기하학적으로 원리 있는 조작을 수행합니다.

SPD 의 주요 단계는 다음과 같습니다:

1. 편향 부분공간 식별 (Bias Subspace Identification via INLP):

   • INLP (Iterative Null-space Projection) 알고리즘을 사용하여 민감한 속성을 예측하는 선형 분류기 (로지스틱 회귀) 를 반복적으로 학습합니다.
   • 각 반복에서 분류기의 가중치 벡터 (편향 방향) 를 추출하고, 이를 직교 기저 (Orthonormal Basis) 로 변환합니다.
   • 이 과정을 편향 신호가 무작위 추측 수준으로 떨어질 때까지 반복하여, 편향 정보를 인코딩하는 부분공간 $U$ 를 구성합니다.

2. 부분공간 투영 (Subspace Projection):

   • 임베딩 벡터 $x$를 학습된 편향 부분공간 $U$의 직교 여공간 (Orthogonal Complement) 으로 투영합니다.
   • 수식: $x' = x(I - U^\top U)$.
   • 이 연산을 통해 편향 부분공간에 해당하는 성분을 제거하여, 민감한 속성이 선형적으로 복원되지 않도록 합니다.

3. 중립 성분 재주입 (Neutral Reinjection):

   • 투영 과정에서 의미 있는 정보 (Semantic Fidelity) 가 손실될 수 있으므로, 중립적인 평균 벡터 ($\bar{x}_{low}$) 를 재주입합니다.
   • 이 중립 평균은 분류기 신뢰도가 낮은 (Low-confidence) 샘플들의 평균 임베딩을 통해 추정됩니다.
   • 수식: $x'' = x' + U^\top(U\bar{x}_{low})$.
   • 이는 편향 방향의 분산은 제거하되, 데이터의 매니폴드 (Manifold) 상에 위치하도록 임베딩을 재중심화 (Recentering) 하여 과잉 보정 (Overcorrection) 을 방지하고 의미론적 일관성을 유지합니다.

3. 주요 기여 (Key Contributions)

• 기하학적 통찰: 편향이 희소한 좌표 (Coordinate-sparse) 가 아니라 분산된 부분공간 (Subspace-structured) 에 존재함을 증명하고, 기존 좌표 기반 방법론의 근본적 오류를 규명했습니다.
• 새로운 프레임워크 (SPD): 훈련이 필요 없는 (Training-free) 사후 처리 방법으로, INLP 를 활용한 편향 부분공간 제거와 중립 성분 재주입을 결합하여 더 강력하고 완전한 편향 제거를 가능하게 했습니다.
• 해석 가능성과 제어 가능성: 편향 제거의 강도 (투영 깊이 $r$) 를 조절하여 편향 완화와 유틸리티 (작업 성능) 간의 균형을 맞출 수 있으며, 각 편향 축이 명시적으로 해석 가능합니다.

4. 실험 결과 (Results)

SPD 는 제로샷 분류 (Zero-shot Classification), 텍스트 - 이미지 검색 (Text-to-Image Retrieval), 텍스트 - 이미지 생성 (Text-to-Image Generation) 등 세 가지 주요 VLM 작업에서 CLIP, XVLM, Stable Diffusion XL 등 다양한 백본 모델에 대해 평가되었습니다.

• 편향 제거 효과:
  • 선형 프로브 (Linear Probe) 테스트: 기존 SFID 는 편향 제거 후에도 속성 예측 정확도가 거의 감소하지 않았으나, SPD 는 제거된 부분공간 방향 ($r=5$) 에서 속성 예측 정확도를 무작위 추측 수준까지 크게 낮췄습니다.
  • 특성 얽힘 해결: SPD 는 특정 속성 제거 시 다른 속성 (예: 성별 제거 시 인종 정보) 에 미치는 부작용을 SFID 보다 훨씬 적게 발생시켰습니다.
• 다운스트림 작업 성능:
  • 공정성 지표 향상: 네 가지 공정성 지표 (Demographic Parity Gap, Skew 등) 에서 평균 18.5% 개선을 보였습니다.
  • 작업 성능 유지: 편향을 제거하면서도 분류 정확도, 검색 Recall, 생성 이미지의 품질을 기존 모델이나 다른 편향 제거 기법 (DeAR, CLIP-clip 등) 과 비교해 동등하거나 더 나은 수준으로 유지했습니다.
  • 교차 데이터셋 일반화: 학습된 편향 부분공간은 데이터셋 간 이동에서도 더 안정적인 성능을 보여주어, 좌표 기반 방법의 일반화 실패 문제를 해결했습니다.
• 중립 재주입의 효과: 중립 성분 재주입 단계가 없으면 (Pure Projection) 작업 성능이 약간 저하되는 반면, 재주입을 적용하면 성능이 회복되거나 오히려 향상됨을 확인했습니다.

5. 의의 및 결론 (Significance)

이 논문은 VLM 의 편향 제거에 대한 패러다임을 "좌표 단위 편집"에서 "부분공간 투영"으로 전환시켰습니다.

• 이론적 기여: 고차원 임베딩 공간에서 편향이 어떻게 구조화되어 있는지에 대한 깊은 이해를 제공하며, INLP 와 같은 기하학적 도구를 편향 제거에 효과적으로 적용할 수 있음을 보였습니다.
• 실용적 가치: 추가적인 모델 훈련 (Fine-tuning) 없이도 기존 VLM 을 즉시 적용 가능하게 하며, 다양한 모달리티와 작업에서 강력하고 해석 가능한 편향 제거 솔루션을 제공합니다.
• 미래 방향: 편향과 의미 (Semantic) 가 얽혀 있는 복잡한 상황에서 투영 깊이 ($r$) 를 조절함으로써 공정성과 유용성 사이의 균형을 최적화할 수 있는 새로운 기준을 제시했습니다.

결론적으로, SPD 는 VLM 의 편향을 단순히 '지우는' 것을 넘어, 편향의 기하학적 구조를 이해하고 제어함으로써 더 공정하면서도 신뢰할 수 있는 다중 모달 AI 시스템을 구축하는 데 중요한 기여를 합니다.