기술 요약: DebFilter

문제 정의

텍스트-이미지 확산 모델은 이론적으로 점수 기반 생성 모델과 동등하지만, 내재된 사회적 및 의미론적 편향으로 고통받고 있습니다. 이러한 편향—특히 성별, 연령, 직업과 관련하여—는 사전 훈련된 비전 - 언어 모델 (예: CLIP) 에서 추출된 텍스트 임베딩에 인코딩되어 있습니다. 탈노이즈 과정에서 이러한 편향된 임베딩은 모델의 안내 메커니즘, 특히 교차 주의 (cross-attention) 계층을 통해 전파되고 증폭됩니다. 결과적으로 중립적인 프롬프트 (예: "의사로 일하는 사람") 조차도 치우치거나 고정관념적인 결과를 산출하는 경우가 많습니다. 기존 완화 전략은 일반적으로 점수 네트워크 또는 텍스트 인코더의 재훈련 또는 미세 조정에 의존하며, 이는 계산 비용이 많이 들고 균형 잡힌 데이터셋과 광범위한 자원을 요구하므로 실제 응용 분야에서의 실용성을 제한합니다.

방법론: DebFilter

저자들은 텍스트 - 이미지 확산 모델의 추론 단계에서 편향을 완화하도록 설계된 경량화 및 훈련 불필요 (training-free) 프레임워크인 DebFilter를 제안합니다. 이 방법은 모델 가중치를 수정하는 대신 교차 주의 메커니즘 내의 값 (value) 성분을 선택적으로 조정하여 작동합니다.

핵심 메커니즘

1. 값 조정을 통한 편향 보정: 이 방법은 각 탈노이즈 단계에서의 모델 오차 예측이 주로 교차 주의 역학에 의해 영향을 받는다는 점을 관찰합니다. 구체적으로, 조건부 임베딩 $c$는 키 (key) 와 값 (value) 표현을 정의합니다. DebFilter 는 원래 조건부 신호에 편향 보정 벡터 $\Delta c$를 도입합니다.
2. 교차 주의 정렬: 이 접근법은 중립적 프롬프트 $c$의 교차 주의 출력을 명시적인 편향 보정 프롬프트 $c'$ (예: "의사"를 "여성 의사"와 정렬) 의 교차 주의 출력과 정렬하는 것을 목표로 합니다.
   • 탈노이즈 예측 $\hat{\epsilon}_\theta(z_t, c)$는 교차 주의 출력의 함수로 간주됩니다.
   • 이 방법은 편향된 개념에 해당하는 특정 토큰 인덱스 $m$에 대한 목표 값 벡터 $\hat{v}_m$을 최소제곱 최적화 문제를 풀어 계산합니다. 이 최적화는 소스 교차 주의 출력과 명시적 프롬프트에서 파생된 목표 출력 간의 차이를 최소화합니다.
3. 통합 안내 추정: U-Net 은 다양한 깊이와 헤드를 가진 여러 주의 블록을 포함하므로, 이 방법은 각 계층과 헤드에 대해 목표 값 벡터를 독립적으로 추정합니다. 그런 다음 이러한 추정을 가중 최소제곱 회귀를 통해 집계하여 통합된 편향 제거 임베딩 $c^{new}_m$을 도출합니다.
4. 안정적인 편향 제거 안내 (DebFilter): 확장성을 보장하고 모든 프롬프트에 대해 보정을 계산하는 것을 방지하기 위해, 이 방법은 여러 프롬프트에 걸쳐 오프셋 $\Delta c = c^{new}_m - c_m$을 계산하고 이를 평균화합니다. 이 평균화된 오프셋을 DebFilter라고 하며, 이는 대상 개념을 포함하는 모든 프롬프트에 적용 가능한 안정적이고 보편적인 보정 방향으로 작용합니다.
5. 추론 시 적용: 추론 중에는 이 고정된 오프셋을 조건부 임베딩에 추가합니다. 이 방법은 거친 구조와 고수준 속성이 결정되는 초기 탈노이즈 단계 (일반적으로 처음 두 단계) 에 초점을 맞추어, 편향 보정이 이후의 질감 또는 스타일 정교화에 간섭하지 않도록 보장합니다.

주요 특징

• 훈련 불필요: 추가 데이터나 모델 업데이트가 필요하지 않습니다.
• 세밀한 제어: 특정 토큰 인덱스를 식별함으로써, 이 방법은 다중 객체 장면에서 객체 수준의 제어를 가능하게 합니다 (예: "간호사"는 변경하지 않고 "의사"의 성별 변경).
• 가역성: 보정 벡터를 반전 (부호 변경) 하여 필터를 반대 방향으로 적용할 수 있습니다 (예: 남성에서 여성으로 vs 여성에서 남성으로).

주요 기여

1. 훈련 불필요 편향 제거: 재훈련 없이 추론 중 교차 주의 메커니즘을 조정하여 편향을 완화하는 Stable Diffusion 방법론을 도입했습니다.
2. 객체 수준 제어: 다중 객체 이미지에서 표적 제어를 시연하여, 공간적 일관성과 다른 속성을 유지하면서 특정 개념에 대한 편향 제거를 가능하게 했습니다.
3. 실용적 확장성: 모델 아키텍처를 변경하거나 각 새로운 응용 분야에 대해 큐레이션된 편향 제거 데이터셋을 요구하지 않고 공정성을 개선하는 유연한 접근법을 제시했습니다.

실험 결과

저자들은 성별 및 연령 편향 지표를 사용하여 Stable Diffusion v2.1 (특정 비교를 위해 SDXL 포함) 에서 DebFilter 를 평가했습니다.

• 성별 편향 완화:
  • 87 개 직업 (58 개 남성 우세, 29 개 여성 우세) 에서 평가되었습니다.
  • 편향 비율 ($\Delta$): DebFilter 는 직업 전반에 걸쳐 50% 성별 균형으로부터의 정규화된 절대 편차를 크게 줄여 TIME, UCE, MIST 와 같은 베이스라인을 능가했습니다.
  • 전이 점수 (TS): 이 방법은 목표 비율 (예: 0.5) 에 가까운 전이 점수를 달성하여 편향 제거된 샘플의 비율에 대한 정밀한 제어를 입증했습니다.
  • 왜도 (Skew): DebFilter 는 다른 방법들보다 낮은 SKEW 점수 (62.1) 를 달성하여 직업 전반에 걸쳐 더 균형 잡힌 성별 분포를 나타냈습니다.
  • CLIPScore: 편향 제거된 이미지는 텍스트 프롬프트와의 높은 정렬을 유지했으며, 종종 기본 모델의 CLIPScore 를 일치시키거나 초과하여 의미론적 충실도가 유지되었음을 확인했습니다.
• 연령 편향 완화:
  • 특정 연령대와 관련된 직업 (예: "시계 제작자" 대 "바리스타") 에 대해 연령 편향을 성공적으로 완화했습니다.
  • 이 방법은 행동과 배경을 유지하면서 헤어스타일과 피부 질감 같은 시각적 속성을 자연스럽게 조정했습니다.
• 다중 객체 시나리오:
  • 단일 프롬프트 내의 서로 다른 객체에 서로 다른 편향 제거 필터를 적용하는 능력을 시연했습니다 (예: "의사와 간호사"), 다른 객체에 영향을 주지 않으면서 특정 개체의 성별 표현을 성공적으로 반전시켰습니다.

중요성 및 주장

이 논문은 DebFilter 가 더 공정하고 포용적인 텍스트 - 이미지 생성으로 나아가는 확장 가능하고 효율적인 경로를 제공한다고 주장합니다. 완전히 추론 시간에 작동함으로써 대규모 모델의 재훈련에 따른 계산적 비실용성을 해결합니다. 저자들은 이 방법이 생성된 출력의 의미론적 충실도를 유지하면서 편향 제거 강도에 대한 세밀하고 해석 가능한 제어를 제공한다고 강조합니다.

이 방법의 중요성은 텍스트 안내에 대한 미묘한 교란이 잠재적 편향을 억제하기 위해 점수 함수 지형을 효과적으로 재구성할 수 있음을 시연한 데 있습니다. 저자들은 DebFilter 를 데이터셋 큐레이션이나 모델 재훈련을 대체하는 것이 아니라, 배포된 생성 모델에서 사회적 편향을 완화하기 위한 실용적이고 즉각적인 해결책으로 위치시킵니다. 이 방법은 민족성이나 문화적 속성과 같은 다른 편향 개념으로 확장 가능하지만, 현재 실험은 성별과 연령에 초점을 맞추고 있다고 언급합니다.

이 논문은 통제된 안내 조정이 추가 훈련의 오버헤드 없이 생성 모델의 포용성과 제어 가능성을 진전시키는 사회적 책임을 가진 AI 주도 창의성을 위한 강력한 메커니즘을 제공한다고 결론지었습니다.