Post-Training Fairness Control: A Single-Train Framework for Dynamic Fairness in Recommendation

기술 요약: 사후 학습 공정성 제어 (Cofair)

문제 정의
추천 시스템은 훈련 데이터에 내재된 사회적 편향을 증폭시켜 성별이나 인종과 같은 민감한 속성에 따라 사용자에게 불균형한 영향을 미치는 경우가 많습니다. 기존의 공정성 인식 방법들은 훈련 과정 중에 제약 조건을 통합하지만, 일반적으로 해당 단계에서 공정성 요구 사항을 고정해 버립니다. 결과적으로 이해관계자의 요구가 진화하거나 맥락에 따라 달라질 경우, 새로운 공정성 수준을 수용하기 위해 모델 전체를 다시 훈련시켜야 합니다. 이러한 재훈련 과정은 계산 비용이 매우 많이 들며 실세계 배포에 있어 병목 현상을 초end합니다. 또한, 최근의 사후 학습 유연성 시도들은 사용자가 보호할 속성을 선택할 수는 있게 해주지만, 재훈련 없이 얼마나 많은 공정성을 강제할 것인지(즉, 서로 다른 공정성 수준)에 대한 세밀한 제어를 제공하는 데는 실패하고 있습니다.

방법론: Cofair 프레임워크
저자들은 동적인 사후 학습 공정성 제어를 가능하게 하기 위해 설계된 단일 훈련 프레임워크인 Cofair를 제안합니다. 핵심 아키텍처는 세 가지 주요 구성 요소로 이루어져 있습니다:

1. 공유 표현 계층 (Shared Representation Layer): 원래의 사용자 임베딩을 저차원의 공유 공간으로 매핑하는 신경망 계층입니다. 이 계층은 모든 설정에서 정확도와 공정성의 균형을 맞추는 데 필수적인 공통 사용자 특성과 패턴을 포착하며, 중복 학습을 피하기 위해 멀티태스크 학습 원칙을 준수합니다.
2. 공정성 조건부 어댑터 (Fairness-Conditioned Adapters): $T$개의 서로 다른 공정성 수준 각각에 대해 특화된 어댑터 모듈이 사용됩니다. 이 어댑터들은 공유 표현을 받아 공정성 특화 조정을 주입하며, 이를 통해 핵심 공유 특징을 변경하지 않고도 특정 공정성 정도($t \in \{1, \dots, T\}$)에 맞게 조정된 사용자 임베딩을 생성할 수 있게 합니다.
3. 손실 함수 및 정규화:
   • 추천 손실 (Recommendation Loss): 랭킹 정확도를 유지하기 위한 표준 베이지안 개인화 순위(BPR) 손실입니다.
   • 적대적 공정성 손실 (Adversarial Fairness Loss): 적대적 네트워크가 사용자 임베딩으로부터 민감한 속성을 예측하려고 시도합니다. 메인 모델은 이 손실을 최소화하여 임베딩이 민감한 속성과 독립적이도록 보장하며, 이는 인구 통계적 패리티(Demographic Parity, DP)의 대리 지표 역할을 합니다.
   • 사용자 수준 정규화 (User-Level Regularization): 특정 사용자의 공정성이 공정성 수준이 높아짐에 따라 저하되는 시나리오에 페널티를 부여하는 핵심 항입니다. 이는 평균적인 수준뿐만 아니라 개별 사용자 각각에 대해 **단조적 공정성 개선(monotonic fairness improvement)**을 보장합니다.
   • 적응형 가중치 (Adaptive Weighting): 공정성 손실 감소 진행 상황에 따라 훈련 중에 공정성 계수($\lambda_t$)를 자동으로 조정하는 메커니즘으로, 각 수준에 대한 수동 하이퍼파라미터 튜닝의 필요성을 제거합니다.

이론적 기여
본 논문은 두 가지 핵심적인 이론적 보증을 제공합니다:

1. 인구 통계적 패리티 상한 설정: 저자들은 적대적 공정성 목적 함수가 인구 통계적 패리티 차이($\Delta DP$)의 상한을 결정함을 증명합니다. 적대적 손실을 최소화하는 것은 집단 간 격차를 줄이는 것과 직접적으로 상관관계가 있습니다.
2. 단조적 사용자 수준 공정성: 사용자 수준 정규화 항을 통해, 본 프레임워크는 공정성 수준 $t$가 증가함에 따라 각 개별 사용자에 대한 공정성 성능이 저하되지 않음을 보장합니다 ($\Delta DP^{(t+1)}(u) \leq \Delta DP^{(t)}(u)$).

실험 결과
실험은 두 개의 데이터셋(Movielens-1M 및 Lastfm-360K)과 두 개의 백본 모델(BPR 및 LightGCN)을 사용하여 수행되었습니다. Cofair는 최신 베이스라인들(ComFair, FairRec, FairGo, AFRL)과 비교되었습니다.

• 공정성-정확도 트레이드오프: Cofair는 16번의 비교 중 15번에서 파레토 최적(Pareto-optimal)의 트레이드오프를 달est했습니다. 베이스라인들이 유사한 곡선을 만들기 위해 여러 번의 재훈련을 요구했던 반면, Cofair는 단 한 번의 훈련 패스로 연속적인 공정성-정확도 트레이드오프 곡선을 생성했습니다.
• 성능: Cofair는 베이스라인보다 대등하거나 더 나은 공정성-정확도 곡선을 제공했습니다. 경쟁력 있는 정확도(Recall@10 및 NDCG@10)를 유지하면서도 더 넓은 범위의 공정성 값(DP@10 및 EOpp@10)을 성공적으로 포괄했습니다.
• 효율성: Cofair는 병렬 어댑터 처리로 인해 에포크당 훈련 시간은 약간 더 높지만, 여러 공정성 수준을 커버하기 위해 필요한 총 에포크 수는 베이스라인의 약 5분의 1 수준으로 훨씬 적습니다. 이는 전반적인 시간 절감 효과를 가져옵니다.
• 일반화 가능성: 기존 공정성 방법론에 플러그 앤 플레이(plug-and-play) 모듈로 통합되었을 때, Cofair는 해당 방법론들이 재훈련 없이도 동적 제어를 달성할 수 있게 했으며, 종종 파레토 효율성을 향상시켰습니다.

의의 및 주장
본 논문은 Cofair가 공정성 수준 선택을 훈련 과정에서 분리함으로써 현재 공정성 접근 방식의 결정적인 비유연성 문제를 해결한다고 주장합니다. 주요 의의는 다음과 같습니다:

• 재훈련 제거: 모든 새로운 공정성 요구 사항에 대해 모델을 재훈련해야 하는 계산 비용을 제거합니다.
• 점진적 보증: 서로 다른 공정성 설정 전반에 걸쳐 개별 사용자 수준에서 단조적인 공정성 개선을 이론적 및 경험적으로 보증하는 첫 번째 프레임워크입니다.
• 실제 배포: "단일 훈련, 다중 수준" 솔루션을 제공함으로써, 공정성 요구 사항이 시간이 지남에 따라 변할 수 있는 역동적인 실제 환경에서 공정한 추천 시스템을 배포할 수 있는 확장 가능하고 실용적인 경로를 제공합니다.

저자들은 현재의 초점이 인구 통계적 패리티에 맞춰져 있지만, 적대적 목적 함수를 조정함으로써 이 프레임워크가 다른 공정성 개념(예: 기회 균등)을 수용할 수 있을 만큼 유연하다고 언급했습니다. 향후 연구에서는 이 프레임워크 내에서 여러 공정성 정의를 통합하는 방안을 탐색할 수 있습니다.