기술 요약: SurrogateSHAP

문제 정의

Text-to-Image (T2I) 확산 모델이 창의적 워크플로우의 핵심으로 자리 잡음에 따라, 공정한 보상과 지속 가능한 데이터 마켓플레이스를 위해 데이터 기여자의 가치를 산정하는 원칙적인 프레임워크가 절실히 필요합니다. 샤플리 값(Shapley value)은 모든 가능한 기여자 하위 집합에 대한 한계 기여도를 정량화함으로써 속성을 산출하는 이론적으로 견고한 방법을 제공하지만, 현대의 T2I 모델에 이를 적용하는 데에는 이중적인 계산 병목 현상이 존재합니다:

1. 학습 비용: 정확한 샤플리 계산은 모든 기여자 하위 집합에 대해 모델을 매번 다시 학습시켜야 하며, 이는 대규모 확산 모델의 경우 비용이 지나치게 높습니다.
2. 샘플링 복잡도: 데이터셋 가치 평가의 효용 함수는 종종 고도로 비선형적이며 복잡한 상호작용을 포함하므로, 안정적이고 분산이 낮은 추정치를 얻기 위해 조합론적으로 방대한 수의 하위 집합 쿼리가 필요합니다.

D-TRAK, DAS와 같이 개별 데이터 속성을 집계하는 기존의 대안들은 그룹 수준의 비선형성이나 미학(aesthetics)과 같은 다운스트림 특성을 포착하지 못하는 경우가 많습니다. 다른 샤플리 기반 접근 방식들은 희소 미세 조정(sparsified fine-tuning)이나 정확한 재학습에 의존하며, 이는 여전히 계산 집약적입니다.

방법론: SurrogateSHAP

저자들은 사전 학습된 모델으로부터의 추론을 통해 비용이 많이 드는 "학습 게임(training game)"을 근사하고, 추정 효율을 높이기 위해 그래디언트 부스팅 트리(GBT) 대리 모델을 사용하는 학습 불필요(training-free) 프레임워크인 SurrogateSHAP을 제안합니다. 이 방법은 두 가지 핵심 구성 요소로 이루어집니다:

1. 학습 불필요 프록시 게임 (Training-Free Proxy Game)

특정 기여자 하위 집합 $S$를 위해 모델 $\theta^*_S$를 다시 학습시키는 대신, SurrogateSHAP은 전체 데이터셋으로 학습된 타겟 모델 $\theta$를 조건부 생성기들의 혼합(mixture)으로 재해те르합니다.

• 메커니즘: 코리션(coalition) $S$에 대한 출력 분포는 전체 모델의 조건부 분포 $p_\theta(x|\psi(y))$를 코리션 내 프롬프트의 경험적 빈도에 따라 가중치를 두어 결합한 혼합 분포로 근사됩니다.
• 이론적 정당성: 저자들은 만약 코리션 학습 모델과 전체 모델의 클래스 조건부 분포가 효용 정렬된 특징 공간(Assumption 4.1)에서 안정적이라면(Proposition 4.2), 프록시 효용 $\hat{v}_\theta(S)$가 실제 학습 효용 $v(S)$를 밀접하게 추적한다는 이론적 경계(bound)를 제시합니다. 이는 하위 집합 평가를 재학습이 아닌 혼합 샘플링 문제로 전환하여 재학습의 필요성을 제거합니다.

2. 샤플리 추정을 위한 트리 기반 대리 모델 (Tree-Based Surrogate for Shapley Estimation)

복잡하고 비선형적인 효용 함수에 대한 샤플리 값을 추정할 때 발생하는 높은 분산과 샘플링 비효율성을 해결하기 위해, 본 프레임워크는 대리 모델을 학습시킵니다.

• 절차: 방법론은 $M$개의 코리션을 샘플링하여 각 코리션에 대한 프록시 효용을 평가한 후, 기여자의 불리언 하이퍼큐브(Boolean hypercube) 상에서 효용 함수를 근사하는 그래디언트 부스팅 트리(GBT) 대리 모델 $\hat{f}_\omega$를 학습시킵니다.
• 분석적 계산: 샤플리 값은 학습된 트리 앙상블으로부터 TreeSHAP을 사용하여 분석적으로 도출됩니다. 이 접근 방식은 명시적인 희소성 제약을 부과하지 않으면서도 계층적 상호작용 사전 지식을 포착하며, KernelSHAP과 같은 몬테카를로 기반 추정기보다 높은 샘플 효율성을 제공합니다.

주요 기여

1. 학습 불필례 프록시: 단일 사전 학습 모델의 조건부 생성 능력을 활용하여 재학습을 우회하는 새로운 정식화 방식을 제안하였으며, 이를 이론적 오차 경계와 경험적 충실도로 검증하였습니다.
2. 효율적인 추정: GBT 대리 모델과 TreeSHAP을 통합하여 샤플리 값을 분석적으로 계산함으로써, 기존의 샤플리 추정기들에 비해 안정적인 추정에 필요한 쿼리 수를 크게 줄였습니다.
3. 포괄적인 평가: 본 프레임워크는 세 가지 다양한 속성 작업에 대해 평가되었습니다:
   • 이미지 품질: CIFAR-20에 대한 DDPM-CFG (지표: FID, Inception Score).
   • 미학(Aesthetics): Post-Impressionist 예술 작품에 대한 Stable Diffusion (지표: Aesthetic Score).
   • 제품 다양성: 패션 제품 데이터에 대한 FLUX.1 (지표: LPIPS, Diversity).
4. 임상 감사 사례 연구: 다기관 임상 데이터(ISIC 데이터셋)로 학습된 피부병 진단 모델에 프레임워크를 적용하여, 환자의 성별과 흑색종 진단 사이의 허위 상관관계를 특정 병원 데이터 소스로 국지화하는 데 성공했습니다.

실험 결과

• 프록시 충실도(Proxy Fidelity): SurrogateSHAP의 프록시 효용은 희소 미세 조정(sFT) 베이스라인보다 낮은 표현 드리프트(RMS LPIPS)와 더 좁은 효용 오차(NRMSE)를 달려내며 실제 학습 효용과 높은 일치성을 보였습니다.
• 계산 효율성: 본 방법은 재학습 또는 미세 조정 베이스라인보다 현저히 빠릅니다 (예: CIFAR-20에서 23.4배, ArtBench에서 12.8배 빠름).
• 속성 정확도:
  • 선형 데이터 모델 점수 (LDS): SurrogateSHAP은 모든 데이터셋과 지표에서 held-out 모델 동작을 예측하는 데 있어 기존 베이스라인(TRAK, Influence Functions, sFT 기반 샤플리 포함)을 일관되게 능가했습니다. 예를 들어, CIFAR-20 (FID)에서 sFT의 부정적인 성능과 대조적으로 51.21%의 LDS를 달성했습니다.
  • 역사실적 평가(Counterfactual Evaluation): SurrogateSHAP에 의해 식별된 낮은 순위의 기여자를 제거했을 때는 성능 향상이 나타나거나 저하가 미미했던 반면, 높은 순위의 기여자를 제거했을 때는 가장 큰 품질 저하가 발생하여, 본 방법이 영향력 있는 데이터를 식별하는 능력을 확인했습니다.
• 샘플 효율성: 비선형 상호작용이 있는 합성 게임에서, SurrogateSHAP은 동일한 쿼리 예산 내에서 KernelSHAP 및 ProxySPEX에 비해 오라클(oracle) 샤플리 값에 대한 $\ell_2$ 오차가 현저히 낮았습니다.

의의 및 주장

본 논문은 SurrogateSHAP이 대규모 생성 모델을 위한 기여자 가치 평가의 확장 가능하고 원칙적인 경로를 제공한다고 주장합니다. 속성 산출을 재학습 비용으로부터 분리함으로써 다음을 가능하게 합니다:

• 공정한 보상: 데이터 마켓플레이스를 위한 그룹 수준 기여도의 정확한 정량화.
• 모델 감사: 재학습 파이프라인에 대한 접근 없이도 허위 상관관계와 편향된 데이터 소스를 식별하고 국지화하는 능력 (임상 사례 연구에서 입증됨).
• 감사의 민주화: 본 프레임워크를 통해 제한된 컴퓨팅 자원을 가진 연구자들도 대규모 모델에 대한 투명성 감사를 수행할 수 있어, 공정한 크레딧 할당과 원칙적인 데이터셋 큐레이션을 촉진할 수 있습니다.

저자들은 이 방법이 투명성을 높이지만, 이를 광범로한 거버넌스 파이프라인 내의 진단 도구로 사용해야 함을 강조하며, 주의 깊게 관리하지 않을 경우 지표 특정적 최적화가 소수 데이터를 의도치 않게 억제할 수 있음을 언급했습니다.