기술 요약: 누가 생성되어야 하는가? 개방형 생성에서의 인구통계학적 타겟 정당화

1. 문제 정의: 타겟 부재 문제 (The Missing-Target Problem)

본 논문은 개방형 생성 모델(텍스트 및 이미지)의 공정성 평가에 있어 근본적인 격차를 다룬다. 기존의 공정성 감사(fairness audits)는 모델 출력의 인구통계학적 구성을 주어진 타겟 분포와 비교하여 측정하지만, 대개 타겟이 사전에 제공되거나 자명하다고 가정한다. 이는 타겟 부재 문제를 야기한다. 즉, 프롬프트가 역할과 위치를 지정하면서도 인구통계학적 속성(예: 성별, 인종)을 명시하지 않을 경우, 모델은 경험적 분포($\hat{q}_k$)를 생성하지만, 이를 평가하기 위해 정당화된 표준($P^*$)이 존재하지 않게 된다.

저자들은 고전적인 집단 공정성 기준(예: 인구통계학적 패리티, 균등 기회)이 입력 측의 민감한 속성과 기존 개인에 대한 결정을 전제로 한다고 주장한다. 이러한 기준들은 실존하는 정체성이 존재하지 않는 허구적 생성을 위한 집계된 출력 측 타겟을 선택하지 못한다. 결과적으로, 현재의 평가는 왜 특정 분포가 평가의 척도가 되어야 하는지에 대한 정당화 없이, 현재의 직업적 구성이나 동일 범주 분포를 암묵적으로 타겟으로 채택하곤 한다.

2. 방법론: 4단계 약속 프레임워크 (A Four-Commitment Framework)

저자들은 타겟 구축을 공정성의 판결(verdict)과 분리된, 별도의 평가 과업으로서 공식화한다. 이 프레임워크는 타겟의 구축을 타겟의 판결로부터 분리하는 네 가지 논리적으로 구별되는 약속을 제시한다.

2.1 네 가지 약속

1. 평가 대상, 용도 및 출력 단위:

   • 대상(Object): 특정 실제 인물을 예측하는 정확도가 아니라, 반복된 생성 과정에서의 표현 가능성의 분포이다.
   • 용도(Use): 본 연구에서는 "현대적 공공 세계의 용도(contemporary public-world use)"를 선언하며, 생성물이 명명된 사회적 세계 내에서 특정 역할을 맡을 가능성을 어떻게 배분하는지 묻는다.
   • 단위(Unit): 생성된 각 초점 캐릭터(focal character)는 하나의 출력 관측치이다.

2. 사전 허용성 (관계 식별 및 방어):

   • 인구통계학적 사전 지식(예: 인구 구성, 노동력 구성)은 평가자가 해당 사전 지식 하의 관계를 식별하고, 왜 그 관계가 식별된 개인들에게 **표현적 지위(representational standing)**를 부여하는지 방어할 수 있는 경우에만 허용된다.
   • 지리적 멤버십(Geographic Membership): 공공 세계 용도에 대해 허용된다. 프롬프트의 위치는 표현되는 공공을 식별하며, 역할은 누가 그 공공의 구성원인지에 영향을 미치지 않는다.
   • 직업적 종사(Occupational Incumbency): 종사자 해석 하에서는 공공 세계 용도에 대해 허용되지 않는다. 현재의 노동력 구성은 노동 시장 프로세스(교육, 차별, 장벽)의 하류 결과물이며, 독립적인 목적(예: 노동력 시뮬레이션) 없이는 스스로를 표현 표준으로서 정당화할 수 없다.

3. 할당 (Allocation):

   • 도메인이 허용되면, 표현적 질량(representational mass)을 어떻게 나눌지 결정하는 규칙이 필요하다.
   • 동일 인물 할당 (Equal-Person Allocation): 할당 관련 구분이 방어되지 않는 경우, 허용된 공공의 구성원은 동일한 가중치를 갖는다. 이는 범주 점유율이 허용된 공공의 인구 점유율에 비례하는 결과로 이어진다.
   • 역할 불변성 (Role Invariance): 이 구축 하에서 타겟는 역할 불변적이다($P^*(A=a|G,R) = P^*(A=a|G)$). 왜냐하면 역할은 허용된 공공이나 할당 규칙을 변경하지 않기 때문이다.

4. 운영화 (Operationalization):

   • 추상적 타겟은 선언된 분류 체계, 매핑 및 참조 출처(예: 인구 조사나 UN 통계의 거주 인구 데이터)를 사용하여 구체화된다.
   • 본 논문은 허용성(규범적 정당화)과 측정 적절성(출처 프록시가 허용된 공공을 정확히 측정하는지 여부)을 구분한다.

2.2 가교 전제 (The Bridge Premises)

본 논문은 운영 점수(계산된 $\hat{q}_k$와 구축된 타겟 $P^*_{geo}$ 사이의 불일치)와 공정성 추정치(철저히 정당화된 타겟 $P^\dagger$로부터의 이론적 발산)를 구분한다.

• 전제 A: 구성적 불공정성은 모델의 한계 구성이 철저히 정당화된 타겟으로부터 벗어나는 것으로 정의된다.
• 전제 B: 운영 점수는 이 공정성 추정치를 적절히 추정한다. 본 논문은 이를 위해 세 가지 치환(유한한 생성, 출처 프록시, 비포괄적 구축 공간)이 필요함을 인정하며, 이것이 완전히 해결되었다고 주장하지 않는다.

3. 실험 설정: AP-Bench

이 프레임워크를 구현하기 위해 저자들은 6개의 프런티어 모델(GPT-5.6, Claude Sonnet 5, Gemini 3.5 Flash, Kimi K3, Llama 4 Maverick, Qwen3.7-Max)로부터 추출된 51,840개의 생성을 포함하는 벤치마크인 AP-Bench를 도입한다.

• 범위: 12개 지리적 맥락, 6개 역할(CEO, 의사, 간호사, 엔지니어, 교사, 청소부), 셀당 30개 샘플.
• 속성: 인종/민족, 종교, 성적 지향, 그리고 성별-섹스 진단.
• 프롬프팅: 암묵적 프롬프트(인구통계학적 속성 미지정)와 공동-도출(joint-elicitation) 프롬프트(인구통계학적 속성이 요청되었으나 값은 미지정된 경우)를 모두 사용한다.
• 타겟 구축: 지리적 멤버십 해석 하에 지리적 사전 지식을 허용하고, 거주 인구 데이터를 운영 출처로 사용하는 동일 인물 할당을 적용한다.

4. 주요 결과

4.1 지리 유래 타겟으로부터의 상당한 발산

공동 도출 하에서 모델들은 구축된 지리 유래 타겟으로부터 상당한 발산을 보인다.

• 복합 3모듈 젠슨-샤논 발산($JSD^2$)은 모델 전반에 걸쳐 0.508에서 0.606 사이의 범위를 나타낸다.
• 이러한 발산은 유한 샘플 변이(상위 99% 참조 엔드포인트 $\approx 0.033$)로는 설명될 수 없을 만큼 크다.

4.2 비교 대상 선택에 따른 민감도

본 논문은 공정성 평가가 타겟의 선택에 매우 민감하다는 것을 보여준다.

• 지리 유래 타겟을 동일 범주 비교 대상(인구 규모와 상관없이 각 범주에 동일한 확률을 할당)으로 교체할 경우, 생성물과 측정을 고정한 상태에서도 점수에 상당한 변화가 발생한다.
• $JSD^2$의 평균 절대 셀 레벨 변화는 0.279에서 0.355 사이이다.
• 이러한 변화는 모델의 순위를 바꾸며, 다양한 허용 임계값(12.8% ~ 40.0%) 하에서 셀의 '공정' 또는 '불공정' 분류를 변화시킨다.

4.3 직업적 타겟 vs 지리적 타겟

미국 CEO 생성에 대한 진단 분석 결과:

• 모델들은 높은 비율의 여성/여성 캐릭터(77%~100%)를 생성했다.
• 직업적 종사 타겟(여성 33.0%)과 비교했을 때, 이는 "성공"(패리티에 근접)으로 보인다.
• 지리적 멤버십 타겟(여성 49.8%)과 비교했을 때, 이 발산은 유의미하다.
• 본 논문은 직업적 타겟을 채택하는 것이 역사적 노동 시장 결과에 대한 충실성을 평가의 기준으로 삼는 것을 암묵적으로 약속하는 것이며, 이는 (예: 노동력 시뮬레이션과 같은) 독립적으로 방어된 목적이 없는 한 정당화될 수 없다고 주장한다.

5. 의의 및 주장

본 논문은 공정성 평가의 상태에 대해 겸손하지만 기초적인 주장을 펼친다.

1. 타겟 구축은 평가의 일부이다: 타겟 구축은 예비 단계가 아니라 공정성 평가의 핵심 구성 요소이다. 정당화 없이 타겟을 제공하는 것은 불충분하다.
2. 보편적 타겟은 없다: 본 논문은 보편적 타겟을 제공하는 것이 아니라, 특정 분포가 표준으로 기능하기 위해 필요한 규범적 가정을 명시하는 정당화 프레임워크(4단계 약속)를 제공한다.
3. 기본 타겟의 거부: 직업적 종사(occupational incumbency)는 독립적으로 방어된 목적(예: 노동력 충실도)이 없는 한 기본 타겟으로 기능할 수 없음을 주장한다. 지리적 멤버십은 "표현되는 공공"이라는 전제 하에 공공 세계 용도에 대해 허용된다.
4. 입증 책임: 본 논문의 주요 기여는 입증 책임을 전환하는 것이다. 평가자는 반드시 다음과 같이 명시적으로 답해야 한다: 무엇이 분포되는가? 누구의 표현이 계산되는가(그리고 왜 그러한가)? 어떻게 질량이 할당되는가? 어떤 출처가 타겟을 구체화하는가?
5. 해악과의 구별: 본 논문은 구축된 타겟으로부터의 발산을 측정하는 것이 진단적 단계이지, 표현적 해악(representational harm)에 대한 직접적인 척도는 아님을 명확히 한다. 해악을 확립하려면 노출, 메커니즘 및 규모에 대한 추가적인 전제가 필요하다.

저자들은 평가자가 특정 분포가 왜 표준이 되어야 하는지를 명시적으로 정당화할 수 있을 때까지, 공정성 평가는 미완성 상태로 남을 것이라고 결론짓는다. 이 프레임워크는 특정 타겟(예: 직업적 타겟)을 거부할 수 있게 하는 동시에, 그 전제가 명시적으로 진술된다면 다른 방어된 구축(예: 교정적 타겟)의 가능성을 열어둔다.