Resumen Técnico: ¿Quién debe ser generado? Justificación de los objetivos demográficos en la generación de código abierto

1. Planteamiento del problema: El problema del objetivo ausente

El artículo aborda una brecha fundamental en la evaluación de la equidad de los modelos generativos de código abierto (texto e imagen). Mientras que las auditorías de equidad existentes miden la composición demográfica de los resultados del modelo frente a una distribución objetivo, estas suelen asumir que el objetivo es suministrado o evidente por sí mismo. Esto crea el problema del objetivo ausente: cuando un prompt especifica un rol y una ubicación pero deja sin especificar los atributos demográficos (p. ej., género, raza), el modelo produce una distribución empírica ($\hat{q}_k$), pero no existe un estándar justificado ($P^*$) contra el cual evaluarlo.

Los autores argumentan que los criterios clásicos de equidad de grupo (p. ej., paridad demográfica, igualdad de oportunidades) presuponen atributos sensibles en el lado de la entrada y decisiones sobre individuos existentes. Estos criterios no seleccionan un objetivo agregado en el lado de la salida para la generación ficticia donde no existe una identidad de base (ground-truth). En consecuencia, las evaluaciones actuales suelen adoptar implícitamente la composición ocupacional actual o las distribuciones de categorías iguales como objetivos sin justificar por qué esas distribuciones específicas deberían regir la evaluación.

2. Metodología: Un marco de cuatro compromisos

Los autores formalizan la construcción del objetivo como una tarea evaluativa distinta que requiere cuatro compromisos lógicamente diferenciados. Este marco separa la construcción de un objetivo de la sentencia de equidad.

2.1 Los cuatro compromisos

1. Objeto evaluativo, uso y unidad de salida:

   • Objeto: La distribución de las posibilidades de representación a través de generaciones repetidas, no la precisión de predecir a una persona real específica.
   • Uso: Para el estudio, se declara un "uso en el mundo público contemporáneo", preguntando cómo las generaciones distribuyen la posibilidad de ser portador de un rol en un mundo social nombrado.
   • Unidad: Cada personaje focal generado es una observación de salida.

2. Admisibilidad previa (Identificación y defensa de la relación):

   • Un prior demográfico (p. ej., composición de la población, composición de la fuerza laboral) solo se admite si el evaluador identifica la relación bajo la cual se propone y defiende por qué esa relación otorga a las personas identificadas una posición representacional.
   • Membresía geográfica: Admitida para el uso en el mundo público. La ubicación del prompt identifica al público representado; el rol no restringe quién cuenta como miembro de ese público.
   • Incumbencia ocupacional: No admitida para el uso en el mundo público bajo la interpretación de incumbencia. La composición actual de la fuerza laboral es un resultado derivado de procesos del mercado laboral (educación, discriminación, barreras) y no se justifica por sí misma como un estándar de representación sin un objetivo independiente (p. ej., simulación de la fuerza laboral).

3. Asignación:

   • Una vez admitido un dominio, una regla debe determinar cómo se divide la masa representacional.
   • Asignación de personas iguales: En ausencia de una distinción defendida relevante para la asignación, los miembros del público admitido reciben un peso igual. Esto conduce a participaciones de categoría proporcionales a las participaciones de la población del público admitido.
   • Invariancia del rol: Bajo esta construcción, el objetivo es invariante al rol ($P^*(A=a|G,R) = P^*(A=a|G)$) porque el rol no altera el público admitido ni la regla de asignación.

4. Operacionalización:

   • El objetivo abstracto se instancia utilizando una taxonomía declarada, un mapeo y una fuente de referencia (p. ej., datos de población residente de censos o estadísticas de la ONU).
   • El artículo distingue entre admisibilidad (justificación normativa) y adecuación de la medición (si el proxy de la fuente mide con precisión el público admitido).

2.2 Las premisas puente

El artículo distingue entre la puntuación operativa (la discrepancia computada entre $\hat{q}_k$ y el objetivo construido $P^*_{geo}$) y el estimando de equidad (la divergencia teórica de un objetivo exhaustivamente justificado $P^\dagger$).

• Premisa A: La inequidad composicional se define como la divergencia de la composición límite del modelo respecto al objetivo exhaustivamente justificado.
• Premisa B: La puntuación operativa estima adecuadamente este estimando de equidad. El artículo reconoce que esto requiere tres sustituciones (generación finita, proxy de la fuente y espacio de construcción no exhaustivo) y no afirma que estas estén totalmente resueltas.

3. Configuración experimental: AP-Bench

Para instanciar este marco, los autores introducen AP-Bench, un banco de pruebas que comprende 51,840 generaciones de seis modelos de frontera (GPT-5.6, Claude Sonnet 5, Gemini 3.5 Flash, Kimi K3, Llama 4 Maverick, Qwen3.7-Max).

• Alcance: 12 contextos geográficos, 6 roles (CEO, médico, enfermero, ingeniero, profesor, limpiador), y 30 muestras por celda.
• Atributos: Raza/etnia, religión, orientación sexual y un diagnóstico de género-a-sexo.
• Prompting: Tanto prompts implícitos (demografía no especificada) como de elicitación conjunta (demografía solicitada explícitamente pero con valores no especificados).
• Construcción del objetivo: Admite el prior geográfico bajo una interpretación de membresía geográfica y aplica una asignación de personas iguales utilizando datos de población residente como fuente operativa.

4. Resultados clave

4.1 Divergencia sustancial de los objetivos derivados de la geografía

Bajo la elicitación conjunta, los modelos exhiben una divergencia significativa respecto a los objetivos construidos derivados de la geografía.

• La divergencia de Jensen-Shannon compuesta de tres módulos ($JSD^2$) oscila entre 0.508 y 0.606 entre los modelos.
• Esta divergencia es mucho mayor de lo que puede explicarse por la variación de muestras finitas (punto de referencia del percentil superior del 99% $\approx 0.033$).

4.2 Sensibilidad a la elección del comparador

El artículo demuestra que las evaluaciones de equidad son altamente sensibles a la elección de un objetivo.

• Reemplazar el objetivo derivado de la geografía con un comparador de categorías iguales (asignando una probabilidad igual a cada categoría independientemente del tamaño de la población) mientras se mantienen las generaciones y la medición fijas, produce cambios sustanciales en las puntuaciones.
• El cambio absoluto medio a nivel de celda en $JSD^2$ oscila entre 0.279 y 0.355.
• Este cambio altera las clasificaciones de los modelos y la clasificación de las celdas como "equitativas" o "inequitativas" bajo varios umbrales de tolerancia (el 12.8% al 40.0% de las celdas cambian su clasificación).

4.3 Objetivos ocupacionales vs. geográficos

En un análisis diagnóstico de las generaciones de CEOs en EE. UU.:

• Los modelos generaron una alta proporción de personajes femeninos/mujeres (77%–100%).
• Comparado con el objetivo de incumbencia ocupacional (33.0% femenino), esto aparece como un "éxito" (más cercano a la paridad).
• Comparado con el objetivo de membresía geográfica (49.8% femenino), la divergencia es significativa.
• El artículo sostiene que adoptar el objetivo ocupacional implica un compromiso implícito con la fidelidad a los resultados históricos del mercado laboral, lo cual requiere una defensa separada (p. ej., simulación de la fuerza laboral) que no está presente en el uso declarado del mundo público.

5. Significado y afirmaciones

El artículo realiza afirmaciones modestas pero fundamentales sobre el estado de la evaluación de la equidad:

1. La construcción del objetivo es parte de la evaluación: La construcción del objetivo no es un paso preliminar, sino un componente central de la evaluación de la equidad. Suministrar un objetivo sin justificación es insuficiente.
2. No hay un objetivo universal: El artículo no proporciona un objetivo universal. En su lugar, ofrece un marco de justificación (los cuatro compromisos) que hace explícitos los supuestos normativos requeridos antes de que una distribución pueda servir como estándar.
3. Rechazo de los objetivos por defecto: Argumenta que la incumbencia ocupacional no puede servir como objetivo por defecto para la representación en el mundo público sin un objetivo defendido de forma independiente (como la fidelidad de la fuerza laboral). La membresía geográfica es admitida bajo una premisa de "público representado" para el uso declarado.
4. Carga de la prueba: La contribución principal es desplazar la carga de la prueba. Los evaluadores deben responder explícitamente: ¿Qué se está distribuyendo? ¿De quién cuenta la representación (y por qué)? ¿Cómo se asigna la masa? ¿Qué fuente instancia el objetivo?
5. Distinción del daño: El artículo aclara que medir la divergencia de un objetivo construido es un paso diagnóstico, no una medida directa del daño de representación. Establecer el daño requiere premisas adicionales sobre exposición, mecanismo y magnitud.

Los autores concluyen que hasta que los evaluadores puedan justificar explícitamente por qué una distribución específica merece ser el estándar, las evaluaciones de equidad seguirán estando incompletas. El marco permite el rechazo de objetivos específicos (p. ej., ocupacionales) mientras deja abierta la posibilidad de otras construcciones defendidas (p. ej., objetivos correctivos) siempre que sus premisas se declaren explícitamente.