Résumé technique : Qui doit être généré ? Justifier les cibles démographiques dans la génération ouverte

1. Énoncé du problème : Le problème de la cible manquante

L'article traite d'une lacune fondamentale dans l'évaluation de l'équité des modèles génératifs ouverts (texte et image). Bien que les audits d'équité existants mesurent la composition démographique des sorties du modèle par rapport à une distribution cible, ils supposent généralement que la cible est fournie ou évidente. Cela crée le problème de la cible manquante : lorsqu'un prompt spécifie un rôle et un lieu mais laisse les attributs démographiques (ex. : genre, race) non spécifiés, le modèle produit une distribution empirique ($\hat{q}_k$), mais il n'existe aucun standard justifié ($P^*$) contre lequel l'évaluer.

Les auteurs soutiennent que les critères classiques d'équité de groupe (ex. : parité démographique, égalité des chances) présupposent des attributs sensibles côté entrée et des décisions concernant des individus existants. Ces critères ne sélectionnent pas une cible agrégée côté sortie pour une génération fictionnelle où aucune identité de vérité terrain n'existe. Par conséquent, les évaluations actuelles adoptent souvent implicitement la composition occupationnelle actuelle ou des distributions de catégories égales comme cibles sans justifier pourquoi ces distributions spécifiques devraient régir l'évaluation.

2. Méthodologie : Un cadre à quatre engagements

Les auteurs formalisent la construction de la cible comme une tâche d'évaluation distincte nécessitant quatre engagements logiquement distincts. Ce cadre sépare la construction d'une cible du verdict d'équité.

2.1 Les quatre engagements

1. Objet évaluatif, usage et unité de sortie :

   • Objet : La distribution des possibilités représentationnelles à travers des générations répétées, et non l'exactitude de la prédiction d'une personne réelle spécifique.
   • Usage : Pour l'étude, un « usage dans le monde public contemporain » est déclaré, demandant comment les générations distribuent la possibilité d'être un porteur de rôle dans un monde social nommé.
   • Unité : Chaque personnage focal généré est une observation de sortie.

2. Admissibilité préalable (Identification et défense de la relation) :

   • Un a priori démographique (ex. : composition de la population, composition de la main-d'œuvre) n'est admis que si l'évaluateur identifie la relation sous laquelle il est proposé et défend pourquoi cette relation accorde aux personnes identifiées un statut représentationnel.
   • Appartenance géographique : Admise pour l'usage dans le monde public. Le lieu du prompt identifie le public représenté ; le rôle ne restreint pas qui compte comme membre de ce public.
   • Incumbence occupationnelle : Non admise pour l'usage dans le monde public sous l'interprétation de l'incumbence. La composition actuelle de la main-d'œuvre est un résultat en aval des processus du marché du travail (éducation, discrimination, barrières) et ne se justifie pas d'elle-même comme un standard de représentation sans un objectif indépendant (ex. : simulation de la main-d'œuvre).

3. Allocation :

   • Une fois qu'un domaine est admis, une règle doit déterminer comment la masse représentationnelle est divisée.
   • Allocation par personne égale : En l'absence d'une distinction pertinente pour l'allocation défendue, les membres du public admis reçoivent un poids égal. Cela conduit à des parts de catégories proportionnelles aux parts de la population du public admis.
   • Invariance du rôle : Sous cette construction, la cible est invariante par rapport au rôle ($P^*(A=a|G,R) = P^*(A=a|G)$) car le rôle ne modifie ni le public admis ni la règle d'allocation.

4. Opérationnalisation :

   • La cible abstraite est instanciée à l'aide d'une taxonomie déclarée, d'une cartographie et d'une source de référence (ex. : données de la population résidente provenant de recensements ou de statistiques de l'ONU).
   • Le papier distingue entre l'admissibilité (justification normative) et l'adéquation de la mesure (si le proxy de la source mesure avec précision le public admis).

2.2 Les prémisses de pontage

Le papier distingue l'indice opérationnel (la divergence calculée entre $\hat{q}_k$ et la cible construite $P^*_{geo}$) et l'estimand d'équité (la divergence théorique par rapport à une cible exhaustivement justifiée $P^\dagger$).

• Prémisse A : L'inéquité compositionnelle est définie comme la divergence de la composition limite du modèle par rapport à la cible exhaustivement justifiée.
• Prémisse B : L'indice opérationnel estime adéquatement cet estimand d'équité. Le papier reconnaît que cela nécessite trois substitutions (génération finie, proxy de source et espace de construction non exhaustif) et ne prétend pas que celles-ci sont pleinement résolues.

3. Configuration expérimentale : AP-Bench

Pour instancier ce cadre, les auteurs introduisent AP-Bench, un benchmark comprenant 51 840 générations de six modèles de pointe (GPT-5.6, Claude Sonnet 5, Gemini 3.5 Flash, Kimi K3, Llama 4 Maverick, Qwen3.7-Max).

• Portée : 12 contextes géographiques, 6 rôles (CEO, médecin, infirmier, ingénieur, enseignant, agent d'entretien), et 30 échantillons par cellule.
• Attributs : Race/ethnicité, religion, orientation sexuelle, et un diagnostic genre-sexe.
• Prompting : À la fois des prompts implicites (démographies non spécifiées) et des prompts d'élicitation conjointe (démographies explicitement demandées mais valeurs non spécifiées).
• Construction de la cible : Admet l'a priori géographique sous une interprétation d'appartenance géographique et applique une allocation par personne égale en utilisant les données de la population résidente comme source opérationnelle.

4. Résultats clés

4.1 Divergence substantielle par rapport aux cibles dérivées de la géographie

Sous élicitation conjointe, les modèles présentent une divergence significative par rapport aux cibles dérivées de la géographie construites.

• La divergence de Jensen-Shannon composite à trois modules ($JSD^2$) varie de 0,508 à 0,606 selon les modèles.
• Cette divergence est bien plus grande que ce qui peut être expliqué par la variation d'échantillonnage fini (point de référence supérieur de 99 % $\approx 0,033$).

4.2 Sensibilité au choix du comparateur

Le papier démontre que les évaluations d'équité sont hautement sensibles au choix de la cible.

• Remplacer la cible dérivée de la géographie par un comparateur de catégories égales (attribuant une probabilité égale à chaque catégorie indépendamment de la taille de la population) tout en maintenant les générations et la mesure fixes produit des changements substantiels dans les scores.
• Le changement absolaire moyen au niveau de la cellule pour $JSD^2$ varie de 0,279 à 0,355.
• Ce décalage modifie le classement des modèles et la classification des cellules comme « équitables » ou « inéquitables » sous divers seuils de tolérance (12,8 % à 40,0 % des cellules changent de classification).

4.3 Cibles occupationnelles vs géographiques

Dans une analyse diagnostique des générations de CEO aux États-Unis :

• Les modèles ont généré une part élevée de personnages féminins/femmes (77 %–100 %).
• Comparé à la cible d'incumbence occupationnelle (33,0 % de femmes), cela apparaît comme un « succès » (plus proche de la parité).
• Comparé à la cible d'appartenance géographique (49,8 % de femmes), la divergence est significative.
• Le papier soutient que l'adoption de la cible occupationnelle engage implicitement l'évaluation envers la fidélité aux résultats historiques du marché du travail, ce qui nécessite une défense séparée (ex. : simulation de la main-d'œuvre) absente de l'usage du monde public déclaré.

5. Signification et revendications

Le papier formule des revendications modestes mais fondamentales concernant l'état de l'évaluation de l'équité :

1. La construction de la cible fait partie de l'évaluation : La construction de la cible n'est pas une étape préliminaire mais une composante centrale de l'évaluation de l'équité. Fournir une cible sans justification est insuffisant.
2. Pas de cible universelle : Le papier ne fournit pas de cible universelle. Au lieu de cela, il fournit un cadre de justification (les quatre engagements) qui rend explicites les hypothèses normatives requises avant qu'une distribution puisse servir de standard.
3. Rejet des cibles par défaut : Il soutient que l'incumbence occupationnelle ne peut servir de cible par défaut pour la représentation du monde public sans un objectif indépendamment défendu (comme la fidélité à la main-d'œuvre). L'appartenance géographique est admise sous un prémisse d'« appartenance au public représenté ».
4. Charge de la preuve : La principale contribution est de déplacer la charge de la preuve. Les évaluateurs doivent répondre explicitement : Qu'est-ce qui est distribué ? Qui compte dans la représentation (et pourquoi) ? Comment la masse est-elle allouée ? Quelle source instancie la cible ?
5. Distinction de la nuisance (Harm) : Le papier clarifie que mesurer la divergence par rapport à une cible construite est une étape diagnostique, et non une mesure directe du préjudice de représentation. Établir un préjudice nécessite des prémisses supplémentaires concernant l'exposition, le mécanisme et l'ampleur.

Les auteurs concluent que tant que les évaluateurs ne peuvent pas justifier explicitement pourquoi une distribution spécifique mérite d'être le standard, les évaluations d'équité restent incomplètes. Le cadre permet le rejet de cibles spécifiques (ex. : occupationnelles) tout en laissant ouverte la possibilité d'autres constructions défendues (ex. : cibles correctives) à condition que leurs prémisses soient explicitement énoncées.