Sintesi Tecnica: Chi dovrebbe essere generato? Giustificare i target demografici nella generazione open-ended

1. Definizione del problema: Il problema del target mancante

Il documento affronta una lacuna fondamentale nella valutazione dell'equità dei modelli generativi open-ended (testo e immagini). Mentre gli attuali audit di equità misurano la composizione demografica degli output del modello rispetto a una distribuzione target, essi tipicamente assumono che il target sia fornito o autoevidente. Ciò crea il problema del target mancante: quando un prompt specifica un ruolo e una località ma lascia non specificati gli attributi demografici (es. genere, razza), il modello produce una distribuzione empirica ($\hat{q}_k$), ma non esiste uno standard giustificato ($P^*$) rispetto al quale valutarla.

Gli autori sostengono che i classici criteri di equità di gruppo (es. parità demografica, uguaglianza di opportunità) presuppongono attributi sensibili sul lato input e decisioni riguardanti individui esistenti. Questi criteri non selezionano un target aggregato sul lato output per la generazione di personaggi fittizi dove non esiste un'identità di base (ground-truth). Di conseguenza, le attuali valutazioni adottano spesso implicitamente la composizione occupazionale attuale o distribuzioni tra categorie uguali come target, senza giustificare perché tali distribuzioni specifiche dovrebbero governare la valutazione.

2. Metodologia: Un framework a quattro impegni

Gli autori formalizzano la costruzione del target come un compito valutativo distinto che richiede quattro impegni logicamente separati. Questo framework separa la costruzione di un target dal verdetto di equità.

2.1 I quattro impegni

1. Oggetto, Uso e Unità di Output della valutazione:

   • Oggetto: La distribuzione delle possibilità rappresentazionali attraverso generazioni ripetute, non l'accuratezza nel predire una persona reale specifica.
   • Uso: Per lo studio, viene dichiarato un "uso nel mondo pubblico contemporaneo", chiedendo come le generazioni distribuiscano la possibilità di essere un portatore di un ruolo in un mondo sociale nominato.
   • Unità: Ogni personaggio focalizzato generato è un'osservazione di output.

2. Ammissibilità Previa (Identificazione e Difesa della Relazione):

   • Un prior demografico (es. composizione della popolazione, composizione della forza lavoro) è ammesso solo se l'evaluator identifica la relazione sotto la quale viene proposto e difende perché tale relazione conferisca alle persone identificate una posizione rappresentazionale.
   • Appartenenza Geografica: Ammessa per l'uso nel mondo pubblico. Il luogo indicato nel prompt identifica il pubblico rappresentato; il ruolo non limita chi conta come membro di quel pubblico.
   • Incumbentismo Occupazionale: Non ammesso per l'uso nel mondo pubblico sotto l'interpretazione dell'incumbentismo. L'attuale composizione della forza lavoro è un esito a valle di processi del mercato del lavoro (istruzione, discriminazione, barriere) e non si auto-giustifica come standard rappresentazionale senza un obiettivo indipendente (es. simulazione della forza lavoro).

3. Allocazione:

   • Una volta ammesso un dominio, una regola deve determinare come dividere la massa rappresentazionale.
   • Allocazione di Persone Uguali: In assenza di una distinzione rilevante per l'allocazione difesa, i membri del pubblico ammesso ricevono un peso uguale. Ciò porta a quote di categoria proporzionali alle quote di popolazione del pubblico ammesso.
   • Invarianza del Ruolo: Sotto questa costruzione, il target è invariante rispetto al ruolo ($P^*(A=a|G,R) = P^*(A=a|G)$) perché il ruolo non altera il pubblico ammesso o la regola di allocazione.

4. Operazionalizzazione:

   • Il target astratto viene istanziato utilizzando una tassonomia, una mappatura e una fonte di riferimento dichiarate (es. dati della popolazione residente da censimenti o statistiche ONU).
   • Il documento distingue tra ammissibilità (giustificazione normativa) e adeguatezza della misurazione (se la fonte proxy misura accuratamente il pubblico ammesso).

2.2 Le premesse ponte

Il documento distingue tra lo score operativo (la discrepanza calcolata tra $\hat{q}_k$ e il target costruito $P^*_{geo}$) e l'estimand di equità (la divergenza teorica dalla distribuzione target esaustivamente giustificata $P^\dagger$).

• Premessa A: L'ingiustizia composizionale è definita come la divergenza della composizione limite del modello dalla target esaustivamente giustificata.
• Premessa B: Lo score operativo stima adeguatamente questo estimand di equità. Il documento riconosce che ciò richiede tre sostituzioni (generazione finita, proxy di fonte e spazio di costruzione non esaustivo) e non sostiene che queste siano state completamente risolte.

3. Setup Sperimentale: AP-Bench

Per istanziare questo framework, gli autori introducono AP-Bench, un benchmark composto da 51.840 generazioni da sei modelli frontier (GPT-5.6, Claude Sonnet 5, Gemini 3.5 Flash, Kimi K3, Llama 4 Maverick, Qwen3.7-Max).

• Ambito: 12 contesti geografici, 6 ruoli (CEO, medico, infermiere, ingegnere, insegnante, addetto alle pulizie), e 30 campioni per cella.
• Attributi: Razza/etnia, religione, orientamento sessuale e un diagnostico genere-sesso.
• Prompting: Sia prompt impliciti (demografia non specificata) che prompt di elicitazione congiunta (demografia esplicitamente richiesta ma valori non specificati).
• Costruzione del Target: Ammette il prior geografico sotto un'interpretazione di appartenenza geografica e applica un'allocazione di persone uguali utilizzando i dati della popolazione residente come fonte operativa.

4. Risultati Chiave

4.1 Significativa divergenza dai target derivati dalla geografia

Sotto l'elicitazione congiunta, i modelli mostrano una significativa divergenza dai target costruiti derivati dalla geografia.

• La divergenza di Jensen-Shannon composita a tre moduli ($JSD^2$) varia da 0,508 a 0,606 tra i modelli.
• Questa divergenza è molto più grande di quanto possa essere spiegata dalla variazione del campione finito (endpoint di riferimento superiore all'1% $\approx 0,033$).

4.2 Sensibilità alla scelta del comparatore

Il documento dimostra che le valutazioni di equità sono altamente sensibili alla scelta di un target.

• Sostituendo il target derivato dalla geografia con un comparatore di categorie uguali (assegnando una probabilità uguale a ogni categoria indipendentemente dalla dimensione della popolazione) mantenendo costanti generazioni e misurazione, si producono cambiamenti sostanziali nei punteggi.
• Il cambiamento assoluto medio a livello di cella in $JSD^2$ varia da 0,279 a 0,355.
• Questo spostamento altera il ranking dei modelli e la classificazione delle celle come "eque" o "ineque" sotto varie soglie di tolleranza (dal 12,8% al 40,0% delle celle cambia classificazione).

4.3 Target Occupazionali vs. Geografici

In un'analisi diagnostica sulle generazioni di CEO negli Stati Uniti:

• I modelli hanno generato un'alta quota di personaggi femminili/donne (77%–100%).
• Rispetto al target di incumbentismo occupazionale (33,0% femmine), questo appare come un "successo" (più vicino alla parità).
• Rispetto al target di appartenenza geografica (49,8% femmine), la divergenza è significativa.
• Il documento sostiene che adottare il target occupazionale implica un impegno della valutazione verso la fedeltà agli esiti storici del mercato del lavoro, il che richiede una difesa separata (es. simulazione della forza lavoro) non presente nella dichiarata funzione di uso nel mondo pubblico.

5. Significato e Rivendicazioni

Il documento presenta rivendicazioni modeste ma fondamentali sullo stato della valutazione dell'equità:

1. La costruzione del target è parte della valutazione: La costruzione del target non è un passaggio preliminare, ma un componente centrale della valutazione dell'equità. Fornire un target senza giustificazione è insufficiente.
2. Nessun target universale: Il documento non fornisce un target universale. Al contrario, fornisce un framework di giustificazione (i quattro impegni) che rende espliciti gli assunti normativi richiesti prima che una distribuzione possa servire come standard.
3. Rifiuto dei target predefiniti: Sostiene che l'incumbentismo occupazionale non può servire come target predefinito per la rappresentazione nel mondo pubblico senza un obiettivo indipendentemente difeso (come la fedeltà alla forza lavoro). L'appartenenza geografica è ammessa sotto la premessa di "pubblico rappresentato" per l'uso dichiarato.
4. Onere della prova: Il contributo principale è lo spostamento dell'onere della prova. Gli evaluator devono rispondere esplicitamente: Cosa viene distribuito? La rappresentazione di chi conta (e perché)? Come viene allocata la massa? Quale fonte istanzia il target?
5. Distinzione dal danno: Il documento chiarisce che misurare la divergenza da un target costruito è un passo diagnostico, non una misura diretta del danno rappresentazionale. Stabilire il danno richiede premesse aggiuntive su esposizione, meccanismo e magnitudo.

Gli autori concludono che finché gli evaluator non potranno giustificare esplicitamente perché una specifica distribuzione meriti di essere lo standard, le valutazioni di equità rimarranno incomplete. Il framework permette di rifiutare specifici target (es. occupazionali) lasciando comunque aperta la possibilità di altre costruzioni difese (es. target correttivi), a condizione che le loro premesse siano esplicitamente dichiarate.