Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender Perturbation over Fairytale Texts

Titolo

Il Principe Riceverà il Bacio del Vero Amore? Sulla Sensibilità del Modello alla Perturbazione di Genere nei Testi delle Fiabe

1. Il Problema

Le fiabe tradizionali, spesso utilizzate nell'educazione infantile per insegnare la comprensione narrativa e la struttura della storia, sono piene di stereotipi di genere radicati (es. il principe coraggioso che salva la principessa indifesa). Questi bias non solo influenzano la percezione dei bambini, ma vengono appresi e perpetuati dai Modelli Linguistici (LM) e dai Grandi Modelli Linguistici (LLM) durante l'addestramento su corpus di testo.
Il problema centrale affrontato dagli autori è: quanto dipendono i modelli di QA (Question Answering) sugli stereotipi di genere appresi? Se si modificano i ruoli di genere in una storia (es. trasformando un principe in una principessa), il modello mantiene la sua capacità di comprensione o fallisce perché le sue previsioni si basano su correlazioni di genere apprese piuttosto che sulla logica narrativa?

2. Metodologia

Gli autori hanno utilizzato il dataset FairytaleQA (composto da 278 fiabe culturalmente diverse e 10.580 domande) e hanno applicato la Counterfactual Data Augmentation (CDA) per creare varianti del dataset in cui i ruoli di genere sono invertiti, mantenendo invariata la verità fondamentale (ground truth) delle risposte.

Approcci di Perturbazione

Sono stati testati tre metodi per generare dati controfattuali:

1. Traduzione basata su regole (Rule-based): Utilizza un dizionario statico di coppie di parole di genere (es. prince/princess, seamstress/tailor) e sostituisce i token corrispondenti. È preciso ma limitato dal vocabolario statico.
2. Riscrittura tramite LLM: Utilizza un modello generativo (GPT-3.5-turbo) per riscrivere l'intero testo invertendo i generi. Offre maggiore flessibilità ma può introdurre incoerenze o modificare erroneamente aggettivi non di genere.
3. Traduzione basata su regole assistita da LLM: Un approccio ibrido che combina la precisione delle regole con l'adattabilità degli LLM. Se una parola non è nel dizionario, viene interrogato l'LLM per trovare il corrispettivo di genere opposto, che viene poi aggiunto al dizionario. Questo metodo ha mostrato il miglior equilibrio tra qualità e consistenza.

Esperimenti e Valutazione

• Modelli Base: Sono stati utilizzati T5 e BART, fine-tunati sul dataset originale e sulle varianti controfattuali.
• Scenari di Addestramento:
  1. Addestramento solo su dati originali.
  2. Addestramento solo su dati controfattuali.
  3. Addestramento su un mix (50% originale + 50% controfattuale).
  4. Addestramento su dati completi (100% originale + 100% controfattuale).
• Metriche: Valutazione tramite ROUGE-L F1 per le risposte QA e analisi della sensibilità tramite test t-poolled. È stata anche condotta una case study sulla generazione di nuove fiabe per valutare la propagazione dei bias.
• Attenzione ai Nomi Propri: I nomi propri (es. "Cenerentola") non sono stati modificati per evitare di introdurre nuovi bias culturali, testando invece la capacità del modello di associare pronomi e ruoli a nomi culturalmente specifici senza pregiudizi predefiniti.

3. Risultati Chiave

• Sensibilità agli Stereotipi: Quando i modelli fine-tunati su dati originali vengono testati su dati perturbati (controfattuali), si osserva un calo delle prestazioni. Questo dimostra che i modelli hanno appreso correlazioni di genere spurie e faticano a comprendere la storia quando i ruoli sono invertiti, specialmente nelle domande di tipo estrattivo (dove la risposta è esplicita nel testo).
• Robustezza tramite CDA: I modelli fine-tunati su dati controfattuali mostrano una maggiore robustezza verso narrazioni anti-stereotipate.
• Il Mix Ottimale: Il risultato più significativo è che i modelli addestrati su un mix del 50% di dati originali e 50% di dati controfattuali ottengono le prestazioni migliori. Questi modelli mantengono alta accuratezza sui dati originali (ruoli normativi) mentre dimostrano una resilienza superiore ai dati controfattuali, superando i modelli addestrati solo su dati controfattuali.
• Analisi per Tipo di Domanda: Le domande astrattive (che richiedono ragionamento, causalità, previsione) mostrano un calo di prestazioni minore rispetto a quelle estrattive quando i dati sono perturbati. Questo suggerisce che per le domande astrattive il modello deve ragionare sul contesto, mentre per quelle estrattive tende a fare affidamento su memorizzazione di pattern di genere appresi.
• Generazione Inclusiva: Nella case study sulla generazione di fiabe, le storie generate da prompt basati su dati controfattuali hanno mostrato:
  • Meno propagazione di bias (punteggio di -0.733 in meno rispetto alle generazioni originali).
  • Maggiore coerenza logica e continuità.
  • Una maggiore enfasi sui tratti della personalità dei personaggi piuttosto che sull'aspetto fisico.

4. Contributi Principali

1. Valutazione della Sensibilità: Dimostrazione empirica che i modelli QA sulle fiabe sono sensibili alle perturbazioni di genere, rivelando una dipendenza dagli stereotipi appresi.
2. Metodologia Ibrida CDA: Introduzione di un approccio di augmentazione dei dati che combina regole e LLM per gestire efficacemente la perturbazione di genere in domini narrativi complessi.
3. Strategia di Addestramento Ibrida: Evidenza che l'addestramento su un mix bilanciato di dati normativi e controfattuali è la strategia ottimale per ottenere modelli sia accurati che robusti, evitando il "catastrophic forgetting" dei ruoli tradizionali mentre si acquisisce flessibilità.
4. Impatto sulla Generazione: Dimostrazione che l'uso di dati controfattuali nell'addestramento non solo migliora la comprensione, ma guida anche i modelli generativi a produrre narrazioni più inclusive e meno stereotipate.

5. Significato e Implicazioni

Questo lavoro è significativo per lo sviluppo di NLP equo e inclusivo. Dimostra che la semplice rimozione dei bias non è sufficiente; è necessario esporre attivamente i modelli a scenari controfattuali durante l'addestramento per "rompere" le correlazioni spurie.

• Educazione: Fornisce un metodo per creare dataset educativi più inclusivi, permettendo ai bambini di interagire con storie dove i ruoli di genere sono fluidi e diversificati.
• Mitigazione del Bias: Offre una strategia pratica (CDA ibrida) che può essere applicata ad altri domini oltre alle fiabe, per mitigare bias legati a stereotipi e micro-aggressioni che non sono semplici bias occupazionali.
• Limitazioni: Gli autori riconoscono che il loro approccio opera ancora all'interno del binario di genere normativo (maschio/femmina) e non include individui non-binari o di genere non conforme. Inoltre, l'analisi si concentra principalmente sul genere, mentre le fiabe contengono bias intersezionali (classe, bellezza, età) che richiedono futuri approfondimenti.

In conclusione, il paper suggerisce che integrare esempi controfattuali anti-stereotipati è una strategia efficace per mitigare i bias e promuovere l'inclusività nelle applicazioni di intelligenza artificiale basate sul linguaggio.