AIWizards at MULTIPRIDE: A Hierarchical Approach to Slur Reclamation Detection

1. Il Problema: Rilevamento della Riappropriazione degli Insulti

Il compito centrale affrontato è la rilevazione della riappropriazione degli insulti (slur reclamation) nei social media. Questo rappresenta una sfida fondamentale per i sistemi di rilevamento dell'hate speech perché lo stesso termine lessicale può avere due significati opposti a seconda del contesto:

• Uso offensivo: Derogatorio, rivolto contro un gruppo.
• Uso riappropriato: Neutro, positivo o di affermazione identitaria all'interno del gruppo (in-group).

I modelli di classificazione basati solo sul testo faticano a distinguere queste sfumature perché l'interpretazione dipende da fattori extra-linguistici, come l'identità sociale dell'autore e il contesto pragmatico. Il compito Subtask B di EVALITA 2026 (MultiPRIDE) offre un'opportunità unica fornendo, oltre al tweet, anche la biografia dell'utente, permettendo ai modelli di sfruttare il contesto dell'autore.

2. Metodologia: Un Approccio Gerarchico a Doppio Encoder

Gli autori propongono un'architettura gerarchica a doppio encoder basata sull'ipotesi che l'identità dell'utente (in particolare l'appartenenza alla comunità LGBTQ+) sia un forte predittore dell'uso riappropriato degli insulti.

Il sistema si articola in due fasi principali:

A. Encoder Utente e Labeling Debole (Weak Supervision)

Poiché non si dispone di etichette vere e proprie sull'identità LGBTQ+ degli utenti (per motivi di privacy e accuratezza), gli autori utilizzano un approccio di supervisione debole:

1. Proxy Labeling: Un Large Language Model (LLM), specificamente DeepSeek-V3.2, analizza la concatenazione del tweet e della biografia dell'utente per assegnare un'etichetta binaria "fuzzy" (affiliato vs non affiliato alla comunità LGBTQ+).
2. Addestramento dell'Encoder Utente: Un modello BERT-like viene addestrato su queste etichette proxy per imparare a codificare segnali sociolinguistici e di identità dall'input testuale. Questo encoder non cerca di verificare l'identità reale, ma di catturare segnali contestuali utili per il compito principale.

B. Architettura a Doppio Encoder con Fusione

Il modello finale per il compito di rilevamento della riappropriazione utilizza due encoder paralleli che processano lo stesso input (tweet + biografia):

1. Text Encoder: Addestrato direttamente sul compito di classificazione della riappropriazione (hate speech detection).
2. User Encoder: Addestrato sul compito proxy di identificazione dell'affiliazione (come descritto sopra).

Meccanismo di Fusione (Gating):
Le rappresentazioni latenti dei due encoder ($h_{text}$ e $h_{user}$) vengono fuse dinamicamente tramite un meccanismo di gating appreso.

• Viene calcolato un vettore di gate $g$ che determina quanto pesare il contenuto testuale rispetto al contesto dell'utente per ogni istanza specifica.
• La rappresentazione fusa è data da: $h_{fused} = g \odot h_{text} + (1 - g) \odot h_{user}$.

Questa strategia permette al modello di bilanciare i segnali linguistici locali con i segnali sociolinguistici dell'autore.

3. Contributi Chiave

• Framework Modulare: Introduzione di un'architettura che separa esplicitamente la codifica del contenuto testuale da quella del contesto dell'utente, permettendo una fusione dinamica.
• Utilizzo Etico di Proxy: Uso di etichette generate da LLM come segnale di supervisione debole per l'identità, evitando di fare previsioni dirette su attributi protetti degli utenti, ma utilizzando tali segnali per migliorare la rappresentazione del contesto.
• Validazione dell'Approccio Gerarchico: Dimostrazione che è possibile integrare informazioni sull'identità dell'autore senza degradare le prestazioni, offrendo una base per futuri miglioramenti.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dataset in Italiano e Spagnolo.

• Prestazioni: Il modello proposto (Dual-Encoder) ha raggiunto prestazioni statisticamente equivalenti rispetto a un forte baseline basato su BERT (fine-tuning standard).
  • Italiano: F1 ~0.88-0.90 (simile al baseline).
  • Spagnolo: F1 ~0.64-0.70 (simile al baseline).
• Analisi delle Differenze: Il divario di prestazioni tra italiano e spagnolo è attribuito principalmente alle differenze negli encoder di base (il modello italiano era pre-addestrato su task di hate speech, mentre quello spagnolo era un modello multilingue generico) e non a differenze intrinseche delle lingue.
• Analisi degli Errori: Il modello tende a commettere errori quando l'uso dell'insulto è chiaramente ostile ma contiene termini specifici; in questi casi, i segnali contestuali dell'utente possono talvolta sovrastare l'evidenza lessicale negativa.

5. Significato e Conclusioni

Il lavoro non mira a superare drasticamente i benchmark attuali (che sono già molto forti), ma a dimostrare la fattibilità e la modularità di un approccio che integra il contesto dell'utente.

• Implicazioni: L'approccio conferma che la modellazione gerarchica dei segnali sociolinguistici è una direzione valida.
• Futuro: L'architettura è estendibile per includere altri segnali contestuali (es. reti sociali, contenuti multimodali) o meccanismi di fusione più sofisticati.
• Rilascio: Il codice è stato reso pubblico su GitHub per favorire la riproducibilità e lo sviluppo futuro.

In sintesi, il paper propone una soluzione elegante per un problema complesso (ambiguità semantica degli insulti) sfruttando il contesto dell'autore attraverso un'architettura neurale ibrida, ponendo le basi per modelli di hate speech più consapevoli del contesto sociale.