Aligning Implied Statements for Implicit Hate Speech Generalizability with Context-Bounded Semi-hard Negative Mining

Sintesi Tecnica: Allineamento delle Enunciazioni Implicite per la Generalizzabilità dell'Hate Speech Implicito tramite Mining di Negativi Semi-Hard a Contesto Vincolato

Definizione del Problema
Classificare l'hate speech implicito rimane una sfida significativa perché l'intento d'odio è spesso mascherato attraverso insinuazioni, sarcasmo, eufemismi e domande retoriche piuttosto che tramite insulti espliciti. Di conseguenza, le caratteristiche testuali superficiali sono spesso insufficienti per il rilevamento. Una sfida secondaria è la sovrapposizione semantica: i post che prendono di mira lo stesso gruppo demografico spesso condividono contenuti tematici nonostante abbiano etichette diverse (hate vs. non-hate), il che sfuma i confini decisionali.

I precedenti approcci di apprendimento contrastivo supervisionato (SCL), come IMPCON e SHAREDCON, tentano di affrontare questo problema attirando i post verso le loro enunciazioni implicite annotate dagli umani o verso cluster semantici condivisi. Tuttavia, lo SCL standard tratta la maggior parte degli altri esempi nel batch come negativi. Nei dataset di hate speech implicito, molti vicini prossimi differiscono solo leggermente nell'intento; respingere questi "falsi negativi" può distorcere i vicinati locali, portare all'overfitting su scorciatoie specifiche del dataset e ostacolare la generalizzazione cross-dominio.

Metodologia
Gli autori propongono IMPSH (Implicit Hate with Semi-hard mining), un framework basato su triplette progettato per migliorare la generalizzazione concentrando l'apprendimento sui "vicini confondibili" piuttosto che respingere tutti i non-positivi. Il metodo ottimizza congiuntamente una loss di cross-entropy standard ($L_{CE}$) e una loss di tripletta ($L_{triplet}$).

1. Costruzione della Coppia Positiva:

   • IMPSH: Per i post d'odio, la coppia positiva è formata dal post e dalla sua enunciazione implicita annotata dall'uomo. Per i post non-hate, utilizza l'augmentation dei dati (sostituzione di sinonimi) per creare una coppia positiva.
   • AUGSH: Una variante di ablazione che utilizza coppie positive basate sull'augmentation per tutte le istanze (sia hate che non-hate) per isolare il contributo della supervisione dell'enunciazione implicita.

2. Mining di Negativi Semi-Hard a Contesto Vincolato:
   Inveve di trattare tutti gli esempi con etichetta opposta in un batch come negativi, il framework seleziona un negativo semi-hard. Questo negativo deve:

   • Appartenere all'etichetta opposta.
   • Essere più lontano dall'ancora rispetto alla coppia positiva ($d_{pos} < d_{neg}$).
   • Rientrare comunque in una specifica banda di margine ($d_{neg} < d_{pos} + \alpha$).

   Ciò assicura che il modello si concentri sugli aggiornamenti su casi realistici e confondibili (near-misses) senza respingere eccessivamente contenuti ampiamente simili che potrebbero condividere gli stessi argomenti ma differire nell'intento.

3. Obiettivo di Addestramento:
   La loss finale è $L = L_{CE} + \lambda L_{triplet}$, dove la loss di tripletta utilizza la selezione basata sul margine descritta sopra.

Contributi Chiave

• Framework di Tripletta con Semi-Hard Mining: Gli autori introducono un framework che evita la strategia "repel-all" dello SCL standard, utilizzando invece il mining di negativi semi-hard a contesto vincolato per separare istanze semanticamente vicine con etichette opposte.
• Varianti IMPSH e AUGSH: La proposta include due obiettivi specifici: IMPSH (sfruttando le enunciazioni implicite dove disponibili) e AUGSH (affidandosi esclusivamente all'augmentation). Questo design permette un'analisi del segnale specifico aggiunto dalle annotazioni di implicazione.
• Valutazione Esaustiva: I metodi sono valutati su tre dataset (IHC, SBIC, DYNAHATE) utilizzando backbone BERT e HATEBERT, con analisi che coprono le prestazioni in-domain, il trasferimento cross-dataset e la geometria delle rappresentazioni (allineamento e uniformità).

Risultati
Il paper riporta i risultati attraverso diverse configurazioni di addestramento e test (ad esempio, addestramento su IHC, test su SBIC o DYNAHATE):

• Trasferimento Cross-Dataset: IMPSH dimostra una forte performance negli scenari di trasferimento. Quando addestrato su IHC con HATEBERT, IMPSH ottiene i migliori risultati su entrambi i target di trasferimento (SBIC e DYNAHATE). Quando addestrato su SBIC, IMPSH eguaglia o supera basi forti (come SHAREDCON e IMPCON) in diversi scenari di trasferimento, in particolare per DYNAHATE.
• Performance In-Domain: I risultati sono più eterogenei per la valutazione in-domain. In alcuni setting (ad esempio, IHC con BERT), IMPSH non supera la baseline più forte (SHAREDCON). Gli autori notano una tensione in cui gli obiettivi che meglio separano il dataset sorgente possono differire da quelli che meglio preservano il significato sotto i cambiamenti cross-dataset.
• Analisi delle Rappresentazioni:
  • Allineamento: IMPSH ottiene il miglior allineamento (coppie positive più strette) in quattro dei sei setting di train-test, indicando un clustering efficace delle coppie semanticamente correlate.
  • Uniformità: IMPSH mantiene una distribuzione globale competitiva, ottenendo la migliore uniformità in tre dei sei setting, inclusi entrambi i trasferimenti verso DYNAHATE.
  • Visualizzazione: Le proiezioni t-SNE mostrano che, mentre le baseline come IMPCON frammentano i confini di classe in cluster centrici sul target, IMPSH mantiene una separazione globale più chiara tra le classi "Hate" e "Non-Hate" attraverso i domini.
• Case Studies: L'analisi dei vicini più prossimi rivela che IMPSH raggruppa con successo temi d'odio coerenti (ad esempio, contesti misogini o omofobici), ma può ancora fallire a causa del bias tematico (dove l'argomento prevale sulla posizione) o di legami lessicali superficiali.

Significatività e Rivendicazioni
Il paper sostiene che IMPSH fornisce una mappatura più stabile, di tipo biunivoco, dai post alle loro insinuazioni sottostanti rispetto al tradizionale apprendimento di rappresentazione basato sul clustering. Separando esplicitamente istanze semanticamente vicine con etichette opposte attraverso il mining a contesto vincolato, il metodo mitiga la volatilità inerente al clustering non supervisionato e riduce la dipendenza da scorciatoie specifiche del dataset.

Gli autori posizionano IMPSH non come un sostituto dominante per tutto il lavoro precedente, ma come un obiettivo complementare che offre una separazione superiore negli scenari cross-data. Riconoscono i limiti, tra cui la sensibilità agli iperparametri del margine, la dipendenza dalle annotazioni delle enunciazioni implicite e i modesti guadagni rispetto alle baseline forti in alcuni setting in-domain. Il lavoro sottolinea che, sebbene il metodo migliori la generalizzazione, non elimina le difficoltà fondamentali del rilevamento dell'hate speech implicito, come il rumore nelle annotazioni e la complessità dei segnali pragmatici.