ttda704 at SemEval-2026 Task 4: Modeling Narrative Structures via Pseudonymization and Multi-View Sentence Alignment

Sintesi Tecnica: ttda704 a SemEval-2026 Task 4

Definizione del Problema
Il documento affronta il SemEval-2026 Task 4, che sfida i partecipanti a modellare la somiglianza narrativa e l'apprendimento delle rappresentazioni. La difficoltà principale risiede nel distinguere tra la sovrapposizione lessicale superficiale e la struttura narrativa profonda. Come osservato da Hatzel e Biemann (2024a), un confronto efficace tra storie richiede la cattura di dimensioni latenti quali i temi astratti, la progressione della trama (corso dell'azione) e gli esiti finali, piuttosto che affidarsi alla semplice corrispondenza di parole chiave o all'estrazione di eventi. Gli autori sottolineano che, sebbene i Large Language Models (LLM) generativi possano ragionare su queste ambiguità, il loro costo computazionale e la latenza li rendono impraticabili per compiti scalabili di recupero (retrieval) ed embedding. Di conseguenza, l'obiettivo è sviluppare un sistema efficiente, basato su embedding, capace di catturare le sfumature strutturali della narrazione senza fare affidamento sull'costosa inferenza generativa.

Metodologia
Gli autori propongono un framework di apprendimento contrastivo che utilizza sentence transformer sottoposti a fine-tuning, implementato attraverso due pipeline distinte corrispondenti ai track della sfida:

• Track A (Classificazione a Vista Singola): Questa pipeline si concentra nel determinare quale tra due storie candidate sia narrativamente più vicina a una storia ancora (anchor story).

  • Pseudonimizzazione: Per mitigare le correlazioni spurie causate da nomi di entità specifici (ad esempio, sovrapposizione di personaggi o luoghi), gli autori applicano un passaggio di normalizzazione referenziale. Utilizzando fastcoref e spaCy, mappano le menzioni ripetute della stessa entità in segnaposto generici coerenti (ad esempio, "Personaggio_A"), preservando al contempo la coreferenza interna alla storia. Ciò costringe il modello ad attendere alla progressione semantica piuttosto che all'identità lessicale.
  • Architettura e Addestramento: Il sistema utilizza il modello all-mpnet-base-v2 come backbone. Per prevenire l'overfitting e preservare la conoscenza linguistica pre-addestrata, viene impiegata una strategia di "Smart Layer Freezing": i parametri di embedding e il 40% inferiore dei layer del transformer sono congelati, mentre i layer superiori vengono sottoposti a fine-tuning. Il modello è addestrato utilizzando la triplet-margin loss su dati sintetici.

• Track B (Apprendimento di Rappresentazione Multi-Vista): Questa pipeline genera embedding vettoriali in cui la similarità del coseno riflette l'affinità narrativa.

  • Decomposizione Multi-Vista: Invece di codificare il testo completo come un singolo vettore, gli autori decompongono ogni storia in tre viste distinte utilizzando LLM (specificamente o3-mini): Tema (l'idea centrale controllante), Trama (sequenza cronologica di eventi che cambiano lo stato) ed Esito (risoluzione).
  • Apprendimento Contrastivo: Il modello impiega teste di proiezione specifiche per vista per mappare questi componenti in spazi di embedding ortogonali. Una funzione di perdita contrastiva ($L_{con}$) è applicata a ciascuna vista per massimizzare la similarità tra i tratti narrativi corrispondenti e minimizzarla per quelli non corrispondenti.
  • Allineamento Auto-Supervisionato: Per garantire la coerenza tra le diverse viste, viene introdotta una perdita di allineamento ($L_{align}$), che minimizza la distanza tra l'embedding fuso (una somma pesata delle quattro viste: testo completo, tema, trama, esito) e la media degli embedding delle singole viste, incoraggiando uno spazio congiunto unificato.
  • Fusione: In fase di inferenza, gli embedding dei quattro componenti sono fusi utilizzando pesi fissi (0.5 per il testo completo, 0.1 per il tema, 0.2 per la trama, 0.2 per l'esito) seguiti da normalizzazione L2.

Contributi Principali
Il documento delinea tre contributi primari:

1. Rappresentazione Narrativa Aumentata da LLM: Un framework deterministico che sfrutta gli LLM esclusivamente per l'aumento dei dati offline (estrazione sintetica delle strutture narrative) e la decomposizione strutturale, affidandosi a efficienti sentence transformer sottoposti a fine-tuning per l'inferenza finale di similarità.
2. Modellazione Strutturale Multi-Vista: Un approccio di apprendimento contrastivo che modella esplicitamente i tre aspetti centrali della similarità narrativa (tema, corso dell'azione, esito) tramite teste di proiezione specifiche per vista e allineamento auto-supervisionato, decomponendo i segnali complessi in spazi ortogonali.
3. Addestramento Contrastivo Robusto: L'implementazione dell'ottimizzazione triplet-margin combinata con lo smart layer freezing per migliorare la generalizzazione preservando al contempo la sfumatura delle strutture narrative.

Risultati

• Track A: Il sistema ha ottenuto un punteggio privato di 0.6925, classificandosi al 14° posto su 42 team. L'uso di dati pseudonimizzati ha prodotto un miglioramento costante rispetto ai dati grezzi (da 0.6650 a 0.6925) per il modello all-mpnet-base-v2. Gli autori attribuiscono ciò alla rimozione del rumore specifico delle entità, costringendo il modello a concentrarsi sulla struttura semantica.
• Track B: Il sistema si è classificato al 6° posto su 25 partecipanti con un punteggio privato di 0.6875. Gli studi di ablazione sul set di sviluppo hanno indicato che una strategia di fusione pesata (che enfatizza il testo completo allo 0.5, con pesi minori per tema, trama ed esito) ha superato l'approccio a pesi uguali o a singola vista. La combinazione di all-mpnet-base-v2 e l'estrattore LLM o3-mini ha prodotto i risultati migliori.

Significatività e Limitazioni
Gli autori affermano che il loro approccio offre un'alternativa pratica all'inferenza generativa basata su LLM per il recupero narrativo su larga scala. Spostando il carico computazionale a una fase di generazione dati offline e utilizzando modelli di embedding efficienti in fase di inferenza, il sistema raggiunge prestazioni competitive con una latenza significativamente inferiore.

Tuttavia, il documento riconosce modestamente alcune limitazioni:

• Generalizzazione: I modelli si basano su dati di addestramento sintetici e potrebbero non generalizzare completamente a stili o domini narrativi diversi senza ulteriore adattamento.
• Rumore di Estrazione: La pipeline multi-vista dipende da elementi narrativi estratti automaticamente; senza un audit manuale della qualità di tali estrazioni, potrebbero rimanere non quantificati eventuali errori residui nella coerenza di tema o trama.
• Tuning degli Iperparametri: I pesi di fusione fissi e le impostazioni di temperatura sono stati ottimizzati sul set di sviluppo e potrebbero non essere ottimali per domini non visti.

Il lavoro conclude che, sebbene l'approccio eviti i costi proibitivi del ragionamento generativo, la dipendenza da dati sintetici ed estrazione automatizzata introduce vincoli sulla robustezza delle rappresentazioni apprese.