GraphLit: Learning Text-Enriched Dynamic Character Network Representations for Literary Study

Sintesi Tecnica: GraphLit: Apprendimento di Rappresentazioni Dinamiche di Reti di Personaggi Arricchite dal Testo per lo Studio Letterario

Enunciato del Problema
I metodi computazionali esistenti per la modellazione dei personaggi di finzione rientrano generalmente in due categorie, entrambe affette da limitazioni significative. In primo luogo, gli approcci basati su Reti di Personaggi (CN) modellano i personaggi come nodi e le loro interazioni come archi (ad esempio, co-occorrenza o dialogo). Sebbene efficaci nel catturare le strutture sociali, questi metodi trattano spesso i personaggi come funzioni statiche, trascurando il ricco contesto testuale (significanti come nomi, descrizioni e modelli di discorso) in cui i personaggi appaiono. In secondo luogo, i metodi basati sul testo e i Modelli Linguistici di Grande Dimensione (LLM) cattrano le sfumature testuali ma non riescono a integrare le dinamiche sociali intrinseche nelle reti di personaggi. Inoltre, le rappresentazioni basate su LLM spesso faticano a generalizzare su romanzi non visti e dipendono da dati protetti da copyright che ostacolano la riproducibilità. È necessario un quadro che rappresenti esplicitamente sia le informazioni testuali che quelle relazionali all'interno di un corpus di pubblico dominio riproducibile.

Metodologia
Gli autori propongono GraphLit, un quadro di apprendimento auto-supervisionato costruito su Reti Dinamiche Eterogenee di Personaggi (DHCN).

1. Costruzione dei Dati (DHCN):

   • Il quadro elabora romanzi lunghi da Project Gutenberg (circa 20.000 libri) dividendoli in blocchi di testo localizzati temporalmente.
   • All'interno di ogni blocco, viene costruita una Rete Eterogenea di Personaggi (HCN) contenente due tipi di nodi: Nodi Personaggio e Nodi Segmento (frazioni di testo).
   • Gli Archi sono definiti come:
     • Personaggio-Personaggio: Basati sulla co-occorrenza all'interno di una finestra restrittiva (20 parole).
     • Personaggio-Segmento: Collegamento di un personaggio ai segmenti di testo specifici in cui viene menzionato.
   • La DHCN completa per un libro è una sequenza di queste HCN sconnesse, che preserva il tempo narrativo.

2. Apprendimento delle Rappresentazioni (GraphLit):

   • Inizializzazione: I nodi Personaggio sono inizializzati con prompt contenenti nomi e alias; i nodi Segmento sono inizializzati utilizzando Qwen3-Embeddings.
   • Architettura: Il modello adatta il quadro Heterogeneous Graph Masked Autoencoder (HGMAE).
     • Un Decoder Transformer elabora la sequenza ordinata degli attributi del segmento all'interno di un blocco per preservare la coerenza testuale.
     • Un backbone Heterogeneous Graph Transformer (HGT) affina le rappresentazioni dei nodi aggregando messaggi dai vicini, distinguendo tra tipi di nodo e di arco.
   • Obiettivi di Addestramento: Il modello è addestrato tramite auto-supervisione per ricostruire grafi corrotti:
     • Ricostruzione degli Archi: Predizione dei collegamenti mascherati Personaggio-Personaggio e Personaggio-Segmento.
     • Ricostruzione degli Attributi: Ricostruzione degli attributi iniziali dei nodi mascherati (nomi/testo) utilizzando una perdita coseno scalata.
     • Perdita di Ordinamento: Viene applicata una perdita ListMLE per garantire che il modello apprenda il corretto ordine narrativo dei blocchi.
     • Predizione Globale dei Collegamenti: Un compito per dissociare i personaggi tra libri diversi per codificare informazioni a livello di libro.
   • Pooling: Le rappresentazioni globali per personaggi, blocchi e interi libri sono generate utilizzando livelli di attenzione multi-testa eterogenei.

Contributi Chiave

1. Formulazione DHCN: L'introduzione delle Reti Dinamiche Eterogenee di Personaggi, che estendono le Reti Dinamiche di Personaggi radicando i personaggi nei loro contesti testuali localizzati tramite nodi segmento.
2. Quadro GraphLit: Un quadro di apprendimento auto-supervisionato che apprende rappresentazioni espressive dalle DHCN, superando le linee di base basate solo sul testo e solo su grafi.
3. Applicazione alle Digital Humanities: Una dimostrazione di come le misure topologiche derivate dalle DHCN correlino con la non linearità narrativa (tortuosità), suggerendo che le discrepanze sociali sono un componente chiave della narrazione non lineare.

Risultati
Il quadro è stato valutato su 12 compiti relativi ai personaggi tratti dal Character Embedding Benchmark (CEB) e su un compito di attribuzione di citazioni.

• Miglioramenti delle Prestazioni: GraphLit supera costantemente le linee di base basate solo sul testo (ad esempio, embedding Qwen3) e quelle basate solo su grafi (DCN). I miglioramenti sono più pronunciati nei compiti contestuali (ad esempio, identificazione del personaggio da descrizioni mascherate, attribuzione di citazioni), dove comprendere l'interazione tra personaggio e testo è cruciale.
• Analisi di Ablazione:
  • Contesto rispetto alla Struttura Sociale: Sorprendentemente, la rimozione degli archi espliciti Personaggio-Personaggio (variante No-CN) ha portato a prestazioni competitive o leggermente superiori nei compiti a livello di libro e contestuali. Ciò suggerisce che la fonte primaria di informazioni è il radicamento dei personaggi nei loro contesti testuali dinamici, piuttosto che la struttura della rete sociale stessa.
  • Predizione del Ruolo: Le reti esplicite di personaggi hanno fornito i guadagni più significativi per compiti radicati socialmente come la predizione del ruolo e l'identificazione del protagonista.
  • Dinamiche: Le strutture CN statiche hanno performato alla pari con quelle dinamiche per i compiti a livello di libro, indicando che le dinamiche contestuali all'interno dei blocchi sono più critiche dell'evoluzione della rete tra i blocchi per certi compiti.
• Non Linearità Narrativa: L'analisi di regressione ha rivelato che le caratteristiche topologiche derivate dalle DHCN (transitività, rapporti di nuovi personaggi) correlano significativamente con la non linearità narrativa. Gli embedding GraphLit hanno catturato le discrepanze sociali più efficacemente rispetto agli embedding puramente semantici, mostrando che le narrazioni non lineari spesso coinvolgono spostamenti nella focalizzazione sociale.

Significato
Il paper afferma che GraphLit offre un quadro riproducibile per l'apprendimento di rappresentazioni letterarie ricche che collegano esplicitamente il divario tra approcci formalisti (strutture di rete) e approcci testualisti (significanti). Dimostrando che le rappresentazioni dei personaggi radicate nel contesto testuale sono più informative per i compiti a valle rispetto a quelle che si basano esclusivamente su grafi di interazione sociale, il lavoro supporta la visione della critica letteraria secondo cui i personaggi emergono attraverso significanti testuali in evoluzione. Inoltre, la capacità di collegare le dinamiche delle reti sociali alla non linearità narrativa fornisce un nuovo strumento quantitativo per le Digital Humanities, suggerendo che l'evoluzione delle relazioni tra personaggi è un indicatore misurabile della struttura narrativa. Gli autori notano che, sebbene i loro risultati siano robusti, il quadro si basa su un clustering imperfetto dei nomi dei personaggi e che il lavoro futuro potrebbe esplorare la risoluzione della coreferenza e applicazioni a valle più ampie.