DWTSumm: Discrete Wavelet Transform for Document Summarization

1. Il Problema

La sintesi automatica di documenti lunghi e specifici di un dominio (come cartelle cliniche o pareri legali) rappresenta una sfida significativa per i Large Language Models (LLM). Le principali difficoltà includono:

• Limiti del contesto: Quando i documenti superano la finestra di contesto del modello, è necessario ricorrere a troncamento, compressione aggressiva o pipeline di sintesi multi-stadio.
• Perdita di informazioni e Allucinazioni: Le strategie gerarchiche o di segmentazione spesso introducono allucinazioni (contenuti inventati) e perdita di dettagli critici, specialmente in ambiti dove l'accuratezza fattuale è cruciale (es. medicina e diritto).
• Problema "Lost-in-the-Middle": I modelli faticano a mantenere la coerenza e l'attenzione su informazioni chiave situate nella parte centrale di documenti molto lunghi.

2. Metodologia: DWTSumm

Gli autori propongono un framework di sintesi ibrido basato sulla Trasformata Wavelet Discreta (DWT), una tecnica di elaborazione del segnale adattata per trattare il testo come un "segnale semantico".

Concetto Fondamentale

Il metodo tratta le rappresentazioni vettoriali delle frasi (embedding) come un segnale discreto. La DWT scompone gerarchicamente questo segnale in due componenti principali:

1. Coefficienti di Approssimazione ($cA$): Rappresentano la struttura semantica globale, il flusso narrativo e il contesto generale del documento (componenti a bassa frequenza).
2. Coefficienti di Dettaglio ($cD$): Catturano le informazioni localizzate, i dettagli specifici del dominio e le variazioni semantiche salienti (componenti ad alta frequenza).

Pipeline Operativa

Il framework segue quattro fasi principali:

1. Embedding: Il documento di input viene codificato utilizzando un encoder specifico per il dominio (es. BioClinical ModernBERT per la medicina, modelli legali per il diritto) per ottenere una rappresentazione semantica continua.
2. Decomposizione DWT: Viene applicata una DWT a più livelli per generare una gerarchia di coefficienti. Il livello di decomposizione è scelto in base alla lunghezza del documento e al rapporto di compressione desiderato.
3. Recupero e Ricostruzione: I coefficienti vengono mappati nuovamente su frasi rappresentative tramite recupero per il vicinato più prossimo (nearest-neighbor) nello spazio degli embedding. Questo produce uno "scheletro semantico" compatto dai coefficienti di approssimazione e un insieme di frasi salienti dai coefficienti di dettaglio.
4. Generazione o Sintesi Diretta: La rappresentazione multirisoluzione risultante può essere utilizzata:
   • Direttamente come riassunto compresso.
   • Come prompt guidato per un LLM (es. GPT-4o) per generare un riassunto astrattivo, fornendo al modello un contesto globale e dettagli fattuali precisi, riducendo così il rischio di allucinazioni.

3. Contributi Chiave

1. Framework di Compressione Multirisoluzione: Introduzione del primo framework sistematico che utilizza la DWT per la compressione di documenti legali e clinici lunghi prima della sintesi con LLM.
2. Preservazione della Struttura Semantica: Dimostrazione che la DWT mantiene il contesto globale e i dettagli specifici del dominio mentre riduce drasticamente la lunghezza dell'input (spesso del 50-75%).
3. Miglioramento della Fedeltà Fattuale: Integrazione della DWT con gli LLM che porta a un miglioramento della fedeltà semantica e a una riduzione significativa delle allucinazioni in compiti di sintesi complessi.
4. Generalizzabilità: Il metodo funziona efficacemente con diversi modelli di embedding, agendo come un meccanismo di "denoising" semantico indipendente dal modello sottostante.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su benchmark clinici (MultiClinSum) e legali (CaseSumm), confrontando il metodo DWT (solo) e un approccio ibrido (DWT + GPT-4o) rispetto a un baseline GPT-4o standard.

• Metriche di Qualità Semantica:
  • BERTScore: Miglioramenti superiori al 2% rispetto al baseline.
  • Fidelity (Fedeltà Semantica): Il modello DWT+GPT ha raggiunto punteggi di fedeltà fino al 97-98%, indicando una conservazione eccezionale delle informazioni originali.
  • METEOR: Miglioramenti significativi (es. +4% nel dominio legale), suggerendo una migliore preservazione delle sfumature semantiche specifiche del dominio.
• Coerenza Fattuale:
  • Il modello ha mostrato una consistenza fattuale perfetta (punteggio 5.0 su 5) nei task legali, superando il baseline.
  • La DWT ha agito come un filtro che riduce il contenuto ridondante e rumoroso, fornendo all'LLM informazioni più dense e veritiere.
• Compressione:
  • Il framework ha ottenuto rapporti di compressione superiori al 60-87% (a seconda del livello di decomposizione) senza sacrificare la qualità del riassunto.
  • Anche con una compressione aggressiva (87.5%), la similarità semantica è rimasta stabile.

5. Significato e Implicazioni

Il lavoro di DWTSumm è significativo per diversi motivi:

• Approccio Leggero e Interpretabile: A differenza di modelli generativi complessi, la DWT utilizza filtri analiticamente definiti (non appresi), rendendo il processo di compressione deterministico e interpretabile.
• Separazione Struttura-Generazione: Il framework disaccoppia la strutturazione semantica (gestita dalla DWT) dalla generazione linguistica (gestita dall'LLM). Questo permette all'LLM di concentrarsi sulla sintesi fluida su una base fattuale solida, riducendo i costi computazionali e migliorando l'affidabilità.
• Soluzione al Problema del Contesto Lungo: Offre un metodo generalizzabile per gestire documenti che superano i limiti di contesto dei Transformer, trasformando la lunghezza in una rappresentazione compatta ma ricca di informazioni.
• Riduzione delle Allucinazioni: Agendo come un meccanismo di denoising semantico, la DWT riduce la tendenza degli LLM a "inventare" contenuti per colmare lacune informative, rendendo la sintesi più sicura per applicazioni critiche come la medicina e la legge.

In conclusione, DWTSumm dimostra che l'applicazione di tecniche di elaborazione dei segnali classici alla linguistica computazionale può fornire soluzioni robuste, efficienti e affidabili per la sintesi di documenti lunghi e specialistici.