Technische Samenvatting: Laag-opgeloste Optimale Transport voor Hallucinatie-detectie in NMT en Abstractieve Samenvatting

Probleemstelling

Modellen voor neurale machinevertaling (NMT) en abstractieve samenvatting lijden frequent aan "hallucinaties" of "trouwheidsfouten" (faithfulness failures), waarbij gegenereerde outputs weliswaar vloeiend zijn, maar feitelijk inconsistent met de bron. Hoewel recent werk door Guerreiro et al. (2023) aantoonde dat de Optimal Transport (OT) afstanden tussen cross-attention distributies en een referentie hallucinaties in NMT op een ongesuperviseerde manier kunnen detecteren, bleven enkele cruciale vragen onopgelost:

1. Laag-resolutie: Hoe verdeelt het hallucinatie-signaal zich over individuele decoderlagen, en zijn specifieke lagen diagnostischer dan andere?
2. Detector-specialisatie: Specialiseren verschillende OT-gebaseerde metrieken (bijv. afstand tot uniform versus afstand tot data) zich in het detecteren van verschillende soorten hallucinaties?
3. Taakoverdracht: Vertaalt de geometrische intuïtie van "bron-ontkoppeling" (gedetecteerd via OT in NMT) zich naar abstractieve samenvatting, waar de foutmodi fundamenteel kunnen verschillen?

Methodologie

1. Optimale Transport Metrieken

De auteurs breiden het Wasserstein-1 ($W_1$) afstandskader uit om cross-attention distributies ($\pi^{(\ell,t)}$) te analyseren over alle decoderlagen ($\ell$) en generatiestappen ($t$). Belangrijke metrieken zijn onder meer:

• Wass-to-Unif (WTU): Meet de concentratie van aandacht door de $W_1$ afstand tot een uniforme distributie te berekenen. Hoge concentratie (lage afstand) suggereert dat het model de bron negeert.
• Wass-to-Data (WTD): Meet de gelijkenis van de attention-distributie van een testzin met een referentieset van bevestigd correcte vertalingen.
• Routing Consistentie (RC): Een nieuwe metriek die kwantificeert hoe consistent de decoder naar dezelfde bronpositie aandacht schenkt over generatiestappen heen. Deze is afgeleid van de entropie van de argmax bronposities in de tijd.
• Stap-naar-stap OT: Meet de dynamische verschuiving van aandacht tussen opeenvolgende decodingstappen om de "exploratieve" fase van generatie te vangen.
• Laag-paarwise OT: Berekent afstanden tussen gemiddelde attention-distributies van verschillende lagen om de functionele organisatie in kaart te brengen.

2. Datasets en Modellen

• NMT (Fairseq DE-EN): Heranalyse van de Guerreiro et al. (2023) corpus ($N=3.414$), dekkend vijf categorieën van hallucinaties (full-unsupport, strong-unsupport, repetities, etc.).
• Abstractieve Samenvatting (AggreFact): Evaluatie op CNN/DailyMail en XSum testsets ($N=1.116$) met gebruik van T5-base en Flan-T5-Large architecturen.
• Baselines: Vergelijking met supervised state-of-the-art (MiniCheck-Flan-T5-L) en random baselines.

Belangrijkste Bijdragen

1. Laag-opgeloste NMT-analyse: De studie breidt de geaggregeerde laatste-laag analyse van Guerreiro et al. (2023) uit naar alle zes decoderlagen. Het identificeert dat detectieprestaties geconcentreerd zijn in lagen L1–L4, terwijl L5 (de laatste laag) vaak anti-predictief is voor subtiele hallucinatietypes.
2. Complementaire Detectoren: Het artikel toont aan dat WTU en WTD gespecialiseerde detectoren zijn. WTU blinkt uit bij het detecteren van "full-unsupport" hallucinaties (volledige bron-ontkoppeling), terwijl WTD superieur is voor "strong-unsupport" en "repetities". De nieuw voorgestelde Routing Consistentie (RC) wordt geïdentificeerd als de sterkste individuele detector voor full-unsupport hallucinaties.
3. Dynamische Generatiepatronen: De auteurs karakteriseren normale decoding als een tweefasig traject: een exploratieve fase (hoge aandacht-shift, lage concentratie) gevolgd door een commitment fase. Gehallucineerde vertalingen missen de exploratieve fase en beginnen in een statisch geconcentreerde staat vanaf de eerste decodingstap.
4. Samenvattings-transfer en Limieten: De eerste toepassing van OT-gebaseerde detectie op abstractieve samenvatting. Hoewel de ongesuperviseerde detector boven-gemiddelde prestaties behaalt (57,4% Balanced Accuracy), presteert deze significant minder goed dan supervised baselines (72,1%).
5. Structurele Interpreteerbaarheid: Door middel van OT-metrieken en ablatie-studies op T5-base, onthult het artikel een consistente decoderorganisatie: Laag 3 fungeert als een structurele piek voor concentratie en routing-divergentie, terwijl Laag 12 cruciaal is voor de kwaliteit van de generatie. Lagen L9–L11 vertonen functionele redundantie.

Resultaten

NMT Detectieprestaties

• Signaalsterkte: Gehallucineerde vertalingen vertonen significant hogere gemiddelde concentratie en lagere stap-naar-stap OT vergeleken met correcte vertalingen ($p < 0,001$).
• Laag-specificiteit:
  • Full-unsupport: Sterk detecteerbaar in L1–L4 (AUROC > 0,93). RC piekt bij L2 (AUROC 0,955).
  • Strong-unsupport & Repetities: Detectie is zwakker door de hele linie. Opvallend genoeg wordt Laag 5 anti-predictief (AUROC < 0,5) voor deze typen, aangezien de laatste laag van nature de meest geconcentreerde is, ongeacht de vertaalkwaliteit.
• Mechanisme: Hallucinaties worden gekenmerkt door een "statisch" aandachtssignatuur waarbij de decoder vanaf de allereerste stap vastklikt op irrelevante bron-tokens (of hetzelfde token), waardoor de dynamische scanfase die bij correcte vertalingen wordt waargenomen, wordt overgeslagen.

Abstractieve Samenvatting Transfer

• Prestatiekloof: De ongesuperviseerde OT-detector bereikt 57,4% Balanced Accuracy op AggreFact, vergeleken met 72,1% voor de supervised MiniCheck-Flan-T5-L.
• Generalisatie: OT-features generaliserenen niet goed over extractieve (CNN) en abstractieve (XSum) regimes wanneer ze cross-dataset worden getest (44,2% BAcc), wat bevestigt dat het signaal regime-afhankelijk is.
• Structurele Bevindingen: In T5-base vertoont Laag 3 de hoogste concentratiepiek, en de ablatie van Lagen 1–3 veroorzaakt een scherpe instorting in ROUGE-L, wat deze lagen identificeert als een onmisbare vroege context-encoding blok.

Betekenis en Claims

Het artikel stelt dat Optimal Transport op cross-attention een betrouwbare, ongesuperviseerde detector is, specifiek wanneer de foutmodus "bron-ontkoppeling" is.

• Geprincipeerde Interpreteerbaarheid: De auteurs argumenteren dat OT een label-vrije, geometrische lens biedt om de Transformer-architectuur te begrijpen, waarbij functionele specialisaties (zoals L3 in T5, L2 in Fairseq) worden geïdentificeerd die overeenkomen met ablatie-resultaten.
• Theoretische Limiet: De prestatiekloof in samenvatting wordt toegeschreven aan een fundamenteel verschil in foutmodi. Hallucinaties in NMT zijn voornamelijk intrinsieke retrieval-fouten (het negeren van de bron), die OT goed detecteert. Fouten in abstractieve samenvatting zijn vaak content-misbruik (correct aandacht schenken aan de bron maar de inhoud verkeerd weergeven), een foutmodus die "door constructie onzichtbaar is voor concentratie-gebaseerde OT-metrieken."
• Conclusie: Het werk vestigt OT als een krachtig instrument om te detecteren wanneer een model zich loskoppelt van de bron, wat een geprincipeerd interpreteerbaar instrument biedt ongeacht de taak, terwijl het expliciet de beperkingen erkent wanneer trouwheidsfouten optreden buiten het aandachtsmateriaal (downstream van de attention mechanism).