An Information-Geometric Justification for Composite Coherence in Event-Based Narrative Extraction

Technische Samenvatting: Een Informatie-geometrische Rechtvaardiging voor Composiete Coherentie bij Event-gebaseerde Narratieve Extractie

Probleemstelling
Grafiekgebaseerde narratieve extractie vertrouwt op een coherentiefunctie om de overgangen tussen gebeurtenissen (documenten) te scoren. Hoewel er operationele metrieken bestaan — variërend van word-influence random walks tot KL-divergentie met temporele verval — ontbreekt het hen aan een fundamenteel wiskundig fundament. Specifiek zijn de huidige metrieken niet afgeleid van een onderliggende geometrie van de documentruimte, voldoen ze niet noodzakelijkerwijs aan de eigenschappen van een metrische ruimte, en ontbreekt een axiomatische afleiding. Dit artikel behandelt de specifieke composiete metriek $C = \sqrt{A \cdot T}$ geïntroduceerd door Keith en Mitra [2], waarbij $A$ de hoekgelijkenis is en $T$ de topic-gelijkenis afgeleid via de Jensen-Shannon afstand. Het doel is om een informatie-geometrische rechtvaardiging te bieden voor deze specifieke combinatie en om het geometrisch gemiddelde te karakteriseren als de natuurlijke combinator onder specifieke condities.

Methodologie en Theoretisch Kader
De auteurs construeren een kader gebaseerd op Informatie-geometrie en Product Riemannse Variëteiten.

1. Productvariëteit Structuur: De auteurs modelleren de documentruimte als een productvariëteit $S^{d-1} \times \Delta^{K-1}_+$.

   • De hoekcomponent ($A$) bevindt zich op de eenheidsbol $S^{d-1}$ en meet de geodetische afstand tussen document-embeddings.
   • De topiccomponent ($T$) bevindt zich op de waarschijnlijkheids-simplex $\Delta^{K-1}_+$ en meet nabijheid via de Jensen-Shannon afstand ($d_{JS}$) van soft cluster-lidmaatschapsverdelingen.
   • Propositie 1 demonstreert dat de negatieve log-coherentie additief uiteenvalt: $-\log C = \frac{1}{2}[-\log(1 - d_{ang}/\pi)] + \frac{1}{2}[-\log(1 - d_{JS})]$. Dit behandelt de hoek- en topickosten als additieve componenten op de productvariëteit.

2. Lokale Chentsov Compatibiliteit:

   • De auteurs beroepen zich op Chentsov's Stelling, die stelt dat de Fisher-Rao metriek de unieke Riemannse metriek op de simplex is die invariant is onder voldoende statistieken.
   • Stelling 1 en Corolarium 1 vestigen dat de Riemannse metriek-tensor geïnduceerd door de Jensen-Shannon afstand ($d_{JS}$) exact proportioneel is aan de Fisher-informatie matrix. Hiermee is de topiccomponent lokaal consistent met de Fisher-Rao geometrie die door Chentsov's stelling wordt uitgewerkt.

3. Axiomatische Karakterisering:

   • De auteurs definiëren een "compensatie-spectrum" van machts-gemiddelde combinatoren (Min, HM, GM, AM, Max).
   • Stelling 3 biedt een axiomatische karakterisering die aantoont dat het Geometrisch Gemiddelde (GM) de unieke combinator is die voldoet aan vier natuurlijke axioma's:
     • Grens/Veto: $F(0, t) = 0$ (een falen in één kanaal leidt tot nul coherentie).
     • Symmetrie: $F(a, t) = F(t, a)$.
     • Log-additiviteit: $-\log F(a, t)$ valt uiteen in een som van functies van $-\log a$ en $-\log t$.
     • Normalisatie: $F(a, a) = a$.
   • Het artikel bewijst dat het loslaten van elk enkel axioma leidt tot niet-geometrisch-gemiddelde oplossingen.

4. Informatie-theoretische Verbindingen:

   • De hoekkosten worden geïdentificeerd als de Shannon-surprisal van een random-hyperplane (SimHash) botsing.
   • De topickosten worden geïdentificeerd als een strikt toenemende functie van de wederzijdse informatie tussen een steekproef en een latente label (Propositie 10).
   • Het kader steunt op Schaalcomplementariteit: de twee kanalen vangen informatie op verschillende schalen op (fijnmazige semantische richting versus grofmazige thematische lidmaatschap) zodanig dat ze niet-redundant zijn ondanks structurele koppeling.

Experimentele Validatie
Het kader werd gevalideerd over vier corpora (Cuba, COVID, VisPub, AMiner) variërend van 40 tot 6.000 documenten en diverse embedding-modellen (GPT-4, MPNet, MiniLM, SPECTER2) en topic-modellen (LDA, soft k-means, GMM).

• Metrieke Eigenschappen: De Fisher-identiteit ($d_{JS} \approx d_{FR}/\sqrt{2 \ln 2}$) hield stand met een Pearson-correlatie $R \ge 0.99$. Het geometrisch gemiddelde volgde de juiste productmetriek $d_\times$ met een rangcorrelatie $\rho = 0.999$.
• Driehoeksongelijkheid: Hoewel $1 - C_{GM}$ in het algemeen geen metriek is, werden er geen schendingen waargenomen tijdens empirische bemonstering (behalve in degeneratieve gevallen met zeer weinig clusters, $K=2$).
• Downstream Consistentie: Gebruikmakend van een "LLM-als-judge" protocol, werd het geometrisch gemiddelde niet empirisch gedomineerd door een alternatieve combinator (AM, HM, Quad, Min, Max) of een single-channel baseline. Verschillende combinatoren produceerden structureel verschillende verhaallijnen maar statistisch ononderscheidbare geaggregeerde kwaliteitsscores.
• Bottleneck-Gap Profiel: Door de compensatie-exponent $\alpha$ te variëren, werd het symmetrische component van de scheiding tussen coherente en incoherente verhaallijnen gemaximaliseerd precies bij het geometrisch gemiddelde ($\alpha = 0$) over alle corpora, inclus\ de een menselijke navigatie-corpus (Wikispeedia) en een cross-modaal beeld-narratief.

Belangrijkste Bijdragen

1. Geometrische Lezing: Het artikel biedt de eerste informatie-geometrische interpretatie van de composiete coherentie metriek, waarbij deze wordt gekoppeld aan een productvariëteit waar de negatieve log-coherentie additief uiteenvalt.
2. Lokale Fisher-Rao Consistentie: Het toont aan dat de Jensen-Shannon afstand gebruikt in de topiccomponent een metriek-tensor induceert die proportioneel is aan de Fisher-informatie matrix, wat de metriek in lijn brengt met de unieke geometrie die door Chentsov's stelling wordt gekenmerkt.
3. Axiomatische Uniekheid: Het bewijst dat het geometrisch gemiddelde de unieke combinator is die voldoet aan een specifieke set van vier axioma's (grens, symmetrie, log-additiviteit, normalisatie), wat het onderscheidt van andere machts-gemiddelden.
4. Empirische Rechtvaardiging: Het valideert dat het geometrisch gemiddelde niet empirisch wordt gedomineerd en dat de ontwerppremisse (incoherente transities zijn meer kanaal-imbalans vertonend) standhoudt, waarbij de symmetrische scheiding van verhaallijnen wordt gemaximaliseerd bij het geometrisch gemiddelde.

Betekenis en Claims
Het artikel claimt een informatie-geometrische rechtvaardiging te bieden voor de composiete coherentie metriek $C = \sqrt{A \cdot T}$, die is gebruikt in systemen zoals Narrative Maps en Narrative Trails. Het claimt niet dat het geometrisch gemiddelde universeel optimaal is voor alle mogelijke narratieve extractie-taken of dat het "betere" verhalen produceert in een menselijk waarneembare zin vergeleken met andere combinatoren (aangezien de downstream kwaliteit statistisch ononderscheidbaar was).

In plaats daarvan ligt de betekenis in:

• Theoretische Fundering: Het verplaatsen van de metriek van een ad-hoc operationele definitie naar een definitie die is afgeleid van de geometrie van de documentruimte en axiomatische principes.
• Modelleringsbeslissing: Het kaderen van de keuze voor een combinator niet als een hyperparameter die getuned moet worden voor kwaliteit, maar als een modelleringsbeslissing over welke narratieve structuren men wil accentueren (bijv. het afdwingen van een veto versus het toestaan van compensatie).
• Diagnostisch Nut: Het benadrukken dat de log-additieve structuur van het geometrisch gemiddelde de diagnostische attributie van padkosten aan specifieke kanalen (hoek versus topic) mogelijk maakt, een kenmerk dat verloren gaat bij andere combinatoren zoals de productmetriek gekwadrateerd ($d_\times^2$).

De auteurs concluderen dat het geometrisch gemiddelde de "natuurlijke keuze" is onder de gestelde operationele vereisten (veto, symmetrie, log-additiviteit) en de ontwerppremisse van schaalcomplementariteit, en biedt daarmee een rigoureus fundament voor het verdere gebruik ervan in event-gebaseerde narratieve extractie.