An Information-Geometric Justification for Composite Coherence in Event-Based Narrative Extraction

Resumen Técnico: Una justificación de la geometría de la información para la coherencia compuesta en la extracción de narrativas basadas en eventos

Planteamiento del problema
La extracción de narrativas basada en grafos depende de una función de coherencia para puntuar las transiciones entre eventos (documentos). Si bien existen métricas operativas —que van desde paseos aleatorios de influencia de palabras hasta la divergencia KL con decaimiento temporal—, estas carecen de un fundamento matemático principista. Específicamente, las métricas actuales no se derivan de una geometría subyacente del espacio de documentos, no necesariamente satisfacen propiedades métricas adecuadas y carecen de una derivación axiomática. Este artículo aborda la métrica compuesta específica $C = \sqrt{A \cdot T}$ introducida por Keith y Mitra [2], donde $A$ es la similitud angular y $T$ es la similitud de temas derivada de la distancia de Jensen-Shannon. El objetivo es proporcionar una justificación de la geometría de la información para esta combinación específica y caracterizar la media geométrica como el combinador natural bajo condiciones específicas.

Metodología y marco teórico
El artículo construye un marco basado en la Geometría de la Información y los Variedades de Producto de Riemann.

1. Estructura de la variedad de producto: Los autores modelan el espacio de documentos como una variedad de producto $S^{d-1} \times \Delta^{K-1}_+$.

   • El componente angular ($A$) reside en la esfera unitaria $S^{d-1}$, midiendo la distancia geodésica entre las incrustaciones (embeddings) de los documentos.
   • El componente de tema ($T$) reside en el simplex de probabilidad $\Delta^{K-1}_+$, midiendo la proximidad mediante la distancia de Jensen-Shannon ($d_{JS}$) de las distribuciones de membresía de clústeres suaves (soft clustering).
   • La Proposición 1 demuestra que el logaritmo negativo de la coherencia se descompone de forma aditiva: $-\log C = \frac{1}{2}[-\log(1 - d_{ang}/\pi)] + \frac{1}{2}[-\log(1 - d_{JS})]$. Esto trata los costos angulares y de tema como componentes aditivos en la variedad de producto.

2. Compatibilidad local de Chentsov:

   • El artículo invoca el Teorema de Chentsov, que establece que la métrica de Fisher-Rao es la única métrica de Riemann en el simplex que es invariante bajo estadísticas suficientes.
   • El Teorema 1 y el Corolario 1 establecen que el tensor métrico de Riemann inducido por la distancia de Jensen-Shannon ($d_{JS}$) es exactamente proporcional a la matriz de información de Fisher. Por lo tanto, el componente de tema es localmente consistente con la geometría de Fisher-Rao señalada por el teorema de Chentsov.

3. Caracterización axiomática:

   • Los autores definen un "espectro de compensabilidad" de combinadores de media de potencia (Min, HM, GM, AM, Max).
   • El Teorema 3 proporciona una caracterización axiomática que muestra que la Media Geométrica (GM) es el combinador único que satisface cuatro axiomas naturales:
     • Límite/Veto: $F(0, t) = 0$ (un fallo en un canal resulta en coherencia cero).
     • Simetría: $F(a, t) = F(t, a)$.
     • Log-aditividad: $-\log F(a, t)$ se descompone en una suma de funciones de $-\log a$ y $-\log t$.
     • Normalización: $F(a, a) = a$.
   • El artículo demuestra que el abandono de cualquier axioma individual permite soluciones distintas a la media geométrica.

4. Conexiones con la teoría de la información:

   • El costo angular se identifica como la sorpresa de Shannon de una colisión de hiperplano aleatorio (SimHash).
   • El costo de tema se identifica como una función estrictamente creciente de la información mutua entre una muestra y una etiqueta latente (Proposición 10).
   • El marco se basa en la Complementariedad de Escala: los dos canales capturan información en diferentes escalas (dirección semántica de grano fino frente a membresía temática de grano grueso) de tal manera que no son redundantes a pesar del acoplamiento estructural.

Validación experimental
El marco fue validado a través de cuatro corpus (Cuba, COVID, VisPub, AMiner) que oscilan entre 40 y 6,000 documentos, utilizando diversos modelos de incrustación (GPT-4, MPNet, MiniLM, SPECTER2) y modelos de temas (LDA, k-means suave, GMM).

• Propiedades métricas: La identidad de Fisher ($d_{JS} \approx d_{FR}/\sqrt{2 \ln 2}$) se mantuvo con una correlación de Pearson $R \ge 0.99$. La media geométrica siguió la métrica de producto adecuada $d_\times$ con una correlación de rango $\rho = 0.999$.
• Desigualdad triangular: Aunque $1 - C_{GM}$ no es una métrica en general, no se observaron violaciones en el muestreo empírico (excepto en casos degenerados con muy pocos clústeres, $K=2$).
• Consistencia descendente: Utilizando un protocolo de "LLM como juez", la media geométrica no fue dominada empíricamente por ningún combinador alternativo (AM, HM, Quad, Min, Max) o línea base de un solo canal. Diferentes combinadores produjeron historias estructuralmente distintas pero estadísticamente indistinguibles en cuanto a puntuaciones de calidad agregadas.
• Perfil de Brecha-Cuello de Botella: Al barrer el exponente de compensabilidad $\alpha$, el componente simétrico de la separación entre historias coherentes e incoherentes se maximizó exactamente en la media geométrica ($\alpha = 0$) en todos los corpus, incluyendo un corpus de navegación humana (Wikispeedia) y una narrativa multimodal de imágenes.

Contribuciones clave

1. Lectura geométrica: El artículo proporciona la primera interpretación de la geometría de la información de la métrica de coherencia compuesta, mapeándola a una variedad de producto donde el logaritmo negativo de la coherencia se descompone aditivamente.
2. Consistencia local de Fisher-Rao: Demuestra que la distancia de Jensen-Shannon utilizada en el componente de tema induce un tensor métrico proporcional a la matriz de información de Fisher, alineando la métrica con la geometría única caracterizada por el teorema de Chentsov.
3. Unicidad axiomática: Demuestra que la media geométrica es el combinador único que satisface un conjunto específico de cuatro axiomas (límite, simetría, log-aditividad, normalización), distinguiéndola de otros promedios de potencia.
4. Justificación empírica: Valida que la media geométrica no es dominada empíricamente y que la premisa de diseño (las transiciones incoherentes son más desequilibradas entre canales) se cumple, maximizando la separación simétrica de las historias en la media geométrica.

Significado y afirmaciones
El artículo afirma proporcionar una justificación de la geometría de la información para la métrica de coherencia compuesta $C = \sqrt{A \cdot T}$, que se ha utilizado operativamente en sistemas como Narrative Maps y Narrative Trails. No pretende que la media geométrica sea universalmente óptima para todas las posibles tareas de extracción de narrativas o que produzca historias "mejores" en un sentido perceptible para el humano en comparación con otros combinadores (ya que la calidad descendente fue estadísticamente indistinguible).

En su lugar, la importancia radica en:

• Fundamentación teórica: Pasar de una definición operativa ad hoc a una derivada de la geometría del espacio de documentos y de principios axiomáticos.
• Decisión de modelado: Enmarcar la elección del combinador no como un hiperparámetro para ajustar la calidad, sino como una decisión de modelado sobre qué estructuras narrativas poner en primer plano (por ejemplo, imponer un veto frente a permitir la compensación).
• Utilidad diagnóstica: Resaltar que la estructura log-aditiva de la media geométrica permite la atribución diagnóstica de los costos de la trayectoria a canales específicos (angular frente a tema), una característica perdida en otros combinadores como la métrica de producto al cuadrado ($d_\times^2$).

Los autores concluyen que la media geométrica es la "elección natural" bajo los requisitos operativos declarados (veto, simetría, log-aditividad) y la premisa de diseño de la complementariedad de escala, proporcionando una base rigurosa para su uso continuo en la extracción de narrativas basadas en eventos.