Complete Diagrammatic Axiomatisations of Relative Entropy

Este trabajo presenta axiomatizaciones completas de la divergencia de Kullback-Leibler y de las divergencias de Rényi de orden arbitrario para dos estructuras monoidales naturales de matrices estocásticas, formuladas desde una perspectiva categórica mediante diagramas de cadenas enriquecidos con ecuaciones cuantitativas.

Lo esencial

Imagina que el mundo de la informática y las matemáticas es como una gran ciudad llena de máquinas de decisiones. Algunas de estas máquinas son simples: lanzan una moneda y deciden si llueve o no. Otras son complejas: son redes neuronales que aprenden a reconocer gatos en fotos o sistemas que predicen el tráfico.

En el pasado, los científicos se preguntaban: "¿Son dos máquinas exactamente iguales?". Si la respuesta era "no", las consideraban diferentes y punto. Pero en el mundo real, especialmente con la inteligencia artificial, esa pregunta es demasiado rígida. A veces, dos máquinas son casi iguales, pero una comete un error muy pequeño y la otra uno enorme.

Aquí es donde entra este paper. Los autores, Ralph Sarkis y Fabio Zanasi, han creado un nuevo lenguaje de dibujo para medir cuán diferentes son estas máquinas, no solo si son iguales o no.

1. El Problema: Medir la Distancia entre "Opiniones"

Imagina que tienes dos meteorólogos (dos distribuciones de probabilidad).

• El Meteorólogo A dice: "Hay un 90% de probabilidad de lluvia".
• El Meteorólogo B dice: "Hay un 10% de probabilidad de lluvia".

Si llueve, el Meteorólogo A tenía razón y el B estaba muy equivocado. La "distancia" entre sus opiniones es grande.
La Entropía Relativa (o Divergencia KL) es la herramienta matemática que nos dice cuánto se equivocó el Meteorólogo B respecto al A. Es como una "regla" que mide el error.

El problema es que medir esto en sistemas complejos (como redes de IA) es como intentar medir la distancia entre dos ciudades usando solo un mapa de papel viejo: es difícil, confuso y a veces imposible de hacer con precisión.

2. La Solución: Dibujos que "Hablan" (Diagramas de Cuerdas)

Los autores proponen dejar de usar ecuaciones largas y aburridas y empezar a usar diagramas de cuerdas.

• Imagina que cada máquina de decisión es un bloque de Lego con cables que entran y salen.
• Conectas los bloques para formar sistemas más grandes.
• En lugar de escribir fórmulas, dibujas cómo se conectan los cables.

Lo genial de este paper es que han inventado un diccionario de reglas para estos dibujos. No solo dicen "este dibujo es igual a ese otro", sino que pueden decir: "Si la distancia entre estos dos cables es pequeña, entonces la distancia entre estos dos dibujos grandes será, como máximo, X".

3. Las Dos Maneras de Construir el Mundo

El paper explora dos formas principales de conectar estas máquinas, como si fueran dos tipos de construcción diferentes:

• La Torre (Producto de Kronecker): Imagina que construyes una torre apilando bloques uno encima del otro. Cada nuevo bloque multiplica la complejidad. Esto es útil para sistemas donde todo está interconectado, como redes bayesianas o cadenas de causa y efecto.
• La Caja de Herramientas (Suma Directa): Imagina que tienes una caja con diferentes herramientas. Puedes elegir usar el martillo O el destornillador, pero no ambos a la vez para la misma tarea. Esto es útil para sistemas donde hay opciones mutuamente excluyentes o mezclas de probabilidades.

Los autores han creado un manual de instrucciones (un conjunto de axiomas) para ambos tipos de construcción. Han demostrado que si sigues sus reglas de dibujo, nunca te equivocarás al calcular la "distancia" (el error) entre dos sistemas.

4. La Magia: La Regla de la Cadena

La parte más brillante de su trabajo es una regla llamada "Regla de la Cadena".
Imagina que quieres medir la diferencia entre dos películas completas. Es difícil. Pero si divides la película en escenas, puedes medir la diferencia escena por escena.

• Si la escena 1 es muy similar (poca diferencia).
• Y la escena 2 es muy similar (poca diferencia).
• Entonces, la película completa no puede ser muy diferente.

Los autores han traducido esta intuición a sus diagramas. Han creado reglas que dicen: "Si sabes que la diferencia entre las partes pequeñas es X, entonces puedes calcular exactamente la diferencia del sistema completo". Esto es crucial porque permite descomponer problemas gigantes en pedacitos manejables.

5. ¿Por qué es importante para ti?

Aunque suene muy técnico, esto tiene aplicaciones reales:

• Privacidad: Ayuda a medir cuánto "filtra" un sistema de datos personales (privacidad diferencial).
• Aprendizaje Automático: Permite a los ingenieros saber si su nueva IA está aprendiendo de verdad o solo está memorizando cosas sin sentido.
• Seguridad: Permite verificar que dos versiones de un software de seguridad se comportan de manera casi idéntica, incluso si una tiene un pequeño error.

En Resumen

Este paper es como haber inventado un nuevo idioma de dibujo para los matemáticos y programadores. Antes, medir la diferencia entre dos sistemas probabilísticos era como intentar adivinar la distancia entre dos estrellas a simple vista. Ahora, con sus reglas y diagramas, tienen una regla métrica perfecta que funciona para cualquier sistema, por complejo que sea. Han convertido un problema matemático abstracto en un conjunto de instrucciones visuales que cualquiera (con un poco de práctica) puede seguir para entender cuán "lejos" están dos mundos de probabilidades el uno del otro.

Resumen técnico

Aquí presento un resumen técnico detallado del artículo "Complete Diagrammatic Axiomatisations of Relative Entropy" (Axiomatizaciones Diagramáticas Completas de la Entropía Relativa) de Ralph Sarkis y Fabio Zanasi.

1. Problema y Contexto

La entropía relativa (o divergencia de Kullback-Leibler, KL) y sus generalizaciones (divergencias de Rényi) son fundamentales en teoría de la probabilidad, estadística y aprendizaje automático para medir la distancia entre distribuciones de probabilidad. Sin embargo, en el ámbito de la semántica de lenguajes de programación y la teoría de categorías, existía una brecha significativa:

• Falta de axiomatización completa: Mientras que métricas como la distancia de variación total y la métrica de Kantorovich ya contaban con teorías algebraicas cuantitativas completas (basadas en el trabajo de Mardare et al.), no existía una axiomatización completa para la divergencia KL ni para las divergencias de Rényi dentro del marco de álgebra monoidal cuantitativa.
• Limitaciones de los enfoques existentes: Los enfoques anteriores se centraban en distribuciones de probabilidad simples. El trabajo busca extender esto a matrices estocásticas (sistemas multidimensionales) y manejar la estructura monoidal subyacente de manera más general que el enfoque cartesiano tradicional.
• Complejidad de las reglas de inferencia: La propiedad clave de la entropía relativa, la regla de la cadena (chain rule), no se puede expresar fácilmente como una ecuación cuantitativa simple ($s =_\epsilon t$), sino que requiere una relación de implicación: si las distancias entre las distribuciones condicionales están acotadas, entonces la distancia entre las distribuciones conjuntas también lo está.

2. Metodología

Los autores abordan el problema utilizando un marco de álgebra monoidal cuantitativa enriquecido con implicaciones cuantitativas.

• Lenguaje de Diagramas de Cuerdas (String Diagrams): Utilizan la sintaxis de diagramas de cuerdas para representar morfismos en categorías simétricas monoidales (SMC). Esto permite razonar sobre matrices estocásticas y sus composiciones de manera gráfica y algebraica.
• Enriquecimiento sobre $VRel$: En lugar de tratar las distancias como valores numéricos aislados, enriquecen las categorías con relaciones de valor en un cuantale $V$ (específicamente $[0, \infty]$ con el orden inverso). Esto permite definir categorías donde los hom-conjuntos son espacios métricos y la composición es no expansiva.
• Estructuras Monoidales: El estudio se centra en dos estructuras monoidales naturales sobre las matrices estocásticas:
  1. Producto de Kronecker ($\otimes$): Relevante para la teoría sintética de la probabilidad y redes bayesianas. Se estudia en la categoría $BStoch^\otimes$ (matrices de dimensiones potencias de 2).
  2. Suma Directa ($\oplus$): Relacionada con conjuntos convexos y álgebras de baricentro. Se estudia en la categoría $FStoch^\oplus$.
• Extensión a Implicaciones Cuantitativas: El aporte metodológico clave es extender el marco de teorías cuantitativas (que usualmente solo permiten ecuaciones $s =_\epsilon t$) para permitir axiomas de implicación de la forma $\Gamma \Rightarrow \phi$. Esto es esencial para formalizar la regla de la cadena como una regla de inferencia en el sistema lógico.

3. Contribuciones Clave

El artículo presenta tres contribuciones principales:

1. Axiomatización de la Divergencia KL:

   • Se proporcionan axiomatizaciones completas para las categorías enriquecidas $BStoch^\otimes_{kl}$ y $FStoch^\oplus_{kl}$.
   • Se definen teorías cuantitativas ($\mathcal{T}_{KL}^\otimes$ y $\mathcal{T}_{KL}^\oplus$) que incluyen las reglas estándar de composición y dos reglas de implicación específicas:
     • Chain ($Chain^\otimes, Chain^\oplus$): Formaliza la regla de la cadena. Establece que si $f_1 \approx_\epsilon g_1$ y $f_0 \approx_\delta g_0$, entonces la combinación de estas (mediante producto de Kronecker o suma directa) tiene una distancia acotada por una función de $\epsilon, \delta$ y las probabilidades marginales.
     • Reglas de Máximo: Para manejar la estructura de las matrices estocásticas bajo el producto de Kronecker (donde la distancia es el máximo de las distancias columnas).

2. Generalización a Divergencias de Rényi:

   • Se demuestra que el método se extiende a toda la familia de divergencias de Rényi de orden $\alpha \in [0, \infty]$.
   • Se definen nuevas reglas de implicación ($Chain^\otimes_\alpha, Chain^\oplus_\alpha$) que utilizan una función auxiliar $C_\alpha$ para calcular el límite superior de la distancia conjunta basándose en las distancias condicionales. La divergencia KL es el caso especial donde $\alpha = 1$.

3. Marco Teórico de Implicaciones Cuantitativas:

   • Se formaliza el concepto de teoría $V$ que permite axiomas de implicación. Se demuestra la corrección y completitud de este sistema: una implicación es válida en todos los modelos si y solo si es derivable en la categoría sintética generada libremente. Esto conecta la semántica de modelos enriquecidos con la sintaxis de diagramas de cuerdas.

4. Resultados Principales

• Isomorfismo de Categorías Enriquecidas: El resultado central es que las categorías sintéticas generadas por las nuevas teorías axiomáticas ($S_{KL}^\otimes, S_{KL}^\oplus$, etc.) son isomorfas a las categorías semánticas reales de matrices estocásticas enriquecidas con la divergencia KL o de Rényi.
  • Formalmente: $S_{KL}^\otimes \cong BStoch^\otimes_{kl}$ y $S_{KL}^\oplus \cong FStoch^\oplus_{kl}$.
• Completitud: Se prueba que la distancia entre dos diagramas en la categoría sintética (definida por la menor $\epsilon$ tal que $f =_\epsilon g$ es derivable) coincide exactamente con la distancia semántica (la divergencia KL real entre las matrices estocásticas interpretadas).
• Unicidad: Las reglas de la cadena propuestas son lo suficientemente precisas para caracterizar unívocamente las divergencias de KL y Rényi, a diferencia de formulaciones anteriores que solo ofrecían una caracterización general.

5. Significado e Impacto

• Cierre de una Brecha Teórica: Este trabajo proporciona la primera axiomatización completa y sintética de la entropía relativa en el contexto de álgebra monoidal, permitiendo razonar formalmente sobre la "distancia" entre procesos probabilísticos complejos.
• Herramienta para Semántica de Programas: Ofrece un marco para verificar propiedades de programas probabilísticos (como privacidad diferencial o convergencia de algoritmos de aprendizaje) utilizando razonamiento diagramático cuantitativo, en lugar de solo pruebas analíticas ad-hoc.
• Generalización de la Lógica Cuantitativa: La introducción de axiomas de implicación en el álgebra monoidal cuantitativa es un avance teórico independiente que permite modelar fenómenos (como la regla de la cadena o trazas uniformes) que no cabían en los marcos puramente ecuacionales anteriores.
• Conexión con la Probabilidad Sintética: Al trabajar a nivel de categorías monoidales, el trabajo se alinea con la "probabilidad sintética", facilitando el estudio de inferencia bayesiana, causalidad y modelos gráficos probabilísticos mediante diagramas.
• Futuro: Abre la puerta a extender estos resultados a procesos cuánticos (donde la entropía relativa cuántica es relevante) y a espacios no discretos, así como a la integración con teorías de monadas para efectos probabilísticos.

En resumen, el artículo logra traducir las propiedades analíticas profundas de la entropía relativa (específicamente la regla de la cadena) en un sistema lógico diagramático completo, permitiendo un razonamiento algebraico riguroso sobre la distancia entre sistemas estocásticos.