Resumen Técnico: Analogías Proporcionales en Distribuciones de Probabilidad mediante la Actualización Bayesiana

Planteamiento del Problema

El razonamiento analógico, definido como la relación cuaternaria "A es a B como C es a D" ($a:b::c:d$), ha sido formalizado extensamente en los dominios booleano, simbólico y de valores reales. Sin embargo, la extensión de las analogías proporcionales a las distribuciones de probabilidad permanece mayormente inexplorada. Los intentos existentes para definir analogías entre distribuciones enfrentan limitaciones significativas:

• Murena, Cornuéjols y Dessalles (2018) utilizaron el transporte paralelo en la geometría de la información. Este enfoque es computacionalmente exigente, se restringe a distribuciones dentro de la misma familia paramétrica y no logra satisfacer los axiomas fundamentales de las analogías proporcionales en variedades no planas.
• Prade y Richard (2025) extendieron las analogías proporcionales clásicas a las distribuciones categóricas utilizando restricciones aritmético-geométricas. Este marco está limitado a distribuciones categóricas, impone condiciones excesivamente restrictivas que reducen el conjunto de analogías válidas y no aprovecha la naturaleza estadística de las distribuciones de probabilidad.

El desafío central es definir una noción de analogía proporcional para distribuciones de probabilidad que satisfaga los axiomas clásicos del razonamiento analógico, sea aplicable a distribuciones arbitrarias y esté fundamentada en los mecanismos fundamentales de la inferencia probabilística.

Metodología

La Actualización Bayesiana como Fundamento

El artículo introduce una analogía proporcional basada en Bayes. La hipótesis central es que dos distribuciones están relacionadas si una puede ser transformada en la otra mediante una actualización bayesiana inducida por un conjunto adecuado de observaciones.

Sea $\mathcal{P}$ un espacio de distribuciones de probabilidad sobre un espacio de parámetros $\Theta$, y $\mathcal{L}$ un modelo estadístico con verosimilitud $p(x|\theta)$. El autor define una relación simétrica $p \xleftrightarrow{x}_{\mathcal{L}} q$ si $q$ es la posterior de $p$ dada la observación $x$, o viceversa.

Una analogía proporcional basada en Bayes $R_{\mathcal{L}}(p_A, p_B, p_C, p_D)$ se cumple si existen observaciones $x_1, x_2 \in \bar{\mathcal{X}}$ (donde $\bar{\mathcal{X}}$ incluye una observación nula $\emptyset$) tales que:

1. $p_A \xleftrightarrow{x_1}_{\mathcal{L}} p_B$ y $p_C \xleftrightarrow{x_1}_{\mathcal{L}} p_D$
2. $p_A \xleftrightarrow{x_2}_{\mathcal{L}} p_C$ y $p_B \xleftrightarrow{x_2}_{\mathcal{L}} p_D$

Esta definición se basa en la alcanzabilidad estadística: la analogía existe si la "distancia" (en términos de actualizaciones requeridas) entre $A$ y $B$ es equivalente a la distancia entre $C$ y $D$, mediada por el mismo modelo de verosimilitud.

Caracterización Teórica: Familia Exponencial

El autor demuestra que para las distribuciones pertenecientes a la familia exponencial, esta analogía admite una caracterización aritmética simple en el espacio de parámetros naturales.

• Proposición 4 y Teorema 1: Para distribuciones $p(.|\xi)$ en una familia exponencial con parámetros naturales $\eta(\xi)$, la analogía $p_A : p_B :: p_C : p_D$ se cumple si y solo si:
  1. Los parámetros naturales satisfacen la proporción aritmética: $\eta(\xi_B) - \eta(\xi_A) = \eta(\xi_D) - \eta(\xi_C)$.
  2. O BIEN se cumple la "solución inversa": $\eta(\xi_A) = \eta(\xi_D)$ y $\eta(\xi_B) = \eta(\xi_C)$.
  3. Condición Crucial: Los vectores de diferencia deben pertenecer a la imagen del estadístico suficiente $S(x)$ del modelo de verosimilitud, denotada como $\text{Im}(S)$.

Este resultado implica que la "riqueza" de las posibles analogías está determinada por la geometría de $\text{Im}(S)$. Si $\text{Im}(S)$ cubre todo el espacio de parámetros, la analogía es maximal.

Solucionador Aproximado para Distribuciones Arbitrarias

Para extender el marco más allá de las familias exponenciales analíticamente tratables, el artículo propone un algoritmo basado en muestreo inspirado en la Computación Bayesiana Aproximada (ABC).

• Entrada: Muestras finitas de las distribuciones $p_A, p_B, p_C$.
• Objetivo: Encontrar una distribución $p_D$ (representada por muestras) y observaciones latentes $x, x'$ que satisfagan las condiciones de consistencia de la analogía.
• Mecanismo:
  1. Muestreo de la Posterior: Utiliza el muestreo por importancia para aproximar las posteriores $p(\theta|x)$ a partir de las muestras a priori.
  2. Actualizaciones Inversas: Maneja la naturaleza simétrica de la relación permitiendo actualizaciones en reversa (recuperando una previa a partir de una posterior) usando re-muestreo ponderado con pesos proporcionales a $1/p(x|\theta)$.
  3. Optimización: Busca conjuntos de datos latentes $(x, x')$ que minimicen la discrepancia (por ejemplo, la distancia de Wasserstein) entre las distribuciones empíricas de las muestras observadas y las muestras reconstruidas.
  4. Validación: Las soluciones solo se aceptan si el Tamaño de Muestra Efectivo (ESS) es suficiente y el error de reconstrucción está por debajo de un umbral.

Principales Contribuciones

1. Definición Novedosa: Introduce una definición de analogía proporcional para distribuciones de probabilidad basada en la actualización bayesiana, la cual satisface los axiomas fundamentales de las analogías proporcionales (reflexividad, simetría, permutación central).
2. Caracterización Aritmética: Demuestra que, para la familia exponencial, la analogía se reduce a una proporción aritmética entre los parámetros naturales, siempre que las diferencias de parámetros residan dentro de la imagen del estadístico suficiente de la verosimilitud.
3. Generalización: Desarrolla un algoritmo basado en muestreo que resuelve ecuaciones analógicas para distribuciones de probabilidad arbitrarias, evitando la necesidad de soluciones analíticas de forma cerrada.
4. Análisis Teórico de la Expresividad: Demuestra que la expresividad de la analogía está directamente ligada a la geometría de la imagen del estadístico suficiente, definiendo analogías "maximales" para modelos de verosimilitud específicos (por ejemplo, regresión lineal gaussiana).

Resultados Empíricos

El autor evaluó el solucionador basado en muestreo en un benchmark sintético que involucra distribuciones normales multivariantes donde la solución analítica es conocida.

• Configuración: Se generaron 3,121 ecuaciones analógicas. Se probaron dos modelos de verosimilitud: una verosimilitud normal estándar y una verosimilitud de regresión lineal.
• Desempeño en Verosimilitud Normal: El algoritmo recuperó 0% de las soluciones para la verosimilitud normal. Esto era de esperarse, ya que el soporte de la analogía para este modelo es de medida cero, confirmando que el algoritmo no genera falsos positivos.
• Desempeño en Verosimilitud de Regresión: Utilizando Optimización Bayesiana para buscar en el espacio de observación latente, el solucionador recuperó exitosamente soluciones para 1,918 de 3,121 ecuaciones (61.45%).
• Precisión: Para las ejecuciones exitosas, la mediana de la distancia de Wasserstein entre la solución analítica y la recuperada fue de 0.132. Las estimaciones de la media mostraron una fuerte correlación de Pearson (0.997) con la verdad de campo, mientras que las estimaciones de la varianza tendieron a ser subestimadas.
• Limitaciones Observadas:
  • Espacio de Búsqueda: La búsqueda exhaustiva en cuadrícula resultó computacionalmente prohibitiva para verosimilitudes complejas; se utilizó Optimización Bayesiana para mayor eficiencia.
  • Degeneración de Partículas: Los errores de aproximación estaban fuertemente correlacionados con un bajo Tamaño de Muestra Efectivo (ESS), lo que indica que la degeneración de partículas en el paso de muestreo por importancia es una fuente primaria de error.
  • Analogías No Maximales: El algoritmo falló correctamente al intentar encontrar soluciones para analogías basadas en verosimilitudes no maximales (donde el soporte es de medida cero), confirmando que no genera falsos positivos.

Significado y Reivindicaciones

El artículo afirma proporcionar una base fundamentada para conectar el razonamiento analógico con el aprendizaje automático, basando las analogías en los mecanismos intrínsecos de la inferencia probabilística.

• Contribución Teórica: A diferencia de enfoques previos que dependen de variedades geométricas o aritmética ad-hoc sobre probabilidades, este marco se extiende naturalmente a distribuciones arbitrarias y satisface los requisitos axiomáticos del razonamiento analógico.
• Utilidad Práctica: El marco abre nuevas perspectivas para aplicaciones tales como el aprendizaje por transferencia (transfer learning), aumento de datos, reconstrucción de distribuciones, razonamiento basado en casos y meta-aprendizaje, donde el razonar directamente sobre distribuciones de probabilidad ofrece un mecanismo natural para la transferencia de conocimiento.
• Modestia: El autor reconoce que la implementación actual está limitada por la calidad de la aproximación del muestreo por importancia. Establece explícitamente que la "solución inversa" (donde $A=D$ y $B=C$) es una consecuencia de la definición simétrica, algo que algunos podrían considerar debatible, pero que está naturalmente cubierto por su marco teórico. Se propone trabajo futuro para investigar técnicas de inferencia más avanzadas (por ejemplo, muestreo de la posterior) para mejorar la robustez y la escalabilidad.