When Is Generalized Bayes Bayesian? A Decision-Theoretic Characterization of Loss-Based Updating

Resumen Técnico: "¿Cuándo es el Bayes Generalizado un Bayes? Una caracterización decisionista de la actualización basada en pérdidas"

Planteamiento del problema

La literatura sobre "bayes generalizado" (incluyendo los posteriores de Gibbs, los cuasi-posteriores y la actualización basada en pérdidas) ha crecido significamente, ofreciendo un marco para actualizar distribuciones mediante la exponenciación de la pérdida acumulada en lugar de las verosimilitudes. Si bien estos métodos se utilizan ampliamente en inferencia robusta, econometría y problemas inversos, la terminología "posterior" crea una ambigüedad operativa. Los posteriores bayesianos estándar representan creencias condicionales derivadas de un modelo de probabilidad conjunto (marco de Savage/Anscombe-Aumann), lo que permite interpretaciones específicas como las probabilidades de apuestas y el uso de la verosimilitud marginal como evidencia. En contraste, las actualizaciones basadas en pérdidas suelen estar impulsadas por funciones de pérdida elegidas por el usuario sin un modelo de muestreo subyacente. El artículo aborda la pregunta crítica: ¿Bajo qué condiciones una actualización basada en pérdidas retiene las propiedades de coherencia de un posterior de creencia bayesiano, y cuándo debe interpretarse estrictamente como un objeto de la teoría de la decisión?

Metodología y marco de trabajo

Los autores emplean un enfoque de la teoría de la decisión para distinguir entre dos objetos distintos que a menudo se confunden en la literatura:

1. Posteriores de creencia: Creencias condicionales sobre estados de incertidumbre derivadas de preferencias sobre actos, que satisfacen axiomas de consistencia dinámica (Savage, 1954; Anscombe y Aumann, 1963).
2. Posteriores de decisión: Reglas de decisión aleatorizadas (distribuciones sobre acciones/parámetros) elegidas para optimizar un funcional de preferencia tras observar los datos.

El artículo formaliza la actualización basada en pérdidas como un operador $\Psi$ que mapea una distribución base $\pi$ y una pérdida acumulada $L_n$ hacia una regla $q(\cdot|x)$. El análisis se basa en axiomas relativos a la coherencia secuencial (procesamiento por lotes), la separabilidad a través de subproblemas independientes y la estructura de las preferencias sobre reglas aleatorizadas.

Contribuciones clave y resultados

1. El divisor de equivalencia bayesiana (Teorema 1)
El artículo establece una condición necesaria y suficiente estricta para que un posterior bayes generalizado pueda interpretarse como un posterior de creencia bayesiano ordinario.

• Resultado: Un posterior basado en pérdidas $q(\theta|x) \propto \pi(\theta)\exp\{-\eta \ell(\theta; x)\}$ coincide con un posterior bayesiano derivado de un modelo conjunto si y solo si la función de pérdida $\ell(\theta; x)$ es, salvo por un término que depende solo de los datos $c(x)$ y un factor de escala, el negativo del logaritmo de la verosimilitud:
  $$\ell(\theta; x) = -\frac{1}{\eta} \log p_\theta(x) + c(x)$$
• Implicación: Si la pérdida no es el negativo del logaritmo de la verosimilitud (por ejemplo, pérdidas de funciones de criterio en econometría), la distribución resultante no puede interpretarse como un estado de creencia condicional. Debe tratarse como un posterior de decisión. El artículo proporciona un diagnóstico (Corolario 1) basado en la "función de partición" $A(\theta) = \int \exp\{-\eta \ell(\theta; x)\} d\mu(x)$; si $A(\theta)$ depende de $\theta$, la actualización no es bayesiana.

2. Fundamentación decisionista para el Bayes generalizado (Corolario 2)
Para los casos en que la pérdida no es el logaritmo de la verosimilitud, el artículo proporciona una caracterización positiva del Bayes generalizado como una regla de decisión aleatorizada óptima.

• Metodología: Los autores asumen que un tomador de decisiones optimiza un funcional variacional que compensa la pérdida esperada frente a un costo de desviación de una base $\pi$.
• Axioma clave: Separabilidad a través de subproblemas independientes (Axioma A4). Si el espacio de acciones y la base se factorizaran, y las pérdidas son aditivas, la regla óptima debe factorizarse.
• Resultado: Bajo coherencia secuencial y separabilidad, el único costo de desviación que satisface estos axiomas es la divergencia de Kullback-Leibler (KL) (salvo escala). En consecuencia, la regla óptima es la forma de Bayes generalizado (Gibbs):
  $$q^*(\cdot|x) = \arg\min_{q} \left\{ \int \ell(\theta; x) q(d\theta) + \frac{1}{\eta} D_{KL}(q \parallel \pi) \right\}$$
• Significado: Esto justifica el Bayes generalizado no como "Bayes sin un modelo", sino como la regla óptima para un tomador de decisiones con preferencias específicas sobre reglas aleatorizadas, donde la tasa de aprendizaje $\eta$ es un parámetro estructural de la especificación de la preferencia, no una propiedad fija de una verosimilitud.

3. No canonicidad de la verosimilitud marginal y los factores de Bayes (Sección 4)
El artículo demuestra que la "verosimilitud marginal generalizada" (la constante de normalización $Z(x)$ del posterior de Gibbs) no es una cantidad de evidencia canónica fuera del régimen de los posteriores de creencia.

• Resultado: El posterior de decisión $q(\cdot|x)$ es invariante ante la adición de cualquier término que dependa solo de los datos $c(x)$ a la pérdida. Sin embargo, la constante de normalización $Z(x)$ se reescala por $e^{-\eta c(x)}$.
• Implicación: Los factores de Bayes construidos a partir de verosimilitudes marginales generalizadas están mal definidos sin una estructura adicional, ya que dependen de convenciones arbitrarias (por ejemplo, el centrado de las verosimilitudes empíricas). El artículo propone el puntuaje predictivo invariante al desplazamiento (por ejemplo, la densidad predictiva logarítmica prequencial) como la alternativa canónica para la comparación de modelos en el régimen de los posteriores de decisión.

4. Degeneración de las preferencias lineales (Sección de la sección 5)
El artículo aborda la interpretación de la aleatorización en los posteriores basados en pérdidas.

• Resultado: Si las preferencias sobre las reglas de decisión aleatorizadas satisfacen el estándar del axioma de independencia de von Neumann-Morgenstern (vNM), la regla óptima colapsa a una masa puntual (degenerada) sobre la mejor acción pura.
• Implicación: Los posteriores generalizados no degenerados (que son comunes en la práctica) requieren preferencias no lineales sobre las reglas de decisión (por ejemplo, penalizaciones de entropía). La aleatorización no es simplemente un mecanismo de resolución de empates, sino una característica estructural de las preferencias de riesgo o regularización del tomador de decisiones.

Significancia y "Libro de Coherencia"

El artículo concluye proporcionando un "libro de coherencia" (Tabla 1) que detalla qué propiedades bayesianas sobreviven en el régimen del posterior de decisión y cuáles no:

• Posteriores de creencia: Soportan la intercambiabilidad, el principio de verosimilitud y las verosimilitudes marginales bien definidas.
• Posteriores de decisión: Soportan la coherencia secuencial (consistencia del operador) y la optimalidad bajo una pérdida especificada, pero no soportan la intercambiabilidad como una restricción de creencia, el principio de verosimilitud, ni resúmenes de evidencia canónicos como los factores de Bayes.

Implicaciones prácticas:

1. Calibración de la tasa de aprendizaje: En el régimen del posterior de decisión, la tasa de aprendizaje $\eta$ no está fijada por un modelo probabilístico. Es un componente estructural que debe ser calibrado explícitamente (por ejemplo, mediante un bootstrap de verosimilitud-pérdida o una selección de tasa de aprendizaje segura) para asegurar la robustez o la cobertura.
2. Estándares de reporte: Los autores recomiendan que los profesionales que utilicen el Bayes generalizado reporten explícitamente la función de pérdida, el método de calibración para $\eta$, la interpretación del resultado (creencia vs. decisión) y el criterio de comparación de modelos utilizado (favoreciendo el puntuaje predictivo sobre $Z(x)$).

Conclusión
El artículo aclara que el Bayes generalizado es un mecanismo coherente para seleccionar reglas de decisión aleatorizadas bajo especificaciones explícitas de pérdida y base. Recupera la actualización de la creencia bayesiana estándar solo en el caso específico en que la pérdida es el negativo del logaritmo de la verosimilitud. Fuera de este caso, el método es una herramienta de regularización de la teoría de la decisión, y sus propiedades (como la falta de evidencia canónica) deben entenderse dentro de ese marco y no a través de la lente de la coherencia de la creencia clásica.