Non-parametric finite-sample credible intervals with one-dimensional priors: a middle ground between Bayesian and frequentist intervals

Este artículo propone un nuevo tipo de intervalo estadístico que, al debilitar la definición de intervalo creíble bayesiano, ocupa un punto medio práctico y filosófico entre los enfoques frecuentista y bayesiano, ofreciendo implementaciones no paramétricas con priores unidimensionales para la estimación de la función de distribución acumulada y la media en soportes acotados.

Lo esencial

¡Hola! Imagina que eres un chef y tienes una olla gigante llena de sopa. Quieres saber qué tan salada está la sopa (ese es el "parámetro" que queremos medir), pero no puedes probar toda la sopa porque se enfriaría o se acabaría. Solo puedes probar un par de cucharadas (esos son tus "datos").

Aquí es donde entran dos escuelas de pensamiento muy diferentes sobre cómo adivinar la salinidad:

1. Los Frequentistas (Los Estrictos): Dicen: "Si repitiéramos este experimento 100 veces con diferentes cucharadas, en 95 de esos casos, nuestro cálculo de salinidad sería correcto". Pero, si miras tu cucharada específica hoy, no pueden decirte con seguridad: "Hay un 95% de probabilidad de que esta cucharada sea correcta". Es como si te dieran un mapa que es 95% fiable en promedio, pero no te dicen si tu ubicación actual está en la zona segura.
2. Los Bayesianos (Los Subjetivos): Dicen: "¡Claro que podemos decirte! Si crees que la sopa suele ser salada (tu 'creencia previa'), y pruebas esta cucharada, ahora creemos un 95% de que la sopa es así". El problema es que para hacer esto con recetas complejas (como estimar toda la distribución de sabores), necesitas tener una opinión muy detallada sobre todas las posibles sopas del universo, lo cual es abrumador y a veces imposible.

La Nueva Propuesta: El "Justo Medio"

El Dr. Tim Ritmeester propone una tercera opción, un punto medio que combina lo mejor de ambos mundos.

Imagina que tienes un asistente mágico que te da un intervalo de salinidad (por ejemplo, "entre 2 y 3 gramos de sal"). Pero hay una regla de oro: Tú no puedes ver la cucharada que probó el asistente, solo ves el resultado final.

La idea es esta:

• Si el asistente te da un intervalo, tú puedes decir: "Tengo al menos un 95% de confianza en que la salinidad real está aquí".
• ¿Por qué? Porque el asistente ha sido diseñado para ser honesto incluso sin que tú veas los datos crudos.
• La ventaja: No necesitas tener una opinión sobre todas las sopas posibles (como los Bayesianos). Solo necesitas decirle al asistente: "Creo que la salinidad suele estar entre X e Y" (una creencia simple sobre el resultado final).

¿Cómo funciona en la vida real? (Dos ejemplos)

El paper explica cómo aplicar esto en dos situaciones comunes:

1. La "Porción de Sopa" (CDF):

   • El problema: Quieres saber qué porcentaje de la sopa está por debajo de cierto nivel de sal (digamos, "¿qué % de la sopa es menos salada que 2 gramos?").
   • La solución: El asistente cuenta cuántas de tus cucharadas fueron menos saladas que 2 gramos. Con esa cuenta y tu creencia inicial, te da un intervalo. Es como si el asistente te dijera: "Basado en lo que vi, hay un 95% de chance de que el 40% al 60% de la sopa sea menos salada".

2. El "Promedio de Sabor" (Media):

   • El problema: Quieres saber el sabor promedio de la sopa, pero la sopa tiene límites (no puede ser más salada que el océano ni menos salada que el agua pura).
   • La solución: Aquí el asistente hace un truco. Toma el promedio de tus cucharadas y le añade un poco de "ruido" o "distorsión" controlada (como si mezclara un poco de agua dulce y salada al azar). Luego, usa matemáticas inteligentes (llamadas desigualdades de Hoeffding) para asegurarse de que, incluso con ese ruido, el intervalo que te da sea seguro.
   • El resultado: El intervalo puede ser un poco más ancho que el de un Bayesiano experto, pero es mucho más fácil de calcular y no requiere que seas un genio de las matemáticas para definir tu creencia previa.

¿Por qué es genial esto?

• Es flexible: Puedes cambiar tu "creencia previa" (tu opinión sobre la salinidad) y el intervalo se adapta, sin romper las reglas de seguridad.
• Es honesto: A diferencia de los métodos estrictos, si alguien te muestra el resultado, puedes confiar en él con un 95% de certeza.
• Es práctico: No necesitas ser un matemático experto para definir creencias sobre "todas las sopas del mundo". Solo necesitas opinar sobre el resultado final.

En resumen

Imagina que los métodos antiguos son como:

• Frequentista: "El 95% de los mapas son buenos, pero no sé si el tuyo lo es".
• Bayesiano: "Si me das un libro entero de opiniones sobre todas las sopas, te daré un mapa perfecto".
• Este nuevo método: "Dame solo tu opinión sobre la salinidad final, y te daré un mapa que sé que es 95% fiable, incluso si no me cuentas cómo lo calculaste".

Es una herramienta nueva para tomar decisiones con incertidumbre, que es más fácil de usar que la estadística tradicional y más honesta que los métodos antiguos. ¡Es como tener un asistente que sabe exactamente cuánto puedes confiar en sus consejos!

Resumen técnico

A continuación presento un resumen técnico detallado del artículo "Intervalos creíbles no paramétricos de muestra finita con priores unidimensionales: un punto medio entre intervalos bayesianos y frecuentistas", de Tim Ritmeester.

1. El Problema

El artículo aborda la dicotomía clásica en la inferencia estadística entre los intervalos de credibilidad bayesianos y los intervalos de confianza frecuentistas, ambos con desventajas significativas:

• Bayesianos: Ofrecen una interpretación directa (probabilidad de que el parámetro esté en el intervalo tras ver los datos), pero requieren especificar un prior sobre todo el espacio de distribuciones posibles. En problemas no paramétricos, esto implica priores de alta dimensión, lo cual es subjetivo, difícil de especificar y computacionalmente costoso.
• Frecuentistas: Son objetivos y no requieren priores, pero su interpretación es estrictamente pre-datos. Una vez que se observan los datos y el intervalo calculado, no se puede asignar una probabilidad $p\%$ de que el parámetro esté dentro (de hecho, a veces se sabe con certeza que no lo está). Además, son rígidos ante análisis secuenciales o post-hoc.

El objetivo es desarrollar un tipo de intervalo que ocupe un "punto medio", ofreciendo una interpretación creíble tras observar el intervalo (sin ver los datos crudos), sin la complejidad de los priores no paramétricos completos.

2. Metodología Propuesta

Los autores proponen una nueva definición de conjunto creíble basada en un criterio de validez relajado pero riguroso:

• Definición del Intervalo: Un intervalo $S_p$ es un intervalo creíble del $p\%$ si, después de observar el intervalo (pero sin inspeccionar el conjunto de datos completo por uno mismo), la creencia asignada a que el parámetro $\theta$ esté dentro es al menos $p\%$.
  • Formalmente: $b(\theta \in s \mid S_p = s) \geq p$.
• Requisito de Precisión: Se desea que esta creencia sea cercana a la que se tendría si se hubieran visto los datos completos ($b(\theta \in s \mid X) \approx p$).
• Enfoque de Construcción:
  • En lugar de usar todo el espacio de distribuciones, el método solo requiere un prior unidimensional sobre el parámetro de interés, $b(\theta)$.
  • Se introduce una función de verosimilitud efectiva $l(\theta)$ derivada de un estadístico resumen $m = M(X)$ (una función de los datos).
  • El intervalo se calcula como el conjunto que satisface:
    $$p \leq \frac{\int_{S_p} l(\theta)b(\theta) d\theta}{\int_{-\infty}^{\infty} l(\theta)b(\theta) d\theta}$$
  • La validez se garantiza construyendo $l(\theta)$ de manera que proporcione una cota inferior a la creencia condicional $b(\theta \in s \mid m)$.

3. Contribuciones Clave y Casos de Estudio

El paper deriva implementaciones concretas para dos casos totalmente no paramétricos:

A. Estimación de la Función de Distribución Acumulada (CDF)

• Objetivo: Estimar $\theta = P(X < y)$.
• Método: El estadístico resumen es el número de muestras menores que $y$ ($m$), que sigue una distribución Binomial.
• Resultado: La función de verosimilitud $l(\theta)$ es la distribución Binomial estándar.
• Propiedad: Los intervalos resultantes satisfacen el criterio de validez con igualdad ($=$) y son asimptóticamente equivalentes a los intervalos bayesianos y frecuentistas estándar (Clopper-Pearson).

B. Estimación de la Media con Soporte Acotado

• Objetivo: Estimar la media $\mu$ de una distribución restringida a $[a, b]$ (rescalado a $[0, 1]$).
• Método: Se introduce un estadístico $m$ que es la media muestral más un ruido uniforme $Z \sim \text{univ}(-\delta, \delta)$.
• Verosimilitud: Se utiliza la desigualdad de Hoeffding para acotar la probabilidad de la media muestral, derivando una función $l(\mu)$ compleja (definida por funciones exponenciales $g_{\pm}$).
• Resultado: Los intervalos satisfacen el criterio de validez con desigualdad ($\geq$).
• Ancho del intervalo: Asimptóticamente, estos intervalos son más anchos que los bayesianos puros. Para $p=0.95$, son aproximadamente un 48.79% más anchos que un intervalo basado en la desigualdad de Hoeffding, y hasta un 38.59% más anchos que el intervalo bayesiano óptimo (en el peor caso de varianza).

4. Resultados y Propiedades

• Validez de Muestra Finita: A diferencia de los métodos frecuentistas, estos intervalos mantienen una interpretación de credibilidad válida incluso después de observar el intervalo, siempre que no se haya inspeccionado el dataset completo.
• Precisión Asimptótica:
  • Para la CDF, la precisión es óptima (igual a la bayesiana).
  • Para la media, hay una penalización en el ancho del intervalo (sacrificio de precisión) para garantizar la validez sin priores de alta dimensión. Sin embargo, para muestras pequeñas, los intervalos propuestos son más estrechos que los frecuentistas gracias al uso del prior unidimensional.
• Flexibilidad Operativa:
  • Permiten muestreo secuencial: Si se tienen múltiples conjuntos de datos, las funciones $l(\theta)$ se pueden multiplicar.
  • Permiten exploración de priores: El usuario puede probar diferentes priores $b(\theta)$ o diferentes intervalos candidatos sin violar la validez del método, una ventaja práctica típica de los métodos bayesianos.

5. Significado e Implicaciones

El trabajo presenta un avance significativo en la inferencia estadística práctica:

1. Reducción de Complejidad: Logra las ventajas de los métodos bayesianos (interpretación directa, flexibilidad, buen comportamiento en muestras pequeñas) evitando la necesidad de especificar priores sobre espacios de funciones infinitos, requiriendo solo un prior sobre un parámetro escalar.
2. Punto Medio Filosófico: Resuelve la tensión entre la subjetividad bayesiana y la rigidez frecuentista. Ofrece una herramienta para la toma de decisiones bajo incertidumbre donde la interpretación "post-data" es crucial, pero la especificación de un modelo completo es inviable.
3. Aplicabilidad: Es especialmente útil en escenarios donde se tiene una intuición sobre el parámetro de interés (ej. la media o una probabilidad) pero no sobre la forma completa de la distribución subyacente.
4. Direcciones Futuras: Los autores sugieren que la metodología puede mejorarse (especialmente para la estimación de la media) mediante la elección de distribuciones de ruido diferentes o el uso de desigualdades que incorporen la varianza. También proponen explorar la combinación con estadística fiducial para justificar priores no informativos basados en simetrías.

En resumen, el artículo propone un marco teórico y práctico para generar intervalos creíbles que son válidos en muestra finita, objetivos en su construcción (solo requieren un prior de parámetro) y flexibles, llenando un vacío importante entre las dos escuelas de pensamiento estadístico tradicionales.