📊 statistics

The Dirichlet Process as sampling distribution

Este artículo investiga el proceso de Dirichlet como un modelo generador de datos por primera vez, proponiendo un marco bayesiano para inferir su medida de centrado y su parámetro de precisión utilizando tanto datos de histogramas simulados como reales.

Autores originales: Luis E. Nieto-Barajas

Publicado 2026-07-30

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Luis E. Nieto-Barajas

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El Gran Rompecabezas Estadístico: Cuando los Datos Vienen en Instantáneas

Imagina que estás tratando de entender el clima en una ciudad gigante, pero no tienes un flujo continuo de datos de una supercomputadora. En su lugar, tienes una pila de mapas meteorológicos antiguos, dibujados a mano, de diferentes vecindarios. Algunos mapas muestran la temperatura en bloques grandes y gruesos; otros usan cuadrados diminutos y precisos. Algunos mapas cubren toda la ciudad, mientras que otros solo muestran un parque. Este es el mundo de la no paramétrica bayesiana, una rama de la estadística que intenta descubrir la "forma" de la realidad sin forzarla en una caja rígida y predefinida.

Normalmente, los estadísticos utilizan una herramienta llamada Proceso de Dirichlet (DP) como la receta secreta de un maestro chef. Lo utilizan para adivinar cómo es un ingrediente oculto (la verdadera distribución de los datos) basándose en unas pocas muestras. Pero aquí está el giro: en este artículo, el autor cambia la perspectiva. En lugar de usar el DP como una receta para adivinar los ingredientes, trata al propio DP como el ingrediente que creó los datos. Se pregunta: "Si estos mapas desordenados y de diferentes apariencias fueran generados por la misma máquina invisible, ¿cómo sería esa máquina?". Es como mirar una pila de diferentes formas de galletas e intentar descubrir la receta exacta y el tamaño del cortador de galletas que las hizo a todas.

La Gran Idea del Artículo: Poniendo la Receta de Cabeza

En este estudio, Luis E. Nieto-Barajas toma el famoso Proceso de Dirichlet y lo utiliza como una distribución de muestreo. Normalmente, este proceso se usa como un "prior" (una creencia previa)—una suposición inicial sobre cómo podrían ser los datos antes de verlos. Pero aquí, el autor trata al DP como el generador de datos real. Imagina que una colección de histogramas (esos gráficos de barras que muestran con qué frecuencia ocurren las cosas) no apareció de forma aleatoria; todos "nacieron" de un único Proceso de Dirichlet.

El objetivo es realizar ingeniería inversa a la máquina. Si tenemos un montón de estos histogramas, ¿podemos descubrir los dos ajustes principales de la máquina que los creó?

La Medida de Centrado ( $F_0$ ): Piensa en esto como la forma "promedio" o el plano objetivo que la máquina intenta copiar.
El Parámetro de Precisión ( $c$ ): Esto es como la "exigencia" o "rigidez" de la máquina. Un $c$ alto significa que la máquina es muy estricta y hace copias que se ven casi idénticas al plano. Un $c$ bajo significa que la máquina es descuidada y hace copias salvajes y variadas.

El artículo argumenta que, si bien el DP es excelente para modelar datos continuos (como curvas suaves), sus trayectorias son en realidad discretas (hechas de saltos, no de líneas suaves). Esto suele verse como un problema para los datos continuos, pero el autor lo convierte en una característica. Sugiere que, dado que los histogramas ya están hechos de bloques discretos (bins), el DP es en realidad la herramienta perfecta para modelarlos directamente.

El Desafío: Diferentes Mapas, Un Solo Rompecabezas

La parte difícil es que, en el mundo real, estos histogramas no siempre coinciden. Un histograma puede tener bins de 1 unidad de ancho, mientras que otro tiene bins de 1.5 unidades de ancho. Son como piezas de rompecabezas de diferentes juegos. Para resolver esto, el autor crea una "partición común". Imagina tomar todos esos mapas diferentes y superponerlos uno sobre otro para encontrar la cuadrícula más pequeña y detallada que encaje con todos ellos. Cada histograma original se traduce entonces a esta nueva cuadrícula compartida. Esto permite que las matemáticas comparen manzanas con manzanas, incluso si las manzanas originales fueron cortadas en diferentes formas.

La Magia Matemática: El Proceso Multinomial

Para descubrir los ajustes de la máquina ( $c$ y $F_0$ ), el autor utiliza un truco ingenioso. Reescribe el problema utilizando una nueva variable, $G$ , que es simplemente la medida de centrado multiplicada por la precisión ( $G = c \times F_0$ ). Esto convierte el problema en algo mucho más fácil de manejar.

En lugar de adivinar la forma directamente, utiliza un Proceso Multinomial como un prior. Si el Proceso de Dirichlet es como una bolsa mágica de canicas que puede contener infinitos colores, el Proceso Multinomial es como una bolsa con un número fijo y conocido de canicas. Esto encaja perfectamente con las matemáticas porque la "masa" total de los datos es fija. Al combinar esto con una distribución Geométrica (una forma de adivinar cuántas canicas hay en la bolsa), construye un modelo estadístico completo.

Para resolver las ecuaciones, utiliza un método computacional llamado MCMC (Monte Carlo por Cadenas de Markov). Puedes imaginarlo como un explorador con los ojos vendados caminando por una montaña oscura, dando pequeños pasos para encontrar el pico más alto (la respuesta más probable). El explorador comprueba la pendiente en cada paso y decide si sigue caminando o si retrocede. El autor tuvo que ser cuidadoso porque los números pueden volverse muy pequeños y causar errores computacionales, por lo que ajustó cuidadosamente su "tamaño de paso" para asegurarse de que el explorador no se quedara atascado o se cayera por un precipicio.

Los Resultados: Simulaciones y la Vida Real

El autor probó su idea de dos maneras:

1. La Simulación (El Ensayo General):
Creó datos falsos usando una mezcla de dos curvas de campana (una forma común en estadística). Generó 10 histogramas a partir de estos datos, algunos con 50 puntos de datos y otros con 100.

Escenario A: Todos los histogramas usaron la misma cuadrícula. El modelo adivinó con éxito el parámetro de "exigencia" ( $c$ ) alrededor de 74, con un intervalo de confianza del 95% de [71, 79]. Reconstruyó la forma original casi perfectamente, solo que de una manera paso a paso y por bloques.
Escenario B: Los histogramas tenían cuadrículas aleatorias y diferentes. Esto es más difícil, como intentar encajar piezas de rompecabezas de diferentes cajas. El modelo aún funcionó, estimando $c$ alrededor de 135 (con un rango de [120, 153]). Logró suavizar el caos y encontrar la verdadera forma subyacente.

2. Datos Reales (La Prueba del Mundo Real):
El autor aplicó esto a datos laborales reales de México, observando la "Población Económicamente Activa" (PEA) y la "Población Ocupada Informalmente" (POI) en 2,478 municipios durante 8 años (2017–2024).

Datos de PEA: Los histogramas para estos años tenían diferentes rangos y tamaños de bin. Tras alinearlos, el modelo encontró que el parámetro de "exigencia" $c$ era de aproximadamente 91 (rango [78, 84]). La forma estimada mostró que la mayoría de los municipios tienen cerca del 57% de su población económicamente activa, con un pico entre el 56% y el 58%.
Datos de POI: Para la población informal, el modelo estimó $c$ en 127 (rango [98, 159]). Surgió un hallazgo fascinante: para aproximadamente el 13% al 17% de los municipios, existe una probabilidad del 95% de que casi el 100% de su población ocupada trabaje informalmente. El autor señala que esto podría ser un problema significativo para la recaudación fiscal en México.

Qué Significa Esto

El artículo no pretende haber resuelto toda la estadística, sino que muestra una forma nueva y efectiva de usar el Proceso de Dirichlet. En lugar de usarlo solo como una suposición inicial, podemos usarlo como la historia real de cómo se crean los datos. El autor demuestra que, mediante el uso de una cuadrícula común y un Proceso Multinomial, podemos tomar histogramas desordenados y desparejados y extraer una imagen clara y compartida de la realidad.

El autor admite que hay algunos baches en el camino. El modelo odia los números cero (no puedes tener un bin que no tenga absolutamente nada en él) y los números muy pequeños pueden colapsar la computadora. Pero una vez solucionados estos problemas, el método es rápido, ejecutándose en menos de 20 segundos en una computadora estándar.

Al final, este trabajo sugiere que cuando tenemos una colección de visiones diferentes y fragmentadas del mundo, el Proceso de Dirichlet podría ser la mejor lente que tenemos para ver el panorama completo con claridad. Es un recordatorio de que, a veces, para entender la imagen general, tienes que dejar de intentar suavizar los bloques y empezar a contarlos.

Resumen Técnico: El Proceso de Dirichlet como Distribución de Muestreo

Planteamiento del Problema
El Proceso de Dirichlet (DP) es una piedra angular de la estadística no paramétrica bayesiana, introducido tradicionalmente por Ferguson (1973) como una distribución a priori para una distribución de muestreo desconocida $F$ . En las aplicaciones estándar, se asume que los datos $X = (X_1, \dots, X_n)$ se generan a partir de $F$ , y se coloca una distribución a priori DP $F \sim DP(c, F_0)$ sobre $F$ para facilitar la inferencia. Sin embargo, las propiedades del DP como una distribución de muestreo en sí misma no han sido estudiadas extensamente, ni se ha desarrollado la inferencia sobre sus parámetros ( $c$ y $F_0$ ) en este contexto.

Este artículo aborda el problema inverso: considerar una colección de $n$ funciones de distribución acumulativa (CDF) o histogramas observados, $F_1, \dots, F_n$ , y asumir que fueron generados independientemente de un DP, es decir, $F_i \sim DP(c, F_0)$ . El objetivo es realizar inferencia bayesiana sobre la medida de centrado desconocida $F_0$ y el parámetro de precisión $c$ . Este escenario está motivado por la creciente disponibilidad de grandes conjuntos de datos que a menudo se resumen como tablas de frecuencias o histogramas, donde el análisis de múltiples tales resúmenes es de interés.

Metodología
La metodología propuesta implica reparametrizar el modelo y construir una estructura de distribución a priori específica para manejar la verosimilitud de los datos de histogramas.

Representación de Datos y Partición Común:
Los datos consisten en $n$ histogramas, cada uno definido potencialmente sobre una partición distinta $\Pi_i$ . Para unificar los datos, los autores construyen una partición común $\Pi^*$ , definida como la intersección (refinamiento) de todas las particiones originales $\Pi_i$ . Sean $B^*_j$ los intervalos de $\Pi^*$ . Las frecuencias relativas de los histogramas originales se mapean a esta partición común. Para asegurar la validez de la distribución de Dirichlet (que requiere argumentos estrictamente positivos), se asigna a las frecuencias observadas cero un valor positivo pequeño (por ejemplo, 0.001) y se renormalizan los histogramas.
Construcción de la Verosimilitud:
Bajo el supuesto de que $F_i | c, F_0 \sim DP(c, F_0)$ , el vector de frecuencias relativas para cualquier partición sigue una distribución de Dirichlet. La verosimilitud para los parámetros dados los datos es el producto de las densidades de Dirichlet. Los autores introducen una reparametrización $G = cF_0$ , donde $G$ es una medida no normalizada. La masa total de $G$ corresponde al parámetro de precisión $c$ (es decir, $\sum G(B^*_j) = c$ ). La verosimilitud para $G$ se deriva basándose en la forma de la densidad de Dirichlet.
Especificación de la Distribución a Priori:
Para facilitar la inferencia bayesiana, los autores proponen un Proceso Multinomial (MP) como la distribución a priori para $G$ dado $c$ .
- $G | c \sim MP(c, G_0)$ , donde $G_0$ es una medida de probabilidad. Esto implica que para cualquier partición, el vector $(G(B_1), \dots, G(B_K))$ sigue una distribución Multinomial con $c$ ensayos y probabilidades $G_0(B_j)$ .
- El parámetro de precisión $c$ tiene asignada una distribución Geométrica, $c \sim Geo(\pi_0)$ .
- Esta elección está motivada por el hecho de que la distribución a priori MP es parcialmente conjugada con la verosimilitud derivada del supuesto de muestreo del DP.
Inferencia Posterior:
La distribución posterior se caracteriza por distribuciones condicionales completas para $G$ y $c$ .
- La posterior condicional para $G$ involucra una distribución multivariada que puede actualizarse elemento a elemento.
- La posterior condicional para $c$ depende del estado actual de $G$ .
- Debido a la inestabilidad numérica que surge de la evaluación de las funciones Gamma con argumentos grandes (específicamente al computar las razones de densidades para la probabilidad de aceptación de Metropolis-Hastings), el muestreo directo es difícil. Los autores implementan un algoritmo de Metropolis-Hastings (MH) con propuestas de paseo aleatorio (distribuciones uniformes con amplitud $\pm \delta$ ) para muestrear de estas condicionales.

Contribuciones Clave y Resultados
El artículo demuestra la viabilidad de utilizar el Proceso de Dirichlet como un modelo generador de datos para histogramas mediante simulaciones y una aplicación en el mundo real.

Estudio de Simulación:
- Escenario 1: Los datos se generaron a partir de una mezcla de dos normales ( $n=10$ muestras de tamaño 50) con una partición común. El modelo recuperó con éxito la medida de centrado verdadera $F_0$ y el parámetro de precisión $c$ (media posterior $\approx 74$ ).
- Escenario 2: Los datos se generaron con tamaños de muestra más grandes ( $n=10$ , tamaño 100) y particiones aleatorias, no alineadas ( $k_i=7$ ). El modelo manejó las variaciones de las particiones construyendo un refinamiento común ( $k=38$ ). La posterior para $c$ se concentró alrededor de 135, y la $F_0$ estimada siguió de cerca la densidad verdadera. Para el ajuste de la a priori de $c$ , se utilizó la selección de modelos vía el Logaritmo de la Pseudo Marginal Likelihood (LPML).
Análisis de Datos Reales:
El modelo se aplicó a indicadores laborales del Instituto Nacional de Estadística y Geografía de México (INEGI) para 2,478 municipios durante 8 años (2017–2024).
- Población Económicamente Activa (PEA): El modelo resumió 8 histogramas con rangos variables en una partición común. La media posterior de $F_0$ indicó un modo alrededor del 57% (intervalo 56–58%), con un parámetro de precisión $c \approx 91$ .
- Población Ocupada Informalmente (POI): Aplicado a histogramas con tamaños de intervalo y rangos variables. La media posterior de $F_0$ sugirió que, para una porción significativa de los municipios (masa de probabilidad alrededor del 13–17%), casi el 100% de la población ocupada es informal. El parámetro de precisión $c$ se estimó en 127.

Significado y Reivindicaciones
El artículo afirma llenar un vacío en la literatura al tratar el Proceso de Dirichlet como una distribución de muestreo en lugar de una distribución a priori. La contribución principal es la formulación de un marco bayesiano para inferir los parámetros ( $c, F_0$ ) de un DP cuando los "datos" son, en sí mismos, distribuciones (histogramas).

Los autores destacan que, si bien la implementación es sencilla, requiere un manejo cuidadoso de los problemas numéricos, específicamente la prohibición de frecuencias cero y la necesidad de fusionar intervalos con frecuencias muy pequeñas para evitar la inestabilidad computacional. El método es computacionalmente eficiente, con ejemplos que se ejecutan en menos de 20 segundos en hardware estándar.

El artículo concluye modestamente que este enfoque permite extraer fuerza de múltiples histogramas para estimar una distribución común subyacente. Sugiere que trabajos futuros podrían incorporar covariables, estructuras de series temporales o explorar otros modelos no paramétricos discretos (por ejemplo, procesos de ruptura de bastón o stick-breaking processes), pero no pretende la superioridad sobre los procesos de Dirichlet jerárquicos (Teh et al., 2006), señalando en cambio que su elección de a priori específica (Proceso Multinomial) fue impulsada por las propiedades de conjugación de la forma de verosimilitud derivada en este contexto.