Separate Exchangeability as Modeling Principle in Bayesian Nonparametrics

Resumen Técnico: La intercambiabilidad separada como principio de modelado en la estadística bayesiana no paramétrica

Planteamiento del problema
El artículo aborda una laguna en la inferencia bayesiana no paramétrica (BNP) respecto al tratamiento de datos estructurados como arreglos rectangulares (matrices) que involucran dos tipos distintos de unidades experimentales (por ejemplo, filas y columnas). Si bien la intercambiabilidad (invarianza a todas las permutaciones) y la intercambiabilidad parcial (invarianza a permutaciones dentro de grupos específicos) son principios bien establecidos, los autores argumentan que la intercambiabilidad separada —invarianza a permutaciones independientes de los índices de filas y columnas— es un principio de modelado frecuentemente subutilizado en la literatura de BNP, a pesar de ser el principio natural para tales estructuras de datos.

El problema central surge cuando los modelos estándar de BNP, particularmente aquellos basados en medidas aleatorias discretas dependientes (como el Proceso de Dirichlet Dependiente, DDP), inducen intercambiabilidad parcial en lugar de intercambiabilidad separada. En escenarios donde las mismas unidades experimentales (por ejemplo, genes, proteínas o OTUs específicos) se observan a través de diferentes bloques (por ejemplo, sujetos, puntos temporales o condiciones), la intercambiabilidad parcial impone una simetría restrictiva: permite el préstamo de información con respecto a la distribución de los cúmulos entre grupos, pero no permite el préstamo de información con respecto a la realización específica de los cúmulos. Por ejemplo, bajo la intercambiabilidad parcial, observar que la Unidad A y la Unidad B están agrupadas en el Grupo 1 no aumenta la probabilidad de que la Unidad A y la Unidad B estén agrupadas en el Grupo 2, a menos que la probabilidad de que la A se agrupe con cualquier otra unidad también aumente. Esto ignora la identidad estructural de las unidades a través de la matriz.

Metodología
Los autores proponen un marco para construir modelos de BNP tratables que impongan explícitamente la intercambiabilidad separada. Introducen dos clases primarias de modelos:

1. Particiones anidadas separadamente intercambiables:

   • Concepto: Los autores generalizan los modelos de partición anidada (como el Proceso de Dirichlet Anidado, NDP) para respetar la intercambiabilidad separada. En lugar de compartir solo la ley a priori de las particiones a través de los grupos (como en el NDP), el modelo propuesto comparte la realización de la partición dentro de los cúmulos de columnas.
   • Construcción: El modelo primero agrupa las columnas (grupos) utilizando una Función de Probabilidad de Partición Intercambiable (EPPF). Dentro de cada cúmulo de columnas, se particionan las filas (unidades experimentales). Crucialmente, todas las columnas dentro de un cúmulo específico comparten la misma realización de la partición de filas.
   • Implementación: Proponen un "NDP-CAM separadamente intercambiable con Átomos Comunes" (Nested Dirichlet Process with Common Atoms). Este modelo utiliza indicadores latentes para definir los cúmulos de columnas y las particiones de filas anidadas. Se demuestra que satisface el teorema de representación de Aldous-Hoover para arreglos separadamente intercambiables.
   • Generalización: El marco permite reemplazar los procesos de prior de Dirichlet (DP) estándar por procesos de tipo Gibbs más flexibles (por ejemplo, el Proceso de Pitman-Yor, Mezcla de Mezclas Finitas) tanto para la partición de columnas como para la de filas, manteniendo la tractabilidad computacional mediante procesos de Restaurante Chino generalizados (gCRP).

2. Regresión no paramétrica separadamente intercambiable:

   • Concepto: Los autores adaptan el Proceso de Dirichlet Dependiente (DDP) para problemas de regresión que involucran dos conjuntos de unidades experimentales (por ejemplo, proteínas y sujetos).
   • Construcción: Modifican el DDP de ANOVA introduciendo efectos aditivos en los átomos de la medida aleatoria. Específicamente, los átomos se definen como predictores lineales que contienen términos específicos para la unidad de fila, términos específicos para la unidad de columna y un término global.
   • Formulación: El modelo asume que $y_{i,j} \sim F_{(i,j)}$, donde la medida aleatoria $F_{(i,j)}$ tiene átomos centrados en $\beta_h + \xi_i + \eta_j$. Esta estructura asegura que la ley conjunta sea invariante a las permutaciones separadas de $i$ y $j$.
   • Flexibilidad: De manera similar a los modelos de partición, los procesos a priori para los efectos de fila y columna pueden elegirse de procesos de tipo Gibbs para permitir un agrupamiento flexible de los coeficientes de regresión.

Contribuciones clave

• Clarificación Teórica: El artículo reformula argumentos ad hoc existentes contra ciertos modelos de partición aleatoria dependiente (por ejemplo, Lee et al., 2013; Page et al., 2022) como consecuencias de la violación de la intercambiabilidad separada. Proporciona una justificación probabilística formal de por qué la intercambiabilidad parcial es inapropiada cuando las mismas unidades experimentales aparecen en múltiples grupos.
• Construcción de Modelos: Proporciona la primera derivación sistemática de las contrapartes separadamente intercambiables de los modelos de BNP parcialmente intercambiables más utilizados (específicamente NDP y DDP).
• Tractabilidad: Los autores demuestran que estos modelos siguen siendo analítica y computacionalmente tratables. Derivan las Funciones de Probabilidad de Partición Intercambiable (EPPF) y las EPPF parciales (pEPPF) implícitas, permitiendo el uso de algoritmos estándar de Monte Carlo por Cadenas de Markov (MCMC) (específicamente, muestreo de Gibbs parcialmente colapsado).
• Préstamo de Fuerza: El artículo clarifica la naturaleza del préstamo de información: la intercambiabilidad separada permite aprender sobre el agrupamiento específico de unidades en un grupo para informar el agrupamiento en otro grupo, una característica ausente en la intercambiabilidad parcial estándar.

Resultados y Aplicaciones
Los autores ilustran la metodología utilizando dos conjuntos de datos del mundo real:

1. Datos de Microbioma (Estudio de Cambio de Dieta):

   • Datos: Frecuencias de 119 Unidades Taxonómicas Operativas (OTUs) a través de 38 sujetos.
   • Aplicación: El modelo agrupa a los sujetos basándose en sus perfiles de microbioma mientras agrupa simultáneamente a los OTUs dentro de los cúmulos de sujetos.
   • Resultado: El modelo identificó con éxito cúmulos de sujetos correspondientes a regiones geográficas (EE. UU. vs. África rural). Crucialmente, a diferencia de los modelos de intercambiabilidad parcial, proporcionó inferencia significativa sobre el co-agrupamiento de OTUs específicos dentro de los cúmulos de sujetos, respetando la identidad de los OTUs a través de los sujetos.

2. Datos de Expresión de Proteínas (Estudio de Ataxia):

   • Datos: Abundancia de aproximadamente 3,990 proteínas a través de 32 sujetos (16 controles, 16 pacientes) medidos en varias edades.
   • Aplicación: Se utilizó un modelo de regresión no paramétrica para identificar proteínas con trayectorias de expresión diferencial con la edad entre casos y controles.
   • Resultado: El modelo estimó las diferencias de pendiente específicas de cada proteína ($\gamma_i$) y clasificó las proteínas por la magnitud de estas diferencias. El enfoque identificó con éxito las proteínas de mayor rango asociadas con la enfermedad, demostrando la utilidad de la intercambiabilidad separada para manejar diseños experimentales complejos y multidimensionales con datos faltantes.

Significancia y Reivindicaciones
El artículo sostiene que la intercambiabilidad separada es un principio de modelado superior para datos con estructura de matriz donde las unidades experimentales mantienen su identidad a través de diferentes condiciones. Los autores afirman que:

1. Fidelidad al Diseño: La intercambiabilidad separada representa más fielmente la configuración experimental que la intercambiabilidad parcial, que a menudo descarta la información estructural del diseño de la matriz.
2. Necesidad de Inferencia Específica: Ciertos objetivos de inferencia, como determinar si una unidad específica (por ejemplo, OTU 1 y OTU 2) está agrupada con otra en múltiples grupos, no pueden establecerse ni realizarse de manera coherente sin la intercambiabilidad separada.
3. Viabilidad Práctica: Los modelos propuestos no son meros constructos teóricos, sino que son computacionalmente factibles y ofrecen alternativas flexibles a las herramientas de BNP existentes, preservando la capacidad de realizar inferencia en la práctica mientras se respeta la simetría específica de los datos.

Los autores concluyen que la consideración cuidadosa de la configuración experimental a menudo requiere ir más allá de la intercambiabilidad "omnibus" o de la intercambiabilidad parcial estándar hacia supuestos de simetría más específicos como la intercambiabilidad separada.