Finite Asimov Sample Construction in Unbinned Neural Simulation-Based Inference

=== RESUMEN ===

Resumen Técnico: Construcción de Muestras Asimov Finitas en la Inferencia Basada en Simulación Neuronal No Agrupada

Planteamiento del Problema
En el análisis frecuentista utilizando la Inferencia Basada en Simulación Neuronal (NSBI), específicamente la Estimación de Razón Neuronal (NRE), el cálculo de la sensibilidad esperada requiere a menudo aproximar un conjunto de datos Asimov no agrupado. Tradicionalmente, esto se logra mediante grandes muestras de Monte Carlo (MC) ponderadas. Sin embargo, este enfoque presenta dos desafíos significativos:

1. Fluctuaciones de Muestra Finita: Incluso con muestras grandes, las fluctuaciones de MC finitas desplazan el máximo de la verosimilitud de los verdaderos parámetros generadores, lo que provoca inestabilidad en los escaneos de estadísticos de prueba esperados.
2. Costo Computacional: La evaluación de verosimilitudes en millones de eventos para escaneos repetidos es computacionalmente costosa. Por ejemplo, el experimento ATLAS reporta maximizaciones de verosimilitud en este régimen que requieren de $O(10\text{--}20)$ horas de CPU y de $O(100\text{--}500)$ GB de memoria.

Los autores abordan la necesidad de un método que permita que la muestra de integración sea elegida por su precisión de escaneo en lugar de simplemente para la cancelación aproximada de la puntuación, abordando directamente el problema del desplazamiento por muestra finita.

Metodología
El artículo propone una construcción para una muestra de referencia ponderada finita donde los parámetros generadores maximizan globalmente la verosimilitud ponderada. El método se basa en la estimación de razones de densidad aprendidas entre una distribución objetivo $p(x; \theta)$ y una distribución de referencia independiente de los parámetros $p_{ref}(x)$.

1. Estimación de la Razón: Se utiliza NRE para estimar la razón $r_{\psi}(x; \theta) \approx p(x; \theta) / p_{ref}(x)$ a través de un clasificador $D_{\psi}$.
2. Puntos de Referencia Fijos: Se extrae un conjunto fijo de puntos de referencia $X_M = \{(x_m, \omega_m)\}_{m=1}^M$ de $p_{ref}$, donde $\omega_m$ son pesos que suman 1. Estos puntos permanecen fijos durante todo el análisis.
3. Normalización e Intensidad: Para cualquier valor de parámetro $\theta$, el método calcula los normalizadores $Z_s(\theta)$ para cada componente del proceso $s$ utilizando los puntos fijos y las razones aprendidas. La función de intensidad $h(x; \theta)$ se construye combinando los rendimientos esperados $\lambda_s(\theta)$ y las razones, normalizados por $Z_s(\theta)$.
4. Asignación de Pesos Asimov: En un punto generador predeterminado $\theta_A$, se asignan pesos Asimov $w_m^A$ a los puntos fijos basados en las masas de intensidad finitas $v_m(\theta_A)$.
5. Construcción de la Verosimilitud: Se define una función de log-verosimilitud ponderada $\ell_{A,M}(\theta)$. Crucialmente, la distribución de referencia se cancela en la estadística de la razón de log-verosimilitud de perfil, preservando los maximizadores.

Contribuciones Clave

• Teorema 2.1 (Cierre Asimov de Muestra Finita): Los autores demuestran que, si las masas de intensidad son estrictamente positivas y las restricciones auxiliares se maximizan en los parámetros generadores, el punto generador $\theta_A$ es un maximizador global de la log-verosimilitud ponderada construida para cualquier tamaño de muestra $M$. Esto asegura que el conjunto de datos Asimov recupere exactamente los parámetros generadores, eliminando el desplazamiento causado por las fluctuaciones de MC finitas.
• Eficiencia Algorítmica: La construcción permite el uso de un número muy pequeño de puntos de integración (por ejemplo, $M=256$) para generar escaneos de sensibilidad estables, desacoplando la precisión del escaneo de la necesidad de tamaños de muestra masivos.
• Gestión de Sistemáticas: El marco de trabajo acomoda parámetros de escala (nuisance parameters) y restricciones auxiliares, con notas específicas sobre cómo las sistemáticas de normalización (fuerza de la señal) difieren de las sistemáticas de forma respecto al requisito de actualizar los normalizadores.

Resultados
Los autores validan su método utilizando un modelo de juguete inspirado en la física de altas energías (HEP) con un espacio de observables de cinco dimensiones, mezclas gaussianas correlacionadas y emborronamiento (smearing) del detector gaussiano.

• Estabilidad y Precisión: En escaneos a una fuerza de señal de $\mu_A = 1$, un conjunto de datos Asimov con solo 256 eventos ponderados reprodujo fielmente los escaneos de estadísticos de prueba esperados obtenidos con 2 millones de eventos de referencia simulados.
  • El estadístico de descubrimiento medio $q_{0,A}$ para $M=256$ fue de 3.20 (desviación estándar 0.11), comparado con 3.24 para la muestra de referencia grande.
  • Las muestras convencionales con $M=256$ fallaron en localizar el mínimo correctamente (a menudo golpeando el límite), e incluso con $M=2 \times 10^6$, los ajustes convencionales mostraron una desviación estándar de 0.09 entre repeticiones.
• Acuerdo de Distribución: Las distribuciones del estadístico de prueba derivadas de las pequeñas muestras Asimov corregidas concordaron con los pseudo-experimentos independientes basados en simulador ($10^5$ ensayos). Este acuerdo confirmó que las razones de densidad aprendidas estaban bien entrenadas.
• Ganancia Computacional: El método reduce significativamente la carga computacional para construir los escaneos de la estadística esperada, requiriendo solo unos pocos cientos de puntos de integración comparables a los bins en un análisis agrupado (binned) de gran tamaño.

Significancia y Reivindicaciones
El artículo afirma que esta construcción aborda un importante cuello de botella computacional en los flujos de trabajo de NSBI, como los utilizados en el experimento ATLAS. Al asegurar que los parámetros generadores maximizan globalmente la verosimilitud en una muestra finita, el método proporciona escaneos de sensibilidad esperada estables y precisos con órdenes de magnitud menos eventos de los que se requerían anteriormente.

Sin embargo, los autores mantienen una postura modesta y rigurosa respecto a las limitaciones:

• Dependencia de Validación: El acuerdo con el simulador depende enteramente de la precisión de las razones aprendidas. El método no corrige los errores en las razones aprendidas en sí mismas; la validación explícita contra simuladores independientes sigue siendo necesaria.
• Requisitos de Entrenamiento: El enfoque no reduce el tamaño de la simulación requerido para entrenar y validar los estimadores neuronales. Los grandes conjuntos de datos siguen siendo necesarios para la fase inicial de aprendizaje.
• Naturaleza Asintótica: El cálculo de la significancia de descubrimiento se basa en aproximaciones asintóticas (supuestos de Wald), que son independientes del teorema de muestra finita-$M$ exacto respecto a la ubicación del máximo.
• Comportamiento de las Colas: Pueden surgir diferencias residuales en las colas escasamente pobladas debido a errores de la razón, bancos de simulación finitos o la aproximación asintótica, lo que requiere validación del simulador y posible calibración.

En resumen, el artículo demuestra que un conjunto de datos Asimov de muestra finita, construido mediante una normalización de razón consistente, puede reemplazar las masivas muestras de MC ponderadas para el propósito específico de generar escaneos de la estadística esperada, siempre que las razones de densidad subyacentes se aprendan y validen con precisión.