Measuring the Vertical Structure of Active Galactic Nuclei Disks with Transformer Models and the Vera C. Rubin Observatory

Resumen Técnico: Medición de la Estructura Vertical de los Discos de Núcleos Galácticos Activos con Modelos Transformer y el Observatorio Vera C. Rubin

Planteamiento del Problema
Los discos de acreción de los Núcleos Galácticos Activos (AGN) se estudian típicamente mediante el mapeo de reverberación de continuo, que mide "retrasos cortos" (escalas de tiempo de cruce de luz) para determinar la estructura radial. Sin embargo, la detección de "retrasos negativos largos" —causados por la propagación hacia el interior de las fluctuaciones en la escala de tiempo viscosa o de flujo entrante— ofrece una ventana única a la estructura vertical (altura de escala) de los discos de los AGN. Las campañas observacionales actuales enfrentan obstáculos significativos para detectar estos retrasos largos:

1. Brechas Estacionales: Las curvas de luz del Observatorio Vera C. Rubin contendrán brechas estacionales de aproximadamente 6 meses, lo que conduce a efectos de aliasing y detecciones de señales falsas en escalas de tiempo comparables a los retrasos largos.
2. Fuerza de la Señal: La señal de retraso largo es a menudo significativamente más débil que la señal de retraso corto, lo que confunde los métodos de detección tradicionales.
3. Volumen de Datos: El flujo masivo de datos de millones de AGN requiere técnicas de procesamiento eficientes.
   Se ha demostrado que los métodos tradicionales, como la Función de Correlación Cruzada Interpolada (ICCF) y javelin (un enfoque de Cadenas de Markov Monte Carlo), tienen dificultades con estos desafíos específicos, particularmente en presencia de brechas estacionales y señales de retraso largo débiles.

Metodología
Los autores desarrollan y entrenan un modelo de aprendizaje automático basado en transformers para predecir la distribución posterior de tanto los retrasos cortos como los largos en curvas de luz de AGN simuladas (mock) para Rubin.

• Simulación de Datos: El equipo generó $2 \times 10^6$ curvas de luz simuladas usando EzTao para modelar la variabilidad de los AGN como un Paseo Aleatorio Amortiguado (DRW). Introdujeron retrasos cortos ($\tau_{short} \in [0.05, 10]$ días) y retrasos negativos largos ($\tau_{long} \in [-3650, -10]$ días) mediante funciones de respuesta gaussianas. Aproximadamente el 50% de las curvas se les asignó $\tau_{long} = 0$ para asegurar que el modelo aprenda a distinguir entre la presencia y ausencia de retrasos largos. La relación de amplitud ($r$) del retraso largo respecto al corto se extrajo de una distribución log-uniforme ($10^{-3}$ a $1$). Estas curvas fueron luego "observadas" utilizando el Simulador de Operaciones de Rubin (OpSim) para campos de perforación profunda (deep drilling fields), incorporando cadencias, ruido y brechas estacionales realistas.
• Arquitectura del Modelo: El modelo transformer procesa datos de tiempo y brillo (normalizados de 0 a 1, agregados a intervalos diarios, con pasos no observados marcados como -2). La arquitectura incluye:
  • Una capa de incrustación (embedding) con codificación posicional basada en el tiempo.
  • 8 bloques transformer (256 dimensiones, 16 cabezales).
  • Agrupación de promedio global (global average pooling) y una capa densa.
  • La salida parametriza una mezcla de dos gaussianas: una para el caso sin retraso largo ($\phi=1$) y otra para el caso con retraso largo ($\phi=0$).
• Entrenamiento: El modelo fue entrenado usando el optimizador Adam con decaimiento de coseno en una sola GPU NVIDIA A100 durante 13 horas. Los hiperparámetros se optimizaron mediante optimización bayesiana (75 ensayos) utilizando el algoritmo Tree-structured Parzen Estimator. La función de pérdida minimiza la divergencia KL para aprender la probabilidad de un retraso largo ($p$) y la distribución condicional de las duraciones de los retrasos.
• Líneas Base (Baselines): El rendimiento se comparó contra el ICCF y javelin, aplicados a los mismos conjuntos de datos simulados.

Resultados Clave
El modelo transformer demuestra un rendimiento superior en la detección y caracterización de retrasos negativos largos en comparación con los métodos tradicionales:

• Precisión de Detección: En un conjunto de prueba de $2 \times 10^4$ curvas de luz simuladas, el modelo identifica la presencia de un retraso negativo largo con un 96% de recall (completitud) y solo un 0.04% de contaminación (falsos positivos) al usar un umbral de probabilidad de $(1-p_\phi) > 0.906$.
• Predicción de Retraso: Para las curvas de luz identificadas con un retraso largo, el modelo predice la duración con un 98% de precisión dentro del 20% del valor real y un 92% dentro del 10%.
• Robustez ante Señales Débiles: El modelo detecta con éxito retrasos largos incluso cuando la relación de amplitud ($r$) es baja ($r < 0.01$), perdiendo solo el 13% de tales casos. En contraste, el ICCF no logra detectar el 87% de los retrasos largos en este régimen de baja relación.
• Comparación con Líneas Base:
  • ICCF: Preciso dentro del 20% del retraso real para solo el 54% de los casos. Tiene dificultades significativas cuando la señal de retraso corto predomina.
  • javelin: Preciso dentro del 20% para solo el 21% de los casos. Sufre de un aliasing severo, prediciendo frecuentemente retrasos en múltiplos enteros impares de la brecha estacional (180 días). También produce una tasa de falsos positivos más alta (4.0%) en comparación con el transformer.
• Eficiencia: El transformer entrenado procesa 1,000 curvas de luz en 0.9 segundos en una sola GPU. En comparación, el ICCF requiere 12 horas y javelin requiere 5 días en una sola CPU para el mismo volumen.

Significancia y Reivindicaciones
El artículo afirma que el modelo transformer representa un paso "revolucionario" en la preparación para el aluvión de datos del Observatorio Vera C. Rubin. Al aprender implícitamente a marginalizar sobre los datos faltantes (brechas estacionales) y las señales confusas (retrasos cortos), el modelo supera las limitaciones específicas de las técnicas tradicionales de mapeo de reverberación.

Los autores enfatizan que esta capacidad es crucial para:

1. Medir la Estructura Vertical: Los retrasos negativos largos proporcionan una sonda directa de la relación de aspecto del disco ($h/r$), permitiendo pruebas del modelo estándar de disco delgado frente a modelos de disco elevados magnéticamente.
2. Escalabilidad: La velocidad del modelo lo hace factible para analizar los millones de curvas de luz de AGN esperadas de Rubin, una tarea imposible con los métodos actuales basados en MCMC.

Los autores mantienen un tono modesto respecto a la aplicación en el mundo real, señalando que el modelo fue entrenado y probado exclusivamente con datos simulados generados con supuestos específicos. Reconocen que las curvas de luz reales de Rubin pueden presentar desafíos imprevistos y que el modelo actualmente no tiene en cuenta las posibles correlaciones entre parámetros físicos (por ejemplo, masa del agujero negro y duración del retraso) debido a la falta de restricciones empíricas. Se propone trabajo futuro para validar el modelo con datos del Zwicky Transient Facility (ZTF) y para refinar el modelo a medida que haya más detecciones reales de retrasos largos disponibles.