Interpretability of deep-learning methods applied to large-scale structure surveys

Resumen Técnico: Interpretabilidad de Métodos de Aprendizaje Profundo Aplicados a Estudios de Estructura a Gran Escala

Enunciado del Problema
El aprendizaje profundo, particularmente las Redes Neuronales Convolucionales (CNN), ha surgido como una herramienta poderosa para el análisis cosmológico de estudios de estructura a gran escala (LSS), ofreciendo un rendimiento comparable o superior a los métodos clásicos basados en estadísticas de resumen fijas. Sin embargo, una barrera significativa para su adopción como herramientas de análisis principales es su naturaleza de "caja negra". A diferencia de los métodos clásicos, donde el proceso de decisión es transparente, las CNN optimizan millones de parámetros sin significado físico directo. Esta falta de interpretabilidad oscurece las limitaciones y sesgos potenciales, dificultando confiar en los resultados u optimizar estudios futuros específicamente para estos algoritmos. Si bien la interpretabilidad es un campo activo en el aprendizaje automático general, su aplicación a la cosmología sigue siendo incipiente.

Metodología
Los autores proponen un enfoque novedoso de interpretabilidad distinto del análisis "a posteriori" (analizar una red entrenada sobre datos normales). En su lugar, investigan el comportamiento de la red degradando sistemáticamente los datos de entrada antes del entrenamiento y observando el impacto en el poder de restricción.

• Datos y Arquitectura: El estudio utiliza una versión simplificada de la arquitectura DeepLSS (Kacprzak & Fluri 2022). Emplea mapas de convergencia de lente débil tomográfica ($\kappa_g$) generados a partir de simulaciones N-cuerpos de un universo $\Lambda$CDM plano. El conjunto de datos cubre 900 deg$^2$ a través de cuatro bins de corrimiento al rojo. Se entrenan dos arquitecturas de red:

  1. Una CNN basada en ResNet que toma mapas de píxeles crudos como entrada.
  2. Una red neuronal de Espectro de Potencia (PS) que toma los espectros automáticos y cruzados de los mapas como entrada, sirviendo como línea base para comparación.
     Ambas redes se entrenan para predecir los parámetros cosmológicos $\Omega_m$ y $\sigma_8$ (y sus covarianzas) utilizando una función de pérdida de verosimilitud negativa logarítmica.

• Estrategia de Degradación: Para comprender qué características impulsan las predicciones de la red, los autores insertan capas de preprocesamiento para eliminar o alterar tipos específicos de información antes de la primera capa convolutiva. Las degradaciones incluyen:

  • Modificaciones de escala: Cambiar las escalas de suavizado gaussiano ($R = 2, 4, 8, 16$ Mpc/h) y aislar rangos de escala específicos mediante transformaciones Starlet.
  • Umbral de convergencia: Separar los mapas en regiones de baja, media y alta convergencia (umbrales de $\kappa_g$).
  • Transformaciones: Convertir los datos al espacio de Fourier (parte real/imaginaria o amplitud/fase) o aplicar transformaciones Starlet.
  • Eliminación de información: Barajar los bins de corrimiento al rojo (eliminando el orden tomográfico), sumar los bins de corrimiento al rojo (eliminando la profundidad tomográfica) y barajar completo de píxeles (eliminando toda la información espacial).

• Métricas de Rendimiento: El rendimiento de la red se cuantifica utilizando dos indicadores calculados a partir de cadenas de Monte Carlo de Cadena de Markov (MCMC):

  1. La desviación estándar de la restricción sobre $S_8$ ($\sigma_{S_8}$).
  2. La entropía de información ($H$) de la distribución posterior.

Resultados Clave
El estudio revela que el proceso de predicción de la CNN depende de una mezcla específica de información gaussiana y no gaussiana, con un énfasis distintivo en las escalas en la transición entre los regímenes lineal y no lineal.

• Dependencia de la Escala: La red funciona mejor cuando los datos incluyen escalas alrededor de 8 a 12 Mpc/h, lo que corresponde a la transición entre los regímenes lineal y no lineal en los corrimientos al rojo del estudio.

  • Eliminar las escalas pequeñas (dominadas por ruido) tiene poco efecto.
  • Proporcionar solo escalas grandes ($>16$ Mpc/h) degrada significativamente el rendimiento, reduciéndolo al nivel de la red de Espectro de Potencia.
  • Proporcionar solo escalas pequeñas ($<10$ Mpc/h) resulta en un rendimiento ligeramente peor que el de referencia.
  • Curiosamente, eliminar las escalas más pequeñas ($<5$ Mpc/h) y las más grandes ($>20$ Mpc/h) mejora ligeramente el rendimiento, probablemente al permitir que la red se centre en las escalas intermedias más informativas.

• Regiones de Convergencia:

  • Las regiones de convergencia media (valores intermedios, ~60% de los píxeles) contienen la menor información por sí solas.
  • Las regiones extremas (baja convergencia/vacíos y alta convergencia/picos) son altamente informativas.
  • Sin embargo, combinar las regiones de convergencia media con cualquiera de las extremas mejora significativamente el rendimiento en comparación con las extremas por separado. Esto sugiere que, aunque las extremas proporcionan información no gaussiana, carecen de las estructuras conectadas a gran escala encontradas en las regiones medias.
  • Combinar las regiones de alta convergencia (picos) con la amplitud de Fourier (información gaussiana) recupera un rendimiento equivalente al modelo de referencia, lo que sugiere que una combinación de recuentos de picos y espectro de potencia es una estrategia robusta.

• Transformaciones e Información Espacial:

  • Las transformaciones Starlet (descomponer imágenes en canales multiescala) no degradan el rendimiento y pueden mejorarlo ligeramente.
  • Las entradas en el espacio de Fourier (parte real/imaginaria o amplitud/fase) degradan significativamente el rendimiento, lo que indica que la arquitectura CNN está optimizada para imágenes en el espacio real.
  • Información de corrimiento al rojo: Sumar los bins de corrimiento al rojo (eliminando la profundidad tomográfica) no causa, sorprendentemente, una pérdida significativa de rendimiento en esta línea base simplificada. Sin embargo, barajar el orden de los corrimientos al rojo degrada el rendimiento, lo que sugiere que la red depende de la presentación correcta de los datos.
  • Información espacial: El barajar completo de píxeles (eliminando toda la estructura espacial) causa una pérdida significativa de rendimiento, reduciendo la red a un nivel similar al enfoque del Espectro de Potencia, aunque la red sigue produciendo predicciones relevantes.

Significado y Afirmaciones
El artículo afirma que su contribución principal es un método novedoso e intuitivo para interpretar modelos de aprendizaje profundo en cosmología mediante el análisis del impacto de la degradación de datos en el poder de restricción. Los autores concluyen que:

1. Requisito de Información Híbrida: Al igual que las estadísticas de resumen clásicas, las CNN requieren tanto información gaussiana (a gran escala) como no gaussiana (a pequeña escala, picos/vacíos) para lograr un poder de restricción óptimo.
2. Escalas Críticas: La información más crítica para la red reside en las estructuras en el límite entre los regímenes lineal y no lineal (8–12 Mpc/h).
3. Validación de Sondeos Combinados: Los resultados apoyan la hipótesis de que combinar el análisis del espectro de potencia (gaussiano) con recuentos de picos o funcionales de Minkowski (no gaussianos) es una estrategia efectiva que minimiza la pérdida de información.
4. Sensibilidad Arquitectónica: La CNN es altamente sensible a la representación de los datos (prefiriendo el espacio real sobre el espacio de Fourier) y a la presencia de correlaciones espaciales.

Los autores señalan que estos hallazgos se basan en un modelo físico simplificado (que carece de incertidumbres astrofísicas como la alineación intrínseca, lo cual el Apéndice A muestra que puede alterar los resultados relacionados con la agrupación de bins de corrimiento al rojo). No obstante, el estudio proporciona una comprensión fundamental de cómo el aprendizaje profundo extrae información cosmológica de estudios de lente débil, abordando la preocupación de la "caja negra" al identificar las características físicas específicas que la red considera más valiosas.