Interpretability of deep-learning methods applied to large-scale structure surveys

Resumo Técnico: Interpretabilidade de Métodos de Aprendizado Profundo Aplicados a Levantamentos de Estrutura em Grande Escala

Declaração do Problema
O aprendizado profundo, particularmente as Redes Neurais Convolucionais (CNNs), emergiu como uma ferramenta poderosa para a análise cosmológica de levantamentos de estrutura em grande escala (LSS), oferecendo desempenho comparável ou superior aos métodos clássicos baseados em estatísticas de resumo fixas. No entanto, uma barreira significativa para sua adoção como ferramentas de análise primária é sua natureza de "caixa preta". Diferentemente dos métodos clássicos, onde o processo decisório é transparente, as CNNs otimizam milhões de parâmetros sem significado físico direto. Essa falta de interpretabilidade obscurece limitações e vieses potenciais, tornando difícil confiar nos resultados ou otimizar levantamentos futuros especificamente para esses algoritmos. Embora a interpretabilidade seja um campo ativo no aprendizado de máquina em geral, sua aplicação à cosmologia permanece incipiente.

Metodologia
Os autores propõem uma abordagem de interpretabilidade novel, distinta da análise "a posteriori" (analisar uma rede treinada em dados normais). Em vez disso, eles investigam o comportamento da rede degradando sistematicamente os dados de entrada antes do treinamento e observando o impacto no poder de restrição.

• Dados e Arquitetura: O estudo utiliza uma versão simplificada da arquitetura DeepLSS (Kacprzak & Fluri 2022). Emprega mapas de convergência de lente fraca tomográfica ($\kappa_g$) gerados a partir de simulações N-corpos de um universo $\Lambda$CDM plano. O conjunto de dados cobre 900 deg$^2$ em quatro bins de redshift. Duas arquiteturas de rede são treinadas:

  1. Uma CNN baseada em ResNet que recebe mapas de pixels brutos como entrada.
  2. Uma rede neural de Espectro de Potência (PS) que recebe auto e espectros cruzados dos mapas como entrada, servindo como linha de base para comparação.
     Ambas as redes são treinadas para prever os parâmetros cosmológicos $\Omega_m$ e $\sigma_8$ (e suas covariâncias) usando uma função de perda de verossimilhança negativa logarítmica.

• Estratégia de Degradação: Para entender quais características impulsionam as previsões da rede, os autores inserem camadas de pré-processamento para remover ou alterar tipos específicos de informações antes da primeira camada convolucional. As degradações incluem:

  • Modificações de escala: Alteração das escalas de suavização Gaussiana ($R = 2, 4, 8, 16$ Mpc/h) e isolamento de faixas de escala específicas via transformadas Starlet.
  • Limites de convergência: Separação dos mapas em regiões de baixa, média e alta convergência (limites de $\kappa_g$).
  • Transformações: Conversão dos dados para o espaço de Fourier (parte real/imaginária ou amplitude/fase) ou aplicação de transformadas Starlet.
  • Remoção de informações: Embaralhamento dos bins de redshift (removendo a ordem tomográfica), soma dos bins de redshift (removendo a profundidade tomográfica) e embaralhamento completo de pixels (removendo toda a informação espacial).

• Métricas de Desempenho: O desempenho da rede é quantificado usando dois indicadores calculados a partir de cadeias de Monte Carlo via Cadeias de Markov (MCMC):

  1. O desvio padrão da restrição sobre $S_8$ ($\sigma_{S_8}$).
  2. A entropia da informação ($H$) da distribuição posterior.

Principais Resultados
O estudo revela que o processo de previsão da CNN depende de uma mistura específica de informações Gaussianas e não-Gaussianas, com ênfase distinta em escalas na transição entre os regimes linear e não-linear.

• Dependência de Escala: A rede performa melhor quando os dados incluem escalas em torno de 8 a 12 Mpc/h, o que corresponde à transição entre os regimes linear e não-linear nos redshifts do levantamento.

  • Remover pequenas escalas (dominadas por ruído) tem pouco efeito.
  • Fornecer apenas grandes escalas ($>16$ Mpc/h) degrada significativamente o desempenho, reduzindo-o ao nível da rede de Espectro de Potência.
  • Fornecer apenas pequenas escalas ($<10$ Mpc/h) resulta em desempenho ligeiramente pior que o de referência.
  • Curiosamente, remover as menores ($<5$ Mpc/h) e as maiores ($>20$ Mpc/h) escalas melhora ligeiramente o desempenho, provavelmente permitindo que a rede se concentre nas escalas intermediárias mais informativas.

• Regiões de Convergência:

  • Regiões de convergência média (valores intermediários, ~60% dos pixels) contêm a menor quantidade de informações por si só.
  • Regiões extremas (baixa convergência/vazios e alta convergência/picos) são altamente informativas.
  • No entanto, combinar regiões de convergência média com qualquer uma das extremas melhora significativamente o desempenho em comparação com as extremas isoladamente. Isso sugere que, embora as extremas forneçam informações não-Gaussianas, elas carecem de estruturas conectadas em grande escala encontradas nas regiões médias.
  • Combinar regiões de alta convergência (picos) com a amplitude de Fourier (informação Gaussiana) recupera um desempenho equivalente ao modelo de referência, sugerindo que uma combinação de contagem de picos e espectro de potência é uma estratégia robusta.

• Transformações e Informação Espacial:

  • Transformadas Starlet (decompondo imagens em canais multi-escala) não degradam o desempenho e podem melhorá-lo ligeiramente.
  • Entradas no espaço de Fourier (real/imaginário ou amplitude/fase) degradam significativamente o desempenho, indicando que a arquitetura CNN é otimizada para imagens no espaço real.
  • Informação de redshift: Somar bins de redshift (removendo a profundidade tomográfica) causa, surpreendentemente, nenhuma perda significativa de desempenho nesta linha de base simplificada. No entanto, embaralhar a ordem dos redshifts degrada o desempenho, sugerindo que a rede depende da apresentação correta dos dados.
  • Informação espacial: O embaralhamento completo de pixels (removendo toda a estrutura espacial) causa perda significativa de desempenho, reduzindo a rede a um nível similar à abordagem de Espectro de Potência, embora a rede ainda produza previsões relevantes.

Significado e Alegações
O artigo afirma que sua contribuição primária é um método novel e intuitivo para interpretar modelos de aprendizado profundo em cosmologia, analisando o impacto da degradação de dados no poder de restrição. Os autores concluem que:

1. Requisito de Informação Híbrida: Assim como as estatísticas de resumo clássicas, as CNNs requerem tanto informações Gaussianas (grande escala) quanto não-Gaussianas (pequena escala, pico/vazio) para alcançar o poder de restrição ótimo.
2. Escalas Críticas: A informação mais crítica para a rede reside em estruturas no limite entre os regimes linear e não-linear (8–12 Mpc/h).
3. Validação de Probes Combinados: Os resultados apoiam a hipótese de que combinar análise de espectro de potência (Gaussiano) com contagem de picos ou funcionais de Minkowski (não-Gaussiano) é uma estratégia eficaz que minimiza a perda de informação.
4. Sensibilidade Arquitetural: A CNN é altamente sensível à representação dos dados (preferindo o espaço real ao espaço de Fourier) e à presença de correlações espaciais.

Os autores observam que essas descobertas baseiam-se em um modelo físico simplificado (carecendo de incertezas astrofísicas como alinhamento intrínseco, que o Apêndice A mostra poder alterar os resultados relativos ao binning de redshift). Não obstante, o estudo fornece uma compreensão fundamental de como o aprendizado profundo extrai informações cosmológicas de levantamentos de lente fraca, abordando a preocupação da "caixa preta" ao identificar as características físicas específicas que a rede considera mais valiosas.