Measuring the Vertical Structure of Active Galactic Nuclei Disks with Transformer Models and the Vera C. Rubin Observatory

Resumo Técnico: Medindo a Estrutura Vertical de Discos de Núcleos Galácticos Ativos com Modelos Transformer e o Observatório Vera C. Rubin

Definição do Problema
Os discos de acreção de Núcleos Galácticos Ativos (AGN) são tipicamente estudados via mapeamento de reverberação de contínuo, que mede "atrasos curtos" (escalas de tempo de travessia da luz) para determinar a estrutura radial. No entanto, detectar "atrasos negativos longos" — causados pela propagação para dentro de flutuações na escala de tempo viscosa ou de influxo — oferece uma janela única para a estrutura vertical (altura de escala) dos discos de AGN. Campanhas observacionais atuais enfrentam obstáculos significativos na detecção desses atrasos longos:

1. Lacunas Sazonais: As curvas de luz do Observatório Vera C. Rubin conterão lacunas sazonais de aproximadamente 6 meses, levando a aliasing e detecções de sinais falsos em escalas de tempo comparáveis aos atrasos longos.
2. Força do Sinal: O sinal de atraso longo é frequentemente significativamente mais fraco que o sinal de atraso curto, confundindo métodos de detecção tradicionais.
3. Volume de Dados: O influxo massivo de dados de milhões de AGN exige técnicas de processamento eficientes.
   Métodos tradicionais, como a Função de Correlação Cruzada Interpolada (ICCF) e o javelin (uma abordagem de Cadeia de Markov Monte Carlo), demonstraram ter dificuldades com esses desafios específicos, particularmente na presença de lacunas sazonais e sinais de atraso longo fracos.

Metodologia
Os autores desenvolvem e treinam um modelo de aprendizado de máquina baseado em transformer para prever a distribuição posterior de tanto atrasos curtos quanto longos em curvas de luz de AGN simuladas (mock) para o Rubin.

• Simulação de Dados: A equipe gerou $2 \times 10^6$ curvas de luz simuladas usando EzTao para modelar a variabilidade de AGN como um Passeio Aleatório Amortecido (DRW). Eles introduziram atrasos curtos ($\tau_{short} \in [0.05, 10]$ dias) e atrasos negativos longos ($\tau_{long} \in [-3650, -10]$ dias) via funções de resposta gaussianas. Aproximadamente 50% das curvas receberam $\tau_{long} = 0$ para garantir que o modelo aprenda a distinguir entre a presença e a ausência de atrasos longos. A razão de amplitude ($r$) do atraso longo para o atraso curto foi extraída de uma distribuição log-uniforme ($10^{-3}$ a $1$). Essas curvas foram então "observadas" usando o Simulador de Operações do Rubin (OpSim) para campos de perfuração profunda, incorporando cadências, ruídos e lacunas sazonais realistas.
• Arquitetura do Modelo: O modelo transformer processa dados de tempo e brilho (normalizados de 0–1, agregados em intervalos diários, com passos não observados marcados como -2). A arquitetura inclui:
  • Uma camada de embedding com codificação posicional baseada em tempo.
  • 8 blocos transformer (256 dimensões, 16 cabeças).
  • Global average pooling e uma camada densa.
  • A saída parametriza uma mistura de duas Gaussianas: uma para o caso sem atraso longo ($\phi=1$) e uma para o caso com atraso longo ($\phi=0$).
• Treinamento: O modelo foi treinado usando o otimizador Adam com decaimento de cosseno em uma única GPU NVIDIA A100 por 13 horas. Os hiperparâmetros foram otimizados via otimização Bayesiana (75 tentativas) usando o algoritmo Tree-structured Parzen Estimator. A função de perda minimiza a divergência KL para aprender a probabilidade de um atraso longo ($p$) e a distribuição condicional das durações de atraso.
• Baselines: O desempenho foi comparado contra o ICCF e o javelin, aplicados aos mesmos conjuntos de dados simulados.

Principais Resultados
O modelo transformer demonstra desempenho superior na detecção e caracterização de atrasos negativos longos em comparação com métodos tradicionais:

• Precisão de Detecção: Em um conjunto de teste de $2 \times 10^4$ curvas de luz simuladas, o modelo identifica a presença de um atraso negativo longo com 96% de recall (completude) e apenas 0,04% de contaminação (falsos positivos) ao usar um limiar de probabilidade de $(1-p_\phi) > 0.906$.
• Predição de Atraso: Para curvas de luz identificadas como possuidoras de um atraso longo, o modelo prevê a duração com 98% de precisão dentro de 20% do valor real e 92% dentro de 10%.
• Robustez a Sinais Fracos: O modelo detecta com sucesso atrasos longos mesmo quando a razão de amplitude ($r$) é baixa ($r < 0.01$), perdendo apenas 13% desses casos. Em contraste, o ICCF falha em detectar 87% dos atrasos longos neste regime de baixa razão.
• Comparação com Baselines:
  • ICCF: Preciso dentro de 20% do atraso real para apenas 54% dos casos. Ele tem dificuldades significativas quando o sinal de atraso curto domina.
  • javelin: Preciso dentro de 20% para apenas 21% dos casos. Sofre de aliasing severo, frequentemente prevendo atrasos em múltiplos inteiros ímpares da lacuna sazonal (180 dias). Também produz uma taxa de falso positivo mais alta (4,0%) comparado ao transformer.
• Eficiência: O transformer treinado processa 1.000 curvas de luz em 0,9 segundos em uma única GPU. Em comparação, o ICCF requer 12 horas e o javelin requer 5 dias em uma única CPU para o mesmo volume.

Significância e Alegações
O artigo alega que o modelo transformer representa um passo "revolucionário" na preparação para o dilúvio de dados do Observatório Vera C. Rubin. Ao aprender implicitamente a marginalizar sobre dados ausentes (lacunas sazonais) e sinais de confusão (atrasos curtos), o modelo supera as limitações específicas das técnicas tradicionais de mapeamento de reverberação.

Os autores enfatizam que esta capacidade é crucial para:

1. Medir a Estrutura Vertical: Atrasos negativos longos fornecem uma sonda direta da razão de aspecto do disco ($h/r$), permitindo testes do modelo de disco fino padrão versus modelos de disco magneticamente elevado.
2. Escalabilidade: A velocidade do modelo torna viável a análise dos milhões de curvas de luz de AGN esperadas do Rubin, uma tarefa impossível com os métodos atuais baseados em MCMC.

Os autores mantêm um tom modesto em relação à aplicação no mundo real, observando que o modelo foi treinado e testado exclusivamente em dados simulados gerados com suposições específicas. Eles reconhecem que as curvas de luz reais do Rubin podem apresentar desafios imprevistos e que o modelo não considera atualmente correlações potenciais entre parâmetros físicos (ex: massa do buraco negro e duração do atraso) devido à falta de restrições empíricas. Trabalhos futuros são propostos para validar o modelo em dados do Zwicky Transient Facility (ZTF) e para refinar o modelo conforme mais detecções reais de atraso longo tornem-se disponíveis.