Comparison of symbolic regression algorithms in Star/galaxy/quasar separation

Título: Comparação de Algoritmos de Regressão Simbólica na Separação de Estrelas, Galáxias e Quasares

1. Problema e Contexto

A classificação fotométrica de objetos astronômicos (estrelas, galáxias e quasares) é fundamental para a cosmologia e o estudo da evolução galáctica. Embora modelos de "caixa preta" (como redes neurais profundas e árvores de decisão) alcancem altas taxas de precisão (>95%) em dados do Sloan Digital Sky Survey (SDSS DR17), eles obscurecem as relações astrofísicas subjacentes, como a evolução do desvio para o vermelho (redshift) e os gradientes de densidade populacional.
O objetivo deste trabalho é investigar a Regressão Simbólica (SR) como uma alternativa interpretável. O foco é derivar funções analíticas compactas que mapeiem o desvio para o vermelho espectroscópico ($z$) para pontuações de classificação contínuas, permitindo uma separação transparente e matematicamente concisa das populações, sem depender de espaços de cores de alta dimensão.

2. Metodologia

O estudo utiliza um conjunto de dados de 100.000 objetos confirmados espectroscopicamente do SDSS DR17, com distribuição desbalanceada: 59,45% galáxias, 21,59% estrelas e 18,96% quasares.

Abordagem Geral:

• Entrada: Apenas o desvio para o vermelho ($z$).
• Saída: Uma função de pontuação contínua $s(z)$, convertida em rótulos discretos (Galáxia, Estrela, Quasar) através de dois limiares otimizados ($t_1$ e $t_2$).
• Validação: Protocolo de validação cruzada estratificada em 5 dobras (5-fold) sobre todo o conjunto de dados, após descoberta de funções em um subconjunto representativo de 10.000 objetos.
• Restrição de Complexidade: Todas as expressões descobertas são limitadas a uma complexidade máxima de 10 nós (para garantir interpretabilidade humana).

Algoritmos de Regressão Simbólica Comparados:

1. PySR: Baseado em um modelo evolutivo de "ilhas" (algoritmo genético), utilizando seleção de torneio e operadores genéticos. Otimiza a perda $L_2$ regularizada pela complexidade.
2. ESR (Exhaustive Symbolic Regression): Enumeração exaustiva determinística de todas as expressões válidas dentro do limite de complexidade, selecionando o modelo ótimo via Princípio do Comprimento Mínimo de Descrição (MDL) (critério BIC).
3. PhySO (Physical Symbolic Optimization): Utiliza Aprendizado por Reforço Profundo (Redes LSTM) para gerar expressões em notação prefixada. Emprega um gradiente de política "buscador de risco" e máscaras para garantir consistência física e matemática (ex: proibir exponenciais aninhadas).
4. MvSR (Multi-View Symbolic Regression): Divide o domínio de entrada em três "vistas" distintas (baixo, médio e alto $z$) para lidar com a não estacionariedade da distribuição. Evolui uma estrutura simbólica global compartilhada, mas refina os parâmetros numericamente de forma independente para cada regime.

Benchmarks (Linhas de Base):
Para estabelecer um teto de desempenho, foram comparados modelos de "caixa preta" otimizados: Random Forest (RF), Support Vector Machine (SVM) e Multi-Layer Perceptron (MLP), todos restritos à entrada $z$.

3. Contribuições Chave

• Comparação Sistemática: Primeira avaliação unificada de quatro frameworks modernos de SR (incluindo RL e enumeração exaustiva) aplicados ao mesmo problema de classificação astrofísica.
• Interpretabilidade Física: Demonstração de que funções analíticas simples podem capturar as fronteiras astrofísicas não lineares entre populações estelares e extragalácticas.
• Análise de Estabilidade Paramétrica: Avaliação detalhada da estabilidade dos limiares de decisão ($t_1, t_2$), uma métrica crucial para pipelines automatizados.
• Identificação do Limite Teórico: Prova de que a complexidade adicional de modelos de caixa preta não supera significativamente as expressões simbólicas compactas neste contexto, sugerindo que o erro residual é devido a degenerescências físicas intrínsecas nos dados, e não à falta de capacidade do modelo.

4. Resultados Principais

Desempenho de Classificação (Métricas Médias):
O framework MvSR obteve o melhor desempenho global, superando ligeiramente os outros métodos e alcançando paridade estatística com os benchmarks de caixa preta:

• MvSR: Kappa de Cohen ($\kappa$) = 0.8948, Acurácia = 94.11%, F1 Macro = 0.9296.
• PhySO: Destacou-se pela estabilidade paramétrica excepcional (desvio padrão dos limiares $\sigma < 0.002$), com $\kappa$ = 0.8749.
• ESR: Apresentou robustez sólida com $\kappa$ = 0.8665.
• PySR: $\kappa$ = 0.8526.

Comparação com Benchmarks:

• Os modelos de caixa preta (RF, SVM, MLP) atingiram um teto de desempenho de $\kappa \approx 0.90$ (ex: SVM $\kappa$ = 0.8954, MLP $\kappa$ = 0.9028).
• A diferença de desempenho entre as expressões simbólicas compactas (10 nós) e os modelos complexos (milhares de parâmetros) foi negligenciável. Isso indica que a informação preditiva contida no desvio para o vermelho 1D foi totalmente explorada pelos modelos simbólicos.

Análise de Falhas Físicas:

• A maior taxa de erro ocorre na região de transição entre galáxias e quasares, especificamente em $z \approx 1.0 - 1.5$, onde as assinaturas espectrais se sobrepõem (degenerescência física).
• O MvSR conseguiu "achatar" os picos de erro observados em métodos de visão única, deslocando o pico de falha para $z \approx 0.9$ e reduzindo a taxa de erro máxima para ~0.30.
• As estrelas ($z \approx 0$) foram classificadas com precisão quase perfeita (>99%) por todos os modelos.

5. Significado e Conclusão

O estudo conclui que a Regressão Simbólica é uma ferramenta viável e superior para descoberta científica em astroinformática quando a interpretabilidade é prioritária.

• Eficiência: As funções descobertas (ex: $s(z) = 3.134 - \frac{2.320}{z + e^{-2.904z}}$ para o MvSR) são computacionalmente leves e podem ser integradas diretamente em fluxos de trabalho de espectroscopia sem a necessidade de persistir grandes modelos.
• Limites Físicos: O fato de modelos simples atingirem o mesmo teto de desempenho que redes neurais profundas sugere que a separação de populações neste espaço de características 1D é governada por fronteiras geométricas parcimoniosas. O erro residual não é um problema de modelagem, mas uma limitação física dos dados (degenerescência entre galáxias e quasares em $z \approx 1.25$).
• Futuro: O trabalho sugere que a integração de cores fotométricas e características multiespectrais na fase de descoberta simbólica pode resolver as degenerescências de alto desvio para o vermelho identificadas.

Em suma, o artigo valida a SR não apenas como um método de classificação, mas como um mecanismo para extrair "leis físicas" concisas e interpretáveis a partir de grandes conjuntos de dados astronômicos.