Resumo Técnico: neuralGAM: Um Pacote R para Ajuste de Modelos Aditivos Generalizados com Redes Neurais

Problema

As redes neurais (NNs) são amplamente reconhecidas por seu desempenho preditivo superior em diversas tarefas, mas sofrem com o problema da "caixa-preta", o que torna difícil compreender o processo de decisão. Embora existam métodos de interpretabilidade post-hoc, há uma demanda crescente por abordagens ante-hoc que construam modelos inerentemente interpretáveis sem sacrificar a precisão preditiva. As tentativas existentes de combinar Modelos Aditivos Generalizados (GAMs) com redes neurais enfrentaram limitações: métodos iniciais exigiam ajuste manual ou eram restritos a arquiteturas rasas, enquanto abordagens recentes baseadas em aprendizado profundo (ex: Modelos Aditivos Neurais) podem sofrer de sobreajuste (overfitting) ou custos computacionais elevados. Além disso, pacotes R existentes que integram modelos aditivos com redes neurais (como deepregression e bamlss) ou focam em regressão de distribuição com bases de splines incorporadas ou utilizam estruturas Bayesianas com alto custo computacional, carecendo frequentemente de uma implementação dedicada que aproveite redes neurais profundas totalmente independentes por característica dentro do ecossistema R.

Metodologia

O artigo apresenta o neuralGAM, um pacote R que implementa uma topologia de Rede Neural Aditiva Generalizada (GANN). A metodologia central treina um conjunto de redes neurais independentes — uma para cada característica — para estimar a contribuição de cada característica para a variável resposta. O modelo geral permanece aditivo, aderindo à estrutura:

$$E[Y | X] = m(X) = h^{-1}\left(\alpha + \sum_{j=1}^{p} f_j(X_j)\right)$$

onde $h(\cdot)$ é uma função de ligação e $f_j$ são funções suaves estimadas por redes neurais.

Algoritmos de Estimação

O pacote estima os parâmetros do modelo usando uma combinação de dois algoritmos iterativos:

1. Pontuação Local (LS - Local Scoring): Adapta a variável dependente ($Z_i$) e os pesos ($W_i$) com base no ajuste atual e na distribuição específica (Gaussiana, Binomial ou Poisson).
2. Backfitting (BF): Atualiza iterativamente a contribuição de cada covariável. Em cada etapa, um modelo aditivo ponderado é ajustado onde cada termo suave $f_j$ é estimado treinando uma rede neural feed-forward nos resíduos parciais daquela característica específica.

Esta abordagem prioriza a interpretabilidade ao impor a decomposição aditiva, mantendo a flexibilidade das arquiteturas de aprendizado profundo. O framework suporta modelos semiparamétricos onde alguns termos podem ser lineares enquanto outros são redes neurais não paramétricas.

Quantificação de Incerteza

Para quantificar a incerteza epistêmica, o neuralGAM utiliza Dropout de Monte Carlo (MC Dropout). Camadas de dropout são inseridas nas redes neurais e permanecem ativas durante a inferência. Ao realizar múltiplas passagens estocásticas para frente ($B$), o pacote gera uma distribuição de previsões. Isso permite o cálculo de intervalos de confiança para termos suaves individuais e para o preditor aditivo tanto na escala de ligação quanto na escala de resposta (usando o método delta para esta última).

Arquitetura de Software

O pacote depende de keras e TensorFlow para a implementação subjacente da rede neural. Principais características incluem:

• Arquitetura Flexível: Usuários podem definir profundidade da rede, unidades, funções de ativação e regularizadores globalmente ou por termo.
• Funções de Perda Customizadas: Suporta perdas padrão do Keras e funções de perda customizadas definidas pelo usuário.
• Validação: Inclui suporte para divisões de validação e fluxos de trabalho de validação cruzada.
• Visualização: Fornece gráficos diagnósticos (resíduos, gráficos QQ) e gráficos de efeitos parciais com intervalos de confiança usando tanto o R base quanto ggplot2.

Principais Contribuições

1. Implementação: O neuralGAM é apresentado como o único pacote disponível que implementa uma GANN usando redes neurais profundas totalmente independentes para cada característica, estimadas via pontuação local e backfitting.
2. Interpretabilidade vs. Flexibilidade: Oferece um equilíbrio prático, entregando desempenho preditivo competitivo enquanto mantém a natureza de "caixa-branca" dos GAMs, permitindo uma clara interpretação por nível de característica.
3. Estimação de Incerteza: Integra o MC Dropout diretamente no pipeline de treinamento e inferência para fornecer estimativas de incerteza epistêmica por termo e globais, uma característica não disponível nativamente em pacotes R comparáveis como o deepregression sem o uso de conjuntos de modelos (ensembles) computacionalmente caros.
4. Usabilidade: O pacote fornece uma interface amigável semelhante aos pacotes de regressão padrão do R, com funções auxiliares para configuração de ambiente (install_neuralGAM) e ferramentas de diagnóstico abrangentes.

Resultados

O artigo avalia o neuralGAM através de dados simulados e uma aplicação do mundo real (previsão de atraso de voos), comparando-o com o deepregression e um MLP (Multi-Layer Perceptron) de caixa-preta implementado em keras.

• Dados Simulados: Em um cenário de resposta Gaussiana, o neuralGAM alcançou um Erro Quadrático Médio (MSE) e uma variância explicada ligeiramente melhores do que o deepregression. Crucialmente, o neuralGAM recuperou as formas funcionais verdadeiras (quadrática, linear, sinusoidal) com curvas mais suaves e intervalos de confiança mais estreitos e estáveis. Em contraste, o deepregression exibiu estimativas mais irregulares e "onduladas", particularmente nas bordas, e exigiu conjuntos de modelos para aproximar a incerteza.
• Dados Reais (Atrasos de Voos): Na previsão de atrasos de voos (resposta binária), o neuralGAM alcançou um AUC-ROC de 0,819, comparável ao deepregression (0,838) e ao MLP de caixa-preta (0,838). Embora o modelo de caixa-preta tenha oferecido uma precisão preditiva ligeiramente superior, ele carecia de interpretabilidade. O neuralGAM visualizou com sucesso os efeitos parciais (ex: a relação não monotônica entre o tempo de voo e o atraso) com bandas de incerteza estáveis, enquanto o deepregression produziu efeitos mais oscilatórios que sugeriam sobreajuste ao ruído local.

Significância e Alegações

Os autores posicionam o neuralGAM como uma ferramenta valiosa para pesquisadores que buscam implementações de redes neurais interpretáveis dentro do ecossistema R. O artigo afirma que o neuralGAM oferece um forte compromisso entre a interpretabilidade de modelos aditivos e a flexibilidade do aprendizado profundo.

A significância do trabalho reside em sua capacidade de:

• Fornecer uma alternativa de "caixa-branca" ao aprendizado profundo de caixa-preta que não requer o ajuste manual de perceptrons univariados.
• Oferecer quantificação nativa de incerteza via MC Dropout, evitando o custo computacional de treinar múltiplos modelos independentes (ensembles) exigido por outros métodos.
• Entregar estimativas de efeito suaves e estáveis que são mais fáceis de interpretar do que as estimativas baseadas em splines encontradas no deepregression, particularmente em regiões com dados esparsos.

Os autores observam modestamente que, embora o neuralGAM seja atualmente limitado às distribuições Gaussiana, Binomial e Poisson, ele representa um passo significativo em direção ao aprendizado profundo acessível e interpretável em R. Trabalhos futuros são identificados como a potencial extensão do modelo para regressão logística multinomial, incorporação de termos de interação e exploração de métodos adicionais de estimação de incerteza, como a previsão conformal.