An Interpretable Statistical Learning Framework for Binary Classification: An Application to Student Stress Prediction

Resumo Técnico: Uma Estrutura de Aprendizado Estatístico Interpretável para Classificação Binária

Definição do Problema
O aprendizado estatístico moderno enfrenta uma tensão entre precisão preditiva e interpretabilidade do modelo. Embora algoritmos de aprendizado de máquina complexos (ex: métodos de ensemble, deep learning) frequentemente alcancem alto desempenho preditivo, eles frequentemente carecem de transparência, tornando difícil identificar preditores confiáveis ou explicar os mecanismos subjacentes às previsões. Por outro lado, modelos estatísticos tradicionais oferecem interpretabilidade, mas podem sofrer de instabilidade na seleção de variáveis devido à variabilidade da amostragem ou multicolinearidade. O artigo aborda a necessidade de uma estrutura unificada que entregue simultaneamente classificação binária precisa, identificação robusta de características e explicações transparentes do modelo, utilizando a previsão do estresse estudantil como uma aplicação motivadora.

Metodologia
O estudo propõe uma estrutura de aprendizado estatístico integrada aplicada a um conjunto de dados publicamente disponível de aproximadamente 25.500 registros de estudantes. A variável de resposta é binária (Baixo Estresse vs. Alto Estresse). A metodologia consiste em quatro componentes primários:

1. Modelagem Comparativa: Cinco modelos de classificação foram desenvolvidos e comparados:

   • Regressão Logística: Serviu como o baseline.
   • Regressão Penalizada: Regressão Ridge (penalidade $L_2$), LASSO (penalidade $L_1$) e Elastic Net (penalidades combinadas $L_1$ e $L_2$) foram implementadas para lidar com a multicolinearidade e realizar a seleção de variáveis.
   • Random Forest: Incluída como um benchmark de aprendizado de máquina não linear para capturar interações complexas.
   • Implementação: Todos os modelos foram ajustados usando validação cruzada de 10 dobras repetidas em um conjunto de treinamento de 70%, com o desempenho avaliado em um conjunto de teste independente de 30%.

2. Avaliação de Desempenho: Os modelos foram avaliados usando Acurácia, Sensibilidade, Especificidade, F1-score, ROC-AUC e Brier Score para avaliar discriminação e calibração.

3. Seleção de Estabilidade por Bootstrap: Para abordar a instabilidade da seleção de variáveis em ajustes de modelo único, o estudo empregou a seleção de estabilidade por bootstrap (500 reamostragens) utilizando o modelo LASSO. Os preditores foram avaliados com base em sua frequência de seleção através das reamostragens, com frequências $\ge 0,80$ classificados como estáveis.

4. Aprendizado de Máquina Explicável (SHAP): As Explicações Aditivas de Shapley (SHAP) foram aplicadas ao modelo Random Forest para quantificar a contribuição marginal de cada preditor. Isso forneceu tanto a importância global das características quanto explicações locais, permitindo uma comparação entre a interpretabilidade da regressão penalizada e de métodos de ensemble complexos.

Principais Resultados

• Desempenho Preditivo: Todos os cinco modelos demonstraram desempenho preditivo comparável e forte. Os valores de ROC-AUC excederam 0,86 para todos os modelos, e as acurácias de classificação ficaram acima de 81%. Notavelmente, os modelos de regressão penalizada interpretáveis (Ridge, LASSO, Elastic Net) performaram quase identicamente ao modelo Random Forest mais complexo, sugerindo que o aumento da complexidade do modelo não gerou ganhos substanciais em acurácia para este conjunto de dados.
• Estabilidade de Seleção de Variáveis: A seleção de estabilidade por bootstrap identificou seis preditores como altamente robustos (frequência de seleção = 1,00): horas de sono, horas de estudo, uso de redes sociais, frequência escolar, pressão de exames e apoio familiar. Essas variáveis foram consistentemente selecionadas em todas as 500 amostras de bootstrap.
• Concordância de Importância de Características: A análise SHAP do modelo Random Forest identificou a pressão de exames como o preditor mais influente, seguido por horas de estudo, horas de sono e apoio familiar. Houve uma forte concordância entre os rankings de importância do SHAP e as frequências de seleção de estabilidade, validando a robustez desses preditores através de diferentes abordagens metodológicas.

Principais Contribuições
O artigo contribui com um fluxo de trabalho reprodutível que integra três técnicas complementares de aprendizado estatístico:

1. Regressão Penalizada: Fornece modelos parcimoniosos através da regularização de coeficientes.
2. Seleção de Estabilidade: Avalia a reprodutibilidade da seleção de variáveis, distinguindo preditores robustos de artefatos específicos da amostra.
3. Explicabilidade SHAP: Melhora a transparência ao explicar as contribuições dos preditores em modelos não lineares.

O estudo demonstra que esses métodos não devem ser vistos como concorrentes, mas como componentes de uma única estrutura que aumenta a confiabilidade e a interpretabilidade sem sacrificar a precisão preditiva.

Significância e Alegações
Os autores alegam que sua estrutura oferece uma abordagem abrangente para o desenvolvimento de modelos preditivos que são precisos, reprodutíveis e interpretáveis. O estudo destaca que:

• Modelos estatísticos interpretáveis podem alcançar desempenho comparável a algoritmos complexos de aprendizado de máquina para problemas de classificação binária envolvendo preditores correlacionados.
• A integração da seleção de estabilidade com a IA explicável (SHAP) fornece evidência convergente sobre a importância das características, aumentando a confiança na inferência científica.
• Embora demonstrada na previsão do estresse estudantil, a estrutura é prontamente aplicável a uma ampla gama de problemas de classificação binária em campos como medicina, saúde pública e finanças, onde a identificação confiável de características e a transparência do modelo são críticas.

O artigo mantém um tom modesto quanto ao seu escopo, reconhecendo limitações como o uso de um conjunto de dados simulado (embora projetado para refletir padrões realistas), o foco em um único benchmark de aprendizado de máquina (Random Forest) e a falta de validação externa de instituições independentes. Sugere que trabalhos futuros poderiam estender a estrutura para incluir algoritmos adicionais e conjuntos de dados de validação externa.