📈 economics

SplitWise Regression: Stepwise Modeling with Adaptive Dummy Encoding

O artigo apresenta o SplitWise, um novo pacote R que aprimora a regressão stepwise ao converter adaptativamente preditores numéricos em variáveis binárias baseadas em limiares por meio de árvores de decisão rasas apenas quando estes melhoram o ajuste do modelo de acordo com o AIC ou BIC, alcançando assim um equilíbrio entre capturar relações não lineares e manter a interpretabilidade do modelo.

Autores originais: Marcell T. Kurbucz, Nikolaos Tzivanakis, Nilufer Sari Aslam, Adam M. Sykulski

Publicado 2026-02-06

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Marcell T. Kurbucz, Nikolaos Tzivanakis, Nilufer Sari Aslam, Adam M. Sykulski

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você esteja tentando prever o desempenho de um carro com base em suas características, como o tamanho do motor ou o peso. Tradicionalmente, estatísticos usam uma abordagem simples de "linha reta": eles assumem que, se você dobrar o tamanho do motor, o desempenho muda em uma quantidade fixa. É fácil de entender, mas muitas vezes está errado porque a vida real não é uma linha reta. Às vezes, um carro só fica significativamente pior quando o motor fica grande demais, ou uma característica só importa depois que ultrapassa um limite específico.

Por outro lado, o aprendizado de máquina moderno usa métodos complexos de "caixa preta" (como redes neurais profundas) que conseguem encontrar esses padrões estranhos e não lineares. Mas eles são tão complicados que ninguém consegue explicar por que tomaram uma decisão. É como ter um GPS que te dá a curva certa, mas se recusa a te mostrar o mapa.

Apresentando o "SplitWise": O Melhor dos Dois Mundos

O artigo introduz uma nova ferramenta chamada Regressão SplitWise. Pense nisso como um assistente inteligente e flexível que ajuda você a construir um modelo simples e transparente que ainda consiga lidar com as realidades complexas e não lineares do mundo real.

Veja como funciona, usando algumas analogias do cotidiano:

1. O "Interruptor Inteligente" (Codificação Dummy Adaptativa)

Em um modelo padrão, uma variável como "Idade" é tratada como uma linha contínua. O SplitWise pergunta: "Esta variável se comporta como uma linha ou possui um 'ponto de virada'?"

Se os dados sugerem que a "Idade" só começa a afetar os resultados de saúde após os 50 anos, o SplitWise não força uma linha reta. Em vez disso, ele cria um interruptor inteligente. Ele transforma a variável "Ida" em uma pergunta simples de "Sim/Não": "A pessoa tem mais de 50 anos?"

Se Sim, aplica uma regra.
Se Não, aplica outra (ou nenhuma regra).

Isso é como um termostato. Você não precisa saber a curva exata da temperatura de uma sala; você só precisa saber: "Está acima de 21 graus? Se sim, ligue o ar-condicionado". O SplitWise encontra automaticamente esses "pontos de virada" (limiares) nos dados.

2. O "Contador Rigoroso" (Seleção Passo a Passo com AIC/BIC)

Você pode se preocupar: "Se continuarmos adicionando esses interruptores de 'Sim/Não', o modelo não ficará muito complicado e confuso?"

É aí que entra o "Contador Rigoroso" do SplitWise. Antes de adicionar qualquer novo interruptor ao modelo, ele verifica um livro de contabilidade chamado AIC ou BIC. Estes são escores que equilibram duas coisas:

O quão bem o modelo se ajusta aos dados (Precisão).
Quantas regras o modelo possui (Complexidade).

Se adicionar um novo "interruptor" (como "A pressão arterial é > 140?") não melhorar o escore o suficiente para justificar a complexidade extra, o contador diz: "Não, obrigado, vamos manter a simplicidade". Isso garante que o modelo final permaneça fácil de ler e entender, evitando a armadilha do "overfitting" (sobreajuste), onde o modelo memoriza o ruído em vez de aprender o padrão.

3. As "Duas Formas de Cozinhar" (Iterativo vs. Univariado)

O artigo descreve duas maneiras pelas quais o SplitWise constrói o modelo:

A "Reunião de Equipe" (Modo Iterativo): O algoritmo olha para todas as variáveis juntas. Ele pergunta: "Se já temos o 'Tamanho do Motor' no modelo, adicionar 'O Peso é > 2000kg?' ajuda?". Isso é preciso e leva em conta como as variáveis interagem entre si.
O "Escoteiro Solo" (Modo Univariado): O algoritmo olha para cada variável individualmente, como um escoteiro verificando ingredientes isolados. Ele decide a melhor forma para cada ingrediente de forma independente e, depois, monta o prato final. Isso é mais rápido para conjuntos de dados enormes com muitas variáveis.

O Que o Artigo Descobriu

Os autores testaram o SplitWise tanto em dados fictícios (onde sabiam a resposta "real") quanto em dados do mundo real (como eficiência de combustível de carros, preços de casas e qualidade de vinhos).

O Resultado: O SplitWise construiu consistentemente modelos que eram mais precisos do que os métodos tradicionais de linha reta e mais simples (com menos variáveis) do que os modelos complexos de aprendizado de máquina.
O Ponto de Equilíbrio: Ele conseguiu capturar os "calos" e "saltos" nos dados (não linearidade) sem transformar o modelo em uma caixa preta ilegível.
A Ferramenta: Eles lançaram isso como um pacote de software gratuito (na linguagem de programação R) para que qualquer pessoa possa usar.

A Conclusão

O SplitWise é como atualizar de uma régua rígida para uma fita métrica flexível que pode se ajustar exatamente nos pontos onde os dados mudam de comportamento. Ele mantém o modelo transparente o suficiente para que um humano possa entender (ótimo para médicos, formuladores de políticas ou engenheiros que precisam explicar suas decisões), mas inteligente o suficiente para capturar as relações complexas e não lineares que os modelos simples perdem.

O que o artigo não afirma:
O artigo foca inteiramente no desempenho estatístico e na ferramenta de software em si. Ele não afirma que este método foi testado em ensaios clínicos específicos, nem prevê resultados médicos futuros específicos ou colapsos de mercados financeiros. Ele simplesmente prova que o método matemático funciona melhor do que as alternativas existentes para construir modelos de regressão claros e precisos.

Resumo Técnico: SplitWise Regression

Definição do Problema

Na modelagem de regressão, existe um desafio persistente em capturar relações não lineares sem sacrificar a interpretabilidade inerente aos modelos lineares. A regressão linear tradicional oferece transparência, onde os coeficientes quantificam diretamente a influência dos preditores, mas falha ao modelar efeitos de limiar ou não linearidades complexas (por exemplo, resultados de saúde que mudam drasticamente após uma idade específica). Por outro lado, métodos de aprendizado de máquina como árvores de decisão e redes neurais podem modelar essas relações complexas, mas frequentemente produzem estruturas de "caixa preta" que carecem de interpretabilidade global, o que é crítico em domínios de alto risco, como saúde, finanças e políticas públicas.

Abordagens híbridas existentes, como RuleFit ou métodos baseados em árvores com componentes lineares (ex: M5, PILOT), tentam preencher essa lacuna. No entanto, elas frequentemente resultam em estruturas de modelos complexas com múltiplos desdobramentos (splits) aninhados ou componentes de ensemble que diminuem a transparência. Além disso, os atuais métodos de seleção stepwise dependem tipicamente de limiares de p-valor ou critérios de informação, mas não detectam automaticamente limiares ótimos dentro de variáveis numéricas para aumentar a robustez do modelo e reduzir o overfitting. Há uma necessidade específica de uma abordagem que introduza não linearidade de maneira controlada — criando variáveis de limiar binárias que aumentam diretamente o desempenho do modelo linear enquanto preservam a coerência de uma equação linear global.

Metodologia

O artigo apresenta o SplitWise, um framework determinístico que integra transformações adaptativas baseadas em limiares em um processo de regressão stepwise. A inovação central é a capacidade de determinar automaticamente se um preditor numérico deve entrar no modelo como um termo linear padrão ou como um ou mais indicadores binários (dummies) derivados de pontos de corte baseados nos dados.

Modos Algorítmicos

O SplitWise opera em dois modos distintos, ambos utilizando o Critério de Informação de Akaike (AIC) ou o Critério de Informação Bayesiano (BIC) para equilibrar o ajuste do modelo e a complexidade:

Modo Iterativo:
- Constrói o modelo via um procedimento stepwise (forward, backward ou bidirecional).
- Em cada etapa, avalia os preditores excluídos para encontrar sua melhor forma (linear ou transformada em dummy) e os preditores atuais para verificar se a remoção melhora o modelo.
- As transformações candidatas são geradas usando árvores de decisão rasas (via pacote rpart) com uma profundidade máxima de dois.
- O algoritmo seleciona a ação (adicionar, remover ou trocar a forma) que resulta no menor AIC/BIC.
- Este modo considera interações de variáveis e efeitos conjuntos, oferecendo geralmente maior precisão.
Modo Univariante:
- Avalia cada preditor independentemente para determinar sua representação ideal (nula, linear, dummy de divisão única ou dummy de divisão dupla).
- Utiliza a mesma lógica de árvore rasa para identificar os pontos de divisão ideais.
- Seleciona a melhor transformação para cada variável com base no AIC/BIC antes de montar um modelo final via um processo de seleção stepwise subsequente.
- Este modo é projetado para escalabilidade em dados de alta dimensionalidade.

Implementação de Software

O método é implementado como um pacote R de código aberto (SplitWise). Ele depende minimamente de dependências externas, utilizando principalmente funções do R base (lm, step) e o pacote rpart para a divisão baseada em árvores. O pacote gera um objeto de modelo de regressão padrão (splitwise_lm) que retém uma estrutura linear, mas inclui metadados detalhando os pontos de corte e codificações dummy específicos (ex: $I(\text{pressão arterial} > 140)$ ), garantindo que o modelo final permaneça legível por humanos e auditável.

Principais Contribuições

Codificação Dummy Adaptativa: Ao contrário da regressão stepwise tradicional, que trata variáveis como termos lineares fixos, o SplitWise converte dinamicamente preditores numéricos em recursos binários de limiar se isso melhorar o critério de informação.
Preservação da Interpretabilidade: O modelo resultante é uma equação linear global aumentada por um pequeno número de recursos limiares. Isso evita a complexidade de ensembles de árvores completos enquanto captura não linearidades relevantes.
Parsimônia e Estabilidade: O framework é projetado para produzir modelos esparsos. Ao usar AIC/BIC para seleção, visa prevenir o overfitting e garantir que apenas transformações significativas sejam retidas.
Ferramental de Código Aberto: O lançamento do pacote R SplitWise fornece uma ferramenta reprodutível e amigável para analistas aplicarem esses métodos sem a necessidade de implementar manualmente algoritmos complexos de busca em árvores.

Resultados Experimentais

Os autores avaliaram o SplitWise contra a regressão stepwise clássica, seleção de melhor subconjunto (best subset selection) e técnicas de regressão penalizada (LASSO, Ridge, Elastic Net) usando tanto conjuntos de dados sintéticos quanto do mundo real.

Conjuntos de Dados Sintéticos

Desempenho: Em conjuntos de dados com 15, 30 e 60 preditores, o SplitWise (particularmente em configurações iterativas) alcançou consistentemente o menor Erro Quadrático Médio (RMSE) e o maior $R^2$ Ajustado.
Seleção de Modelo: Produziu os menores valores de AIC e BIC na maioria dos cenários, indicando um equilíbrio superior entre ajuste e complexidade.
Esparsidade: O SplitWise identificou modelos muito esparsos (ex: 4–5 variáveis no cenário de 15 preditores) enquanto mantinha alta precisão, enquanto métodos tradicionais de stepwise e penalizados frequentemente selecionaram modelos maiores para um desempenho similar ou inferior.
Estabilidade: O método demonstrou alta estabilidade (proporção de vezes que os mesmos preditores foram selecionados através de execuções de reamostragem), frequentemente atingindo 1.00, enquanto os métodos stepwise tradicionais mostraram menor estabilidade em dimensões mais altas.

Conjuntos de Dados do Mundo Real

Avaliado em cinco conjuntos de dados (Bodyfat, Boston Housing, Mtcars, Wine Quality Red/White):

Precisão Preditiva: O SplitWise (iterativo) alcançou consistentemente o menor RMSE em conjuntos de dados complexos como Boston Housing e Wine Quality.
Seleção de Variáveis: Alcançou esses resultados com números de preditores menores ou comparáveis aos de métodos tradicionais. Por exemplo, no conjunto de dados Wine Quality (Red), superou os outros com apenas 7 variáveis.
Comparação: Embora os métodos stepwise tradicionais tenham permanecido competitivos em conjuntos de dados de baixa dimensão (ex: Bodyfat), eles tiveram dificuldades com eficiência e estabilidade em cenários mais complexos. Métodos penalizados foram computacionalmente eficientes, mas geralmente ficaram atrás em RMSE e $R^2$ Ajustado.

Significância e Alegações

O artigo afirma que o SplitWise oferece uma solução prática para domínios onde tanto o alto desempenho preditivo quanto a interpretabilidade são inegociáveis. Ao misturar o rigor da seleção de modelos com o limiar adaptativo, permite que analistas modelem não linearidades sem recorrer a ensembles de aprendizado de máquina opacos.

Os autores posicionam o SplitWise como uma ferramenta que "consistentemente produz modelos mais parsimoniosos e generalizáveis do que as técnicas tradicionais de regressão stepwise e penalizada". Eles enfatizam que o método permite a descoberta de pontos de ruptura significativos em variáveis contínuas enquanto mantém a transparência de uma regressão linear global. Os autores observam que, embora o método seja eficaz, é um framework determinístico destinado a aprimorar, e não substituir, a interpretabilidade da modelagem linear, tornando-o adequado para as ciências da saúde, economia e ciências sociais. O trabalho futuro é identificado como a expansão do framework para Python, modelos lineares generalizados e séries temporais, bem como o desenvolvimento de variantes aceleradas para cenários de ultra-alta dimensionalidade.