📈 economics

SplitWise Regression: Stepwise Modeling with Adaptive Dummy Encoding

El artículo presenta SplitWise, un nuevo paquete de R que mejora la regresión paso a paso al convertir adaptativamente los predictores numéricos en características binarias basadas en umbrales mediante árboles de decisión poco profundos solo cuando estos mejoran el ajuste del modelo según el AIC o el BIC, logrando así un equilibrio entre capturar relaciones no lineales y mantener la interpretabilidad del modelo.

Autores originales: Marcell T. Kurbucz, Nikolaos Tzivanakis, Nilufer Sari Aslam, Adam M. Sykulski

Publicado 2026-02-06

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Marcell T. Kurbucz, Nikolaos Tzivanakis, Nilufer Sari Aslam, Adam M. Sykulski

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás tratando de predecir qué tan bien funcionará un coche basándote en sus características, como el tamaño del motor o el peso. Tradicionalmente, los estadísticos utilizan un enfoque de "línea recta" simple: asumen que si duplicas el tamaño del motor, el rendimiento cambia en una cantidad fija. Es fácil de entender, pero suele ser erróneo porque la vida real no es una línea recta. A veces, un coche solo empeora significativamente cuando el motor se vuelve demasiado grande, o una característica solo importa después de cruzar un umbral específico.

Por otro lado, el aprendizaje automático moderno utiliza métodos complejos de "caja negra" (como las redes neuronales profundas) que pueden encontrar estos patrones extraños y no lineales. Pero son tan complicados que nadie puede explicar por qué tomaron una predicción. Es como tener un GPS que te da el giro correcto pero se niega a mostrarte el mapa.

Entra "SplitWise": Lo mejor de ambos mundos

El artículo presenta una nueva herramienta llamada Regresión SplitWise. Piensa en esto como un asistente inteligente y flexible que te ayuda a construir un modelo simple y transparente que, aun así, puede manejar las realidades desordenadas y no lineales del mundo real.

Así es como funciona, utilizando algunas analogías cotidianas:

1. El "Interruptor Inteligente" (Codificación Dummy Adaptativa)

En un modelo estándar, una variable como la "Edad" se trata como una línea continua. SplitWise pregunta: "¿Se comporta esta variable como una línea, o tiene un 'punto de inflexión'?"

Si los datos sugieren que la "Edad" solo comienza a afectar los resultados de salud después de cumplir los 50 años, SplitWise no fuerza una línea recta. En su lugar, crea un interruptor inteligente. Convierte la variable "Edad" en una pregunta simple de "Sí/No": "¿Es la persona mayor de 50 años?"

Si la respuesta es Sí, aplica una regla.
Si la respuesta es No, aplica otra regla (o no aplica ninguna).

Esto es como un termostato. No necesitas conocer la curva exacta de la temperatura de una habitación; solo necesitas saber: "¿Está por encima de los 70 grados? Si es así, enciende el aire acondicionado". SplitWise encuentra automáticamente estos "puntos de inflexión" (umbrales) en los datos.

2. El "Contador Estricto" (Selección Paso a Paso con AIC/BIC)

Podrías preocuparte: "Si seguimos añadiendo estos interruptores de 'Sí/No', ¿no se volverá el modelo demasiado complicado y confuso?"

Ahí es donde entra el "Contador Estricto" de SplitWise. Antes de añadir cualquier nuevo interruptor al modelo, consulta un libro de contabilidad llamado AIC o BIC. Estos son puntajes que equilibran dos cosas:

Qué tan bien se ajusta el modelo a los datos (Precisión).
Cuántas reglas tiene el modelo (Complejidad).

Si añadir un nuevo "interruptor" (como "¿Es la presión arterial > 140?") no mejora el puntaje lo suficiente como para justificar la complejidad adicional, el contador dice: "No, gracias, mantengamos la simplicidad". Esto asegura que el modelo final siga siendo fácil de leer y comprender, evitando la trampa del "sobreajuste" (overfitting), donde un modelo memoriza el ruido en lugar de aprender el patrón.

3. Las "Dos Formas de Cocinar" (Iterativo vs. Univariante)

El artículo describe dos formas en las que SplitWise construye el modelo:

La "Reunión de Equipo" (Modo Iterativo): El algoritmo observa todas las variables al mismo tiempo. Pregunta: "Si ya tenemos el 'Tamaño del Motor' en el modelo, ¿ayuda añadir '¿Es el Peso > 2000 lbs?'". Esto es preciso y tiene en cuenta cómo interactúan las variables entre sí.
El "Explorador Solitario" (Modo Univariante): El algoritmo observa cada variable una por una, como un explorador revisando ingredientes individuales. Decide la mejor forma para cada ingrediente de manera independiente y luego ensambla el plato final. Esto es más rápido para conjuntos de datos masivos con muchas variables.

Lo que el artículo encontró

Los autores probaron SplitWise tanto con datos simulados (donde conocían la "respuesta verdadera") como con datos del mundo real (como la eficiencia de combustible de los coches, el precio de las viviendas y la calidad del vino).

El Resultado: SplitWise construyó consistentemente modelos que eran más precisos que los métodos tradicionales de línea recta y más simples (con menos variables) que los modelos complejos de aprendizaje automático.
El Punto Medio: Logró capturar los "bultos" y "saltos" en los datos (no linealidad) sin convertir el modelo en una caja negra ilegible.
La Herramienta: Presentaron esto como un paquete de software gratuito (en el lenguaje de programación R) para que cualquiera pueda usarlo.

La Conclusión

Splitwise es como actualizar de una regla rígida a una cinta métrica flexible que puede encajarse en los puntos exactos donde los datos cambian de comportamiento. Mantiene el modelo lo suficientemente transparente como para que un humano pueda entenderlo (ideal para médicos, responsables de políticas o ingenieros que necesitan explicar sus decisiones) pero lo suficientemente inteligente como para captar las relaciones complejas y no lineales que los modelos simples pasan por alto.

Lo que el artículo NO afirma:
El artículo se centra enteramente en el rendimiento estadístico y la herramienta de software en sí. No afirma que este método haya sido probado en ensayos clínicos específicos, ni predice resultados médicos futuros específicos o colapsos de los mercados financieros. Simplemente demuestra que el método matemático funciona mejor que las alternativas existentes para construir modelos de regresión claros y precisos.

Resumen Técnico: SplitWise Regression

Planteamiento del Problema

En el modelado de regresión, existe un desafío persistente al intentar capturar relaciones no lineales sin sacrificar la interpretabilidad inherente a los modelos lineales. La regresión lineal tradicional ofrece transparencia, donde los coeficientes cuantifican directamente la influencia de los predictores, pero no logra modelar efectos de umbral o no linealidades complejas (por ejemplo, resultados de salud que cambian drásticamente después de una edad específica). Por el contrario, los métodos de aprendizaje automático como los árboles de decisión y las redes neuronales pueden modelar estas relaciones complejas, pero a menudo producen estructuras de "caja negra" que carecen de interpretabilidad global, lo cual es crítico en dominios de alto riesgo como la atención médica, las finanzas y las políticas públicas.

Los enfoques híbridos existentes, como RuleFit o métodos basados en árboles con componentes lineales (por ejemplo, M5, PILOT), intentan cerrar esta brecha. Sin embargo, a menudo resultan en estructuras de modelos complejas con múltiples divisiones anidadas o componentes de ensamble que disminuyen la transparencia. Además, los métodos actuales de selección por pasos (stepwise) suelen depender de umbrales de p-valor o criterios de información, pero no detectan automáticamente umbrales óptimos dentro de variables numéricas para mejorar la robustez del modelo y reducir el sobreajuste. Existe una necesidad específica de un enfoque que introduzca la no linealidad de manera controlada, creando variables de umbral binarias que mejoren directamente el rendimiento del modelo lineal preservando la coherencia de una ecuación lineal global.

Metodología

El artículo presenta SplitWise, un marco determinista que integra transformaciones adaptativas basadas en umbrales dentro de un proceso de regresión por pasos. La innovación central es la capacidad de determinar automáticamente si un predictor numérico debe entrar en el modelo como un término lineal estándar o como uno o más indicadores binarios (dummy) derivados de puntos de corte basados en los datos.

Modos Algorítmicos

SplitWise opera en dos modos distintos, ambos utilizando el Criterio de Información de Akaike (AIC) o el Criterio de Información Bayesiano (BIC) para equilibrar el ajuste del modelo y la complejidad:

Modo Iterativo:
- Construye el modelo mediante un procedimiento de pasos (hacia adelante, hacia atrás o bidireccional).
- En cada paso, evalúa los predictores excluidos para encontrar su mejor forma (lineal o transformada en dummy) y los predictores actuales para ver si su eliminación mejora el modelo.
- Las transformaciones candidatas se generan mediante árboles de decisión poco profundos (a través del paquete rpart) con una profundidad máxima de dos.
- El algoritmo selecciona la acción (añadir, eliminar o cambiar de forma) que produzca el AIC/BIC más bajo.
- Este modo tiene en cuenta las interacciones entre variables y los efectos conjuntos, ofreciendo generalmente una mayor precisión.
Modo Univariante:
- Evalúa cada predictor de forma independiente para determinar su representación óptima (nula, lineal, dummy de división única o dummy de doble división).
- Utiliza la misma lógica de árboles poco profundos para identificar los puntos de división óptimos.
- Selecciona la mejor transformación para cada variable basándose en AIC/BIC antes de ensamblar un modelo final mediante un proceso de selección por pasos subsecuente.
- Este modo está diseñado para la escalabilidad en datos de alta dimensionalidad.

Implementación de Software

El método se implementa como un paquete de R de código abierto (SplitWise). Depende mínimamente de dependencias externas, utilizando principalmente funciones de R base (lm, step) y el paquete rpart para la división basada en árboles. El paquete genera un objeto de modelo de regresión estándar (splitwise_lm) que conserva una estructura lineal, pero incluye metadatos que detallan los puntos de corte y las codificaciones dummy específicas (por ejemplo, $I(\text{presión arterial} > 140)$ ), asegurando que el modelo final sea legible por humanos y auditable.

Contribuciones Clave

Codificación Dummy Adaptativa: A diferencia de la regresión por pasos tradicional, que trata las variables como términos lineales fijos, SplitWise convierte dinámicamente los predictores numéricos en características de umbral binarias si esto mejora el criterio de información.
Preservación de la Interpretabilidad: El modelo resultante es una ecuación lineal global aumentada por un pequeño número de características umbralizadas. Esto evita la complejidad de los ensambles de árboles completos mientras captura no linealidades relevantes.
Parsimonia y Estabilidad: El marco está diseñado para producir modelos parsimoniosos. Al utilizar AIC/BIC para la selección, busca prevenir el sobreajuste y asegurar que solo se retengan las transformaciones significativas.
Herramientas de Código Abierto: El lanzamiento del paquete R SplitWise proporciona una herramienta reproducible y fácil de usar para que los analistas apliquen estos métodos sin necesidad de implementar manualmente algoritmos complejos de búsqueda de árboles.

Resultados Experimentales

Los autores evaluaron SplitWise frente a la regresión por pasos clásica, la selección del mejor subconjunto y las técnicas de regresión penalizada (LASSO, Ridge, Elastic Net) utilizando tanto conjuntos de datos sintéticos como del mundo real.

Conjuntos de Datos Sintéticos

Desempeño: En conjuntos de datos con 15, 30 y 60 predictores, SplitWise (particularmente en configuraciones iterativas) logró consistentemente el Error Cuadrático Medio (RMSE) más bajo y el $R^2$ ajustado más alto.
Selección de Modelo: Produjo los valores de AIC y BIC más bajos en la mayoría de los escenarios, lo que indica un equilibrio superior entre ajuste y complejidad.
Parsimonia: SplitWise identificó modelos muy parsimoniosos (por ejemplo, 4–5 variables en el escenario de 15 predictores) manteniendo una alta precisión, mientras que los métodos tradicionales de pasos y penalizados a menudo seleccionaron modelos más grandes para un rendimiento similar o peor.
Estabilidad: El método demostró una alta estabilidad (proporción de veces que se seleccionaron los mismos predictores a través de ejecuciones de remuestreo), alcanzando a menudo 1.00, mientras que los métodos de pasos tradicionales mostraron una menor estabilidad en dimensiones más altas.

Conjuntos de Datos del Mundo Real

Evaluados en cinco conjuntos de datos (Bodyfat, Boston Housing, Mtcars, Wine Quality Red/White):

Precisión Predictiva: SplitWise (iterativo) logró consistentemente el RMSE más bajo en conjuntos de datos complejos como Boston Housing y Wine Quality.
Selección de Variables: Logró estos resultados con un número de predictores menor o comparable al de los métodos tradicionales. Por ejemplo, en el conjunto de datos Wine Quality (Red), superó a otros con solo 7 variables.
Comparación: Aunque los métodos de pasos tradicionales se mantuvieron competitivos en conjuntos de datos de menor dimensión (por ejemplo, Bodyfat), tuvieron dificultades con la eficiencia y la estabilidad en escenarios más complejos. Los métodos penalizados fueron computacionalmente eficientes pero generalmente quedaron rezagados en RMSE y $R^2$ ajustado.

Significancia y Reivindicaciones

El artículo afirma que SplitWise ofrece una solución práctica para dominios donde tanto el alto rendimiento predictivo como la interpretabilidad son innegociables. Al combinar el rigor de la selección de modelos con el umbral adaptativo, permite a los analistas modelar no linealidades sin recurrir a ensambles de aprendizaje automático opacos.

Los autores posicionan a SplitWise como una herramienta que "produce consistentemente modelos más parsimoniosos y generalizables que las técnicas tradicionales de regresión por pasos y penalizada". Enfatizan que el método permite el descubrimiento de puntos de ruptura significativos en variables continuas manteniendo la transparencia de una regresión lineal global. Los autores señalan que, si bien el método es efectivo, es un marco determinista destinado a mejorar, no a reemplazar, la interpretabilidad del modelado lineal, lo que lo hace adecuado para la salud, la economía y las ciencias sociales. El trabajo futuro se identifica como la expansión del marco a Python, modelos lineales generalizados y series temporales, así como el desarrollo de variantes aceleradas para entornos de ultra-alta dimensionalidad.