Resumen Técnico: Aprendizaje de Reglas Evidenciales con Abstención (FERL)

1. Planteamiento del Problema

Los modelos de clasificación interpretables, como los árboles de decisión y las listas de reglas, son esenciales en dominios de alto riesgo donde las decisiones deben ser justificadas. Sin embargo, los clasificadores estándar basados en árboles (p. ej., CART, C4.5) suelen sufrir de exceso de confianza, proporcionando etiquetas de clase rígidas o distribuciones locales sin una cuenta fiable de la evidencia que respalda la decisión. Además, carecen de mecanismos para abstenerse de realizar predicciones cuando la evidencia es insuficiente.

Los enfoques existentes para mejorar la fiabilidad enfrentan limitaciones significativas:

• Calibración Post-hoc: Métodos como el escalado de temperatura o la regresión isotónica ajustan las probabilidades, pero no cuantifican la evidencia subyacente ni respaldan una abstención fundamentada. A menudo se degradan bajo cambios de distribución.
• Estimación de la Incertidumbre: Los métodos basados en muestreo (p. ej., MC-dropout) requieren inferencia repetida, mientras que los métodos de incertidumbre deterministas (DUMs) a menudo dependen de arquitecturas neuronales que requieren un ajuste espectral fino y pueden fallar al detectar entradas "cercanas a OOD" (fuera de la distribución) que se solapan con el manifold de entrenamiento. Además, estos métodos típicamente producen puntuaciones de incertidumbre escalares sin explicaciones simbólicas de por qué un caso es dudoso.
• Clasificadores Credenciales: Aunque existen algunos clasificadores credenciales basados en árboles, a menudo dependen de estimaciones de frecuencia de hoja imprecisas, lo que conduce a una mala calibración, o requieren ajustes post-hoc complejos.

El artículo aborda la necesidad de un modelo que sea simultáneamente interpretable (basado en reglas), evidencial (proporcionando creencia, plausibilidad e ignorancia) y capaz de abstención, todo dentro de un único paso determinista sin cabezales auxiliares o conjuntos de calibración retenidos.

2. Metodología: Aprendizaje de Reglas Evidenciales Rápidas (FERL)

FERL es un aprendiz de árboles de reglas difusas que integra la teoría de Dempster–Shafer (DS) directamente en el proceso de aprendizaje de reglas.

2.1 Construcción de Árboles Difusos

FERL hace crecer un árbol de clasificación donde los nodos internos asignan una característica y un conjunto difuso.

• Divisiones Difusas (Fuzzy Splits): Los parámetros para las divisiones se aprenden mediante un procedimiento de bootstrapping para asegurar la robustez estadística. Para árboles más profundos, el algoritmo encuentra cortes óptimos de Gini en remuestreos para determinar una partición difusa definida por un umbral de la mediana ($\theta$) y una medida de dispersión robusta ($h$).
• Soporte Acotado: Para evitar una falsa confianza en datos fuera de la distribución (OOD), el soporte de las funciones de membresía difusa se acota suavemente al rango de características observado durante el entrenamiento. Los puntos que caen fuera de este rango ven cómo su fuerza de activación decae a cero, aumentando la "ignorancia" del modelo.
• Conciencia Geométrica: Para detectar entradas near-OOD (clases novedosas que se solapan con el manifold de entrenamiento), FERL modela las características no divididas en cada nodo utilizando una Gaussiana diagonal ponderada por la fuerza de activación de la ruta. Esto permite la identificación de atributos específicos anómalos.

2.2 Generación de Salida Evidencial

En FERL, cada nodo activado $o$ emite una función de masa DS sobre el marco de discernimiento $\Theta$:

• Asignación de Masa: La fuerza de activación $\phi_o(x)$ actúa como un descuento de fiabilidad. El nodo coloca una masa $\phi_o(x) p_o(c)$ en la clase $c$ y una masa residual $1 - \phi_o(x)$ en el marco completo $\Theta$ (representando la ignorancia).
• Combinación: Los nodos activos se combinan utilizando la regla de combinación de Dempster.
  • En árboles compactos, se combinan los nodos internos y las hojas.
  • En árboles profundos, solo se combinan las hojas para evitar el "probleo de dependencia" donde la evidencia correlacionada de los nodos anidados reduce artificialmente la ignorancia a cero.
• Predicción:
  • Predicción de Punto: Derivada de la transformación pignística de la masa combinada.
  • Predicción de Conjuntos: Derivada vía dominancia de intervalo ($Pl(c) \ge \max_{c'} Bel(c')$). Si el conjunto de predicción cubre el marco completo $\Theta$, el modelo se abstiene.
  • Forma Analítica: El artículo deriva una expresión en forma cerrada para la masa combinada, mostrando que la combinación repetida reduce monótonamente la ignorancia cuando la evidencia no es vacua.

2.3 Análisis de Estabilidad

Los autores demuestran que FERL es Lipschitz estable. Las masas evidenciales no normalizadas son continuas de Lipschitz con respecto a la entrada, con una constante que depende de la profundidad del árbol ($D$), el número de nodos combinados ($K$) y la pendiente máxima de las membresías difusas ($\lambda$). Esto asegura que las pequeñas perturbaciones en la entrada resulten en variaciones suaves en las salidas evidenciales.

3. Contribuciones Clave

1. Aprendiz de Reglas Evidencial Nativo: FERL es el primer modelo que funciona como un aprendiz de reglas interpretable, un clasificador credencial con abstención y un detector OOD en un único paso determinista. Calcula la creencia, la plausibilidad y la abstención directamente de las membresías difusas sin cabezales auxiliares o inferencia repetida.
2. Caracterización en Forma Cerrada: El artículo proporciona un recuento analítico de la construcción del árbol y la predicción evidencial, incluyendo un certificado de estabilidad local controlado por los anchos de banda de la membresía difusa y una prueba de que la combinación de nodos anidados reduce monótonamente la ignorancia.
3. Evaluación Empírica Amplia:
   • Datos Tabulares: Evaluado en 30 conjuntos de datos diversos.
   • Datos de Imagen: Integrado en Modelos de Cuello de Botella de Conceptos (CBM) en los conjuntos de datos CUB y AwA2, operando sobre vectores de conceptos para proporcionar diagnósticos de atributos a nivel humano comprensible.

4. Resultados Experimentales

4.1 Clasificación Tabular

• Precisión vs. Complejidad: En 30 conjuntos de datos tabulares, FERL-deep (200 reglas) logró una precisión media del 83.2%, superando estadísticamente a otros aprendices de reglas (p. ej., CART con 79.8%, NeuRules con 79.3%) y equiparándose más de cerca al rendimiento de ensambles no interpretables como Random Forest (86.6%) y Gradient Boosting (85.6%) que otros métodos interpretables.
• Eficiencia: FERL-deep entrena en 0.26s e infiere en 1.5ms, significativamente más rápido que otros aprendices de reglas evidenciales o neuronales (p. ej., FUCS tarda 140s en entrenar).
• Predicción de Conjuntos: FERL-deep logró la mejor precisión con descuento de utilidad ($u_{65}=0.80, u_{80}=0.83$) entre los clasificadores credenciales, con una alta cobertura de conjunto (0.92) y tamaños de conjunto promedio más pequeños en comparación con las líneas base de conformal.
• Detección OOD: FERL-deep igualó a los detectores dedicados de OOD (77.7 AUROC vs. 77.4 para la distancia kNN) en tareas de dejar una clase fuera, identificando de forma única qué atributos eran anómalos.

4.2 Integración en el Cuello de Botella de Conceptos

• Precisión: En configuraciones de CBM, FERL-deep (con calibración por concepto) logró un 86.28% en CUB-20 y un 65.18% en CUB-200, superando a CART y a la regresión logística restringida por conceptos.
• OOD en Mundo Abierto: En entornos de detector-clase disjunto, FERL se mantuvo competitivo con detectores dedicados. En AwA2, logró un 86.2 AUROC (dentá de 2.0 puntos de kNN) y el mejor AUPR-Out (68.3) y rechazo de clase no vista (57.2%), todo ello nombrando los atributos específicos anómalos.

5. Significado y Reivindicaciones

El artículo afirma que FERL logra cerrar la brecha entre el alto rendimiento de la clasificación y la interpretabilidad rigurosa. Al embeber el razonamiento evidencial directamente en el aprendizaje de reglas difusas, FERL evita los problemas de la calibración post-hoc y la sobrecarga computacional del muestreo.

• Fiabilidad: El modelo proporciona un mecanismo "nativo" para la abstención y la cuantificación de la incertidumbre que es robusto a los cambios de distribución y capaz de detectar anomalías tanto geométricas como de atributos.
• Interpretabilidad: A diferencia de los métodos de incertidumbre de caja negra, la abstención y la incertidumbre de FERL se explican mediante reglas difusas y atributos específicos, lo que lo hace adecuado para dominios de alto riesgo donde entender por qué un modelo es incierto es tan importante como la predicción misma.
• Escalabilidad: El método es computacionalmente eficiente, ofreciendo una alternativa viable a los complejos modelos de incertidumbre neuronales para datos tabulares y de conceptos basados en imágenes.

Los autores concluyen que un único cabezal FERL puede proporcionar reglas auditables, abstención evidencial y diagnósticos de novedad a nivel de atributo sin la necesidad de un modelo de incertidumbre auxiliar.