Resumen Técnico: Recurso de Confianza Objetivo mediante Máquinas tSeTlin (TRUST)

Planteamiento del Problema

Las explicaciones contrafácticas (CE, por sus siglas en inglés) son el mecanismo estándar para proporcionar recurso algorítmico en sistemas de toma de decisiones de alto riesgo (p. ej., aprobación de créditos, estratificación de riesgo clínico). La formulación prevalente del recurso busca el cambio mínimo en un input $x$ requerido para invertir la decisión de un modelo de negativo a positivo. Formalmente, este es un problema de optimización que minimiza la distancia $d(x, x')$ sujeto a la restricción de que la probabilidad predicha $M(x') \geq 0.5$.

El artículo identifica dos limitaciones críticas en este marco binario:

1. Fragilidad: Los contrafácticos generados cerca de la frontera de decisión (donde $M(x') \approx 0.5$) suelen ser inestables ante el ruido, las actualizaciones del modelo o las perturbaciones. Pueden satisfacer técnicamente la condición de inversión de etiqueta, pero fallan en la práctica debido a márgenes de confianza bajos.
2. Desalineación con la Toma de Decisiones: Los sistemas de decisión del mundo real frecuentemente emplean umbrales de confianza explícitos (p. ej., requerir un 80% de confianza para la aprobación). Los métodos existentes no pueden responder directamente a preguntas como: "¿Cuál es el cambio mínimo para lograr la aprobación con al menos un 80% de confianza?". Tratan la confianza como una propiedad post-hoc en lugar de un objetivo de optimización especificado por el usuario.

Mientras que trabajos previos han abordado la robustez indirectamente a través de restricciones de margen o validez de vecindad, y existen métodos conscientes de la incertidumbre (como CLUE o certificados probabilísticos), ninguno permite que los usuarios especifiquen un nivel de confianza deseado como una restricción primaria durante la generación de recursos.

Metodología: El Marco TRUST

Los autores proponen TRUST (Recurso de Confianza Objetivo mediante Máquinas tSeTlin), un marco que reformula el recurso como un problema de confianza objetivo.

1. Formulación del Problema

En lugar de minimizar la distancia sujeto a $M(x') \geq 0.5$, TRUST busca un contrafáctico $x'$ que minimice el costo $d(x, x')$ sujeto a una confianza objetivo definida por el usuario $\tau \in (0.5, 1)$ y una tolerancia $\epsilon$:
$$\min_{x'} d(x, x') \quad \text{sujeto a} \quad |M(x') - \tau| \leq \epsilon$$
Esta formulación generaliza los CE estándar (recuperados cuando $\tau = 0.5$) y permite la generación explícita de opciones de recurso a diversos niveles de confianza, permitiendo un análisis de compromiso (trade-off) principiado entre costo y robustez.

2. Instanciación del Modelo: Máquina Tsetlin Probabilística (PTM)

Para instanciar este marco, los autores utilizan una Máquina Tsetlin Probabilística (PTM) emparejada con Optimización Bayesiana (BO).

• ¿Por qué PTM? A diferencia de los clasificadores probabilísticos de caja negra (p. ej., redes neuronales calibradas) donde los puntajes de confianza carecen de interpretabilidad directa, la PTM descompone las predicciones en cláusulas lógicas interpretables por humanos con activaciones probabilísticas. Esta estructura permite al modelo vincular los cambios en las características directamente con los desplazamientos en la confianza de la predicción.
• ¿Por qué Optimización Bayesiana? El espacio de búsqueda de los contrafácticos es no convexo y potencialmente costoso de evaluar, especialmente con modelos estocásticos. Se emplea la BO para buscar eficientemente en el espacio de entrada, equilibrando la exploración y la explotación para encontrar candidatos que coincidan con la confianza objetivo $\tau$ mientras se minimiza la distancia. Garantías teóricas bajo condiciones de regularidad aseguran la optimalidad asintótica.

3. Atribución a Nivel de Cláusula

Una contribución distintiva del marco TRUST es la capacidad de realizar atribución a nivel de cláusula. Cuando múltiples contrafácticos alcanzan la misma confianza objetivo pero difieren en costo o estabilidad, la estructura de la PTM permite a los profesionales rastrear estas diferencias hasta reglas lógicas específicas.

• El marco analiza las "probabilidades de activación" de las cláusulas individuales.
• Identifica si un contrafáctico satisface las reglas de forma robusta (profundamente dentro de los límites probabilísticos de la regla) o frágil (cerca del borde de la condición de una regla).
• Esto proporciona una explicación mecanística de por qué una opción de recurso es más fiable que otra, una capacidad ausente en las explicaciones a nivel de característica de los modelos de caja negra.

Principales Contribuciones

1. Formulación de Confianza Objetivo: El artículo introduce la Ec. (2) como el primer objetivo de CE donde la confianza de la predicción es una restricción especificada por el usuario en lugar de una propiedad emergente. Esto cambia el paradigma de "inversión mínima de etiqueta" a "cambio mínimo para un umbral de riesgo específico".
2. Atribución a Nivel de Cláusula: Al aprovechar la PTM, los autores permiten una nueva capa explicativa que conecta los cambios a nivel de característica con los cambios de confianza a través de cláusulas lógicas interpretables. Esto soporta la comparación de opciones de recurso competidoras basadas en la estabilidad de las reglas de decisión subyacentes.
3. Robustez por Diseño: El marco establece un vínculo práctico entre los contrafácticos conscientes de la confianza y la robustez. Al apuntar directamente a niveles de confianza más altos, la robustez se logra por construcción (moviéndose más profundamente en la región de la clase positiva) en lugar de mediante filtrado post-hoc.

Resultados Experimentales

Los autores evaluaron TRUST en dos conjuntos de datos sintéticos (2D y 5D) y dos conjuntos de datos del mundo real (clasificación binaria de Iris y supervivencia de Haberman). Compararon TRUST (PTM + BO) contra líneas base de gradiente (Wachter) y de muestreo (GrowingSpheres) de la librería CARLA.

Hallazgos Clave:

• Compromiso entre Robustez y Costo: TRUST permite el control explícito del compromiso. Con una confianza objetivo menor ($\tau=0.50$), TRUST produce contrafácticos con distancia mínima (comparable o mejor que las líneas base). Con una confianza objetivo mayor ($\tau=0.85$), TRUST genera contrafácticos que son significativamente más robustos al ruido (logrando un 100% de robustez en varios benchmarks) manteniendo un bajo costo de recurso.
• Métricas de Desempeño: En el conjunto de datos de Haberman, TRUST logró una distancia L2 de 0.10 con una confianza de 0.92 y una robustez perfecta, superando a las líneas base que tuvieron dificultades para mantener una alta confianza sin sacrificar la robustez.
• Interpretabilidad: El análisis cualitativo en el conjunto de datos de Haberman demostró que dos contrafácticos que satisfacen la misma regla lógica (p. ej., "Nódulos linfáticos positivos $\leq 4$") pueden tener niveles de fiabilidad muy distintos. El análisis a nivel de cláusula de TRUST reveló que un contrafáctico con nódulos linfáticos = 4 era frágil (cerca del límite de la regla), mientras que uno con nódulos linfáticos = 2 era robusto, explicando la diferencia en la estabilidad de la confianza de manera mecanística.

Significación y Reivindicaciones

El artículo afirma que TRUST proporciona una base consciente de la confianza e interpretable para el recurso algorítmico en entornos de alto riesgo. Su significación radica en:

• Cambio del Objetivo de Optimización: Pasar de la inversión binaria de la etiqueta a la satisfacción de umbrales de riesgo definidos por el usuario, lo cual se alinea mejor con las necesidades regulatorias y prácticas de la toma de decisiones (p. ej., Ley de IA de la UE, GDPR).
• Explicación Mecanística: A diferencia de otros métodos previos que solo ofrecen cambios a nivel de característica, TRUST explica por qué una opción de recurso es robusta o frágil al exponer la estabilidad de las reglas lógicas (cláusulas) subyacentes.
• Utilidad Práctica: Permite a los decisores elegir entre opciones de recurso basadas en un espectro transparente de costo-confianza-robustez, en lugar de verse obligados a aceptar la opción "más barata" que puede ser inestable.

Los autores se mantienen modestos respecto a las limitaciones, señalando que el marco depende de predicciones probabilísticas bien calibradas, que la implementación actual (PTM) tiene una carga computacional superior a los métodos basados en gradientes, y que la validación más amplia en benchmarks más grandes es un trabajo futuro. Sin embargo, sostienen que el marco propuesto aborda con éxito la brecha entre el recurso teórico y el soporte de decisiones estable y accionable.