Axiomatic Foundations of Counterfactual Explanations

Resumen Técnico: Fundamentos Axiomáticos de las Explicaciones Contrafácticas

Declaración del Problema
El artículo aborda una brecha crítica en la literatura sobre la IA Explicable (XAI). Si bien las explicaciones contrafácticas (que responden a preguntas de tipo "¿por qué no?") han surgido como un método convincente para mejorar la confianza en los sistemas autónomos, la investigación existente sufre de dos limitaciones principales:

1. Falta de Clasificación Sistemática: La mayor parte del trabajo existente se centra en un único tipo de contrafáctico local (diseñado para instancias individuales) sin estudiar sistemáticamente tipos alternativos.
2. Negligencia de las Explicaciones Globales: Existe una atención insuficiente hacia los contrafácticos globales, que pretenden explicar el proceso de razonamiento general de un modelo en lugar de solo predicciones individuales.
   Consecuententemente, los compromisos teóricos entre contrafácticos locales y globales, y entre diferentes definiciones de "cercanía" o "validez", permanecen insuficientemente comprendidos.

Metodología
Los autores proponen un marco axiomático para definir, comparar y caracterizar los explicadores contrafácticos de manera sistemática. Este enfoque, común en la ciencia teórica, construye un sistema basado en un conjunto de axiomas claramente enunciados (propiedades básicas) para derivar teoremas de representación.

• Entorno Formal: El marco opera sobre una teoría de clasificación $T = \langle F, dom, C \rangle$ (características, dominios, clases) y un clasificador $\kappa$. Una consulta se define como $Q = \langle T, \kappa, x \rangle$.
• Axiomas: El artículo introduce nueve axioma agrupados en tres categorías:
  • Propiedades Generales: Éxito (salida no vacía), No Trivialidad (no conjuntos vacíos), Equivalencia (misma clase $\to$ misma explicación) y Factibilidad (las explicaciones son subconjuntos de la instancia).
  • Propiedades de Razones Necesarias: Centralidad (Coreness) (las explicaciones contienen solo literales centrales) y Validez Escéptica (eliminar la explicación garantiza un cambio de clase).
  • Propiedades de Razones Suficientes: Novedad (las explicaciones no contienen literales de la instancia original), Validez Fuerte (la presencia de la explicación garantiza un cambio de clase) y Validez Débil (reemplazar los valores con la explicación produce una clase diferente).
• Análisis: Los autores utilizan estos axiomas para demostrar teoremas de imposibilidad (mostrando que ciertas combinaciones son incompatibles) y teoremas de representación (estableciendo correspondencias uno a uno entre subconjuntos de axiomas y familias de explicadores).

Contribuciones Clave
El artículo realiza seis contribuciones primarias:

1. Marco Axiomático: Introduce un marco fundamentado en nueve axiomas para definir explicadores contrafácticos.
2. Teoremas de Imposibilidad: Demuestra que ningún explicador único puede satisfacer ciertas combinaciones de axiomas simultáneamente (por ejemplo, Éxito, No Trivialidad y Centralidad son incompatibles).
3. Caracterización de Conjuntos Compatibles: Caracteriza completamente todos los conjuntos compatibles de axiomas.
4. Teoremas de Representación: Establece correspondencias uno a uno entre subconjuntos específicos de axiomas y cinco familias distintas de explicadores, descubriendo cinco tipos fundamentalmente diferentes de contrafácticos:
   • Razones Necesarias Globales (GNR): Combinaciones de característica-valor que distinguen una clase de todas las demás (satisfacen Centralidad, No Trivialidad).
   • Razones Necesarias Locales Escépticas (SNR): Subconjuntos de una instancia que la distinguen de todas las otras instancias con una decisión diferente (satisfacen Factibilidad, Validez Escéptica).
   • Razones Suficientes Globales (GSR): Combinaciones de característica-valor cuya presencia garantiza una clase diferente (satisfacen Validez Fuerte).
   • Razones Suficientes Locales Escépticas (SSR): Nuevos valores de características que no están en la instancia y que garantizan una decisión diferente (satisfacen Novedad, Validez Fuerte).
   • Razones Suficientes Locales Crédulas (CSR): Combinaciones de característica-valor que distinguen una instancia de alguna instancia con una decisión diferente (satisfacen Novedad, Validez Débil).
5. Taxonomía del Trabajo Existente: Caracteriza formalmente los explicadores existentes dentro de esta taxonomía. El artículo encuentra que casi todos los explicadores locales existentes caen bajo la familia de Razones Suficientes Crédulas (CSR). Los explicadores globales propuestos en el trabajo previo [2] corresponden a Razones Necesarias Globales (GNR). Este análisis revela tres tipos previamente no reconocidos (SNR, GSR, SSR).
6. Análisis de Complejidad: Analiza la complejidad computacional de generar estas explicaciones, distinguiendo entre problemas de decisión (verificar si una explicación es válida) y problemas de búsqueda (generar una explicación).

Resultados

• Clasificación: Los cinco tipos de contrafácticos se dividen en dos formas fundamentales: Razones Necesarias (lo que debe estar ausente para cambiar la decisión) y Razones Suficientes (lo que debe estar presente para cambiar la decisión).
• Existencia y Compacidad:
  • Las razones necesarias (GNR, SNR) y las Razones Suficientes Escépticas (SSR) no están garantizadas a existir para cada consulta.
  • Las Razones Suficientes Crédulas (CSR) y las Razones Suficientes Globales (GSR) están garantizadas a existir.
  • Las razones necesarias son compactas (transmiten el rango completo de cambios mediante un conjunto mínimo de literales), mientras que las razones suficientes son no compactas (enumeran todos los cambios posibles).
• Preferencia Humana: El artículo argumenta que las razones necesarias, cuando existen, se alinean mejor con las preferencias humanas por explicaciones cortas y concisas en comparación con las razones suficientes, que suelen ser numerosas y verbosas.
• Complejidad:
  • Para clasificadores booleanos, decidir si una explicación es válida ($DECIDEEXP$) es $O(n)$ para CSR, SNR y explicadores basados en dispersión, pero es co-NP-completo para GNR, GSR, SSR y explicadores basados en cardinalidad/distancia.
  • Encontrar una explicación ($FINDEXP$) es NP-duro para la mayoría de las familias (incluyendo GNR, CSR, SNR, GSR), aunque puede resolverse con como máximo $n$ llamadas a un oráculo SAT en la mayoría de los casos.

Significancia
El artículo afirma proporcionar el primer marco axiomático para las explicaciones contrafácticas. Su importancia radica en:

1. Rigor Teórico: Pasar de la evaluación empírica a una comparación objetiva y fundamentada de los explicadores basada en los axiomas que satisfacen.
2. Unificación y Descubrimiento: Unificar los explicadores locales existentes bajo la familia CSR mientras se identifican y definen formalmente tres nuevos tipos de contrafácticos (SNR, GSR, SSR) que no habían sido reconocidos previamente.
3. Generalidad Independiente del Modelo: El marco es aplicable a través de diversos entornos y tipos de clasificadores.
4. Base para Trabajos Futuros: Al caracterizar el espacio de posibles explicadores, el marco permite el diseño futuro de explicadores que satisfagan combinaciones específicas de propiedades deseables (por ejemplo, accionabilidad, equidad, diversidad) dentro de un tipo de contrafáctico específico.

Los autores concluyen que, si bien las razones necesarias son teóricamente atractivas por su concisión, las razones suficientes son más robustas en términos de existencia. El marco proporciona las herramientas necesarias para navegar estos compromisos de manera sistemática.