🤖 AI

An XAI View on Explainable ASP: Methods, Systems, and Perspectives

Esta encuesta proporciona una visión general guiada por XAI de los métodos y herramientas de explicación existentes para la Programación de Conjuntos de Respuestas, mapeándolos con las necesidades del usuario al tiempo que identifica las brechas actuales y esboza futuras direcciones de investigación.

Autores originales: Thomas Eiter, Tobias Geibinger, Zeynep G. Saribatur

Publicado 2026-06-11

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Thomas Eiter, Tobias Geibinger, Zeynep G. Saribatur

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que has construido un robot muy inteligente y lógico para resolver un rompecabezas complejo. Le das un conjunto de reglas (como una receta) y este te entrega una solución. Pero, a veces, el robot te da una respuesta que te sorprende o, peor aún, se niega a darte una respuesta. Tú preguntas: "¿Por qué hiciste eso?" o "¿Por qué no puedes resolver esto?".

Este artículo es una guía para hacer esas preguntas a los sistemas de Programación de Conjuntos de Respuestas (ASP, por sus siglas en inglés). El ASP es un tipo de "IA Simbólica" que utiliza reglas lógicas estrictas (como un libro de recetas súper preciso) para resolver problemas. A diferencia de las "IA de redes neuronales" modernas, que suelen ser cajas negras (metes datos, ocurre la magia y obtienes una respuesta), el ASP es transparente por naturaleza porque sigue reglas claras y escritas.

Sin embargo, incluso con reglas claras, la lógica puede enredarse. Este artículo analiza las diferentes "herramientas" y "métodos" que tenemos para explicar qué está pensando el robot. Los autores, Thomas Eiter, Tobias Geibinger y Zeynep G. Saribatur, organizan estas herramientas basándose en dos perspectivas principales: Local y Global.

Los dos tipos de preguntas

Imagina que el sistema ASP es un detective resolviendo un caso.

1. Explicaciones Locales (El detective del "caso específico")

La pregunta: "Tengo una solución específica (un conjunto de respuestas específico). ¿Por qué este hecho concreto es cierto en esta solución?" o "¿Por qué este hecho es falso?".
La analogía: Imagina que estás mirando una foto específica de la escena de un crimen. Preguntas: "¿Por qué el sospechoso sostiene un paraguas?". La herramienta analiza las reglas específicas que llevaron a que ese paraguas estuviera en la foto.
Las herramientas: El artículo enumera varias formas de hacer esto:
- Árboles de Justificación: Como un árbol genealógico, pero para la lógica. Muestra cómo un hecho "desciende" de otros hechos y reglas.
- Grafos de Soporte: Un mapa que muestra qué reglas "soportaron" una decisión.
- Explicaciones Contrastivas: Esto es como preguntar: "¿Por qué el sospechoso usó un paraguas en lugar de un sombrero?". La herramienta explica la diferencia entre el resultado actual y un escenario hipotético de "qué pasaría si".

2. Explicaciones Globales (El detective de la "visión general")

La pregunta: "¿Por qué el robot nunca da una respuesta?" o "¿Por qué el robot siempre incluye este hecho en todas sus soluciones?".
La analogía: Imagina que estás mirando el libro de reglas completo del detective. Preguntas: "¿Por qué es imposible resolver este caso?" o "¿Por qué el sospechoso siempre es culpable, sin importar qué?".
Las herramientas:
- Depuración (Debugging): Si el robot falla (no hay solución), estas herramientas actúan como un mecánico que encuentra la pieza rota del motor. Buscan "Conjuntos Mínimos Insatisfacibles": el grupo más pequeño de reglas que están luchando entre sí y causando el fallo.
- Abstracción: Esto es como hacer zoom hacia afuera en un mapa. Si el mapa está demasiado saturado para ver el problema, difuminas las calles pequeñas y solo miras las autopistas. Esto ayuda a encontrar la razón fundamental por la cual el sistema está estancado.

El estado actual de la caja de herramientas

El artículo actúa como una revisión del "cobertizo de herramientas" disponible para los usuarios de ASP. Esto es lo que encontraron:

Tenemos muchas herramientas para "¿Por qué es X verdadero?": Hay muchas formas de explicar por qué un hecho específico aparece en una solución (Local).
Nos faltan herramientas para "¿Por qué la solución es óptima?": Si el robot elige la "mejor" solución basada en algunas preferencias, explicar por qué es la mejor es actualmente muy difícil.
La "Brecha del Lenguaje": Muchas de estas herramientas de explicación funcionan bien con reglas simples. Pero los problemas del mundo real suelen utilizar funciones avanzadas como la "disyunción" (A o B), "agregados" (contar cosas) o "restricciones débiles" (preferencias). El artículo señala que muchas herramientas de explicación aún no pueden manejar estas funciones avanzadas. Es como tener una llave inglesa que solo sirve para tornillos pequeños, pero tu máquina tiene tornillos gigantes.
La "División del Sistema": A menudo tienes que elegir entre una herramienta que explica una solución específica (Local) o una herramienta que explica por qué todo el sistema está roto (Global). Rara vez obtienes una herramienta que haga ambas cosas de forma fluida.

El elemento humano (Aspectos cognitivos)

Los autores también señalan que tener la respuesta técnica no es suficiente; la explicación debe ser comprensible para un humano.

Demasiada información: Si tienes un programa masivo con miles de reglas, mostrarle al usuario todo el "árbol genealógico" de la lógica es abrumador. El artículo sugiere que necesitamos mejores formas de "resumir" o "abstraer" estas explicaciones, quizás ocultando los detalles aburridos y mostrando solo la lógica central.
Hablar con no expertos: La mayoría de las herramientas emiten gráficos técnicos o listas de reglas. El artículo sugiere utilizar Modelos de Lenguaje Extensos (LLM) (como la IA con la que estás hablando ahora) para traducir estos "lenguajes de robot" técnicos al español sencillo. Imagina que el robot dice: "Elegí el paraguas porque estaba lloviendo", en lugar de mostrar un gráfico complejo de reglas lógicas.

La conclusión

Este artículo es un mapa del panorama actual de la "ASP explicable". Nos dice que:

Somos buenos explicando decisiones específicas y locales.
Estamos luchando por explicar por qué los sistemas fallan por completo o por qué eligen la "mejor" opción entre muchas.
Necesitamos mejores herramientas que puedan manejar tipos de reglas complejos del mundo real.
Necesitamos que sea amigable para el humano, resumiendo la lógica compleja y traduciéndola a lenguaje natural.

Los autores concluyen que, aunque tenemos una gran variedad de métodos, todavía no existe una única herramienta que se adapte a todas las necesidades. El futuro de la explicación en ASP reside en cerrar la brecha entre el razonamiento lógico complejo y la comprensión humana, quizás utilizando nuevas tecnologías de IA para actuar como traductores.

Resumen Técnico: Una visión de la XAI sobre la ASP explicable

Declaración del Problema

La Programación de Conjuntos de Respuestas (ASP, por sus siglas en inglés) es un destacado paradigma de razonamiento declarativo en la IA simbólica, valorado por su formalismo basado en reglas que es intrínsecamente más interpretable que los enfoques subsimbólicos como las redes neuronales. A pesar de esto, la naturaleza de "caja negra" de las salidas de los solvers sigue siendo una barrera para su adopción en la industria y la sociedad, particularmente a medida que la IA Explicable (XAI) gana relevancia. Los usuarios suelen tener dificultades para comprender los mecanismos de razonamiento detrás de resultados específicos del solver (conjuntos de respuestas) o el comportamiento general de un programa (por ejemplo, por qué no existe una solución).

Si bien encuestas anteriores (p. ej., Fandinno y Schulz, 2019) han catalogado técnicas de explicación específicas, a menudo se centran en entornos estrechos (p. ej., "¿por qué el átomo $a$ está en el conjunto de respuestas $I$ ?"). Existe una falta de una visión integral, centrada en el usuario, que mapee diversas preguntas de usuario con los enfoques teóricos y herramientas existentes, identifique las brechas en la cobertura actual y alinee las capacidades de explicación de ASP con la distincción más amplia de la XAI entre explicaciones locales y globales.

Metodología

Los autores llevan a cabo una encuesta de los enfoques de explicación de ASP guiada por una perspectiva de XAI. La metodología consiste en:

Categorización: Estructurar el panorama de las explicaciones en Explicaciones Locales (relativas a un conjunto de respuestas computado específico) y Explicaciones Globales (relativas al comportamiento general del programa o al conjunto de todos los conjuntos de respuestas).
Análisis Basado en Preguntas: Identificar una lista exhaustiva de preguntas típicas de usuario (Q1–Q8) que van desde "¿Por qué el literal $\ell$ está en $I$ ?" hasta "¿Por qué el programa no tiene conjuntos de respuestas?" y "¿Por qué $I$ es óptimo?".
Mapeo y Reducción: Analizar cómo los métodos (etiquetados como M1–M15) y sistemas existentes (p. ej., xASP2, xclingo, s(CASP), UCOREXPLAIN) abordan estas preguntas. Los autores también identifican dónde las preguntas pueden reducirse a otros problemas resolubles (p. ej., reducir "¿por qué $a \in I$ " a "por qué un programa modificado es insatisfacible").
Identificación de Brechas: Evaluar la cobertura de las herramientas actuales frente a las características del lenguaje (disyunción, agregados, reglas de elección, restricciones débiles) y las necesidades del usuario (escalabilidad, carga cognitiva, interacción).

Contribuciones Clave

El artículo proporciona una taxonomía estructurada de los métodos de explicación de ASP y destaca las siguientes contribaciones específicas:

1. Taxonomía de Tipos de Explicación

Explicaciones Locales: Se centran en derivar la presencia o ausencia de átomos en un conjunto de respuestas $I$ $I$ específico.
- Justificaciones (M1–M4): Incluye justificaciones offline (grafos de derivación), justificaciones basadas en ABA (árboles de argumentación), justificaciones causales (términos algebraicos) y justificaciones basadas en reglas de trazas de solver.
- Justificaciones Extendidas (M5): Subconjuntos insatisfactibles demostrables por unidad (1-PUS) utilizados en UCOREXPLAIN para encontrar conjuntos mínimos de reglas que explican un literal.
- Grafos de Soporte (M6): Utilizados por xclingo, vinculando átomos con reglas que los sustentan, permitiendo anotaciones en lenguaje natural.
- Testigos (M7): Derivaciones lógicas paso a paso independientes del solver.
- Explicaciones Contrastivas (M8): Explican por qué un conjunto de átomos $E$ está en $I$ en lugar de un conjunto $F$ , utilizando contrafácticos (Eiter et al., 2023).
Explicaciones Globales: Se centran en el comportamiento del programa sin un conjunto de respuestas específico.
- Procedencia de "Por qué no" (M9): Identifica las modificaciones del programa necesarias para cambiar los valores de verdad.
- Computación Top-down (M10): Árboles de justificación dirigidos por objetivos (p. ej., s(CASP)).
- Sistemas de Prueba (M11): Cálculos para la implicación escéptica (por qué un átomo está en cada uno o en ningún conjunto de respuestas).
- Depuración (Debugging) (M12–M14): Técnicas como codificaciones meta (spock), Conjuntos Mínimos Insatisfactibles (MUS) y pasos interactivos para explicar inconsistencias.
- Abstracción (M15): Técnicas de sobre-aproximación para "hacer zoom" en las partes insatisfactibles omitiendo detalles irrelevantes.

2. Análisis de Preguntas de Usuario (Q1–Q8)

El artículo mapea consultas de usuario específicas con los métodos disponibles:

Q1 (¿Por qué $\ell \in I$ ?): Cubierto por la mayoría de los métodos locales (M1–M7).
Q2 (¿Por qué $\ell \in I$ pero $\ell' \notin I$ ?): Abordado por explicaciones contrastivas (M8) o reducción a la insatisfacibilidad.
Q3 (¿Por qué $I$ es óptimo?): Actualmente carece de soporte nativo; reducible a explicar la no existencia de un mejor conjunto de respuestas.
Q4–Q6 (Existencia/No existencia global): Abordado por procedencia, sistemas de prueba y métodos de depuración/abstracción.
Q7–Q8 (Comportamiento cuantitativo/colectivo): Identificado como brechas. Las herramientas actuales no pueden explicar nativamente por qué una propiedad se cumple en una colección de conjuntos de respuestas o por qué un programa tiene un número específico de conjuntos de respuestas.

3. Análisis de Soporte de Lenguaje y Herramientas

Los autores evalúan las herramientas existentes frente a las extensiones del lenguaje ASP (Tabla 2):

Disyunción: Poco soportada; la mayoría de las herramientas (LABAS, s(CASP), xASP2) no manejan bien las reglas disyuntivas debido a la complejidad en la generación de explicaciones.
Reglas de Elección y Agregados: Soporte parcial (p. ej., xASP2, xclingo, UCOREXPLAIN), pero a menudo con restricciones.
Restricciones Débiles: Generalmente no soportadas para fines de explicación, siendo DWASP una notable excepción para la depuración.
Dependencia del Solver: Existe una mezcla de enfoques dependientes del solver (p. ej., xclingo, s(CASP)) y de independencia del solver (p. ej., LABAS, Justificaciones Causales).

Resultados y Hallazgos

Cobertura: La mayoría de las preguntas de usuario pueden responderse de forma nativa o mediante la reducción a la insatisfacibilidad (explicar por qué un programa no tiene conjuntos de respuestas).
Limitaciones:
- Brechas de Lenguaje: La disyunción y las restricciones débiles siguen siendo obstáculos significativos para las herramientas de explicación.
- Escalabilidad: La mayoría de los métodos son post-hoc y operan sobre programas ground (instanciados), lo que conduce a una alta complejidad computacional para problemas grandes.
- Carga Cognitiva: Las explicaciones para las inconsistencias (depuración) son a menudo técnicas (conjuntos de reglas) y difíciles de interpretar para no expertos.
- Escenarios Faltantes: Ningún método actual aborda preguntas relativas a la cantidad de conjuntos de respuestas o propiedades que se mantienen a través de múltiples conjuntos de respuestas simultáneamente.
Interoperabilidad: Existe una "división de sistemas" donde los usuarios deben elegir entre herramientas de explicación local o global, careciendo de un marco unificado.

Significado y Direcciones Futuras

El artículo posiciona su trabajo como una guía tanto para investigadores como para usuarios no expertos de ASP, con el objetivo de cerrar la brecha entre las capacidades teóricas de explicación y las necesidades prácticas de los usuarios.

Significado:

Establece un marco de XAI unificado para ASP, distinguiendo entre el razonamiento local y el global.
Destaca que explicar la inconsistencia (insatisfacibilidad) es un paso crítico para los enfoques de explicación universales, ya que muchas preguntas se reducen a esta forma.
Identifica la necesidad de explicaciones concisas e interpretables, sugiriendo que la abstracción y el razonamiento paso a paso son vitales para reducir el esfuerzo cognitivo.

Direcciones de Investigación Futura:

Aspectos Cognitivos: Desarrollar métodos para presentar inconsistencias (p. ej., mediante "lemas" ocultos o cliques en el coloreado de grafos) de una manera comprensible para no expertos.
Interacción: Integrar Modelos de Lenguaje Grande (LLMs) para traducir explicaciones técnicas (p. ej., MUS) a lenguaje natural y para procesar las consultas de los usuarios.
Escalabilidad: Incorporar técnicas de explicación directamente en los solvers para manejar programas no-ground y problemas de gran escala.
Nuevos Tipos de Preguntas: Desarrollar soluciones dedicadas para preguntas relacionadas con la cantidad de conjuntos de respuestas y comportamientos colectivos (Q7, Q8).

Los autores concluyen que, si bien existe un rico panorama de métodos, ninguna herramienta única satisface todas las necesidades, y el trabajo futuro debe abordar el soporte del lenguaje, la escalabilidad y la interpretación cognitiva del razonamiento lógico complejo.