🤖 AI

An XAI View on Explainable ASP: Methods, Systems, and Perspectives

Esta pesquisa fornece uma visão geral guiada por XAI dos métodos e ferramentas de explicação existentes para Programação de Conjuntos de Respostas (Answer Set Programming), mapeando-os para as necessidades do usuário ao mesmo tempo em que identifica lacunas atuais e delineia direções de pesquisas futuras.

Autores originais: Thomas Eiter, Tobias Geibinger, Zeynep G. Saribatur

Publicado 2026-06-11

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Thomas Eiter, Tobias Geibinger, Zeynep G. Saribatur

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você construiu um robô muito inteligente e lógico para resolver um quebra-cabeça complexo. Você dá a ele um conjunto de regras (como uma receita) e ele cospe uma solução. Mas, às vezes, o robô lhe dá uma resposta que o surpreende ou, pior, ele se recusa a dar uma resposta. Você pergunta: "Por que você fez isso?" ou "Por que não consegue resolver isso?".

Este artigo é um guia para fazer essas perguntas a sistemas de Programação de Conjuntos de Respostas (ASP - Answer Set Programming). O ASP é um tipo de "IA Simbólica" que utiliza regras lógicas estritas (como um livro de receitas superpreciso) para resolver problemas. Diferente das "redes neurais" modernas — que são frequentemente caixas pretas onde você insere dados, a mágica acontece e você obtém uma resposta —, o ASP é transparente por natureza porque segue regras claras e escritas.

No entanto, mesmo com regras claras, a lógica pode se emaranhar. Este artigo faz um levantamento das diferentes "ferramentas" e "métodos" que temos para explicar o que o robô está pensando. Os autores, Thomas Eiter, Tobias Geibinger e Zeynep G. Saribatur, organizam essas ferramentas com base em duas perspectivas principais: Local e Global.

Os Dois Tipos de Perguntas

Pense no sistema ASP como um detetive resolvendo um caso.

1. Explicações Locais (O Detetive do "Caso Específico")

A Pergunta: "Eu tenho uma solução específica (um conjunto de respostas específico). Por que este fato é verdadeiro nesta solução?" ou "Por que este fato é falso?".
A Analogia: Imagine que você está olhando para uma foto específica de uma cena de crime. Você pergunta: "Por que o suspeito está segurando um guarda-chuva?". A ferramenta analisa as regras específicas que levaram à presença daquele guarda-chuva na foto.
As Ferramentas: O artigo lista várias formas de fazer isso:
- Árvores de Justificação: Como uma árvore genealógica, mas para a lógica. Ela mostra como um fato "descende" de outros fatos e regras.
- Gráficos de Suporte: Um mapa mostrando quais regras "suportaram" uma decisão.
- Explicações Contrastivas: Isso é como perguntar: "Por que o suspeito usou um guarda-chuva em vez de um chapéu?". A ferramenta explica a diferença entre o resultado real e um cenário hipotético de "e se".

2. Explicações Globais (O Detetive do "Panorama Geral")

A Pergunta: "Por que o robô nunca dá uma resposta?" ou "Por que o robô sempre inclui este fato em todas as suas soluções?".
A Analogia: Imagine que você está olhando para o livro de regras inteiro do detetive. Você pergunta: "Por que é impossível resolver este caso?" ou "Por que o suspeito é sempre culpado, não importa o quê?".
As Ferramentas:
- Depuração (Debugging): Se o robô trava (não há solução), estas ferramentas atuam como um mecânico encontrando a peça quebrada do motor. Elas procuram por "Conjuntos Minimamente Insatisfatíveis" — o menor grupo de regras que está conflitando entre si e causando a falha.
- Abstração: Isso é como dar um zoom out em um mapa. Se o mapa está muito poluído para enxergar o problema, você desfoca as ruas pequenas e foca apenas nas rodovias. Isso ajuda a encontrar a razão central pela qual o sistema está travado.

O Estado Atual da Caixa de Ferramentas

O artigo atua como uma revisão do "arsenal" disponível para os usuários de ASP. Aqui está o que eles descobriram:

Temos muitas ferramentas para "Por que X é verdadeiro?" Existem muitas formas de explicar por que um fato específico aparece em uma solução (Local).
Nos faltam ferramentas para "Por que a solução é ótima?" Se o robô escolhe a "melhor" solução com base em algumas preferências, explicar por que ela é a melhor é atualmente muito difícil.
A "Lacuna de Linguagem": Muitas dessas ferramentas de explicação funcionam bem em regras simples. Mas problemas do mundo real frequentemente utilizam recursos avançados como "disjunção" (A ou B), "agregados" (contar coisas) ou "restrições fracas" (preferências). O artigo observa que muitas ferramentas de explicação ainda não conseguem lidar com esses recursos avançados. É como ter uma chave de fenda que só serve para parafusos pequenos, mas sua máquina possui parafusos gigantes.
A "Divisão de Sistemas": Você geralmente tem que escolher entre uma ferramenta que explica uma solução específica (Local) ou uma ferramenta que explica por que todo o sistema está quebrado (Global). Raramente se encontra uma ferramenta que faça ambos de forma integrada.

O Elemento Humano (Aspectos Cognitivos)

Os autores também apontam que não basta ter a resposta técnica; a explicação deve ser compreensível para um ser humano.

Excesso de Informação: Se você tem um programa massivo com milhares de regras, mostrar ao usuário toda a "árvore genealógica" da lógica é esmagador. O artigo sugere que precisamos de melhores formas de "resumir" ou "abstrair" essas explicações, talvez ocultando os detalhes irrelevantes e mostrando apenas a lógica central.
Conversando com Não Especialistas: A maioria das ferramentas gera gráficos técnicos ou listas de regras. O artigo sugere o uso de Modelos de Linguagem de Grande Escala (LLMs) (como a IA com a qual você está falando agora) para traduzir essas "linguagens de robôs" técnicas para o inglês comum (ou linguagem natural). Imagine o robô dizendo: "Eu escolhi o guarda-chuva porque estava chovendo", em vez de mostrar um gráfico complexo de regras lógicas.

A Conclusão

Este artigo é um mapa do panorama atual da "ASP Explicável". Ele nos diz:

Somos bons em explicar decisões específicas e locais.
Estamos lutando para explicar por que sistemas falham completamente ou por que escolhem a "melhor" opção entre várias.
Precisamos de melhores ferramentas que possam lidar com tipos de regras complexas do mundo real.
Precisamos tornar o processo amigável ao ser humano, resumindo a lógica complexa e traduzindo-a para a linguagem natural.

Os autores concluem que, embora tenhamos uma rica variedade de métodos, nenhum único instrumento atende a todas as necessidades ainda. O futuro da explicação em ASP reside em construir pontes entre o raciocínio lógico complexo e a compreensão humana, talvez utilizando novas tecnologias de IA para atuar como tradutores.

Resumo Técnico: Uma Visão de XAI sobre ASP Explicável

Declaração do Problema

A Programação de Conjuntos de Respostas (ASP - Answer Set Programming) é um paradigma proeminente de raciocínio declarativo em IA simbólica, valorizado por seu formalismo baseado em regras que é inerentemente mais interpretável do que abordagens subsimbólicas como redes neurais. Apesar disso, a natureza de "caixa preta" das saídas dos solvers permanece como uma barreira à adoção na indústria e na sociedade, particularmente à medida que a IA Explicável (XAI) ganha destaque. Os usuários frequentemente lutam para compreender os mecanismos de raciocínio por trás de resultados específicos do solver (conjuntos de respostas) ou o comportamento geral de um programa (por exemplo, por que não existe uma solução).

Embora levantamentos anteriores (ex: Fandinno e Schulz, 2019) tenham catalogado técnicas de explicação específicas, eles frequentemente focam em cenários estreitos (ex: "por que o átomo $a$ está no conjunto de respostas $I$ ?"). Há uma carência de uma visão geral abrangente e centrada no usuário que mapeie diversas perguntas de usuários para abordagens teóricas existentes, identifique lacunas na cobertura atual e alinhe as capacidades de explicação da ASP com a distinção mais ampla da XAI entre explicações locais e globais.

Metodologia

Os autores conduzem um levantamento das abordagens de explicação de ASP guiados por uma perspectiva de XAI. A metodologia envolve:

Categorização: Estruturar o panorama das explicações em Explicações Locais (relativas a um conjunto de respostas específico computado) e Explicações Globais (relativas ao comportamento geral do programa ou ao conjunto de todos os conjuntos de respostas).
Análise Orientada por Perguntas: Identificar uma lista abrangente de perguntas típicas de usuários (Q1–Q8) que variam de "Por que o literal $\ell$ está em $I$ ?" para "Por que o programa não possui conjuntos de respostas?" e "Por que $I$ é ótimo?".
Mapeamento e Redução: Analisar como métodos existentes (rotulados como M1–M15) e sistemas (ex: xASP2, xclingo, s(CASP), UCOREXPLAIN) abordam essas perguntas. Os autores também identificam onde as perguntas podem ser reduzidas a outros problemas solucionáveis (ex: reduzir "por que $a \in I$ " para "por que um programa modificado é insatisfatível").
Identificação de Lacunas: Avaliar a cobertura das ferramentas atuais em relação aos recursos da linguagem (disjunção, agregados, regras de escolha, restrições fracas) e às necessidades do usuário (escalabilidade, carga cognitiva, interação).

Principais Contribuições

O artigo fornece uma taxonomia estruturada de métodos de explicação de ASP e destaca as seguintes contribuições específicas:

1. Taxonomia de Tipos de Explicação

Explicações Locais: Focam em derivar a presença ou ausência de átomos em um conjunto de respostas específico $I$ $I$ .
- Justificativas (M1–M4): Inclui justificativas offline (grafos de derivação), justificativas baseadas em ABA (árvores de argumentação), justificativas causais (termos algébricos) e justificativas baseadas em regras a partir de traços do solver.
- Justificativas Estendidas (M5): Subconjuntos insatisfatíveis unitariamente prováveis (1-PUS) usados no UCOREXPLAIN para encontrar conjuntos mínimos de regras que explicam um literal.
- Grafos de Suporte (M6): Usados pelo xclingo, ligando átomos a regras que os suportam, permitindo anotações em linguagem natural.
- Testemunhas (M7): Derivações lógicas passo a passo independentes de solver.
- Explicações Contrastivas (M8): Explica por que um conjunto de átomos $E$ está em $I$ em vez de um conjunto $F$ , usando contrafatuais (Eiter et al., 2023).
Explicações Globais: Focam no comportamento do programa sem um conjunto de respostas específico.
- Proveniência de "Por que-não" (M9): Identifica modificações de programa necessárias para alterar valores de verdade.
- Computação Top-down (M10): Árvores de justificativa direcionadas a objetivos (ex: s(CASP)).
- Sistemas de Prova (M11): Cálculos para implicação cética (por que um átomo está em todo ou em nenhum conjunto de respostas).
- Depuração/Debugging (M12–M14): Técnicas como codificações meta (spock), Conjuntos Mínimos Insatisfatíveis (MUS) e passos interativos para explicar inconsistências.
- Abstração (M15):* Técnicas de sobre-aproximação para "dar zoom" em partes insatisfatíveis ao omitir detalhes irrelevantes.

2. Análise de Perguntas de Usuários (Q1–Q8)

O artigo mapeia consultas específicas de usuários para os métodos disponíveis:

Q1 (Por que $\ell \in I$ ?): Coberta pela maioria dos métodos locais (M1–M7).
Q2 (Por que $\ell \in I$ mas $\ell' \notin I$ ?): Abordada por explicações contrastivas (M8) ou redução à insatisfatibilidade.
Q3 (Por que $I$ é ótimo?): Atualmente carece de suporte nativo; redutível à explicação da não existência de um melhor conjunto de respostas.
Q4–Q6 (Existência/Não-existência global): Abordadas por proveniência, sistemas de prova e métodos de depuração/abstração.
Q7–Q8 (Comportamento Quantitativo/Coletivo): Identificadas como lacunas. As ferramentas atuais não conseguem explicar nativamente por que uma propriedade ocorre em uma coleção de conjuntos de respostas ou por que um programa tem um número específico de conjuntos de respostas.

3. Análise de Suporte de Ferramentas e Linguagem

Os autores avaliam as ferramentas existentes em relação às extensões da linguagem ASP (Tabela 2):

Disjunção: Pouco suportada; a maioria das ferramentas (LABAS, s(CASP), xASP2) não lida bem com regras disjuntivas devido à complexidade na geração de explicações.
Regras de Escolha e Agregados: Parcialmente suportados (ex: xASP2, xclingo, UCOREXPLAIN), mas frequentemente com restrições.
Restrições Fracas: Geralmente não suportadas para fins de explicação, sendo o DWASP uma exceção notável para depuração.
Dependência de Solver: Existe uma mistura de abordagens dependentes de solver (ex: xclingo, s(CASP)) e independentes de solver (ex: LABAS, Justificativas Causais).

Resultados e Descobertas

Cobertura: A maioria das perguntas de usuários pode ser respondida nativamente ou por redução à insatisfatibilidade (explicar por que um programa não possui conjuntos de respostas).
Limitações:
- Lacunas de Linguagem: Disjunção e restrições fracas permanecem como obstáculos significativos para as ferramentas de explicação.
- Escalabilidade: A maioria dos métodos é post-hoc e opera em programas não-grounded, levando a uma alta complexidade computacional para problemas de grande escala.
- Carga Cognitiva: Explicações para inconsistências (depuração) são frequentemente técnicas (conjuntos de regras) e difíceis de interpretar para não especialistas.
- Cenários Ausentes: Nenhum método atual aborda perguntas relativas à quantidade de conjuntos de respostas ou propriedades que ocorrem em múltiplos conjuntos de respostas simultaneamente.
Interoperabilidade: Existe uma "divisão de sistemas" onde os usuários devem escolher entre ferramentas de explicação local ou global, carecendo de um framework unificado.

Significância e Direções Futuras

O artigo posiciona-se como um guia tanto para pesquisadores quanto para usuários não especialistas de ASP, visando preencher a lacça entre as capacidades teóricas de explicação e as necessidades práticas dos usuários.

Significância:

Estabelece um framework de XAI unificado para ASP, distinguindo entre raciocínio local e global.
Destaca que explicar a inconsistência (insatisfatibilidade) é um passo crítico para abordagens de explicação universais, já que muitas perguntas reduzem-se a esta forma.
Identifica a necessidade de explicações concisas e interpretáveis, sugerindo que a abstração e o raciocínio passo a passo são vitais para reduzir o esforço cognitivo.

Direções de Pesquisa Futura:

Aspectos Cognitivos: Desenvolver métodos para apresentar inconsistências (ex: via "lémas" ocultos ou cliques em coloração de grafos) de uma forma compreensível para não especialistas.
Interação: Integrar Grandes Modelos de Linguagem (LLMs) para traduzir explicações técnicas (ex: MUS) em linguagem natural e para processar consultas de usuários.
Escalabilidade: Incorporar técnicas de explicação diretamente nos solvers para lidar com programas não-grounded e problemas de larga escala.
Novos Tipos de Perguntas: Desenvolver soluções dedicadas para perguntas relativas à quantidade de conjuntos de respostas e comportamentos coletivos (Q7, Q8).

Os autores concluem que, embora exista um rico cenário de métodos, nenhuma ferramenta única atende a todas as necessidades, e o trabalho futuro deve abordar o suporte de linguagem, a escalabilidade e a interpretação cognitiva do raciocínio lógico complexo.