ReasonX: Declarative Reasoning on Explanations

Each language version is independently generated for its own context, not a direct translation.

Imagine que você pediu um empréstimo a um banco e foi negado. Você pergunta ao sistema de Inteligência Artificial (IA) do banco: "Por que não?". A IA responde com uma frase complicada e cheia de números que ninguém entende. Isso é o problema dos modelos de "caixa preta": eles tomam decisões, mas não explicam o "porquê" de forma clara.

O artigo que você leu apresenta uma ferramenta chamada REASONX. Pense nela como um tradutor inteligente e um detetive que consegue abrir essa caixa preta e explicar as regras do jogo de forma que qualquer pessoa possa entender, interagir e até questionar.

Aqui está uma explicação simples, usando analogias do dia a dia:

1. O Problema: A Caixa Preta e o "Porquê"

A maioria das ferramentas atuais de explicação de IA funciona como um menu de restaurante estático. Você pede o prato (a explicação), ele vem pronto, e pronto. Se você quiser mudar algo, tem que pedir um prato novo do zero. Elas não conversam com você.

O REASONX é diferente. Ele é como um chef de cozinha que está na sua mesa. Você pode pedir: "Por que meu empréstimo foi negado?" e ele explica. Mas você também pode dizer: "E se eu tivesse ganho mais R$ 500 por mês?", e ele recalcula na hora. Ou ainda: "E se eu não tivesse esse carro?", e ele ajusta a resposta.

2. A Magia: O "Jogo de Construção" de Regras

O segredo do REASONX é que ele transforma a lógica complexa da IA em regras matemáticas simples (como equações de álgebra do ensino médio, mas sem o medo).

A Analogia do Labirinto: Imagine que a decisão da IA é um labirinto gigante. O REASONX não apenas mostra onde você estava, mas desenha o mapa completo do labirinto.
O Poder da Pergunta: Com o REASONX, você não está apenas olhando para o mapa. Você pode dizer: "Desenhe um caminho onde eu mude apenas uma coisa para sair do labirinto (conseguir o empréstimo)". O sistema calcula exatamente qual é essa mudança mínima.

3. O Diferencial: "O Que Se" (What-If) e Conhecimento Humano

A grande inovação é que o REASONX permite que você insira senso comum nas perguntas.

Exemplo: Você pode dizer ao sistema: "Eu sei que a minha idade não pode mudar (é imutável), mas eu posso aumentar meu salário". O sistema respeita essa regra e só busca soluções onde a idade fica igual e o salário sobe.
Analogia: É como se você estivesse jogando um jogo de tabuleiro e dissesse ao computador: "Não posso mover a peça de 'idade', mas posso mover a de 'renda'". O REASONX entende essas limitações e só te dá respostas que são possíveis na vida real.

4. A Interatividade: Uma Conversa, não um Monólogo

Outras ferramentas são como um jornal: você lê o que está escrito. O REASONX é como uma conversa no WhatsApp.

Você pergunta.
Ele responde.
Você diz: "Espera, isso não faz sentido, tente de outro jeito".
Ele ajusta e responde de novo.
Você pode até pegar a resposta de uma pergunta e usá-la como base para a próxima. É um fluxo contínuo de informação.

5. Viés e Justiça: O Detetive de Preconceito

O artigo também mostra como a ferramenta pode ajudar a descobrir se a IA é preconceituosa.

Analogia: Imagine que você está testando dois juízes diferentes. O REASONX permite perguntar: "Se eu fosse uma mulher, a decisão mudaria?" ou "Se eu fosse de outra raça?".
Ele consegue cruzar as regras de diferentes modelos e mostrar: "Olha, o Modelo A usa uma regra justa, mas o Modelo B está usando a cor da pele para decidir, mesmo que ambos pareçam funcionar bem". Isso ajuda a identificar injustiças que passariam despercebidas.

6. O Futuro: Do "Código" para a "Conversa Natural"

Os autores imaginam um futuro onde você não precisa digitar comandos técnicos. Você poderia simplesmente falar com a IA: "Por que negaram meu crédito?" e ela responderia em linguagem natural, mas com a precisão matemática de trás de cena. O REASONX é o "cérebro" que já faz os cálculos perfeitos; o próximo passo é dar a ele uma "boca" que fale a nossa língua perfeitamente.

Resumo Final

O REASONX é uma ferramenta que transforma a IA de um "oráculo misterioso" em um parceiro transparente.

Ele traduz regras complexas em linguagem simples.
Ele respeita as suas limitações (o que você pode ou não mudar).
Ele conversa com você, permitindo que você explore cenários ("E se...?").
Ele vigia para garantir que as decisões não sejam injustas ou preconceituosas.

Em vez de apenas aceitar um "não" da máquina, o REASONX te dá as ferramentas para entender o "porquê" e descobrir exatamente o que fazer para transformar esse "não" em um "sim".

Each language version is independently generated for its own context, not a direct translation.

Título: REASONX: Raciocínio Declarativo sobre Explicações

Autores: Laura State, Salvatore Ruggieri e Franco Turini.
Área: Inteligência Artificial Neurosimbólica (Neurosymbolic AI) e IA Explicável (XAI).

1. O Problema

A aceitação e a confiança em aplicações de Inteligência Artificial (IA) são frequentemente prejudicadas pela opacidade e complexidade dos modelos de Aprendizado de Máquina (ML). Embora o campo da IA Explicável (XAI) tenha desenvolvido métodos para entender como os modelos tomam decisões, as abordagens atuais apresentam várias limitações:

Explicações puramente descritivas: A maioria das ferramentas foca em explicar por que uma previsão ocorreu para uma instância específica, mas não suporta bem o raciocínio declarativo sobre a lógica da decisão.
Falta de interatividade e abstração: As ferramentas atuais geralmente exigem instâncias totalmente especificadas (todos os valores de características definidos) e não permitem que os usuários definam condições complexas, conhecimento de fundo ou realizem análises do tipo "e se" (what-if) de forma iterativa.
Integração insuficiente de conhecimento simbólico: Há uma dificuldade em incorporar conhecimento de domínio, restrições de viabilidade ou regras de senso comum diretamente no processo de geração de explicações.
Incapacidade de lidar com instâncias subespecificadas: Poucos métodos conseguem raciocinar sobre conjuntos de instâncias ou características parciais (ex: "idade > 20" em vez de "idade = 25").

2. Metodologia

O REASONX é uma ferramenta proposta para superar essas limitações, baseada em uma abordagem neurosimbólica que combina modelos de ML (via árvores de decisão) com raciocínio lógico formal.

Arquitetura e Fundamentos Teóricos

Álgebra de Operadores sobre Restrições Lineares: O núcleo da metodologia é uma álgebra fechada de operadores definida sobre conjuntos de restrições lineares. Os usuários expressam consultas (queries) usando esta álgebra, permitindo a composição livre de operadores.
Camadas do Sistema:
1. Camada Python (Interface do Usuário): Próxima ao analista de dados. Responsável por carregar modelos (ou árvores de decisão substitutas/surrogate), definir instâncias, especificar restrições de conhecimento de fundo e gerar as consultas na álgebra.
2. Camada CLP(R) (Constraint Logic Programming over Reals): Implementada em SWI-Prolog. Atua como um meta-interpretador que avalia as expressões da álgebra. Utiliza Programação em Lógica com Restrições para resolver problemas de satisfabilidade e otimização.
Modelos Substitutos (Surrogate Models): O sistema raciocina sobre Árvores de Decisão (DTs). Estas podem ser o próprio modelo de ML (se for uma DT) ou árvores substitutas treinadas globalmente ou localmente para aproximar modelos "caixa-preta" (como Redes Neurais ou XGBoost). O caminho da raiz até uma folha em uma DT é codificado como uma conjunção de restrições lineares.

Tipos de Explicações Suportadas

O REASONX gera explicações baseadas em regras e exemplos contrastivos, definidos como consultas na álgebra:

Explicações Factuais: Regras que justificam uma previsão atual (ex: "Se $x_1 > 5$ e $x_2 < 10$ , então Classe A").
Explicações Contrastivas: Instâncias ou regras que mostram o que precisaria mudar na entrada para obter um resultado diferente (ex: "Se $x_1$ fosse 6, a classe seria B").
Explicações Mínimas Contrastivas: Otimização da distância entre a instância factual e a instância contrastiva (usando normas L1 ou L∞) para encontrar a mudança mais "barata" ou realista.
Instâncias Subespecificadas: O sistema pode raciocinar sobre conjuntos de dados onde algumas características são variáveis ou intervalos (ex: "idade $\ge$ 30"), permitindo explicações para subpopulações inteiras.

Integração de Conhecimento e Interatividade

Restrições de Viabilidade: Os usuários podem impor restrições sobre quais características podem mudar (imutáveis), como mudar (relações funcionais) e limites de domínio (ex: idade entre 0 e 120).
Raciocínio Temporal e Multi-Modelo: É possível comparar explicações da mesma instância em diferentes momentos (modelos re-treinados) ou entre diferentes modelos de ML, encontrando interseções de regras válidas para ambos.

3. Contribuições Principais

Álgebra de Consultas Fechada: Introdução de uma álgebra formal de operadores sobre restrições lineares que permite a composição de consultas complexas, onde a resposta de uma consulta pode ser usada como entrada para outra.
Ferramenta REASONX: Desenvolvimento de um sistema de duas camadas (Python + CLP) que implementa essa álgebra, oferecendo uma interface amigável para desenvolvedores de ML e um motor de raciocínio simbólico robusto.
Capacidade de Raciocínio sobre Instâncias Subespecificadas: Diferenciação única em relação a outras ferramentas XAI, permitindo a geração de explicações para conjuntos de dados definidos por intervalos ou restrições parciais, não apenas pontos fixos.
Abordagem Neurosimbólica Prática: Demonstração de como integrar modelos de ML (neuro) com raciocínio lógico simbólico (símbolo) para gerar explicações que são tanto interpretáveis quanto matematicamente fundamentadas.
Validação Quantitativa e Qualitativa: Comparação com ferramentas de ponta (DiCE, ANCHORS) demonstrando superioridade na geração de exemplos contrastivos mais próximos da instância original e na capacidade de lidar com restrições complexas.

4. Resultados e Avaliação

Os autores realizaram experimentos em conjuntos de dados tabulares (como Adult Income, South German Credit, etc.) e compararam o REASONX com DiCE (para exemplos contrastivos) e ANCHORS (para regras factuais).

Qualidade dos Exemplos Contrastivos: O REASONX produziu exemplos contrastivos com distâncias menores (mais próximos da instância original) em comparação com o DiCE, especialmente quando restrições de imutabilidade foram aplicadas.
Validade das Restrições: Ao contrário de outras abordagens baseadas em regras, o REASONX garante que as regras geradas respeitem estritamente as restrições impostas pelo usuário (sem violação de restrições).
Interseção de Modelos: O sistema demonstrou sucesso em encontrar regras e exemplos contrastivos que são válidos simultaneamente para dois modelos diferentes (ou o mesmo modelo em tempos diferentes), identificando onde as explicações convergem e onde divergem.
Desempenho (Runtime): O REASONX tem um tempo de execução maior que o DiCE e ANCHORS devido à complexidade da otimização via MILP (Programação Linear Inteira Mista) e à comunicação entre as camadas Python e Prolog. No entanto, o tempo é considerado aceitável para uma ferramenta de análise interativa e não em tempo real de inferência.
Diversidade: O sistema consegue otimizar a diversidade de um conjunto de exemplos contrastivos, evitando que todas as soluções sejam idênticas.

5. Significado e Impacto

O REASONX representa um avanço significativo no campo da XAI ao:

Mudar o Paradigma de Interação: Transita de explicações estáticas para um processo interativo e declarativo, onde o usuário pode refinar perguntas e restrições iterativamente.
Ponte entre Dados e Conhecimento: Permite que conhecimento de domínio (leis físicas, regras de negócio, restrições éticas) seja codificado matematicamente e integrado diretamente na geração de explicações.
Transparência e Auditoria: Facilita a auditoria de modelos ao permitir verificar se as decisões são consistentes através de diferentes modelos ou ao longo do tempo, e ao expor o uso de atributos sensíveis nas regras de decisão.
Fundamento para o Futuro: A arquitetura proposta serve como base para futuras integrações com Grandes Modelos de Linguagem (LLMs), permitindo que usuários leigos façam consultas em linguagem natural que são traduzidas para a álgebra formal do sistema.

Em resumo, o REASONX oferece uma estrutura rigorosa e flexível para explicar modelos de ML, focando na capacidade do usuário de "raciocinar" sobre as explicações, em vez de apenas consumi-las passivamente.