Assessing Model-Agnostic XAI Methods against EU AI Act Explainability Requirements

Este artigo propõe uma estrutura de pontuação que traduz avaliações qualitativas de métodos de IA explicativa (XAI) agnósticos a modelos em uma métrica quantitativa de conformidade, visando orientar os praticantes na adequação aos requisitos de explicabilidade do Ato de IA da UE.

O essencial

Imagine que você comprou um carro novo e muito sofisticado. O manual diz que, se o carro decidir frear sozinho de repente, você tem o direito de saber por que ele fez isso. Mas o motor desse carro é um "caixa-preta": ninguém sabe exatamente como os engenheiros programaram cada peça interna.

Aqui entra a Inteligência Artificial Explicável (XAI). São como mecânicos que tentam olhar dentro da caixa-preta e dizer: "O carro freou porque o sensor viu um cachorro".

O problema é que a União Europeia criou uma nova lei (o AI Act) que diz: "Não basta apenas dar uma desculpa; a explicação tem que ser clara, honesta e útil para proteger os direitos das pessoas". Mas os mecânicos (cientistas de dados) não sabiam exatamente qual tipo de explicação a lei exigia. Eles tinham muitas ferramentas, mas não sabiam qual usar para não serem multados.

Este artigo é como um guia de sobrevivência para esses mecânicos. Os autores criaram um método para testar quais ferramentas de explicação funcionam melhor para cumprir a lei europeia.

A Metáfora do "Exame de Condução"

Para entender o que eles fizeram, imagine que cada ferramenta de explicação (como SHAP, LIME, Árvores de Decisão) é um candidato a motorista. A lei (AI Act) é o exame de condução.

O objetivo do artigo foi criar uma prova prática para ver quem passa e quem reprova. Eles não olharam apenas se o carro anda; eles olharam três coisas principais (as "competências" do motorista):

1. Fidelidade (A Verdade): O motorista explica a verdade? Se o carro freou por causa de um cachorro, ele não pode inventar que foi por causa de uma poça d'água.
   • Analogia: É como um tradutor que não inventa palavras. Ele diz exatamente o que o original disse.
2. Robustez (A Estabilidade): Se você balançar levemente o volante ou mudar um pouco a estrada, a explicação do motorista muda drasticamente? Um bom motorista deve ser consistente.
   • Analogia: Se você perguntar "por que você está feliz?" hoje e amanhã, a resposta deve ser a mesma, a menos que algo real tenha mudado. Se a resposta muda só porque você piscou, a explicação é fraca.
3. Complexidade (A Simplicidade): A explicação é tão complicada que ninguém entende? Ou é simples o suficiente para um leigo?
   • Analogia: Um médico explicando uma doença. Ele não deve usar 50 palavras técnicas difíceis para um paciente de 10 anos; ele deve usar uma linguagem simples e direta.

Como eles deram a nota? (O Sistema de Pontuação)

Os autores não apenas olharam e disseram "gostei". Eles criaram um sistema de pontuação matemático (uma "calculadora de conformidade"):

• Eles pegaram a lei e transformaram cada regra em uma pergunta para as ferramentas.
• Eles deram notas de 1 a 5 para cada ferramenta em cada competência (Fidelidade, Robustez, Simplicidade).
• O Pulo do Gato: Nem todas as perguntas valem o mesmo. Se a lei diz que algo é obrigatório (como "não mentir"), a ferramenta precisa ter nota máxima ali. Se for apenas "desejável", a nota pode ser menor.
• No final, eles somaram tudo e geraram uma nota de conformidade (de 0 a 1), que diz: "Esta ferramenta tem 80% de chance de atender à lei".

O Que Eles Descobriram? (O Veredito)

Depois de testar todas as ferramentas, o resultado foi surpreendente e claro:

• O "Campeão" Geral: A ferramenta chamada SHAP (e uma versão dela chamada RuleSHAP) foi a que melhor se saiu na maioria dos testes. Ela é muito fiel à verdade e bastante estável. É como o motorista que sempre dá a explicação correta e não se confunde.
• O "Especialista em Simplicidade": Ferramentas baseadas em Regras (como Árvores de Decisão) são ótimas para explicar coisas de forma simples e direta, mas às vezes são instáveis (mudam de ideia com pouco vento).
• A Estratégia Híbrida: O artigo sugere que não existe uma "bala de prata". A melhor estratégia é usar o SHAP para garantir que a explicação seja tecnicamente correta (para os engenheiros e auditores) e depois usar Regras ou Árvores para traduzir essa complexidade em algo simples para o usuário final (o cliente ou paciente).

Por que isso importa para você?

Imagine que você está sendo negado um empréstimo bancário por uma Inteligência Artificial.

• Sem este guia: O banco poderia usar uma ferramenta de explicação ruim, dizendo algo vago como "o sistema decidiu". Você não saberia se foi injusto.
• Com este guia: O banco é obrigado a usar ferramentas como SHAP ou Árvores de Decisão que garantam que a explicação seja verdadeira, estável e compreensível.

Resumo Final

Os autores criaram uma ponte entre o mundo técnico (onde os cientistas de dados vivem) e o mundo jurídico (onde os advogados e a lei vivem). Eles mostraram que, para cumprir a lei europeia, não basta ter uma IA inteligente; é preciso ter uma IA que saiba contar a verdade de forma clara e consistente.

Eles nos deram um mapa: "Se você quer cumprir a lei, use estas ferramentas específicas para este tipo de problema". Isso ajuda empresas a não cometerem erros caros e garante que, quando a IA tomar uma decisão sobre a sua vida, você tenha o direito de entender o "porquê" de verdade.

Resumo técnico

1. O Problema

Existe uma lacuna persistente entre as capacidades técnicas dos métodos de Inteligência Artificial Explicável (XAI) e os requisitos legais impostos pelo Regulamento de Inteligência Artificial da União Europeia (EU AI Act).

• Desconexão: Enquanto a XAI é frequentemente definida de forma estreita (explicações técnicas de algoritmos), a lei exige explicações como ferramentas para promover responsabilidade, controle humano e respeito aos direitos fundamentais.
• Falta de Orientação: Praticantes e empresas, especialmente as menores, não têm diretrizes claras sobre quais técnicas de XAI atendem aos requisitos de conformidade legal no mercado da UE.
• Falta de Mapeamento Sistemático: Estudos anteriores focaram em aspectos algorítmicos ou tentaram mapear XAI para leis de forma genérica, mas faltava um mapeamento sistemático das obrigações específicas do AI Act para algoritmos concretos de XAI.

2. Metodologia

Os autores desenvolveram uma estrutura de avaliação mista (qualitativa e quantitativa) para preencher essa lacuna. O processo envolveu as seguintes etapas:

• Definição de Explicação: Adotaram uma definição baseada na filosofia da linguagem ordinária, onde uma explicação é uma "resposta a perguntas implícitas ou explícitas que facilitam a compreensão", alinhada ao contexto legal (não necessariamente personalizada para o modelo mental individual, mas adequada ao destinatário legal).
• Seleção de Algoritmos: Focaram em métodos de XAI agnósticos ao modelo (pós-hoc) amplamente utilizados, selecionados a partir de revisões sistemáticas publicadas a partir de 2022.
• Identificação de Propriedades: Basearam-se na literatura para categorizar as propriedades de interpretabilidade em três clusters principais:
  1. Fidelidade (Faithfulness): Precisão na representação do raciocínio do modelo (inclui: ausência de falsos positivos, ausência de falsos negativos e completude).
  2. Robustez (Robustness): Estabilidade sob pequenas perturbações de entrada (inclui: estabilidade/continuidade e robustez adversarial).
  3. Complexidade: Simplicidade da explicação (inclui: esparsidade, tamanho de regras e nível de detalhe).
• Mapeamento Legal: Analisaram as obrigações de explicação do AI Act (Artigos 11, 13-14, 86 e Anexo IV), traduzindo-as em requisitos sobre as propriedades de XAI (obrigatórios, opcionais ou parciais).
• Avaliação Híbrida:
  • Avaliação Qualitativa: Atribuíram pontuações de 1 a 5 (escala tipo Likert) para cada algoritmo em cada sub-propriedade, baseando-se em revisões de literatura e validação por especialistas (incluindo o uso inicial de LLMs para estimativas, refinadas pelos autores).
  • Agregação Quantitativa: Desenvolveram uma fórmula de pontuação de conformidade ($S(a, r)$) que pondera as pontuações das propriedades com base na força legal do requisito (obrigatório = 1, opcional = 0.75, parcial = 0.5). A fórmula também considera o "ajuste processual" (se o método opera no escopo local/global e estágio ex-ante/ex-post exigido pela lei).

3. Principais Contribuições

• Mapeamento Lei-XAI: Um mapeamento sistemático que conecta as obrigações específicas do AI Act às capacidades técnicas de métodos de XAI agnósticos.
• Framework de Pontuação de Conformidade: Uma metodologia inovadora que transforma avaliações qualitativas de especialistas em uma pontuação quantitativa de conformidade regulatória (escala 0 a 1). Isso permite comparar algoritmos não apenas por desempenho técnico, mas por adequação legal.
• Checklist Operacional: A criação de uma tabela (Tabela 4 no artigo) que serve como uma ferramenta de verificação para equipes jurídicas e técnicas negociarem e selecionarem soluções de XAI.
• Análise de Sensibilidade: Demonstração de que as pontuações de conformidade são robustas a variações nos fatores de peso legal, validando a estabilidade do framework.

4. Resultados

A aplicação do framework aos principais algoritmos de XAI (como SHAP, LIME, Decision Trees, RuleFit, Anchors, CEM, DiCE, PDP, ICE) revelou padrões claros:

• SHAP (Shapley Additive exPlanations): Consistentemente obteve as pontuações mais altas em Fidelidade e Robustez, tornando-se o método mais versátil para atender aos requisitos gerais do AI Act, especialmente para justificações locais e pós-evento (Art. 86) e documentação técnica (Art. 11).
• Métodos Baseados em Regras (RuleFit, RuleSHAP, Anchors): Destacaram-se em Complexidade (esparsidade e detalhe), sendo ideais para interfaces de usuário que exigem explicações humanas legíveis e compactas.
• Métodos de Contrafactual (CEM, DiCE): Apresentaram alta fidelidade e robustez adversarial, mas sofreram em estabilidade devido à natureza estocástica de sua otimização.
• Trade-offs: Não existe um "melhor" método único. O estudo mostra que a conformidade total muitas vezes requer uma abordagem híbrida: usar SHAP para a evidência técnica robusta (fidelidade) e comprimir essas explicações em árvores de decisão ou regras (RuleSHAP/Anchors) para a documentação final e interfaces de usuário (complexidade).
• Pontuação de Conformidade: O SHAP e o RuleSHAP apareceram consistentemente no topo das classificações agregadas para a maioria das disposições do AI Act.

5. Significado e Impacto

• Ponte entre Direito e Engenharia: O trabalho fornece um mecanismo prático para que engenheiros de IA e profissionais jurídicos alinhem soluções técnicas com a conformidade regulatória, reduzindo a incerteza na implementação do AI Act.
• Guia para Conformidade: Ajuda as organizações a identificar quais técnicas de XAI podem suportar legalmente a geração de explicações, evitando a adoção de métodos que, embora populares, podem não atender a requisitos específicos de robustez ou fidelidade exigidos pela lei.
• Identificação de Lacunas de Pesquisa: O framework destaca áreas onde a tecnologia atual ainda é insuficiente para atender plenamente aos requisitos legais, apontando a necessidade de mais pesquisas em estabilidade de métodos de contrafactual e robustez adversarial.
• Adaptabilidade: A estrutura modular permite que o framework seja atualizado rapidamente conforme a legislação evolui ou novos algoritmos de XAI surgem, sem a necessidade de reavaliação manual completa.

Em suma, o artigo oferece uma ferramenta metodológica crucial para operacionalizar os requisitos de transparência do AI Act, transformando conceitos legais abstratos em métricas técnicas acionáveis para o desenvolvimento de IA responsável.