Resumo Técnico: GLARE – Uma Interface de Linguagem Natural para Consulta de Explicações Globais

1. Declaração do Problema

Modelos de visão profundos, embora bem-sucedidos em domínios de alto risco, permanecem opacos. Embora a IA Explicável (XAI) ofereça explicações locais (ex: mapas de saliência para instâncias individuais) e explicações globais (ex: regras agregadas ou protótipos que resumem o comportamento do modelo em um conjunto de dados), existe uma lacuna crítica de usabilidade. As explicações globais atuais são frequentemente artefatos monolíticos e estáticos contendo milhares de regras lógicas ou protótipos. Apresentar esse "despejo de explicações" aos usuários induz a sobrecarga cognitiva, obscurecendo insights em vez de revelá-los.

Os usuários normalmente não precisam de um resumo estático; eles se envolvem em um processo iterativo e orientado por consultas para testar hipóteses específicas (ex: "O modelo depende de neve ao fundo para classificar lobos?"). As ferramentas existentes forçam os usuários a filtrar e agregar manualmente explicações locais para responder a tais perguntas, criando uma fricção que limita a utilidade prática dos insights globais. Há uma necessidade de uma interface que permita aos usuários interrogar explicações globais usando linguagem natural sem expô-los a representações de baixo nível ou exigir conhecimentos de programação.

2. Metodologia

Os autores propõem o GLARE (Global Language-based Analysis and Retrieval of Explanations), um sistema interativo que trata as explicações globais não como documentos estáticos, mas como um banco de dados consultável.

Arquitetura do Sistema

O sistema segue um pipeline parse-validate-execute (analisar-validar-executar):

1. Entrada: Usuários formulam perguntas em linguagem natural sobre o comportamento agregado do modelo (ex: "Qual porcentagem de imagens de quarto contém tanto cama quanto parede?").
2. Análise Semântica (LLM): Um Grande Modelo de Linguagem (LLM) ajustado atua como um analisador semântico. Ele traduz a consulta de linguagem natural do usuário em uma consulta SQL estruturada.
   • O LLM seleciona de uma taxonomia predefinida de 24 templates de consulta que cobrem tarefas como contagens de frequência, combinações booleanas, coocorrência e análise contrafactual.
   • Ele extrai parâmetros (nomes de classes, nomes de objetos, limiares) para instanciar o template.
3. Execução: O SQL gerado é validado para segurança e correção, sendo então executado contra um banco de dados relacional contendo os dados da explicação global.
   • O banco de dados é construído agregando Explicações Mínimas Suficientes (MSXs) Locais em uma estrutura de Forma Normal Disjuntiva (DNF) global.
   • Embora os experimentos utilizem explicações geradas por um método específico (Vasu et al. [20]), a interface é projetada para funcionar com qualquer método de explicação baseada em conceitos que produza formas simbólicas.
4. Saída: O sistema retorna:
   • Um resumo em linguagem natural aumentado com estatísticas relevantes.
   • Explicações locais de suporte (imagens de evidência).
   • Visualizações alinhadas com a intenção da consulta (ex: mapas de segmentação destacando objetos relevantes).

Estratégia de Treinamento

Para garantir que o LLM aprenda a estrutura da consulta de explicações em vez de memorizar entidades específicas de conjuntos de dados, os autores empregam uma abordagem de ajuste fino especializada:

• Dados Sintéticos: 50.000 pares de treinamento são gerados amostrando combinações aleatórias de objetos e classes de cena do vocabulário ADE20K e aplicando variações de linguagem natural (sinônimos, templates de fraseologia).
• Mascaramento de Perda SQL-Fence: Durante o ajuste fino (usando LoRA nos modelos Gemma 2 e Qwen 2.5), a perda de treinamento é mascarada para focar exclusivamente nos tokens entre os marcadores SQL_START e SQL_END. Isso força o modelo a aprender a álgebra relacional da linguagem de consulta, permitindo a transferência zero-shot para novos conjuntos de dados com vocabulários diferentes.

3. Principais Contribuições

O artigo delineia três contribuições primárias:

1. Interface de Linguagem Natural para Explicações Globais: A introdução do GLARE, que transforma explicações globais em bancos de dados consultáveis, permitindo que os usuários interroguem o comportamento do modelo via linguagem natural.
2. Representação Intermediária Baseada em SQL: A definição de um esquema SQL estruturado para agregar, filtrar e contrastar explicações locais, estabelecendo uma ponte entre a intenção de linguagem natural e a agregação lógica formal.
3. Interpretação de Consulta Robusta via Ajuste Fino Sintético: Demonstração de que o ajuste fino com perda de máscara SQL-fence produz uma interpretação de consulta robusta. Essa abordagem permite a transferência zero-shot entre datasets (ex: de ADE20K para Pascal VOC) sem retreinamento, pois o modelo aprende padrões de raciocínio generalizados em vez de mapeamentos de entidades específicas do dataset.

4. Resultados Experimentais

O sistema foi avaliado em explicações globais derivadas do dataset de segmentação de cena ADE20K, com uma avaliação cruzada no Pascal VOC.

Acurácia In-Distribution (Dentro da Distribuição)

• Desempenho: Modelos ajustados (especificamente Gemma 2 9B e 27B) alcançaram acurácia de correspondência de resultado >95% em consultas retidas do conjunto de treinamento.
• Integridade Estrutural: Esses modelos alcançaram pontuações quase perfeitas em detecção de cercas (fence detection), parsing de SQL e taxas de execução (100% em muitos casos).
• Comparação com Baseline: Modelos base (não treinados) alcançaram acurácia próxima de zero, confirmando que o desempenho é produto do pipeline de ajuste fino específico e não de conhecimento prévio de SQL. Um baseline de Regex sem aprendizado obteve 74,4% de acurácia, significativamente inferior aos modelos ajustados.

Robustez a Perturbações

O sistema demonstrou forte resiliência ao ruído linguístico:

• Erros de Ortografia: O modelo ajustado manteve uma taxa de correspondência de 79,6% comparado aos 48,7% do baseline de Regex, mostrando uma vantagem de 31 pontos percentuais.
• Substituição por Sinônimos: O modelo exibiu 100% de robustez a sinônimos, superando o baseline de Regex em 17 pontos percentuais.
• Consistência: Paráfrases semanticamente equivalentes produziram resultados SQL idênticos 94,1% das vezes.
• Sanidade: Todas as saídas satisfizeram restrições de domínio (ex: contagens negativas ou porcentagens fora do intervalo [0, 100]).

Generalização e Transferência

• Fraseologia Fora da Distribuição (OOD): O modelo lidou bem com novas formulações de templates treinados (45,1% de correspondência exata), embora tenha tido dificuldades com negações duplas complexas ou consultas altamente informais.
• Novos Construtos SQL: O modelo mostrou generalização composicional, montando fragmentos SQL familiares em novas estruturas (ex: chained_filter com 100% de correspondência), mas falhou em sintaxes inteiramente inéditas (ex: window_function com 0% de correspondência).
• Transferência entre Datasets: Um modelo treinado exclusivamente com metadados do ADE20K alcançou ~90% de acurácia quando testado em um banco de dados Pascal VOC com um vocabulário de objetos completamente distinto. Isso confirma que o modelo aprendeu a estrutura relacional do esquema, e não apenas os nomes das entidades.

Análise de Escala do Modelo

• Limiar de Capacidade: É necessária uma capacidade mínima de modelo. O Qwen 2.5 0.5B falhou em aprender a tarefa mesmo após o ajuste fino, enquanto modelos de 7B+ performaram de forma robusta.
• Saturação: Dentro da família Gemma 2, o desempenho saturou entre 2B, 9B e 27B parâmetros para tarefas in-distribution, sugerindo que o pipeline sintético é eficaz mesmo para modelos menores, desde que suficientemente grandes.

5. Significância e Alegações

O artigo afirma que o GLARE oferece um caminho prático e confiável para uma XAI centrada no ser humano. Ao mudar da inspeção passiva de artefatos estáticos para um diálogo ativo e orientado por consultas, o sistema torna as explicações globais acessíveis a não especialistas.

Os autores enfatizam que sua abordagem:

• Fundamenta a Flexibilidade na Correção Formal: Ao usar LLMs como analisadores com restrição lógica que mapeiam para templates SQL verificáveis, o sistema evita as alucinações comuns na geração direta de explicações por LLM.
• Permite a Transferência Zero-Shot: A estratégia de treinamento "SQL-fence" permite que o sistema se generalize para novos domínios e vocabulários sem retreinamento, desde que uma nova lista de nomes de entidades esteja disponível.
• Reduz a Carga Cognitiva: Permite que os usuários façam perguntas direcionadas sem precisar entender a complexidade subjacente de milhares de regras lógicas.

O artigo conclui que, embora a atual taxonomia de templates seja extensível, mas não exaustiva, a capacidade demonstrada de transferir entre datasets e lidar com variações linguísticas sugere que a consulta mediada por LLM é uma solução viável para escalar a análise de explicações globais.