Towards interpretable AI with quantum annealing feature selection

1. Declaração do Problema

Modelos de Aprendizado Profundo (DL), particularmente Redes Neurais Convolucionais (CNNs), são amplamente utilizados em aplicações críticas, mas frequentemente funcionam como "caixas pretas". Embora técnicas de IA Explicável (XAI) como Grad-CAM e Grad-CAM++ existam para visualizar quais regiões da imagem influenciam as previsões, elas sofrem de limitações significativas:

• Agregação: Elas combinam contribuições de todos os mapas de características (FMs) em um único mapa de saliência, falhando em desvendar os papéis específicos de FMs individuais.
• Redundância: Elas não filtram representações redundantes ou correlacionadas, tornando difícil entender os padrões aprendidos específicos que impulsionam uma decisão.
• Complexidade Combinatória: Selecionar o subconjunto ótimo de FMs para explicar uma previsão é um problema de otimização combinatória que escala exponencialmente ($2^N$) com o número de características, tornando-o computacionalmente intratável para busca exaustiva clássica.

Os autores propõem que a Seleção de Características (FS) aplicada a representações aprendidas internas (em vez de pixels de entrada brutos) é uma ferramenta poderosa, mas subutilizada, para XAI. No entanto, resolver este problema de FS eficientemente requer uma nova abordagem.

2. Metodologia

O artigo propõe uma abordagem inovadora baseada em Recozimento Quântico (QA) para selecionar os mapas de características mais relevantes e não redundantes para uma dada previsão de imagem.

A. Filtragem de Mapa de Características

1. Análise de Gradiente: Os autores computam o agrupamento médio global dos gradientes em relação aos mapas de características da camada convolucional final ($f^{(a)}_{ij}$).
   $$\alpha_a = \frac{1}{H_f W_f} \sum_{i,j} \frac{\partial z}{\partial f^{(a)}_{ij}}$$
   onde $\alpha_a$ representa a importância do mapa de características $a$.
2. Seleção Positiva: Apenas mapas de características com contribuição de gradiente positiva ($\alpha_a > 0$) são retidos, pois estes confirmam a classe prevista. Isso cria um conjunto filtrado $\{\tilde{f}\}$.

B. Formulação QUBO

O problema de seleção é codificado em um problema de Otimização Binária Quadrática sem Restrições (QUBO) (ou equivalentemente, um modelo de Ising).

• Variáveis: Variáveis binárias (qubits) representam a inclusão ($1$) ou exclusão ($0$) de cada mapa de características filtrado.
• Função Objetivo (Hamiltoniano): O objetivo é maximizar a importância dos mapas selecionados enquanto minimiza a redundância (similaridade geométrica).
  $$\hat{H}_{QUBO} = (1 - \beta) \frac{1}{2} \sum_{p,q} J_{pq} \hat{n}_p \hat{n}_q + \beta \sum_{p} h_p \hat{n}_p$$
  • Termo Linear ($h_p$): Representa a importância normalizada do mapa de características $p$ (derivada de $\alpha_p$).
  • Termo Quadrático ($J_{pq}$): Representa a similaridade cosseno absoluta entre os mapas de características $p$ e $q$. Alta similaridade implica redundância; o termo penaliza a seleção de ambos.
  • Hiperparâmetro ($\beta$): Controla o compromisso entre selecionar características de alta importância e minimizar a redundância.

C. Protocolo de Recozimento Quântico

• Inicialização: O sistema começa em uma superposição de todos os subconjuntos possíveis de características (estado fundamental de um Hamiltoniano driver $\hat{H}_D = -\sum \hat{\sigma}_x$).
• Evolução: O sistema evolui através de um Hamiltoniano dependente do tempo $\hat{H}(s) = A(s)\hat{H}_D + B(s)\hat{H}_{QUBO}$, onde $s$ vai de 0 a 1.
• Amostragem: O estado final é amostrado para obter uma string de bits representando o subconjunto ótimo de mapas de características. Este subconjunto constitui o "mapa de explicação".

3. Contribuições Principais

1. Novo Framework XAI: A primeira aplicação de Recozimento Quântico especificamente para selecionar mapas de características internos (representações latentes) de CNNs, em vez de pixels de entrada.
2. Desvencilhamento: Ao contrário do Grad-CAM, que agrega todos os mapas, este método isola um subconjunto esparsos e não redundante de FMs, fornecendo uma visão mais clara dos padrões específicos que o modelo utiliza.
3. Análise Orientada pela Física: Os autores analisam o comportamento computacional do algoritmo usando métricas de física quântica, como o gap de energia mínimo ($\Delta_{min}$) e fidelidade, para explicar por que o método funciona e seus limites de escalabilidade.
4. Abordagem Híbrida: O trabalho demonstra como conceitos NISQ (Quantum de Escala Intermediária Ruidosa) podem ser simulados para resolver problemas de FS de alta dimensão que são difíceis para heurísticas clássicas.

4. Resultados

O método foi avaliado no conjunto de dados STL-10 usando uma arquitetura ResNet-18.

• Desvencilhamento de Classes:
  • Os autores geraram mapas de correlação classe-classe usando o coeficiente de Bhattacharyya.
  • O método baseado em QA (com $N_f=16$) mostrou desvencilhamento significativamente melhor (matriz mais diagonal) em comparação com o modelo ResNet-18 completo, indicando que os FMs selecionados são mais específicos para classes individuais.
• Desempenho Quantitativo (Queda Média %):
  • Métrica: A "Queda Média %" mede o quanto a confiança do modelo cai quando pixels não no mapa de explicação são mascarados. Uma queda menor indica uma explicação melhor (o mapa contém as informações críticas).
  • Descobertas: O método QA-fGradCAM alcançou uma Queda Média % menor (melhor desempenho) do que tanto o Grad-CAM quanto o Grad-CAM++ na maioria das classes ao usar um conjunto de características reduzido ($N_f=16$).
  • Nota de Escalabilidade: Ao escalar para o ResNet-18 completo ($N_f=512$) usando Recozimento Simulado (SA), o desempenho degradou. Os autores atribuem isso à dificuldade de encontrar o mínimo global em instâncias QUBO maiores e à supressão agressiva de características pelo termo de redundância sem um ajuste cuidadoso de $\beta$.
• Análise Física:
  • Gap de Energia: O gap de energia mínimo ($\Delta_{min}$) foi encontrado relativamente grande (em torno de $10^{-1}$), sugerindo que a paisagem do problema não é a instância "mais difícil" do modelo Sherrington-Kirkpatrick e é tratável.
  • Fidelidade: Para tempos de recozimento $\tau > 50$, o algoritmo alcançou alta fidelidade (convergência para o estado fundamental), confirmando a robustez do protocolo.

5. Significado e Conclusão

• Interpretabilidade: O método aumenta a transparência dos modelos DL ao identificar os filtros específicos e não redundantes responsáveis por uma decisão, indo além de mapas de calor grosseiros.
• Potencial de Vantagem Quântica: Embora o hardware atual seja limitado, o estudo prova que formular XAI como um problema QUBO permite a exploração eficiente de espaços de solução exponencialmente grandes. Sugere que o hardware quântico futuro poderá resolver esses problemas de interpretabilidade mais rápido e com maior precisão do que heurísticas clássicas.
• Direções Futuras: Os autores sugerem que o ajuste do hiperparâmetro $\beta$ e potencialmente a adição de restrições de cardinalidade poderiam melhorar ainda mais os resultados. O framework é agnóstico e poderia ser aplicado a outras arquiteturas (por exemplo, Vision Transformers) ou modelos generativos.

Em resumo, este artigo preenche a lacuna entre Computação Quântica e IA Explicável, demonstrando que o recozimento quântico pode resolver efetivamente o problema combinatório de seleção de características em redes profundas, levando a explicações de modelo mais distintas, confiáveis e interpretáveis.