Alike Parts: A Feature-Informed Approach to Local and Global Prototype Explanations

Resumo Técnico: PARTES SEMELHANTES: UMA ABORDAGEM INFORMADA POR CARACTERÍSTICAS PARA EXPLICAÇÕES DE PROTOTIPOS LOCAIS E GLOBAIS

Declaração do Problema
Explicações baseadas em protótipos oferecem um método intuitivo, baseado em exemplos, para interpretar classificadores de aprendizado de máquina de caixa-preta, vinculando previsões a instâncias de treinamento representativas. No entanto, existe uma limitação significativa: embora os protótipos forneçam uma visão holística, eles frequentemente carecem de granularidade no nível das características. Os usuários têm dificuldade em identificar quais características específicas dentro de um protótipo são mais relevantes para uma previsão, levando a uma sobrecarga cognitiva ao lidar com dados tabulares de alta dimensionalidade. Além disso, a seleção global de protótipos frequentemente prioriza a distribuição espacial ou a minimização de distância sem garantir diversidade nas atribuições de características dos protótipos selecionados, potencialmente perdendo fronteiras de decisão críticas e diversas.

Metodologia
Os autores propõem um framework que integra pontuações de importância de características em dois níveis distintos: refinamento de explicação local e aumento da seleção global de protótipos.

1. Explicações Locais: "Partes Semelhantes"
   O artigo introduz um método para identificar "partes semelhantes", definidas como os subconjuntos de características mais relevantes e compartilhados entre uma instância classificada ($x_i$) e seu protótipo mais próximo ($p_j$).

   • Processo: Pontuações de importância de características ($\phi$) são computadas para a instância e o protótipo usando estimadores independentes do modelo ou específicos do modelo (por exemplo, Tree SHAP, Tree Interpreter).
   • Alinhamento: O método calcula um vetor de peso ($w$) representando a similaridade de importância entre a instância e o protótipo. Isso é alcançado por meio de um operador de similaridade ($\circ$), como o produto de Hadamard (multiplicação elemento a elemento), distâncias $l_1$ ou $l_2$ elemento a elemento.
   • Mascaramento: Uma máscara binária é gerada para destacar características onde o alinhamento de importância excede um limiar. Estratégias incluem limiarização média ou seleção adaptativa Top-$k$ (por exemplo, $k = \lceil\sqrt{d}\rceil$ ou $k = \lceil\log(d)\rceil$).
   • Saída: Isso direciona a atenção do usuário para um subconjunto limitado e de alta relevância de características compartilhadas pela instância e pelo protótipo, em vez de apresentar todo o vetor de características.

2. Explicações Globais: Função Objetivo Aumentada
   Os autores modificam a função objetivo padrão de seleção de protótipos para promover ativamente a diversidade nas atribuições de características.

   • Objetivo Padrão: Abordagens tradicionais de $k$-medoides minimizam a distância $d(x_i, p_j)$ entre instâncias de treinamento e seus protótipos mais próximos.
   • Objetivo Aumentado: Os autores introduzem um termo de importância de características ($f_i$) derivado das pontuações de alinhamento usadas no método local. A nova função objetivo é:
     $$f(P) = \sum_{i=1}^{|S|} \min_{p_j \in P} (d(x_i, p_j) + \beta \cdot f_i(x_i, p_j))$$
     Aqui, $\beta$ atua como um parâmetro de compensação entre a distância métrica e o alinhamento de importância de características. Isso incentiva a seleção de protótipos que não apenas cobrem o espaço de dados, mas também representam subconjuntos diversos de características importantes.

Principais Contribuições

• Identificação de Partes Semelhantes: Um método inovador para gerar máscaras binárias destacando características compartilhadas e de alta importância entre uma instância e seu protótipo mais próximo, aprimorando a interpretabilidade local.
• Seleção de Protótipos Diversa em Características: Uma extensão de algoritmos de geração de protótipos (especificamente G-KM, SM-A e A-PETE) que incorpora importância de características no loop de otimização para garantir diversidade global nas atribuições de características.
• Avaliação Abrangente: O estudo avalia múltiplos algoritmos de geração de protótipos juntamente com novas funções de avaliação, explora um conjunto mais amplo de algoritmos de importância de características (Tree SHAP, Tree Interpreter) e conduz uma análise de sensibilidade extensa sobre hiperparâmetros (por exemplo, $\beta$, operadores de similaridade, estratégias de mascaramento).
• Agnosticismo de Modelo: O framework é projetado para ser compatível com vários componentes subjacentes, embora os experimentos se concentrem em ensembles de Random Forest e métricas de distância baseadas em árvores.

Resultados Experimentais
Experimentos foram conduzidos em seis conjuntos de dados de referência (Qualidade de Maçãs, Chuva na Austrália, Câncer de Mama, Diabetes, Satisfação de Passageiros, Qualidade de Vinho) usando Random Forest como modelo de caixa-preta.

• Fidelidade: O processo de seleção aumentada manteve ou, em vários casos, aumentou a fidelidade de previsão do modelo substituto 1-Vecinho Mais Próximo (1-NN) em comparação com a seleção de protótipos original (bruta). A análise estatística (teste de postos sinalizados de Wilcoxon) indicou uma tendência positiva para fidelidade aprimorada ($p \approx 0.068$) e melhoria significativa em relação a baselines interpretáveis padrão como Naive Bayes, Regressão Logística e Árvores de Decisão ($p < 0.05$).
• Diversidade de Características: A abordagem informada por importância de características (FI) identificou com sucesso protótipos com maior diversificação de características. Por exemplo, no conjunto de dados de Diabetes, o método informado por FI destacou características clinicamente relevantes (Idade, Função de Pedigree de Diabetes) que o método baseado apenas em distância bruta perdeu.
• Sensibilidade de Hiperparâmetros: O produto de Hadamard foi encontrado como a métrica de similaridade mais eficaz em todos os conjuntos de dados. O estudo notou que, embora algumas tendências fossem globais, o ajuste personalizado de hiperparâmetros (como ignorar direção ou normalização) permaneceu necessário para conjuntos de dados específicos.
• Frequência de Ativação: A análise das frequências de ativação de características confirmou que o objetivo informado por FI reduz a variância no uso de características, forçando a seleção de um conjunto mais diverso de protótipos.

Significado e Alegações
O artigo alega que integrar importância de características na seleção de protótipos não compromete a fidelidade do modelo; pelo contrário, buscar atribuições de características diversas pode ser complementar à cobertura baseada em distância. O significado principal reside em preencher a lacuna entre exemplos de protótipos de alto nível e raciocínio de características de baixo nível. Ao identificar "partes semelhantes", o método guia a atenção do usuário para a racionalidade específica compartilhada entre uma instância e seu protótipo, abordando os desafios de interpretabilidade de dados tabulares de alta dimensionalidade. Os autores enfatizam que essa abordagem equilibra interpretabilidade e diversidade, aprimorando tanto as explicações locais quanto o processo de seleção global de protótipos, sem exigir modificações na lógica interna do modelo de caixa-preta subjacente.

Os autores notam modestamente que, embora o método melhore a qualidade da explicação (por meio de métricas proxy como fidelidade e diversidade de características), a hipótese central — de que "partes semelhantes" melhoram a compreensão real do usuário — requer validação futura por meio de estudos formais de interação humano-computador. Além disso, embora a implementação atual se concentre em ensembles de árvores, o design modular permite adaptação a outras arquiteturas (por exemplo, redes neurais) substituindo os componentes de estimativa de distância e importância.