Explainable AI Through a Democratic Lens: DhondtXAI for D'Hondt-Projected Feature Attribution

Resumo Técnico: IA Explicável através de uma Lente Democrática: DhondtXAI para Importância Proporcional de Atributos Usando o Método D'Hondt

Problema
O artigo aborda o desafio da interpretabilidade em modelos de aprendizado de máquina complexos, particularmente sistemas de "caixa preta" como redes neurais e modelos de conjunto baseados em árvores (ex: CatBoost, XGBoost). Embora as técnicas existentes de IA Explicável (XAI), como SHAP (Shapley Additive Explanations) e LIME, forneçam explicações post-hoc, os autores argumentam que há uma necessidade de frameworks alternativos que ofereçam representações intuitivas, estruturadas e transparentes da importância dos atributos. Especificamente, o artigo busca preencher a lacuna entre a mecânica técnica do modelo e a compreensão humana, adaptando princípios de sistemas eleitorais democráticos para o domínio da atribuição de atributos. O problema central é como representar a importância dos atributos de uma forma que permita a representação proporcional, a formação de alianças (agrupamento de atributos relacionados) e o estabelecimento de limiares (filtragem de variáveis de baixo impacto), aumentando assim a confiança e a clareza do usuário em campos de alto risco, como a saúde.

Metodologia
O estudo introduz o DhondtXAI, uma biblioteca e metodologia que aplica o método D'Hondt — um sistema de representação proporcional usado em eleições políticas — para alocar "cadeiras" (unidades representativas) a atributos ou grupos de atributos com base em sua importância calculada. A metodologia procede através destas etapas estruturadas:

1. Cálculo de Importância de Atributos: O processo começa com a extração padrão de importância de atributos de modelos baseados em árvores (Random Forests, Gradient Boosted Trees). Isso é calculado agregando a redução de impureza (Ganho de Informação) em todos os nós e árvores onde um atributo é utilizado como critério de divisão.
2. Parâmetros Definidos pelo Usuário: O framework permite que os usuários especifiquem:
   • Total de Votos ($V$): Um escalar representando o recurso total a ser distribuído.
   • Total de Cadeiras ($M$): O número de unidades representativas a serem alocadas.
   • Exclusões: Atributos a serem removidos da análise.
   • Alianças: Agrupamentos de atributos definidos pelo usuário que são tratados como uma única entidade de votação.
   • Limiar (Threshold): Uma porcentagem mínima de votos necessária para ser elegível para a alocação de cadeiras.
3. Distribuição de Votos: Os votos iniciais são alocados aos atributos ou alianças proporcionalmente à sua importância relativa ao total de importância do conjunto.
4. Aplicação de Limiar e Redistribuição: Se um limiar definido pelo usuário for estabelecido, os atributos ou alianças que ficarem abaixo dessa contagem de votos são excluídos. Seus votos são então redistribuídos proporcionalmente entre as entidades restantes "acima do limiar" com base em sua importância relativa.
5. Alocação de Cadeiras (Método D'Hondt): As cadeiras finais são distribuídas iterativamente. Para cada atributo/aliança $i$, uma razão de cadeira $S_i$ é calculada como $S_i = \frac{\text{voto\_redistribuído}_i}{k + 1}$, onde $k$ é o número atual de cadeiras detidas. A entidade com o maior $S_i$ recebe a próxima cadeira, $k$ é incrementado, e o processo se repete até que todas as $M$ cadeiras sejam alocadas.

Principais Contribuições

• Framework Inovador: O artigo apresenta o DhondtXAI, uma abordagem inovadora que traduz a importância dos atributos em uma visão "parlamentar", onde os atributos competem por cadeiras com base na representação proporcional.
• Mecanismo de Aliança: Introduz o conceito de "alianças de atributos", permitindo que os usuários agrupem variáveis relacionadas (ex: sintomas de uma doença) para avaliar seu impacto coletivo, analogamente aos partidos políticos que formam coalizões.
• Estabelecimento de Limiar: Incorpora um limiar de estilo eleitoral para filtrar ruídos, garantindo que apenas atributos com influência significativa sejam destacados na interpretação final.
• Integração com XAI Padrão: O método é projetado para complementar técnicas existentes como SHAP, oferecendo uma perspectiva de alocação de recursos ao lado da atribuição matemática tradicional.

Resultos
O estudo valida o DhondtXAI utilizando dois conjuntos de dados:

1. Wisconsin Breast Cancer Dataset (Modelo CatBoost):

   • O modelo alcançou 96% de acurácia e um AUC de 1.00.
   • O DhondtXAI alocou 600 cadeiras para 10 atributos. "Mean concave points" recebeu a maior parte das cadeiras (124), seguido por "mean texture" (121).
   • Uma análise de correlação de Spearman entre as contagens de cadeiras do DhondtXAI e os valores globais de SHAP yielded um coeficiente de 0.83 ($p=0.0029$), indicando uma correlação positiva forte e estatisticamente significativa.
   • A visualização parlamentar espelhou com sucesso a identificação de SHAP dos principais atributos e suas correlações direcionais (ex: vermelho para correlação negativa com resultados benignos).

2. Early Stage Diabetes Risk Prediction Dataset (Modelo XGBoost):

   • O modelo alcançou 98% de acurácia e um AUC de 1.00.
   • Os atributos foram agrupados em alianças (ex: Diabetes_Symptoms, Metabolic_Body).
   • A aliança Diabetes_Symptoms dominou a alocação com 361 das 600 cadeiras.
   • Uma correlação de Spearman entre as contagens de cadeiras das alianças e os valores médios de SHAP foi de 0.40 ($p=0.505$), o que não foi estatisticamente significativo. Os autores observam esta discrepância, mas argumentam que a abordagem baseada em alianças oferece uma perspectiva diferente e mais intuitiva para atributos agrupados.
   • Aplicação de Limiar: A aplicação de um limiar de 10% de votos excluiu as alianças Vision_Nervous e Psychological (reduzindo suas cadeiras para 0), enquanto aumentou as contagens de cadeiras para as três principais alianças (Metabolic_Body, Diabetes_Symptoms, Skin_Infection), demonstrando a capacidade do método de refinar o foco nos drivers dominantes.

Significância e Alegações
O artigo afirma que o DhondtXAI oferece uma ferramenta complementar e intuitiva para a IA Explicável. Sua significância reside em:

• Democratizando a Interpretabilidade: Ao usar uma metáfora política familiar (cadeiras parlamentares), torna as decisões de modelos complexos acessíveis a partes interessadas não técnicas, promovendo um senso de representação justa para diferentes atributos.
• Flexibilidade Aprimorada: A capacidade de formar alianças e aplicar limiares permite uma análise mais matizada das interações de atributos e redução de ruído, algo que métricas de importância baseadas em pontos tradicionais podem não suportar explicitamente.
• Alinhamento com IA Ética: O framework de representação proporcional é apresentado como um passo em direção à IA ética, garantindo que a influência dos atributos seja distribuída de forma transparente e que fatores menores, mas coletivamente significativos (via alianças), não sejam negligenciados.
• Validação: A forte correlação com o SHAP no conjunto de dados de câncer de mama sugere que o DhondtXAI fornece classificações consistentes de importância de atributos, validando sua confiabilidade como uma ferramenta secundária de interpretabilidade.

Os autores concluem que, embora o DhondtXAI possa não substituir métodos granulares como o SHAP para análise de previsões individuais, ele fornece um framework valioso, estruturado e socialmente ressonante para compreender a influência coletiva de atributos em ambientes de tomada de decisão de alto risco.