Explainable AI Through a Democratic Lens: DhondtXAI for D'Hondt-Projected Feature Attribution

Resumen Técnico: IA Explicable a través de una Lente Democrática: DhondtXAI para la Importancia Proporcional de Características mediante el Método D'Hondt

Planteamiento del Problema
El artículo aborda el desafío de la interpretabilidad en modelos de aprendizaje automático complejos, particularmente en sistemas de "caja negra" como las redes neuronales y los modelos de ensamblaje basados en árboles (por ejemplo, CatBoost, XGBoost). Si bien las técnicas existentes de IA Explicable (XAI), como SHAP (Explicaciones Aditivas de Shapley) y LIME, proporcionan explicaciones post-hoc, los autores argumentan que existe la necesidad de marcos alternativos que ofrezcan representaciones intuitivas, estructuradas y transparentes de la importancia de las características. Específicamente, el artículo busca cerrar la brecha entre la mecánica técnica del modelo y la comprensión humana, adaptando principios de los sistemas electorales democráticos al dominio de la atribución de características. El problema central es cómo representar la importancia de las características de una manera que permita la representación proporcional, la formación de alianzas (agrupación de características relacionadas) y el umbralización (filtrado de variables de bajo impacto), mejorando así la confianza y la claridad del usuario en campos de alto riesgo como la atención médica.

Metodología
El estudio introduce DhondtXAI, una librería y metodología que aplica el método D'Hondt —un sistema de representación proporcional utilizado en elecciones políticas— para asignar "escaños" (unidades representativas) a las características o grupos de características basándose en su importancia calculada. La metodología procede a través de estos pasos estructurados:

1. Cálculo de la Importancia de las Características: El proceso comienza con la extracción estándar de la importancia de las características de modelos basados en árboles (Bosques Aleatorios, Gradient Boosted Trees). Esto se calcula agregando la reducción de la impureza (Ganancia de Información) a través de todos los nodos y árboles donde una característica se utiliza como criterio de división.
2. Parámetros Definidos por el Usuario: El marco permite a los usuarios especificar:
   • Votos Totales ($V$): Un escalar que representa el recurso total a distribuir.
   • Escaños Totales ($M$): El número de unidades representativas a asignar.
   • Exclusiones: Características para ser eliminadas del análisis.
   • Alianzas: Agrupaciones de características definidas por el usuario que son tratadas como una única entidad de votación.
   • Umbral (Threshold): Un porcentaje mínimo de votos requerido para ser elegible para la asignación de escaños.
3. Distribución de Votos: Los votos iniciales se asignan a las características o alianzas proporcionalmente según sus puntuaciones de importancia en relación con la importancia total del conjunto.
4. Aplicación de Umbral y Redistribución: Si se establece un umbral definido por el usuario, las características o alianzas que caen por debajo de este recuento de votos son excluidas. Sus votos son entonces redistribuidos proporcionalmente entre las entidades restantes "por encima del umbral" basándose en su importancia relativa.
5. Asignación de Escaños (Método D'Hondt): Los escaños finales se distribuyen iterativamente. Para cada característica/alianza $i$, se calcula una relación de escaños $S_i$ como $S_i = \frac{\text{voto\_redistribuido}_i}{k + 1}$, donde $k$ es el número actual de escaños obtenidos. La entidad con la $S_i$ más alta recibe el siguiente escaño, $k$ se incrementa, y el proceso se repite hasta que se asignan todos los $M$ escaños.

Contribuciones Clave

• Marco Novedoso: El artículo presenta DhondtXAI, un enfoque novedoso que traduce la importancia de las características en una "visión parlamentaria", donde las características compiten por escaños basándose en la representación proporcional.
• Mecanismo de Alianzas: Introduce el concepto de "alianzas de características", permitiendo a los usuarios agrupar variables relacionadas (por ejemplo, síntomas de una enfermedad) para evaluar su impacto colectivo, de forma análoga a cómo los partidos políticos forman coaliciones.
• Umbralización: Incorpora un umbral de estilo electoral para filtrar el ruido, asegurando que solo las características con una influencia significativa sean resaltadas en la interpretación final.
• Integración con XAI Estándar: El método está diseñado para complementar las técnicas existentes como SHAP, ofreciendo una perspectiva de asignación de recursos junto con la atribución matemática tradicional.

Resultados
El estudio valida DhondtXAI utilizando dos conjuntos de datos:

1. Conjunto de Datos de Cáncer de Mama de Wisconsin (Modelo CatBoost):

   • El modelo logró un 96% de precisión y un AUC de 1.00.
   • DhondtXAI asignó 600 escaños a 10 características. "Mean concave points" recibió la mayor cantidad de escaños (124), seguido de "mean texture" (121).
   • Un análisis de correlación de Spearman entre los recuentos de escaños de DhondtXAI y los valores SHAP globales arrojó un coeficiente de 0.83 ($p=0.0029$), indicando una correlación positiva fuerte y estadísticamente significativa.
   • La visualización parlamentaria reflejó con éxito la identificación de las principales características de SHAP y sus correlaciones direccionales (por ejemplo, rojo para correlación negativa con resultados benignos).

2. Conjunto de Datos de Predicción de Riesgo de Diabetes en Etapa Temprana (Modelo XGBoost):

   • El modelo logró un 98% de precisión y un AUC de 1.00.
   • Las características se agruparon en alianzas (por ejemplo, Diabetes_Symptoms, Metabolic_Body).
   • La alianza Diabetes_Symptoms dominó la asignación con 361 de los 600 escaños.
   • Una correlación de Spearman entre los recuentos de escaños de las alianzas y los valores medios de SHAP fue de 0.40 ($p=0.505$), lo cual no fue estadísticamente significativo. Los autores señalan esta discrepancia, pero argumentan que el enfoque basado en alianzas ofrece una perspectiva diferente y más intuitiva para las características agrupadas.
   • Aplicación de Umbral: La aplicación de un umbral de votos del 10% filtró las alianzas Vision_Nervous y Psychological (reduciendo sus escaños a 0), aumentando simultáneamente los recuentos de escaños para las tres alianzas principales (Metabolic_Body, Diabetes_Symptoms, Skin_Infection), demostrando la capacidad del método para refinar el enfoque en los impulsores dominantes.

Significancia y Reivindicaciones
El artículo afirma que DhondtXAI ofrece una herramienta complementaria e intuitiva para la IA Explicable. Su significancia radica en:

• Democratización de la Interpretabilidad: Al utilizar una metáfora política familiar (escaños parlamentarios), hace que las decisiones complejas del modelo sean accesibles para las partes interesadas no técnicas, fomentando un sentido de representación justa para las diferentes características.
• Flexibilidad Mejorada: La capacidad de formar alianzas y aplicar umbrales permite un análisis más matizado de las interacciones de las características y la reducción de ruido, algo que las métricas de importancia basadas en puntos tradicionales no apoyan explícitamente.
• Alineación con la IA Ética: El marco de representación proporcional se presenta como un paso hacia una IA ética, asegurando que la influencia de las características se distribuya de manera transparente y que los factores menores pero colectivamente significativos (vía alianzas) no sean pasados por alto.
• Validación: La fuerte correlación con SHAP en el conjunto de datos de cáncer de mama sugiere que DhondtXAI proporciona clasificaciones consistentes de la importancia de las características, validando su fiabilidad como una herramienta de interpretabilidad secundaria.

Los autores concluyen que, si bien DhondtXAI puede no reemplazar a los métodos granulares como SHAP para el análisis de predicciones individuales, proporciona un marco valioso, estructurado y socialmente resonante para comprender la influencia colectiva de las características en entornos de toma de decisiones de alto riesgo.