🤖 AI

Explainable AI Through a Democratic Lens: DhondtXAI for D'Hondt-Projected Feature Attribution

Cet article introduit DhondtXAI, un nouveau cadre d'IA explicable pour les données tabulaires indépendant de SHAP qui adapte la méthode de répartition de D'Hondt pour allouer l'attribution des caractéristiques à travers des effets inter-interventions de fond, des alliances de caractéristiques et des seuils, démontrant une grande précision dans les tests synthétiques et un fort accord avec SHAP sur des ensembles de données de santé tout en préservant la complétude par construction.

Auteurs originaux : Turker Berk Donmez

Publié 2026-06-02

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Turker Berk Donmez

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un programme informatique très intelligent mais mystérieux (une IA) qui aide les médecins à prédire si un patient souffre d'un cancer du sein ou de diabète. Le problème est que cet ordinateur est une « boîte noire ». Il donne une réponse, mais il n'explique pas facilement pourquoi il a fait ce choix. Il examine des dizaines d'indices (comme la taille des cellules, l'âge ou les symptômes), mais nous ne savons pas quels indices sont les plus importants.

Ce document présente une nouvelle façon de comprendre ces indices, appelée DhondtXAI. Au lieu d'utiliser un jargon mathématique complexe, l'auteur, Türker Berk Dönmez, décide de traiter le processus de prise de décision de l'IA comme une élection démocratique.

Voici comment cela fonctionne, décomposé en concepts simples :

1. Les caractéristiques sont des partis politiques

Dans une élection normale, différents partis politiques se présentent aux élections. Dans ce système d'IA, chaque « indice » (ou caractéristique) que l'ordinateur examine est traité comme un parti politique.

Les voix : L'ordinateur calcule l'importance de chaque indice. Ce score d'importance est transformé en « voix ». Un indice très important reçoit des millions de voix ; un indice moins important en reçoit moins.
Les sièges : L'objectif est de voir combien de « sièges » dans un parlement chaque indice remporte. Le nombre total de sièges est fixe (comme 600 sièges dans un parlement).

2. La méthode D'Hondt : Une façon équitable de compter

Le document utilise une règle spécifique appelée méthode D'Hondt pour compter les voix. C'est une règle du monde réel utilisée dans des pays comme la Turquie et l'Espagne pour s'assurer que les petits partis ont une chance équitable de représentation, et pas seulement les plus grands.

Comment ça marche : Imaginez que l'ordinateur dispose de 600 sièges vides à remplir. Il regarde qui a le plus de voix et leur donne un siège. Ensuite, il recalcule les probabilités pour tous les autres. Il distribue les sièges un par un jusqu'à ce que les 600 soient tous occupés.
Le résultat : Les indices qui obtiennent le plus de « sièges » sont ceux sur lesquels l'IA s'est le plus appuyée pour prendre sa décision. Si la « Forme des cellules » obtient 124 sièges et que l'« Âge » n'en obtient que 26, vous savez que l'ordinateur a beaucoup plus accordé d'importance à la forme de la cellule qu'à l'âge du patient.

3. Former des alliances (Le travail d'équipe)

Dans la politique réelle, les petits partis s'unissent parfois pour former une « coalition » ou une « alliance » afin de remporter plus de sièges ensemble. DhondtXAI vous permet de faire la même chose avec les indices de l'IA.

L'exemple : Dans l'étude sur le diabète, l'auteur a regroupé les symptômes apparentés. Au lieu de traiter la « soif », la « miction fréquente » et la « perte de poids » comme trois partis distincts, il les a placés dans une grande alliance « Symptômes du diabète ».
Le bénéfice : Cette alliance a combiné leurs voix. Soudain, ce « super-parti » a remporté un nombre massif de sièges (361 sur 600), montant que les symptômes en tant que groupe sont le prédicteur le plus puissant, même si les symptômes individuels peuvent paraître faibles pris séparément.

4. Le filtre de seuil (La barre minimale)

Parfois, il y a trop de petits partis (ou d'indices peu importants) qui encombrent le parlement. Le document introduit un seuil, qui est comme une barre minimale qu'un parti doit franchir pour entrer dans l'élection.

Comment ça marche : L'utilisateur peut dire : « Seuls les partis ayant au moins 10 % des voix obtiennent un siège. »
Le résultat : Tout indice qui n'a pas atteint le niveau requis est expulsé. Ses voix sont ensuite redistribuées aux indices plus forts qui ont réussi à passer le seuil. Cela nettoie le bruit et ne laisse qu'une liste claire des facteurs les plus importants.

Qu'ont-ils découvert ?

L'auteur a testé cette nouvelle « méthode électorale » par rapport à une méthode standard et bien connue appelée SHAP (qui utilise des mathématiques complexes pour expliquer l'IA).

Test du cancer du sein : Lorsqu'ils ont lancé le test sur un modèle de cancer du sein, l'« Élection » et les « Mathématiques » étaient presque parfaitement d'accord. Les indices qui ont remporté le plus de sièges au parlement étaient exactement les mêmes que ceux que les mathématiques ont déclarés comme étant les plus importants.
Test du diabète : Ils ont fait la même chose pour le diabète. Encore une fois, les résultats concordaient. L'« Alliance » des symptômes du diabète a remporté l'élection, confirmant que ces symptômes sont les moteurs clés de la prédiction.

Pourquoi est-ce important ?

Le document soutient que cette méthode est excellente car elle transforme des données ennuyeuses et confuses en une histoire que nous comprenons tous : la politique.

Au lieu de regarder un tableur de chiffres, un médecin ou un patient peut regarder un « Parlement » et voir quels « partis » (indices) détiennent le plus de pouvoir.
Cela rend l'IA plus transparente et équitable, comme une démocratie où chaque voix (indice) a une chance d'être entendue, mais où les voix les plus fortes (indices les plus importants) obtiennent le plus de sièges.

En résumé, DhondtXAI prend la logique invisible et effrayante d'une IA et la transforme en une élection démocratique visible où l'on peut clairement voir qui est aux commandes de la décision.

Résumé Technique : L'IA explicable à travers un prisme démocratique : DhondtXAI pour l'importance proportionnelle des caractéristiques via la méthode D'Hondt

Énoncé du problème
L'article traite du défi de l'interprétabilité des modèles d'apprentissage automatique complexes, en particulier les systèmes « boîte noire » tels que les réseaux de neurones et les modèles d'ensemble basés sur des arbres (ex. CatBoost, XGBoost). Bien que les techniques existantes d'IA explicable (XAI) telles que SHAP (Shapley Additive Explanations) et LIME fournissent des explications post-hoc, les auteurs soutiennent qu'il est nécessaire de disposer de cadres alternatifs offrant des représentations plus intuitives, structurées et transparentes de l'importance des caractéristiques. Plus précisément, l'article cherche à combler le fossé entre la mécanique technique du modèle et la compréhension humaine en adaptant les principes des systèmes électoraux démocratiques au domaine de l'attribution des caractéristiques. Le problème central est la manière de représenter l'importance des caractéristiques pour permettre une représentation proportionnelle, la formation d'alliances (regroupement de caractéristiques liées) et le seuillage (filtrage des variables à faible impact), améliorant ainsi la confiance de l'utilisateur et la clarté dans des domaines à enjeux élevés comme la santé.

Méthodologie
L'étude introduit DhondtXAI, une bibliothèque et une méthodologie qui applique la méthode D'Hondt — un système de représentation proportionnelle utilisé dans les élections politiques — pour allouer des « sièges » (unités représentatives) aux caractéristiques ou aux groupes de caractéristiques en fonction de leur importance calculée. La méthodologie suit ces étapes structurées :

Calcul de l'importance des caractéristiques : Le processus commence par l'extraction standard de l'importance des caractéristiques à partir de modèles basés sur des arbres (Forêts Aléatoires, Gradient Boosted Trees). Celle-ci est calculée en agrégeant la réduction de l'impureté (Gain d'Information) à travers tous les nœuds et arbres où une caractéristique est utilisée comme critère de division.
Paramètres définis par l'utilisateur : Le cadre permet aux utilisateurs de spécifier :
- Total des voix ( $V$ ) : Un scalaire représentant la ressource totale à distribuer.
- Total des sièges ( $M$ ) : Le nombre d'unités représentatives à allouer.
- Exclusions : Les caractéristiques à retirer de l'analyse.
- Alliances : Groupements de caractéristiques définis par l'utilisateur et traités comme des entités de vote uniques.
- Seuil : Un pourcentage minimum de voix requis pour être éligible à l'allocation de sièges.
Distribution des voix : Les voix initiales sont allouées aux caractéristiques ou aux alliances proportionnellement à leurs scores d'importance par rapport à l'importance totale de l'ensemble.
Application du seuil et redistribution : Si un seuil défini par l'utilisateur est établi, les caractéristiques ou alliances tombant en dessous de ce nombre de voix sont exclues. Leurs voix sont ensuite redistribuées proportionnellement parmi les entités restantes « au-dessus du seuil » sur la base de leur importance relative.
Allocation des sièges (Méthode D'Hondt) : Les sièges finaux sont distribués de manière itérative. Pour chaque caractéristique/alliance $i$ , un ratio de siège $S_i$ est calculé tel que $S_i = \frac{\text{voix\_redistribuées}_i}{k + 1}$ , où $k$ est le nombre actuel de sièges détenus. L'entité ayant le $S_i$ le plus élevé reçoit le siège suivant, $k$ est incrémenté, et le processus se répète jusqu'à ce que tous les $M$ sièges soient alloués.

Principales contributions

Cadre novateur : L'article présente DhondtXAI, une approche novatrice qui traduit l'importance des caractéristiques en une vue « parlementaire », où les caractéristiques sont en compétition pour des sièges selon une représentation proportionnelle.
Mécanisme d'alliance : Il introduit le concept d'« alliances de caractéristiques », permettant aux utilisateurs de regrouper des variables liées (par exemple, les symptômes d'une maladie) pour évaluer leur impact collectif, de manière analogue aux partis politiques formant des coalitions.
Seuillage : Il incorpore un seuil de type électoral pour filtrer le bruit, garantissant que seules les caractéristiques ayant une influence significative sont mises en évidence dans l'interprétation finale.
Intégration avec l'XAI standard : La méthode est conçue pour compléter les techniques existantes comme SHAP, en offrant une perspective d'allocation de ressources aux côtés de l'attribution mathématique traditionnelle.

Résultats
L'étude valide DhondtXAI à l'aide de deux jeux de données :

Jeu de données sur le cancer du sein du Wisconsin (Modèle CatBoost) :
- Le modèle a atteint une précision de 96 % et un AUC de 1,00.
- DhondtXAI a alloué 600 sièges à 10 caractéristiques. « Mean concave points » a reçu le plus de sièges (124), suivi de « mean texture » (121).
- Une analyse de corrélation de Spearman entre les comptes de sièges de DhondtXAI et les valeurs SHAP globales a produit un coefficient de 0,83 ( $p=0,0029$ ), indiquant une corrélation positive forte et statistiquement significative.
- La visualisation parlementaire a réussi à refléter l'identification des principales caractéristiques par SHAP ainsi que leurs corrélations directionnelles (ex. rouge pour une corrélation négative avec les résultats bénins).
Jeu de données de prédiction du risque de diabète précoce (Modèle XGBoost) :
- Le modèle a atteint 98 % de précision et un AUC de 1,00.
- Les caractéristiques ont été regroupées en alliances (ex. Diabetes_Symptoms, Metabolic_Body).
- L'alliance Diabetes_Symptoms a dominé l'allocation avec 361 des 600 sièges.
- Une corrélation de Spearman entre les comptes de sièges des alliances et les valeurs moyennes de SHAP était de 0,40 ( $p=0,505$ ), ce qui n'est pas statistiquement significatif. Les auteurs notent cette divergence mais soutiennent que l'approche basée sur les alliances offre une perspective différente et plus intuitive pour les caractéristiques groupées.
- Application du seuil : L'application d'un seuil de voix de 10 % a filtré les alliances Vision_Nervous et Psychological (réduisant leurs sièges à 0), tout en augmentant les comptes de sièges pour les trois premières alliances (Metabolic_Body, Diabetes_Symptoms, Skin_Infection), démontant la capacité de la méthode à affiner la focalisation sur les moteurs dominants.

Signification et affirmations
L'article affirme que DhondtXAI offre un outil complémentaire et intuitif pour l'IA explicable. Sa signification réside dans :

Démocratiser l'interprétabilité : En utilisant une métaphore politique familière (les sièges parlementaires), il rend les décisions de modèles complexes accessibles aux parties prenantes non techniques, favorisant un sentiment de représentation équitable pour les différentes caractéristiques.
Flexibilité accrue : La capacité de former des alliances et d'appliquer des seuils permet une analyse plus nuancée des interactions entre caractéristiques et de la réduction du bruit, ce que les mesures d'importance basées sur des points ne supportent pas explicitement.
Alignement avec l'IA éthique : Le cadre de représentation proportionnelle est présenté comme une étape vers une IA éthique, garantissant que l'influence des caract est distribuée de manière transparente et que les facteurs mineurs mais collectivement significatifs (via les alliances) ne sont pas négligés.
Validation : La forte corrélation avec SHAP dans le jeu de données sur le cancer du sein suggère que DhondtXAI fournit des classements cohérents de l'importance des caractéristiques, validant sa fiabilité en tant qu'outil d'interprétabilité secondaire.

Les auteurs concluent que, bien que DhondtXAI ne puisse pas remplacer les méthodes granulaires comme SHAP pour l'analyse de prédictions individuelles, il fournit un cadre structuré et socialement résonnant pour comprendre l'influence collective des caractéristiques dans des environnements de prise de décision à enjeux élevés.