Explainable AI Through a Democratic Lens: DhondtXAI for D'Hondt-Projected Feature Attribution

Technische Samenvatting: Explainable AI door een Democratische Lens: DhondtXAI voor Proportionele Feature Belangrijkheid middels de D'Hondt-methode

Probleemstelling
Het artikel behandelt de uitdaging van interpreteerbaarheid in complexe machine learning-modellen, met name "black box"-systemen zoals neurale netwerken en ensemble tree-gebaseerde modellen (bijv. CatBoost, XGBoost). Hoewel bestaande Explainable AI (XAI)-technieken zoals SHAP (Shapley Additive Explanations) en LIME post-hoc verklaringen bieden, betogen de auteurs dat er behoefte is aan alternatieve frameworks die meer intuïtieve, gestructureerde en transparante representaties van feature-belangrijkheid bieden. Specifiek streeft het artikel ernaar de kloof tussen technische modelmechanica en menselijk begrip te overbruggen door principes uit democratische kiesstelsels toe te passen op het domein van feature-attributie. Het kernproblek is hoe feature-belangrijkheid gerepresenteerd kan worden op een manier die proportionele representatie, alliantievorming (het groeperen van gerelateerde features) en drempelwaarden (het filteren van variabelen met een lage impact) mogelijk maakt, waardoor het vertrouwen en de helderheid voor de gebruiker in hoog-risico velden zoals de gezondheidszorg wordt vergroot.

Methodologie
De studie introduceert DhondtXAI, een bibliotheek en methodologie die de D'Hondt-methode — een systeem van evenredige vertegenwoordiging gebruikt bij politieke verkiezingen — toepast om "zetels" (representatieve eenheden) toe te wijzen aan features of featuregroepen op basis van hun berekende belang. De methodologie verloopt via de volgende gestructureerde stappen:

1. Berekening van Feature Belangrijkheid: Het proces begint met de standaard extractie van feature-belangrijkheid uit tree-gebaseerde modellen (Random Forests, Gradient Boosted Trees). Dit wordt berekend door de reductie in onzuiverheid (Information Gain) te aggregeren over alle nodes en bomen waarin een feature wordt gebruikt als splitsingscriterium.
2. Door de Gebruiker Gedefinieerde Parameters: Het framework stelt gebruikers in staat om het volgende te specificeren:
   • Totaal aantal Stemmen ($V$): Een scalar die de totale middelen vertegenwoordigt die verdeeld moeten worden.
   • Totaal aantal Zetels ($M$): Het aantal representatieve eenheden dat toegewezen moet worden.
   • Uitsluitingen (Exclusions): Features die uit de analyse verwijderd moeten worden.
   • Allianties: Door de gebruiker gedefinieerde groeperingen van features die als één stemmende entiteit worden behandeld.
   • Drempelwaarde (Threshold): Een minimaal percentage stemmen dat vereist is om in aanmerking te komen voor zeteltoewijzing.
3. Stemverdeling: Initiële stemmen worden aan features of allianties toegewezen op basis van hun belangscores in verhouding tot het totale belang van de set.
4. Toepassing van Drempelwaarde en Herverdeling: Indien een door de gebruiker gedefinieerde drempelwaarde is ingesteld, worden features of allianties die onder dit stemmenaantal vallen, uitgesloten. Hun stemmen worden vervolgens proportioneel herverdeeld onder de resterende entiteiten die "boven de drempelwaarde" liggen, gebaseerd op hun relatieve belang.
5. Zeteltoewijzing (D'Hondt-methode): De uiteindelijke zetels worden iteratief verdeeld. Voor elke feature/alliantie $i$ wordt een zetelratio $S_i$ berekend als $S_i = \frac{\text{herverdeelde\_stemmen}_i}{k + 1}$, waarbij $k$ het huidige aantal bezette zetels is. De entiteit met de hoogste $S_i$ ontvangt de volgende zetel, $k$ wordt geïncrementeerd, en het proces herhaalt zich totdat alle $M$ zetels zijn toegewezen.

Belangrijkste Bijdragen

• Nieuw Framework: Het artikel presenteert DhondtXAI, een innovatieve benadering die feature-belangrijkheid vertaalt naar een "parlementair" perspectief, waarbij features strijden om zetels op basis van evenredige vertegenwoordiging.
• Alliantiemechanisme: Het introduceert het concept van "feature-allianties", waardoor gebruikers gerelateerde variabelen (bijv. symptomen van een ziekte) kunnen groeperen om hun collectieve impact te evalueren, analoog aan politieke partijen die coalities vormen.
• Drempelwaardering (Thresholding): Het incorporeert een electorale drempelwaarde om ruis te filteren, wat ervoor zorgt dat alleen features met een significante invloed worden gehighlight in de uiteindelijke interpretatie.
• Integratie met Standaard XAI: De methode is ontworpen om bestaande technieken zoals SHAP te complementeren, door een perspectief van middelenallocatie te bieden naast traditionele mathematische attributie.

Resultaten
De studie valideert DhondtXAI met behulp van twee datasets:

1. Wisconsin Breast Cancer Dataset (CatBoost Model):

   • Het model bereikte een nauwkeurigheid van 96% en een AUC van 1.00.
   • DhondtXAI verdeelde 600 zetels over 10 features. "Mean concave points" ontving de meeste zetels (124), gevolgd door "mean texture" (121).
   • Een Spearman-correlatieanalyse tussen de DhondtXAI-zetelaantallen en de globale SHAP-waarden leverde een coëfficiënt op van 0.83 ($p=0.0029$), wat wijst op een sterke, statistisch significante positieve correlatie.
   • De parlementaire visualisatie weerspiegelde succesvol de identificatie van top-features door SHAP en de directionele correlaties (bijv. rood voor negatieve correlatie met goedaardige uitkomsten).

2. Early Stage Diabetes Risk Prediction Dataset (XGBoost Model):

   • Het model bereikte een nauwkeurigheid van 98% en een AUC van 1.00.
   • Features werden gegroepeerd in allianties (bijv. Diabetes_Symptoms, Metabolic_Body).
   • De Diabetes_Symptoms-alliantie domineerde de toewijzing met 361 van de 600 zetels.
   • Een Spearman-correlatie tussen de zetelaantallen van de allianties en de gemiddelde SHAP-waarden was 0.40 ($p=0.505$), wat niet statistisch significant was. De auteurs merken deze discrepantie op, maar stellen dat de alliantie-gebaseerde benadering een ander, meer intuïtief perspectief biedt voor gegroepeerde features.
   • Toepassing van Drempelwaarde: Het toepassen van een stemdrempel van 10% filterde de Vision_Nervous en Psychological allianties weg (waardoor hun zetels naar 0 daalden), terwijl dit de zetelaantallen voor de top drie allianties (Metabolic_Body, Diabetes_Symptoms, Skin_Infection) verhoogde, wat de capaciteit van de methode demonstreert om de focus te verfijnen op dominante drijfveren.

Betekenis en Claims
Het artikel claimt dat DhondtXAI een complementair en intuïtief instrument is voor Explainable AI. De betekenis ligt in:

• Democratisering van Interpreteerbaarheid: Door een bekend politiek metafoor (parlementaire zetels) te gebruiken, maakt het complexe modelbeslissingen toegankelijk voor niet-technische belanghebbenden, wat een gevoel van eerlijke representatie voor verschillende features bevordert.
• Verhoogde Flexibiliteit: De mogelijkheid om allianties te vormen en drempelwaarden toe te passen, maakt een meer genuanceerde analyse van feature-interacties en ruisonderdrukking mogelijk, wat standaard puntgebaseerde belangrijkheidsmetrieken niet expliciet ondersteunen.
• Uitlijning met Ethische AI: Het framework van evenredige vertegenwoordiging wordt gepresenteerd als een stap richting ethische AI, waarbij wordt gewaarborgd dat de invloed van features transparant wordt verdeeld en dat minder belangrijke, maar collectief significante factoren (via allianties) niet worden over het hoofd gezien.
• Validatie: De sterke correlatie met SHAP in de borstkankerdataset suggereert dat DhondtXAI consistente rangschikkingen van feature-belangrijkheid biedt, wat de betrouwbaarheid als secundair interpreteerbaar instrument valideert.

De auteurs concluderen dat hoewel DhondtXAI de fijnmazige methoden zoals SHAP voor individuele predictie-analyse mogelijk niet vervangt, het een waardevol, gestructureerd en sociaal resonant framework biedt voor het begrijpen van de collectieve invloed van features in omgevingen waar besluitvorming grote impact heeft.