Explaining a probabilistic prediction on the simplex with Shapley compositions

Technische Samenvatting: Het verklaren van een probabilistische voorspelling op de simplex met Shapley-composities

Probleemstelling
Machine learning-modellen, in het bijzonder modellen die multiclass-classificatie uitvoeren, geven vaak discrete waarschijnlijkheidsverdelingen weer in plaats van scalaire waarden. Deze outputs bevinden zich op een multidimensionale simplex. Hoewel Shapley-waarden een standaardinstrument zijn voor het verklaren van scalaire voorspellingen door de bijdragen van kenmerken te kwantificeren, is hun directe toepassing op multiclass-settings problematisch. Huidige benaderingen berekenen doorgaans Shapley-waarden afzonderlijk voor elke klasse (one-vs-rest of one-vs-one). Deze methode negeert het compositionele karakter van de output, waarbij de relatieve waarden tussen waarschijnlijkheden significanter zijn dan absolute waarden, en faalt in het respecteren van de geometrische structuur van de waarschijnlijkheidssimplex. Bovendien kan het afzonderlijk berekenen van waarden voor elke klasse tot incoherente verklaringen leiden, waarbij het cumulatieve pad van een basisvoorspelling naar de uiteindelijke voorspelling de simplex-ruimte verlaat.

Methodologie
De auteurs stellen Shapley-composities voor, een raamwerk dat Shapley-waarden uitbreidt naar de ruimte van discrete waarschijnlijkheidsverdelingen met behulp van Aitchison-geometrie uit de compositionele data-analyse.

1. Aitchison-geometrie: Het artikel behandelt de waarschijnlijkheidssimplex ($S_D$) niet als een standaard Euclidische ruimte, maar als een ruimte met specifieke operaties:

   • Perturbatie ($\oplus$): Fungeert als optelling tussen composities.
   • Machtsverheffing ($\odot$): Fungeert als scalaire vermenigvuldiging.
   • Inwendig product: Gedefinieerd via log-ratio's van delen.
   • Isometric Log-Ratio (ILR) Transformatie: Brengt de simplex naar een $(D-1)$-dimensionale Euclidische ruimte ($\mathbb{R}^{D-1}$), waarbij de metriek behouden blijft en standaard vectoroperaties (optelling, aftrekking) perturbaties en machtsverheffingen kunnen representeren.

2. Definitie van Shapley-compositie:

   • De karakteristieke functie wordt hergedefinieerd om deelverzamelingen van kenmerken te mappen naar de simplex met behulp van Aitchison-aftrekking ($\ominus$), wat de verandering in de verwachte voorspelling vertegenwoordigt wanneer kenmerken worden geobserveerd.
   • De Shapley-compositie voor een kenmerk wordt gedefinieerd als het gemiddelde van deze perturbaties over alle mogelijke coalities, berekend met behulp van Aitchison-operaties (perturbatie en machtsverheffing) in plaats van standaard sommatie en schaling.
   • Wiskundig gezien is de Shapley-compositie $\phi_i$ de unieke grootheid die voldoet aan Lineariteit, Symmetrie en Efficiëntie op de Aitchison-simplex.
   • Efficiëntie in deze context zorgt ervoor dat de perturbatie van de basisverdeling (verwachte voorspelling) door de som van alle Shapley-composities gelijk is aan de uiteindelijke voorspelde verdeling: $\bigoplus_{i=1}^d \phi_i = f(x) \ominus E_A[f(X)]$.

3. Visualisatie en Analyse:

   • ILR-ruimte: Shapley-composities worden gevisualiseerd als vectoren in de $(D-1)$-dimensionale ILR-ruimte. Dit maakt de analyse van hoeken (orthogonaliteit/redundantie), normen (sterkte van bijdrage) en projecties op klasse-composities (richting van invloed) mogelijk.
   • Alternatieve Visualisaties: Voor hogere dimensies suggereert het artikel het visualiseren van composities als histogrammen (die de distributionele verschuiving per kenmerk tonen) of het gebruik van parallelle coördinaten om de opeenvolgende perturbatie van de waarschijnlijkheidsverdeling van de basis naar de voorspelling te volgen.

Belangrijkste Bijdragen

• Formele Definitie: Het artikel definieert Shapley-composities als een gefundeerde, multidimensionale uitbreiding van Shapley-waarden naar de waarschijnlijkheidssimplex voor het verklaren van multiclass-waarschijnlijkheidsvoorspellingen.
• Axiomatisch Bewijs: De auteurs bewijzen dat de Shapley-compositie de unieke grootheid is die voldoet aan lineariteit, symmetrie en efficiëntie op de Aitchison-simplex, waardoor de theoretische basis van Shapley-waarden naar multiclass-settings wordt uitgebreid.
• Geometrisch Raamwerk: Het werk vestigt een coherente geometrische interpretatie waarbij kenmerkbijdragen additieve perturbaties op de simplex zijn, waardoor incoherente one-vs-rest benaderingen die de waarschijnlijkheidsruimte verlaten, worden vermeden.
• Visualisatietools: Het artikel introduceert specifie perfecte visualisatietechnieken (ILR-plots, histogrammen, parallelle coördinaten) die zijn afgestemd op het interpreteren van deze multidimensionale bijdragen.

Resultaten en Demonstraties
Het artikel biedt proof-of-concept demonstraties in plaats van grootschalige empirische benchmarks:

• Iris Dataset (3 Klassen): Gevisualiseerd in een 2D ILR-ruimte, waarbij wordt getoond hoe kenmerken zoals bloembladlengte en -breedte de basisverdeling naar de "versicolor"-regio perturberen. De analyse benadrukt hoe Shapley-composities de afweging tussen klassen (bijv. een kenmerk dat de kans op één klasse vergroot, verlaagt noodzakelijkerwijs andere klassen) coherenter vastleggen dan afzonderlijke SHAP-waarden.
• Digit Recognition (4 en 10 Klassen):
  • Een 4-klasse taak (cijfers 0–3) wordt gevisualiseerd in een 3D ILR-ruimte, wat de tetraëderstructuur van de simplex illustreert.
  • Een 10-klasse taak demonstreert het gebruik van balansen (log-ratio's van groepen klassen) om specifieke ILR-componenten te interpreteren. Dit stelt gebruikers in staat om zich te concentreren op subruimtes die specifieke groepen klassen vergelijken (bijv. oneven vs. even, of specifieke cijferparen) zonder de volledige hoogdimensionale ruimte te visualiseren.
• Schatting: De auteurs passen bestaande bemonsteringsalgoritmen (uit de SHAP-toolkit) aan om Shapley-composities te schatten, waarbij zij opmerken dat aanpassingen nodig zijn om ervoor te zorgen dat de efficiëntie-eigenschap standhoudt voor benaderingen.

Betekenis en Claims
Het artikel beweert de eerste te zijn die een formeel uitbreidingskader voor de Shapley-waarde voorstelt naar de multidimensionale simplex voor het verklaren van multiclass-waarschijnlijkheidsvoorspellingen.

• Theoretische Fundering: De primaire bijdrage is theoretisch en methodologisch, en biedt een "goed onderbouwde" manier om met het compositionele karakter van multiclass-outputs om te gaan.
• Coherentie: Het lost het probleem van one-vs-rest verklaringen op door ervoor te zorgen dat het verklarend pad binnen de waarschijnlijkheidssimplex blijft en de distributie als één entiteit behandelt.
• Toekomstig Werk: De auteurs merken bescheiden op dat hun experimentele resultaten beperkt zijn tot illustratieve voorbeelden. Zij identificeren de computationele complexiteit (schaalbaarheid met het aantal kenmerken) en de aanname van kenmerkonafhankelijkheid als huidige beperkingen, wat de ontwikkeling van schattingsalgoritmen voor afhankelijke kenmerken en grootschalige toepassingen openlaat voor toekomstig onderzoek.