Explaining Temporal Graph Predictions With Shapley Values
Dit artikel introduceert twee nieuwe, model-agnostische methoden op basis van Shapley- en Owen-waarden om de voorspellingen van temporele grafische neurale netwerken (TGNN's) op zowel gebeurtenis- als kenmerkenniveau uit te leggen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een superintelligente digitale detective bent die probeert te voorspellen wat er in een drukke stad gaat gebeuren. Je kijkt naar de verkeersstromen, wie met wie praat in de kroeg, en wanneer de trein arriveert. Dit soort complexe, veranderende netwerken noemen wetenschappers "Temporal Graphs" (tijdelijke netwerken).
Computers gebruiken hiervoor slimme modellen (TGNN's) om voorspellingen te doen. Maar er is één groot probleem: deze modellen zijn als een "Black Box". Ze geven je wel het antwoord ("Er gaat een file ontstaan om 17:00 uur"), maar ze vertellen je niet waarom. Ze geven geen uitleg. Dat is gevaarlijk! Als een computer in een ziekenhuis of bij een bank een beslissing neemt, willen we weten of hij naar de juiste signalen kijkt of dat hij gewoon een foutje maakt.
Dit wetenschappelijke artikel introduceert een manier om die Black Box open te breken.
De oplossing: De "Verdeling van de Eer"
De onderzoekers gebruiken een wiskundige methode genaamd Shapley-waarden. Om dit uit te leggen, gebruiken we een analogie:
De Analogie van de Pizza-Party 🍕
Stel je voor dat een groep vrienden samen een pizza heeft besteld en de rekening betaalt. Aan het eind van de avond is iedereen super blij (het resultaat). Maar wie heeft nu eigenlijk de meeste bijgedragen aan de goede sfeer? Was het de vriend die de muziek meenam? De vriend die de pizza bestelde? Of de vriend die de gezelligheid bracht?
De Shapley-methode is een eerlijke manier om de "credits" te verdelen. Het kijkt niet alleen naar wat iemand doet als hij er is, maar ook naar wat de groep zou hebben gemist als hij er niet was geweest.
Twee nieuwe "Detectives"
De onderzoekers hebben twee nieuwe tools gebouwd:
De Event-Detective (De 'Wie'-zoeker):
Deze tool kijkt naar de gebeurtenissen in het netwerk. In onze pizza-analogie: "Was het de muziek of de pizza die de avond redde?" In de echte wereld: "Was het die specifieke telefoontjes tussen twee mensen om 14:00 uur die de voorspelling bepaalden?" Het vertelt je welke gebeurtenissen belangrijk waren en of ze de voorspelling positief of negatief beïnvloedden.De Feature-Detective (De 'Wat'-zoeker):
Deze gaat nog een stapje dieper. Hij kijkt niet alleen naar de gebeurtenis, maar naar de details binnen die gebeurtenis. In de pizza-analogie: "De pizza was belangrijk, maar was het de kaas of de bodem die het verschil maakte?" In de echte wereld: "Was het de tijd waarop het gesprek plaatsvond, of de inhoud van het gesprek?"
Een spectaculaire ontdekking: De "Spook-tijd" 👻
Het mooiste van dit onderzoek is dat de nieuwe tools een fout in een bestaand, populair computerprogramma ontdekten.
De onderzoekers merkten dat het model soms de tijd kon voorspellen, terwijl het eigenlijk niet de mogelijkheid had om de exacte kloktijd te weten. Het was alsof een detective een misdaad oploste door te zeggen: "De dader moet wel om 14:00 uur zijn geweest, want ik voel dat de klok op die stand stond," terwijl de dader geen horloge droeg!
De Feature-Detective ontdekte dat het model een soort "spook-informatie" gebruikte. Wanneer er even helemaal niets gebeurde in het netwerk, vulde de computer dat gat zelf in met een soort standaardwaarde. Hierdoor lekte er onbedoeld informatie over de tijd naar binnen. Dankzij deze nieuwe methode konden de wetenschappers dit foutje vinden en repareren.
Samenvatting
In gewone mensentaal: Deze onderzoekers hebben een nieuwe, eerlijke manier bedacht om computers te vragen: "Waarom denk je dat dit gaat gebeuren?" Ze kunnen nu precies aanwijzen welke gebeurtenis en welk specifiek detail de doorslag gaven. Hierdoor worden slimme systemen niet alleen slimmer, maar ook betrouwbaarder en begrijpelijker voor ons mensen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.