📊 statistics

Explanation of Dynamic Physical Field Predictions using WassersteinGrad: Application to Autoregressive Weather Forecasting

Dit artikel introduceert **WassersteinGrad**, een nieuwe methode die de uitlegbaarheid van neurale netwerken bij dynamische fysieke velden (zoals weersvoorspellingen) verbetert door geometrische consensus te berekenen via Wasserstein-barycentra, waardoor het probleem van onscherpe verklaringen door ruimtelijke verschuivingen wordt opgelost.

Oorspronkelijke auteurs: Younes Essafouri, Laure Raynaud, Luciano Drozda, Laurent Risser

Gepubliceerd 2026-04-27

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Younes Essafouri, Laure Raynaud, Luciano Drozda, Laurent Risser

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een supergeavanceerde weersvoorspeller hebt: een AI die precies kan vertellen of het morgen in Parijs gaat regenen. Maar er is één probleem: de AI is een "black box". Hij geeft je het antwoord, maar hij legt niet uit waarom. Hij zegt niet: "Ik voorspel regen omdat er een storm uit de Atlantische Oceaan aankomt."

Dit wetenschappelijke artikel beschrijft een nieuwe manier om die AI een stem te geven, zodat we begrijpen waar hij naar kijkt.

Hier is de uitleg in begrijpelijke taal:

Het probleem: De "Wazige Verklaring"

Om te begrijpen waarom een AI iets voorspelt, gebruiken wetenschappers vaak een trucje: ze voegen een klein beetje "ruis" (een soort digitale sneeuw) toe aan de data en kijken hoe de AI reageert. Als de AI heel erg verandert door een klein beetje ruis, weten we welke gebieden belangrijk zijn.

Maar bij weersvoorspellingen gaat er iets mis. De huidige methode werkt als een camera die probeert een bewegende auto te fotograferen met een te lange sluitertijd.

Stel je voor dat je een foto maakt van een rennende hond. Als je de camera een beetje laat trillen (de ruis), krijg je geen scherpe foto van de hond, maar een wazige, grijze vlek die nergens echt op lijkt. In de meteorologie zorgt die ruis ervoor dat de "belangrijke gebieden" (zoals een stormfront) op de kaart gaan zweven of verschuiven. De AI zegt eigenlijk: "De storm komt uit het noorden," maar door de ruis lijkt de uitleg te zeggen: "De storm komt uit de oceaan," terwijl dat niet klopt. De uitleg is geometrisch verschoven.

De oorzaak: De architectuur van de AI

De onderzoekers ontdekten dat dit niet zomaar een foutje is, maar dat het in de "hersenen" van de AI zit. Ze vergelijken de twee belangrijkste onderdelen van de AI met twee verschillende systemen:

De CNN (Convolutional Neural Network): Dit is als een puzzel met magnetische stukjes. Als je een klein beetje ruis toevoegt, kan een magnetisch stukje plotseling naar een ander plekje springen. Hierdoor "springt" de uitleg van de AI ineens naar een verkeerde plek op de kaart.
De Transformer (Attention mechanism): Dit is als een groep mensen in een drukke kamer die naar elkaar kijken om te bepalen wie de belangrijkste is. Als je één persoon een beetje verstoort (ruis), kan de hele groep ineens naar een andere hoek van de kamer kijken. De hele "aandacht" van de AI verschuift plotseling naar een ander gebied.

De oplossing: WassersteinGrad (De "Slimme Verzamelaar")

De auteurs hebben een nieuwe methode bedacht: WassersteinGrad.

In plaats van alle wazige, verschoven foto's van de storm simpelweg op elkaar te stapelen (wat alleen maar een nog grotere grijze vlek oplevert), gebruikt deze methode een wiskundig concept genaamd de Wasserstein Barycenter.

Denk hierbij aan een groep mensen die een zware bank door een kamer moet duwen.

De oude methode was als het simpelweg in het midden van de kamer gaan staan waar iedereen toevallig was.
De nieuwe methode (WassersteinGrad) kijkt naar de beweging en de vorm van de groep. Het zoekt naar de plek waar de bank het meest logisch en efficiënt geplaatst kan worden, rekening houdend met de afstand die iedereen moet afleggen.

In plaats van de wazige vlekken te middelen, "verplaatst" de methode de informatie weer terug naar de juiste plek. Het zoekt naar een geometrisch compromis. Het resultaat? Een scherpe, heldere kaart die precies laat zien: "Kijk, de wind in de hogere luchtlagen zorgt voor de regen in Parijs."

Waarom is dit belangrijk?

Als we AI gaan gebruiken voor belangrijke beslissingen — zoals het waarschuwen voor overstromingen of het sturen van vliegtuigen — kunnen we het ons niet veroorloven dat de AI een "black box" blijft. We moeten kunnen vertrouwen op zijn uitleg.

WassersteinGrad zorgt ervoor dat de AI niet alleen zegt wat er gaat gebeuren, maar dat hij het ook op de juiste plek op de kaart kan aanwijzen. Het maakt de AI niet alleen slimmer, maar vooral betrouwbaarder.

Technische Samenvatting: WassersteinGrad voor Autoregressieve Weervoorspellingen

1. Het Probleem: Geometrische Verschuiving in XAI

De auteurs adresseren een fundamenteel probleem bij het gebruik van Explainable AI (XAI) in kritieke domeinen zoals de meteorologie. Bij het verklaren van voorspellingen van diepe neurale netwerken (via gradiënt-gebaseerde methoden zoals SmoothGrad) wordt vaak gebruikgemaakt van het middelen van gradiënten van licht geperturbeerde (verstoorde) inputs om ruis te verminderen.

In de context van dynamische fysieke velden (zoals weerkaarten) faalt deze strategie van punctuele middeling (pointwise averaging). De auteurs ontdekken dat inputruis niet alleen zorgt voor amplitude-ruis (waarbij de waarde op een pixel verandert), maar vooral voor geometrische verschuivingen (waarbij de 'massa' van de verklaring naar een fysiek onjuiste locatie verplaatst). Dit fenomeen lijkt sterk op de "fasefout" die bekend is in de meteorologie: de juiste fenomenen voorspellen, maar op de verkeerde plek.

Mechanistische oorzaken:

CNN's: Door de interactie tussen ReLU-activaties en max-pooling kunnen ruispieken de argmax-locatie verschuiven, waardoor gradiënten fysiek worden verplaatst.
Transformers: De self-attention mechanismen werken als een interactief deeltjessysteem. Vanwege de niet-Lipschitz continuïteit en het bestaan van meerdere lokale maxima in de energie-landschappen, kunnen kleine inputperturbaties het systeem naar verschillende "basins of attraction" duwen, wat leidt tot fundamenteel verschillende ruimtelijke patronen (token routing).
Autoregressie: Bij autoregressieve modellen (waarbij de output van stap $t$ de input is voor $t+1$ ) stapelen deze geometrische fouten zich op, wat leidt tot enorme ruimtelijke afwijkingen bij langere voorspeltijden.

2. Methodologie: WassersteinGrad

Om dit probleem op te lossen, introduceren de auteurs WassersteinGrad. In plaats van de gradiënten simpelweg per pixel op te tellen, beschouwt deze methode de gradiëntkaarten als ruimtelijke waarschijnlijkheidsmaten.

De stappen van het algoritme:

Perturbatie: Genereer $N$ versies van de input door Gaussische ruis toe te voegen aan de relevante kanaal-slice.
Gradiëntberekening: Bereken voor elke geperturbeerde input de gradiënt van de gewenste output (bijv. neerslag in een specifiek gebied) ten opzichte van de input.
Normalisatie: Transformeer de gradiëntkaarten $G_i$ naar kansverdelingen $\mu_i$ door de absolute waarden te nemen en te normaliseren ( $\ell_1$ -norm). Dit behoudt de geometrische structuur terwijl het voldoet aan de eisen van Optimal Transport (OT).
Wasserstein Barycenter: Bereken het entropische Wasserstein barycenter $\mu^*$ van deze verdelingen. Dit is het "geometrische gemiddelde" dat de consensus zoekt tussen de verschoven kaarten zonder ze te vervagen (zoals bij puntuele middeling gebeurt).

De auteurs bieden twee varianten aan:

WGBary: Gebruikt het barycenter direct als de verklaring (geometrisch robuust, maar verliest het teken/richting van de gradiënt).
WGBary $\times$ Grad: Gebruikt het barycenter als een ruimtelijke masker op de originele gradiënt om zowel de geometrische lokalisatie als de amplitude en het teken te behouden.

3. Belangrijkste Bijdragen

Mechanistische Analyse: Een diepgaande theoretische verklaring waarom architecturale componenten (pooling en attention) leiden tot geometrische verschuivingen in plaats van amplitude-ruis.
Nieuw Framework: De introductie van WassersteinGrad, een transport-gebaseerd aggregatiekader voor XAI.
Empirische Validatie: De eerste karakterisering van geometrische verschuiving in autoregressieve weervoorspellingsmodellen op de TITAN-benchmark.

4. Resultaten

De methode werd getest op een hybride CNN-Transformer model (UNetRPP) voor het voorspellen van neerslag in Frankrijk.

Kwalitatief: Waar SmoothGrad en BaseGrad bij langere voorspeltijden ( $t+5$ ) resulteren in onsamenhangende, verspreide patronen, produceert WassersteinGrad geografisch coherente en gelokaliseerde verklaringen.
Kwantitatief:
- Faithfulness (Trouw): WGBary scoort hoger in trouw aan het model dan alle baselines.
- Robustness (Robuustheid): De methode vertoont een enorme verbetering in ruimtelijke stabiliteit. De LLEcos (die de rotatie van patronen meet) is tot 21x lager dan bij SmoothGrad.
- Sparsity (Sparsiteit): De variant WGBary $\times$ Grad slaagt erin om zeer scherpe en specifieke verklaringen te geven, wat essentieel is voor meteorologen.

5. Betekenis en Impact

Dit werk is cruciaal voor de adoptie van AI in de operationele meteorologie. Voor het vertrouwen van experts in AI-modellen is het niet voldoende dat een model een correcte voorspelling doet; de verklaring moet ook fysiek logisch zijn. Door de geometrische aard van fysieke velden te respecteren via Optimal Transport, biedt WassersteinGrad een betrouwbaardere brug tussen de "black box" van deep learning en de fysieke realiteit van de atmosfeer.