⚡ electrical engineering

Explaining RhythmFormer: A Systematic XAI Analysis of Periodic Sparse Attention for Remote Photoplethysmography

Dit artikel overbrugt de kloof tussen visuele plausibiliteit en controleerbaar bewijs in remote photoplethysmography (rPPG) door vier attributiemethoden aan te passen aan RhythmFormer en kwantitatieve metrieken voor huiddekking en getrouwheid te introduceren, waarbij uiteindelijk wordt aangetoond dat de "Beyond Intuition"-methode een superieure ruimtelijke uitlijning en perturbatiegetrouwheid bereikt vergeleken met standaard benaderingen.

Oorspronkelijke auteurs: Louis Chen, Torbjörn E. M. Nordling

Gepubliceerd 2026-06-15

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Louis Chen, Torbjörn E. M. Nordling

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: De "Black Box" Dokter

Stel je een nieuw type dokter voor die je hartslag kan meten door alleen maar naar een video van je gezicht te kijken. Hij heeft geen horloge of borstband nodig; hij kijkt alleen naar de subtiele kleurveranderingen in je huid die worden veroorzaakt door het kloppen van je bloed. Dit wordt Remote Photoplethysmography (rPPG) genoemd.

De specifieke "dokter" die dit paper bestudeert, heet RhythmFormer. Hij is erg slim en nauwkeurig, maar hij is ook een "black box". We weten dat hij het juiste antwoord geeft, maar we weten niet waarom hij denkt wat hij denkt. Kijkt hij naar je voorhoofd? Je wangen? Of kijkt hij stiekem naar je rode shirt of de achtergrond?

In de geneeskunde kun je een black box niet zomaar vertrouwen. Je moet weten dat hij naar de juiste plek kijkt (je huid) om betrouwbaar te zijn. Dit paper is als een onderzoek om die black box te openen en te zien waar de AI zich daadwerkelijk op concentreert.

Het Probleem: De "Top-K" Filter

RhythmFormer heeft een speciale truc om snel te zijn. Stel je voor dat hij een team heeft van 640 kleine verkenners die naar verschillende delen van je gezicht kijken. Om tijd te besparen, zegt de baas tegen hen: "Alleen de top 40 meest interessante verkenners mogen verslag uitbrengen. De andere 600 worden genegeerd."

Dit wordt Sparse Attention (of "Top-K selectie") genoemd.

Het Doel: Focus alleen op de belangrijkste huidgebieden.
Het Risico: Wat als de "baas" een verkenner negeert die eigenlijk wel belangrijk was? Of wat als de verkenners later met elkaar praten en toch informatie meebrengen van de 600 genegeerde verkenners?

Het Onderzoek: Vier Verschillende Zaklampen

De onderzoekers wilden zien waar de AI naar keek. Ze gebruikten vier verschillende "zaklampen" (methoden) om licht te schijnen op het besluitvormingsproces van de AI. Zie dit als vier verschillende manieren om een pad door een doolhof te volgen:

Raw Attention: Een simpele snapshot. Het laat zien met wie de baas op dit moment praat.
Attention Rollout: Een cumulatieve kaart. Het volgt het pad van begin tot eind, uitgaande van het principe dat als Verkenner A met Verkenner B praat, en Verkenner B met Verkenner C praat, dan Verkenner A indirect verantwoordelijk is voor het werk van Verkenner C.
Attention Flow: Een waterleiding-analogie. Het berekent hoeveel "informatiewater" er van de input (jouw gezicht) naar de output (het hartslaggetal) stroomt via de leidingen.
Beyond Intuition: De "Super-Zaklamp". Dit is een fancy nieuwe methode die de pad-volgende eigenschap van Rollout combineert met een controle op hoeveel de AI er daadwerkelijk om geeft (met behulp van gradiënten). Het probeert de fouten van de andere zaklampen te herstellen.

De Bevindingen: Lekkende Leidingen en Verborgen Waarheden

1. De "Lekkende Leiding" Verrassing (Multi-hop Leakage)

De onderzoekers ontdekten een vreemde glitch met de Rollout en Flow zaklampen.

Wat er gebeurde: Hoewel de baas de AI expliciet opdracht gaf om 600 verkenners te negeren (hun belang op nul zetten), liet de Rollout methode zien dat die genegeerde verkenners nog steeds "praatten" met het eindresultaat via een keten van andere verkenners.
De Analogie: Stel je voor dat een leraar een leerling vertelt: "Kijk niet naar de achterkant van de kamer." Maar dan kijkt de leerling naar de voorkant, die naar het midden kijkt, die weer naar de achterkant kijkt. De Rollout methode ziet deze keten en zegt: "Hé, de leerling kijkt nog steeds naar de achterkant!"
Het Resultaat: Deze "lekkage" betekende dat de Rollout-methode liet zien dat de AI aandacht besteedde aan niet-huidgebieden (zoals de achtergrond) veel meer dan hij in werkelijkheid deed. Het verwaterde het signaal.

2. De Winnaar: "Beyond Intuition"

De Beyond Intuition zaklamp was de beste.

Waarom? Het besefte dat alleen omdat een verkenner in de keten zit, betekent dat hij niet per se belangrijk is. Het controleerde of de informatie daadwerkelijk er toe deed voordat het werd meegeteld.
De Score: Het hield de focus strak op de huid (het voorhoofd en de wangen).
- Huiddekking: 83% van de aandacht was gericht op de geldige huid.
- De anderen: Slechts ongeveer 57% (Rollout) of minder.
Het Verdict: Beyond Intuition is de meest eerlijke zaklamp. Het liet zich niet foppen door de "lekkende leidingen".

3. Betekent kijken naar de huid een betere hartslag?

De onderzoekers vroegen zich af: "Als de AI meer naar de huid kijkt, krijgt hij dan een betere hartslag?"

De Golfvorm: Ja. Wanneer de AI meer op de huid focuste, was de vorm van de voorspelde hartslaggolf schoner en nauwkeuriger.
Het Hartslaggetal: Niet echt. Op de specifieke dataset die ze gebruikten (UBFC-rPPG), was de AI al zo goed in het raden van de hartslag dat het er niet veel uit maakte of de focus perfect was of iets afweek. Het "plafond" was te hoog om het verschil te zien.
De Les: Het paper suggereert dat in luidruchtigere, moeilijkere situaties (zoals wanneer iemand beweegt), focussen op de huid waarschijnlijk veel belangrijker zou zijn.

4. De "Hand-voor-het-oog" Test

Om te bewijzen dat hun tools werkten, vonden ze één video waarin de persoon over zijn oog wreef (een "glitch" of artefact).

Het Probleem: De AI raakte in de war, en de "Beyond Intuition" zaklamp gaf een zeer vreemde, negatieve score, zeggend: "Dit is niet logisch!"
De Fix: Ze bewerkten de video om het wrijven over het oog te verwijderen.
Het Resultaat: Plotseling waren alle vier de zaklampen het erover eens dat de video nu "normaal" was en de scores gingen weer terug naar hoog en positief.
Waarom dit ertoe doet: Het bewijst dat hun tools daadwerkelijk kunnen detecteren wanneer er iets mis is met de input, en niet alleen wanneer de wiskunde klopt.

Samenvatting

Dit paper bouwde een toolkit om te controleren of een AI-hartslagmonitor naar je gezicht kijkt of gewoon een gokje waagt.

Ze ontdekten dat sommige veelvoorkomende manieren om AI uit te leggen (Rollout) "lekken" en laten zien dat de AI naar dingen kijkt die hij eigenlijk negeert.
Ze ontdekten dat een nieuwere methode (Beyond Intuition) veel beter is in het spotten van de echte huidgebieden.
Ze bewezen dat wanneer de AI naar de huid kijkt, de hartslaggolf die hij voorspelt schoner is, zelfs als het uiteindelijke getal al behoorlijk goed is.

De Kern: Als je een AI-dokter wilt vertrouwen, heb je de juiste zaklamp nodig. Beyond Intuition is momenteel de beste zaklamp voor deze specifieke taak, en helpt ons te zien dat de AI inderdaad naar je huid kijkt, en niet naar je shirt.

Technische Samenvatting: RhythmFormer: Een Systematische XAI-Analyse van Periodieke Spaarse Aandacht voor Remote Photoplethysmography

Probleemstelling

Remote Photoplethysmography (rPPG) met behulp van deep learning, in het bijzonder transformer-gebaseerde architecturen zoals RhythmFormer, heeft lage hartslagfouten bereikt op benchmarks. Echter, naarmate deze systemen bewegen richting klinische implementatie, blijft hun besluitvormingsproces opaak. Bestaande Explainable AI (XAI) benaderingen voor rPPG worden beperkt door:

Kwalitatieve Dominantie: De afhankelijkheid van visuele inspectie van heatmaps zonder kwantitatieve maatstaven voor getrouwheid (faithfulness).
Gebrek aan Fysiologische Gronding: Afwezigheid van validatie tegen bekende fysiologische signaalbronnen (bijv. gezichtshuidregio's).
Methodologische Gaten: Ruwe aandachtskaarten (attention maps) worden betwist als getrouwe proxies voor de focus van het model, aangezien gemarkeerde regio's niet noodzakelijkerwijs de voorspellingen drijven.
Complexiteit van Spaarse Aandacht: RhythmFormer maakt gebruik van een "bi-level routing" mechanisme met top-k selectie, wat spaarse aandachtmatrices creëert. Standaard cumulatieve attributiemethoden (zoals attention rollout) kunnen mogelijk niet goed omgaan met hoe deze spaarsheidsrestricties over verschillende lagen heen interageren.

Methodologie

Model en Architectuur

De studie richt zich op RhythmFormer, een single-stream transformer voor rPPG. De kerninnovatie is het Periodic Sparse Attention mechanisme binnen de Hierarchical Temporal Periodic Transformer (TPT) blokken:

Bi-Level Routing: Queries en keys worden geprojecteerd en gepoold om grove scores te genereren. Een top-k selectie (k=40) filtert regio's en behoudt alleen de hoogst scorende gebieden.
Verfijnde Aandacht: Standaard scaled dot-product attention wordt alleen toegepast op de verzamelde key-value paren.
Structuur: Het model bestaat uit drie hiërarchische TPT-niveaus, elk met twee blokken, wat neerkomt op zes aandachtslagen.

XAI-Framework

De auteurs passen vier attributiemethoden aan en passen deze toe op de spaarse architectuur van RhythmFormer:

Raw Attention: Kolomgewijze aggregatie van aandachtsgewichten.
Attention Rollout: Recursieve vermenigvuldiging van geaugmenteerde aandachtmatrices om transitieve tokenrelaties te vangen.
Attention Flow: Modellering van aandacht als een flow-netwerk om de maximale flow tussen input- en outputtokens te berekenen.
Beyond Intuition (BI): Een hybride methode die attention rollout combineert met geïntegreerde gradiënten. Het deelt attributie op in:
- $P(L)$ : W-gecorrigeerde attention rollout (het herwegen van tokens door de magnitude van de waarde-projectie om verstoring van de informatiestroom te corrigeren).
- $F^c$ : De geïntegreerde gradiëntmasker van de loss met betrekking tot de laatste laag aandacht.
- Finale attributie: $T = P(L) \odot F^c$ .

Aanpassingen voor RhythmFormer: De auteurs reconstrueren spaarse matrices als dichte $N \times N$ matrices (met nullen voor uitgesloten regio's) om matrixoperaties mogelijk te maken. Ze passen ook de baseline voor geïntegreerde gradiënten aan naar een video met gemiddelde intensiteit per clip in plaats van een zwart scherm, om de distributionele validiteit voor rPPG te behouden.

Evaluatiemetrieken

Er zijn twee kwantitatieve metrieken geïntroduceerd om verder te gaan dan visuele inspectie:

Huiddekking (Skin Coverage): De ratio van de aandachtsmassa die valt op fysiologisch geldige huidregio's (gezicht en nek) versus de totale aandachtsmassa. Dit wordt berekend met behulp van een vooraf getrainde BiSeNet face parser.
SaCo Faithfulness: Aangepast van classificatie naar rPPG regressie. Het meet de consistentie tussen de salience-ranking van pixelgroepen en de impact op de voorspelling (gemeten als Mean Absolute Error, MAE, tussen de originele en geperturbeerde rPPG-golfvormen). Een hogere SaCo-score geeft aan dat het maskeren van hoog-saliente regio's een grotere voorspellingsfout veroorzaakt, wat de getrouwheid van de uitleg bevestigt.

Belangrijkste Resultaten

1. Multi-Hop Leakage in Spaarse Aandacht

Een cruciale bevinding is het "multi-hop leakage" effect in standaard attention rollout.

Observatie: Hoewel individuele verfijnde aandachtslagen expliciet ~50% van de off-diagonal entries elimineren via top-k selectie, herstelt de cumulatieve rollout-productie deze verbindingen.
Kwantificering: Ongeveer 48% van de totale off-diagonal attributiemassa in plain rollout komt voort uit entries die in ten minste één laag op nul zijn gezet.
Gevolg: Deze lekkage zorgt ervoor dat de "verfijnde" rollout een lagere huiddekking heeft dan de "pre-attention" fase, wat indruist tegen de intuïtie dat spaarsheid de focus op de huid zou moeten verbeteren.

2. Prestaties van Beyond Intuition

Beyond Intuition (BI) komt naar voren als de sterkste kandidaat voor deze setting:

Mitigatie van Lekkage: De W-correctie in de $P(L)$ -component van BI vermindert de multi-hop lekkage.
Huiddekking: BI bereikt de hoogste mediane verfijnde huiddekking (0.83) vergeleken met vanilla rollout (0.57) en attention flow (0.46).
Getrouwheid: BI bereikt de hoogste mediane SaCo faithfulness score (0.92) op de UBFC-rPPG dataset.
Mechanisme: De combinatie van waarde-projectie weging en de door gradiënten ondersteunde mask beperkt de attributie effectief tot de regio's waar het model echt op leunt, waardoor de "opgevulde" nullen van standaard rollout worden vermeden.

3. Correlatie met Voorspellingskwaliteit

Huiddekking vs. Golfvormkwaliteit: Er is een significante positieve correlatie tussen huiddekking en de getrouwheid van de golfvormreconstructie (Pearson $r$ ).
Huiddekking vs. Hartslagfout: Er bestaat een zwakke negatieve trend tussen huiddekking en de Hartslag (HR) Mean Absolute Error (MAE). De auteurs wijten de zwakte van deze correlatie aan de verzadigde prestaties van de UBFC-rPPG dataset (gecontroleerde omstandigheden, hoge SNR), waarbij zelfs imperfecte golfvormen nauwkeurige hartslag schattingen opleveren, waardoor de impact van ruimtelijke aandacht wordt gemaskeerd.
Faithfulness vs. Nauwkeurigheid: SaCo faithfulness scores correleren niet significant met voorspellingsnauwkeurigheid (MAE of waveform $r$ ). Dit suggereert dat een model getrouw kan zijn (leunen op specifieke regio's), zelfs als die regio's niet de meest nauwkeurige voorspelling opleveren, of vice versa.

4. Casestudy: Artefact Ablatie

In een casestudy met een clip met hand-occlusie (Subject 46, Clip 11), produceerde BI aanvankelijk een sterk negatieve SaCo score ( $F = -0.53$ ). Na het vervangen van de geoccludeerde frames door stabiele naburige frames:

Toonden alle vier de methoden een herstel in SaCo scores richting $F \approx 0.8$ .
De huiddekking verbeterde ook.
Deze consistentie over algoritmisch verschillende methoden heen suggereert dat SaCo robuust functioneert als een metriek voor het detecteren van attributie-misalignment veroorzaakt door artefacten.

Betekenis en Claims

Het artikel beweert de kloof te overbruggen tussen visuele plausibiliteit en controleerbaar bewijs in rPPG XAI. De primaire bijdragen zijn:

Systematisch Framework: Het bieden van de eerste kwantitatieve vergelijking van meerdere attributiemethoden die specifiek zijn aangepast voor spaarse, top-k routing transformers in rPPG.
Identificatie van Lekkage: Het aantonen dat standaard cumulatieve attributiemethoden (rollout, flow) lijden onder "multi-hop leakage" in spaarse architecturen, wat de interpretatie van de focus van het model potentieel misleidend maakt.
Methode Aanbeveling: Het identificeren van Beyond Intuition als de meest robuuste methode voor RhythmFormer, omdat het expliciet de lekkage mitigeert en superieure afstemming bereikt met fysiologische priors (huiddekking) en faithfulness metrieken.
Metriek Adaptatie: Het succesvol aanpassen van de SaCo faithfulness coëfficiënt van classificatie naar rPPG regressie, wat kwantitatieve evaluatie van de kwaliteit van de uitleg mogelijk maakt.

De auteurs hanteren een bescheiden standpunt en merken op dat hun bevindingen specifiek zijn voor de UBFC-rPPG dataset en de RhythmFormer architectuur. Ze benadrukken dat de zwakke correlatie tussen huiddekking en HR-fout een artefact kan zijn van de hoge kwaliteit van de dataset, en dat verdere validatie over diverse, ruisgevoelige datasets vereist is om deze bevindingen te generaliseren.