⚡ electrical engineering

Explaining RhythmFormer: A Systematic XAI Analysis of Periodic Sparse Attention for Remote Photoplethysmography

本論文は、4つのアトリビューション手法をRhythmFormerに適応させ、皮膚の被覆率と忠実性に関する定量的指標を導入することで、リモートフォトプレチスモグラフィ（rPPG）における視覚的な妥当性と監査可能なエビデンスの間の溝を埋め、最終的に「Beyond Intuition」手法が標準的な手法と比較して優れた空間的整合性と摂動への忠実性を達成することを実証する。

原著者： Louis Chen, Torbjörn E. M. Nordling

公開日 2026-06-15

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Louis Chen, Torbjörn E. M. Nordling

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

全体像：「ブラックボックス」の医師

顔の動画を見るだけで、心拍数を測定できる新しいタイプの医師を想像してみてください。その医師は、時計や胸のストラップを必要としません。ただ、血液が送り出されることによって起こる、肌のわずかな色の変化を見ているだけです。これは**リモート・フォトプレチスモグラフィ（rPPG）**と呼ばれます。

この論文が研究している特定の「医師」は、RhythmFormerと呼ばれています。非常に賢く正確ですが、同時に「ブラックボックス」でもあります。私たちは、その医師が正しい答えを出していることは知っていますが、「なぜ」その答えに辿り着いたのかまでは分かりません。医師はあなたの額を見ているのでしょうか？それとも頬でしょうか？あるいは、密かにあなたの赤いシャツや背景を見ているのでしょうか？

医療において、ブラックボックスをそのまま信じることはできません。信頼するためには、医師が正しい場所（あなたの肌）を見ていることを知る必要があります。この論文は、そのブラックボックスを開け、AIが実際にどこに注目しているのかを突き止めるための調査なのです。

問題点：「Top-K」フィルター

RhythmFormerには、高速に動作するための特別なトリックがあります。想像してみてください。あなたの顔のさまざまな部分を見ている640人の小さな偵察隊がいるとします。時間を節約するために、ボスはこう命じます。「最も興味深い偵察隊の上位40人だけが報告に戻ってこれる。残りの600人は無視しろ」。

これはスパース・アテンション（Sparse Attention）（または「Top-K選択」）と呼ばれます。

目的： 最も重要な肌の部分だけに集中すること。
リスク： もし「ボス」が、実は重要だったはずの偵察隊を無視してしまったらどうなるでしょうか？あるいは、後で偵察隊同士が話し合い、無視された600人から情報を持ち帰ってきてしまったらどうなるでしょうか？

調査：4つの異なる懐中電灯

研究者たちは、AIがどこを見ているのかを知りたいと考えました。彼らは、AIの意思決定プロセスに光を当てるために、4つの異なる「懐中電灯」（手法）を使用しました。これらは、迷路の中の道を辿るための4つの異なる方法だと考えてください。

Raw Attention（生の注意）： 単純なスナップショットです。ボスが「今」誰と話したかを示します。
Attention Rollout（アテンション・ロールアウト）： 累積的なマップです。もし偵察隊Aが偵察隊Bと話し、偵察隊Bが偵察隊Cと話した場合、偵察隊Aは間接的に偵察隊Cの仕事に責任を持つと仮定して、最初から最後まで経路を辿ります。
Attention Flow（アテンション・フロー）： 水のパイプの比喩です。入力（あなたの顔）から出力（心拍数の数値）へと、どれだけの「情報の水」がパイプを通じて流れているかを計算します。
Beyond Intuition（直感を超えて）： 「スーパー懐中電灯」です。これは、Rolloutの経路追跡と、AIが実際にその情報をどれほど重視しているか（勾配を使用）のチェックを組み合わせた、洗訳な新しい手法です。他の懐中電灯のミスを修正しようと試みます。

判明したこと：漏れるパイプと隠された真実

1. 「漏れるパイプ」の驚き（マルチホップ・リーケージ）

研究者たちは、RolloutとFlowという2つの懐中電灯に奇妙な不具合があることを発見しました。

何が起きたのか： ボスがAIに対して、特定の偵察隊を無視するように（重要度をゼロに設定して）明確に命じたにもかかわらず、Rollout法では、無視されたはずの偵察隊が他の偵察隊を通じて最終的な結果に依然として「話しかけている」ことが示されました。
比喩： 教師が生徒に「教室の後ろは見ないように」と言ったとします。しかしその後、生徒が前を見、前の子が真ん中の子を見、真ん中の子が後ろを見ている場合、Rollout法はこの連鎖を見て、「おい、生徒はまだ後ろを見ているぞ！」と言うのです。
結果： この「リーケージ（漏れ）」により、Rollout法は、AIが実際よりも多くの注意を非皮膚領域（背景など）に向けているように見せてしまいました。これにより信号が希釈されてしまったのです。

2. 勝者：「Beyond Intuition」

Beyond Intuitionの懐中電灯が最も優れていました。

なぜか？： 経路の中に偵察隊がいるからといって、必ずしも重要であるとは限らない、ということを理解していたからです。この手法は、情報をカウントする前に、その情報が本当に「重要かどうか」をチェックしました。
スコア： これにより、注目が肌（額と頬）にしっかりと絞られました。
- 肌のカバー率： 注意の83%が有効な肌にありました。
- その他： Rolloutなどは約57%以下でした。
結論： Beyond Intuitionは最も正直な懐中電灯でした。「漏れるパイプ」に騙されなかったのです。

3. 肌を見ることが、より良い心拍数につながるのか？

研究者たちは、「AIがより肌を見ているとき、心拍数はより正確になるのか？」と問いかけました。

波形： はい。AIが肌により集中すると、予測される心拍波形の「形」はより綺麗で正確になります。
心拍数の数値： あまり関係ありません。彼らが使用したデータセット（UBFC-rPPG）では、AIがすでに心拍数を推測する能力が高すぎたため、注目が完璧であったか、あるいは少しズレていたかによる差が出ませんでした。「天井」が高すぎたのです。
教訓： この論文は、動きが多いような、よりノイズの多い困難な状況においては、肌に集中することの方がおそらく重要になるだろうと示唆しています。

4. 「目の上の手」テスト

彼らのツールが実際に機能することを証明するために、一人の人物が目をこすっている（「グリッチ」やアーティファクト）ビデオを見つけました。

問題： AIが混乱し、「Beyond Intuition」の懐中電灯は、「これは意味が通じない！」と言わんばかりに、非常に奇妙な負のスコアを出しました。
修正： 彼らは、目をこすっている手を消すようにビデオを編集しました。
結果： 突然、4つすべての懐中電灯が、ビデオは現在「正常」であり、スコアは高くポジティブな状態に戻ったということで一致しました。
なぜ重要か： これは、彼らのツールが単に数学的に正しいかどうかだけでなく、入力に何か異常があるかどうかを検出できることを証明しています。

まとめ

この論文は、AIの心拍モニターが、あなたの顔を見ているのか、それとも単に推測しているだけなのかを確認するためのツールキットを構築しました。

彼らは、AIの説明によく使われる手法（Rollout）の中には、AIが実際には無視しているものを見ているように見せてしまう「漏れ」があることを発見しました。
そして、新しい手法（Beyond Intuition）の方が、実際の肌の領域を特定する上ではるかに優れていることを明らかにしました。
AIが肌を見ているとき、予測される心拍波形がより綺麗になることを証明しました（たとえ最終的な数値自体はすでに十分に高いものであったとしても）。

結論： もしAIの医師を信頼したいのであれば、正しい懐中電灯が必要です。Beyond Intuitionは、この特定の作業において現在最も優れたものであり、AIがあなたのシャツではなく、確かにあなたの肌を見ていることを教えてくれます。

技術要約: RhythmFormer: 周期的スパース・アテンションに関する系統的なXAI分析

問題提起

ディープラーニング、特にRhythmFormerのようなTransformerベースのアーキテクチャを用いたリモートフォトプレチスモグラフィ（rPPG）は、ベンチマークにおいて低い心拍数誤差を達成している。しかし、これらのシステムが臨床展開へと進むにつれ、その意思決定プロセスは不透明なままとなっている。既存のrPPG向け説明可能AI（XAI）には以下の限界がある：

定性的支配: 定量的な忠実度指標（faithfulness metrics）を伴わない、視覚的なヒートマップ検査への依存。
生理学的根拠の欠如: 既知の生理学的信号源（例：顔の皮膚領域）に対する検証の欠如。
手法的なギャップ: 生の（raw）アテンションマップは、モデルの焦点の忠実なプロキシ（代理指標）としては議論の余地があり、強調された領域が実際に予測を駆動しているとは限らない。
スパース・アテンションの複雑性: RhythmFormerは「バイレベル・ルーティング」メカニメント（top-k選択）を利用しており、スパースなアテンション行列を作成する。標準的な累積属性手法（アテンション・ロールアウトなど）は、これらのスパース性の制約が層間でどのように相互作用するかを考慮できない可能性がある。

手法

モデルとアーキテクチャ

本研究は、rPPGのためのシングルストリーム・トランスフォーマーであるRhythmFormerに焦点を当てている。その核心的な革新は、階層的時期的周期トランスフォーマー（TPT）ブロック内における**周期的スパース・アテンション（Periodic Sparse Attention）**メカニズムである：

バイレベル・ルーティング: クエリとキーが投影およびプーリングされ、粗いスコアを生成する。top-k選択（k=40）によって領域をフィルタリングし、スコアの高い領域のみを保持する。
精緻化されたアテンション: 標準的なスケールド・ドットプロダクト・アテンションは、収集されたキー・バリューのペアに対してのみ適用される。
構造: モデルは3つの階層的なTPTレベルで構成され、各レベルに2つのブロックが含まれる。合計6つのアテンション層が存在する。

XAIフレームワーク

著者らは、RhythmFormerのスパースなアーキテクチャに対して4つの属性手法を適応させ、適用している：

Raw Attention (生の注意): アテンション重みの列方向の集計。
Attention Rollout (アテンション・ロールアウト): 増強されたアテンション行列の再帰的な乗算により、転移的なトークン関係を捉える。
Attention Flow (アテンション・フロー): アテンションをフローネットワークとしてモデル化し、入力トークンと出力トークンの間の最大フローを計算する。
Beyond Intuition (BI): アテンション・ロールアウトと統合勾配（integrated gradients）を組み合わせたハイブリッド手法。これは属性を以下のように分解する：
- $P(L)$ : W補正されたアテンション・ロールアウト（情報フローの歪みを補正するために、値投影の大きさによってトークンを再重み付けする）。
- $F^c$ : 最終層のアテンションに対する損失の統合勾配マスク。
- 最終的な属性: $T = P(L) \odot F^c$ 。

RhythmFormerのための適応: 著者らは、行列演算を可能にするために、スパースな行列を（除外された領域をゼロとした）密な $N \times N$ 行列として再構成する。また、分布の妥当性を維持するために、統合勾配のベースラインを黒い画面ではなく、クリップごとの平均強度ビデオに適合させている。

評価指標

視覚的な検査を超えていくために、2つの定量的な指標を導入している：

Skin Coverage (皮膚被覆率): 全アテンション質量に対する、生理学的に妥当な皮膚領域（顔および首）に落ちるアテンション質量の比率。これは、学習済みBiSeNet顔パーサーを使用して算出される。
SaCo Faithfulness (SaCo忠実度): 分類タスクからrPPG回帰へと適応させたもの。サリエンシー（顕著性）のランキングと予測への影響（元のrPPG波形と摂動を加えた波形の平均絶対誤差（MAE）で測定）の間の整合性を測定する。SaCoスコアが高いほど、高サリエンシー領域をマスクした際に予測誤差が大きくなることを示し、説明の忠実度を確認できる。

主な結果

1. スパース・アテンションにおけるマルチホップ・リーク

標準的なアテンション・ロールアウトにおける決定的な発見は、**「マルチホップ・リーク（multi-hop leakage）」**効果である。

観察: 個々の精緻化されたアテンション層は、top-k選択によって非対角成分の約50%を明示的にゼロにしているが、累積的なロールアウトはこれらの接続を復元してしまう。
定量化: 通常のロールアウトにおける全非対角属性質量の約48%は、少なくとも一つの層でゼロにされたエントリーに由来している。
結果: このリークにより、「精緻化された」ロールアウトは「アテンション前」の段階よりも皮膚被覆率が低くなり、スパース性が焦点の絞り込みを改善するという直感に反する結果となる。

2. Beyond Intuitionの性能

Beyond Intuition (BI) が、この設定において最も強力な候補として浮上した：

リークの軽減: BIの $P(L)$ コンポーネントにおけるW補正は、マルチホップ・リークを減衰させる。
皮膚被覆率: BIは、バニラなロールアウト（0.57）やアテンション・フロー（0.46）と比較して、最も高い中央値精緻化皮膚被覆率（0.83）を達成した。
忠実度: BIは、UBFC-rPPGデータセットにおいて、最も高い中央値SaCo忠実度スコア（0.92）を達成した。
メカニズム: 値投影の重み付けと勾配によるマスクの組み合わせにより、モデルが真に依存している領域への属性を効果的に制限し、標準的なロールアウトによる「再充填された」ゼロを回避している。

3. 予測品質との相関

皮膚被覆率 vs 波形品質: 皮膚被覆率と波形再構成の忠実度（ピアソン $r$ ）の間には、有意な正の相関がある。
皮膚被覆率 vs 心拍数誤差: 皮膚被覆率と心拍数（HR）の平均絶対誤差（MAE）の間には、弱い負の傾向が存在する。著者らは、この相関が弱い理由を、UBFC-rPGデータセット（制御された条件下、高SNR）の飽和したパフォーマンスにあると考えている。つまり、不完全な波形であっても正確なHR推定が可能であるため、空間的アテンションの影響が隠されてしまうのである。
忠実度 vs 正確性: SaCo忠実度スコアは、予測精度（MAEまたは波形 $r$ ）と有意に相関していない。これは、モデルが（特定の領域に依存するという意味で）忠実であっても、それらの領域が最も正確な予測をもたらすとは限らない、あるいはその逆である可能性があることを示唆している。

4. ケーススタディ：アーティファクトによるアブレーション

手による遮蔽があるクリップ（被験者46、クリップ11）を用いたケーススタディにおいて、BIは当初、強く負のSaCoスコア（ $F = -0.53$ ）を生成した。遮蔽されたフレームを安定した隣接フレームに置き換えた後：

4つの手法すべてが、 $F \approx 0.8$ へのSaCoスコアの回復を示した。
皮膚被覆率も改善した。
アルゴリズム的に異なる手法間でのこの一貫性は、SaCoがアーティファクトによって引き起こされる属性の不一致を検出するためのロバストな指標として機能していることを示唆している。

重要性と主張

本論文は、rPPGのXAIにおける視覚的な妥当性と監査可能な証拠との間の溝を埋めることを主張している。主な貢献は以下の通りである：

系統的なフレームワーク: rPPGにおけるスパースなtop-kルーティング・トランスフォーマーに特化して適応された、複数の属性手法の最初の定量的な比較を提供したこと。
リークの特定: 標準的な累積属性手法（ロールアウト、フロー）が、スパースなアーキテクチャにおいて「マルチホップ・リーク」に苦しみ、モデルの焦点に関する解釈を誤らせる可能性があることを示したこと。
手法の推奨: 値投影の重み付けと生理学的事前分布（皮膚被覆率）および忠実度指標の両方において優れた整合性と堅牢性を示すことから、Beyond IntuitionをRhythmFormerにとって最も適切な手法として特定したこと。
指標の適応: 分類タスクからrPPG回帰へとSaCo忠実度係数の適用に成功し、説明の質を定量的に評価することを可能にしたこと。

著者らは、自らの知見がUBFC-rPPGデータセットとRhythmFormerアーキテクチャに特有のものであることを認め、控えめな立場をとっている。皮膚被覆率とHR誤差の間の弱い相関は、データセットの高い品質によるアーティファクトである可能性があり、これらの知見を一般化するためには、より多様でノイズの多いデータセットでのさらなる検証が必要であることを強調している。