⚡ electrical engineering

Explaining RhythmFormer: A Systematic XAI Analysis of Periodic Sparse Attention for Remote Photoplethysmography

本文通过将四种归因方法应用于 RhythmFormer，并引入皮肤覆盖率和忠实度的定量指标，弥合了远程光电容积脉搏波（rPPG）中视觉合理性与可审计证据之间的鸿沟，最终证明了“超越直觉”（Beyond Intuition）方法相比标准方法在空间对齐和扰动忠实度方面具有更优越的表现。

原作者： Louis Chen, Torbjörn E. M. Nordling

发布于 2026-06-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Louis Chen, Torbjörn E. M. Nordling

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心图景：“黑盒”医生

想象一下有一种新型医生，只需通过观察你的面部视频就能测量你的心跳。它不需要手表或胸带；它只是观察由血液泵动引起的皮肤细微颜色变化。这被称为远程光电容积脉搏波描记法 (rPPG)。

这篇论文研究的特定“医生”被称为 RhythmFormer。它非常聪明且准确，但它也是一个“黑盒”。我们知道它给出了正确的答案，但我们不知道它为什么会得出这样的结论。它是在看你的额头？你的脸颊？还是在偷偷看你的红衬衫或背景？

在医学领域，你不能仅仅信任一个黑盒。你需要知道它是在看正确的地方（你的皮肤）才能真正信任它。这篇论文就像是一场调查，旨在打开这个黑盒，看看这个 AI 到底在关注什么。

问题所在：“Top-K”过滤器

RhythmFormer 有一个让它运行快速的特殊技巧。想象它有一支由 642 名微型侦察兵组成的团队，正在观察你脸部的不同部位。为了节省时间，老板告诉他们：“只有前 40 名最有趣的侦察兵可以回来汇报。其他的 600 人将被忽略。”

这被称为稀疏注意力 (Sparse Attention)（或“Top-K 选择”）。

目标： 只关注最重要的皮肤区域。
风险： 如果“老板”忽略了一个实际上很重要的侦察兵怎么办？或者如果侦察兵们稍后互相交流，并从那 600 个被忽略的侦察兵那里带回了信息怎么办？

调查过程：四种不同的手电筒

研究人员想要看看 AI 在看哪里。他们使用了四种不同的“手电筒”（方法）来照亮 AI 的决策过程。把这些想象成四种不同的路径追踪迷宫的方法：

原始注意力 (Raw Attention)： 一个简单的快照。它显示了老板此时此刻在和谁说话。
注意力展开 (Attention Rollout)： 一个累积地图。它追踪从开始到结束的路径，假设如果侦察兵 A 与侦察兵 B 交谈，而侦察兵 B 又与侦察兵 C 交谈，那么侦察兵 A 对侦察兵 C 的工作负有间接责任。
注意力流 (Attention Flow)： 一个水管类比。它计算有多少“信息水”通过管道从输入端（你的脸）流向输出端（心跳数值）。
超越直觉 (Beyond Intuition)： “超级手电筒”。这是一个高级的新方法，它结合了 Rollout 的路径追踪功能，并结合了检查 AI 到底有多“在意”这些信息（使用梯度）。它试图修复其他手电筒的错误。

研究发现：漏水的管道与隐藏的真相

1. “漏水管道”的惊喜 (多跳泄漏/Multi-hop Leakage)

研究人员在 Rollout 和 Flow 这两种手电筒方法中发现了一个奇怪的故障。

发生了什么： 尽管老板明确告诉 AI 忽略 600 名侦察兵（将其重要性设为零），但 Rollout 方法显示，那些被忽略的侦察兵仍然通过其他侦察兵的链条在与最终结果“交谈”。
类比： 想象一位老师告诉学生：“不要看教室后面。”但随后，学生看了前面，前面的人看了中间，中间的人又看了后面。Rollout 方法看到了这个链条，并说：“嘿，这个学生其实还在看后面！”
结果： 这种“泄漏”意味着 Rollout 方法显示 AI 对非皮肤区域（如背景）的关注度比实际情况要高得多。它稀释了信号。

2. 获胜者：“超越直觉”

“超越直觉” 手电筒表现最好。

为什么？ 它意识到，仅仅因为一个侦察兵在链条中并不意味着他们很重要。它在计数之前，先检查了信息是否真的“有用”。
得分： 它将注意力紧紧锁定在皮肤上（额头和脸颊）。
- 皮肤覆盖率： 其 83% 的注意力集中在有效的皮肤上。
- 其他方法： 仅为大约 57%（Rollout）或更低。
结论： “超越直觉”是最诚实的手电筒。它没有被“漏水的管道”所迷惑。

3. 注视皮肤是否意味着更好的心率？

研究人员问道：“如果 AI 更多地注视皮肤，它的心率测量会更好吗？”

波形： 是的。当 AI 更多地关注皮肤时，它预测的心跳波形更加清晰且准确。
心率数值： 不一定。在他们使用的特定数据集 (UBFC-rPPG) 上，AI 预测心率的能力已经非常出色，以至于无论关注点是完美还是稍有偏差，差别都不大。由于“天花板”太高，很难看出区别。
启示： 论文表明，在更嘈杂、更困难的情况下（比如如果你在移动），专注于皮肤可能会重要得多。

4. “手揉眼睛”测试

为了证明他们的工具有效，他们发现了一段视频，其中有人揉了眼睛（一个“故障”或伪影）。

问题： AI 产生了混乱，而“超越直觉”手电筒给出了一个非常奇怪的负分，表示：“这不符合逻辑！”
修复： 他们编辑了视频，去除了手揉眼睛的动作。
结果： 突然间，所有四种手电筒都认为这段视频现在是“正常”的，分数也回到了高水平的正值。
为什么这很重要： 这证明了他们的工具不仅能检测数学是否正确，还能检测输入内容是否出现了问题。

总结

这篇论文构建了一个工具包，用来检查一个 AI 心率监测仪是在看你的脸，还是在瞎猜。

他们发现，一些常见的 AI 解释方法（Rollout）是“会泄漏的”，会显示 AI 正在关注它实际上已经忽略的东西。
他们发现，一种更新的方法（超越直觉）在识别真实的皮肤区域方面表现得更好。
他们证明了，当 AI 注视皮肤时，它预测的心跳波形会更清晰，即使最终的数值本身已经相当不错了。

底线： 如果你想信任一位 AI 医生，你需要正确的手电筒。对于这项特定的工作，“超越直觉” 目前是最好的选择，它能帮助我们确认 AI 确实是在看你的皮肤，而不是在看你的衬衫。

技术摘要：RhythmFormer：针对周期性稀疏注意力机制的系统性 XAI 分析

问题陈述

利用深度学习（特别是像 RhythmFormer 这样的 Transformer 架构）进行的远程光电容积脉搏波（rPPG）技术已在基准测试中实现了极低的心率误差。然而，随着这些系统向临床部署迈进，其决策过程仍然是不透明的。现有的 rPPG 可解释人工智能（XAI）方法受限于以下几点：

定性主导： 过度依赖视觉热图检查，缺乏定量忠实度指标。
缺乏生理学基础： 缺乏针对已知生理信号源（如面部皮肤区域）的验证。
方法论缺陷： 原始注意力图被质疑无法作为模型关注点的忠实代理，因为被强调的区域并不一定真的驱动了预测。
稀疏注意力复杂性： RhythmFormer 利用一种带有 top-k 选择的“双层路由”机制来生成稀疏注意力矩阵。标准的累积归因方法（如注意力展开/attention rollout）可能无法解释这种稀疏约束如何在不同层之间进行交互。

方法论

模型与架构

本研究聚焦于单流 Transformer 模型 RhythmFormer。其核心创新在于层次化时间周期 Transformer（TPT）模块中的 周期性稀疏注意力 机制：

双层路由： 查询（Queries）和键（Keys）经过投影和池化以生成粗略评分。通过 top-k 选择（k=40）过滤区域，仅保留得分最高的区域。
精细化注意力： 标准的缩放点积注意力仅应用于收集到的键值对（key-value pairs）。
结构： 该模型由三个层次的 TPT 层组成，每层包含两个模块，总计六个注意力层。

XAI 框架

作者将四种归因方法进行了适配并应用于 RhythmFormer 的稀疏架构：

原始注意力（Raw Attention）： 注意力权重的列向聚合。
注意力展开（Attention Rollout）： 通过增强型注意力矩阵的递归乘法来捕捉传递性的 Token 关系。
注意力流（Attention Flow）： 将注意力建模为流网络，以计算输入 Token 与输出 Token 之间的最大流。
超越直觉（Beyond Intuition, BI）： 一种结合了注意力展开与集成梯度（Integrated Gradients）的混合方法。它将归因分解为：
- $P(L)$ ：W-修正的注意力展开（通过重新加权 Token 的值投影幅度来纠正信息流失真）。
- $F^c$ ：关于最后一层注意力的损失的集成梯度掩码。
- 最终归因： $T = P(L) \odot F^c$ 。

针对 RhythmFormer 的适配： 作者将稀疏矩阵重建为稠密的 $N \times N$ 矩阵（对排除区域填充零），以实现矩阵运算。他们还调整了集成梯度的基准，使用每帧平均强度的视频而非黑屏，以保持 rPPG 的分布有效性。

评估指标

研究引入了两个定量指标，旨在超越视觉检查：

皮肤覆盖率（Skin Coverage）： 落在生理有效皮肤区域（面部和颈部）上的注意力质量与总注意力质量的比率。该指标使用预训练的 BiSeNet 面部解析器进行计算。
SaCo 忠实度（SaCo Faithfulness）： 从分类任务适配到 rPPG 回归任务。它衡量像素组的显著性排名与预测影响（通过原始与扰动后的 rPPG 波形之间的平均绝对误差 MAE 来衡量）之间的一致性。SaCo 分数越高，表示遮蔽高显著性区域导致的预测误差越大，从而证实了解释的忠实度。

关键结果

1. 稀疏注意力中的多跳泄漏（Multi-Hop Leakage）

一个关键发现是标准注意力展开中的 “多跳泄漏” 效应。

观察： 尽管单个精细化注意力层通过 top-k 选择显式地将约 50% 的非对角线条目置零，但累积的展开乘积却恢复了这些连接。
量化： 在普通展开中，大约 48% 的总非对角线归因质量来自于至少在一个层中被置零的条目。
后果： 这种泄漏导致“精细化”后的展开在皮肤覆盖率上反而低于“注意力前”阶段，这与“稀疏性应提高对皮肤关注度”的直觉相悖。

2. “超越直觉”方法的表现

“超越直觉”（BI） 脱颖而出，成为该场景下的最强候选方案：

缓解泄漏： BI 中 $P(L)$ 组件的 W-修正减弱了多跳泄漏。
皮肤覆盖率： BI 实现了最高的中间精细化皮肤覆盖率 (0.83)，而 vanilla 展开为 0.57，注意力流为 0.46。
忠实度： BI 在 UBFC-rPPG 数据集上获得了最高的中间 SaCo 忠实度分数 (0.92)。
机制： 通过结合值投影权重和梯度支持的掩码，BI 有效地将归因限制在模型真正依赖的区域，避免了标准展开中出现的“重新填补”零值现象。

3. 与预测质量的相关性

皮肤覆盖率 vs. 波形质量： 皮肤覆盖率与波形重建保真度（Pearson $r$ ）之间存在显著的正相关。
皮肤覆盖率 vs. 心率误差： 皮肤覆盖率与心率（HR）平均绝对误差（MAE）之间存在微弱的负相关趋势。作者将这种相关性的微弱归因于 UBFC-rPPG 数据集的饱和性能（受控环境，高信噪比），在这种情况下，即使是并不完美的波形也能产生准确的心率估计，从而掩盖了空间注意力的影响。
忠实度 vs. 准确度： SaCo 忠实度分数与预测准确度（MAE 或波形 $r$ ）没有显著相关性。这表明，一个模型即使其依赖的区域并非产生最准确预测的区域，也可以是忠实的，反之亦然。

4. 个案研究：伪影消融

在涉及手部遮挡（Subject 46, Clip 11）的案例研究中，BI 最初产生了一个强烈的负 SaCo 分数 ( $F = -0.53$ )。在用稳定的相邻帧替换遮挡帧后：

所有四种方法都显示出向 $F \approx 0.8$ 恢复的 SaCo 分数。
皮肤覆盖率也随之提高。
这种在算法逻辑截然不同的方法之间的一致性，表明 SaCo 作为检测由伪影引起的归因失配的指标是稳健的。

意义与主张

本文声称弥合了 rPPG XAI 中视觉合理性与可审计证据之间的差距。其主要贡献包括：

系统性框架： 提供了针对特定用于 rPPG 的稀疏 top-k 路由 Transformer 的多种归因方法的首次定量比较。
识别泄漏： 证明了标准累积归因方法（展开、流）在稀疏架构中存在“多跳泄漏”，这可能会误导对模型关注点的解释。
方法推荐： 确定 “超越直觉”（Beyond Intuition） 是 RhythmFormer 最稳健的方法，因为它显式地缓解了泄漏，并在与生理先验（皮肤覆盖率）及忠实度指标的对齐方面表现优异。
指标适配： 成功将 SaCo 忠实度系数从分类任务适配到 rPPG 回归，实现了对解释质量的定量评估。

作者保持了审慎的态度，指出其发现是针对 UBFC-rPPG 数据集和 RhythmFormer 架构的。他们强调，皮肤覆盖率与心率误差之间的弱相关性可能是数据集高质量的一种人工痕迹，并强调需要通过更多样化、高噪声的数据集进行进一步验证，以推广这些发现。