🤖 machine learning

Adaptive Group-Based Counterfactual Explanations for Time-Series Rehabilitation Data

本文提出了一种利用可学习门控方法（Learnable Gate methods）的两阶段框架，用于为多元时间序列康复数据生成自适应的、基于组别的反事实解释，通过在肌肉群而非单个传感器通道层面产生稀疏且符合生物力学一致性的指导，有效地将可解释性与临床推理相对齐。

原作者： Emmanuel C. Chukwu, Rianne M. Schouten, Monique Tabak, Mykola Pechenizkiy

发布于 2026-07-03

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Emmanuel C. Chukwu, Rianne M. Schouten, Monique Tabak, Mykola Pechenizkiy

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图修理一台坏掉的机器，但你的助手不是一名机械师，而是一台超级聪明的计算机，它能告诉你机器为什么坏了。问题在于，这台计算机给出的解释就像是一份由 48 颗微小螺丝组成的清单，它会说：“拧紧 3 号螺丝，松开 12 号螺丝，并摇晃一下 47 号螺丝。”虽然这在技术上是正确的，但对于试图修理机器的人来说，这既令人困惑又让人应接不暇。你思考的并不是单个螺丝，而是“发动机缸体”或“变速器”。

这篇论文探讨的正是一个完全相同的问题，只不过“机器”变成了在康复训练（如深蹲或行走）中运动的人体，而“螺丝”则是绑在身上的传感器数据。

以下是研究人员所做工作的简单分解：

问题所在：过于琐碎的细节

在物理治疗中，患者会在腿上佩戴特殊的传感器（称为 IMU）。这些传感器记录来自 8 个不同位置的运动，每个位置发送 6 种不同的信号（如速度和旋转）。这意味着同时有 48 条独立的数据流。

当计算机试图解释为什么患者的深蹲动作看起来“不对劲”时，标准方法会单独查看这 48 条数据流。

结果： 计算机会说：“改变左脚踝传感器在第 3 秒的数据，以及右膝盖传感器在第 5 秒的数据。”
问题： 这就像是告诉一位厨师：“在锅的左侧加一撮盐，在右侧加一滴胡椒粉。”这种说法零散、混乱，且不符合医生或患者的思维方式，因为他们是以整体身体部位（例如“你的右侧腘绳肌太紧了”）来思考的。

解决方案：对传感器进行分组

研究人员提出了一种全新的思考数据的方式。他们不再观察 48 条独立的数据流，而是根据解剖结构和运动类型将它们分为 16 个逻辑“桶”。

第 1 个桶： 右大腿所有的“速度”传感器。
第 2 个桶： 左小腿所有的“旋转”传感器。
依此类推。

他们称之为基于组的反事实解释（Group-Based Counterfactual Explanations）。与其问“哪颗特定的螺丝出错了？”，不如问“机器的哪个部分需要调整？”

它是如何运作的：“智能闸门”

论文引入了一个巧妙的两步系统来寻找最佳修复方案：

侦探（Shapley 排序）： 首先，计算机扮演侦探的角色。它观察错误的动作，并使用一种数学工具（Shapley 值）来推测哪些“桶”（传感器组）是最可能的罪魁祸首。它将名单从 16 个组缩小到头号嫌疑对象。
把关者（可学习闸门）： 这是该论文的核心创新。想象一组控制花园不同区域水流的闸门。计算机通过学习来打开那些真正需要改变的组的闸门，并关闭那些正常的组的闸门。
- 它不仅仅是在猜测；它在尝试修复动作的过程中，通过学习来决定关闭哪些闸门。
- 这确保了最终的解释只会提到真正需要帮助的特定身体部位，而忽略其他部分。

研究结果：一份更清晰的处方

研究人员在名为 KneE-PAD 的数据集上测试了该方法，该数据集包含患者进行深蹲、膝关节伸展和行走的各种数据。他们将这种新的“分组”方法与旧的“单通道”方法进行了对比。

旧方法 (M-CELS)： 就像一份杂乱的清单，列出了 23 个需要调整的不同螺丝。它虽然有效，但解释内容非常臃乱。
新方法 (可学习闸门)： 就像一条清晰的指令：“重点关注你的右侧腘绳肌和左脚踝。”
- 更少的改动： 新方法改变的“桶”数量显著减少（减少了约 27% 的组），同时仍成功修正了计算机的预测。
- 更强的逻辑性： 所做的改动符合生物力学逻辑。例如，在修复深蹲动作时，系统正确地识别出患者需要调整重心转移，而不是随机调整无关身体部位的传感器。
- 速度： 生成这些解释的速度与旧方法持平（甚至更快）。

核心结论

该论文声称，通过将传感器数据组织成逻辑组（如肌肉群），并使用“智能闸门”来筛选必要的组，我们可以为康复训练生成更清晰、更简洁且更有用的解释。

通过这种方式，医生得到的不再是关于 20 个随机传感器调整的混乱列表，而是一个聚焦的、符合解剖学的解释（例如：“在深蹲过程中减少右侧腘绳肌的活动”），这与人类理解身体的方式相一致。这使得 AI 的建议更容易被信任并付诸行动。

技术摘要：面向时间序列康复数据的自适应基于组的反事实解释

问题陈述
在临床康复领域，特别是在通过多传感器惯性测量单元（IMU）分析运动时，机器学习模型往往缺乏对领域专家的可解释性。临床医生倾向于以语义特征组（例如：肌肉群、关节节段和协同作用）而非单个传感器通道来进行推理。标准的针对时间序列的反事实解释（CE）方法通常在通道层面进行操作。这种方法在高维 IMU 设置下（例如：来自 8 个传感器的 48 个通道）会导致四个关键问题：

组合爆炸： 搜索空间随通道数乘以时间步长而扩展，导致产生稠密且分散的扰动。
生物力学不一致性： 通道级的编辑可能会违反物理约束，产生不合理的序列（例如：忽略了关节运动学的孤立轴向变化）。
时间碎片化： 分散的编辑会产生“时间碎屑”，而非连贯的干预窗口。
缺乏层级结构： 解释无法将系统级概念（如肌肉群）映射到具体的传感器上。

现有的方法很少编码传感器分组或节段级抽象，限制了其临床实用性。

方法论
作者提出了 Adaptive-MO，这是一个用于在高维时间序列数据中生成基于组的反事实解释的两阶段框架。该方法集成了领域知识驱动的分组策略与自适应多目标优化。

领域驱动分组：
该框架根据解剖位置和信号模态定义传感器组。具体而言，它采用了基于模态的分组策略，将加速度计和陀螺仪信号视为不同的组（为每个肌肉产生 16 个组），从而在保留解剖关系的同时，区分了线性加速度与旋转运动学。
Shapley 自适应 (SA) 组排序：
为了降低搜索复杂度，该方法首先估计通道级 Shapley 值（通过 GradientSHAP），并利用最大绝对值将其聚合为组级重要性。通过选择前 $k$ 个最具影响力的组来限制优化搜索空间。然而，实验表明，静态 SA 排序虽然保持了有效性，但未能强制执行足够的组级稀疏性。
可学习门控 (LG) 机制：
为了解决稀疏性限制，作者引入了可学习门控。这些是可训练的每组相关性参数 ( $\gamma_g$ )，与扰动掩码共同进行联合优化。

参数化： 通过使用受门控调制的连续掩码，将输入与最近的不相似邻居（引导项）进行混合来生成反事实解释。
正则化： 门控通过结合 $\ell_1$ 惩罚（驱动未使用门控趋于零）和二值化惩罚（将门控推向 0 或 1）进行正则化。这使得模型能够在优化过程中动态地剪枝无关组，从而产生一个稀疏且二值的组子集。

多目标优化：
该框架优化一个包含四个项的总损失函数：

有效性 (Validity)： 确保修改后的输入能预测目标类别。
稀疏性 (Sarity)： 最小化掩码的幅度（通道级）以及活跃组的数量。
时间平滑度 (Temporal Smoothness)： 通过高阶全变分范数强制实现平滑。
门控正则化 (Gate Regularization)： 鼓励选择最小的组集合。
一种自适应权重方案会在达到置信的目标预测后，将重点从有效性转向稀疏性。

核心贡献

Adaptive-MO 框架： 一种结合了基于 Shapley 的组排序与动态传感器组选择的新型框架，用于高维时间序列的结构化 CE。
可学习门控 (LG) 机制： 一种利用可学习门控自动选择稀疏、可解释且具有临床意义的传感器组的方法，并与扰动掩码进行联合优化。
实证验证： 在 KneE-PAD 数据集（31 名患者，8 个 IMU，3 种运动：深蹲、膝伸展、步态）上进行了系统评估，证明了基于组结构的反事实解释能够提供简洁的、肌肉层级的纠正指导。

结果
实验将所提出的 LG 变体与通道级的 M-CELS 基准方法（一种针对多元时间序列的最先进方法）进行了对比。

有效性与成功率： 表现最好的变体 LG-SHAP pruned 实现了 94.7% 的反事实成功率（相比之下，M-CELS 为 90.0%），并具有较高的目标置信度 (80.8%)。
稀疏性： LG 方法显著降低了解释的复杂度。LG-SHAP pruned 平均修改了 8.2 个模态组（比 M-CELS 的 11.2 个减少了 27%）和 18.0 个通道（比后者减少了 22%）。LG-fixed prune 变体实现了更高的稀疏度（5.2 个组），尽管在有效性上略有权衡。
合理性与平滑度： 基于组结构的扰动保持了与 M-CELS 相当的时间平滑度，表明并未引入人工的不连续性。
运动特定模式： LG 产生了符合生物力学的运动特定、选择性激活模式（例如：针对膝伸展运动中的股四头肌/腘绳肌共收缩），而 M-CELS 则表现出跨组的弥散性、广泛激活。
效率： LG 变体的生成时间 (8.0–9.7s) 与 M-CELS (10.0s) 相当或更快。

意义与主张
论文声称所提出的框架在不牺牲反事实质量的前提下增强了可解释性。通过使解释结构与临床推理（肌肉群和关节节段）相一致，该方法能够产生具有行动能力的解释，用于康复运动分析。

临床一致性： 基于组结构的反事实解释提供了简洁的、肌肉层级的纠正指导（例如：“减少右侧腘绳肌活动”），这符合物理治疗师的层级推理逻辑。
结构性改进： 本研究证明，在基于 IMU 的康复分析中，动态特征组级优化比通道级方法能产生更具可解释性和可靠性的解释。
设计选择： 论文强调，传感器分组是针对时间序列反事实解释的一个具有理论依据且在实践中重要的设计选择。

局限性与未来工作
作者指出，实验受限于特定的 KneE-PAD 数据集及特定数量的患者记录。传感器分组是针对下肢 IMU 手工设计的。未来的工作建议包括自动组发现、多模态融合（例如结合 sEMG）、远程康复中的实时部署，以及通过临床用户研究来评估信任度和行动能力。