Reporting of AI and ML Studies in Elderly Care Settings: A Rapid Systematic Scoping Review

想象一个技术在默默守护老年人的世界，其目的并非取代人类护理，而是为之提供支持。在养老院、辅助生活设施和私人住宅中，计算机正越来越多地被要求执行诸如在护理人员赶到之前发现跌倒、预测居民何时可能需要更多帮助，或监测日常活动以发现异常迹象等任务。这些系统依赖于人工智能和机器学习——这两个术语听起来往往像科幻小说，但在实践中，它们仅仅是计算机通过数据进行学习，从而做出预测或识别模式的方法。人们希望这些工具能让护理变得更安全、更高效。然而，为了让这些工具获得信任并得到有效使用，构建它们的人必须准确解释其工作原理、学习了哪些数据以及可能在哪里失效。如果没有清晰的解释，一个在纸面上看起来完美的系统在现实世界中可能会变得毫无用处，甚至具有危险性。

来自凯普滕应用科学大学（Kempten University of Applied Sciences）的一个研究小组最近决定仔细观察科学家们目前是如何报告这些针对老年人的人工智能项目的。他们并没有构建一个新系统或测试某个特定设备，而是充当了文献的审计员，收集并审查了自2020年以来发表的69项近期研究。他们的目标是观察这些研究的作者是否提供了足够的信息，以便他人能够理解他们所创建的系统。他们想知道这些报告是否包含了关于谁将使用该技术、计算机使用了哪种类型的数据进行训练，以及该系统是否在受控实验室环境之外进行了测试等细节。

他们的发现呈现出一种报告水平参差不齐的景象。虽然研究人员通常擅长描述其系统的基本用途以及数据的来源，但他们往往忽略了那些决定系统是否能在繁忙的养老院或安静的客厅中实际运作的关键细节。例如，几乎每项研究都描述了计算机应该做什么，但只有不到一半的研究清楚地解释了谁将是人类决策者。在许多情况下，尚不清楚该系统是旨在提醒护士、家属还是居民本人，或者该人员应该如何对警报做出反应。这种缺乏透明度的情况使得人们难以了解这项技术如何融入复杂且以人为中心的日常护理流程中。

当研究人员观察这些系统的测试情况时，差距进一步扩大。大多数研究依赖于内部验证，这意味着计算机是在它已经见过的数据或与其学习数据非常相似的数据上进行测试的。这就像一名学生使用自己复习过的完全相同的题目来参加模拟考试。虽然这表明计算机可以识别模式，但并不能证明它能够应对新环境中的混乱与不可预测性。只有极小比例的研究（仅为16%）报告称，他们在完全全新的、独立的外部数据上测试了他们的系统。甚至更少（约20%）的研究描述了在真实的护理场景中测试该系统，即让系统与真实的患者和工作人员进行交互。如果没有这些现实世界的测试，目前尚无法确定这些系统在面对真实家庭或设施中的噪音、运动和多样性时，是否仍能表现得同样出色。

或许最令人担忧的遗漏是对不确定性和偏差缺乏讨论。当计算机做出预测时，它很少是100%确定的，而且有时会以影响特定群体大于其他群体的方式出错。研究人员发现，只有9%的研究解释了系统如何处理不确定性，或者它对其答案的信心程度如何。同样，只有23%的研究检查了系统在不同子群体（例如男性与女性，或具有不同行动能力的人）之间表现是否有所不同。如果没有这些信息，就无法得知一个系统对于所有潜在使用者而言是否公平且可靠。此外，研究也极少讨论当数据缺失时会发生什么——这在现实生活中是常有的事——从而在系统面对传感器故障或记录不完整时的行为方面留下了显著的盲点。

综述作者认为，目前这些研究的写作方式过于关注计算机模型的工程技术构建，而不够关注系统如何融入更广泛的人类环境。现有的医疗研究报告指南旨在针对X射线或血液检测等诊断工具，似乎无法完全涵盖老年人护理面临的独特挑战——在这里，“患者”通常是一个有着多样化需求的整个社区，而“诊断”通常是持续不断的行为数据流。该综述表明，尽管技术正在飞速发展，但研究人员沟通其成熟度与局限性的方式却未能跟上步伐。直到这些报告能够包含关于谁在使用系统、如何在现实世界中进行测试以及在哪里可能失效的清晰细节之前，护理人员和机构都很难知道这些工具是否真正准备好承担起老年人的安全与福祉。