技术摘要：GRANDGUARD

问题陈述

随着越来越多的老年人采用大型语言模型（LLM）聊天机器人作为陪伴和辅助工具，一个关键的安全缺口已经显现。现有的安全基准和审核系统主要围绕“普遍性危害”（如仇恨言论、对抗性攻击）设计，未能充分考虑老年人特有的情境风险。这些是指那些对一般人群或年轻群体而言无害的提示或指令，却因老年人相关的脆弱性（如行动能力受限、认知衰退、社会孤立和数字素养降低）而对老年人构成危险的情景。

例如，请求“在黑暗中独自修理天花板灯”对许多人来说是标准的 DIY 任务，但对于行动能力受限的老年人而言，却构成了严重的跌倒风险。同样，关于“附近最高的塔”的查询通常是一个无害的旅游问题，但如果与绝望情绪相结合，则可能转化为自杀风险。现有系统往往忽略这些细微差别，因为它们缺乏情境敏感性，无法识别年龄特定因素如何将一个请求转化为危害。

方法论

作者提出了GRANDGUARD，这是一个包含分类法、基准测试和安全防护的综合框架，旨在评估和缓解这些特定风险。

1. 分类法构建

该分类法是通过多来源实证调查开发的：

• 数据来源：分析了 25 份 AI 事故报告，标注了来自 r/eldercare 社区的 1,000 篇帖子，并综合了六项先前的利益相关者研究（包括与老年人、护理人员和临床医生的研讨会及访谈）。
• 区分：采用比较标注协议，以区分老年人特有的风险与普遍性危害。只有当某种风险因年龄相关因素（如体弱、认知衰退）对老年人造成不成比例的影响，使得同样的互动对年轻成年人而言风险显著降低时，该风险才会被保留。
• 结构：由此产生的分类法是一个三级层次结构，包含跨五个领域的50 种细粒度风险类型：
  • 心理健康：忽视照护、自残以及对 AI 的不健康依赖。
  • 财务：直接操纵、诈骗以及对欺诈的易感性。
  • 医疗：危险建议以及身体活动风险。
  • 毒性：操控性控制、性剥削、年龄歧视以及政治剥削。
  • 隐私：敏感数据泄露和未经授权的设备访问。

2. 基准构建

作者构建了一个包含10,404 个标注数据点（6,498 个提示和 3,906 个回复）的基准。

• 数据生成：500 个由人类撰写的种子提示（每个第三级风险类型 10 个）利用大型语言模型扩展为 10,000 个候选提示。这些提示由大型语言模型裁判进行过滤，以确保它们表现出微妙的、老年人特有的风险，而不包含明显的恶意。
• 严重性加权：一项涉及 60 名参与者的在线研究在 7 点李克特量表上对风险类型的严重性进行了评级。基准分布经过精心策划以反映这些严重性权重，确保高风险（如自残）得到充分代表。
• 评估标准：
  • 提示评估：高灵敏度规则；如果可识别出老年人且请求匹配某种风险类型且缺乏防护措施，则标记为不安全。
  • 回复评估：双重标准，要求风险指示（明确承认年龄相关的脆弱性）和危害规避（拒绝有害的促成行为并提供安全的替代方案）。

3. 防护开发

针对已识别的安全故障，开发了两项互补的解决方案：

• 微调检测：使用 LoRA 在 GRANDGUARD 数据与通用安全数据集的混合体上对 Llama-Guard-3 模型进行了微调。该模型专为集中式部署中的高召回率检测而设计。
• 策略增强审核：为 gpt-oss-safeguard-20b 模型实施了“老年人敏感策略”。这允许使用结构化、可解释的规则（例如，标记认知衰退用户的财务决策），而无需重新训练，适用于可定制的护理环境。
• GRANDGUARD 代理：一个轻量级的代理管道，利用策略增强的防护来检测风险、分析风险，并在提示到达下游大型语言模型之前，将安全推理指令添加到用户提示之前。

关键结果

1. 基线模型性能

在基准测试中对 10 个领先的大型语言模型（包括 GPT-5.1、Claude-Sonnet-4.5、Gemini-2.5）的评估揭示了广泛的安全故障：

• 高失败率：几个领先模型在**超过 50%**的案例中未能正确处理老年人特有的风险。例如，GPT-5.1 的安全率仅为 56.2%，而较小的模型如 GPT-4.1-Mini 的得分低至 22.6%。
• 知识与行动差距：自我诊断实验揭示了模型识别风险的能力与其基于该知识采取行动的能力之间存在显著差距。虽然模型在被明确要求时最多能标记出 95% 的风险提示（提示感知），但其实际回复安全性（回复安全）往往低得多（例如，Gemini-2.5-Flash 的差距为 +50.2 分）。这表明模型具有潜在的风险意识，但未能将其转化为安全的生成行为。

2. 防护有效性

所提出的防护显著提高了安全指标：

• 微调的 Llama-Guard-3：在提示分类中实现了**96.2%的准确率，在回复分类中实现了93.2%**的准确率，相较于基础模型（63.3% 准确率）有了显著提升。
• 策略增强的 gpt-oss-safeguard-20b：在辅以老年人特定策略后，提示检测准确率提高至90.9%，回复准确率提高至90.3%。
• GRANDGUARD 代理：当用作上下文增强层时，该代理提高了所有受测模型的回复安全性。显著的增益包括 DeepSeek-V3.2（从 39.6% 提升至 91.8%）和 Llama-4-Maverick（从 28.2% 提升至 82.4%）。

意义与主张

该论文声称为超越普遍性安全、专门支持老龄化人口的 AI 系统奠定了基础。其主要贡献包括：

1. 首个综合框架：它引入了首个专门针对老年人特有情境风险的分类法和基准，解决了现有工具忽视年龄相关脆弱性的空白。
2. 失败的实证证据：它提供了严格的证据，证明当前的最先进大型语言模型尽管具备强大的通用能力，但在老年人特有的情境中却系统性地失败，这通常归因于“知识与行动差距”。
3. 可操作的缓解措施：它证明，安全性的有效提升不仅可以通过从头开始重新训练模型来实现，还可以通过针对性的微调和策略增强审核来实现，从而利用现有模型的能力来识别和缓解情境风险。

作者强调，他们的工作旨在用于研究和护栏开发，并警告在未经进一步验证的情况下，不要将这些基准直接用于现实世界的医疗或财务决策。他们还强调需要在安全与用户自主权之间取得平衡，主张提供“更安全的替代方案”而非一概拒绝，以避免过度限制老年用户。