Designing Social Robots with Ethical, User-Adaptive Explainability in the Era of Foundation Models

这是一份关于论文《Designing Social Robots with Ethical, User-Adaptive Explainability in the Era of Foundation Models》（在基础模型时代设计具有伦理和用户自适应可解释性的社交机器人）的详细技术总结。

1. 研究背景与问题 (Problem)

随着大型语言模型（LLM）和视觉 - 语言模型（VLM）等**基础模型（Foundation Models）**被广泛嵌入社交机器人，人机交互（HRI）范式发生了根本性转变。机器人不再依赖基于规则的管道或狭窄训练的模型，而是利用基础模型生成开放式语言、推理上下文并实时适应用户行为。

然而，这种转变带来了以下核心问题：

• “一刀切”解释策略的失效：传统的可解释性（Explainability）方法通常提供通用的、静态的 justification（理由），无法适应基础模型产生的复杂、动态且基于海量异构数据的行为。
• 黑盒与不透明性：基础模型基于庞大、异构且往往不透明的数据集训练，导致其内部决策过程难以理解。当机器人根据这些模型进行个性化适应时，其背后的逻辑（如为何改变行为）对用户来说是模糊的。
• 伦理风险加剧：
  • 认知偏差与误对齐：基础模型可能将神经多样性（如自闭症）的行为病理化，导致机器人产生带有“认知能力主义”色彩的错误适应。
  • 认识论排斥：模型倾向于强化主流世界观，边缘化少数群体（如原住民、LGBTQ+ 群体）的知识体系。
  • 责任归属模糊：开发者常以模型的“通用性”和“中立性”为借口，将伦理责任推卸给数据供应链，导致对边缘群体的伤害被正常化。
• 缺乏针对性的自适应解释：现有的研究缺乏针对用户多样性（能力、文化背景、认知状态）的细粒度解释策略，导致解释既不可访问也不具意义。

2. 方法论与分析框架 (Methodology)

本文并未提出具体的算法实现，而是采用批判性分析与概念框架构建的方法：

• 现状分析：回顾了从传统规则系统到基础模型驱动系统的演变，指出了当前 HRI 中可解释性研究的局限性（通常假设静态系统和通用用户）。
• 挑战识别：系统性地梳理了基础模型驱动社交机器人在“可解释性”和“伦理”方面面临的三大开放挑战：
  1. 预训练偏差与误对齐：互联网规模数据中的隐含假设与特定用户情境不匹配。
  2. 解释策略的僵化：缺乏反映用户背景、能力和心理模型的通用解释。
  3. 自适应机制的黑盒化：如何向用户透明地展示“为何适应”以及“适应了什么”仍是一个未解之谜。
• 伦理维度映射：从认知（Cognitive）、认识论（Epistemic）和制度（Institutional）三个层面深入剖析了伦理风险，特别是模型如何加剧对边缘群体的伤害。
• 案例推演：构建了一个基于 LLM 的社会辅助机器人（Socially Assistive Robot）的使用场景，用于具体化理论建议。

3. 关键贡献 (Key Contributions)

本文提出了四项核心建议，旨在推动从“一刀切”向“用户自适应、模态感知、共同设计”的解释策略转变：

1. 设计模态感知与用户感知的解释策略 (Modality- and User-Aware Strategies)：

   • 解释不应仅限于文本。系统应根据用户能力（如儿童、语言障碍者、视障人士）和文化背景，自适应地选择或组合文本、视觉、非语言线索（如眼神、手势）等模态。
   • 例如：对儿童使用简化的文本加视觉辅助，对某些文化背景下的用户则依赖非语言线索。

2. 采用共同设计 (Co-Design) 以明确解释需求：

   • 将用户（特别是边缘群体）纳入设计过程，共同决定机器人如何解释其行为、哪些伦理维度至关重要、以及适应机制应如何传达。
   • 这有助于揭示用户的认知、情感和认识论视角，避免设计师的假设导致解释过于复杂或带有居高临下的态度。

3. 实施分层适应 (Layered Adaptation)：

   • 鉴于为每个用户单独微调（Per-user fine-tuning）在计算资源和数据上不可行，建议采用分层策略。
   • 首先基于相似用户群（如年龄组、无障碍需求）进行迁移学习，然后利用参数高效微调技术（如 LoRA）进行轻量级适应。
   • 目标是在技术可行性和伦理约束之间取得平衡，避免过度个性化或数据滥用。

4. 优先使用更小、更公平的数据集 (Prioritise Smaller, Fairer Datasets)：

   • 反对盲目追求“大数据、大模型”范式，因为未筛选的数据会放大偏见。
   • 建议结合基础模型与共同设计的数据收集，专门针对代表性不足的群体构建小型、经过筛选的数据集，以确保解释的有效性和伦理基础。

4. 结果与案例演示 (Results & Illustrative Use Case)

通过一个LLM 驱动的社会辅助机器人案例（服务于学校、养老院、临床环境中的多样化用户，包括残障人士、老年人、LGBTQ+ 和原住民社区），展示了上述建议的落地方式：

• 情境化适应 (R1)：机器人根据用户的情绪状态和认知负荷调整解释的复杂度。例如，对处于高认知负荷或负面情绪的用户，提供简短、具体的解释，而非冗长的逻辑推导。
• 共同设计输入 (R2)：通过与用户和专家合作，确定不同场景下的最佳解释模态（如老年人偏好语音/文本，特定文化背景偏好非语言暗示）。
• 分层实施 (R3)：机器人初始模型针对广泛的“年龄组”或“无障碍需求”进行适应，随着交互数据的积累，逐步细化到特定用户群，避免了对每个个体的过度拟合。
• 数据伦理 (R4)：解释策略的评估和约束基于与相关社区共同设计的小型数据集，确保解释不会强化刻板印象。

5. 意义与讨论 (Significance & Discussion)

• 重新定义可解释性：本文强调，在基础模型时代，可解释性不仅仅是“透明度”（披露能力），更是“问责制”和“可争议性”（Contestability）。解释必须使用户能够质疑机器人的适应逻辑。
• 警惕“能力错觉”：高度流畅、个性化的解释可能会给用户造成机器人比实际更智能、更可靠的错觉（Illusion of Competence）。因此，解释必须明确标示系统的不确定性和能力边界，防止过度信任。
• 伦理优先于技术：文章指出，单纯的技术优化无法解决结构性伦理问题。必须通过设计流程（如共同设计）和数据处理策略（如公平数据集）来主动管理风险。
• 未来研究议程：本文为未来研究设定了议程，呼吁关注自适应解释生成中的伦理风险、认知负荷管理以及如何在不加剧社会不平等的情况下实现个性化。

总结：
这篇论文是基础模型时代社交机器人设计的重要指南。它论证了伦理和用户自适应的可解释性不应是事后添加的功能，而应作为核心设计目标。通过提出分层适应、共同设计和模态感知等具体策略，文章为解决基础模型带来的“黑盒”风险和伦理偏见提供了切实可行的理论框架和行动路线。