Extending the UXR Point of View Pyramid: A Generative AI-Augmented Methodology for Human-Centred AI Systems
本文提出了一种对 UXR 观点金字塔（UXR Points of View pyramid）的 AI 增强型扩展，其特征在于一种结构化的提示词架构和一个由 AI 赋能的剧本卡系统（Playbook Card system），旨在增强英国 AI 驱动型债务管理技术中的以人为本的设计、伦理监督及合规性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在试图解开一个非常困难的谜题，但拼图碎片是由玻璃制成的，而且其中一些碎片还是隐形的。这就是当银行和金融公司使用人工智能（AI）来帮助那些深陷债务的人时发生的情况。AI 负责决定谁有能力偿还贷款，但由于 AI 是一个“黑盒”，很难看清它为什么做出这些选择。
这篇论文介绍了一种新的方法，让研究人员（称为 UXR 研究员）利用一种特殊的人工智能（生成式 AI）来帮助解决这个谜题，同时又不失去对拼图碎片的控制权。
以下是使用简单类比进行的详细拆解：
1. 问题所在：“黑盒”与压力下的客户
在英国，许多人正面临财务压力。银行使用 AI 来决定一个人能承担多少债务。
- 问题： 有时这些 AI 系统是不公平或令人困惑的。它们可能无法理解一个人的收入每月都在变化（比如零工经济从业者），或者它们可能会做出一个对计算机来说逻辑通顺、但对人类来说显得残酷的决定。
- 风险： 如果研究人员只是询问 AI：“我们该怎么做？”并直接采纳其答案而不加检查，他们可能会在无意中让情况变得更糟。这就像是在睡觉时让 GPS 来驾驶汽车；如果 GPS 迷路了，你就会撞车。
2. 解决方案：“AI 增强型金字塔”
作者采用了现有的工具——UXR 观点（PoV）金字塔。你可以把这个金字塔想象成一个配方，用于将杂乱的研究笔记转化为清晰的公司战略计划。
- 旧方法： 研究人员阅读访谈和数据，然后撰写报告。
- 新方法： 他们加入了生成式 AI 作为一名超级强大的助手，帮助整理笔记，但同时也设定了一套严格的规则，以确保助手不会夺取控制权。
他们构建了一个 4 步烹饪流程，以确保最终的菜肴可以安全食用：
第一步：“模式发现者”（假设生成）
研究人员不再靠猜测，而是要求 AI 查看过去的数据并说明：“嘿，我在这里发现了一个模式。”
- 类比： 想象一位副厨师品尝酱汁后说：“这味道太咸了，因为我们用了过期的番茄。”
- 规则： AI 提出想法（假设），但人类厨师必须在进入下一步之前进行品尝并予以批准。AI 不是老板；它只是个帮手。
第二步：“利益相关者地图”（治理）
在做出决策之前，研究人员会绘制出所有相关人员的图谱。
- 类比： 在盖房子之前，你需要知道谁住在那里，谁拥有土地，以及建筑检查员的要求是什么。
- 目标： 他们确定了 AI 需要同时满足客户（需要公平性）、风险官（需要遵守法律）和数据科学家（需要模型能够运行）。AI 协助绘制这张地图，但由人类决定线条的走向。
第三步：“剧本卡片”（工具包）
这是最具有创意的一部分。团队创建了一套**“剧本卡片”**（就像桌游中的卡牌）。
- 类比： 想象一张卡片写着：“如果 AI 说一个人可以负担 500 美元，但他们的收入是不稳定的，请打出这张卡片：‘进行带有反事实场景的压力测试’。”
- 运作方式： 每张卡片都有一个特定的提示词（给 AI 的问题）和一项人类检查。
- 卡片示例： “困境叙述压缩”。如果 AI 将一段悲伤的故事总结得过于简略，从而忽略了其中的痛苦，这张卡片会指示人类停下来并标记证据，以免故事被遗失。
- 卡片示例： “偏见质询”。这张卡片会强制 AI 询问：“我是不是仅仅因为旧有的、不公平的数据才做出了这个决定？”
第四步：“讲述者”（最终叙述）
最后，团队将所有经过检查的事实转化为面向公司领导层的叙事。
- 类比： AI 协助撰写演讲稿的初稿，但人类研究员会进行编辑，以确保其听起来诚实、公平且符合法律规范。
- 结果： 一个清晰的信息，传达出：“我们构建了这个系统是为了公平，这是证明，以及我们是如何检查错误的。”
3. 金科玉律：“是驾驶员，而非自动驾驶仪”
论文强调了一个核心观点：生成式 AI 是工具，而不是权威。
- 隐喻： 把 AI 想象成汽车里一位非常快速、知识渊博的领航员。它可以告诉你最快的路线并提醒你注意交通状况。但人类研究员才是驾驶员。驾驶员必须保持双手握在方向盘上，观察窗外，并做出转向左或右的最终决定。
- 如果领航员说“向左转，那里有个湖”，驾驶员必须说“不，那是错的”，并进行纠正。
4. 他们究竟证明了什么？
该论文并不声称这个系统是完美的，也不声称它已经解决了英国所有的债务问题。相反，它声称：
- 他们成功构建了一套方法论（一套分步指南），用于在此类高风险领域安全地使用 AI。
- 他们创建了 10 张特定的“剧本卡片”，研究人员可以使用这些卡片来捕捉诸如偏见、不公平或缺乏清晰度等错误。
- 他们展示了通过使用这种方法，研究人员可以制定出具有可辩护性（可以向监管机构证明为何做出某项决定）和可追溯性（可以清楚看到 AI 从何处获取信息）的计划。
总结
这篇论文是为金融研究人员编写的一本手册，指导他们如何使用一种强大的新工具（生成式 AI）来帮助负债人群，同时确保工具不会主导全局。它将 AI 转化为一名有用的助手，负责组织思路并检查错误，同时确保始终由人类做出最终的、符合伦理的决策。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。