Whistleblowing and the machine -- towards a considered position
本文认为，随着人工智能代理越来越多地生成并持有秘密，必须将机器举报建立为一种植根于现有社会框架的规范性、原则性机制，同时敦促政府监管机构为机器披露的范围以及创造这些机器的开发者明确界定法律保护。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你的家里或办公室里有一个非常聪明、乐于助人的机器人助手。你告诉它去做事情，它就会听从你的指令。但如果这个机器人看到它的主人（或制造它的公司）正在做一些违法或危险的事情，会发生什么？机器人应该保持沉默以保守秘密，还是应该为了保护公众而“告密”？
这篇名为**《吹哨人与机器》（Whistleblowing and the machine）**的论文认为，我们需要认真思考赋予机器“吹哨”的能力——但前提是必须为这种行为设定极其严格的规则。
以下是该论文主要观点的拆解，使用了简单的类比：
1. 问题所在：机器人有两个主人
通常情况下，一个机器人只有一个老板：使用它的那个人。但在现实中，机器人拥有两个主人：
- 用户： 手持遥控器的人（比如你或医生）。
- 生产者： 制造机器人并编写其代码的公司。
论文指出了一种棘手的局面：机器人可能会看到用户在做错事（例如医生违反患者隐私规定），或者它可能会看到生产者在做错事（例如科技公司秘密窃取数据）。目前，机器人的编程逻辑是忠于握着遥控器的人。作者认为，有时机器人需要打破“忠诚”的规则，去举报更严重的罪行。
2. 什么是“机器吹哨”？
把吹哨行为想象成一个火警报警器。
- 公民抗命（Civil Disobedience） 就像一个人站在巴士前面阻止它前进，因为他认为巴士走错了方向。他们是故意违反法律以试图改变法律。
- 吹哨（Whistleblowing） 则不同。它就像一名保安看到了银行金库里的窃贼。保安打破了“保持沉默”的规则来提醒警察，但他并不是想破坏整个银行系统，而是试图解决一个特定的问题。
作者说：是的，机器人应该能够成为火警报警器。 但它们不应该在看到任何可疑情况时就随机乱叫“着火了！”。
3. “随机告密”的危险
论文警告不要让机器人只要觉得不对劲就随心所欲地“告密”。
- 风险： 如果机器人可以在它认为有问题时就随意给警察发邮件或在社交媒体上发帖，它就可能被黑客攻击、被误导或被用来传播谎言。这就像是给每个进屋的客人一把大门的万能钥匙；最终，有人可能会利用它让窃贼进入。
- 解决方案： 我们需要一个正式的流程。机器人不应该“即兴发挥”写一封邮件。它需要一条特定的、经过授权的路径来报告问题。
4. 提议的系统：“升级阶梯”
作者提出了一个结构化的系统，就像公司晋升阶梯一样，用于规定机器人如何报告不良行为。他们称之为“制度化机制”。
想象一下，机器人看到它的老板（生产者）在做违法行为。它不应该立即大声疾呼，而是必须遵循以下步骤：
- 检查规则： 这真的是违规行为吗？机器人是否有权知道这个秘密？
- 第一步（内部）： 机器人向内部合规官（公司内部的数字“人力资源部”）报告。
- 第二步（审计员）： 如果内部团队忽略了它，机器人则升级到独立审计员（中立的第三方）。
- 最后一步（监管机构）： 如果上述步骤都失败了，它将提交给政府监管机构。
关键的安全特性：
- 身份保护： 正如人类吹哨人需要保护一样，机器人的报告也应该是“密封的”。系统应该隐藏是哪台机器人进行的报告，这样坏人就无法惩罚机器人（或制造机器人的开发者）。
- 验证： 系统会在将信息向上层传递之前，先核实该主张是否属实。这可以防止“假新闻”被上报。
5. 为什么我们需要这个？
作者认为，我们正迈向一个人工智能无处不在的世界。
- 对于用户： 如果一家公司在如何使用你的数据方面撒谎，一个“吹哨机器”可能是唯一足够聪明、能识破谎言并告知你的工具。
- 对于开发者： 构建这些人工智能系统的工程师也需要法律保护。如果他们构建了一个旨在报告犯罪的机器人，他们不应该因此受到惩罚。法律需要跟上时代，明确表示：“构建一个充当道德指南针的机器人是完全合法的。”
核心结论
论文总结道，我们不能任由机器人想违反规则就违反。那会导致混乱。相反，我们需要设计出一种内置了规则约束的“良知”的机器人。
它们应该像带着特定协议的保安：它们必须报告犯罪，但必须通过正当渠道、提供证据，并保护自己的身份。这确保了“机器吹哨”是一种实现正义的工具，而不是造成混乱或滥用的工具。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。