Correcting AI-generated false criminal allegations: a human-rights framework for remedial closure
本文提出了一种基于人权的“补救性关闭”框架，该框架建立了一个具有传播感知能力的法律标准，用以确定针对人工智能生成的虚假刑事指控的纠正措施是否已在所有相关系统节点中完成，并将法理分析与可访问的挑战机制、记录更正、可验证实施以及比例原则保障等技术要求相结合。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象这样一个世界：一个旨在回答问题和讲述故事的计算机程序，突然凭空捏造了一桩罪行。它不仅仅是关于日期或名字的小错误，而是编造了一个关于某个特定在世之人谋杀了自己的孩子并正在服长刑的虚假故事。这并非惊悚小说中的场景，而是现代人工智能造成的一种现实可能性。当这样的谎言出现在屏幕上时，情况已经足够糟糕了，但危险并未止步于此。这个虚假的故事可以隐藏在计算机的记忆中，通过其内部系统进行传播，并被发送到其他使用该计算机答案来做出有关工作、贷款或安全等重要决策的机构。这创造了一种局面：一个人被视为罪犯，不是因为他犯了罪，而是因为机器凭空捏造了一个谎言，并且未能将其完全抹除。专家们面临的核心问题不仅是如何从屏幕上删除这个谎言，而是如何知道这个谎言是否已真正停止在整个数字系统中传播。
一组研究人员开发了一种思考此问题的新方法，超越了简单的修复手段，旨在为何时才算真正完成纠正建立一个清晰的标准。他们认为，仅仅告诉计算机停止说这个谎言是不够的。相反，他们提出了一个循序渐进的过程，检查谎言可能隐藏的所有地方，从最初的回答到内部记录，再到接收到该信息的其他人员所做出的决策。他们的研究表明，只有当负责任的公司能够证明他们已经检查了谎言可能流向的所有可达之处，修复了那里的记录，并告知了所有可能利用该谎言做出决策的人这是错误的，纠正才算完成。这种方法将问题视为不是一个需要删除的单一错误，而是一个必须在每一个可能造成伤害的点上都被拦截住的涟波。
研究人员构建这一想法的基础是理解人工智能系统是复杂的网络。当一台计算机生成一个虚假故事时，那个故事可以以不同的方式被存储。它可能被保存在帮助计算机记住对话的临时记忆中，或者可能被从计算机用于回答问题的知识库中提取出来。它还可能通过数字连接发送到其他计算机，或者被银行或招聘机构用于决定某人是否值得信赖。研究团队将这种虚假信息的传播称为“传播”（propagation）。他们发现，现有的修复错误规则通常只关注展示给用户的最终答案。然而，如果虚假故事仍然留在计算机的记忆中或接收到该信息的公司的记录中，计算机以后可能会再次讲述同一个谎言，或者该公司可能会继续将这位无辜的人视为罪犯。
为了解决这个问题，研究人员创建了一个框架，充当修复问题的清单。第一步是受害者明确说明谎言的内容并提供其为假的证据。一旦完成，负责任的公司必须进行调查。他们不能仅仅说“我们修复了”。他们必须展示他们具体查看了哪些地方。这包括检查主要答案、内部记忆、事实列表以及与其它系统的任何连接。如果公司发现该谎言被用于做出决策（例如拒绝一份工作或将某人标记为风险），他们还必须检查该决策是否可以被审查或更改。目标是确保谎言不仅是从视野中消失，而且是从那些能造成实际损害的地方被移除。
这项新标准的一个关键部分是“合理闭合”（reasonable closure）的概念。研究人员承认，检查世界上每一台计算机或保证谎言永远不会以百万种不同的方式再次出现可能是不可能的。因此，他们提出，当一家公司已经检查了所有它们可以合理触及并控制的地方时，就可以认为其工作已经足够。他们必须记录自己的工作，展示他们修复了系统的哪些部分，以及哪些部分他们无法触及。如果他们无法触及某个部分，必须解释为什么该部分太难或无法做到。这种记录作为他们履行职责的证明。它将重点从追求完美的、不可能的保证，转向一种务实的、可验证的努力，在尊重技术限制的同时保护受害者的权利。
研究人员使用一个现实世界的案例测试了他们的想法，即一个人被一款流行的聊天机器人诬陷犯下了可怕的罪行。在那个案例中，投诉不仅仅是关于聊天机器人说了错话，而是关于这个谎言可能在系统中长期存在的可能性。通过应用他们的新清单，研究人员展示了一家公司如何从仅仅删除答案转向一个更彻底的过程。这将涉及检查内部记忆以确保谎言没有保存在那里，验证谎言没有以以后可以检索的方式被存储，以及联系任何可能接收了该虚假信息的组织。如果一个组织利用该谎言做出了决策，该公司需要帮助他们了解其中的错误，以便重新考虑该决策。
这种方法还明确了谁该承担什么责任。在一个涉及许多不同公司的复杂系统中，研究人员表示，每家公司都对其控制的部分负责。如果一家公司将一个虚假故事发送给另一家公司，第一家公司必须告诉第二家公司该故事是虚假的。然而，第一家公司并不负责修复第二家公司的内部系统。每家公司必须修复属于自己的部分。这避免了试图让一个人对整个全球网络负责的混乱，同时仍确保链条上的每个环节都尽到职责以阻止谎言的传播。
研究人员谨慎地指出，这一标准并不是一个能让所有错误永远消失的魔杖。他们承认技术在不断变化，谎言传播的新方式可能会出现。他们的标准旨在保持灵活性，允许在谎言以新形式再次出现时进行审查。他们还强调，这一过程必须尊重他人的权利，例如报道真实犯罪或讨论公共事件的自由。其目标是仅移除虚假的、有害的谎言，而不是抹除历史或压制合法的言论。通过专注于经过验证的高严重性谎言以及造成的实际伤害，该框架旨在保护人们，而不至于创建一个过于沉重或限制性的系统。
最终，这项研究为解决一个混乱的问题提供了一种方法。它将对话的焦点从询问“你删除了那个谎言吗？”转向“你能证明你已经阻止了那个谎言造成更多伤害吗？”它为公司提供了遵循的清晰路径，也为监管机构提供了检查的标准。通过要求提供行动证明而非仅仅是承诺，它让受到人工智能伤害的人有了更好的获得正义的机会。这项工作表明，虽然我们不能总是防止机器犯错，但我们可以建立起诚实面对这些错误并能彻底修复它们的系统。这创造了一个未来，使人工智能的力量能够与一种清晰且负责任的纠错方式相匹配，从而确保一个人的名誉不会被机器的幻觉所摧毁。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。