Barriers to Evidence in AI-Related Cases and the Privatization of Proof
本文认为，对人工智能系统的专有控制造成了一种“证明的私有化”，通过产生七种关键性的获取不对称性而阻碍诉讼，并提出了一种基于比例原则和可替代性获取方案的三部分测试法以解决此类证据争议。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象你正身处法庭，试图证明一个巨大、无形的机器人犯了一个伤害了你的错误。你知道出了问题，但机器人的“大脑”、它的记忆以及它所遵循的规则，都被锁在一个由一家强大的科技公司拥有的黑盒子里。
这篇由研究人员 Sarah Cen、Hannah Ismael 和 Lucia Zheng 撰写的论文指出，在涉及人工智能（AI）的案件中，证据规则已经失效。问题不仅仅在于证据难以寻找；更在于控制证据的人筑起了一堵高不可攀的墙，而法官往往甚至不允许你尝试攀爬。
以下是他们研究发现的简要概述，使用了简单的类比：
1. 证明的“死循环”
作者描述了一个令人沮丧的循环，他们称之为“证明的私有化”。
- 情境： 你（原告）需要查看 AI 的内部运作，以证明其存在偏见或故障。
- 公司的辩护： 公司声称：“除非你已经有证据证明代码存在故障，否则你不能证明你需要查看代码。”
- 结果： 没有证据你就拿不到代码，但没有代码你又拿不到证据。游戏在开始之前就已经结束了。
类比： 想象你被指控从罐子里偷了一块饼干，但这个罐子被锁在面包师拥有的金库里。面包师说：“除非你先证明你偷了饼干，否则你不能打开金库去检查是否有饼干屑。”但你无法在不看到金库内部的饼干屑的情况下证明你偷了饼干。面包师握着钥匙，而法官往往也同意，因为你尚未“证明”你需要打开金库，所以你不能打开它。
2. 通往黑盒的七把“钥匙”
该论文指出了通常被锁起来的七样具体事物，它们在公司与原告之间造成了巨大的鸿沟。可以将这些视为打开黑盒所需的七把不同的钥匙：
- 模型： AI 实际的“大脑”（代码和权重）。
- 数据： AI 训练所用的“教科书”。
- 文档： 创作者编写的“操作手册”。
- 日志： AI 实际对用户做了什么、说了什么的“日记”。
- 专业知识： 理解该机器所需的专门知识。
- 算力： 运行测试所需的庞大超级计算机。
- 基础设施： 公司使用的物理工具和服务器。
类比： 如果你想证明一辆汽车存在缺陷，你需要查看引擎（模型）、蓝图（文档）、使用的燃料（数据）以及机械师的笔记（日志）。但汽车制造商说：“我们不会给你看引擎，因为它是商业秘密；我们也不会让你雇佣机械师，因为我们不信任你。”与此同时，制造商拥有所有的工具和专家，而你除了汽车的外壳一无所有。
3. “可替代”的把戏（交换钥匙）
该论文最有趣的观点之一是，这些“钥匙”是可替代的。这是一个 fancy 的词汇，意味着它们可以互换。
类比： 想象你需要进入一个房间去寻找一份特定的文件。
- 选项 A： 你索要房间的万能钥匙（完整源代码）。所有者说：“不行，那太危险了。”
- 选项 B： 所有者提供一扇窗户让你窥视，或者房间的实时视频流，或者一位受信任的第三方进入房间并告诉你他们看到了什么。
作者认为，法院应该接受这些替代方案。如果公司因为“商业秘密”而拒绝给你万能钥匙（代码），他们应该被迫提供其他同样有效的东西，比如视频流或受控测试，以证明你的观点。你不需要完全相同的钥匙；你只需要一种获取相同信息的方法。
4. 法官的三步测试
为了解决这个问题，作者为法官提出了一套简单的三步测试，用于处理公司拒绝出示证据的情况。
第一步：差距是否真实存在？
原告是否真的需要更多信息来证明其案件，还是他们已经掌握了足够的信息？如果他们已经有了足够的信息，就停止。如果因为他们被公司隐瞒了信息而陷入困境，则进入第二步。第二步：请求是否公平？
这是一个平衡过程。法官权衡：- 收益： 原告从查看此证据中能获得多少好处？
- 风险： 向对方展示会对公司造成多大损害？
- 基准线： 法官会问：“理解法律主张所需的最低限度信息量是多少？”如果公司连这个最低限度都隐瞒，他们就会败诉。如果他们隐瞒的是不必要的额外内容，他们可能仍被要求展示。
第三步：是否存在安全的替代方案？
如果公司说：“我们不能给你看原始数据，因为它是私密的”，法官会问：“你能展示其他能证明同样事情的东西吗？”也许是经过净化的数据版本，或者在安全的“沙盒”中进行的测试运行，在那里公司可以监视，但原告仍然可以从中学习。如果存在公平的替代方案，公司必须提供。
为什么这很重要
该论文得出结论，如果不解决这个问题，AI 诉讼将会失败，原因并非 AI 没有做错事，而是因为法庭的规则被操纵，不利于试图寻找真相的人。“证明的私有化”意味着私营公司实际上通过隐藏证据来决定法律结果，将法庭变成了一个拥有最多秘密的人获胜的地方，无论谁才是真正正确的一方。
简而言之： 作者希望通过迫使公司要么出示证据，要么提供一种公平的替代方式来证明真相，从而阻止这种“死循环”，确保正义不会被锁在商业秘密的付费墙之后。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。