JUDICATA: An Agentic Neuro-Symbolic Architecture for Legal Reasoning with Adversarial Defense and Procedurally Contestable Argumentation

想象一个计算机可以像人类一样阅读和写作的世界，但它们有一个非常棘手的习惯：有时会极其自信地胡编乱造。这就是大语言模型（LLM）的世界，它们是当今许多聊天机器人背后的超智能 AI 大脑。虽然这些模型在编写故事或回答一般性问题方面表现出色，但在出错后果极其严重的领域（如法庭），它们却显得力不从心。在法律领域，你不能仅仅靠猜测；你需要将特定的事实与特定的规则联系起来，才能得出结论。如果 AI 捏造了一项虚假的法律或一个虚假的判例，它可能会毁掉一个人的生活。这篇论文探讨的正是一个确切的问题：我们如何构建一个不仅不会“幻觉”（即凭空捏造）而且能真正遵循严格法律逻辑的 AI 律师，同时还要足够强大，以阻止黑客对其进行欺骗？

这项名为 JUDICATA 的研究背后的研究人员决定，不再试图让 AI 本身变得更聪明，而是围绕它构建了一个“安全网”。把标准 AI 想象成一个才华横溢但冲动、喜欢瞎猜的学生。JUDICATA 就像是把这个学生放在一个严厉的法庭上，并配备了一支监护团队。首先，有一个检索团队，充当超级快速的图书管理员，负责挖掘出回答问题所需的精确法律和过往案例，而不是让 AI 凭记忆去猜测。其次，有一个安全团队，充当俱乐部的保镖，检查每一个问题，确保没有人试图混入陷阱或谎言。最后，有一个逻辑团队，强制 AI 以特定的格式撰写答案，例如带有清晰主张、证据和反驳的法律论证，以便人类能够检查其工作。

论文表明，通过结合这些团队，AI 不再捏造虚假法律。在测试中，该系统成功拦截了约 94.4% 的恶意欺骗尝试，并显著减少了 AI 试图将其当作真相的虚假事实数量。研究人员发现，整个系统中最重要的部分是使用 图尔敏模型（Toulmin Model） 的“逻辑团队”。当他们移除这个部分时，系统的性能就会崩溃，AI 会重新开始捏造事实。这证明了秘诀不在于拥有一个更大、更聪明的头脑，而在于拥有一套严格的、循序渐进的流程来保持 AI 的诚实。

JUDICATA 的故事：一个带有安全网的 AI 律师

想象你是一名正在为一场重大审判做准备的律师。你需要找到完美的法律来支持你的案件，但你承担不起犯错的代价。如果你引用了一项不存在的法律，你就会输掉官司。现在，想象你有一个机器人助手来帮助你。问题是，这个机器人有点爱白日做梦。它非常擅长表现得很有自信，以至于经常为了填补空白而发明虚假的法律和虚假的判例。这被称为“幻觉”，而在法律世界中，这是一场灾难。

JUDICATA 的作者提出了一个简单的问题：我们如何阻止机器人在白日做梦，并让它遵守规则？ 他们并没有尝试重新训练机器人的大脑使其完美，而是构建了一个神经符号架构（neuro-symbolic architecture）。这是一个高级说法，指的是他们将机器人的“直觉”（神经）与严格的“规则手册”（符号）相结合。他们构建了一个类似于三层堡垒的系统，旨在将错误拦截在到达法官之前。

系统的三大守护者

JUDICATA 系统由三个主要部分组成，它们像一台运转良好的机器一样协同工作。

1. 超级图书管理员 (HyPA-RAG)
首先，系统需要找到正确的信息。标准的 AI 系统通常只是搜索看起来相似的词汇，这可能导致错误。JUDICATA 使用“三模态”搜索，这意味着它同时通过三种方式寻找答案：

• 词汇匹配： 它寻找精确的法律术语（如“人身保护令”），以确保获得正确的词汇。
• 语义匹配： 它理解问题背后的“意图”，即使措辞不同也能理解。
• 结构匹配： 它观察法律是如何在层级结构中连接的（例如，一个特定条款如何嵌套在一个段落之中）。

系统会将这三种搜索结果混合在一起。如果问题很简单，它更信任词汇匹配；如果问题很复杂，它则更多依赖结构和语义。这确保了 AI 手里拿的是真实的法律，而不是它凭空捏造的假法律。

2. 保镖 (对抗性防御)
在 AI 阅读法律之前，它必须通过安全检查。黑客和骗子经常尝试通过提出奇怪的问题或在看似合法的法律文本中隐藏恶意指令来对 AI 进行“越狱”。JUDICATA 拥有一个双重检测防御系统，充当一名严格的保镖。

• 第一阶段（语法检查）： 它扫描问题中是否存在可疑模式，例如代码注入或已知的陷阱短语。
• 第二阶段（语义检查）： 它使用一个聪明的脑子来判断问题是否“感觉”像是一个陷阱，即使文字看起来很正常。

在测试中，该系统拦截了 94.4% 的攻击（800 个中的 755 个），且没有拦截任何合法问题。这就像一个知道该放谁进来、该拒绝谁的保镖，即使坏人乔装打扮也无法逃脱。

3. 法官书记员 (LSIM 与 图尔敏模型)
一旦 AI 获取了正确的法律并通过了安全检查，它就必须撰写答案。这就是见证奇迹的地方。JUDICATA 不会让 AI 进行自由形式的散文写作，而是强制它使用一种被称为**图尔敏模型（Toulmin Model）**的特定结构。该模型将论证分解为六个部分：

• 主张 (Claim)： 你所说的话。
• 数据 (Data)： 你拥有的事实。
• 保证 (Warrant)： 为什么这些事实支持该主张。
• 支持 (Backing)： 对“保证”的额外支撑。
• 反驳 (Rebuttal)： 可能出现的问题或对方可能提出的观点。
• 限定词 (Qualifier)： 你的确定程度（例如，“很可能”或“肯定”）。

通过强制 AI 填充这些方框，系统防止了它信口开河。如果 AI 试图捏造事实，它将无法填入“数据”框，系统就会捕捉到它。这使得 AI 的推理具有程序上的可争辩性（procedurally contestable），这意味着人类律师可以查看答案并说：“好的，这是你的主张，这是你的证据，这是你的反驳。我可以核实这一点。”

实验结果显示了什么

研究人员使用三种不同的 AI “大脑”测试了这个系统：一个在本地电脑运行的小型模型 (Mistral 7B)，一个在云端运行的巨型模型 (Kimi K2)，以及一个商业模型 (Gemini 2.5 Flash)。他们想看看无论使用哪种“大脑”，系统是否都能奏效。

结果非常明确：结构比大脑的大小更重要。

• 减少虚假事实： 在没有 JUDICATA 系统的情况下，AI 容易制造事实。有了该系统，幻觉风险显著下降。对于本地的 Mistral 模型，幻觉风险降至 0.898（在 0 代表完美、1 代表完全混乱的量表上）；对于云端的 Kimi 模型，风险降至 0.467。
• “安全税”： 该系统确实让 AI 变得更加谨慎。在某些测试中，AI 引用的法律变少了，因为它拒绝引用那些它无法 100% 确定的法律。作者称之为“安全税”——引用少量正确的法律比引用大量错误的法律更好。
• 关键组件： 最重要的发现来自一项“消融实验”，即他们逐一关闭系统的各个部分。当他们关闭图尔敏模型（结构化论证）时，系统的性能崩溃了。“综合得分”（衡量答案质量的指标）下降了约 27%，而幻觉风险飙升至 0.94 以上。这证明了严格的论证结构是保持 AI 诚实的最重要部分。

为什么这很重要

论文认为，我们不需要等待 AI 自发变得完美。相反，我们可以构建能够迫使 AI 保持诚实的系统。通过结合智能搜索引擎、强力安全卫士和严格的论证格式，JUDICATA 创建了一个可以在法庭上被信任的 AI。

该系统还尊重隐私。因为它可以在本地计算机上完全独立运行（无需将数据发送到云端），因此它遵循了如巴西 LGPD 和欧盟《人工智能法案》等严格的隐私法律。这意味着律师可以使用 AI 来协助处理敏感案件，而不必担心客户的秘密会被发送给大型科技公司。

最后，JUDICATA 表明，法律 AI 的未来不在于拥有一个更大、更聪明的机器人，而在于为机器人构建一个更好的团队，确保它检查自己的工作、遵循规则，并且永远、永远不会胡编乱造。正如作者所暗示的，这种方法将一个混乱、白日做梦的 AI 转变为一个可靠、可争辩且安全的法律助手。