NeuroSymbolic AI for Legal AI-TRISM: Trustworthy, Reliable, Interpretable, Safe Models
本立场文件提出了 TRISM 框架，该框架将神经符号人工智能（NeuroSymbolic AI）原则与一种新颖的结合大语言模型的 RASOR RAG 方法相结合，通过将生成内容锚定在经过验证的结构化法律知识和显式推理之上，以增强法律人工智能的可信度、可靠性、可解释性和安全性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在雇佣一位才华横溢但略显鲁莽的法律书记员。这位书记员读遍了图书馆里的每一本书（得益于其作为大语言模型或 LLM 的身份），因此他几乎可以流利地谈论任何法律话题。然而，他有两个主要的缺陷：
- 他会胡编乱造： 当找不到确切答案时，他有时会捏造虚假的判例或法律，让自己听起来很有说服力。在现实世界中，这是非常危险的；曾有一位律师因提交了一份带有虚假引用的辩护状而陷入严重麻烦。
- 他会忽略细节： 他可能理解法律的大致概念，但会错过一个改变一切的关键微小例外，比如特定的截止日期或覆盖通用规则的地方性规则。
这篇论文提出了一种解决这些问题的新方法，即创建一个名为 TRISM 的“超级书记员”。将 TRISM 想象成两种截然不同的工作者之间的合伙关系：
两种工作者：艺术家与会计师
- 艺术家（神经网络/LLM）： 这个工作者擅长阅读杂乱的自然语言，理解上下文并进行流畅的写作。他们就像一位能优美地总结故事的创意作家。
- 会计师（符号 AI）： 这个工作者刻板、逻辑严密且遵循严格的规则。他们就像一位严格的审计员，对照账本检查每一个数字。他们不会“猜测”；他们根据事实和规则进行计算。
神经符号 AI（Neurosymbolic AI） 简单来说就是强迫这两者协同工作。艺术家负责处理理解文本的繁重任务，但会计师会在每一项主张被写下之前对其进行双重检查。
解决方案：“RASOR”流水线
该论文引入了一个名为 RASOR（理性化、选择与精炼）的具体系统，让这种合伙关系发挥作用。以下是它的运作方式，使用一个简单的类比：
想象一下你正在试图破解一个谜题，而你有一个侦探团队（AI）。
- 理性化（侦探的笔记本）： AI 不仅仅是猜测答案，而是被迫先写下它的“思考过程”。它必须解释为什么它认为某项法律适用——分步骤地说明。这就像侦探在实施逮捕之前先写下他们的线索。
- 选择（图书管理员）： 系统会前往一个经过验证的法律文档库（知识图谱），寻找支持侦探笔记的确切页面。它不仅仅是抓取看到的第一个书本；它使用智能过滤器来挑选出最相关的、经过验证的文本块。
- 精炼（编辑）： 在最终报告发出之前，一位严格的编辑会对工作进行检查。这位编辑会将侦探的笔记与图书馆的书籍进行对比。如果侦探说“法律规定 X”，但书里说“法律规定 X，除非 Y”，编辑会捕捉到这一点。这一步移除了“编造”的事实（幻觉）。
- 结构化（最终简报）： 最终输出按逻辑组织，每一项主张都直接与特定的来源挂钩，就像真正的律师简报一样。
结果：从“也许”到“证明”
作者在真实法律合同数据集（CUAD 数据集）上测试了这个系统。
- 之前（旧方法）： 使用标准 AI 模型时，它们出错（产生幻觉）的概率为 75%。它们充满信心，但经常出错。
- 之后（TRISM/RASOR 方法）： 通过使用这种新的“艺术家 + 会计师”方法，错误率降至 40% 以下。
论文指出，这不仅仅是关于提高一点准确性；这关乎信任。因为该系统展示了它的工作过程（“原理”）并引用了其来源（“图书馆书籍”），人类律师可以实际验证答案。如果 AI 说“是的，你必须支付”，律师可以看到被考虑到的确切规则和例外情况。
大局观：一座活着的图书馆
为了保持这个系统的运作，这位“会计师”需要一个不断更新的图书馆。论文描述了一种利用 AI 本身来自动更新这个图书馆（称为知识图谱）的方法。
- 将图书馆想象成一张包含所有法律和法院案例的地图。
- 当新法律通过或发生新案例时，系统会检测到地图中的“缺口”。
- 它利用 AI 来假设新的连接点应该是怎样的，将其与现有规则进行核对，然后将其添加到地图中。
- 这确保了“会计师”始终拥有最新的规则进行检查。
总结
简而言之，这篇论文是在说：“不要仅仅依赖于一个会进行猜测的聪明 AI。要构建一个让 AI 的创造力被严格的、遵循规则的逻辑引擎所约束的系统。”通过将两者结合，他们创建了 TRISM，该框架生成的法律答案是值得信赖、可靠、可解释且安全的，显著降低了 AI 编造虚假法律的风险。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。