A Short Survey of Viewing Large Language Models in Legal Aspect
本综述通过考察大语言模型在判决预测和文档分析等任务中的应用，探讨了其在法律领域的集成情况，同时讨论了相关的挑战，如隐私、偏见和可解释性，并概述了专门化法律人工智能的未来方向。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个法律不仅仅是刻在石头上的规则，而是一个每天都在变化的、活生生的、呼吸着的图书馆的世界。在这个图书馆里，来了一位新型的图书管理员：一台能够阅读数百万份文档、理解复杂论点并在数秒内回答法律问题的机器。这台机器是一个大语言模型，是一种在海量文本上训练出来的人工智能。多年来，研究人员一直在询问这些机器是否能解决特定的法律谜题，比如预测法院判决或寻找相关的案例。但真正的问题不再仅仅是解决一个谜题，而是当一个人的自由、金钱或权利取决于它时，我们是否可以信任机器给出的答案。法律之所以独特，是因为它依赖于权威。一个法律答案只有指向正确的来源、来自正确的地点、在正确的时间，并且该来源确实支持该结论时，才是有效的。如果一台机器基于一条旧规则或来自不同国家的法律给出了一个自信的答案，那它不仅是错误的，更是危险的。
一位来自中国的研究人员对这些机器在法律领域的使用情况进行了全新的审视。他们回顾了 2022 年至 2025 年间发表的数百项研究，以了解这些系统究竟能做什么，更重要的是，它们可能在哪里失败。他们没有仅仅观察一个模型如何回答单个问题，而是提出了一个思考整个系统的新方法。他们称之为“基于权威的”系统（authority-grounded system）。简单来说，这意味着机器不仅要生成文本，还必须证明其工作。它必须准确显示它使用了哪些文档，确认这些文档是否仍然有效，并解释这些文档如何支持其答案。研究人员发现，目前的研究往往只衡量这一过程中的一部分，例如机器检索信息的速度或其模仿人类写作的能力，而没有检查信息在法律上是否可靠。
研究人员分析了 327 项技术研究，以构建该领域的清晰图谱。他们发现，仅靠使这些机器变得更聪明的工具是不够的。例如，一个系统可能非常擅长寻找相关文档，但如果它无法区分一项具有约束力的法律和仅仅是一个建议，或者如果它无法检查法律的日期以查看其是否已被更改，那么该系统就还没有准备好用于现实世界。这项研究强调，测试中的准确性并不等于实践中的可靠性。机器可能在测验中得到正确答案，但无法解释原因；或者它引用的来源看起来正确，但实际上已经过时或来自不同的司法管辖区。研究人员认为，我们需要停止将这些机器视为简单的答案生成器，而应将其视为一个更大、更严谨的工作流中的组成部分。
为了弥补这些差距，作者提出了一个连接三个主要理念的新框架：机器被要求做什么、它是如何构建来完成任务的，以及我们有哪些证据证明它是可以安全使用的。他们发现，许多现有系统缺乏“弃权”（abstain）的能力，即承认自己不知道答案，而这在法律领域是一项至关重要的技能。他们还注意到，虽然一些系统使用专门的工具来检查其工作，但这些工具往往无法捕捉到微妙的错误，例如一项已被新法院判决推翻的法律。研究人员建议，未来的系统必须包含对每一条信息的来源、其有效时间以及其适用的特定法律领域进行严格检查。他们还强调，人类必须留在回路中（in the loop），随时准备审查机器的工作并对最终决定承担责任。
论文并不声称这些机器已经准备好取代律师或法官。相反，它表明我们正处于一个转折点，我们必须明确定义在法律环境下，人工智能的“可信度”究竟意味着什么。研究人员指出，我们不能仅仅依靠测试中的高分来证明一个系统是安全的。我们需要一种新的“成绩单”，它不仅展示答案，还要展示机器得出答案的整个路径，包括它检查过的来源和它遵循的规则。这种方法允许法院、律师和公众清楚地看到系统的薄弱环节以及何处需要人工监督。研究得出结论，虽然技术正在飞速发展，但使用它的规则尚未跟上步伐。未来的道路要求构建透明、负责任且旨在处理复杂多变的法律性质的系统，确保当机器说话时，其背后有着经过验证的真理之重。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。