💬 NLP

LegalOne: A Family of Foundation Models for Reliable Legal Reasoning

本文介绍了 LegalOne，这是一个中文法律基础模型系列，通过包含可塑性调节采样、法律智能体思维链（CoT）蒸馏以及课程强化学习的三阶段训练流水线，实现了最先进的性能，从而实现可靠且具可解释性的司法推理。

原作者： Haitao Li, Yifan Chen, Shuo Miao, Qian Dong, Jia Chen, Yiran Hu, Junjie Chen, Minghao Qin, Yueyue Wu, Yujia Zhou, Qingyao Ai, Yiqun Liu, Cheng Luo, Quan Zhou, Ya Zhang, Jikun Hu

发布于 2026-02-04

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Haitao Li, Yifan Chen, Shuo Miao, Qian Dong, Jia Chen, Yiran Hu, Junjie Chen, Minghao Qin, Yueyue Wu, Yujia Zhou, Qingyao Ai, Yiqun Liu, Cheng Luo, Quan Zhou, Ya Zhang, Jikun Hu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于 LegalOne 论文的解释，通过使用类比将复杂的专业技术概念转化为通俗易懂的日常语言。

大局观：为什么我们需要 LegalOne？

想象一下，你雇佣了一位博学多才、见多识广的通才来担任律师。这个人（标准的通用大语言模型）几乎读过图书馆里的每一本书。他能写诗，能解数学题，还能聊聊天气。但当你要求他辩护某个特定的法庭案件时，他往往会表现得手忙脚乱。他可能会编造不存在的法律（幻觉），或者忽略了法官所要求的严谨、循序渐进的逻辑。

LegalOne 是一个全新的 AI 模型家族，专门为解决这个问题而设计。不要把它看作是一个“无所不知”的通才，而要把它看作是一位经过严格训练、能够像律师一样思考的专业法学院毕业生。论文声称，通过不同的训练方式，这些模型即使在规模更小、效率更高的情况下，也能在法律任务中超越庞大的通用型 AI 模型。

三阶段训练流水线

研究人员不仅仅是向 AI 喂入更多的法律书籍。他们构建了一个三阶段的训练流水线，就像是一个针对“机器人律师”设计的专业教育计划。

第一阶段：“中期训练”阶段（构建基础）

问题： 如果你拿一个通用 AI，突然强迫它只阅读法律文件，它可能会忘记如何进行正常语言交流，或者失去对现实世界进行推理的能力。这被称为“灾难性遗忘”。

解决方案：可塑性调节采样 (Plasticity-Adjusted Sampling, PAS)

类比： 想象一个擅长数学的学生需要学习高级物理。如果你直接把他们扔进一本充满复杂方程的教科书中，他们可能会感到恐慌并忘记数学基础。
LegalOne 的做法： 研究人员使用了一种名为 PAS 的智能调度器。你可以把它想象成一位根据学生当前情绪和精力的状态来调整作业难度的导师。
- 当 AI 开始“重新预热”（开始新训练）时，导师会给它提供大部分熟悉的、简单的法律文本（低“困惑度”），以保持其稳定性。
- 随着 AI 变得更加强大，导师会逐渐引入更难、更复杂的法律文本。
- 至关重要的一点是，导师始终会在混合内容中保留少量的“简单”材料，以确保 AI 不会遗忘原有的技能。
结果： AI 在不丧失通用智能的前提下，建立了一个强大且稳定的法律知识基础。

第二阶段：监督式微调（学习像律师一样思考）

问题： 真实的法律文件（如法院判决书）通常是以摘要形式呈现的。它们会说明法官做出了什么决定，但往往跳过了法官得出结论时所经历的混乱、循序渐进的思考过程。如果你只是向 AI 展示这些摘要，它会学会通过猜测来获取答案，而不是理解其中的逻辑。

解决方案：法律智能体思维链蒸馏 (Legal Agentic CoT Distillation, LEAD)

类比： 想象一下，如果你只通过阅读最终的食谱卡片来学习烹饪。你知道食材和成品菜肴，但你不知道如何切洋葱，或者什么时候该翻转牛排。
LegalOne 的做法： 他们创建了一个名为 LEAD 的系统，这个系统就像是一个由**专家厨师（智能体）**组成的团队在协同工作。
- AI 不仅仅是在阅读食谱，它还在观看一场“烹饪节目”，厨师们会将过程拆解开来：“第一步，寻找事实；第二步，寻找规则；第三步，应用规则；最后，决定结果。”
- AI 学习通过这种方式自主生成这些循序渐进的推理路径（思维链/Chain-of-Thought），而不是仅仅死记硬背最终答案。
- 他们还有一个“质量控制”步骤，即由一名资深法官（另一个 AI）来检查工作，确保在学生 AI 学习之前，逻辑是严密的且事实是准确的。
结果： AI 学习的是法律推理的过程，而不只是答案本身。

第三阶段：强化学习（“法律心态”魔鬼训练营）

问题： 即便具备良好的推理能力，AI 仍可能过于啰嗦、表达模糊或出现细小的逻辑跳跃。它需要接受纪律训练。

解决方案：多阶段课程强化学习 (Multi-Stage Curriculum RL)

类比： 把这想象成一场针对 AI 大脑的军事训练营。训练从易到难，教导 AI 变得精准且高效。
- 第一级（记忆）： AI 必须完美地背诵法律。不准猜测。
- 第二级（应用）： AI 必须将这些法律应用于具体的事实。
- 第三级（复杂推理）： AI 必须解决困难的多步骤案例。
奖励机制： 如果 AI 表现得准确且符合逻辑，它会获得“积分”（奖励）。如果它产生幻觉或离题万里，它就会失去积分。
结果： AI 从一个“模式匹配者”（基于相似词汇进行猜测）进化成为了一个自主推理者，能够产出简洁、专业且可靠的法律论证。

结果：小而强大

论文提出了一个令人惊讶的发现：规模并非一切。

类比： 通常在 AI 领域，越大越好（就像巨大的图书馆对比小书架）。但 LegalOne 更像是一本高度专业化的、紧凑型的法律百科全书。
主张： LegalOne-8B 模型（拥有 80 亿个参数）在法律测试中的表现优于或等于庞大的通用模型（如 GPT-4o 或拥有数千亿参数的模型）。
效率： 它实现这种“优越性”并非靠庞大的规模，而是靠更高的**“知识密度”**。它精确掌握了法律所需的知识，没有任何冗余。

他们发布了什么

为了帮助他人，团队并没有保守秘密。他们发布了：

LegalOne 权重： 实际训练好的模型，供他人使用。
LegalKit： 一个工具包（类似于标准化考试），用于衡量其他 AI 模型在法律领域的表现水平。

总结

LegalOne 是一个 AI 模型家族，它证明了要成为一名优秀的律师，并不需要一个“巨大”的大脑。通过使用智能的三步训练过程（稳定基础、教授循序渐进的逻辑、以及通过训练实现精准度），他们创造出了一个能够像法律专业人士一样思考、推理和辩论的模型，其表现甚至超越了法庭上许多规模大得多的通用型 AI 模型。

技术摘要：LegalOne

问题陈述

尽管大语言模型（LLMs）展现出了令人印象深刻的通用能力，但其在法律领域的直接应用仍受到两个主要局限性的阻碍：

领域知识不足： 通用模型缺乏对权威来源（法规、司法解释、判例）的精确锚定，并且难以应对复杂的多步司法推理。
推理模式失配： 在处理法律任务时，通用 LLM 往往会产生流畅但法律上无效的输出。它们的推理模式经常无法与现实世界的法律实践对齐，导致幻觉问题以及缺乏来源一致性。

现有的法律专用模型往往在整体能力上落后于领先的通用模型，或者无法展现出处理复杂法律条文和法律逻辑所需的深度推理能力。

方法论

作者提出了 LegalOne，这是一个为中文法律领域量身定制的基础模型系列。这些模型的开发通过一个全面的三阶段训练流水线实现，旨在掌握法律推理能力的同时保留通用能力。

第一阶段：基于可塑性调节采样（PAS）的中期训练（Mid-Training）

为了弥合通用预训练与领域特定指令微调之间的差距，LegalOne 引入了一个中期训练阶段。

数据策略： 该语料库结合了高质量通用数据（如 FinWeb-Edu、MathPile）以防止灾难性遗忘，以及经过精选的法律语料（判决书、法规、学术论文）和合成数据。合成数据包括通过费曼技巧（Feynman Technique）生成的推理轨迹，以及用于增强语言多样性的改写文本。
可塑性调节采样 (PAS)： 为了解决学习新法律知识而不遗忘原有能力的问题，作者提出了一个基于困惑度（Perplexity, PPL）的数据调度器。
- 机制： PAS 将采样概率视为学习率的函数。在“重新预热”（学习率增加）阶段，模型会偏向于与原始分布一致的低困惑度（low-PPL）“锚点”样本。这稳定了优化过程并防止了灾难性遗忘。随着学习率达到峰值，分布会平滑过渡到包含高困惑度的法律数据。
- 理论基础： 该方法基于数值稳定性分析，表明低困惑度数据起到了“数值阻尼器”的作用，能够对抗因在分布外数据上增加学习率而导致的稳定性问题。

第二阶段：利用法律智能体思维链蒸馏（LEAD）进行有监督微调（SFT）

从通用 LLM 进行的标准蒸馏往往会传播错误，且缺乏法律实践的严谨结构。LegalOne 利用 LEAD 从原始法律文本中蒸馏出显式推理。

智能体工作流： 不同于朴素的蒸馏，LEAD 利用一个模拟专业法律工作流的智能体系统。它将复杂的法律问题分解为结构化的序列：事实发现、争议识别、规则检索、规则演绎和结论推导。
认知支架： 该工作流集成了专家协议（Expert Protocols）、外部法律知识库（用于法规检索）和理论模板（如司法三段论），以引导推理轨迹的生成。
精炼： 原始轨迹经过知识内化（通过改写去除显式的外部引用，迫使模型内化逻辑）和推理收敛（将碎片化的子步骤合并为单一、连贯的思维链）处理。
质量控制： 两阶段过滤过程（启发式过滤和 LLM-as-Judge）确保最终数据集仅包含高质量、逻辑一致且有事实依据的推理样本。

第三阶段：多阶段强化学习（RL）

为了培养自主的“法律思维（Legal Mentality）”，作者实施了使用 DAPO 算法及新型**标记级基准（Token-Level Baseline）**的课程强化学习策略。

课程设计： RL 过程跨越五个难度递增的阶段，针对三个核心技能：
1. 法条记忆： 背诵准确的法条文本（奖励函数：ROUGE）。
2. 法条应用： 将事实映射到适用的条款（奖励函数：F1 分数）。
3. 案例分析： 回答复杂的选择题（奖励函数：准确率）。
4. 判决预测： 基于案件事实预测结果（奖励函数：允许判刑差异的 LLM-as-Judge）。
5. 法律文书生成： 起草起诉书或判决书（奖励函数：基于准则的评估）。
标记级基准： 为了减少策略梯度估计的方差，作者提出了一个标记级基准 ( $b_2$ )，该基准根据序列长度对奖励进行加权，从而纠正了标准样本级基准 ( $b_1$ ) 在长序列法律任务中引入的偏差。

核心贡献

LegalOne 模型家族： 一系列模型（1.7B, 4B, 8B）在中文法律推理方面达到了最先进的性能，在特定法律任务上显著超越了参数量大得多的通用模型（如 Qwen3-235B, GPT-5）。
可塑性调节采样 (PAS)： 一种新型数据调度机制，有效平衡了中期训练期间的知识获取与保留，在无需访问原始预训练数据的情况下缓解了灾难性遗忘。
法律智能体思维链蒸馏 (LEAD)： 一个利用智能体工作流将隐性司法逻辑转化为显式、结构化推理轨迹的框架，相比朴素蒸馏，具有更高的事实依据和逻辑严密性。
带有标记级基准的课程强化学习： 一种多阶段 RL 策略，使模型从模式匹配进化到自主推理，并结合了降低方差的基准优化技术。
开源资源： 公开发布了 LegalOne 模型权重和 LegalKit——一个全面的法律领域 LLM 评估工具包。

实验结果

模型在 JEC-QA（国家统一法律职业资格考试）和 LexEval（法律认知能力分类体系）上进行了评估。

性能表现： LegalOne-8B 在法律任务中表现卓越，超越了参数量庞大的通用模型（如 DeepSeek-v3.2, Qwen3-Max）。例如，LegalOne-8B 在 LexEval 平均分和 JEC-QA 平均分上均达到 62.36，优于 Qwen3-8B（44.61 / 44.61），并能与规模大得多的模型竞争。
参数效率： LegalOne 展示了极高的“能力密度”，其中 1.7B 模型显著优于基础的 Qwen3-1.7B，并接近 8B 通用模型的性能，证明了精选领域数据可以弥补小型模型的差距。
消融研究：
- 中期训练： 对于较小的模型（1.7B）而言，中期训练对于防止 SFT 期间的性能退化至关重要；它充当了损失函数的稳定器。
- 强化学习 (RL)： 提供了显著的增益，特别是对于较大的模型（8B），这表明在 RL 阶段存在针对法律推理的特定缩放法则（Scaling Law）。
- 通用能力： 这些模型保留了强大的通用能力（GSM8K, Math500, C-Eval）。值得注意的是，RL 阶段表现出了正向迁移，尽管仅在法律数据上进行训练，但也提升了通用的逻辑推理能力。

意义

论文声称，LegalOne 代表了在开发用于高风险司法应用的可靠且可解释的 AI 方面迈出的重要一步。通过超越表层的模式匹配，转向自主、结构化的法律推理，LegalOne 解决了通用语言流畅度与专业法律标准之间的关键差距。作者认为，他们的研究方法——特别是 PAS、LEAD 和课程强化学习的结合——为构建其他专业领域的鲁棒、领域对齐的基础模型提供了蓝图。LegalKit 和模型权重的发布旨在降低未来研究的门槛，并促进法律 AI 领域的复现性。