Technische Samenvatting: LegalOne

Probleemstelling

Hoewel Large Language Models (LLMs) indrukwekkende algemene capaciteiten vertonen, wordt hun directe toepassing in het juridische domein gehinderd door twee primaire beperkingen:

1. Onvoldoende Domeinkennis: Algemene modellen missen een nauwkeurige verankering in autoritatieve bronnen (wetgeving, rechterlijke interpretaties, precedenten) en worstelen met de complexiteit van rigoureuze meerstaps juridische redenering.
2. Misalignement van Redeneerpatronen: Bij toepassing op juridische taken produceren algemene LLM's vaak vloeiende maar juridisch ongeldige outputs. Hun redeneerpatronen sluiten vaak niet aan bij de juridische praktijk in de echte wereld, wat leidt tot hallucinaties en een gebrek aan bronconsistentie.

Bestaande juridische specifieke modellen lopen vaak achter op toonaangevende algemene modellen wat betreft algemene capaciteiten, of ze vertonen niet de diepe redenering die vereist is voor complexe statutaire taal en juridische logica.

Methodologie

De auteurs presenteren LegalOne, een familie van foundation models afgestemd op het Chinese juridische domein. De modellen zijn ontwikkeld via een uitgebreide driefasige trainingspijplijn die ontworpen is om juridische redenering te beheersen terwijl algemene capaciteiten behouden blijven.

Fase 1: Mid-Training met Plasticity-Adjusted Sampling (PAS)

Om de kloof tussen algemene pre-training en domeinspecifieke instruction tuning te overbruggen, introduceert LegalOne een mid-training fase.

• Datastrategie: Het corpus combineert hoogwaardige algemene data (bijv. FinWeb-Edu, MathPile) om catastrofale vergetelheid te voorkomen met een gecureerde juridische corpus (vonnissen, wetten, academische papers) en synthetische data. Synthetische data bevat redeneertrajecten gegenereerd via de Feynman-techniek en geherformuleerde teksten om de linguïstische diversiteit te vergroten.
• Plasticity-Adjusted Sampling (PAS): Om de uitdaging aan te pakken om nieuwe juridische kennis te leren zonder oorspronkelijke capaciteiten te vergeten, stellen de auteurs een perplexity-gebaseerde data scheduler voor.
  • Mechanisme: PAS behandelt de sampling-waarschijnlijkheid als een functie van de learning rate. Tijdens de "re-warmup" fase (waarin de learning rate toeneemt), wordt het model bevoordeeld richting low-perplexity (low-PPL) "anker"-samples die overeenkomen met de oorspronkelijke distributie. Dit stabiliseert de optimalisatie en voorkomt catastrofale vergetelheid. Naarmate de learning rate piekt, transformeert de distributie geleidelijk om ook high-PPL juridische data te bevatten.
  • Theoretische Basis: De methode is geworteld in numerieke stabiliteitsanalyse, waarbij wordt aangetoond dat low-PPL data fungeert als een "numerieke demper" tegen de instabiliteit veroorzaakt door toenemende learning rates op out-of-distribution data.

Fase 2: Supervised Fine-Tuning (SFT) met Legal Agentic CoT Distillation (LEAD)

Standaard distillatie vanuit algemene purpose-modellen verspreidt vaak fouten en mist de rigoureuze structuur van de juridische praktijk. LegalOne gebruikt LEAD om expliciete redenering te distilleren uit ruwe juridische teksten.

• Agentic Workflow: In plaats van naïeve distillatie, maakt LEAD gebruik van een agentic systeem dat professionele juridische workflows emuleert. Het deelt complexe juridische problemen op in een gestructureerde sequentie: Feitenonderzoek, Probleemidentificatie, Regelextractie, Regeldeductie en Conclusieafleiding.
• Cognitieve Scaffolding: De workflow integreert Expert Protocollen, een externe Legal Knowledge Base (voor statutische extractie) en Theoretische Templates (bijv. de juridische syllogisme) om de generatie van redeneertrajecten te begeleiden.
• Verfijning: De ruwe sporen ondergaan Knowledge Internalization (het herschrijven om expliciete externe referenties te verwijderen, waardoor het model gedwongen wordt de logica te internaliseren) en Reasoning Convergence (het samenvoegen van gefragmenteerde substappen tot één coherente Chain-of-Thought).
• Kwaliteitscontrole: Een tweestaps filterproces (heuristisch en LLM-as-Judge) zorgt ervoor dat de uiteindelijke dataset alleen hoogwaardige, logisch consistente en feitelijk onderbouwde redeneersamples bevat.

Fase 3: Multi-Stage Reinforcement Learning (RL)

Om een autonome "Juridische Mentaliteit" te bevorderen, implementeren de auteurs een Curriculum Reinforcement Learning strategie met het DAPO algoritme en een nieuwe Token-Level Baseline.

• Curriculum Design: Het RL-proces beslaat vijf stadia van toenemende moeilijkheid, gericht op drie kernvaardigheden:
  1. Statute Memorization: Het citeren van exacte statutaire tekst (Reward: ROUGE).
  2. Statute Application: Het mappen van feiten aan toepasbare bepalingen (Reward: F1 score).
  3. Case Analysis: Het beantwoorden van complexe meerkeuzevragen (Reward: Accuracy).
  4. Judgment Prediction: Het voorspellen van uitkomsten op basis van casusfeiten (Reward: LLM-as-Judge met tolerantie voor variatie in strafmaat).
  5. Legal Document Generation: Het opstellen van aanklachten of vonnissen (Reward: Rubric-gebaseerde evaluatie).
• Token-Level Baseline: Om variantie in de policy gradient schatting te verminderen, stellen de auteurs een token-level baseline ($b_2$) voor die rewards weegt op basis van sequentielengte, wat de bias corrigeert die wordt geïntroduceerd door standaard sample-level baselines ($b_1$) bij lange-sequentie juridische taken.

Belangrijkste Bijdragen

1. LegalOne Model Familie: Een serie modellen (1.7B, 4B, 8B) die state-of-the-art prestaties leveren in Chinees juridisch redeneren, waarbij ze aanzienlijk grotere algemene modellen (bijv. Qwen3-235B, GPT-5) overtreffen in specifieke juridische taken.
2. Plasticity-Adjusted Sampling (PAS): Een nieuw data scheduling mechanisme dat effectief de balans vindt tussen kennisverwerving en behoud tijdens mid-training, waardoor catastrofale vergetelheid wordt gemitigeerd zonder toegang nodig te hebben tot de oorspronkelijke pre-training data.
3. Legal Agentic CoT Distillation (LEAD): Een framework voor het omzetten van impliciete juridische logica in expliciete, gestructureerde redeneertrajecten met behulp van agentic workflows, wat resulteert in een hogere feitelijke verankering en logische strengheid dan naïeve distillatie.
4. Curriculum RL met Token-Level Baseline: Een multi-stage RL strategie die het model evolueert van patroonherkenning naar autonome redenering, gekoppeld aan een variantie-reducerende baseline optimalisatietechniek.
5. Open Resources: De publieke release van de LegalOne model weights en LegalKit, een uitgebreide evaluatie toolkit voor juridische domein LLM's.

Experimentele Resultaten

De modellen werden geëvalueerd op JEC-QA (Nationale Uniforme Juridische Professionele Kwalificatie Examen) en LexEval (Legal Cognitive Ability Taxonomy).

• Prestaties: LegalOne-8B behaalt superieure prestaties over juridische taken, waarbij het algemene modellen met veel grotere parameters overtreft (bijv. DeepSeek-v3.2, Qwen3-Max). Zo scoort LegalOne-8B 62.36 op LexEval Average en 62.36 op JEC-QA Average, waarmee het Qwen3-8B (44.61 / 44.61) overtreft en concurreert met veel grotere modellen.
• Parameter Efficiëntie: LegalOne demonstreert een hoge "capability density", waarbij het 1.7B model het basis Qwen3-1.7B model significant overtreft en dicht bij de prestaties van het 8B algemene model komt, wat bewijst dat gecureerde domeindata de kloof voor compacte modellen kan overbruggen.
• Ablatie Studies:
  • Mid-Training: Essentieel voor kleinere modellen (1.7B) om prestatievermindering tijdens SFT te voorkomen; het fungeert als een stabilisator voor de loss landscape.
  • RL: Levert significante winst op, met name voor grotere modellen (8B), wat suggereert dat er een scaling law specifiek is voor juridisch redeneren binnen de RL-fase.
• Algemene Capaciteiten: De modellen behouden sterke algemene capaciteiten (GSM8K, Math500, C-Eval). Opvallend genoeg toonde de RL-fase positieve transfer, wat de algemene logische redenering verbeterde ondanks dat er uitsluitend op juridische data werd getraind.

Betekenis

Het artikel stelt dat LegalOne een belangrijke stap voorwaarts vertegenwoordigt in de ontwikkeling van betrouwbare en interpreteerbare AI voor juridische toepassingen met een hoog risico. Door verder te gaan dan oppervlakkige patroonherkenning naar autonome, gestructureerde juridische redenering, adresseert LegalOne de kritieke kloof tussen algemene linguïstische vloeiendheid en professionele juridische standaarden. De auteurs stellen dat hun methodologie — specifiek de combinatie van PAS, LEAD en Curriculum RL — een blauwdruk biedt voor het bouren van robuuste, domein-gealigneerde foundation models in andere gespecialiseerde velden. De release van LegalKit en de model weights heeft als doel de barrières voor toekomstig onderzoek te verlagen en reproduceerbaarheid in Legal AI te bevorderen.