Resumen Técnico: LegalOne

Declaración del Problema

Aunque los Modelos de Lenguaje de Gran Escala (LLMs) demuestran capacidades generales impresionantes, su aplicación directa en el dominio jurídico se ve obstaculizada por dos limitaciones primarias:

1. Conocimiento de Dominio Insuficiente: Los modelos generales carecen de un fundamento preciso en fuentes autorizadas (estatutos, interpretaciones judiciales, precedentes) y luchan con la complejidad del razonamiento judicial riguroso de múltiples pasos.
2. Patrones de Razonamiento Desalineados: Al aplicarse a tareas legales, los LLMs generales suelen producir salidas que son fluidas pero jurídicamente inválidas. Sus patrones de razonamiento frecuentemente no se alinean con la práctica legal del mundo real, lo que conduce a alucinaciones y una falta de consistencia de las fuentes.

Los modelos específicos para el ámbito legal existentes a menudo se quedan atrás respecto a los modelos de propósito general líderes en capacidad general o no logran exhibir el razonamiento profundo requerido para el lenguaje estatutario complejo y la lógica legal.

Metodología

Los autores presentan LegalOne, una familia de modelos fundacionales adaptados para el dominio legal chino. Los modelos se desarrollan a través de un pipeline de entrenamiento integral de tres fases diseñado para dominar el razonamiento legal mientras se retienen las capacidades generales.

Fase 1: Mid-Training con Muestreo Ajustado por Plasticidad (PAS)

Para cerrar la brecha entre el pre-entrenamiento general y el ajuste de instrucciones específico del dominio, LegalOne introduce una etapa de mid-training.

• Estrategia de Datos: El corpus combina datos generales de alta calidad (p. ej., FinWeb-Edu, MathPile) para prevenir el olvido catastrófico con un corpus legal curado (sentencias, estatutos, artículos académicos) y datos sintéticos. Los datos sintéticos incluyen trayectorias de razonamiento generadas mediante la Técnica Feynman y textos parafraseados para mejorar la diversidad lingüística.
• Muestreo Ajustado por Plasticidad (PAS): Para abordar el desafío de aprender nuevo conocimiento legal sin olvidar las capacidades originales, los autores proponen un programador de datos basado en la perplejidad.
  • Mecanismo: PAS trata la probabilidad de muestreo como una función de la tasa de aprendizaje. Durante la fase de "re-calentamiento" (donde la tasa de aprendizaje aumenta), el modelo se sesga hacia muestras de baja perplejidad (bajo-PPL) que se alinean con su distribución original. Esto estabiliza la optimización y evita el olvido catastrófico. A medida que la tasa de aprendizaje alcanza su pico, la distribución transiciona suavemente para incluir datos legales de alta perplejidad (alto-PPL).
  • Base Teórica: El método se fundamenta en el análisis de estabilidad numérica, demostrando que los datos de baja perplejidad actúan como un "amortiguador numérico" contra la inestabilidad causada por el aumento de la tasa de aprendizaje sobre datos fuera de la distribución.

Fase ía: Ajuste Fino Supervisado (SFT) con Destilación de CoT Agéntica Legal (LEAD)

La destilación estándar de LLMs de propósito general a menudo propaga errores y carece de la estructura rigurosa de la práctica legal. LegalOne emplea LEAD para destilar el razonamiento explícito a partir de textos legales brutos.

• Flujo de Trabajo Agéntico: En lugar de una destilación ingenua, LEAD utiliza un sistema agéntico que emula flujos de trabajo profesionales legales. Descompone problemas legales complejos en una secuencia estructurada: Búsqueda de Hechos, Identificación de Problemas, Recuperación de Normas, Deducción de Normas y Derivación de Conclusiones.
• Andamiaje Cognitivo: El flujo de trabajo integra Protocolos de Expertos, una Base de Conocimiento Legal externa (para la recuperación de estatutos) y Plantillas Teóricas (p. ej., silogismo judicial) para guiar la generación de trayectorias de razonamiento.
• Refinamiento: Las trazas brutas pasan por una Internalización de Conocimiento (reescritura para eliminar referencias externas explícitas, forzando al modelo a internalizar la lógica) y una Convergencia de Razonamiento (fusión de subpasos fragmentados en un único y coherente Cadena de Pensamiento o Chain-of-Thought).
• Control de Calidad: Un proceso de filtrado de dos etapas (heurístico y LLM-como-Juez) asegura que el conjunto de datos final contenga únicamente muestras de razonamiento de alta calidad, lógicamente consistentes y fácticamente fundamentadas.

Fase 3: Aprendizaje por Refuerzo Multi-Etapa (RL)

Para fomentar una "Mentalidad Legal" autónoma, los autores implementan una estrategia de Aprendizaje por Refuerzo Curricular utilizando el algoritmo DAPO con una novedosa Línea Base a Nivel de Token.

• Diseño del Currículo: El proceso de RL abarca cinco etapas de dificultad creciente, apuntando a tres habilidades principales:
  1. Memorización de Estatutos: Recitar el texto estatutario exacto (Recompensa: ROUGE).
  2. Aplicación de Estatutos: Mapear hechos a disposiciones aplicables (Recompensa: puntuación F1).
  3. Análisis de Casos: Responder preguntas de opción múltiple complejas (Recompensa: Precisión/Accuracy).
  4. Predicción de Sentencias: Predecir resultados basados en hechos del caso (Recompensa: LLM-como-Juez con tolerancia para la varianza en la sentencia).
  5. Generación de Documentos Legales: Redactar acusaciones o sentencias (Recompensa: Evaluación basada en rúbricas).
• Línea Base a Nivel de Token: Para reducir la varianza en la estimación del gradiente de política, los autores proponen una línea base de nivel de token ($b_2$) que pondera las recompensas por la longitud de la secuencia, corrigiendo el sesgo introducido por las líneas base estándar de nivel de muestra ($b_1$) en tareas legales de secuencias largas.

Contribuciones Clave

1. Familia de Modelos LegalOne: Una serie de modelos (1.7B, 4B, 8B) que alcanzan un rendimiento de vanguardia en el razonamiento legal chino, superando significativamente a modelos de propósito general mucho más grandes (p. ej., Qwen3-235B, GPT-5) en tareas legales específicas.
2. Muestreo Ajustado por Plasticidad (PAS): Un novedoso mecanismo de programación de datos que equilibra eficazmente la adquisición y la retención de conocimiento durante el mid-training, mitigando el olvido catastrófico sin requerir acceso a los datos originales de pre-entrenamiento.
3. Destilación de CoT Agéntica Legal (LEAD): Un marco para convertir la lógica judicial implícita en trayectorias de razonamiento explícitas y estructuradas mediante flujos de trabajo agénticos, resultando en un mayor fundamento fáctico y rigor lógico que la destilación ingenua.
4. RL Curricular con Línea Base a Nivel de Token: Una estrategia de RL multi-etapa que evoluciona el modelo desde el reconocimiento de patrones hacia el razonamiento autónomo, junto con una técnica de optimización de línea base para la reducción de la varianza.
5. Recursos Abiertos: Lanzamiento público de los pesos del modelo LegalOne y LegalKit, un kit de herramientas de evaluación integral para LLMs en el dominio legal.

Resultados Experimentales

Los modelos fueron evaluados en JEC-QA (Examen Nacional Unificado de Calificación Profesional Jurídica) y LexEval (Taxonomía de Capacidad Cognitiva Legal).

• Rendimiento: LegalOne-8B logra un rendimiento superior en tareas legales, superando a modelos de propósito general con recuentos de parámetros vastamente mayores (p. ej., DeepSeek-v3.2, Qwen3-Max). Por ejemplo, LegalOne-8B obtiene 62.36 en el promedio de LexEval y 62.36 en el promedio de JEC-QA, superando a Qwen3-8B (44.61 / 44.61) y compitiendo con modelos mucho más grandes.
• Eficiencia de Parámetros: LegalOne demuestra una alta "densidad de capacidad", donde el modelo de 1.7B supera significativamente al base Qwen3-1.7B y se acerca al rendimiento del modelo general de 8B, demostrando que los datos de dominio curados pueden cerrar la brecha para modelos compactos.
• Estudios de Ablación:
  • Mid-Training: Es esencial para modelos pequeños (1.7B) para prevenir la degradación del rendimiento durante el SFT; actúa como un estabilizador para el paisaje de pérdida (loss landscape).
  • RL: Proporciona ganancias significativas, particularmente para modelos más grandes (8B), lo que sugiere una ley de escala (scaling law) específica para el razonamiento legal dentro de la etapa de RL.
• Capacidades Generales: Los modelos retienen fuertes capacidades generales (GSM8K, Math500, C-Eval). Notablemente, la fase de RL mostró una transferencia positiva, mejorando el razonamiento lógico general a pesar de haber sido entrenado exclusivamente en datos legales.

Significancia

El artículo afirma que LegalOne representa un paso significativo hacia el desarrollo de una IA confiable e interpretable para aplicaciones judiciales de alto riesgo. Al ir más allá del reconocimiento de patrones superficiales hacia un razonamiento legal autónomo y estructurado, LegalOne aborda la brecha crítica entre la fluidez lingüística general y los estándares profesionales legales. Los autores postulan que su metodología —específicamente la combinación de PAS, LEAD y RL Curricular— proporciona un plano para construir modelos fundacionales robustos y alineados con el dominio en otros campos especializados. El lanzamiento de LegalKit y los pesos del modelo tiene como objetivo reducir las barreras para la investigación futura y promover la reproducibilidad en la IA Legal.