💬 NLP

LegalMidm: Use-Case-Driven Legal Domain Specialization for Korean Large Language Model

Questo articolo introduce LegalMidm, un modello linguistico di grandi dimensioni nel dominio legale coreano sviluppato attraverso un framework di addestramento sistematico e guidato da casi d'uso che dà priorità alla collaborazione con professionisti legali e a una rigorosa curazione dei dati per migliorare la precisione e l'utilità pratica nelle applicazioni legali reali.

Autori originali: Youngjoon Jang, Chanhee Park, Hyeonseok Moon, Young-kyoung Ham, Jiwon Moon, Jinhyeon Kim, JuKyung Jung, Heuiseok Lim

Pubblicato 2026-04-29

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Youngjoon Jang, Chanhee Park, Hyeonseok Moon, Young-kyoung Ham, Jiwon Moon, Jinhyeon Kim, JuKyung Jung, Heuiseok Lim

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un bibliotecario geniale e onnisciente di nome "Mi:dm". Questo bibliotecario ha letto quasi ogni libro al mondo e può rispondere a domande su qualsiasi argomento, dalle ricette di cucina alla fisica quantistica. Tuttavia, se chiedi a questo bibliotecario di redigere un atto di citazione per un processo in Corea del Sud, potrebbe inciampare. Conosce le parole, ma non comprende appieno le regole del gioco o lo stile specifico richiesto dai giudici coreani.

Questo documento presenta LEGALMIDM, un progetto progettato per trasformare quel bibliotecario generico in un Esperto Legale Coreano specializzato. I ricercatori non si sono limitati a fornire al bibliotecario una pila di libri di legge; hanno creato un programma di formazione personalizzato basato su ciò che gli avvocati devono effettivamente fare ogni giorno.

Ecco come hanno proceduto, suddiviso in passaggi semplici:

1. Ascoltare i veri protagonisti (L'approccio "Use-Case")

Prima di insegnare all'IA, i ricercatori sono usciti e hanno chiesto: "Di cosa hanno realmente bisogno gli avvocati reali?".
Hanno esaminato le aziende di legal tech negli Stati Uniti e in Corea e hanno parlato con avvocati in esercizio. Hanno scoperto che gli avvocati hanno principalmente bisogno di aiuto per quattro cose:

Riassumere documenti lunghi.
Rispondere a domande basate su documenti specifici.
Redigere atti di citazione (il documento che avvia una causa).
Redigere ricorsi (richieste formali al tribunale).

Invece di insegnare all'IA fatti legali a caso, hanno focalizzato la formazione specificamente su questi compiti ad alta domanda.

2. Costruire il "Manuale" (Cura dei Dati)

Per insegnare all'IA, avevano bisogno di esempi di alta qualità. Non si sono limitati a raccogliere testi a caso da internet.

Esperti Umani: Hanno assunto studenti di giurisprudenza, professionisti legali e avvocati effettivi per curare i dati. Pensate a questo come ad avere un team di chef maestri che assaggia gli ingredienti prima di cucinare.
Generazione Automatica: Hanno anche utilizzato un'IA potente per generare domande e risposte di pratica basate sulle leggi coreane reali. Per assicurarsi che l'IA non "allucinasce" (non inventasse cose), hanno creato una regola rigorosa: ogni risposta doveva indicare il paragrafo esatto della legge da cui proveniva. Se l'IA non riusciva a trovare il testo sorgente, la risposta veniva scartata.

3. La Ricetta di Addestramento (La "Pipeline")

I ricercatori hanno testato diversi modi per addestrare l'IA per vedere cosa funzionava meglio. Hanno trattato questo come un esperimento scientifico con tre ingredienti principali:

Ingrediente A: Il Mix di "Conoscenza Generale".
- La Domanda: Se alimentiamo l'IA solo con libri di legge, dimenticherà come parlare normalmente o rispondere a domande semplici?
- La Scoperta: Sì, lo farebbe. I migliori risultati sono stati ottenuti mescolando dati legali con dati di conversazione generale (come le domande quotidiane che le persone fanno ai chatbot). Questo ha mantenuto l'IA intelligente e gentile mentre la rendeva un esperto legale. Lo hanno fatto durante due fasi: "Pre-Training Continuo" (leggere i libri) e "Instruction Tuning" (imparare a seguire gli ordini).
Ingrediente B: Come Presentare la Legge.
- La Domanda: Dovremmo fornire il testo della legge all'IA prima che risponda, o dovremmo chiederle di scrivere la legge come parte della risposta?
- La Scoperta: È un compromesso. Chiedere all'IA di scrivere la legge nella sua risposta ha funzionato benissimo per la redazione di documenti (come gli atti di citazione), ma ha confuso l'IA quando rispondeva a domande a scelta multipla. Il team ha deciso di inserire il testo della legge nell'input (darlo all'IA da leggere) piuttosto che chiederle di generare il testo della legge stessa. Questo ha reso l'IA più stabile attraverso diversi compiti.
Ingrediente C: La "Persona" (Prompt di Sistema).
- La Domanda: Dovremmo dire all'IA, "Sei un assistente legale di nome Mi:dm" durante l'addestramento, o dirglielo solo quando parliamo con lei?
- *La Scoperta: Sorprendentemente, dire all'IA la sua identità durante l'addestramento l'ha resa meno brava nei compiti legali. La strategia migliore è stata addestrarla senza una persona specifica, e poi dirle solo chi è quando un umano inizia a parlarle. Questo ha permesso all'IA di apprendere le competenze legali in profondità senza confondersi con il proprio "carattere".

4. I Risultati

Il modello finale, LEGALMIDM, è stato testato contro altri modelli AI massicci e famosi (alcuni dei quali molto più grandi).

Compiti Legali: LEGALMIDM ha battuto i modelli più grandi nella redazione di atti di citazione, ricorsi e nel riassumere casi. È stato come un chirurgo specializzato che supera un medico di base in un intervento specifico.
Compiti Generali: Nonostante fosse più piccolo e specializzato, non ha perso la capacità di rispondere a domande generali. Non ha sofferto di "dimenticanza catastrofica" (dimenticare tutto il resto che sapeva).

Il Punto Fondamentale

Il documento sostiene che per costruire un'IA veramente utile per un campo specifico come il diritto, non si può semplicemente scaricare un mucchio di dati su un modello generico. Bisogna:

Chiedere agli esperti di cosa hanno realmente bisogno.
Mescolare dati specializzati con dati generali in modo che l'IA non perda il buon senso.
Testare formati diversi per vedere come le informazioni vengono presentate.
Riservare le istruzioni sulla "personalità" per il momento della conversazione, non per la fase di addestramento.

Seguendo questa ricetta, hanno creato un'IA legale coreana che non è solo un database "stupido", ma uno strumento pratico che comprende le sfumature del sistema legale coreano.

1. Enunciato del Problema

La rapida proliferazione di Modelli Linguistici su Larga Scala (LLM) open-source ha portato a sforzi volti alla creazione di specialisti specifici per dominio. Tuttavia, gli LLM specializzati per dominio esistenti (in particolare nel campo legale) soffrono spesso di una disconnessione critica:

Disallineamento con le esigenze del mondo reale: Molti modelli sono addestrati su dataset e protocolli basati su assunzioni naive di utilità piuttosto che sui requisiti sfumati e ad alto rischio dei flussi di lavoro legali effettivi.
Mancanza di rigore: Gli approcci attuali spesso non riescono a gestire l'ambiguità intrinseca dei compiti legali o a giustificare le loro composizioni di dati e i formati di input/output.
Dimenticanza catastrofica: L'adattamento di modelli generali a domini specifici comporta spesso il rischio di degradare le prestazioni su compiti generali o di non mantenere l'identità del modello (ad esempio, rispondere a "Chi sei?").
Contesto: Sebbene vi sia un'alta domanda di IA nel settore legale coreano, mancano framework sistematici per adattare gli LLM open al diritto coreano in modo specifico.

2. Metodologia

Gli autori propongono LEGALMIDM, un LLM verticale per il dominio legale coreano, costruito su Mi:dm-2.0-Base (un modello bilingue coreano-inglese da 11,5 miliardi di parametri). La metodologia è un framework end-to-end guidato da casi d'uso, costituito da quattro pilastri chiave:

A. Indagine sui Requisiti e Selezione dei Compiti

Invece di un addestramento generico, gli autori hanno analizzato 20 servizi operativi di legal tech (Stati Uniti e Corea del Sud) e hanno consultato avvocati praticanti. Hanno identificato sei compiti ad alta domanda:

Sintesi di Documenti (DS)
Risposta a Domande basata su Documenti (DQA)
Risposta a Domande Aperte (Open QA)
Redazione di Ricorsi (DD)
Redazione di Petizioni (DD)
Risposta a Domande a Scelta Multipla (MC)

B. Curazione e Costruzione dei Dati

Dati Curati dall'Uomo: Un team composto da laureati in giurisprudenza, professionisti del settore e avvocati ha costruito dataset di alta qualità. Questo include 100 campioni di test tenuti da parte per ogni compito.
Generazione Automatica di Dati Sintetici: Per scalare il volume dei dati, hanno sfruttato gli statuti del Centro di Informazione Legislativa Coreano. Utilizzando GPT-4o, hanno generato coppie domanda-risposta in cui il modello è stato istruito a citare specifiche disposizioni legali.
- Verifica: Un passaggio di verifica tramite corrispondenza di stringhe ha assicurato che i riferimenti citati fossero effettive sottostringhe degli statuti sorgente, garantendo un fondamento fattuale.
Preservazione del Dominio Generale: Per prevenire la dimenticanza catastrofica, gli autori hanno analizzato query reali degli utenti (da ChatKoAlpaca) per identificare domande comuni sull'identità (ad esempio, "Chi sei?") e hanno incluso dati di dominio generale (KoAlpaca, KOpen-HQ) nel mix di addestramento.

C. Pipeline di Addestramento

Il processo di addestramento ha coinvolto due fasi con specifici studi di ablazione per determinare le strategie ottimali:

Pre-addestramento Continuo (CPT): Adattamento del modello base al dominio legale.
Instruction-Tuning (IT): Affinamento del modello per compiti specifici.

Decisioni Chiave di Progettazione (Convalidate tramite Ablazione):

Composizione dei Dati: Integrare dati di dominio generale (in un rapporto 7:3 tra Generale:Legale) durante entrambe le fasi CPT e IT ha prodotto prestazioni superiori rispetto all'addestramento esclusivamente su dati legali. Ciò ha preservato le capacità generali migliorando al contempo la specializzazione legale.
Formattazione dei Dati Sintetici: Gli autori hanno testato tre formati per i riferimenti legali ( $R$ $R$ ):
1. $M(Q) \to A$ (Nessun riferimento)
2. $M(Q) \to A + R$ (Riferimento nell'output)
3. $M(Q + R) \to A$ (Riferimento nell'input)
- Risultato: Sebbene la generazione di riferimenti nell'output funzionasse bene per i compiti di documenti, ha causato instabilità nelle domande a scelta multipla. La strategia ottimale è stata inserire i riferimenti legali nell'input ( $Q + R$ ) per tutti i compiti.
Ottimizzazione del System Prompt: Gli autori hanno testato l'addestramento con e senza system prompt (che definiscono il modello come "Mi:dm").
- Risultato: L'addestramento senza system prompt ha prodotto le migliori prestazioni legali. Il system prompt dovrebbe essere applicato solo al momento dell'inferenza per garantire che il modello si identifichi correttamente senza compromettere il ragionamento specifico per il compito.

3. Contributi Chiave

Framework Guidato dai Casi d'Uso: Una ricetta sistematica per trasformare gli LLM open in esperti legali, basata su requisiti industriali effettivi piuttosto che su assunzioni teoriche.
Modello LEGALMIDM: Il rilascio di un LLM legale coreano specializzato da 11,5 miliardi di parametri che supera significativamente modelli molto più grandi (ad esempio, Llama-3.3-70B, Qwen2.5-32B) su benchmark legali coreani.
Validazione Empirica delle Strategie di Addestramento:
- Ha dimostrato che mescolare dati di dominio generale è cruciale per mantenere la robustezza.
- Ha identificato che inserire riferimenti legali è superiore alla loro generazione per i dati sintetici.
- Ha provato che i system prompt dovrebbero essere disaccoppiati dai dati di addestramento e applicati solo durante l'inferenza.
Costruzione di Dataset di Alta Qualità: Una pipeline rigorosa che coinvolge esperti legali e verifica automatizzata per creare dataset legali con fondamento fattuale.

4. Risultati

Il modello è stato valutato su sei compiti legali e due benchmark generali (KMMLU, HAERAE).

Prestazioni Legali: LEGALMIDM (11,5B) ha ottenuto i punteggi più alti in tutti i compiti legali (Ricorso, Sintesi, Petizione, QA, MRC, MC).
- Esempio: Sul compito Ricorso, LEGALMIDM ha ottenuto un punteggio Rouge-L di 67,67, superando significativamente Llama-3.3-70B (53,40) e Qwen2.5-32B (58,81).
- Ha anche ottenuto i punteggi più alti dai giudici LLM (valutati da GPT-4o) in tutti i casi.
Prestazioni Generali: Nonostante le dimensioni ridotte, LEGALMIDM ha mantenuto prestazioni competitive sui benchmark generali (KMMLU, HAERAE), paragonabili o superiori a modelli molto più grandi, confermando che l'inclusione di dati generali ha prevenuto la dimenticanza catastrofica.
Insight dall'Ablazione:
- Rimuovere i dati generali da CPT/IT ha causato un calo significativo delle prestazioni nei compiti legali.
- Includere i riferimenti nell'input ( $Q+R$ ) ha costantemente superato altri formati in termini di stabilità e accuratezza.

5. Significato

Questo paper affronta una lacuna critica nella distribuzione dell'IA nel settore legale spostando il focus da "più dati" a "dati migliori, allineati ai casi d'uso e strategie di addestramento".

Utilità Pratica: Il framework fornisce un percorso riproducibile per sviluppare LLM verticali che non sono solo teoricamente capaci, ma praticamente utili per compiti ad alto rischio come la redazione di ricorsi e petizioni.
Efficienza: Dimostra che un modello più piccolo e ben sintonizzato (11,5B) può superare modelli fondazionali massicci (70B+) in domini specializzati quando la pipeline di addestramento è ottimizzata per i vincoli specifici del dominio.
IA Legale Coreana: Colma un vuoto specifico nel panorama della legal tech coreana, fornendo un modello addestrato su statuti e contesti culturali coreani, essenziale per un ragionamento legale accurato in quella giurisdizione.

In conclusione, LEGALMIDM stabilisce un nuovo standard per la specializzazione di dominio, dimostrando che una rigorosa curazione dei dati, un mescolamento strategico dei dati e scelte architetturali specifiche (come il riferimento basato sull'input) sono più impattanti rispetto al semplice aumento delle dimensioni del modello.