An Industrial-Scale Insurance LLM Achieving Verifiable Domain Mastery and Hallucination Control without Competence Trade-offs

1. Il Problema

L'adattamento dei Large Language Models (LLM) a domini verticali ad alto rischio come l'assicurazione presenta sfide critiche che le soluzioni attuali non riescono a gestire efficacemente:

• Trade-off di Competenza: I modelli verticali esistenti spesso sacrificano l'intelligenza generale per acquisire expertise di dominio, portando a una "dimenticanza catastrofica" (catastrophic forgetting).
• Rischio di Allucinazioni: In un settore regolamentato, l'errore (es. inventare clausole o casi fittizi) comporta gravi responsabilità legali. Le soluzioni attuali basate su RAG (Retrieval-Augmented Generation) o fine-tuning ingenuo non garantiscono percorsi di ragionamento verificabili.
• Mancanza di Standardizzazione: L'assenza di benchmark completi specifici per l'assicurazione ostacola l'ottimizzazione iterativa dei modelli.

2. Metodologia: INS-S1

Gli autori presentano INS-S1, una famiglia di modelli LLM assicurativi scalabili, addestrati tramite un nuovo paradigma di allineamento end-to-end. L'approccio si basa su tre innovazioni metodologiche principali:

A. Sistema di Sintesi Dati Verificabile

Invece di un semplice iniezione di conoscenza, è stato progettato un pipeline gerarchico per la costruzione dei dati:

• Iniezione di Conoscenza (No-Query): Elaborazione di corpora multimodali (testi, regolamenti) con "Empty Think Tags" per isolare l'istruzione dal ragionamento, migliorando l'accuratezza teorica.
• Allineamento Cognitivo: Utilizzo di "Adversarial Distractors" (es. opzioni con alterazioni numeriche sottili) per forzare la discriminazione precisa e l'uso di SOP-CoT (Standard Operating Procedure Chain of Thought) per decomporre il ragionamento in pipeline di verifica (Entità → Attributo → Conformità).
• Riduzione delle Allucinazioni: Decomposizione delle capacità RAG in quattro task atomici (identificazione dei confini della conoscenza, selezione, riassunto, auto-controllo) e adattamento dei task RAG per distinguere tra campioni coerenti e incoerenti.
• Preservazione delle Capacità Generali: Utilizzo di un dataset "High-Fidelity" (STEM, Matematica, Esami) con Self-Distillation per allineare i dati generali allo stile del modello base, prevenendo la dimenticanza catastrofica.

B. Framework Curricolare Progressivo SFT-RL

L'addestramento segue una strategia a due fasi che integra l'annealing dei dati dinamico con un mix sinergico di RL:

1. Fase SFT (Supervised Fine-Tuning):
   • Orchestrazione Dinamica dei Dati: Inizio con un mix di task fondamentali e complessi, seguito da un Data Annealing che aumenta progressivamente la proporzione di task di ragionamento complesso (fino al 50%) riducendo i dati generali.
   • Curriculum Learning: Decoupling in due stadi: prima stabilità (mix costante) e poi adattamento al dominio (up-sampling di task difficili e long-tail).
2. Fase RL (Reinforcement Learning):
   • RLVR (Verified Reasoning): Per task verificabili (es. matematica attuariale), utilizza una supervisione di processo con verifica passo-passo (matching basato su regole ed equivalenza semantica).
   • RLAIF (AI Feedback): Per task aperti, utilizza un modello forte (Qwen3-30B) per valutare fattualità, professionalità ed espressione, penalizzando le allucinazioni e il tono "robotico".
   • Algoritmi: Uso di GRPO per modelli densi (32B) e GSPO per modelli MoE (235B) per gestire la stabilità del routing.

C. INSEva Benchmark

È stato rilasciato INSEva, il benchmark più completo per l'assicurazione a oggi:

• 39.166 campioni di alta qualità.
• Copre 9 dimensioni (es. Conoscenza di dominio, Ragionamento logico, Sicurezza, Dialoghi di servizio) e oltre 50 tipi di task.
• Include una pipeline automatizzata "LLM-as-a-Judge" per la valutazione.

3. Risultati Sperimentali

Gli esperimenti dimostrano che INS-S1 raggiunge lo stato dell'arte (SOTA) senza compromettere le capacità generali:

• Performance di Dominio:

  • INS-S1-235B ottiene un punteggio di 90.14 su INSEva, superando significativamente modelli generalisti avanzati come DeepSeek-R1 (82.47) e Gemini-2.5-Pro (84.23).
  • Il modello INS-S1-32B (88.42) supera il modello base Qwen3-32B (80.88) e modelli molto più grandi, dimostrando l'efficacia degli set di istruzioni di alta qualità.
  • Miglioramenti specifici nel Ragionamento Attuariale (da ~54% a ~83%) e nella Sicurezza/Conformità (91.39%).

• Controllo delle Allucinazioni:

  • Raggiunge un tasso di allucinazione record del 0.6% sul benchmark HHEM (Hughes Hallucination Evaluation Model), contro il 2.8% del modello base.

• Mantenimento delle Capacità Generali:

  • A differenza del "trade-off zero-sum", INS-S1 mantiene prestazioni di livello superiore nei benchmark generali (AIME25, Codeforces, MMLU-Pro).
  • INS-S1-32B supera addirittura il proprio modello base (backbone) su alcuni benchmark generali, suggerendo un trasferimento positivo della logica assicurativa rigorosa sul ragionamento matematico e logico generale.

4. Contributi Chiave

1. Paradigma di Addestramento Ibrido: Dimostrazione che è possibile ottenere una specializzazione di dominio rigorosa e verificabile senza sacrificare l'intelligenza generale, superando il problema della "dimenticanza catastrofica".
2. Sintesi Dati Verificabile: Un framework innovativo che combina distillazione, CoT standardizzati e loop di correzione per generare dati ad alta fedeltà logica.
3. Benchmark INSEva: La creazione di uno standard di valutazione industriale completo che copre l'intero spettro delle operazioni assicurative, da sotto-scrittura a gestione sinistri.
4. Controllo delle Allucinazioni: Una strategia di reward shaping basata su vincoli negativi che riduce drasticamente le allucinazioni mantenendo la qualità della risposta.

5. Significato e Impatto

Questo lavoro rappresenta un passo fondamentale per l'adozione industriale degli LLM in settori ad alto rischio.

• Validazione Industriale: Dimostra che i modelli possono essere addestrati per seguire regole complesse e normative senza diventare "scatole nere" inaffidabili.
• Efficienza delle Risorse: Mostra che modelli di dimensioni medie (32B) addestrati con dati di alta qualità possono superare modelli molto più grandi (1TB+ o 671B) in compiti di dominio specifico.
• Futuro: Apre la strada a sistemi di agenti autonomi in grado di gestire transazioni commerciali chiuse (dalla consulenza alla vendita) con un livello di affidabilità precedentemente irraggiungibile.

In sintesi, INS-S1 stabilisce un nuovo standard per i modelli verticali, provando che la specializzazione rigorosa e il controllo delle allucinazioni sono compatibili con l'intelligenza generale.