Riepilogo Tecnico: TFD – Un Dataset Fondamentale Strutturato Completo per il Tibetano

1. Enunciato del Problema

Nonostante il successo straordinario dei Modelli Linguistici di Grande Dimensione (LLM) nelle lingue ad alta risorsa, i progressi nella lingua tibetana rimangono severamente limitati. Il limite principale non è semplicemente la scarsità di testi tibetani grezzi, ma l'assenza di un ecosistema di dati strutturalmente completo che copra l'intera pipeline di sviluppo moderna degli LLM. Le risorse tibetane esistenti sono tipicamente su piccola scala, specifiche per dominio, rumorose e prive di elaborazione standardizzata. Crucialmente, nessuna risorsa precedente supporta congiuntamente l'intero spettro delle fasi di addestramento moderne: pre-addestramento, affinamento tramite istruzioni (instruction tuning), allineamento alla sicurezza, ottimizzazione delle preferenze e supervisione del ragionamento. Di conseguenza, gli attuali LLM tibetani mostrano una generalizzazione limitata, una modellazione del discorso debole e una generazione instabile.

2. Metodologia: Il Dataset Fondamentale Tibetano (TFD)

Per colmare questa lacuna strutturale, gli autori introducono TFD, il primo dataset strutturato, su larga scala e curato da esperti, progettato per coprire l'intera pipeline di sviluppo degli LLM per il tibetano. TFD comprende due sotto-dataset principali:

2.1 TIBSTC (Affinamento Supervisionato Generale)

TIBSTC è una raccolta multi-componente contenente oltre 11 miliardi di token distribuiti in cinque categorie:

• Corpus: Un corpus eterogeneo per il pre-addestramento (122M+ istanze) che copre letteratura, diritto, religione, medicina e comunicazione quotidiana. Include grammatica e sintassi tradizionali, preservando le peculiarità culturali.
• Alpaca-Ti: Un dataset per l'affinamento supervisionato tramite istruzioni (42k istanze), costruito traducendo e adattando localmente il dataset Alpaca in inglese. Ha subito un rigoroso protocollo di allineamento in due fasi con esperti, che ha coinvolto la stesura con due modelli (Google Translate/Claude-3.5-Sonnet) seguita da una valutazione umana per la fedeltà semantica e l'allineamento culturale.
• Safety-Prompts-Ti: Un dataset di allineamento alla sicurezza (38k istanze) che copre attacchi alle istruzioni (es. dirottamento degli obiettivi, fuga di prompt) e scenari di sicurezza (es. danno fisico, etica).
• CValues-Ti: Un dataset di preferenze su piccola scala (2k istanze) focalizzato sulla categorizzazione delle risposte orientate alla sicurezza (Sicuro & Responsabilità, Sicuro, Non Sicuro).
• hh-rlhf-Ti: Un dataset di ottimizzazione delle preferenze (47k istanze) adattato da HH-RLHF, riorganizzato per adattarsi ai modelli linguistici tibetani al fine di migliorare l'utilità e l'innocuità.

2.2 TIBSTC-CoT (Ragionamento a Catena di Pensiero)

Questo è il primo dataset nativo tibetano su larga scala a catena di pensiero (Chain-of-Thought). È stato costruito tramite una pipeline multi-fase e multi-modello che coinvolge:

1. Formulazione delle Domande: Un agente genera domande diversificate e contestualmente rilevanti in cinque domini (Scienza, Scienze della Vita, Discipline Umanistiche, Scienze Sociali, Comprensivo).
2. Generazione di CoT e Risposte: Un modello generatore produce passaggi intermedi di ragionamento e risposte finali.
3. Valutazione Automatica: Un modello valutatore assegna un punteggio ai campioni in base a coerenza, logica e appropriatezza culturale.
4. Verifica Manuale: Esperti umani validano i campioni conservati per coerenza fattuale e norme culturali.

2.3 Pipeline di Elaborazione dei Dati

Gli autori sottolineano un processo di curatela rigoroso. A differenza della semplice traduzione automatica, la pipeline coinvolge:

• Stesura con Due Modelli: Generazione di bozze con più LLM.
• Valutazione Umana: Punteggio indipendente da parte di specialisti tibetani su fedeltà semantica, fluidità, conoscenza del dominio e allineamento culturale.
• Arbitrato Esperto: Due round di revisione per elevare il tasso di approvazione degli esperti da ~28% (bozza iniziale) al 100%.
• Normalizzazione Linguistica: Garantire la coerenza ortografica e correggere la sintassi innaturale.

3. Addestramento del Modello: La Famiglia Sun-Shine

Per validare TFD, gli autori hanno addestrato la famiglia Sun-Shine di LLM di riferimento:

• Sun-Shine 1.0: Costruito sul backbone Llama-3.1 (8B). Segue una pipeline a tre fasi: Pre-addestramento sul Corpus TIBSTC, Affinamento Supervisionato (SFT) su Alpaca-Ti e Safety-Prompts-Ti, e Ottimizzazione Diretta delle Preferenze (DPO) su CValues-Ti e hh-rlhf-Ti.
• Sun-Shine 2.0 (Sunshine-Thinking): Costruito sul backbone Qwen-3 (varianti da 1.7B e 8B). È addestrato tramite SFT utilizzando TIBSTC-CoT per apprendere esplicitamente il ragionamento multi-passaggio.

4. Risultati Chiave

Gli autori hanno valutato i modelli Sun-Shine rispetto a forti baseline (inclusi GPT-4o, DeepSeek-R1 e varie varianti Qwen/Llama) sul benchmark TLUE e su compiti a valle.

4.1 Comprensione e Sicurezza (TLUE)

• Prestazioni: Sun-Shine 1.0 (8B) ha superato significativamente modelli molto più grandi (es. Llama-3.1-405B, DeepSeek-R1) nel Tasso di Risposta (RR) e nell'Accuratezza (ACC) attraverso categorie specifiche per la Cina, STEM e altre su Ti-MMLU.
• Sicurezza: Sun-Shine 1.0 ha eccellito nei benchmark di sicurezza (Ti-SafetyBench), in particolare in categorie come Attività Illegali e Offensività, attribuito alla supervisione mirata di Safety-Prompts-Ti.
• Ragionamento: Sun-Shine 2.0 (Sunshine-Thinking) ha costantemente superato le baseline nei compiti di ragionamento multi-passaggio. In particolare, la variante da 1.7B ha superato modelli più grandi (es. GPT-4.1, Qwen-3-8B) nelle Scienze Sociali, dimostrando che una supervisione strutturata (CoT) produce guadagni indipendenti dalla scala dei parametri.

4.2 Generazione e Traduzione

• Traduzione: Sun-Shine 1.0 ha ottenuto i punteggi BLEU-4 e ROUGE più alti nei compiti di traduzione tibetano-cinese/inglese, superando GPT-4o e DeepSeek-R1.
• Allineamento Culturale: Nelle valutazioni qualitative (generazione di cinese classico, poesia antica), Sun-Shine 1.0 ha mantenuto uno stile contenuto e allineato culturalmente, mentre modelli generici più grandi hanno prodotto output più modernizzati o abbelliti.

4.3 Studi di Ablazione

Gli studi di ablazione abbinati ai token hanno confermato che i guadagni di prestazioni nei compiti di ragionamento erano guidati dalla struttura di supervisione (dati CoT) piuttosto che dal volume di token aumentato, poiché CoT-SFT ha superato SFT standard e DeCoT-SFT (senza passaggi di ragionamento) nonostante budget di token identici.

5. Significato e Affermazioni

Il documento afferma che l'avanzamento della modellazione delle lingue a bassa risorsa richiede non solo scala, ma un ecosistema di dati strutturalmente completo.

• Primo nel suo genere: TFD è la prima risorsa a supportare congiuntamente pre-addestramento, affinamento tramite istruzioni, allineamento alla sicurezza, ottimizzazione delle preferenze e supervisione del ragionamento per il tibetano.
• Efficienza: I risultati dimostrano che un modello da 8B addestrato su un dataset strutturato e curato può competere o superare modelli di un ordine di grandezza più grandi, evidenziando l'efficacia dei dati di alta qualità rispetto al mero conteggio dei parametri.
• Riproducibilità: Rilasciando TFD e i modelli Sun-Shine, gli autori mirano a facilitare la ricerca riproducibile e lo sviluppo di LLM tibetani robusti e allineati culturalmente.

Gli autori riconoscono le limitazioni, inclusa la sottorappresentazione dei dialetti specializzati, i potenziali bias residui dalla generazione assistita da LLM in TIBSTC-CoT e l'attuale mancanza di valutazione multimodale. Posizionano questo lavoro come un passo fondamentale, lasciando ulteriori ottimizzazioni architetturali e l'esplorazione di strategie di addestramento alla ricerca futura.