Resumen Técnico: TFD – Un Conjunto de Datos Fundacional Tibetano Estructurado Integral

1. Declaración del Problema

A pesar del éxito notable de los Modelos de Lenguaje Grandes (LLM) en idiomas de alto recurso, el progreso en tibetano sigue estando severamente restringido. La limitación principal no es meramente la escasez de texto tibetano en bruto, sino la ausencia de un ecosistema de datos estructuralmente completo que cubra todo el pipeline de desarrollo moderno de LLM. Los recursos tibetanos existentes suelen ser de pequeña escala, específicos de dominio, ruidosos y carecen de procesamiento estandarizado. Crucialmente, ningún recurso anterior apoya conjuntamente el espectro completo de las etapas modernas de entrenamiento: pre-entrenamiento, ajuste fino de instrucciones, alineación de seguridad, optimización de preferencias y supervisión de razonamiento. En consecuencia, los LLM tibetanos actuales exhiben una generalización limitada, un modelado del discurso débil y una generación inestable.

2. Metodología: El Conjunto de Datos Fundacional Tibetano (TFD)

Para abordar esta brecha estructural, los autores introducen TFD, el primer conjunto de datos estructurado, a gran escala y curado por expertos diseñado para cubrir el pipeline completo de desarrollo de LLM para el tibetano. TFD comprende dos subconjuntos de datos principales:

2.1 TIBSTC (Ajuste Fino Supervisado General)

TIBSTC es una colección multicomponente que contiene más de 11 mil millones de tokens en cinco categorías:

• Corpus: Un corpus de pre-entrenamiento heterogéneo (122M+ instancias) que cubre literatura, derecho, religión, medicina y comunicación diaria. Incluye gramática y sintaxis tradicionales, preservando la distintividad cultural.
• Alpaca-Ti: Un conjunto de datos para ajuste fino de instrucciones supervisadas (42k instancias), construido traduciendo y adaptando localmente el conjunto de datos Alpaca en inglés. Sometió a un riguroso protocolo de alineación de expertos en dos etapas que involucró redacción con doble modelo (Google Translate/Claude-3.5-Sonnet) seguido de evaluación humana para la fidelidad semántica y la alineación cultural.
• Safety-Prompts-Ti: Un conjunto de datos de alineación de seguridad (38k instancias) que cubre ataques de instrucción (por ejemplo, secuestro de objetivos, filtración de prompts) y escenarios de seguridad (por ejemplo, daño físico, ética).
• CValues-Ti: Un conjunto de datos de preferencias a pequeña escala (2k instancias) centrado en la categorización de respuestas orientadas a la seguridad (Seguro y Responsabilidad, Seguro, Inseguro).
• hh-rlhf-Ti: Un conjunto de datos de optimización de preferencias (47k instancias) adaptado de HH-RLHF, reorganizado para ajustarse a los patrones lingüísticos tibetanos para mejorar la utilidad y la inocuidad.

2.2 TIBSTC-CoT (Razonamiento de Cadena de Pensamiento)

Este es el primer conjunto de datos nativo tibetano de cadena de pensamiento a gran escala. Fue construido mediante un pipeline multietapa y multimodelo que involucra:

1. Formulación de Preguntas: Un agente genera preguntas diversas y contextualmente relevantes en cinco dominios (Ciencia, Ciencias de la Vida, Humanidades, Ciencias Sociales, Integral).
2. Generación de CoT y Respuesta: Un modelo generador produce pasos intermedios de razonamiento y respuestas finales.
3. Evaluación Automática: Un modelo evaluador puntúa las muestras en coherencia, lógica y adecuación cultural.
4. Verificación Manual: Expertos humanos validan las muestras retenidas para la consistencia factual y las normas culturales.

2.3 Pipeline de Procesamiento de Datos

Los autores enfatizan un proceso de curación riguroso. A diferencia de una simple traducción automática, el pipeline involucra:

• Redacción con Doble Modelo: Generación de borradores con múltiples LLM.
• Evaluación Humana: Puntuación independiente por especialistas tibetanos en fidelidad semántica, fluidez, conocimiento de dominio y alineación cultural.
• Arbitraje de Expertos: Dos rondas de revisión para elevar la tasa de aprobación de expertos de ~28% (borrador inicial) al 100%.
• Normalización Lingüística: Garantizar la consistencia ortográfica y corregir sintaxis poco natural.

3. Entrenamiento de Modelos: La Familia Sun-Shine

Para validar TFD, los autores entrenaron la familia Sun-Shine de LLM de referencia:

• Sun-Shine 1.0: Construido sobre la base Llama-3.1 (8B). Sigue un pipeline de tres etapas: Pre-entrenamiento en el Corpus TIBSTC, Ajuste Fino Supervisado (SFT) en Alpaca-Ti y Safety-Prompts-Ti, y Optimización Directa de Preferencias (DPO) en CValues-Ti y hh-rlhf-Ti.
• Sun-Shine 2.0 (Sunshine-Thinking): Construido sobre la base Qwen-3 (variantes de 1.7B y 8B). Se entrena mediante SFT utilizando TIBSTC-CoT para aprender explícitamente el razonamiento de múltiples pasos.

4. Resultados Clave

Los autores evaluaron los modelos Sun-Shine frente a bases sólidas (incluyendo GPT-4o, DeepSeek-R1 y varias variantes de Qwen/Llama) en la prueba de referencia TLUE y tareas posteriores.

4.1 Comprensión y Seguridad (TLUE)

• Rendimiento: Sun-Shine 1.0 (8B) superó significativamente a modelos mucho más grandes (por ejemplo, Llama-3.1-405B, DeepSeek-R1) en Tasa de Respuesta (RR) y Precisión (ACC) en las categorías específicas de China, STEM y otras en Ti-MMLU.
• Seguridad: Sun-Shine 1.0 destacó en pruebas de seguridad (Ti-SafetyBench), particularmente en categorías como Actividades Ilegales y Ofensividad, atribuido a la supervisión dirigida de Safety-Prompts-Ti.
• Razonamiento: Sun-Shine 2.0 (Sunshine-Thinking) superó consistentemente a las bases en tareas de razonamiento de múltiples pasos. Notablemente, la variante de 1.7B superó a modelos más grandes (por ejemplo, GPT-4.1, Qwen-3-8B) en Ciencias Sociales, demostrando que la supervisión estructurada (CoT) produce ganancias independientes de la escala de parámetros.

4.2 Generación y Traducción

• Traducción: Sun-Shine 1.0 logró las puntuaciones BLEU-4 y ROUGE más altas en tareas de traducción tibetano-chino/inglés, superando a GPT-4o y DeepSeek-R1.
• Alineación Cultural: En evaluaciones cualitativas (generación de chino clásico, poesía antigua), Sun-Shine 1.0 mantuvo un estilo restrained y alineado culturalmente, mientras que los modelos generales más grandes produjeron resultados más modernizados o adornados.

4.3 Estudios de Ablación

Los estudios de ablación coincidentes en tokens confirmaron que las ganancias de rendimiento en tareas de razonamiento fueron impulsadas por la estructura de supervisión (datos CoT) y no por el aumento del volumen de tokens, ya que CoT-SFT superó a SFT estándar y DeCoT-SFT (sin pasos de razonamiento) a pesar de presupuestos de tokens idénticos.

5. Significado y Afirmaciones

El artículo afirma que el avance del modelado de idiomas de bajos recursos requiere no solo escala, sino un ecosistema de datos estructuralmente completo.

• Primero en su Clase: TFD es el primer recurso que apoya conjuntamente el pre-entrenamiento, el ajuste fino de instrucciones, la alineación de seguridad, la optimización de preferencias y la supervisión de razonamiento para el tibetano.
• Eficiencia: Los resultados demuestran que un modelo de 8B entrenado en un conjunto de datos estructurado y curado puede competir o superar a modelos un orden de magnitud más grandes, destacando la eficacia de datos de alta calidad sobre la mera cantidad de parámetros.
• Reproducibilidad: Al publicar TFD y los modelos Sun-Shine, los autores buscan facilitar la investigación reproducible y el desarrollo de LLM tibetanos robustos y culturalmente alineados.

Los autores reconocen limitaciones, incluida la subrepresentación de dialectos especializados, posibles sesgos residuales de la generación asistida por LLM en TIBSTC-CoT, y la falta actual de evaluación multimodal. Posicionan este trabajo como un paso fundamental, dejando la optimización arquitectónica adicional y la exploración de estrategias de entrenamiento para futuras investigaciones.