Resumen Técnico: Repensar la Brecha de Razonamiento Multilingüe con Intercambio de Capas

Declaración del Problema

Los Modelos de Lenguaje Grandes (LLM) recientes con capacidades de razonamiento generan predominantemente trazas de Cadena de Pensamiento (CoT) en inglés, incluso cuando se les solicita en idiomas distintos al inglés. Este régimen de "razonamiento centrado en inglés" (donde el modelo razona en inglés y responde en el idioma de entrada) es el predeterminado para los modelos de razonamiento abiertos. Si bien restringir la CoT al idioma de entrada ("razonamiento nativo") es deseable para la interpretabilidad y el matiz cultural, estudios previos sugieren que degrada sustancialmente el rendimiento.

Sin embargo, las mediciones anteriores de esta "brecha de razonamiento nativo" a menudo se basan en intervenciones en tiempo de inferencia o en ajuste fino sobre conjuntos de datos nativos limitados, sin igualar la escala del post-entrenamiento centrado en inglés. Sigue sin estar claro si la brecha persiste cuando el razonamiento nativo se entrena bajo supervisión estrictamente comparable y a gran escala.

Metodología

Construcción de Datos

Los autores construyeron un conjunto de datos de razonamiento multilingüe a gran escala que abarca seis idiomas: inglés, francés, alemán, español, chino y suajili.

• Fuente: El conjunto de datos se derivó de allenai/DolciThink-SFT-32B, un conjunto de datos de post-entrenamiento en inglés descontaminado que cubre matemáticas, código, ciencia y conocimiento general.
• Escala: Aproximadamente 500.000 muestras por idioma, con longitudes de contexto de hasta 32.768 tokens.
• Pipeline de Traducción: Para crear corpus nativos, la fuente en inglés se tradujo a los cinco idiomas objetivo utilizando google/gemma-3-27b-it. Para mitigar la degradación del contexto largo y la pérdida de trazas de razonamiento, los autores tradujeron las muestras componente a componente (pregunta, traza de razonamiento, respuesta) en fragmentos de ~2k tokens, seguidos de un filtrado riguroso para detectar salidas vacías, anomalías de compresión y desviaciones de longitud.

Configuración Experimental

• Modelo Base: Todos los modelos se ajustaron finamente a partir de Qwen/Qwen3-8B-Base.
• Régimen de Entrenamiento: Para cada idioma no inglés, se entrenaron dos especialistas con los mismos pares de pregunta-respuesta y presupuestos de tokens coincidentes (~10–11 mil millones de tokens por idioma):
  1. Especialista Nativo: CoT generada en el idioma objetivo.
  2. Especialista Centrada en Inglés: Preguntas y respuestas en el idioma objetivo, pero CoT generada en inglés.
• Infraestructura: El entrenamiento utilizó nodos H100 distribuidos con DeepSpeed ZeRO-3, paralelismo de secuencia Ulysses y FlashAttention-3 para manejar longitudes de secuencia de 32k.
• Puntos de Referencia: La evaluación cubrió cuatro dominios: Matemáticas (MGSM-Rev2, AIME 24/25), Ciencia (GPQA-Diamond), Conocimiento General (Global-MMLU-Lite) y Código (HumanEvalPlus).

Técnica de Intercambio de Capas

Los autores introdujeron un método sin entrenamiento llamado Intercambio de Capas, inspirado en trabajos previos sobre composición de modelos.

• Análisis en el Espacio de Pesos: Los autores analizaron las actualizaciones de ajuste fino ($\Delta\theta$) a través de las capas. Descubrieron que las actualizaciones en las capas intermedias (específicamente las capas 13–22) estaban altamente alineadas en los seis idiomas (alta similitud coseno y baja varianza SVD), lo que sugiere un "núcleo de razonamiento agnóstico al idioma". Por el contrario, las capas tempranas y tardías mostraron divergencia específica del idioma.
• Mecanismo: El método transfiere las capas intermedias (el "núcleo de razonamiento") del especialista en inglés al especialista nativo, manteniendo las capas tempranas y tardías del especialista nativo (que manejan la entrada/salida específica del idioma).
• Ablación: Una ablación del rango de capas en el especialista francés determinó que intercambiar las capas 13–22 maximizaba el rendimiento de razonamiento mientras mantenía ~100% de fidelidad al idioma (es decir, la CoT permanecía en francés). Para el chino, la ventana óptima fue ligeramente anterior (13–20) para prevenir la reversión al inglés.

Resultados Clave

La Brecha de Razonamiento Nativo bajo Supervisión Coincidente

Contrario a informes previos que sugerían grandes brechas, los autores encontraron que bajo supervisión estrictamente coincidente (mismo volumen de datos, mismo modelo base), la brecha de razonamiento nativo es significativamente menor:

• Brecha Promedio: La brecha de rendimiento entre especialistas nativos y centrados en inglés se reduce a 1.9%–3.5% en los cinco idiomas no ingleses.
• Distribución: La brecha se concentra en puntos de referencia de razonamiento complejo (AIME 24/25), donde los especialistas nativos se quedan atrás entre un 5–12% dependiendo del idioma. En otros puntos de referencia (por ejemplo, HumanEvalPlus), la brecha es insignificante.
• Nivel de Recursos: Los idiomas de alto recurso (francés, alemán, español, chino) muestran brechas de 1.9–3.1%, mientras que el suajili de bajo recurso muestra una brecha ligeramente mayor de 3.5%.

Efectividad del Intercambio de Capas

Transferir las capas intermedias del especialista en inglés a los especialistas nativos produjo mejoras significativas mientras se preservaba la CoT en el idioma objetivo:

• Cierre de Brecha: El Intercambio de Capas cerró 83–89% de la brecha de razonamiento nativo para francés y alemán, 60% para suajili y 27% para chino. Para el español, el modelo intercambiado igualó el techo del especialista centrado en inglés.
• Fidelidad del Idioma: Los modelos intercambiados mantuvieron ~100% de fidelidad, generando CoT en el idioma objetivo sin revertir al inglés.
• Rendimiento en Puntos de Referencia: El método lideró en HumanEvalPlus en todos los idiomas y en MGSM-Rev2 en la mayoría. El déficit de rendimiento restante se dio principalmente en tareas intensivas en razonamiento (AIME, GPQA).

Ablación de Comprensión de Entrada

Los autores aislaron la "brecha de comprensión" evaluando a los especialistas nativos con entradas en inglés versus entradas nativas.

• Hallazgo: Los especialistas nativos obtuvieron puntuaciones más altas en entradas en inglés a pesar de nunca haber visto inglés durante el Ajuste Fino Supervisado (SFT).
• Causa: Esto se atribuye a desequilibrios en los datos de preentrenamiento y al hecho de que las representaciones intermedias en modelos base centrados en inglés están más alineadas con espacios en inglés para idiomas de alto recurso con script latino que para idiomas tipológicamente distantes o de bajo recurso (como el suajili).

Significado y Contribuciones

El artículo afirma cuatro contribuciones principales:

1. Lanzamiento de Conjunto de Datos: Un corpus de razonamiento con CoT larga públicamente disponible en seis idiomas (incluyendo suajili y chino) con contexto de 32k y CoTs en el idioma objetivo.
2. Medición Controlada: Una medición a gran escala y estrictamente controlada de la brecha nativa versus centrada en inglés, demostrando que la brecha es mucho menor (1.9–3.5%) de lo reportado previamente cuando se igualan las escalas de supervisión.
3. Intercambio de Capas: Una técnica sin entrenamiento que explota el descubrimiento de un núcleo de razonamiento agnóstico al idioma en las capas intermedias. Este método cierra la mayoría de la brecha restante mientras preserva la generación de CoT nativa.
4. Análisis de Comprensión de Entrada: Una ablación que muestra que la comprensión de entrada sigue siendo un cuello de botella principal para el razonamiento no inglés, distinto del proceso de razonamiento en sí mismo.

Limitaciones

Los autores señalan varias limitaciones:

• El estudio se limita a una sola familia de modelos (Qwen) y escala (8B).
• El corpus depende de traducción automática, lo que puede introducir artefactos.
• La eficiencia de tokenización varió entre idiomas, lo que significa que el "presupuesto de tokens coincidente" no equivalía estrictamente a conteos de ejemplos coincidentes para todos los idiomas.
• Los barridos de hiperparámetros para la ventana de Intercambio de Capas no fueron exhaustivos.
• Los modelos se entrenaron únicamente con Ajuste Fino Supervisado (SFT) y no incorporaron Aprendizaje por Refuerzo (RL) ni ajuste de preferencias.

Los autores concluyen que la "receta" para el Intercambio de Capas es directamente aplicable a otras familias de modelos, ya que el especialista en inglés requerido a menudo está disponible listo para usar, ofreciendo una vía práctica hacia un razonamiento nativo de alto rendimiento sin reentrenar todo el modelo.