Language on Demand, Knowledge at Core: Composing LLMs with Encoder-Decoder Translation Models for Extensible Multilinguality

Resumen Técnico: XBridge

1. El Problema

Los Modelos de Lenguaje Grandes (LLMs) han demostrado una inteligencia general y capacidades de razonamiento excepcionales, pero su rendimiento multilingüe es altamente desequilibrado. Aunque poseen un vasto conocimiento cruzado-lingüístico en un espacio semántico unificado, a menudo fallan al interactuar de manera fiable con idiomas de recursos bajos o no vistos (unseen languages).

Las limitaciones principales son:

• Desequilibrio: Los LLMs funcionan bien en inglés y algunos idiomas de alto recurso, pero degradan significativamente su capacidad de comprensión y generación en otros.
• Enfoque en la generación: Los métodos existentes que mejoran la comprensión multilingüe (inyectando codificadores) a menudo dejan la generación centrada en inglés.
• Desalineación de representaciones: Intentar integrar un LLM congelado entre un codificador y un decodificador de traducción (NMT) crea un problema fundamental: las salidas del LLM no coinciden con las representaciones de atención cruzada esperadas por el decodificador, generando una desalineación semántica que no se resuelve con proyecciones simples.

2. Metodología: Arquitectura XBridge

El artículo propone XBridge, un marco composicional que combina un LLM con un modelo de traducción neuronal (NMT) preentrenado de codificador-decodificador. La arquitectura sigue un flujo Codificador-LLM-Decodificador:

• Codificador Multilingüe (NMT): Se utiliza un modelo NMT preentrenado (ej. NLLB-200) para procesar la entrada en el idioma de origen. Este componente se encarga de la comprensión multilingüe robusta, mapeando el texto a un espacio semántico compartido.
• LLM Congelado (Núcleo de Conocimiento): El LLM actúa como un núcleo centrado en inglés para el procesamiento de conocimiento y razonamiento. Recibe las representaciones del codificador (mapeadas) junto con instrucciones en inglés.
• Decodificador Multilingüe (NMT): Un decodificador NMT preentrenado genera la salida en el idioma objetivo, atendiendo a las representaciones ocultas del LLM.

Componentes Clave de la Arquitectura:

1. Capas de Mapeo Ligero (Mapping Layers): Se introducen capas MLP (Perceptrones de Múltiples Capas) ligeras para cerrar la brecha de representación entre el codificador NMT y el LLM, y entre el LLM y el decodificador NMT.
2. Alineación basada en Transporte Óptimo (OT): Para resolver la desalineación semántica a nivel de token (debido a tokenizadores heterogéneos y espacios de representación diferentes), se propone un objetivo de pérdida basado en Transporte Óptimo.
   • En lugar de alinear tokens uno a uno, el OT calcula un emparejamiento suave "muchos-a-muchos" entre las representaciones de salida del LLM (re-encodadas) y las representaciones del lado del decodificador.
   • Esto asegura consistencia semántica fina sin requerir una correspondencia posicional estricta.

Estrategia de Entrenamiento en Tres Etapas:
Para una optimización estable, el entrenamiento se desacopla en tres fases, manteniendo el LLM congelado en todo momento:

1. Etapa 1 (Mapeo Cruzado): Se alinean los espacios de representación del codificador, el LLM y el decodificador utilizando datos de traducción trilingüe. Se entrenan las capas de mapeo y las capas de atención cruzada del decodificador.
2. Etapa 2 (Adaptación del Codificador): Se ajusta el mapeo del lado del codificador para tareas específicas de seguimiento de instrucciones, enseñando al LLM a utilizar las representaciones multilingües para razonar.
3. Etapa 3 (Adaptación del Decodificador): Se ajusta el mapeo del lado del decodificador y las capas de atención para mejorar la calidad de la generación en el idioma objetivo, optimizando la pérdida de generación y la alineación OT.

3. Contribuciones Clave

• Arquitectura Composicional: XBridge es el primer enfoque que integra exitosamente un decodificador NMT completo (no solo un codificador) con un LLM para permitir tanto la comprensión como la generación multilingüe extensible.
• Alineación de Representaciones Heterogéneas: La introducción de un objetivo de Transporte Óptimo permite alinear espacios semánticos dispares entre modelos preentrenados de diferentes familias, resolviendo el problema de la desalineación semántica.
• Generación "Bajo Demanda" (Language-on-Demand): El sistema permite cambiar el idioma de salida simplemente modificando el token de idioma objetivo en el decodificador, sin necesidad de reentrenar el modelo para cada nuevo idioma.
• Eficiencia: Logra capacidades multilingües cercanas a los modelos NMT externos sin reentrenar el LLM, utilizando un número mínimo de parámetros adicionales (solo las capas de mapeo).

4. Resultados Experimentales

Los experimentos se realizaron sobre cuatro LLMs base (MetaMath-7B, LLaMA3-8B, Aya-23-8B, Qwen2.5-7B) y un modelo NMT (NLLB-200-1.3B).

• Comprensión y Traducción (FLORES-101): XBridge supera significativamente a los modelos base y a los enfoques de "traducción en cascada" (Translate-Test). En idiomas de recursos bajos (como Bengali y Swahili), XBridge cierra la brecha de rendimiento, acercándose al desempeño del modelo NMT externo.
• Razonamiento Multilingüe (MGSM): En tareas de razonamiento matemático, XBridge mantiene la capacidad de razonamiento del LLM en inglés mientras permite que el decodificador genere respuestas en múltiples idiomas con una precisión comparable a la del inglés.
• Resumen Abstractivo (XL-Sum): El modelo supera a las líneas base de ajuste fino (SFT) y a métodos que solo usan codificadores, demostrando una generación más fiel y estable.
• Generalización a Idiomas No Vistos: XBridge muestra una fuerte capacidad de generalización a 42 idiomas no utilizados en el entrenamiento, lo que indica que el mapeo aprendido es agnóstico al idioma y no solo memoriza pares específicos.
• Análisis de Ablación: Se demostró que tanto el decodificador como el objetivo de Transporte Óptimo son esenciales; sin ellos, la generación multilingüe y la alineación semántica colapsan.

5. Significado e Impacto

El trabajo de XBridge es significativo porque ofrece una solución eficiente y escalable al problema del desequilibrio multilingüe en los LLMs:

• Preservación de Capacidades: Permite extender los LLMs a cientos de idiomas sin sacrificar su inteligencia general ni requerir un costoso reentrenamiento (fine-tuning) completo del modelo base.
• Modularidad: Propone un paradigma donde la capacidad de razonamiento (LLM) y la capacidad lingüística (NMT) se separan y se combinan modularmente, permitiendo actualizar o cambiar componentes de idioma sin tocar el núcleo de conocimiento.
• Acceso Equitativo: Al mejorar drásticamente el rendimiento en idiomas de recursos bajos y no vistos, XBridge contribuye a reducir la brecha digital en la IA, haciendo que los modelos de lenguaje sean más accesibles y útiles para una audiencia global diversa.

En conclusión, XBridge demuestra que la composición de modelos especializados (NMT) con modelos generales (LLM) mediante una alineación semántica cuidadosa es una vía superior para lograr una verdadera multilingüialidad extensible en la era de los grandes modelos de lenguaje.