Native Multilingual Chain-of-Thought Reasoning in Low-Resource Southeast Asian Languages

Imagina un mundo donde tu personaje favorito de un videojuego solo pudiera hablar inglés, sin importar el idioma en el que tú le hablaras. Si le hicieras una pregunta en español, él entendería las palabras, pero cuando empezara a explicar su respuesta, de repente volvería al inglés para las partes de pensamiento difícil. Esto no es solo un error técnico; es un obstáculo importante en el mundo de la Inteligencia Artificial, específicamente para los "Modelos de Lenguaje Extensos" (LLM, por sus siglas en inglés). Estos son cerebros informáticos superinteligentes que pueden escribir historias, resolver problemas matemáticos y charlar con nosotros. Para volverse realmente buenos resolviendo acertijos difíciles, utilizan un truco llamado "Cadena de Pensamiento" (Chain-of-Thought), que es como susurrarles su proceso de pensamiento paso a paso a sí mismos antes de dar la respuesta final. El problema es que, para muchos idiomas alrededor del mundo —especialmente aquellos con menos recursos digitales como los del sudeste asiático— estos cerebros de IA tienden a "colapsar" y susurrar sus pensamientos en inglés, incluso cuando les pides que piensen en tailandés, vietnamita o indonesio. Esto hace que la IA se sienta menos como un amigo local útil y más como un tutor distante que solo habla inglés, lo cual es un gran problema para la educación y la equidad.

Aquí entran los investigadores Sean Gip Lim, William Chandra Tjhi y Hai Leong Chieu, quienes decidieron construir un puente para estos cerebros de IA. Crearon un ingenioso método de entrenamiento llamado OSCD (Onramp-Sequence Cross-Distillation). Piensa en esto como un entrenador bilingüe que no solo traduce la respuesta final, sino que también reescribe las "notas de pensamiento" internas de la IA en el idioma local mientras mantiene intacta la solución correcta. Usualmente, cuando intentas enseñarle un nuevo idioma a una IA, esta se confunde y olvida cómo ser inteligente en su idioma original (un problema llamado "olvido catastrófico"). Pero este nuevo método utiliza un "agente traductor" especial para intercambiar los pasos de pensamiento y un "pegamento semántico" para asegurar que el cerebro de la IA siga entendiendo la lógica, solo que en una lengua diferente.

Los investigadores probaron esto en algunos de los acertijos matemáticos más difíciles disponibles, como las competencias AIME25 y HMMT25, que son como los Juegos Olímpicos para los problemas de matemáticas. Tomaron modelos de IA potentes que eran excelentes en matemáticas en inglés pero terribles para pensar en idiomas del sudeste asiático, y les dieron una sesión de entrenamiento corta e intensa usando solo 70,000 ejemplos (lo cual es minúsculo comparado con los millones que se suelen necesitar). Los resultados fueron impresionantes: los modelos no solo mejoraron su capacidad para responder las preguntas; de hecho, empezaron a pensar en los idiomas locales. De hecho, los modelos mejoraron su capacidad para resolver estos problemas matemáticos mientras se mantenían en el idioma objetivo hasta 3.2 veces. Lo más emocionante es que lograron hacer esto sin perder su inteligencia original en inglés. El estudio sugiere que, al usar este "agente traductor" y el "pegamento semántico", finalmente podemos darle a la IA la capacidad de razonar naturalmente en idiomas que han sido dejados atrás, haciendo que la tecnología avanzada sea accesible para todos, no solo para los angloparlantes.