💬 NLP

MathFimer: Enhancing Mathematical Reasoning by Expanding Reasoning Steps through Fill-in-the-Middle Task

El artículo presenta MathFimer, un marco innovador que mejora el razonamiento matemático en modelos de lenguaje al expandir los pasos de solución mediante una tarea de "rellenar el medio" inspirada en la codificación, logrando un rendimiento superior en diversos benchmarks sin depender de modelos externos costosos.

Autores originales: Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

Publicado 2026-02-26

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

¡Hola! Imagina que estás aprendiendo a cocinar el plato más complejo del mundo: un pastel de matemáticas.

Hasta ahora, los "chefes" de inteligencia artificial (los modelos de lenguaje grandes) tenían un problema: cuando les dábamos una receta (un problema matemático), a veces saltaban pasos importantes. Decían: "Mezcla los ingredientes, ¡y aquí tienes el pastel!", sin explicarte cómo batir los huevos o cuánto tiempo hornear. Esto hacía que, aunque a veces acertaban el resultado, no entendían realmente el proceso y fallaban en recetas más difíciles.

El artículo que me has pasado presenta una solución genial llamada MathFimer. Aquí te lo explico como si fuera una historia:

1. El Problema: Las recetas con "huecos"

Imagina que tienes una receta escrita en un papel, pero faltan algunas líneas en el medio.

Lo que había antes: Para arreglarlo, los científicos usaban "chefes" superpoderosos (modelos gigantes y caros) para inventar los pasos que faltaban. Era como contratar a un chef estrella Michelin para que te ayude a hacer un sándwich. Funcionaba, pero era muy costoso y lento.
El riesgo: A veces, esos chefes inventaban pasos nuevos desde cero, lo que podía llevar a errores o a recetas que no tenían sentido.

2. La Solución: El juego de "Rellena el Medio" (MathFimer)

Los autores de este paper tuvieron una idea brillante inspirada en cómo los programadores escriben código. Se imaginaron un juego llamado "Rellena el Medio" (Fill-in-the-Middle).

La analogía: Imagina que tienes una frase: "El gato saltó [HUECO] sobre la mesa".
El truco: En lugar de pedirle a la IA que escriba toda la historia desde cero, le das el principio ("El gato saltó") y el final ("sobre la mesa") y le dices: "¡Hey, inventa qué pasó en el hueco!".

MathFimer es un modelo de IA entrenado específicamente para este juego, pero con matemáticas.

Entrenamiento: Tomaron miles de problemas matemáticos que ya tenían solución y los "cortaron" en pedazos. Escondieron los pasos del medio y le enseñaron al modelo a adivinar qué pasos faltaban para conectar el principio con el final.
El resultado: Crearon un modelo experto (MathFimer-7B) que es como un "ayudante de cocina" que sabe exactamente qué pasos detallados faltan en una receta matemática.

3. La Magia: Mejorar sin gastar una fortuna

Una vez que entrenaron a este "ayudante", lo usaron para mejorar todas las recetas matemáticas existentes:

Tomaron una solución rápida y seca.
Le pasaron al "ayudante" MathFimer.
El ayudante insertó pasos intermedios detallados (como explicar por qué se hace una operación, no solo qué operación se hace).

¿Por qué es genial?

No necesita chefes gigantes: No necesitas un superordenador ni un modelo de IA de 100 mil millones de dólares para mejorar tus datos. Un modelo pequeño y entrenado específicamente para esto hace el trabajo perfectamente.
Es como un espejo: En lugar de inventar una nueva receta, simplemente hace la existente más clara y detallada, manteniendo la lógica original intacta.

4. Los Resultados: ¡Pastales perfectos!

Cuando probaron este método en exámenes de matemáticas (como el GSM8K o el MATH), los resultados fueron increíbles:

Los modelos que aprendieron con las "recetas mejoradas" (con todos los pasos intermedios) resolvieron los problemas mucho mejor que los que usaban las recetas antiguas.
Funcionó tanto para modelos pequeños como para los gigantes.
Incluso funcionó en otros tipos de razonamiento (no solo matemáticas), demostrando que si explicas el "por qué" paso a paso, la inteligencia artificial se vuelve más inteligente.

En resumen

MathFimer es como tener una herramienta mágica que toma un resumen rápido de un problema y lo convierte en una explicación detallada, paso a paso, rellenando los huecos de la lógica.

En lugar de pedirle a un genio que resuelva todo desde cero, simplemente le pedimos a la IA que nos explique cómo llegó a la respuesta, llenando los espacios vacíos con detalles que antes faltaban. Y lo mejor de todo: lo hace de forma barata, rápida y muy efectiva.

¡Es como pasar de tener un mapa con solo la ciudad de inicio y fin, a tener un GPS que te dice exactamente por qué calles tomar y dónde girar!

1. Problema

El razonamiento matemático es una frontera crítica para el avance de los Modelos de Lenguaje Grande (LLMs). Aunque el enfoque de "cadena de pensamiento" (Chain-of-Thought o CoT) ha demostrado ser efectivo, la calidad de los pasos de razonamiento en los datos de entrenamiento limita fundamentalmente el rendimiento de los modelos.

Limitaciones actuales: Los métodos existentes para expandir o refinar los pasos de razonamiento (hacerlos más detallados) suelen requerir:
1. Modelos externos más potentes (creando un ciclo donde se necesitan modelos más grandes para mejorar los datos).
2. Costos computacionales sustanciales (ej. usando Búsqueda en Árbol Monte Carlo - MCTS).
3. Generación de cadenas de razonamiento completamente nuevas, lo que puede introducir errores no previstos y reducir la fiabilidad en comparación con soluciones humanas verificadas.
Pregunta de investigación: ¿Es posible desarrollar un método eficiente y fiable para expandir los pasos de razonamiento preservando la validez de las soluciones humanas existentes, sin depender de modelos externos costosos?

2. Metodología: MathFimer

El paper propone MathFimer, un marco novedoso inspirado en la tarea de "rellenar el medio" (Fill-in-the-Middle o FIM) utilizada en la generación de código. En lugar de generar nuevas cadenas desde cero, MathFimer inserta pasos intermedios detallados dentro de soluciones existentes.

El proceso se divide en tres etapas principales:

A. Construcción de Datos (NuminaMath-FIM)

Se toma el dataset de alta calidad NuminaMath-CoT.
Las soluciones se descomponen en pasos individuales.
Para cada problema, se selecciona aleatoriamente un paso ( $M$ ) y se trata como el "medio". Los pasos anteriores forman el prefijo ( $P$ ) y los posteriores el sufijo ( $S$ ).
Se crea un formato de entrenamiento especial utilizando tokens de control: <|fim prefix|>, <|fim suffix|> y <|fim middle|>.
El objetivo del modelo es reconstruir el paso faltante ( $M$ ) dado el contexto de $P$ y $S$ .
Se construye un dataset de 2.5 millones de muestras para la tarea FIM.

B. Entrenamiento del Modelo (MathFimer-7B)

Se entrena un modelo especializado (MathFimer-7B) mediante Supervised Fine-Tuning (SFT) sobre la base Qwen2.5-Math-7B.
La función de pérdida se calcula únicamente sobre los tokens generados en la posición del "medio" (los pasos faltantes).
El modelo aprende a suplementar pasos de razonamiento intermedios manteniendo la coherencia de la solución original.

C. Expansión de Pasos de Razonamiento

Una vez entrenado, MathFimer-7B se utiliza para expandir datasets existentes.
Para cada par de pasos consecutivos en una solución original, el modelo infiere un paso intermedio potencial.
Filtro de Similitud: Dado que el modelo podría generar contenido redundante si los pasos originales ya son detallados, se calcula la similitud de secuencia entre el paso generado y el paso original siguiente. Si la similitud supera un umbral ( $\eta = 0.8$ ), el paso generado se descarta como inválido.
Los pasos válidos se insertan en la cadena original, creando versiones expandidas y más detalladas de los datos de entrenamiento.

3. Contribuciones Clave

Nuevo Marco de Expansión: Introducción de la tarea FIM al razonamiento matemático para enriquecer soluciones existentes en lugar de generar cadenas nuevas desde cero.
Recursos Abiertos: Desarrollo y liberación del dataset NuminaMath-FIM y del modelo MathFimer-7B, ofreciendo una solución escalable y práctica.
Evidencia Empírica: Demostración de que el entrenamiento con datos expandidos por MathFimer mejora consistentemente el rendimiento en múltiples benchmarks, sin necesidad de modelos externos masivos.

4. Resultados Experimentales

Los experimentos se realizaron sobre modelos base generales (Llama-3.1-8B/70B) y especializados en matemáticas (Qwen2.5-Math-7B/72B), evaluados en benchmarks como GSM8K, MATH, Math Odyssey y OlympiadBench-EN.

Mejoras Consistentes: El uso de datos expandidos por MathFimer resultó en mejoras significativas en la precisión.
- En Llama-3.1-8B con el dataset MathInstruct-CoT, la precisión promedio aumentó de 27.75% a 31.52% (+3.77 puntos).
- En Qwen2.5-Math-72B con MetaMathQA, la precisión mejoró de 52.71% a 57.14% (+4.43 puntos).
Escalabilidad Iterativa: Se demostró que la expansión de pasos puede aplicarse iterativamente. Cada iteración añade pasos intermedios valiosos, mejorando el rendimiento progresivamente (ej. en GSM8K, la precisión subió de 67.55% a 83.32% tras 3 iteraciones).
Eficiencia de Tamaño de Modelo: Se encontró que modelos FIM más pequeños (1.5B) funcionan casi tan bien como los de 7B o 72B para esta tarea específica, sugiriendo que la expansión de pasos no está fuertemente limitada por la capacidad del modelo.
Comparación con Otros Métodos: MathFimer supera a métodos basados en prompts (usando LLMs generales para rellenar) y es más eficiente computacionalmente que métodos de Refuerzo (RL) o DPO, aunque es complementario a ellos.
Generalización: Los modelos entrenados con datos expandidos por MathFimer mostraron mejoras en tareas fuera de distribución (OOD), incluyendo razonamiento lógico y científico, indicando que la habilidad de razonamiento detallado se transfiere a otros dominios.

5. Significado e Impacto

Solución Escalable: MathFimer ofrece una vía práctica para mejorar las capacidades de razonamiento de los LLMs sin la necesidad de infraestructura masiva para inferencia de modelos grandes o búsqueda exhaustiva.
Calidad de Datos: Refuerza la hipótesis de que la granularidad y la completitud de los pasos de razonamiento en los datos de entrenamiento son factores determinantes para el éxito del modelo.
Fiabilidad: Al basarse en soluciones humanas verificadas y solo insertar pasos intermedios, el método reduce el riesgo de alucinaciones o errores lógicos en comparación con la generación de cadenas completas desde cero.
Versatilidad: Aunque se centra en matemáticas, el marco FIM tiene potencial para generalizarse a otros dominios de razonamiento, excepto en aquellos donde la estructura es estrictamente ejecutable (como código), donde la inserción de pasos podría romper la funcionalidad.

En resumen, MathFimer demuestra que "rellenar los huecos" en el razonamiento existente es una estrategia altamente efectiva, eficiente y escalable para elevar el nivel de inteligencia matemática de los modelos de lenguaje.