🤖 machine learning

Explaining and Tuning Transformer-based LLMs in Arithmetic Tasks with Human Strategies

Este artículo demuestra que los modelos de lenguaje de gran tamaño basados en transformadores pueden lograr un mejor rendimiento aritmético al adoptar estrategias de aprendizaje similares a las humanas, tales como la descomposición de tareas y el empoderamiento cognitivo, lo que sugiere procesos cognitivos compartidos entre los LLM y los estudiantes humanos al tiempo que mejora la fiabilidad del modelo mediante la verificación de la IA explicable.

Autores originales: Luyu Qiu, Jianing Li, Hwanhee Kim, Xiaoyong Wei, Yueyuan Zheng, Janet Hsiao, Lei Chen

Publicado 2026-07-21

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Luyu Qiu, Jianing Li, Hwanhee Kim, Xiaoyong Wei, Yueyuan Zheng, Janet Hsiao, Lei Chen

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El Robot Cerebrito y el Problema Matemático

Imagina un mundo donde las computadoras han aprendido a leer casi todos los libros, sitios web y conversaciones jamás escritos. Estos son los Modelos de Lenguaje Extensos (LLM, por sus siglas en inglés), y son como robots superinteligentes que pueden escribir historias, responder preguntas y charlar contigo. Están construidos sobre una arquitectura especial llamada "Transformer", que actúa como un gigantesco reflector, ayudando al robot a prestar atención a las palabras más importantes de una oración al mismo tiempo. Podrías pensar que un robot que sabe tanto sobre el lenguaje también sería excelente en matemáticas. Pero aquí está el giro: aunque estos robots son magos con las palabras, a menudo tropiezan con problemas matemáticos simples, como sumar dos números. Es como una persona que puede escribir un poema hermoso pero no puede calcular cuánto cambio debería recibir en una tienda. Esto es algo importante porque, si queremos confiar en estos robots para trabajos importantes —como ayudar a médicos o gestionar dinero—, necesitamos saber si pueden hacer lo básico correctamente. Los científicos están tratando de descubrir por qué estos robots inteligentes fallan en matemáticas simples y, lo que es más importante, cómo enseñarles a mejorar.

La Historia del Artículo: Enseñando a los Robots a Pensar como los Humanos

En este estudio, los investigadores decidieron tratar el problema matemático como un misterio por resolver. No se limitaron a lanzarle más datos al robot y esperar lo mejor. En su lugar, se hicieron una pregunta fascinante: ¿Aprenden estos robots de IA las matemáticas de la misma manera que los humanos?

Para averiguarlo, tomaron un modelo Transformer "vanilla" estándar (una versión básica de la IA) y le enseñaron a realizar aritmética de números enteros: sumar, multiplicar y dividir números enteros. Descubrieron que la IA no estaba simplemente adivinando; en realidad estaba aprendiendo, pero tenía dificultades con el orden de las operaciones y la complejidad de los pasos.

El Desglose de "Lego"
Los investigadores se dieron cuenta de que, al igual como los humanos descomponen un problema matemático grande y aterrador en pasos más pequeños y fáciles, la IA necesitaba hacer lo mismo. Descompusieron las tareas en pequeñas "subtareas".

Para la Suma: Imagina sumar dos números largos. No miras todo el conjunto de golpe; sumas los últimos dígitos, luego los siguientes, llevando cualquier número "extra" (como un 1 que se acarrea) a la siguiente columna. Los investigadores descubrieron que la IA aprendía las partes fáciles (sumar los últimos dígitos) muy rápido, pero se confundía cuando tenía que recordar y usar esos números "acarreados" para los siguientes pasos. Es como aprender a caminar antes de correr.
Para la Multiplicación: Esto es aún más difícil. Cuando multiplicas números grandes, tienes que hacer un montón de multiplicaciones más pequeñas y luego sumarlas todas. El artículo encontró que la IA intentaba hacerlo todo a la vez y se veía abrumada. Sin embargo, cuando los investigadores enseñaron a la IA a escribir la respuesta en orden inverso (comenzando desde el último dígito y trabajando hacia atrás, tal como los humanos solemos hacer en papel), el rendimiento de la IA mejoró significativamente para tareas simples de multiplicador de un solo dígito. Pero aquí está el detalle: para la multiplicación compleja de varios dígitos, revertir los dígitos por sí solo no solucionó el problema; la IA seguía teniendo dificultades porque los pasos intermedios eran demasiado difíciles para que un modelo de una sola capa los manejara.

Los Trucos "Humanos"
¡La parte más emocionante del artículo es que los investigadores probaron estrategias que los maestros humanos usan para ayudar a los estudiantes, y estas también funcionaron en la IA!

Cadena de Pensamiento (CoT - Chain of Thought): En lugar de preguntarle a la IA: "¿Cuánto es 57257 por 51422?" y esperar una respuesta mágica, le pidieron que mostrara su procedimiento paso a paso. Le dijeron a la IA que descompusiera la gran multiplicación en multiplicaciones más pequeñas y fáciles primero. Esto es exactamente lo que un maestro humano le dice a un estudiante: "No te paniques; solo haz un paso a la vez". Cuando la IA utilizó CoT combinado con la reversión de los dígitos de la respuesta, su precisión saltó significamente (alcanzando aproximadamente el 79%). Para llegar a puntuaciones casi perfectas, los investigadores descubrieron que necesitaban combinar CoT con la reversión de los dígitos y hacer que el modelo fuera "más profundo".
Revertir la Salida: Como se mencionó, escribir la respuesta al revés (comenzando desde la posición de las unidades) ayudó a la IA a enfocarse en los números correctos, pero este truco tiene un límite. Funcionó bien para tareas más simples, pero no fue suficiente por sí solo para la multiplicación compleja de varios dígitos. Curiosamente, para la división, revertir los dígitos en realidad empeoró las cosas. Esto se debe a que los cálculos de división comienzan naturalmente desde los dígitos de mayor orden (los números grandes a la izquierda), lo cual se alinea con la experiencia humana. Intentar revertir el orden para la división confundió al modelo.
Modelos más Profundos: También descubrieron que hacer la IA "más profunda" (añadiendo más capas de pensamiento) la ayudó a manejar los complejos pasos intermedios de la división y el trabajo pesado de la multiplicación. Esto le dio al modelo la "capacidad cerebral" adicional necesaria para llevar el registro de los resultados intermedios sin perder el hilo.

Lo que Encontraron (y lo que no)
Los investigadores no solo dijeron "funciona"; miraron dentro del cerebro del robot para ver cómo funcionaba. Utilizaron una técnica llamada "visualización" para observar qué partes de su mecanismo de atención se iluminaban. Vieron que la IA tenía "cabezales de atención" específicos (pequeños trabajadores internos) que aprendieron a realizar tareas específicas, como "Multiplicar Base" o "Generar Acarreo".

La Buena Noticia: La IA puede aprender estos patrones. Cuando se le da la estructura adecuada (como descomponer tareas, usar CoT, revertir dígitos donde sea apropiado y ajustar la profundidad del modelo), su rendimiento es casi perfecto.
La Mala Noticia: Sin estas estrategias humanas, la IA tiene dificultades. Por ejemplo, en una tarea estándar de multiplicación de 5 dígitos, una IA básica podría acertar solo el 13%. Pero con los trucos "humanos" combinados, obtiene el 100%.
El "Por qué": El artículo sugiere que el fallo de la IA no es porque sea "tonta", sino porque está intentando resolver el problema de una manera que no coincide con cómo está estructurada la matemática. Es como intentar conducir un coche empujándolo desde atrás en lugar de usar el volante. Además, la forma "correcta" de conducir depende del coche: para la multiplicación, podrías querer ir hacia atrás, pero para la división, debes ir hacia adelante.

El Panorama General
Este artículo sugiere que los modelos de IA basados en Transformers podrían compartir algunos patrones de aprendizaje con los estudiantes humanos. Ambos aprenden cosas simples primero, y luego las combinan para resolver problemas más difíciles. Al usar técnicas de "IA Explicable" (XAI), los investigadores pudieron ver exactamente dónde se estaba trabando la IA y cómo arreglarlo.

El estudio concluye que, aunque los modelos de IA actuales son asombrosos en el lenguaje, necesitan un poco de ayuda con las matemáticas. Pero la buena noticia es que no necesitamos inventar un nuevo tipo de robot; solo necesitamos enseñarles a pensar como nosotros. Al usar estrategias como descomponer problemas, mostrar nuestro procedimiento y organizar nuestros pensamientos (y saber cuándo revertir el orden y cuándo no), podemos hacer que estos modelos de IA sean mucho más confiables. Este es un gran paso adelante para hacer que la IA sea segura y digna de confianza, especialmente en los trabajos importantes donde acertar en las matemáticas es la diferencia entre el éxito y el fracaso. El artículo no pretende haber resuelto todos los problemas matemáticos del universo, pero ha mostrado un camino claro a seguir: si tratamos a la IA como a un estudiante que necesita un buen maestro, puede aprender a hacer las matemáticas que necesitamos que haga.

Resumen Técnico: Explicación y Ajuste de LLMs basados en Transformers en Tareas Aritméticas con Estrategias Humanas

1. Planteamiento del Problema

A pesar de alcanzar un rendimiento de vanguardia en tareas complejas de Procesamiento de Lenguaje Natural (PLN), los Modelos de Lenguaje de Gran Escala (LLMs) basados en Transformers exhiben deficiencias significativas en tareas aritméticas elementales, como cálculos básicos de enteros. Esta discrepancia plantea preocupaciones sobre la fiabilidad y seguridad del modelo. A diferencia de las tareas típicas de PLN que permiten diversos resultados válidos, los problemas aritméticos poseen una única respuesta definitiva donde cada dígito es crítico. Además, las operaciones aritméticas a menudo requieren procesar desde el dígito menos significativo (por ejemplo, en la multiplicación) o involucran pasos intermedios complejos (por ejemplo, acarreos y restos) que difieren del procesamiento estándar de izquierda a derecha del lenguaje natural. Los métodos existentes de IA Explicable (XAI) a menudo tratan a los Transformers como cajas negras o se centran en instancias de tareas específicas, fallando al capturar las correlaciones intrínsecas y los mecanismos internos requeridos para la computación aritmética sistemática.

2. Metodología

Los autores proponen un marco integral de análisis de problemas basado en la ciencia cognitiva y la psicología educativa para inspeccionar, explicar y mejorar el rendimiento de los Transformers en la aritmética de enteros. La metodología consta de tres componentes principales:

2.1 Marco de Análisis Integral de Problemas

El marco descompone el proceso de aprendizaje en tres etapas:

Descomposición de Subtareas: Las tareas aritméticas se dividen en subtareas bien definidas (por ejemplo, Suma de Base, Generación de Acarreo, Uso de Acarreo) para identificar qué componentes específicos son difíciles para el modelo.
Análisis de la Curva de Aprendizaje: Los autores analizan las curvas de pérdida de entrenamiento por dígito para observar la velocidad de aprendizaje de dígitos de salida específicos y subtareas, comparándolos con los patrones de aprendizaje humanos (por ejemplo, un aprendizaje más rápido en subtareas más simples).
Visualización del Modelo: Se visualizan los mapas de atención para determinar cómo las cabezas de atención específicas contribuyen a diferentes subtareas y si los mecanismos internos del modelo se alinean con el funcionamiento especializado humano.

2.2 Transferencia de Estrategia y Capacidad Humana

Basándose en la psicología educativa, el estudio pone a prueba si las estrategias efectivas para los estudiantes humanos mejoran el rendimiento de los LLM:

Estrategias Computacionales: Reformular las reglas aritméticas para que coincidan con el procesamiento del modelo, como revertir el orden de los dígitos de la respuesta (procesando desde el dígito menos significativo hacia el más significativo) para alinearse con la capacidad del mecanismo de autoatención para manejar dependencias.
Cadena de Pensamiento (CoT): Descomponer operaciones multidigitales complejas en una secuencia de pasos intermedios más simples (por ejemplo, descomponer una multiplicación $m \times m$ en pasos de $m \times u$ ).
Empoderamiento Cognitivo: Aumentar la profundidad del modelo (número de capas) para mejorar la capacidad de la memoria de trabajo y manejar resultados intermedios complejos.

2.3 Configuración Experimental

El estudio utiliza un Transformer de un solo decodificador (con Autoatención de Múltiples Cabezales y capas de Alimentación hacia Adelante/Feed-Forward) entrenado en suma, multiplicación y división de enteros. La entrada consiste en operandos y operadores, y el modelo predice los dígitos de la respuesta de forma autorregresiva. Los experimentos incluyen estudios de ablación sobre las cabezas de atención, variando el número de dígitos (1 a 15) y probando diferentes formatos de datos (ordinal vs. revertido, con y sin CoT).

3. Hallazgos Clave y Resultados

3.1 Patrones de Aprendizaje y Especialización de Subtareas

Aprendizaje Similar al Humano: Los LLM exhiben patrones de aprendizaje similares a los de los humanos, convergiendo más rápido en subtareas más simples (por ejemplo, calcular el dígito menos significativo sin acarreo) y más lento en aquellas que requieren dependencias en cascada.
Especialización de las Cabezas de Atención: La visualización revela que distintas cabezas de atención se especializan en subtareas específicas. Por ejemplo, en la suma, una cabeza puede manejar la "Suma de Base" mientras que otra maneja el "Uso de Acarreo".
Saturación del Conteo de Cabezas: El rendimiento mejora significativamente a medida que aumenta el número de cabezas de atención, saturándose en tres cabezas. Con menos de tres cabezas, múltiples tareas se ven forzadas en una sola cabeza, causando confusión y menor precisión. Con tres o más cabezas, la separación de tareas es clara.

3.2 Impacto del Formato de Datos y Estrategias

Dígitos Revertidos: Revertir el orden de los dígitos (procesando desde el dígito menos significativo) mejora significamente el rendimiento en tareas de multiplicación, permitiendo al modelo aprovechar los dígitos generados previamente para los cálculos actuales. Sin embargo, esta estrategia es menos efectiva o perjudicial para la división, que procede naturalmente desde el dígulo más significativo.
Cadena de Pensamiento (CoT): El prompting de CoT descompone eficazmente multiplicaciones $m \times m$ y divisiones $m \div m$ complejas en pasos más simples, reduciendo drásticamente la dificultad de predicción y mejorando la precisión.
Profundidad del Modelo: Aumentar el número de capas mejora la capacidad del modelo para manejar restos intermedios y dependencias complejas, particularmente en tareas de división donde los modelos de una sola capa tienen dificultades.

3.3 Mejoras Cuantitativas

Multiplicación: Los Transformers vanilla luchan con la multiplicación de múltiples dígitos (por ejemplo, cayendo a aproximadamente un 13% de precisión para la multiplicación de 4 dígitos). Al combinar formatos de dígitos revertidos, mayor profundidad y CoT, la precisión alcanza casi el 100%.
División: Se observan mejoras similares, donde CoT y el aumento de la profundidad abordan la acumulación de errores en los cálculos de restos.
Estudios de Ablación: Eliminar cabezas de atención específicas (por ejemplo, la Cabeza 2 en la multiplicación) causa aumentos significativos en la pérdida, confirmando el papel crítico de cabezas específicas en subtareas determinadas (por ejemplo, Base Multiply).

4. Contribuciones Clave

Marco de Análisis de Problemas: El artículo propone un nuevo marco que combina la descomposición de subtareas, el análisis de la curva de aprendizaje y la visualización para explicar cómo los Transformers basados en LLM manejan la aritmética, yendo más allá de la evaluación de caja negra.
Mejora del Rendimiento mediante Estrategias Humanas: Los autores demuestran que la aplicación de estrategias cognitivas humanas (procesamiento revertido, CoT) y mejoras de capacidad (aumento de la profundidad) mejora significativamente la precisión aritmética, sugiriendo un proceso cognitivo compartido entre los LLM y los aprendices humanos.
Interpretabilidad y Visión del Mecanismo: El trabajo proporciona una explicación visual detallada de los mecanismos internos de los Transformers en la aritmética, identificando cabezas de atención específicas responsables de distintas subtareas y validando estos hallazgos mediante estudios de ablación.

5. Significado y Reivindicaciones

El artículo afirma que los LLM basados en Transformers comparten procesos cognitivos con los aprendices humanos en aritmética, específicamente en cómo descomponen tareas y aprenden subtareas secuencialmente. Al aprovechar las verificaciones de la IA explicable (XAI), los autores argumentan que comprender estos mecanismos internos es crucial para mejorar la fiabilidad del modelo.

La importancia de este trabajo radica en su potencial para fomentar la confianza en los LLM para aplicaciones críticas y de alto riesgo. Al demostrar que las brechas de rendimiento en aritmética no son limitaciones inherentes de la arquitectura, sino cuestiones de formato de datos, descomposición de tareas y capacidad, el artículo ofrece una vía para ajustar los modelos hacia una mayor fiabilidad. Los hallazgos contribuyen a los campos más amplios de la comprensión y la interpretabilidad de modelos, proporcionando una base para analizar tareas y arquitecturas más complejas. Los autores posicionan modestamente este trabajo como una exploración de las similitudes entre los LLM y los aprendices humanos, respaldada por evidencia empírica, en lugar de una prueba definitiva de conciencia similar a la humana.