🤖 machine learning

Shortcut Solutions Learned by Transformers Impair Continual Compositional Reasoning

Este artículo investiga el razonamiento composicional continuo en Transformers mediante un marco LEGO extendido, revelando que, si bien los modelos BERT feedforward fallan debido a soluciones abreviadas arraigadas, los modelos ALBERT recurrentes exhiben un rendimiento superior al aprender estrategias algorítmicas de "bucle for" que pueden mejorarse aún más mediante el entrenamiento cruzado de experiencias.

Autores originales: William T. Redman, Erik C. Johnson, Brian Robinson

Publicado 2026-05-08

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: William T. Redman, Erik C. Johnson, Brian Robinson

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás enseñando a un robot a resolver una serie de acertijos. Los acertijos no son aleatorios; son variaciones de la misma lógica subyacente. Por ejemplo, un acertijo podría pedirte rotar un triángulo, el siguiente voltearlo, y el siguiente hacer ambas cosas. El objetivo es ver si el robot puede aprender la lógica del primer acertijo y usarla para resolver instantáneamente el segundo y el tercero, sin olvidar cómo hacer el primero.

Este artículo investiga cómo dos tipos populares de "cerebros" de IA (llamados BERT y ALBERT) manejan este tipo de aprendizaje. Los investigadores descubrieron que, aunque estos modelos de IA son increíblemente inteligentes, a menudo toman "atajos mentales" que los hacen malos para aprender cosas nuevas más adelante.

Aquí está el desglose de sus hallazgos usando analogías simples:

1. Los Dos Tipos de Aprendices

Los investigadores probaron dos modelos:

BERT: Piensa en esto como un fotógrafo. Mira una imagen completa de una vez e intenta memorizar los detalles específicos de esa única imagen. Es muy rápido y bueno para reconocer patrones en el momento, pero no entiende realmente el proceso de cómo se hizo la imagen.
ALBERT: Piensa en esto como un programador. En lugar de solo memorizar la imagen, aprende un conjunto de instrucciones (como un bucle en un código de computadora) que se pueden repetir para resolver el problema. Entiende el mecanismo detrás del acertijo.

2. La Trampa del "Atajo"

Cuando se enseñó a los modelos el primer acertijo (llamémoslo "Acertijo A"), ambos lo hicieron bien. Sin embargo, cuando los investigadores introdujeron el "Acertijo B" (que era muy similar pero ligeramente diferente), surgió un problema.

BERT (El Fotógrafo): Aprendió un atajo. Se dio cuenta: "Oye, si solo miro la primera pista del acertijo, puedo adivinar la respuesta para este tipo específico de acertijo". No aprendió la lógica real; solo memorizó un truco que funcionaba para el Acertijo A.
- El Resultado: Cuando se enfrentó al Acertijo B, BERT se confundió. Como dependía de un truco específico del Acertijo A, no pudo adaptarse. También olvidó completamente cómo hacer el Acertijo A una vez que comenzó a aprender el Acertijo B. Esto se llama olvido catastrófico.
ALBERT (El Programador): Aprendió el algoritmo. Se dio cuenta: "Oh, necesito tomar el estado actual, aplicar una regla y pasar al siguiente paso". Esto es como aprender un "Bucle For" (una instrucción de computadora que repite una acción).
- El Resultado: Como ALBERT aprendió el método en lugar de un truco específico, pudo aplicar ese método al Acertijo B mucho más rápido. Mostró transferencia hacia adelante, lo que significa que usó lo aprendido en el Acertijo A para acelerar el aprendizaje del Acertijo B.

3. El Tamaño Importa (Pero No Como Piensas)

Los investigadores intentaron hacer los modelos más grandes (añadiendo más capas, como añadir más habitaciones a una casa).

Para ALBERT: Más grande era mejor. Más "habitaciones" significaba que podía refinar su algoritmo y mejorar aún más en la transferencia de conocimientos.
Para BERT: Más grande en realidad empeoró las cosas o las hizo inestables. Como BERT depende de atajos, hacer el modelo más complejo simplemente le dio más formas de quedarse atrapado en un mal hábito. No pudo generalizar su aprendizaje a nuevos acertijos.

4. La Solución de "Reproducción de Memoria"

Ambos modelos sufrieron de olvido catastrófico: cuando aprendían el nuevo acertijo, borraban completamente la memoria del anterior.

Para solucionar esto, los investigadores usaron un Bucle de Reproducción. Imagina a un estudiante que, mientras estudia para un nuevo examen de matemáticas, mantiene algunas tarjetas de memoria del examen anterior en su escritorio para echarles un vistazo ocasionalmente.

El Resultado: Esto funcionó maravillosamente. Al mostrar a los modelos una pequeña cantidad (solo el 1%) de los datos antiguos mientras aprendían los nuevos, dejaron de olvidar. Tanto BERT como ALBERT pudieron recordar los acertijos antiguos mientras aprendían los nuevos.

5. El Último Obstáculo: Combinar los Acertijos

La prueba definitiva del "razonamiento composicional" es si la IA puede mezclar y combinar reglas de diferentes acertijos para resolver un nuevo acertijo complejo que los combine a todos.

El Problema: Incluso con el "Bucle de Reproducción" ayudándoles a recordar, ambos modelos lucharon para combinar las reglas. Podían recordar el Acertijo A y el Acertijo B por separado, pero no podían tejerlos fácilmente juntos para resolver un acertijo híbrido.
La Diferencia: Los investigadores encontraron una manera de ayudar a ALBERT a tener éxito en esto. Si enseñaban a ALBERT usando una estrategia donde cosían lentamente los acertijos antiguos y los nuevos durante el entrenamiento (en lugar de mantenerlos separados), ALBERT podía aprender a combinarlos.
El Límite: Esta estrategia de "cosido" no funcionó para BERT. Como BERT ya se había arraigado en su forma de pensar de "atajo" durante el entrenamiento inicial, no podía enseñársele a combinar las reglas más tarde. Era demasiado rígido en sus costumbres.

La Conclusión

El artículo concluye que, aunque modelos de IA como BERT y ALBERT son poderosos, tienen un defecto oculto: tienden a aprender "trucos" (atajos) en lugar de lógica profunda.

ALBERT es mejor aprendiendo la lógica profunda (el "Bucle For"), lo que le ayuda a aprender nuevas tareas relacionadas más rápido.
BERT se atasca en trucos superficiales, lo que lo hace malo para adaptarse a nuevas situaciones y le hace olvidar los anteriores.

El estudio sugiere que para hacer que la IA sea verdaderamente capaz de aprendizaje continuo (aprender para siempre sin olvidar), necesitamos alejarnos de modelos que dependen de atajos y hacia arquitecturas construidas para entender los "algoritmos" subyacentes del mundo.

Resumen Técnico: Las Soluciones de Atajo Aprendidas por los Transformadores Deterioran el Razonamiento Composicional Continuo

Declaración del Problema

El artículo aborda una brecha crítica en la comprensión de cómo las redes neuronales Transformador realizan el Aprendizaje Continuo (AC) dentro del contexto del razonamiento composicional. Aunque los Transformadores han demostrado éxito en la identificación de relaciones específicas de la entrada y en la realización de tareas composicionales en conjuntos de datos estáticos, su capacidad para aprovechar representaciones aprendidas para adquirir nuevas experiencias relacionadas sin olvidar catastróficamente sigue siendo poco estudiada. Específicamente, los autores investigan si estos modelos pueden desarrollar estrategias computacionales generales (análogas al razonamiento analógico humano) o si dependen de soluciones de "atajo" no generalizables que obstaculizan su capacidad para transferir conocimientos entre tareas secuenciales.

Metodología

Los autores extienden el marco sintético Aprendizaje de Igualdad y Operaciones de Grupo (LEGO) (Zhang et al., 2022) a un entorno de LEGO Continuo.

Diseño de la Tarea: La tarea LEGO implica resolver una secuencia de operaciones de grupo ( $a_t = a_{t-1} * x_t$ ) dentro de una estructura de grupo (específicamente el grupo de simetría $D_3$ ). La tarea se considera como un recorrido de grafo dirigido.
Configuración Continua: El grupo $D_3$ se descompone en tres "experiencias de vaivén" distintas, cada una definida por un subgrupo específico (por ejemplo, $\{x_1, x_4\}$ , $\{x_1, x_5\}$ , $\{x_1, x_6\}$ ). Los modelos se entrenan secuencialmente en estas experiencias. Crucialmente, una vez que un modelo pasa a una nueva experiencia, no recibe entradas de experiencias anteriores, lo que pone a prueba la transferencia hacia adelante (aprender nuevas tareas más rápido) y el mantenimiento del rendimiento (evitar el olvido catastrófico).
Modelos: El estudio compara BERT (un Transformador feedforward canónico) y ALBERT (una variante recurrente con compartición de pesos entre capas).
Análisis Arquitectónico: Los autores varían sistemáticamente los hiperparámetros del modelo (número de capas ocultas y cabezas de atención) para identificar arquitecturas mínimas capaces de resolver la tarea. Analizan los patrones de autoatención para determinar la naturaleza mecánica de las soluciones aprendidas (por ejemplo, bucles algorítmicos frente a atajos).
Intervenciones: El estudio evalúa la eficacia de los búferes de repetición (guardando el 1% de los datos pasados) y el entrenamiento incremental (unir datos de experiencias pasadas y actuales) para mitigar el olvido y permitir la composición entre experiencias.

Contribuciones Clave

Marco LEGO Continuo: Los autores introducen un paradigma sintético controlado para investigar sistemáticamente las capacidades de AC en Transformadores, centrándose específicamente en el razonamiento composicional.
Divergencia Arquitectónica: El estudio revela que las elecciones arquitectónicas (feedforward frente a recurrente/compartición de pesos) impactan diferencialmente la generalización y la transferencia hacia adelante. Los modelos BERT muestran un rendimiento inconsistente a medida que aumenta el tamaño, mientras que los modelos ALBERT demuestran una relación más clara entre capacidad y rendimiento.
Explicación Mecanística del Fracaso/Éxito: Mediante el análisis de patrones de atención, los autores identifican que ALBERT aprende una solución algorítmica generalizable, similar a un bucle For, whereas BERT aprende soluciones de atajo que no se generalizan a secuencias más largas ni a nuevas experiencias.
Límites de la Repetición: El artículo demuestra que, aunque los búferes de repetición pueden mitigar el olvido catastrófico, son insuficientes para habilitar el razonamiento composicional entre experiencias en modelos BERT. Solo los modelos ALBERT se benefician del entrenamiento con datos combinados incrementalmente para lograr una verdadera composición entre experiencias.

Resultados

1. Rendimiento en LEGO Continuo

Transferencia hacia adelante: Los modelos ALBERT exhiben una fuerte transferencia hacia adelante, logrando alta precisión en nuevas experiencias de vaivén con menos épocas de entrenamiento. Los modelos BERT muestran una transferencia hacia adelante débil, a menudo requiriendo más épocas para alcanzar la precisión asintótica y fallando en generalizar a longitudes de secuencia mayores que el conjunto de entrenamiento.
Olvido Catastrófico: Tanto los modelos BERT como ALBERT exhiben un olvido catastrófico casi completo (el rendimiento cae a ~0%) en experiencias anteriores cuando se entrenan en nuevas, sin intervención.
Generalización: Los modelos ALBERT se generalizan bien a secuencias más largas (por ejemplo, $a_5, a_6$ ) cuando se entrenan en secuencias más cortas ( $a_4$ ). Los modelos BERT generalmente fallan en generalizar más allá de la longitud de la secuencia de entrenamiento.

2. Análisis Mecanístico (Patrones de Atención)

ALBERT (Solución General): Los patrones de atención en los modelos ALBERT mínimos muestran una firma "similar a un bucle For". Los tokens en una cláusula dada atienden predominantemente a los tokens en la cláusula precedente, actualizando sistemáticamente el estado. Este patrón se mantiene y fortalece a través de las experiencias.
BERT (Solución de Atajo): Los modelos BERT exhiben una firma de atajo donde la autoatención aísla un único token de entrada compartido en la primera cláusula para todos los tokens de salida. Esta solución se arraiga temprano en el entrenamiento y persiste incluso cuando se introducen nuevas experiencias, impidiendo que el modelo aprenda la composición iterativa necesaria.

3. Impacto de la Escala Arquitectónica

ALBERT: El rendimiento (precisión de la tarea, generalización, transferencia hacia adelante) escala positivamente con el número de capas ocultas (requiriendo al menos 4 capas para el éxito).
BERT: Aumentar el tamaño del modelo (por ejemplo, a 12 capas) no garantiza un mejor rendimiento y puede llevar a inestabilidad en el entrenamiento. No existe una relación clara entre el tamaño del modelo y la transferencia hacia adelante o la generalización para BERT.

4. Estrategias de Mitigación

Búferes de Repetición: Guardar solo el 1% de los datos pasados mitiga con éxito el olvido catastrófico para ambos modelos mientras preserva la transferencia hacia adelante. Sin embargo, la repetición ingenua (guardando ejemplos separados) falla en habilitar la composición entre experiencias.
Entrenamiento Incremental/Combinado: Entrenar con datos que unen experiencias pasadas y actuales ("vaivén incremental") recupera el rendimiento para ALBERT, permitiéndole acercarse al rendimiento de un modelo entrenado en la tarea completa. Esta estrategia falla para BERT, donde la solución de atajo se arraiga durante el entrenamiento inicial y no puede ser desaprendida ni corregida por datos combinados.

Significado y Afirmaciones

El artículo afirma que el sesgo inductivo de los Transformadores recurrentes (específicamente la compartición de pesos de ALBERT) es más adecuado para el razonamiento composicional continuo que las arquitecturas feedforward estándar (BERT).

Soluciones de Atajo como Barrera: Los autores argumentan que las "soluciones de atajo" aprendidas por BERT no son meramente un problema de rendimiento, sino una barrera fundamental para el aprendizaje continuo en tareas composicionales. Estos atajos se arraigan e impiden que el modelo adquiera las estrategias algorítmicas generales requeridas para la transferencia hacia adelante y la composición entre experiencias.
Ventaja Recurrente: El cómputo "similar a un bucle For" aprendido por ALBERT proporciona un mecanismo para la generalización y la transferencia hacia adelante, sugiriendo que las estructuras recurrentes (o mecanismos de compartición de pesos) pueden ser cruciales para desarrollar estrategias computacionales flexibles en redes neuronales.
Límites de la Estrategia de Entrenamiento: El estudio destaca que, aunque la repetición simple puede solucionar el olvido, no resuelve el problema de la composición entre experiencias. El razonamiento composicional verdadero en AC puede requerir estrategias de entrenamiento que combinen explícitamente datos entre experiencias, un hallazgo que sugiere que los métodos de repetición generativa podrían ser una dirección fructífera para futuras investigaciones, particularmente para modelos como ALBERT.

Los autores concluyen que, aunque los Transformadores pueden tener éxito en tareas estáticas complejas, su capacidad para aprender continuamente y componer a través de nuevas experiencias se ve severamente deteriorada por las estrategias computacionales específicas (atajos frente a algoritmos) a las que convergen, las cuales están fuertemente influenciadas por las elecciones arquitectónicas.