🤖 AI

Procedural Knowledge Is Not Low-Rank: Why LoRA Fails to Internalize Multi-Step Procedures

Este artículo demuestra que LoRA no logra internalizar eficazmente el conocimiento procedimental complejo de múltiples pasos en comparación con el ajuste fino completo porque las actualizaciones de peso necesarias exhiben un rango efectivo que supera con creces la capacidad de bajo rango de LoRA, lo que conduce a brechas de rendimiento significativas incluso con rangos altos.

Autores originales: Simon Dennis, Kevin Shabahang, Hao Guo, Rivaan Patil

Publicado 2026-07-27

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Simon Dennis, Kevin Shabahang, Hao Guo, Rivaan Patil

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot superinteligente cómo realizar un trabajo complejo, como reservar un vuelo o arreglar una computadora averiada. En el mundo de la inteligencia artificial, hay un truco muy popular llamado "ajuste fino" (fine-tuning). Piensa en un modelo de IA gigante como una biblioteca masiva que contiene casi todos los libros jamás escritos. Para enseñarle un trabajo específico, normalmente tienes que reescribir toda la biblioteca, lo cual es costoso y lento. Para ahorrar tiempo, los científicos inventaron un atajo llamado LoRA (Adaptación de Bajo Rango). En lugar de reescribir toda la biblioteca, LoRA intenta enseñarle al robot añadiendo un pequeño y delgado cuaderno de notas adhesivas a los estantes. La gran idea era que estas notas adhesivas podrían capturar todo lo que el robot necesitaba saber sobre un nuevo trabajo sin tocar los pesados libros que están debajo. Es como pensar que puedes enseñarle a alguien a conducir un coche de carreras simplemente dándole una pequeña hoja de trucos, en lugar de dejar que practique en la pista durante horas.

Pero aquí está el problema: este artículo pregunta si esa hoja de trucos es realmente suficiente cuando el trabajo no se trata solo de recordar hechos o escribir con un estilo genial, sino de seguir un procedimiento estricto y de múltiples pasos. El conocimiento procedimental es como una receta con muchos pasos de "si esto sucede, entonces haz aquello", donde tienes que llevar la cuenta de tu progreso, manejar errores y asegurarte de no saltarte ningún paso. Los investigadores querían saber: ¿Puede un pequeño cuaderno (LoRA) enseñarle a un robot a seguir una receta compleja y ramificada, o necesita reescribir toda la biblioteca (Ajuste Fino Completo) para lograrlo?

El Gran Fracaso de la Hoja de Trucos

Los investigadores organizaron una serie de pruebas para ver si el método de la "nota adhesiva" podía manejar la realidad desordenada de seguir instrucciones. No se limitaron a pedirle al robot que escribiera un poema; hicieron que actuara como un agente de viajes, un especialista en soporte técnico de Zoom y un ajustador de reclamos de seguros. Estas no son tareas simples; son como navegar por un laberinto gigante y retorcido donde cada giro depende de lo que el cliente dijo hace cinco minutos. Si el cliente se enoja, tienes que cambiar tu trayectoria. Si olvidan un detalle, tienes que pedirlo de nuevo. El objetivo era ver si el robot podía guiar la conversación con éxito desde el principio hasta un final feliz sin perderse.

Los resultados fueron un poco impactantes. Cuando los investigadores utilizaron el método de reescribir la biblioteca completa (Ajuste Fino Completo), los robots se convirtieron en agentes excelentes. Seguían las reglas, recordaban los detalles y resolvían los problemas, obteniendo una sólida puntuación de 4.11 de 5 en su prueba de reserva de viajes. Pero cuando intentaron el método del "cuaderno de notas" (LoRA), incluso con las hojas de trucos más grandes y caras que pudieron hacer, los robots fallaron completamente el procedimiento.

Aquí está la parte extraña: los robots de LoRA no solo se volvieron ligeramente peores; se quedaron atrapados en un bucle extraño. ¡Aún podían charlar! Podían mantener la conversación durante 14 turnos sin colapsar. Sonaban educados y naturales. Pero estaban fallando en el trabajo real. En la prueba de viajes, los robots de LoRA obtuvieron entre 2.10 y 2.54 —apenas la mitad de buenos que los robots entrenados completamente. Se saltaban pasos importantes, olvidaban preguntar por el destino o se rendían demasiado pronto. Era como un guía turístico que sabe decir "Hola" y "Adiós" perfectamente, pero guía a los turistas hacia una pared porque olvidó el mapa.

La Paradoja de los Cuadernos Más Grandes

Podrías pensar: "Está bien, tal vez la hoja de trucos era demasiado pequeña. ¡Hagámosla más grande!". Los investigadores intentaron esto. Aumentaron el tamaño del cuaderno de LoRA desde un diminuto rango 16 hasta un enorme rango 128. Esto significaba que estaban cambiando más de la parte del cerebro del robot, utilizando hasta el 3.4% de sus parámetros totales. Esperarías que un cuaderno más grande ayudaría, ¿verdad?

Sorprendentemente, empeoró las cosas. A medida que el cuaderno se hacía más grande, los robots se volvían peores siguiendo el procedimiento. La mejor puntuación se obtuvo con el tamaño más pequeño, y para cuando llegaron al tamaño más grande, la puntuación de éxito de la tarea cayó a 2.10. Resulta que hacer la hoja de trucos más grande no ayudó al robot a aprender la lógica del laberinto; solo le ayudó a memorizar mejor las palabras del laberinto. El robot se volvió muy bueno sonando como si supiera lo que hacía, pero seguía perdido. Los investigadores descubrieron que los robots estaban sufriendo de "sobreajuste" (overfitting), que es una forma elegante de decir que estaban memorizando los ejemplos de entrenamiento como un loro, sin entender las reglas.

Por qué la Hoja de Trucos no fue Suficiente

Entonces, ¿por qué falló tanto el pequeño cuaderno? Los autores profundizaron en el cerebro del robot para encontrar la respuesta. Utilizaron una herramienta matemática llamada SVD (Descomposición de Valores Singulares) para observar exactamente cuánto cambió el cerebro del robot cuando aprendió el procedimiento.

Imagina que el cerebro del robot es una gigantesca cuadrícula de números. Cuando el robot aprende una nueva habilidad, los números en esta cuadrícula cambت. La idea de "Bajo Rango" asume que estos cambios son simples, como dibujar una línea recta o una hoja plana en la cuadrícula. Pero los investigadores descubrieron que, para las tareas procedimentales, los cambios son increíblemente complejos y desordenados. Son como una escultura 3D hecha de miles de cables diminutos y retorcidos.

Las matemáticas mostraron que para capturar los cambios necesarios para estas tareas, el robot necesitaba utilizar un "rango" de aproximadamente 761 a 1,026. Pero el método LoRA solo tenía permitido usar un rango de 128 como máximo. Esto significa que el cuaderno de LoRA estaba intentando describir una escultura 3D compleja usando solo un dibujo 2D plano. Simplemente no tenía suficientes dimensiones para contener la información. Los investigadores calcularon que incluso el cuaderno de LoRA más grande solo podía capturar entre el 43% y el 51% de los cambios necesarios. El resto del "conocimiento" simplemente se quedó fuera, como intentar meter todo un océano en una taza de té.

El Veredicto: No Puedes Engañar al Laberinto

El estudio concluye que para tareas que requieren que un robot siga un procedimiento estricto de múltiples pasos con muchas decisiones de "si-entonces", el método de atajo (LoRA) simplemente no funciona. No es que el robot no haya sido entrenado lo suficiente; es que el método en sí mismo es demasiado limitado. El conocimiento necesario para navegar estos laberintos complejos está distribuido en todo el cerebro del robot de una manera que un pequeño cuaderno de bajo rango no puede capturar.

Los investigadores están muy seguros de esto porque lo probaron en tres áreas diferentes (viajes, soporte técnico y seguros) y con dos tamaños diferentes de cerebros de robot (3 mil millones y 8 mil millones de parámetros). En cada caso, el reescrito de la biblioteca completa ganó, y la hoja de trucos perdió. También descartaron la idea de que el robot solo necesitara más tiempo de entrenamiento, porque los robots de LoRA aprendieron las palabras más rápido que los entrenados completamente; simplemente fallaron en aprender las reglas.

Así que, si quieres un agente de IA que pueda reservar tu vuelo, arreglar tu llamada de Zoom o procesar tu reclamo de seguro de manera confiable sin confundirse, no puedes simplemente pegar unas cuantas notas adhesivas en su cerebro. Tienes que dejar que reescriba toda la biblioteca. La eficiencia del atajo viene al costo de la capacidad del robot para realizar realmente el trabajo.

Resumen Técnico: El conocimiento procedimental no es de bajo rango

Planteamiento del problema

Aunque los métodos de ajuste fino eficiente en parámetros (PEFT), como la Adaptación de Bajo Rango (LoRA), se han convertido en el estándar para adaptar Modelos de Lenguaje de Gran Escala (LLM) debido a su eficiencia de memoria y su éxito en el seguimiento de instrucciones, la transferencia de estilo y la adaptación fáctica, su eficacia en el conocimiento procedimental no ha sido verificada. El conocimiento procedimental se define aquí como la capacidad de seguir procedimientos de múltiples pasos que involucran ramificaciones condicionales, seguimiento implícito del estado a través de los turnos y navegación hacia estados terminales específicos (por ejemplo, flujos de trabajo de atención al cliente, sistemas de reservas, entrevistas de diagnóstico).

El supuesto central que sustenta LoRA es que las adaptaciones específicas de la tarea residen en un subespacio de baja dimensión del espacio de parámetros. Este artículo desafía ese supuesto, postulando que el conocimiento procedimental está distribuido en todo el espacio de parámetros de una manera que las aproximaciones de bajo rango no pueden capturar en rangos prácticos. Si LoRA no logra internalizar el conocimiento procedimental, las ganancias de eficiencia que ofrece no estarán disponibles para la clase emergente de aplicaciones agénticas que dependen de flujos de trabajo estructurados.

Metodología

El estudio emplea un enfoque de ablación sistemática y replicación trans-dominio utilizando datos sintéticos generados a partir de definiciones de procedimientos basadas en diagramas de flujo.

1. Definición de tareas y generación de datos

Los procedimientos se formalizan como grafos dirigidos $F = (N, E, n_0, T)$ que representan conversaciones de múltiples turnos con ramificación condicional. Se utilizaron tres dominios de varying complejidad:

Reserva de viajes (modelo 3B): 14 nodos, 3 centros de decisión, 86 rutas acíclicas únicas.
Soporte de Zoom (modelo 8B): 14 nodos, 3 centros de decisión, 60 rutas acíclicas únicas, incorporando interfaz de usuario (UI) específica del dominio y códigos de error.
Reclamaciones de seguros (modelo 8B): 55 nodos, 6 centros de decisión, 2,381 rutas acíclicas únicas, con bucles anidados y dependencias de fases cruzadas.

Se generaron conversaciones sintéticas muestreando rutas a través de estos diagramas de flujo y utilizando un LLM (Claude Sonnet 4.5) para generar diálogos turno a turno, variando las variables del escenario para asegurar la diversidad. El modelo de inferencia solo ve el diálogo natural sin anotaciones procedimentales explícitas.

2. Configuraciones de ajuste fino (Fine-Tuning)

El estudio compara el Ajuste Fino de Parámetros Completos (Full FT) contra LoRA en cuatro rangos ( $r = 16, 32, 64, 128$ ).

Full FT: Actualiza todos los parámetros. El entrenamiento utilizó AdamW con decaimiento de coseno, ejecutándose durante 20 épocas (3B) o 10–20 épocas (8B) hasta la convergencia.
LoRA: Apunta a todas las capas lineales (atención $q, k, v, o$ y proyecciones MLP: gate, up, down). El factor de escala es $\alpha = 2r$ . Las tasas de aprendizaje de LoRA se configuraron más altas ( $2 \times 10^{-4}$ ) que las de Full FT ( $2 \times 10^{-5}$ ) para darle a LoRA la mejor oportunidad de rendimiento. Los adaptadores se fusionaron antes de la evaluación para asegurar costos de inferencia idénticos.

3. Protocolo de evaluación

El rendimiento se evaluó en $n=200$ escenarios por condición mediante simulación dinámica de usuario y un LLM-como-juez (Claude Sonnet 4.5, verificado por GPT-4.1). Las métricas incluyeron:

Éxito de la tarea: Ejecución correcta del procedimiento hasta un estado terminal.
Precisión de la información, consistencia, manejo elegante y naturalidad.
La significancia estadística se evaluó mediante las pruebas de Wilcoxon signed-rank y Mann–Whitney U con corrección de Holm–Bonferroni.

4. Análisis estructural (SVD)

Para explicar los fallos de comportamiento, los autores realizaron una Descomposición en Valores Singulares (SVD) sobre las diferencias de peso ( $\Delta W = W_{ft} - W_{base}$ ) en todas las matrices de pesos. Midieron la "Energía en $r$ " (fracción de la norma de Frobenius al cuadrado capturada por los $r$ vectores singulares superiores) para determinar el límite superior teórico de lo que un adaptador LoRA de rango- $r$ podría capturar, independientemente de la calidad de la optimización.

Resultados Clave

1. Fallo uniforme a través de los rangos

En la tarea de Reserva de Viajes (modelo 3B), todas las configuraciones de LoRA fallaron en igualar a Full FT, independientemente del rango.

Éxito de la tarea: Los puntajes de LoRA oscilaron entre 2.10 y 2.54, comparado con 4.11 para Full FT ( $p < 0.001$ ).
Insensibilidad al rango: Aumentar el rango de 16 a 128 (un incremento de 8x en los parámetros entrenables) no produjo ninguna mejora. De hecho, los puntajes degradaron en rangos más altos (por ejemplo, el Éxito de la tarea cayó de 2.54 en $r=32$ a 2.10 en $r=128$ ).
Completitud vs. Corrección: Los modelos LoRA mantuvieron altas tasas de completitud de conversación (95.5%–99.0%), indicando que no colapsaron a mitad de la conversación. Sin embargo, fallaron en seguir las rutas procedimentales correctas, a menudo saltándose los centros de decisión o alcanzando estados terminales prematuramente.

2. Generalización trans-dominio

El fallo se generalizó al modelo 8B en Soporte de Zoom y Reclamaciones de Seguros.

LoRA tuvo un rendimiento inferior a Full FT por un promedio de 0.8–2.2 puntos en todos los criterios tanto en $r=32$ como en $r=128$ .
La brecha de rendimiento fue mayor en el procedimiento más complejo (Reclamaciones de Seguros), donde LoRA $r=128$ logró un Éxito de la Tarea de 2.10 frente a 4.47 para Full FT.
Aumentar el rango de 32 a 128 proporcionó solo mejoras marginales, sin lograr cerrar la brecha con Full FT.

3. Naturaleza de alto rango de las actualizaciones de peso

El análisis SVD reveló que los cambios de peso requeridos para la internalización procedimental son genuinamente de alto rango.

Rango efectivo: El rango efectivo medio de la actualización de Full FT a través de los dominios osciló entre 761 y 1,026.
Captura de energía: Un adaptador LoRA de rango-128 captura solo el 43% al 51% de la norma de Frobenius al cuadrado de la actualización de Full FT.
Cuello de botella de las MLP: Las capas MLP (proyecciones gate, up, down) exhibieron los rangos efectivos más altos (hasta 1,872 en Reclamaciones de Seguros). El rango 128 cubre solo el 7–13% del rango requerido para estas capas, capturando solo el 26–44% de la energía de la actualización. Las proyecciones de atención K/V estaban mejor cubiertas debido a los tamaños de matriz más pequeños (GQA), pero las MLP siguen siendo el principal cuello de botella.

4. Dinámica de entrenamiento y sobreajuste

El análisis de la dinámica de entrenamiento mostró que LoRA no sufre de subajuste (underfitting).

Menor pérdida, peor comportamiento: En la convergencia, LoRA ( $r=32$ ) logró una pérdida por token fuera de muestra (held-out per-token loss) menor (0.81) que Full FT (0.89).
Divergencia: A pesar de la menor pérdida, LoRA se desempeñó significativamente peor en los criterios de comportamiento. Esto indica que LoRA ajusta con mayor precisión la distribución de tokens superficiales (memorizando patrones locales) pero falla en adquirir el mapeo estado-acción requerido para la corrección procedimental.
Sobreajuste dependiente de la posición: La pérdida de LoRA en los turnos iniciales (formulaicos) se mantuvo estable, pero la pérdida en los turnos tardíos (que requieren seguimiento de estado) aumentó después de la época 3, señalando un sobreajuste a las correlaciones superficiales en lugar de a la estructura procedimental.

Significancia y Afirmaciones

El documento establece que el conocimiento procedimental no es de bajo rango. Los hallazgos sugieren una limitación fundamental de los métodos eficientes de parámetros para aplicaciones agénticas:

Limitación Estructural: La incapacidad de LoRA para capturar el conocimiento procedimental no es un fallo de optimización, sino de representación. Las actualizaciones de peso requeridas están distribuidas en cientos de dimensiones, excediendo la capacidad de las aproximaciones estándar de bajo rango (incluso con $r=128$ ).
Compromiso de Eficiencia: Para tareas que requieren un seguimiento de procedimientos de múltiples pasos confiable, las ganancias de eficiencia de LoRA vienen con el costo de la competencia procedimental. El ajuste fino de parámetros completos sigue siendo necesario para compilar tales procedimientos en los pesos del modelo con una calidad cercana a la de frontera.
Degradación Paradójica: Aumentar el rango de LoRA dentro del rango práctico no mejora linealmente el rendimiento; en cambio, puede aumentar la capacidad de sobreajuste de patrones superficiales sin capturar la estructura procedimental profunda.

Los autores concluyen que, si bien LoRA tiene éxito en el seguimiento de instrucciones y la adaptación fáctica, se queda muy por debajo del Ajuste Fino de Parámetros Completos para tareas procedimentales, una distinción crítica para el despliegue de agentes basados en LLM. El documento señala que el LoRA de rango heterogéneo (asignando rangos más altos específicamente a las capas MLP) es una vía plausible para investigaciones futuras, pero no fue probada en este estudio.