🤖 machine learning

Layer-wise LoRA fine-tuning: a similarity metric approach

Este artículo propone un enfoque de ajuste fino de Adaptación de Bajo Rango (LoRA) por capas que selecciona sistemáticamente las capas más relevantes basándose en la similitud de la representación interna, reduciendo así los parámetros entrenables hasta en un 50% mientras mantiene o incluso mejora el rendimiento predictivo a través de diversas arquitecturas de modelos y tareas.

Autores originales: Keith Ando Ogawa, Bruno Lopes Yamamoto, Lucas Lauton de Alcantara, Lucas Pellicer, Rosimeire Pereira Costa, Edson Bollis, Anna Helena Reali Costa, Artur Jordao

Publicado 2026-07-27

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Keith Ando Ogawa, Bruno Lopes Yamamoto, Lucas Lauton de Alcantara, Lucas Pellicer, Rosimeire Pereira Costa, Edson Bollis, Anna Helena Reali Costa, Artur Jordao

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás tratando de enseñarle a un robot superinteligente a hacer un trabajo específico, como resolver problemas matemáticos o escribir código. Este robot, llamado Modelo de Lenguaje Extenso (LLM), ya ha aprendido una cantidad masiva de conocimiento general tras haber leído casi todo lo que hay en internet. Es como un genio que sabe un poco de todo, pero que necesita especializarse. Para enseñarle un nuevo truco, normalmente tienes que "ajustarlo" (fine-tune), lo que significa ajustar sus configuraciones internas. Pero aquí está el problema: estos robots son tan enormes que ajustar todas sus configuraciones requiere una computadora tan potente y costosa que solo las gigantescas empresas tecnológicas pueden permitirse. Es como intentar arreglar un solo tornillo suelto en un rascacielos reconstruyendo todo el edificio.

Para resolver esto, los científicos inventaron un atajo ingenioso llamado LoRA (Adaptación de Bajo Rango). En lugar de tocar cada uno de los tornillos del rascacielos, LoRA sugiere que solo añadas un parche pequeño y ligero de tornillos nuevos para ayudar al robot a aprender la nueva tarea. Esto ahorra una tonelada de dinero y energía. Sin embargo, incluso con este atajo, el robot sigue siendo tan grande que el "parche" a veces puede ser demasiado pesado para las computadoras más pequeñas. La gran pregunta es: ¿Realmente necesitamos parchar cada parte del robot para hacerlo inteligente en su nuevo trabajo? O ¿existen solo unos pocos puntos específicos donde ocurre la magia? Este artículo profundiza en esa pregunta, preguntándose si podemos encontrar los "puntos dorados" para arreglar y dejar intacto el resto de la gigante máquina.

El trabajo de detective "capa por capa"

Los autores de este artículo, Keith Ando Ogawa y su equipo, decidieron tratar el cerebro del robot como un edificio de varios pisos. Dentro de un Modelo de Lenguaje Extenso, la información fluye a través de una serie de "capas", algo así como los pisos de un rascacielos. A medida que una oración viaja desde el piso inferior hacia el superior, es procesada y transformada. El equipo sospechaba que no todos los pisos son igualmente importantes para cada nueva tarea. Algunos pisos podrían estar haciendo el trabajo pesado para problemas matemáticos, mientras que otros podrían ser más útiles para escribir poesía.

Su idea era simple pero poderosa: en lugar de poner un parche LoRA en cada uno de los pisos, ¿por qué no averiguar qué pisos cambian realmente más cuando el robot aprende algo nuevo? Idearon una forma de medir este "cambio" utilizando una herramienta matemática llamada métrica de similitud. Piensa en ello como un "detector de cambios". Observaron lo que el robot "pensaba" antes de pasar la información al siguiente piso específico y lo que "pensaba" después de que ese piso la procesara. Si la entrada y la salida eran casi idénticas, ese piso no estaba haciendo mucho. ¡Pero si la entrada y la salida eran muy diferentes, ese piso estaba trabajando mucho!

Llamaron a este método "ajuste fino de LoRA por capas" (Layer-wise LoRA fine-tuning). Es como contratar a un detective para que recorra el rascacielos, revisando cada piso para ver dónde hay más actividad. Una vez que identifican los pisos más ocupados, solo colocan los parches de LoRA en esos pisos específicos y dejan los pisos silenciosos e inactivos congelados en su lugar.

Lo que encontraron: Menos es más

Cuando el equipo probó esta idea en varios tipos diferentes de cerebros de robot, los resultados fueron sorprendentemente buenos. Descubrieron que al seleccionar solo las capas más activas —específicamente, aproximadamente la mitad del total de las capas— podían reducir el número de parámetros entrenables (los "tornillos" que están ajustando) en un 50%.

Aquí está la mejor parte: a pesar de que estaban ajustando la mitad de las configuraciones, los robots no se volvieron más tontos. De hecho, para algunos modelos como LLaMA 2-7B y Mistral-7B, los robots en realidad mejoraron su capacidad para resolver problemas matemáticos y escribir código cuando solo se enfocaron en las capas más importantes. Para otros modelos, como Gemma-7B, el rendimiento cayó solo una cantidad mínima, casi imperceptible.

Los investigadores también compararon su método de "detector de cambios" contra otras formas en que las personas intentan seleccionar capas, como elegir simplemente los pisos medios o los pisos superiores e inferiores. Su método superó consistentemente a estas conjetzas simples. Por ejemplo, en una prueba estándar llamada GLUE, su método mantuvo el alto rendimiento del robot mientras reducía el trabajo a la mitad, mientras que un método que solo elegía las capas medias a veces hacía que el robot tropezara.

También verificaron cómo afectaba esto a la memoria y la velocidad de la computadora. Debido a que estaban ajustando menos capas, el proceso de entrenamiento se volvió más rápido. En algunos modelos, vieron una aceleración de aproximadamente 1.25 veces, y la computadora necesitó menos memoria para realizar el trabajo. Esto es algo enorme para cualquiera que intente ejecutar estos modelos en computadoras más pequeñas y baratas.

Por qué esto es importante

El artículo sugiere que no necesitamos tratar cada parte de un modelo de IA gigante como igual de importante. Al usar una medición simple de cuánto cambia una capa la información que pasa a través de ella, podemos encontrar los "puntos dulces" para el aprendizaje. Esto significa que podemos hacer que estas poderosas herramientas de IA sean mucho más eficientes sin perder su inteligencia.

Los autores probaron esto en diferentes tipos de robots, incluyendo aquellos que solo leen texto, aquellos que solo escriben texto, e incluso un robot multimodal (LLaVA-1.5-7B) que puede ver imágenes y leer texto. En todos los casos, seleccionar solo las capas adecuadas funcionó bien. Incluso intentaron duplicar el "rango" (haciendo los parches más complejos) en las capas seleccionadas para ver si eso ayudaba, pero descubrieron que no hacía una gran diferencia. Parece que el secreto es simplemente elegir las capas correctas, no hacer que los parches en sí mismos sean más complicados.

Aunque el artículo no afirma haber resuelto todos los problemas de la IA, ofrece una forma muy práctica y efectiva de hacer que el ajuste fino sea más barato y rápido. Sugiere que, para muchas tareas, un esfuerzo pequeño y dirigido es tan bueno como una revisión masiva y total. Como señalan los autores, este enfoque funciona bien con las herramientas existentes y podría ayudar a más investigadores y empresas más pequeñas a participar en la creación de una IA más inteligente, sin necesidad de una supercomputadora del tamaño de una casa.

Resumen Técnico: Ajuste Fino de LoRA por Capas mediante Métricas de Similitud

Declaración del Problema
Si bien los Modelos de Lenguaje de Gran Escala (LLMs) preentrenados han avanzado en la IA de propósito general, su adaptación a tareas de downstream mediante el ajuste fino (fine-tuning) incurre en costos computacionales sustanciales. Los métodos de Ajuste Fino de Parámetros Eficientes (PEFT), particularmente la Adaptación de Bajo Rango (LoRA), mitigan esto congelando los pesos preentrenados y actualizando matrices de descomposición de bajo rango. Sin embargo, incluso con LoRA, el número de parámetros entrenables puede seguir siendo prohibitivo a medida que aumenta la escala de los modelos. Las variantes existentes de LoRA se centran principalmente en optimizaciones a nivel de matriz (por ejemplo, estrategias de inicialización, formatos de descomposición o ajustes de rango), pero a menudo pasan por alto el nivel arquitectónico. Específicamente, sigue siendo una pregunta abierta si todas las capas de un transformer contribuyen equitativamente a la adaptación de la tarea o si la selección sistemática de un subconjunto de capas podría reducir aún más los costos computacionales sin sacrificar el rendimiento predictivo.

Metodología
Los autores proponen un enfoque de selección de capas que es ortogonal a las técnicas de LoRA existentes. La hipótesis central es que no todas las capas contribuyen de la misma manera a los cambios en las representaciones internas durante la adaptación de la tarea. El método opera de la siguiente manera:

Extracción de Representaciones: Para un modelo preentrenado $F$ con $M$ capas de transformer ( $L_1, \dots, L_M$ ) y un conjunto de datos de downstream $D$ , el método extrae representaciones internas. Para arquitecturas solo de codificador (encoder-only), se utiliza la representación del token <CLS>; para arquitecturas solo de decodificador (autoregresivas), se utiliza la representación del último token, ya que se argumenta que estos tokens contienen la información relevante para la predicción.
Medición de Similitud: El método emplea la métrica de Alineación de Kernel Centrado (CKA) para medir la similitud entre la representación de entrada ( $R_{i-1}$ ) y la representación de salida ( $R_i$ ) de cada capa $L_i$ .
Puntuación de Importancia: Se define una métrica de importancia de capa $I_{L_i}$ como la disimilitud entre la entrada y la salida:
$I_{L_i} = 1 - \text{CKA}(R_{i-1}, R_i)$
Los autores hipotetizan que las capas que exhiben una alta disimilitud (bajo CKA) entre la entrada y la salida tienen el impacto más significativo en los cambios de la representación interna y, por lo tanto, son las candidatas más críticas para el ajuste fino.
Selección y Ajuste Fino: Se seleccionan las $N$ capas con las puntuaciones de disimilitud más altas para el ajuste fino de LoRA, mientras que las capas restantes permanecen congeladas. Este proceso ocurre antes de la fase de ajuste fino, basándose únicamente en la inferencia, evitando así pasos de entrenamiento adicionales costosos o cálculos de gradientes durante la fase de selección.

Contribuciones Clave

Mecanismo de Selección Novedoso: Introducción de un método sistemático para seleccionar capas de transformer para el ajuste fino basado en su contribución a los cambios en la representación interna, cuantificada mediante la disimilitud CKA.
Ortogonalidad: La técnica es compatible con los métodos PEFT existentes (LoRA, PiSSA, etc.) y opera al nivel de la capa en lugar del nivel de la matriz, ofreciendo una dimensión adicional de eficiencia computacional.
Reducción de Parámetros: El método reduce el número de parámetros entrenables en las técnicas basadas en LoRA hasta en un 50% manteniendo o mejorando el rendimiento predictivo.
Validación Empírica: Experimentos extensos en arquitecturas de solo codificador, solo decodificador y multimodales demuestran la robustez del método.

Resultados Experimentales
Los autores evaluaron su enfoque en varios modelos y benchmarks:

Modelos de Solo Codificador (RoBERTa-base, DeBERTa-v3-base): En el benchmark GLUE, el ajuste fino de solo el 50% de las capas (seleccionadas mediante la métrica propuesta) resultó en una caída insignificante en el rendimiento predictivo (caída promedio de 0.27 puntos porcentuales para DeBERTa-v3-base) en comparación con el LoRA de capa completa. Esto superó significativamente a un método de selección de capas competidor basado en puntuaciones de la Matriz de Información de Fisher (FIM), que sufrió una caída de rendimiento mucho mayor (7.68 puntos).
Modelos de Solo Decodificador (LLaMA 2-7B, Mistral-7B-v0.1, Gemma-7B): Evaluados en resolución de problemas matemáticos (GSM8K, MATH) y tareas de codificación (HumanEval, MBPP).
- Para LLaMA 2-7B y Mistral-7B, el método logró mejoras en el rendimiento predictivo en la mayoría de las tareas a pesar de una reducción del 50% en los parámetros entrenables.
- Para Gemma-7B, se observó una pequeña caída en el rendimiento, pero los resultados se mantuvieron competitivos.
- El método superó consistentemente a las heurísticas ingenuas (por ejemplo, seleccionar solo las capas medias, las primeras o las últimas).
Modelos Multimodales (LLaVA-1.5-7B): En el benchmark ScienceQA, el método logró una precisión promedio de 79.26% en comparación con el 79.49% de LoRA de capa completa, con una reducción del 50% en los parámetros entrenables (de 160M a 80M).
Eficiencia: La selección de capas condujo a aceleraciones significativas en el tiempo de entrenamiento (hasta ~1.4x para ciertas configuraciones) y reducciones en el uso de memoria GPU (aproximadamente 15-20%).

Significancia y Reivindicaciones
El artículo afirma ser el primer trabajo que explora sistemáticamente subconjuntos efectivos de capas para el ajuste fino de LoRA a través de un amplio conjunto de modelos y tareas, incluyendo arquitecturas multimodales. Los autores argumentan que su enfoque proporciona un camino práctico para una mayor eficiencia computacional en el ajuste fino de modelos grandes sin requerir cambios arquitectónicos o procedimientos de entrenamiento complejos.

Los resultados sugieren que:

Capas específicas son más influyentes para tareas específicas, y estas pueden identificarse mediante métricas de similitud de representación.
La disimilitud CKA es una herramienta efectiva para la selección de capas, superando las estrategias ingenuas y los enfoques existentes basados en FIM.
El método es agnóstico a la técnica PEFT específica utilizada (funcionando con tanto LoRA como PiSSA) y a la arquitectura del modelo (codificador, decodificador o multimodal).

Los autores mantienen la modestia respecto a direcciones futuras, señalando preguntas abiertas como si las métricas de importancia podrían capturar interacciones entre capas en lugar de contribuciones individuales, si se podrían definir rangos de LoRA ideales por capa, o si otros enfoques más allá de las métricas de similitud podrían ser efectivos. No reclaman una optimalidad universal para todos los modelos, sino que destacan la efectividad de su método para reducir las cargas computacionales preservando el rendimiento.

El trabajo de detective "capa por capa"

Lo que encontraron: Menos es más

Por qué esto es importante

Resumen Técnico: Ajuste Fino de LoRA por Capas mediante Métricas de Similitud

Más como este