🤖 machine learning

LARA: Lightweight Adapters in the Residual Stream for Composable Adaptation and Alignment

LARA es un método de adaptación ligero que inyecta correcciones de bajo rango directamente en la corriente residual de un modelo congelado, permitiendo un rendimiento de parámetros emparejados eficiente, un control suave en el tiempo de inferencia mediante un factor de escala y el alojamiento simultáneo de múltiples comportamientos distintos en un solo dispositivo.

Autores originales: Pascal Ekin, Hyosun Choi, Wei Jie

Publicado 2026-08-03

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Pascal Ekin, Hyosun Choi, Wei Jie

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un robot superinteligente que ha leído casi todo el internet. Es un genio, pero también es un poco obstinado: una vez que ha aprendido sus lecciones, no es fácil enseñarle nuevos trucos sin romper su cerebro o necesitar una cantidad masiva de memoria para almacenar una versión completamente nueva de sí mismo. Este es el mundo de los Modelos de Lenguaje de Gran Escala (LLM). Para hacer que estos robots sean útiles para trabajos específicos —como escribir código Python o dar consejos médicos—, los científicos suelen utilizar una técnica llamada ajuste fino (fine-tuning). Piensa en esto como darle al robot un nuevo libro de texto. El método dominante y antiguo, llamado LoRA, es como desarmar el cerebro del robot, reescribir algunas páginas de su manual de instrucciones interno y luego volverlo a pegar. Funciona bien, pero es pesado. Si quieres que el robot sea un programador, un médico y un poeta, tienes que cargar con tres versiones diferentes y pesadas de su cerebro, lo cual es imposible para un dispositivo pequeño como un teléfono.

Entra LARA (Adaptación Residual Aditiva Ligera), una nueva idea de investigadores de Royal Holloway y la Universidad de West London. En lugar de reescribir el manual interno del robot, LARA trata el cerebro del robot como una base fija e inalterable. Añade una "nota" diminuta y desprendible al flujo de pensamientos del robot justo antes de que hable. Esta nota es tan pequeña y ligera que puedes tener una biblioteca entera de diferentes "personalidades" (una para programar, una para matemáticas, una para ser amable) viviendo en el mismo robot al mismo tiempo. El robot puede entonces cambiar entre estas personalidades instantáneamente, palabra por palabra, sin necesidad de recargar todo su cerebro. Este artículo sugiere que este método de "tomar notas" funciona tan bien como el método pesado de "reescribir", pero con un superpoder: puedes subir o bajar el volumen del nuevo comportamiento, y puedes empaquetar muchos comportamientos en un espacio diminuto, haciendo posible ejecutar una IA multitalentosa directamente en tu dispositivo.

El Problema: El Cerebro Pesado

Imagina que tienes una estatua gigante y congelada de un genio. Es perfecta, pero no puede cambiar. Si quieres que empiece a hablar francés, no puedes simplemente susurrarle; tienes que cincelar nuevos músculos en la piedra. Eso es lo que hace la mayoría de las adaptaciones de IA: intenta cincelar la estatía. El método popular, LoRA, es como añadir una fina capa de arcilla sobre los músculos de la estatua. Funciona, pero si quieres que la estatua hable francés, español y alemán, necesitas tres estatuas diferentes, o tres capas de arcilla que tengas que intercambiar. Esto es lento y ocupa mucho espacio.

La Solución: La Nota Adhesiva

Los investigadores detrás de LARA se hicieron una pregunta diferente: "¿Y si no tocamos la estatua en absoluto?". En lugar de cincelar o añadir arcilla, decidieron pegar una pequeña y mágica nota adhesiva en la mano de la estatua cada vez que esta alcanza algo.

En el mundo de la IA, la "mano" se llama flujo residual (residual stream). Es el flujo de información que pasa a través de las capas del modelo, como un río que transporta los pensamientos del robot. LARA no cambia el lecho del río (los pesos congelados); simplemente sumerge una pequeña esponja de bajo rango en el río, exprime un poco de "corrección" y la añade de nuevo al agua.

La Esponja: Este es un módulo diminuto con solo unos 2.39 millones de parámetros entrenables.
El Río: El modelo principal (un modelo de 1.5 mil millones de parámetros) permanece completamente congelado e intacto.

Debido a que el modelo principal nunca se toca, el robot "base" siempre está ahí, listo para actuar. La esponja solo añade un poco de sabor a los pensamientos mientras pasan.

Los Trucos Mágicos

El artículo encontró tres cosas geniales sobre este enfoque:

1. Es tan bueno como el método pesado
Los investigadores probaron LARA en una tarea de escritura de código y en una tarea de "preferencia" (enseñar al robot a ser más útil y menos grosero). Lo compararon con el método de la arcilla pesada (LoRA) utilizando exactamente el mismo número de parámetros entrenables. ¿El resultado? LARA igualó a LoRA. Aprendió a escribir código y a seguir preferencias tan bien como el otro, a pesar de que nunca tocó el cerebro original. Es como si la nota adhesiva fuera tan efectiva como reescribir el manual.

2. El Control de Volumen
Aquí es donde LARA se vuelve más juguetón. Debido a que la "corrección" es solo una nota aditiva, puedes girar un dial llamado $\gamma$ (gamma) en el momento en que el robot habla.

Si estableces $\gamma = 0$ , el robot ignora la nota y actúa exactamente como la base congelada.
Si estableces $\gamma = 1$ , utiliza la nota plenamente.
Si estableces $\gamma = 0.5$ , es mitad y mitad.

El artículo muestra que puedes deslizarte suavemente entre el "base aburrido" y el "experto programador" simplemente girando este control. No puedes hacer esto con el método de la arcilla pesada (LoRA) una vez que está pegado; ese es un cambio permanente. Con LARA, puedes decir: "Oye robot, sé 70% programador y 30% poeta", solo ajustando el volumen.

3. La Biblioteca de Personalidades
Este es el punto más importante. Debido a que la base está congelada y las notas son diminutas, puedes tener siete comportamientos diferentes viviendo en el mismo modelo de 1.5 mil millones de parámetros al mismo tiempo.

Los investigadores pusieron seis comportamientos ajustados (código, chat general, matemáticas, medicina, un segundo conjunto de código y resumen) y un comportamiento de "preferencia" en un solo modelo congelado.
¿El peso total de los siete? Solo 33 MB.
Si hubieras usado el método antiguo, necesitarías siete copias completas del modelo, lo que ocuparía 21.6 GB.

Imagina meter siete personalidades diferentes en el tamaño de un solo archivo MP3. El modelo utiliza un pequeño "enrutador" (un policía de tráfico) para observar cada palabra que el robot está a punto de decir y decidir qué personalidad tomar prestada para esa palabra específica. Si la frase es sobre matemáticas, toma la nota de matemáticas. Si es sobre programación, toma la nota de código. Incluso puede mezclarlas si una frase es ambigua.

El Problema (y el Futuro)

El artículo es cuidadoso al decir que esto aún no es una solución mágica para todo.

La Prueba de "Código": La prueba de que LARA funciona tan bien como LoRA se realizó principalmente en un conjunto de datos de código. Los autores sugieren que probablemente funcione para otras cosas, pero aún no lo han probado completamente en todos los temas posibles.
El Límite de "Amplificación": Si subes el volumen del control ( $\gamma$ ) demasiado (como ponerlo en 3), el robot empieza a tartamudear y cometer errores, especialmente si tienes muchas notas apiladas. Una sola nota es estable, pero si apilas seis notas y subes el volumen, el río se desborda.
La Confusión del Enrutador: Cuando dos comportamientos son muy similares (como dos conjuntos de datos de código diferentes), el policía de tráfico a veces se confunde y divide el voto. Sin embargo, el artículo encontró que incluso cuando se confunde, el robot sigue haciendo un buen trabajo porque ambas notas están intentando ayudar con el código.

Por qué esto importa

El artículo sugiere que tal vez no necesitemos construir cerebros masivos y separados para cada nueva habilidad. En su lugar, podemos tener un cerebro sólido y congelado y una mochila llena de pequeñas notas intercambiables. Esto es enorme para ejecutar IA en dispositivos como teléfonos o computadoras portátiles, donde la memoria es limitada. Sugiere un futuro donde tu teléfono tenga un único modelo de IA que puede cambiar instantáneamente de ser tu tutor de matemáticas a tu asistente de programación o tu compañero de escritura creativa, todo sin necesidad de descargar una nueva aplicación o esperar una actualización masiva. Los investigadores llaman a esto "adaptación composable", pero tú puedes simplemente pensarlo como darle a tu robot un armario lleno de pequeñas y mágicas notas adhesivas.

Resumen Técnico: LARA (Adaptadores Ligeros en el Flujo Residual)

Planteamiento del Problema

La adaptación eficiente de modelos preentrenados de gran tamaño suele depender de la modificación de sus pesos, siendo LoRA (Low-Rank Adaptation) el enfoque dominante. LoRA añade una actualización de bajo rango entrenable a matrices de pesos específicas, integrando efectivamente la adaptación en el espacio de los pesos. Aunque es eficiente, este enfoque presenta limitaciones:

Falta de Control en el Tiempo de Inferencia: Una vez entrenada, la adaptación es fija. Los métodos en el espacio de pesos no ofrecen un mecanismo para interpolar suavemente entre el comportamiento del modelo base y el comportamiento adaptado durante la inferencia sin reentrenar o cargar diferentes pesos.
Escalabilidad para Múltiples Comportamientos: El despliegue convencional para múltiples comportamientos (por ejemplo, diferentes dominios o tareas) a menudo requiere cargar una copia completa del modelo distinta o conjuntos de adaptadores separados para cada tarea. Esto es intensivo en memoria, particularmente para la inferencia en dispositivos.
Componibilidad: Los métodos existentes suelen tener dificultades para albergar muchos comportamientos distintos simultáneamente sobre un único modelo base congelado y dirigirlos automáticamente por cada token.

Metodología: LARA

LARA (Lightweight Additive Residual Adaptation) propone operar en el flujo residual de un transformador congelado en lugar de modificar los pesos.

Mecanismo: En lugar de actualizar las matrices de pesos, LARA inserta módulos ligeros en un subconjunto seleccionado de capas ( $\mathcal{L}$ $L$ ). En cada capa seleccionada $\ell$ $ℓ$ , el módulo lee el estado oculto $h_\ell$ $h_{ℓ}$ , aplica una transformación de bajo rango y añade la corrección resultante de vuelta al flujo residual.
- La regla de actualización es: $h_\ell \leftarrow h_\ell + \alpha \frac{1}{r} W_\uparrow W_\downarrow \text{LN}(h_\ell)$
- $W_\downarrow$ es una matriz de $r \times d$ , $W_\uparrow$ es una matriz de $d \times r$ , y $r \ll d$ .
- $W_\uparrow$ se inicializa en cero, lo que garantiza que el modelo se comporte exactamente como el modelo base congelado al inicio del entrenamiento.
Base Congelada: Los pesos base nunca se tocan. Si los módulos se eliminan o su salida se establece en cero, el paso hacia adelante (forward pass) es bit a bit idéntico al modelo base congelado original.
Escalado en el Tiempo de Inferencia: Debido a que la adaptación es aditiva, se puede aplicar un coeficiente de escalado $\gamma$ $γ$ durante la inferencia:
- $h_\ell \leftarrow h_\ell + \gamma \alpha \frac{1}{r} W_\uparrow W_\downarrow \text{LN}(h_\ell)$
- $\gamma = 0$ recupera el modelo base; $\gamma = 1$ recupera el modelo entrenado. Los valores intermedios permiten un control graduado entre el modelo base y el comportamiento adaptado.
Enrutamiento de Múltiples Comportamientos: Múltiples comportamientos (cada uno con un conjunto de módulos LARA) pueden residir en el mismo modelo base. Un pequeño enrutador lineal lee el estado oculto y asigna una distribución sobre los comportamientos para cada token. Las correcciones de todos los comportamientos activos se mezclan como una suma ponderada por token.

Principales Contribuciones

El artículo reclama explícitamente tres contribuciones primarias:

Paridad con LoRA con Igual Número de Parámetros: A diferencia de trabajos previos que comparan adaptadores residuales con LoRA sin igualar el conteo de parámetros, este estudio establece que LARA iguala el rendimiento de LoRA tanto en el ajuste fino de código como en la optimización de preferencias (DPO) cuando se entrena con presupuestos de parámetros iguales.
Control Graduado en el Tiempo de Inferencia: La naturaleza aditiva de LARA expone un coeficiente de escalado $\gamma$ que permite una interpolación suave entre el modelo base y el comportamiento adaptado durante la inferencia, un mecanismo de control no disponible en la adaptación en el espacio de pesos.
Comportamientos Componibles en un Único Modelo Base: Al mantener la base congelada y los comportamientos como pequeños módulos residuales, LARA permite albergar un "banco" de comportamientos en un solo modelo. Estos comportamientos pueden entrenarse por separado y enrutarse automáticamente por token, reduciendo significativamente la sobrecarga de memoria en comparación con la carga de copias completas del modelo.

Resultados Experimentales

Los experimentos se realizaron en un modelo Qwen2.5 1.5B Instruct (8-bit) congelado.

Ajuste Fino (Código): Se compararon LARA (2.39M de parámetros) y LoRA (2.18M de parámetros) en un corpus de código.
- Distribución de Entrenamiento: LARA logró una perplejidad de 1.70 frente a la de 1.75 de LoRA.
- División de Instrucción (Instruction Split): LARA logró 7.50 frente a 6.74 de LoRA.
- Conclusión: Con igual número de parámetros, LARA alcanza la misma calidad de ajuste fino que LoRA.
Optimización de Preferencias (DPO): Aplicado en pares de preferencia de UltraFeedback.
- LARA logró una precisión de recompensa de 0.625 frente a 0.613 de LoRA.
- Ambos métodos superaron significativamente al modelo base congelado (0.55).
Escalado de Inferencia: Variar $\gamma$ de 0 a 3 mostró que la perplejidad se mueve de forma monótona entre el valor base y el entrenado para $\gamma \in [0, 1]$ . Sin embargo, la estabilidad depende de la ubicación: un puente de una sola capa se mantuvo estable con $\gamma$ alto, mientras que una configuración de múltiples capas se degradó bruscamente al ser amplificada más allá de $\gamma=1$ .
Alojamiento de Múltiples Comportamientos: Siete comportamientos (6 de ajuste fino, 1 de optimización DPO) se alojaron en un único modelo de 1.5B.
- Memoria: La base (3.09 GB residentes) + 7 comportamientos + enrutador = 3.12 GB. Esto es una fracción de los ~21.6 GB requeridos para siete copias separadas del modelo.
- Rendimiento: Bajo enrutamiento suave (soft routing), los comportamientos retuvieron entre el 87% y el 99% de su rendimiento dedicado. El enrutador dirigió con éxito los tokens hacia comportamientos específicos de dominio (ej. matemáticas, medicina) con alta confianza (>0.94), aunque tuvo dificultades para separar dominios de código altamente similares.
- Activación Conjunta: El comportamiento de preferencia pudo activarse junto con los comportajes de dominio en tokens compartidos (ej. instrucciones generales), demostrando su componibilidad.

Significado y Reclamaciones

El artículo posiciona a LARA no como un mecanismo novedoso (ya que los adaptadores residuales y el side tuning están establecidos), sino como una caracterización rigurosa de este enfoque en el contexto de la adaptación eficiente moderna.

Impacto Práctico: La principal recompensa práctica es la capacidad de albergar un "banco de comportamientos" en un único modelo base con una sobrecarga de memoria mínima (megabytes por comportamiento), lo que lo hace adecuado para la inferencia en dispositivos donde la memoria es una restricción limitante.
Filosofía de Diseño: El enfoque trata la adaptación como un residuo colocado al lado de la computación congelada en lugar de plegado dentro de ella. Esto permite que los comportamientos se entrenen por separado y se añadan al banco sin necesidad de reajustar la base.
Limitaciones: Los autores señalan que la paridad del ajuste fino se establece en un corpus de código, y que la generalización a otros dominios requiere más pruebas. El escalado de inferencia y la aplicación conjunta se miden mediante perplejidad y pesos de activación, no necesariamente mediante el alineamiento conductual descendente. La comparación es estrictamente contra LoRA, no contra otros métodos de espacio de pesos o de espacio de activación.

En resumen, LARA demuestra que la adaptación eficiente puede gestionarse en el flujo residual con una calidad comparable a los métodos de espacio de pesos, permitiendo además, de forma única, el escalado en el tiempo de inferencia y el alojamiento composible de múltiples comportamientos en un solo dispositivo.