🤖 machine learning

Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning

Este artículo propone Fusión Regularizada por Trayectoria (TRM), un marco novedoso que aborda las limitaciones de almacenamiento y el estancamiento de la optimización en el aprendizaje continuo mediante la reformulación de la fusión de modelos como un proceso de optimización dentro de un subespacio de trayectoria aumentado para lograr un rendimiento de vanguardia.

Autores originales: Xi Wang, Cheng Deng

Publicado 2026-05-12

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Xi Wang, Cheng Deng

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El Gran Problema: El "Chef Olvidadizo" y la "Nevera Pesada"

Imagina que eres un chef intentando aprender una nueva receta cada día.

El Objetivo: Quieres ser un maestro de todas las recetas (Aprendizaje Continuo).
El Problema: Si te enfocas demasiado en el nuevo plato de hoy, podrías olvidar cómo cocinar el plato de ayer. Esto se llama "olvido catastrófico".
La Vieja Solución: Por lo general, los chefs mantienen una nevera masiva llena de cada ingrediente y receta que han usado alguna vez para poder mirar atrás y recordar.
La Restricción: En este artículo, los autores dicen: "¡No se permiten neveras grandes!". Solo puedes guardar la receta que acabas de aprender y la que aprendiste justo antes de esa. No puedes almacenar datos antiguos ni modelos antiguos. Esta es una regla estricta de privacidad y almacenamiento.

La Falta Actual: El "Mal Traspaso"

Los métodos existentes intentan combinar tu "Receta Antigua" y tu "Receta Nueva" en una sola "Receta Maestra" (Fusión de Modelos). Sin embargo, los autores descubrieron que los métodos actuales lo hacen mal cuando no pueden mirar el historial.

Identificaron tres formas específicas en las que este "traspaso" sale mal:

El Problema de "El Promedio es Soso" (Convergencia Local Subóptima):
Imagina que tienes una receta perfecta de lasaña y una receta perfecta de sushi. Si simplemente los mezclas a medias, obtienes un plato extraño y mediocre que sabe a ninguno de los dos. Los métodos actuales intentan encontrar un "promedio global", pero esto arruina los detalles específicos necesarios para cada tarea. El resultado es un modelo que está bien en todo pero excelente en nada.
El Problema de "Estructura Rota" (Disrupción de la Representación Semántica):
Piensa en un edificio. Los cimientos (capas inferiores) sostienen el peso, pero las habitaciones específicas (capas superiores) son donde ocurren las funciones únicas. Cuando los métodos actuales aplastan dos modelos juntos, rompen accidentalmente el cableado interno. Es como intentar fusionar dos casas golpeando sus paredes; las habitaciones terminan en lugares equivocados y la casa deja de tener sentido.
El Problema de "Atrapado en el Lodo" (Pérdida de Plasticidad de Optimización):
Imagina que conduces un coche. Si estacionas en un valle profundo y plano, es difícil hacer que el coche se mueva de nuevo porque no hay una pendiente por la cual rodar. Los métodos actuales de fusión a menudo estacionan el modelo en un "valle plano" de matemáticas. Cuando llega la siguiente nueva tarea, el modelo está tan "rígido" y atascado que no puede aprender nada nuevo. Ha perdido su capacidad de adaptarse.

La Solución: TRM (Fusión Regularizada por Trayectoria)

Los autores proponen un nuevo método llamado TRM. En lugar de simplemente mezclar ciegamente las dos recetas, tratan el proceso de fusión como una búsqueda guiada hacia el lugar perfecto en un mapa.

Así es como funciona TRM, utilizando tres "reglas" para encontrar el mejor lugar:

Regla 1: Mantente Fiel a la Nueva Tarea (Alineación de Tareas)
- Analogía: Antes de salir de la cocina, asegúrate de que el nuevo plato realmente tenga buen sabor.
- Lo que hace: Obliga al modelo fusionado a funcionar bien en la tarea actual de inmediato, asegurando que no perdamos los detalles específicos de la nueva receta.
Regla 2: Mantén la Casa Intacta (Consistencia de Predicción)
- Analogía: Asegúrate de que las habitaciones de la nueva casa sigan alineadas con las habitaciones de la casa antigua. No permitas que la cocina termine en el baño.
- Lo que hace: Verifica que el "cableado" interno del modelo no se haya desordenado. Asegura que la comprensión interna del mundo del modelo permanezca estable y lógica.
Regla 3: Mantén el Motor Funcionando (Respuesta al Gradiente)
- Analogía: No estaciones el coche en un valle plano. Estaciónalo en una pequeña colina para que el motor pueda acelerar y moverse adelante fácilmente.
- Lo que hace: Asegura que el modelo no esté "atascado". Mantiene la "pendiente" matemática lo suficientemente pronunciada para que, cuando llegue la siguiente nueva tarea, el modelo pueda aprender rápida y fácilmente.

El Ingrediente Secreto: El "Empujón Mágico"

Dado que a los autores no se les permite mirar datos antiguos, están trabajando con información muy limitada (solo una línea recta entre el modelo antiguo y el nuevo). Para solucionar esto, introducen un "Vector de Perturbación" (un pequeño empujón aleatorio controlado).

Analogía: Imagina que caminas en línea recta, pero sientes que estás golpeando una pared. Das un pequeño paso calculado hacia un lado (no un tropiezo aleatorio, sino un paso deliberado) para ver si hay un camino mejor.
Por qué: Esto le da al modelo un poco de "margen de maniobra" para encontrar un lugar mejor sin necesidad de recordar todo el historial.

Los Resultados

Los autores probaron a este "Chef" (el modelo) en varios desafíos culinarios difíciles (conjuntos de datos como CIFAR100, ImageNet-R y Stanford Cars).

El Resultado: TRM superó consistentemente a los otros métodos.
La Puntuación: En la prueba más difícil (ImageNet-R con 20 tareas), TRM logró una precisión del 82.7%, mientras que el siguiente mejor método solo obtuvo un 79.3%.
La Eficiencia: Lo hizo sin necesitar una nevera gigante (sin datos almacenados) y sin tardar mucho más en cocinar (entrenar) que los otros métodos.

Resumen

El artículo argumenta que simplemente promediar dos modelos de IA juntos destruye su capacidad para aprender cosas nuevas más adelante. Al utilizar tres reglas específicas para verificar el sabor, la estructura y el "motor" del modelo, y al dar un pequeño paso calculado hacia un lado, los autores crearon una forma de fusionar modelos que los mantiene afilados, estables y listos para lo que venga a continuación, todo sin acumular datos antiguos.

Resumen Técnico: Revitalizando el Inicio: Evitando la Dependencia de Almacenamiento para la Fusión de Modelos en el Aprendizaje Continuo

1. Declaración del Problema

El Aprendizaje Continuo (CL) tiene como objetivo permitir que los modelos adquieran nuevos conocimientos de forma secuencial sin olvidar catastróficamente. Aunque la Fusión de Modelos ha surgido como un paradigma libre de entrenamiento para integrar conocimientos especializados en un modelo multi-tarea unificado, los métodos existentes enfrentan un conflicto crítico con las estrictas restricciones de memoria del CL. La mayoría de las técnicas actuales de fusión (por ejemplo, Model Stock, TIES, MagMax) requieren acceso a todos los vectores de tareas anteriores y al modelo inicial durante la fase de fusión. Esto es funcionalmente equivalente a almacenar todo el conjunto de expertos previos, violando el principio del CL de prohibir la retención de datos o modelos históricos.

Los autores demuestran que, bajo restricciones estrictas de CL —donde solo están disponibles el experto actual y el modelo fusionado inmediatamente anterior—, los métodos existentes sufren una degradación catastrófica del rendimiento (hasta un 6%). A través de experimentos diagnósticos, el artículo identifica tres causas raíz de este fracaso:

Convergencia Local Subóptima: Los métodos existentes priorizan la alineación global, causando que los modelos fusionados residan en regímenes de alta pérdida, lejos de las cuencas óptimas de las tareas individuales, lo que lleva a la acumulación de errores específicos de la tarea.
Alteración de la Representación Semántica Estructural: La fusión lineal rompe las delicadas dependencias funcionales entre las capas, causando una deriva semántica significativa, particularmente en capas más profundas donde se codifican las semánticas específicas de la tarea.
Pérdida de Plasticidad de Optimización: Los modelos fusionados a menudo exhiben un "endurecimiento direccional", donde la desviación angular del gradiente se minimiza. Esto indica que el modelo está atrapado en regiones patológicamente planas del paisaje de pérdida, resultando en gradientes que desaparecen y una incapacidad para adaptarse a tareas posteriores.

2. Metodología: Fusión Regularizada por Trayectoria (TRM)

Para abordar estas limitaciones sin almacenar datos históricos, los autores proponen la Fusión Regularizada por Trayectoria (TRM). Este marco reformula la fase de fusión como un problema de optimización guiada dentro de un subespacio de trayectoria aumentado.

Construcción del Subespacio Aumentado:
En lugar de buscar una solución únicamente dentro del span lineal 1D del vector de la tarea actual ( $\tau_t$ ) y el vector de la tarea anterior ( $\tau_{t-1}$ ), TRM introduce un vector de perturbación $P$ ortogonal al span de estos vectores. Esta expansión compensa la información perdida debido a las restricciones de almacenamiento, permitiendo que la búsqueda explore regiones más elásticas del espacio de parámetros no convexo. El vector de tarea fusionado se formula como:
$\tau_{mrg}^t(\alpha, \beta) = \alpha \cdot \tau_t + (1-\alpha) \cdot \tau_{t-1} + \beta \cdot P$
donde $\alpha$ y $\beta$ son coeficientes de interpolación y expansión, respectivamente.

Señal de Supervisión Multi-Objetivo:
Para identificar los coeficientes óptimos $\{\alpha, \beta\}$ , TRM optimiza una función objetivo unificada compuesta por tres restricciones sinérgicas:

Alineación de Tareas ( $L_{align}$ ): Minimiza el riesgo empírico (pérdida de entropía cruzada) en la tarea actual. Esto asegura que el modelo fusionado permanezca anclado a la última experiencia, evitando el desplazamiento de las cuencas locales de alta precisión.
Consistencia de Predicción ( $L_{pre}$ ): Minimiza la distancia L2 capa por capa entre las representaciones ocultas del modelo fusionado y el centroide funcional del modelo ajustado actualmente y el modelo consolidado anterior. Se aplica un esquema de ponderación progresiva, priorizando las capas superiores donde residen las semánticas específicas de la tarea, para evitar la deriva semántica estructural.
Respuesta del Gradiente ( $L_{res}$ ): Maximiza la norma al cuadrado del gradiente en la tarea actual. Basado en la observación de que existen superposiciones de características de bajo nivel entre tareas secuenciales, maximizar la norma del gradiente en la tarea actual reactiva la respuesta cinética del modelo, asegurando que no quede atrapado en regiones planas y mantenga la plasticidad para futuras tareas.

La pérdida total se define como $L_{total} = L_{align} + \lambda_1 L_{pre} + \lambda_2 L_{res}$ . Además, para evitar una convergencia temprana a óptimos locales durante la búsqueda, la inicialización implica un cruce estocástico de parámetros de los modelos anterior y actual.

3. Contribuciones Clave

El artículo describe cuatro contribuciones principales:

Identificación de Limitaciones: Destaca que los métodos existentes de fusión de modelos no se adhieren plenamente a los principios del CL y sufren una degradación significativa del rendimiento cuando se prohíbe el almacenamiento de conocimientos.
Análisis Teórico: Analiza las causas de esta brecha (pérdida de optimalidad local, deriva semántica y pérdida de plasticidad) y reformula la fusión como un problema de búsqueda de un punto óptimo dentro de un subespacio de trayectoria aumentado ortogonalmente.
Marco Novel: Propone TRM, un método guiado por tres restricciones (alineación de tareas, consistencia de predicción y respuesta del gradiente) para armonizar la estabilidad histórica con la plasticidad futura sin depender de modelos almacenados o replay de datos.
Validación Empírica: Demuestra un rendimiento de última generación en múltiples benchmarks bajo restricciones estrictas de CL.

4. Resultados Experimentales

Los autores evaluaron TRM en tres conjuntos de datos: CIFAR100, ImageNet-R y Stanford Cars, utilizando aprendizaje incremental por clases (CIL) con diferentes números de tareas (5, 10 y 20). El backbone utilizado fue CLIP ViT-B/16.

Rendimiento: TRM logró resultados de última generación en la mayoría de los escenarios. En ImageNet-R, superó a los métodos SOTA anteriores por márgenes de 1.4% a 3.4% en 5, 10 y 20 tareas. En CIFAR100, mejoró al SOTA anterior en un 3.1% (5 tareas) y un 1.5% (10 tareas).
Estudios de Ablación: Eliminar cualquiera de las tres restricciones provocó caídas en el rendimiento, confirmando que la estabilidad (alineación/consistencia) y la plasticidad (respuesta) se refuerzan mutuamente.
Escalabilidad: Los experimentos en la gran escala ImageNet1K (100 tareas) y diferentes backbones (ViT-L/14, ViT-B/16 preentrenado en LAION) confirmaron la robustez y escalabilidad del método.
Eficiencia: Aunque TRM introduce un ligero aumento en el tiempo de entrenamiento en comparación con algunas líneas base (por ejemplo, 33 minutos frente a 30 minutos en ImageNet-R), logra ganancias significativas de rendimiento con una sobrecarga mínima.
Estabilidad de Optimización: El análisis de la norma espectral del Hessiano mostró que TRM mantiene una curvatura del paisaje de pérdida moderada y estable, evitando la agudeza patológica asociada con una mala generalización.

5. Significado y Afirmaciones

El artículo afirma que TRM cierra exitosamente la brecha entre los beneficios teóricos de la fusión de modelos y las restricciones prácticas del aprendizaje continuo. Al evitar la necesidad de almacenar vectores de tareas históricos o replay de datos, TRM ofrece una solución escalable y que preserva la privacidad para integrar conocimientos especializados. Los autores afirman que su método mitiga eficazmente el olvido catastrófico en flujos de datos continuos revitalizando el "inicio" de la siguiente fase de entrenamiento, asegurando que el modelo fusionado comience desde un estado que es tanto estable (reteniendo conocimientos previos) como plástico (listo para nueva optimización). El trabajo sugiere que reformular la fusión como una optimización restringida dentro de un subespacio aumentado es un camino viable hacia adelante para el CL, superando las heurísticas simples de interpolación lineal.