🤖 machine learning

Mitigating Negative Flips via Margin Preserving Training

Este artículo propone un nuevo marco de entrenamiento que mitiga los cambios negativos de clasificación en sistemas de clasificación de imágenes en evolución mediante la preservación de los márgenes del modelo original a través de la calibración de logits, empleando al mismo tiempo una destilación focal de doble fuente para mantener una alta precisión tanto en las clases antiguas como en las nuevas.

Autores originales: Simone Ricci, Niccolò Biondi, Federico Pernici, Alberto Del Bimbo

Publicado 2026-08-10

📖 8 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Simone Ricci, Niccolò Biondi, Federico Pernici, Alberto Del Bimbo

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un maestro chef que ha pasado años perfeccionando un menú. Tus clientes saben exactamente qué esperar: el "Tofu Picante" siempre es picante y el "Champiñón Cremoso" siempre es cremoso. Entonces, decides ampliar el menú. Añades nuevos y emocionantes platos como "Sorbete de Fruta del Dragón" y "Helado de Wasabi". Esto suena genial, pero hay un inconveniente. En la prisa por hacer espacio para estos nuevos sabores, accidentalmente retocas la receta de los favoritos de siempre. De repente, el Tofu Picante sabe un poco insípido, o el Champiñón Cremoso tiene un regusto extraño. Tus clientes leales están confundidos e insatisfechos, aunque el nuevo menú sea técnicamente "mejor" sobre el papel. Este es el lucha diaria de la Inteligencia Artificial. A medida que los sistemas de IA aprenden cosas nuevas, a menudo olvidan cómo hacer las cosas antiguas correctamente. En el mundo de la informática, este tipo específico de confusión —donde una IA se vuelve peor en algo que antes hacía bien— se llama un "cambio negativo" (negative flip). Es un error frustrante donde una actualización rompe algo que no estaba roto.

El artículo que vas a leer aborda exactamente este problema. Los investigadores, trabajando con la clasificación de imágenes (enseñar a las computadoras a reconocer fotos de gatos, perros, coches, etc.), notaron que cuando añadían nuevas categorías al cerebro de una IA, las "líneas de decisión" que trazaba entre lo viejo y lo nuevo se volvían demasiado congestionadas. Era como intentar meter a demasiada gente en una habitación pequeña; todos empezaban a chocar entre sí, y la IA se confundía sobre quién era quién. Para solucionar esto, inventaron un nuevo método de entrenamiento llamado Entrenamiento de Preservación de Márgenes (MPT, por sus siglas en inglés). Piensa en esto como una forma ingeniosa de enseñar a la IA a respetar el espacio personal de sus viejos amigos mientras hace sitio para los nuevos. En lugar de simplemente amontonarlo todo, utilizan un "sesgo" especial para mantener seguras las categorías antiguas y un sistema de "doble profesor" para asegurar que las nuevas categorías no se queden atrás. Sus experimentos demuestran que este método logra evitar esos errores molestos en las tareas antiguas, todo mientras aprende las nuevas tan bien como antes.

El Problema: Cuando "Mejor" Significa "Peor"

En el acelerado mundo de la IA, los modelos se actualizan constantemente. Los desarrolladores entrenan una nueva versión de una IA, con la esperanza de que sea más inteligente, más rápida y capaz de reconocer más cosas. Normalmente, esto funciona de maravilla. Pero a veces, sucede algo extraño. Una IA que era perfecta identificando un "Golden Retriever" de repente empieza a llamarlo "Labrador" después de una actualización. O puede que confunda una "señal de Pare" con una "señal de límite de velocidad" cuando no lo hacía antes.

Este fenómeno se llama cambio negativo (negative flip). Es lo opuesto a un "cambio positivo", donde una IA finalmente aprende a reconocer algo que antes hacía mal. Aunque los cambios positivos son el objetivo, los cambios negativos son el costo oculto del progreso. Son particularmente peligrosos porque pueden causar comportamientos impredecibles en sistemas del mundo real, como un coche autónomo que de repente identifica errónegramente una señal de tráfico familiar.

Los investigadores descubrieron que estos cambios negativos ocurren con mayor frecuencia cuando se le pide a la IA que aprenda más clases (categorías). Imagina un salón de clases donde el profesor tiene que distinguir entre 10 estudiantes. Es fácil. Ahora, imagina que entran 100 estudiantes. El profesor tiene que apretarlos a todos en la misma habitación. Para que quepan todos, el "espacio personal" (o margen) entre cada estudiante se reduce. En términos de IA, el "margen" es el búfer de seguridad que el modelo mantiene entre diferentes categorías. Cuando añades nuevas clases, el modelo intenta apretarlo todo para maximizar el espacio para todos, pero esto a menudo empuja las categorías antiguas demasiado cerca del borde, haciendo que sean fáciles de confundir.

La Solución: Manteniendo la Paz con MPT

Los autores proponen un nuevo método llamado Entrenamiento de Preservación de Márgenes (MPT). Su objetivo es simple: actualizar la IA para que aprenda cosas nuevas sin reducir los búferes de seguridad de las cosas que ya conoce.

Abordan esto con dos trucos principales, que trabajan juntos como una máquina bien aceitada:

1. El "Pase VIP" (Pérdida Calibrada por Margen)
Primero, les dan a las nuevas clases un pequeño "adelanto" durante el entrenamiento. Imagina que estás enseñando a una clase de estudiantes. Los estudiantes antiguos (clases antiguas) ya están sentados en sus asientos. Los nuevos estudiantes (clases nuevas) están parados en la puerta. Si simplemente les dices a todos que se sienten, los estudiantes antiguos podrían ser empujados de sus sillas para hacer sitio.

Para evitar esto, los investigadores le dan a los nuevos estudiantes un "pase VIP" (un sesgo de logit positivo). Este pase le dice a la IA: "Oye, estos nuevos tipos son importantes, dales un poco de espacio extra para encontrar sus asientos". Al aumentar artificialmente la confianza para las nuevas clases durante el entrenamiento, la IA se ve obligada a empujar los límites de decisión lejos de las clases antiguas. Esto asegura que las clases antiguas mantengan sus márgenes amplios y seguros, y no se vean apretadas. Es como decirle a la IA: "No te preocupes demasiado por lo nuevo todavía; asegúrate de que lo viejo se mantenga a salvo".

2. El Sistema de "Doble Profesor" (Destilación Focal de Doble Fuente)
Sin embargo, el pase VIP tiene un problema. Si les das a las nuevas clases un adelanto demasiado grande, podrían volverse demasiado confiadas e ignorar las características reales de la imagen, lo que llevaría a errores en las nuevas categorías. La IA podría aprender mal las nuevas clases porque estuvo demasiado ocupada protegiendo a las antiguas.

Para solucionar esto, los investigadores introducen un segundo profesor.

Profesor A (El Modelo Antiguo): Este profesor conoce las clases antiguas perfectamente. Ayuda al nuevo modelo a recordar cómo manejar lo viejo.
Profesor B (Un Modelo Fresco): Este es un modelo completamente nuevo entrenado desde cero con todas las clases (antiguas y nuevas) sin ningún sesgo especial. Sabe cómo manejar las nuevas clases correctamente.

El nuevo modelo aprende de ambos profesores al mismo tiempo. Escucha al Profesor A para mantener seguras las clases antiguas y escucha al Profesor B para asegurarse de no arruinar las nuevas clases. Este enfoque de "doble fuente" garantiza un equilibrio perfecto: las clases antiguas se mantienen seguras y las nuevas clases se aprenden con precisión.

Lo Que Encontraron

Los investigadores probaron su idea en dos conjuntos de datos de imágenes famosos: CIFAR100 (100 categorías de imágenes pequeñas) e ImageNet1K (1,000 categorías de imágenes más grandes y complejas). Compararon su método con varias otras técnicas populares utilizadas para corregir los cambios negativos.

Los resultados fueron prometedores. Su método, MPT, redujo consistentemente el número de cambios negativos.

En CIFAR100, utilizando un modelo ResNet-18 estándar, su mejor versión (MPT-KL) redujo la Tasa de Cambio Negativo (NFR) al 9.26%, comparado con el 14.04% de un modelo sin tratamiento.
En ImageNet1K, la mejora fue aún más clara. La NFR cayó al 6.09%, superando al siguiente mejor método (ELODI) que tenía un 7.61%.

Crucialmente, no solo detuvieron los cambios negativos; tampoco sacrificaron la precisión general. Los modelos siguieron acertando en las cosas nuevas. De hecho, en ImageNet1K, su método de hecho mejoró la tasa de error general en las clases antiguas del 28.40% (sin tratamiento) al 24.68%.

También realizaron un experimento de "qué pasaría si" (un estudio de ablación) para ver qué parte de su receta era el ingrediente secreto. Descubrieron que si eliminaban el "pase VIP" (el sesgo de margen), los cambios negativos volvían a subir. Si eliminaban el sistema de "Doble Profesor", el modelo tenía dificultades con las nuevas clases. Resultó que realmente necesitaban ambas partes trabajando juntas para obtener los mejores resultados.

Visualizando la Magia

Para ver realmente qué estaba pasando, los investigadores crearon un mapa visual de cómo la IA "veía" las imágenes. Transformaron la compleja matemática dentro de la IA en un dibujo simple en 2D.

Sin su método: Los grupos de clases antiguas (como "gatos") y las clases nuevas (como "perros") estaban aplastados entre sí. Las líneas que los separaban eran delgadas y temblorosas. Un "gato" podría cruzar accidentalmente la línea hacia la zona de los "perros".
Con su método: Las clases antiguas se mantuvieron en sus propios círculos ordenados y espaciosos. Las nuevas clases encontraron sus propios lugares sin amontonarse con las antiguas. Las "líneas de decisión" permanecieron anchas y claras, tal como estaban en el modelo original.

La Conclusión

Este artículo sugiere que la clave para actualizar la IA sin romperla reside en respetar el "espacio personal" de lo que ya sabe. Al preservar explícitamente los márgenes de decisión de las clases antiguas y utilizar un sistema inteligente de doble profesor para guiar el aprendizaje de las nuevas, podemos actualizar los modelos de IA de forma más segura.

Los autores señalan que su método requiere entrenar un modelo de "referencia" adicional, lo que consume un poco más de potencia de cómputo, pero sigue siendo mucho más barato que otros métodos complejos que requieren grupos de modelos. También enfatizan que la fuerza del "pase VIP" (el valor del sesgo) debe ajustarse cuidadosamente para diferentes conjuntos de datos.

En resumen, MPT ofrece una forma de expandir el cerebro de una IA sin reducir su memoria. Es un paso hacia sistemas de IA que pueden aprender continuamente, adaptándose a nuevos mundos sin olvidar las lecciones del pasado.

Resumen Técnico: Mitigación de los Volteos Negativos mediante el Entrenamiento de Preservación de Margen

Definición del Problema
El artículo aborda el fenómeno de los "volteos negativos" (negative flips) en sistemas de aprendizaje automático, definidos como instancias donde un modelo actualizado clasifica erróneamente muestras de prueba que fueron clasificadas correctamente por una versión anterior. Aunque las actualizaciones de modelos suelen tener como objetivo reducir las tasas de error general o incorporar nuevos datos, con frecuencia introducen regresiones en casos específicos. Este problema es particularmente pronunciado en tareas de clasificación de imágenes donde el número de clases de entrenamiento aumenta con el tiempo. Los autores argumentan que la adición de nuevas categorías reduce el margen de decisión entre clases adyacentes e introduce características interferentes, lo que conduce a una transferencia negativa. En consecuencia, incluso las predicciones de alta confianza en clases aprendidas previamente pueden volverse incorrectas debido a los desplazamientos en los límites de decisión, lo que interrumpe los procesos de downstream y la confianza del usuario.

Metodología: Entrenamiento de Preservación de Margen (MPT)
La solución propuesta, el Entrenamiento de Preservación de Margen (MPT, por sus siglas en inglés), consta de dos componentes primarios diseñados para equilibrar la preservación del rendimiento de las clases antiguas con el aprendizaje de las nuevas clases:

Pérdida de Entropía Cruzada de Softmax Calibrada por Margen:
Para contrarrestar la reducción natural de los márgenes cuando se introducen nuevas clases, los autores introducen un término de sesgo de logit ( $\Delta_i$ ) exclusivamente para las clases recién introducidas ( $Y_{new}$ ).

Se aplica un sesgo positivo $k > 0$ a los logits de las nuevas clases durante el entrenamiento.
Esto actúa como un prior explícito que inclina los límites de decisión para favorecer a las clases aprendidas previamente ( $Y_{old}$ ), preservando efectivamente sus márgenes de decisión originales.
Durante la inferencia, este sesgo se elimina. Debido a que el modelo fue entrenado sin el sesgo para las clases antiguas, se le obliga a aprender márgenes de decisión más amplios y robustos para compensar la falta del prior artificial.
La función de pérdida se define como $L_\Delta = -\log \frac{e^{z_y + \Delta_y}}{\sum_{i=1}^C e^{z_i + \Delta_i}}$ , donde $\Delta_i = k$ si $i \in Y_{new}$ y $0$ en caso contrario.

Destilación Focal de Doble Fuente:
Los autores señalan que la pérdida calibrada por margen por sí sola puede conducir al subajuste (underfitting) de las nuevas clases debido al sesgo inducido. Para abordar esto, proponen una estrategia de destilación que aprovecha dos modelos de referencia:

$\phi_{old}$ : El modelo original entrenado en $Y_{old}$ .
$\phi_{new}$ : Un nuevo modelo entrenado de forma independiente en el conjunto completo de clases ( $Y_{all}$ ) utilizando entropía cruzada estándar.
El modelo estudiante se entrena utilizando una pérdida de destilación focal ( $L_{FD}$ ) que transfiere conocimiento de ambas referencias. Esta pérdida enfatiza selectivamente las instancias clasificadas correctamente por los modelos de referencia, utilizando la divergencia de Kullback-Leibler (KL) o el Emparejamiento de Logits (LM) como métrica de distancia.
El objetivo final combina la pérdida calibrada por margen con los términos de destilación: $\min_\phi L_\Delta + \lambda L_{FD}(\phi, \phi_{old}) + \lambda L_{FD}(\phi, \phi_{new})$ .

Contribuciones Clave

Enfoque Novedoso: El artículo introduce MPT, un método que se enfoca explícitamente en preservar los márgenes de decisión para las clases aprendidas previamente durante las actualizaciones incrementales para mitigar los volteos negativos.
Destilación Focal de Doble Fuente: Se propone una estrategia para contrarrestar el potencial subajuste de las nuevas clases causado por la calibración de margen, utilizando el conocimiento tanto del modelo antiguo como de un modelo independiente recién entrenado para asegurar un rendimiento equilibrado.
Validación Empírica: Experimentos extensos demuestran que el método reduce consistentemente las tasas de volteo negativo mientras mantiene o mejora la precisión general.

Resultados Experimentales
Los autores evaluaron MPT en los conjuntos de datos CIFAR100 e ImageNet1K utilizando arquitecturas ResNet-18 y ResNet-50, así como un ViT-B/32 ajustado (fine-tuned) en CIFAR100.

Tasa de Volteo Negativo (NFR): Las variantes de MPT (MPT-KL y MPT-LM) lograron consistentemente la NFR más baja en comparación con las líneas base, incluyendo las variantes de Entrenamiento Congruente Positivo (PCT) y ELODI (un método de destilación basado en ensambles).
Precisión General: El método mantuvo tasas de error (ER) competitivas tanto en las clases antiguas como en las nuevas. En escenarios donde el nuevo modelo utilizaba una arquitectura más potente (ResNet-50 vs. ResNet-18), MPT aun así superó a las líneas base en la reducción de volteos negativos sin sacrificar la precisión general.
Análisis Cualitativo: La visualización de los espacios de incrustación (embeddings) mostró que, mientras las actualizaciones estándar ("No Treatment") causaban que los grupos de clases derivaran e intersectaran (reducción de margen), MPT mantuvo con éxito la separación de las clases antiguas mientras acomodaba adecuadamente las nuevas clases.
Estudios de Ablación: Eliminar la calibración de margen o la destilación de doble fuente resultó en tasas de volteo negativo más altas o en una reducción de la precisión en las nuevas clases, confirmando la necesidad de ambos componentes.

Significancia y Reivindicaciones
El artículo afirma que los enfoques existentes para reducir los volteos negativos a menudo pasan por alto la reducción progresiva de los márgenes de clase a medida que se añaden nuevas categorías. Al preservar explícitamente estos márgenes mediante el sesgo de logit y equilibrar el proceso de aprendizaje mediante la destilación de doble fuente, MPT ofrece una alternativa computacionalmente eficiente a los métodos de ensamble (que requieren múltiples modelos en la inferencia) al tiempo que logra un rendimiento superior en la prevención de la regresión. Los autores posicionan su trabajo como el primero en abordar sistemáticamente la preservación del margen de decisión específicamente para la reducción de los volteos negativos en entornos de aprendizaje incremental. Reconocen que el método requiere entrenar un modelo de referencia adicional y ajustar el parámetro de sesgo de margen $k$ , pero afirman que la carga computacional es modesta en comparación con los enfoques basados en ensambles.

El Problema: Cuando "Mejor" Significa "Peor"

La Solución: Manteniendo la Paz con MPT

Lo Que Encontraron

Visualizando la Magia

La Conclusión

Más como este