Robust Fine-Tuning from Non-Robust Pretrained Models: Mitigating Suboptimal Transfer With Epsilon-Scheduling

Este artículo propone la técnica de programación de épsilon (Epsilon-Scheduling) para mitigar la transferencia subóptima y mejorar la robustez esperada al realizar un ajuste fino robusto a partir de modelos preentrenados no robustos, evitando así el bloqueo de la adaptación a la tarea en las etapas iniciales del entrenamiento.

Lo esencial

¡Claro que sí! Imagina que tienes un chef experto (el modelo pre-entrenado) que ha pasado años cocinando en una cocina muy segura, sin que nadie le lance tomates ni le cambie los ingredientes a propósito. Este chef sabe hacer platos deliciosos (tiene alta precisión) y es muy rápido.

Sin embargo, en el mundo real, a veces los clientes son traviesos: intentan estropear el plato añadiendo un poco de sal extra, cambiando el orden de los ingredientes o lanzando pequeños objetos al aire (esto son los ataques adversarios).

El problema que resuelve este paper es el siguiente:

1. El Problema: "El Chef se Confunde"

Cuando intentamos entrenar a este chef experto para que sea invulnerable a los trucos de los clientes traviesos, hacemos algo que parece lógico: le decimos, "¡Oye, practica cocinando mientras te lanzo tomates!" (esto es el Ajuste Robusto o Robust Fine-Tuning).

Pero, ¡pasa algo extraño!

• Si el chef nunca ha visto tomates volando antes (porque su entrenamiento original no fue "robusto"), al intentar practicar con tomates desde el primer día, se paraliza.
• Se olvida de cómo cocinar el plato original.
• Al final, el chef es tan malo cocinando el plato normal que ni siquiera sirve para la cocina segura, y tampoco es muy bueno defendiéndose de los tomates.
• Los autores llaman a esto "Transferencia Subóptima": el chef era bueno, pero al intentar hacerlo "a prueba de balas", terminó siendo mediocre en todo.

2. La Solución: "El Entrenamiento Progresivo" (Epsilon-Scheduling)

En lugar de tirar tomates al chef desde el primer segundo, los autores proponen una estrategia inteligente llamada Programación de Épsilon (o Epsilon-Scheduling).

Imagina que es un entrenador deportivo muy sabio:

1. Fase de Calentamiento (Días 1-15): El entrenador deja que el chef cocine en paz, sin ningún tomate. El chef recupera su ritmo, se adapta a la nueva receta y vuelve a ser un maestro.
2. Fase de Aceleración (Días 16-30): El entrenador empieza a lanzar tomates muy pequeños, casi imperceptibles. El chef empieza a aprender a defenderse, pero como ya sabe cocinar bien, no se confunde.
3. Fase de Intensidad (Días 31-50): Ahora el entrenador lanza tomates grandes y fuertes. Como el chef ya tiene la base sólida y ha practicado con los pequeños, logra defenderse sin perder su habilidad culinaria.

La analogía clave: Es como aprender a andar en bicicleta. Si te subes a una bici y alguien te empuja fuerte desde el primer segundo, te caerás y te asustarás. Pero si primero te empujas suavemente, luego un poco más fuerte, y finalmente a toda velocidad, aprenderás a mantener el equilibrio sin olvidar cómo pedalear.

3. La Nueva Medida: "La Resistencia Promedio"

Antes, los expertos solo miraban dos cosas:

• ¿Qué tan bien cocina el chef si nadie le molesta? (Precisión limpia).
• ¿Qué tan bien cocina si le lanzan un tomate gigante? (Precisión robusta).

Los autores dicen: "¡Eso no es justo! A veces el cliente lanza un tomate pequeño, a veces uno mediano".
Proponen una nueva medida llamada Robustez Esperada. Imagina que es como calcular el promedio de rendimiento del chef ante todos los niveles de molestia posibles, desde cero hasta el máximo. Así, podemos ver si el chef es realmente equilibrado o si solo es bueno en extremos.

¿Qué descubrieron?

• El viejo método fallaba: Intentar hacer al chef "a prueba de balas" desde el principio arruinaba su talento original, especialmente en tareas difíciles.
• El nuevo método funciona: Usando el entrenamiento progresivo (primero paz, luego molestias pequeñas, luego grandes), el chef logra ser excelente cocinando y muy bueno defendiéndose al mismo tiempo.
• Funciona con todos: Esto funciona tanto con chefs expertos en aves (modelos ViT) como en perros (modelos Swin), y en recetas fáciles o muy complicadas.

En resumen

El papel nos enseña que la paciencia es la clave. No puedes forzar a un modelo inteligente a ser robusto de la noche a la mañana si no ha sido entrenado para eso. Si le das tiempo para adaptarse primero y luego le introduces los desafíos poco a poco, obtendrás un modelo que es tanto inteligente como resistente, sin sacrificar su inteligencia original.

¡Es como decir: "Primero aprende a caminar, luego a correr, y al final, a correr mientras te lanzan piedras"!

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo en español:

Resumen Técnico: Ajuste Fino Robusto desde Modelos Pre-entrenados No Robustos

Título: Robust Fine-Tuning from Non-Robust Pre-Trained Models: Mitigating Suboptimal Transfer with Epsilon-Scheduling
Autores: Jonas Ngnawé, Maxime Heuillet, et al.
Publicación: ICLR 2026

1. El Problema: Transferencia Subóptima en el Ajuste Fino Robusto (RFT)

El ajuste fino (fine-tuning) de modelos pre-entrenados es el estándar en el aprendizaje automático moderno. Sin embargo, en aplicaciones de alto riesgo, la vulnerabilidad a ejemplos adversarios es una preocupación crítica. La mayoría de los enfoques actuales de Ajuste Fino Robusto (RFT) asumen que el modelo base (backbone) pre-entrenado ya es robusto.

En la práctica, la gran mayoría de los modelos pre-entrenados disponibles en repositorios de código abierto (como Hugging Face) no son robustos. El artículo identifica un vacío de conocimiento: ¿qué sucede cuando se intenta realizar un RFT utilizando modelos no robustos?

Los autores descubren un fenómeno que denominan Transferencia Subóptima:

• Al aplicar un objetivo robusto (entrenamiento adversarial) desde el inicio del ajuste fino en un modelo no robusto, el rendimiento en datos limpios (clean accuracy) cae drásticamente, a menudo por debajo del nivel de un ajuste fino estándar (sin perturbaciones).
• En escenarios difíciles (tareas complejas o perturbaciones fuertes), el rendimiento puede caer a niveles cercanos al azar, constituyendo un fallo de transferencia.
• Esto ocurre incluso con perturbaciones pequeñas (ej. $\epsilon = 4/255$), lo que sugiere que el enfoque estándar de RFT es incompatible con la adaptación a la tarea cuando se inicia desde una base no robusta.

2. Análisis y Causa Raíz: Retraso en la Adaptación a la Tarea

A través de experimentos exhaustivos, los autores analizan la dinámica de entrenamiento y descubren la causa de la transferencia subóptima:

• Retraso en la Adaptación: En el ajuste fino estándar, el modelo se adapta a la nueva tarea inmediatamente. En el RFT estándar (con perturbación fija $\epsilon_g$ desde el inicio), la restricción de robustez distorsiona las características relevantes para la tarea, impidiendo la adaptación temprana.
• Correlación Negativa: Existe una fuerte correlación entre la duración de este retraso en la adaptación y la severidad de la transferencia subóptima. Cuanto más fuerte es la perturbación inicial, más se retrasa la adaptación y peor es el resultado final.
• Dependencia del Modelo y Tarea: La gravedad del problema varía según el backbone (ej. ViT vs. Swin) y la dificultad de la tarea (ej. clasificación de aviones vs. Caltech), demostrando que la "dificultad" es una propiedad emergente de la interacción modelo-dataset.

3. Metodología Propuesta: Epsilon-Scheduling

Para mitigar este problema, los autores proponen Epsilon-Scheduling, una heurística sencilla pero efectiva que programa la fuerza de la perturbación ($\epsilon$) durante el entrenamiento.

El Algoritmo

En lugar de mantener una perturbación fija $\epsilon_g$ durante todo el entrenamiento (estrategia RFT-fix), Epsilon-Scheduling utiliza un programa lineal de dos bisagras:

1. Fase de Adaptación ($t < T_1$): Se realiza un ajuste fino estándar con $\epsilon = 0$. Esto permite que el modelo se adapte rápidamente a la nueva tarea sin la interferencia de ejemplos adversarios.
2. Fase de Transición ($T_1 \le t < T_2$): La fuerza de la perturbación aumenta linealmente desde $0$ hasta el objetivo $\epsilon_g$.
3. Fase de Robustez ($t \ge T_2$): Se mantiene la perturbación fija en $\epsilon_g$ para refinar la robustez hasta el final del entrenamiento.

Esta estrategia actúa como un aprendizaje curricular, exponiendo primero al modelo a ejemplos fáciles (limpios) y gradualmente introduciendo ejemplos más difíciles (adversarios).

4. Nueva Métrica de Evaluación: Robustez Esperada

Los autores critican las métricas tradicionales que solo evalúan la precisión limpia y la precisión robusta en un umbral fijo, ya que ocultan el comportamiento en perturbaciones intermedias. Proponen la Robustez Esperada (Expected Robustness):

• Definición: Es el valor esperado de la precisión del modelo sobre un rango uniforme de perturbaciones desde $0$ hasta $\epsilon_g$.
• Cálculo: Se calcula como el área bajo la curva (AUC) de precisión frente a la fuerza de la perturbación, normalizada por $\epsilon_g$.
• Ventaja: Proporciona una medida integral del compromiso (trade-off) entre precisión y robustez, capturando mejor el rendimiento bajo amenazas realistas donde las perturbaciones pueden variar en intensidad.

5. Resultados Experimentales

Los experimentos se realizaron en 6 modelos pre-entrenados (incluyendo ViT, Swin, ResNet, ConvNeXt y CLIP) y 5 conjuntos de datos de clasificación de imágenes (CUB, Dogs, Caltech, Cars, Aircraft) bajo dos regímenes de perturbación: moderado ($4/255$) y alto ($8/255$).

Hallazgos Clave:

• Prevención del Fallo: Epsilon-Scheduling previene consistentemente la transferencia subóptima. Mientras que el RFT estándar a menudo falla (precisión limpia < 5% en casos extremos), el método propuesto mantiene una alta precisión limpia.
• Mejora General: En todos los 30 configuraciones probadas (6 modelos $\times$ 5 datasets), Epsilon-Scheduling superó al RFT fijo en términos de Robustez Esperada.
• Rendimiento en Perturbaciones Altas: En el régimen de alta perturbación ($8/255$), el RFT estándar casi siempre falla, mientras que el programador mantiene un rendimiento viable.
• Backbones Robustos: Incluso al aplicar la técnica a modelos pre-entrenados que ya son robustos, Epsilon-Scheduling mejora la precisión limpia, aunque a veces con una ligera reducción en la precisión adversaria en el umbral máximo, resultando en una mayor Robustez Esperada global.
• Análisis de Optimización: El método encuentra un mínimo local diferente en el paisaje de pérdida, logrando minimizar la pérdida limpia (adaptación a la tarea) antes de reducir la pérdida adversaria, algo que el enfoque fijo no logra.

6. Significado e Impacto

Este trabajo es fundamental por varias razones:

1. Viabilidad Práctica: Demuestra que es posible realizar un ajuste fino robusto efectivo utilizando los miles de modelos pre-entrenados no robustos disponibles actualmente, eliminando la necesidad de costosos pre-entrenamientos robustos.
2. Nueva Perspectiva Teórica: Identifica el "retraso en la adaptación a la tarea" como un mecanismo clave detrás del fracaso del RFT en modelos no robustos, abriendo nuevas vías de investigación teórica.
3. Evaluación Mejorada: Introduce la "Robustez Esperada" como una métrica superior para la selección de modelos, evitando la trampa de optimizar solo para un umbral de ataque específico.
4. Simplicidad: La solución propuesta es una heurística simple de programación de hiperparámetros que no requiere cambios arquitectónicos complejos ni costos computacionales adicionales significativos.

En conclusión, el artículo establece que el ajuste fino robusto desde modelos no robustos es posible y efectivo, siempre que se utilice una estrategia de programación de perturbaciones (Epsilon-Scheduling) que priorice la adaptación inicial a la tarea antes de introducir la robustez adversaria.