🤖 machine learning

ReFP-AD: Rectified Flow Preconditioning for Energy-Based Anomaly Detection

ReFP-AD introduce una reparametrización geométrica mediante un flujo rectificado acoplado con transporte óptimo para estabilizar el entrenamiento de Modelos Basados en Energía en espacios de tokens de alta dimensión, logrando un rendimiento de detección de anomalías unificado de vanguardia en los conjuntos de datos MVTec-AD y VisA.

Autores originales: Camile Lendering, Erkut Akdag, Joaquín Figueira, Egor Bondarev

Publicado 2026-08-04

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Camile Lendering, Erkut Akdag, Joaquín Figueira, Egor Bondarev

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un detective intentando detectar una pintura falsa en una galería. Has pasado años estudiando miles de obras maestras genuinas, por lo que sabes exactamente cómo deberían verse las pinceladas, los colores y las texturas. Pero nunca has visto una falsificación. Tu trabajo es entrar en una sala llena de pinturas nuevas y señalar instantáneamente la que no encaja. Este es el desafío de la "detección de anomalías" en el mundo de la inteligencia artificial. La IA necesita aprender qué aspecto tiene lo "normal" sin haber visto nunca un ejemplo "malo".

Para lograr esto, los modelos fundacionales modernos suelen ser como cerebros superinteligentes entrenados con todo el internet. Estos modelos descomponen las imágenes en piezas diminutas llamadas "tokens" y las convierten en largas listas de números (embeddings) que capturan el significado de la imagen. Sin embargo, estas listas de números son desordenadas. Son como una bola de estambre enredada donde algunos hilos están tensos y otros flojos, y todos están anudados entre sí de formas complicadas. Si intentas usar estas listas desordenadas para medir matemáticamente qué tan "extraña" es una nueva imagen, las matemáticas se confunden y se vuelven inestables. Es como intentar caminar por la cuerda floja mientras la cuerda se retuerce constantemente bajo tus pies. Este artículo aborda ese problema específico: cómo desenredar esa cuerda para que la IA pueda detectar las falsificaciones de manera fiable.

El problema de la cuerda enredada

Los investigadores detrás de este artículo, Camile Lendering y su equipo de la Universidad Tecnológica de Eindhoven, notaron un fallo frustrante en la forma en que la IA detecta anomalías. Estaban utilizando un tipo potente de matemática llamada Modelos Basados en Energía (EBM, por sus siglas en inglés). Piensa en un EBM como un paisaje de colinas y valles. Las imágenes "normales" (como una pieza de fábrica perfecta o una hoja sana) se asientan cómodamente en valles profundos y suaves. Las "anomalías" (como un rasguño o un defecto) deberían estar en lo alto de picos irregulares.

El problema es que la IA intentaba explorar este paisaje utilizando un método llamado "dinámica de Langevin", que es básicamente un paseo aleatorio para encontrar el punto más bajo. Pero debido a que los datos provenían de esos modelos fundacionales desordenados y enredados, el paisaje no era un valle suave; era una pesadilla retorcida y anisotrópica (estirada en una dirección). El paseo aleatorio se quedaba atascado, rebotaba contra las paredes o se salía de control. Era como intentar rodar una canica por un tobogán que ha sido arrugado en forma de bola. Los intentos anteriores para solucionar esto consistieron en aplastar los datos en una forma más pequeña y simple, pero eso descartaba demasiado detalle, dejando a la IA ciega ante defectos sutiles.

La solución para enderezar: ReFP-AD

El equipo propuso un nuevo truco ingenioso llamado ReFP-AD (Precondicionamiento de Flujo Rectificado para la Detección de Anomalías). En lugar de intentar forzar a los datos desordenados a comportarse, construyeron un "enderezador geométrico".

Imagina que tienes un papel arrugado con un dibujo. Si intentas medir el dibujo mientras está arrugado, tu regla te dará respuestas incorrectas. ReFP-A es como una máquina mágica que desenrulla suavemente el papel, estirándolo perfectamente plano sin romper el dibujo ni perder nada de la tinta. En términos técnicos, utilizan un "flujo rectificado" (un tipo de mapa matemático) para transformar las listas de tokens desordenadas y de alta dimensión en un espacio latente limpio y bien organizado.

En este nuevo espacio enderezado, las "colinas y valles" del paisaje de anomalías se vuelven suaves y predecibles. Ahora, cuando la IA realiza su paseo aleatorio para encontrar el punto más bajo (los datos normales), se desliza suavemente en lugar de quedarse atascada. Esto permite que la IA utilice todo el detalle rico del modelo fundacional original sin tener que reducirlo a una versión más pequeña y menos precisa.

Lo que encontraron

Los resultados fueron impresionantes. El equipo probó su método en dos importantes conjuntos de datos industriales: MVTec-AD (con 15 categorías de objetos) y VisA (con 12 categorías). Utilizaron un protocolo "unificado" estricto, lo que significa que entrenaron un solo modelo de IA para manejar todos estos objetos diferentes a la vez, en lugar de entrenar un modelo separado para cada uno.

En el conjunto de datos MVTec-AD, ReFP-AD logró un AUROC de Imagen del 98.6% y un AUROC de Píxel del 97.9%.
En el conjunto de datos VisA, obtuvo un 97.3% para imágenes y un 99.0% para píxeles.

Para poner esto en perspectiva, los modelos unificados anteriores que intentaron hacer esto sin el truco de "enderezar" tuvieron dificultades significativas. El artículo señala que ReFP-AD superó a los mejores modelos de referencia basados en energía hasta en un +10.8% en la precisión de detección de imágenes.

Los investigadores realizaron varios experimentos para demostrar que su idea era la clave. Cuando eliminaron el paso de "enderezar" e intentaron entrenar a la IA con los datos brutos y desordenados, el rendimiento cayó drásticamente (bajando al 87.0% en VisA). También descubrieron que, debido a que el espacio estaba ahora tan bien organizado, la IA no necesitaba cientos de pasos para encontrar la respuesta; solo necesitaba unos 20 pasos para lograrlo, mientras que antes habría necesitado muchos más o habría fallado por completo.

Por qué es importante

Este artículo sugiere que el cuello de botella para hacer que la IA sea más inteligente al detectar defectos no es construir cerebros más grandes o modelos más complejos. Se trata de cómo preparamos los datos para que esos modelos piensen. Al arreglar primero la geometría de los datos, los investigadores desbloquearon todo el potencial de los modelos fundacionales existentes.

Aunque el método es actualmente un poco más lento que algunos detectores más simples porque tiene que realizar esta matemática de "enderezado" antes de tomar una decisión, demuestra que podemos construir una IA única y unificada que sea increíblemente buena detectando defectos en muchos tipos diferentes de objetos. Es un paso hacia un futuro donde un solo detective inteligente puede patrullar una fábrica entera, detectando un rasguño en un engranaje metálico y un desgarro en un rollo de tela con el mismo alto nivel de precisión, todo sin necesidad de ver jamás un ejemplo roto para aprender qué es lo "roto".

Resumen Técnico: ReFP-AD

Planteamiento del Problema

La detección de anomalías visuales (VAD) busca identificar desviaciones de una distribución de datos normales sin acceso a ejemplos anómalos durante el entrenamiento. En el entorno unificado, un único modelo debe generalizar a través de diversas categorías de objetos, texturas y variaciones de apariencia. Aunque los modelos fundacionales como DINOv2 proporcionan representaciones de tokens de alta dimensión (por ejemplo, vectores de 1536 dimensiones) que organizan los datos visuales en variedades semánticamente estructuradas, aprovechar estos espacios para la estimación explícita de la densidad sigue siendo un desafío.

Los Modelos Basados en Energía (EBM) ofrecen un marco de trabajo principista para tales tareas al asignar un escalar de energía $E(x)$ a las entradas, donde las anomalías corresponden a estados de alta energía. Sin embargo, entrenar EBMs en espacios de tokens de alta dimensión es notoriamente inestable. Esta inestabilidad se identifica como algo fundamentalmente geométrico más que arquitectónico:

Anisotropía y Correlación: Las distribuciones de tokens de los Transformers son altamente anisotrópicas y exhiben fuertes correlaciones entre dimensiones.
Desajuste Métrico: La dinámica de Langevin estándar (utilizada para el muestreo de ejemplos negativos) asume una métrica euclidiana isotrópica con ruido isotrópico. El desajuste entre este supuesto y la geometría real de los tokens conduce a trayectorias mal condicionadas.
Inestabilidad de Muestreo: Bajo el muestreo de Markov Chain Monte Carlo (MCMC) de pasos finitos (por ejemplo, Divergencia Contrastiva Persistente), este desajuste geomético causa una mezcla lenta, trayectorias oscilatorias de tipo "zig-zag" y fases negativas inestables, lo que a menudo obliga a los métodos previos a comprimir las representaciones en cuellos de botella de baja dimensión para estabilizar el entrenamiento.

Metodología: ReFP-AD

Los autores proponen ReFP-AD (Rectified Flow Preconditioning for Anomaly Detection), un marco que desacopla la geometría de la representación de la estimación de la densidad. En lugar de modificar el modelo de energía o comprimir las características, ReFP-AD aprende una reparametrización geométrica para precondicionar el espacio de muestreo.

1. Representación de Tokens Unificada

El método utiliza un backbone ViT DINOv2 congelado para extraer tokens de parches. Para manejar las disparidades de escala entre categorías en un entorno unificado, los tokens se estandarizan mediante Z-score por categoría utilizando estadísticas de los datos normales de entrenamiento. Esto sirve como un paso de preprocesamiento afín fijo antes de que se apliquen los modelos unificados.

2. Precondicionamiento Geométrico mediante Flujo de Transporte Óptimo

La innovación central es el aprendizaje de un mapa de transporte que reforma la distribución anisotrópica de los tokens en un espacio latente bien condicionado y aproximadamente isotrópico.

Flujo Rectificado (Rectified Flow): Un mapa de transporte de tiempo continuo está parametrizado por una red neuronal $v_\theta(t, x_t)$ , definida por una Ecuación Diferencial Ordinaria (ODE).
Acoplamiento OT: Los tokens de origen $z$ y las variables gaussianas isotrópicas objetivo $u \sim \mathcal{N}(0, \tau^2 I)$ se acoplan mediante un acoplamiento de Transporte Óptimo (OT) entrópico, computado usando iteraciones de Sinkhorn estables en el dominio del logaritmo.
Objetivo de Entrenamiento: El flujo se entrena para minimizar la pérdida de coincidencia entre la velocidad predicha por la red y el vector de interpolación lineal $(u-z)$ .
Validación: Los puntos de control (checkpoints) se seleccionan basándose en diagnósticos de aptitud SGLD (condicionamiento, correlación residual y estabilidad de la cola) computados en un subespacio proyectado, asegurando que el mapa de transporte mejore específicamente el comportamiento de MCMC de pasos finitos sin colapsar la topología de la variedad.

3. EBM sin Restricciones con SGLD Precondicionado

Una vez que los tokens son transportados al espacio latente $u$ , se entrena un Modelo Basado en Energía sin restricciones (un MLP residual).

Entrenamiento: El modelo utiliza Divergencia Contrastiva Persistente (PCD). Los ejemplos negativos se actualizan utilizando Dinámica de Langevin de Gradiente Estocástico Precondicionada (pSGLD). El precondicionador $M_k$ se computa a partir de un promedio móvil de gradientes al cuadrado (estilo RMSProp), adaptándose a la geometría local del paisaje de energía aprendido.
Función de Pérdida: El objetivo minimiza la energía de los ejemplos positivos mientras maximiza la de los ejemplos negativos, con términos de regularización para la magnitud de la energía y la suavidad del gradiente.

4. Puntuación de Anomalía

Durante la inferencia, las puntuaciones de anomalía se derivan directamente del paisaje de energía aprendido. La puntuación de un parche es la norma del gradiente $\|\nabla_u E_\phi(u)\|_2$ , que representa la magnitud de la "fuerza restauradora" necesaria para mover la muestra hacia la variedad normal. Estas puntuaciones de parche se reescalan y suavizan para generar mapas de anomalías a nivel de píxel.

Contribuciones Clave

Diagnóstico Geométrico: El artículo identifica que la inestabilidad de los EBMs de espacio de tokens unificados proviene de la violación de los supuestos de la métrica euclidiana por parte de las distribuciones de tokens anisotrópicos de los modelos fundacionales, más que de las limitaciones de capacidad del modelo.
Reparametrización Geométrica: ReFP-AD introduce una estrategia novedosa utilizando un flujo rectificado acoplado por OT para mapear tokens de visión de alta dimensión en un espacio latente isotrópico. Esto permite un muestreo MCMC de pasos finitos estable sin cuellos de botella arquitectónicos o reducción de dimensionalidad.
Evaluación Unificada: El método es evaluado bajo un protocolo unificado estricto (un único flujo y EBM compartido para todas las categorías) en MVTec-AD y VisA, demostrando que la estimación explícita de la densidad puede superar a las bases de reconstrucción o de similitud cuando la geometría está correctamente condicionada.

Resultados Experimentales

El método fue evaluado en los conjuntos de datos MVTec-AD (15 categorías) y VisA (12 categorías).

Rendimiento: ReFP-AD logra resultados de vanguardia entre los detectores basados en densidad:
- MVTec-AD: 98.6% AUROC de Imagen / 97.9% AUROC de Píxel.
- VisA: 97.3% AUROC de Imagen / 99.0% AUROC de Píxel.
Comparación: Supera a los baselines previos de EBM unificados (por ejemplo, MPDR) por hasta un +10.8% en AUROC de Imagen en VisA. También supera a los principales métodos basados en flujos de normalización (HGAD) en MVTec-AD.
Perspectivas de Ablación:
- Necesidad del Precondicionamiento: Eliminar el flujo rectificado causa una caída significativa en el rendimiento (por ejemplo, el AUROC de Imagen de VisA cae de 97.3% a 87.0%), confirmando que los espacios de tokens brutos no son adecuados para la dinámica de Langevin de pasos finitos.
- Eficiencia de Muestreo: El espacio precondicionado permite una mezcla rápida de MCMC. Se logra un rendimiento estable con tan solo 20 pasos de SGLD, mientras que el SGLD estándar en el espacio original falla en mezclarse efectivamente.
- Unificado vs. Por Categoría: El modelo unificado sigue a los modelos dedicados por categoría por solo un 0.4–0.6%, demostrando la viabilidad de un único modelo para datos heterogéneos.

Significado y Reivindicaciones

El artículo afirma que la principal barrera para escalar los Modelos Basados en Energía a las representaciones fundacionales es la geometría de muestreo, no la capacidad del modelo. Al abordar el desajuste geométrico mediante un mapa de transporte aprendido, ReFP-AD permite:

Entrenamiento Estable de Alta Dimensión: Los EBM pueden entrenarse directamente sobre representaciones de tokens densas y de alta dimensión (1536-D) sin colapsarlas en cuellos de botella de baja dimensión.
Preservación de la Semántica: A diferencia de los métodos que comprimen las características, ReFP-AD preserva la rica información estructurada de los tokens necesaria para una localización precisa y un modelado multicapa.
Principio General: El trabajo sugiere un paradigma general para el modelado basado en la energía: primero condicionar la geometría de la representación, luego aprender la energía.

Los autores reconocen que, si bien el método mejora la robustez de la detección, el requisito de la integración de la ODE (solucionador RK4 de 10 pasos) y la evaluación del gradiente aumenta la latencia de inferencia en comparación con los detectores de alimentación directa o basados en k-NN, lo que lo hace más adecuado para la inspección fuera de línea o escenarios donde el modelado unificado pesa más que las restricciones estrictas de tiempo real.