Resumen Técnico: Coincidencia de Puntuación de Desruido Guiada por Curtosis para Detección de Anomalías en Datos Tabulares

Enunciado del Problema

La detección de anomalías en datos tabulares requiere identificar observaciones que se desvían de la distribución esperada. Aunque la Coincidencia de Puntuación de Desruido (DSM, por sus siglas en inglés) ofrece un marco potente para modelar distribuciones de alta dimensionalidad aprendiendo la función de puntuación (el gradiente de la densidad logarítmica), enfrenta un desafío práctico crítico: la selección de la escala de ruido.

El DSM estándar depende de una única escala de ruido fija ($\sigma$) aplicada globalmente a todas las características. Esto crea una compensación:

• Demasiado poco ruido: Las estimaciones de puntuación aprendidas son inestables en regiones dispersas, fallando en capturar la estructura donde residen típicamente las anomalías.
• Demasiado ruido: La perturbación borra la estructura local, suavizando las distinciones entre muestras normales y anómalas y debilitando la sensibilidad.

Las soluciones existentes, como la Coincidencia de Puntuación Multi-Escala (MSM) o las Redes de Puntuación Condicionadas al Ruido (NCSN), intentan resolver esto entrenando modelos a través de múltiples escalas de ruido. Sin embargo, estos enfoques introducen una sobrecarga computacional significativa, requieren una selección compleja de ruido en tiempo de inferencia y a menudo no superan a las líneas base más simples cuando las arquitecturas no están cuidadosamente ajustadas. Además, en entornos completamente no supervisados (contaminados) donde los datos de entrenamiento contienen anomalías, el DSM estándar falla porque el objetivo de desruido enseña explícitamente al modelo a asignar normas de puntuación bajas a los contaminantes.

Metodología

Los autores proponen K-DSM (Coincidencia de Puntuación de Desruido Guiada por Curtosis), un método que reemplaza la escala de ruido global con una estrategia de escalado de ruido por característica adaptativa a los datos.

1. Perturbación por Característica

En lugar de aplicar un $\sigma$ global, K-DSM emplea una matriz de covarianza de ruido diagonal $\Sigma = \text{diag}(\sigma_1^2, \dots, \sigma_d^2)$. La función objetivo se modifica para predecir el ruido de varianza unitaria $\varepsilon$ en lugar de la puntuación cruda, desacoplando la contribución del gradiente de la escala de ruido:
$$\mathcal{L}_{\text{por-característica}}^{\text{DSM}}(\theta) = \frac{1}{2} \mathbb{E}_{x \sim p_{\text{datos}}} \mathbb{E}_{\tilde{x} \sim \mathcal{N}(x, \Sigma)} \left[ \| s_\theta(\tilde{x}) + \Sigma^{-1/2}(\tilde{x} - x) \|_2^2 \right]$$
Esto asegura que las características con escalas de ruido más pequeñas no dominen la función de pérdida.

2. Escalado de Ruido Guiado por Curtosis

La innovación central es determinar $\sigma_j$ para cada característica $j$ basándose en la forma estadística de su distribución marginal. Los autores utilizan la curtosis (el cuarto momento estandarizado) como un proxy para la extremidad de las colas.

• Racional: Las distribuciones de colas ligeras o planas (baja curtosis) ya cubren su soporte efectivo y requieren perturbaciones más pequeñas. Las distribuciones de colas pesadas o fuertemente concentradas (alta curtosis) dejan el espacio circundante subrepresentado y requieren perturbaciones más grandes para exponer a la red a regiones de baja densidad.
• Reordenamiento de Histograma: Para asegurar que la curtosis refleje el peso de la cola en lugar de artefactos como la asimetría o la bimodalidad, los autores aplican un reordenamiento simétrico decreciente del histograma antes de calcular la curtosis. Este paso simetriza la distribución empírica alrededor de su modo dominante, aislando la tasa de decaimiento desde el pico hasta las colas.
• La Regla de Escalado: La escala de ruido se calcula mediante una regla afín derivada de la expansión de Cornish–Fisher:
  $$\sigma_j = \sigma_{\text{base}} \cdot (1 + c \cdot (\kappa_j^* - 3))$$
  donde $\kappa_j^*$ es la curtosis de la $j$-ésima característica reordenada, $\sigma_{\text{base}}$ es un hiperparámetro global y $c$ es un coeficiente de sensibilidad (establecido empíricamente en 0.33). El resultado se recorta a un rango válido $[\sigma_{\min}, \sigma_{\max}]$.

3. Justificación Teórica

El artículo demuestra que para distribuciones unimodales simétricas, el radio de la cola (la distancia que un punto de entrenamiento debe ser desplazado para alcanzar una probabilidad de cola específica) es estrictamente creciente con la curtosis. En consecuencia, se muestra que la regla afín en la Ecuación (5) es la escala de ruido óptima de primer orden única para la cobertura de colas, proporcionando una alternativa fundamentada al ajuste heurístico.

4. Extensión No Supervisada (Filtrado con Maestro EMA)

Para abordar el escenario "contaminado" donde los datos de entrenamiento contienen anomalías, los autores introducen un mecanismo de filtrado ligero. Mantienen un Promedio Móvil Exponencial (EMA) de los pesos del modelo en línea (un "maestro"). Durante el entrenamiento, las muestras con una norma de puntuación alta según el maestro se identifican como contaminantes probables y se descartan de la actualización del gradiente. Esto evita que el modelo aprenda a asignar puntuaciones de anomalía bajas a los propios contaminantes.

Contribuciones Clave

1. Reevaluación del DSM de Escala Única: Los autores demuestran que un modelo DSM de escala única, cuando está equipado con una arquitectura MLP moderna (tipo ResNet), ya supera a los métodos multi-escala (MSM) y a otras líneas base profundas (DTE, SLAD) en los puntos de referencia tabulares. Esto desafía la suposición predominante de que el condicionamiento multi-escala es estrictamente necesario para una detección de anomalías basada en puntuación efectiva.
2. K-DSM con Garantías Teóricas: La propuesta de una regla de escalado de ruido por característica basada en la curtosis marginal, respaldada por una demostración de que el mapeo afín es la solución óptima de primer orden única para la cobertura de colas.
3. Rendimiento del Estado del Arte: K-DSM logra la mejor AUC-PR media (0.627) en ADBench (57 conjuntos de datos) en el escenario semi-supervisado, superando a la mejor línea base anterior (0.594).
4. Detección No Supervisada Robusta: Al combinar K-DSM con la regla de filtrado EMA-maestro, el método logra un rendimiento del estado del arte (0.343 de AUC-PR media) en el escenario completamente no supervisado (contaminado), recuperando significativamente el rendimiento perdido debido a la contaminación de los datos.
5. Eficiencia: A diferencia de los enfoques multi-escala que requieren inferencia en múltiples niveles de ruido, K-DSM mantiene la velocidad de inferencia de una sola pasada hacia adelante, haciéndolo significativamente más rápido que MSM y DDAE.

Resultados Experimentales

• Escenario Semi-Supervisado (Datos de Entrenamiento Limpios): En ADBench, K-DSM logra una AUC-PR media de 0.627, superando a la línea base subcampeona (0.594) y a la línea base DSM de escala única (0.584). El método también es robusto ante la elección de la escala de ruido base $\sigma_{\text{base}}$, mientras que el DSM estándar es altamente sensible a este hiperparámetro.
• Escenario No Supervisado (Datos de Entrenamiento Contaminados): El DSM estándar y K-DSM colapsan en este escenario (caiendo a ~0.188 de AUC-PR) porque aprenden a tratar las anomalías como normales. La extensión EMA-maestro restaura el rendimiento, elevando K-DSM-EMA a 0.343 de AUC-PR, el mejor resultado entre 14 métodos comparados.
• Puntos de Referencia de Imágenes: En MVTec-AD y VisA (usando incrustaciones DINOv3), K-DSM es competitivo pero no domina. Los autores notan que esto es esperado porque las características de visión profunda estandarizadas son aproximadamente gaussianas por coordenada, lo que hace ineficaz el escalado basado en curtosis (ya que $\kappa \approx 3$). Esto delimita el régimen de validez del método: destaca donde existe heterogeneidad de colas marginales.
• Velocidad de Inferencia: K-DSM es el método de aprendizaje profundo más rápido en inferencia, requiriendo solo una sola pasada hacia adelante (~0.02–0.03s por conjunto de datos), en comparación con segundos para métodos multi-escala o basados en difusión.

Significado y Afirmaciones

El artículo argumenta que el desafío de larga data de la selección de la escala de ruido en DSM puede abordarse sin recurrir a modelos multi-escala computacionalmente costosos. Al adaptar el nivel de ruido a la geometría intrínseca de la distribución de cada característica, K-DSM mejora la cobertura de regiones de baja densidad mientras preserva la sensibilidad en áreas de alta densidad.

Los autores afirman que un escalado de ruido cuidadoso y adaptativo a los datos combinado con una receta de entrenamiento robusta a la contaminación ofrece una alternativa práctica, escalable y del estado del arte a los enfoques de ensemble o multi-escala más pesados para la detección de anomalías en datos tabulares del mundo real. El método reduce la dependencia del ajuste de hiperparámetros y conjuntos de validación, haciéndolo adecuado para escenarios donde las anomalías son desconocidas y los datos son escasos o contaminados.

Limitaciones Reconocidas:

• La ventaja del método disminuye cuando las características se estandarizan a márginales cercanas a la gaussiana (por ejemplo, incrustaciones de visión profunda), ya que la regla de curtosis colapsa a una única escala.
• En el escenario no supervisado, el filtro EMA-maestro depende de un corte de percentil fijo, asumiendo implícitamente que la tasa de contaminación está por debajo de cierto umbral (por ejemplo, <20%). El rendimiento se degrada si las tasas de contaminación son extremadamente altas.