🤖 machine learning

Contrastive Learning for Interpretable Anomaly Detection at Collider Experiments

El artículo presenta ORCA, un marco de dos etapas que combina el aprendizaje contrastivo supervisado con autoencoders para lograr tanto una mayor sensibilidad como interpretabilidad en la detección de anomalías en colisionadores, mediante el mapeo de eventos en un espacio de incrustación donde las muestras anómalas pueden atribuirse cuantitativamente a procesos físicos conocidos.

Autores originales: Haoyi Jia, Sagar Addepalli, Julia Gonski

Publicado 2026-08-17

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Haoyi Jia, Sagar Addepalli, Julia Gonski

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina el Gran Colisionador de Hadrones (LHC) como el destructor de partículas más potente del mundo. Dispara protones unos contra otros casi a la velocidad de la luz, creando una explosión caótica de nuevas partículas. Los físicos están en busca de la "nueva física": partículas o fuerzas misteriosas que no encajan en nuestro libro de reglas actual, conocido como el Modelo Estándar. El problema es que estas nuevas partículas son como agujas en un pajar, escondidas entre miles de millones de colisiones ordinarias y aburridas. Para encontrarlas, los científicos utilizan la "Detección de Anomalías", algo parecido a un guardia de seguridad en una fiesta que ignora a la multitud habitual y solo detiene a cualquiera que actúe de forma extraña.

Sin embargo, los guardias de seguridad tradicionales tienen dos grandes defectos. Primero, a menudo se confunden por lo ruidosa que sea la fiesta (la energía de la colisión) o por cuántas personas estén bailando (el número de partículas), marcando eventos normales como sospechosos solo porque son energéticos. Segundo, cuando el guardia sí detiene a alguien, no puede explicar por qué. Simplemente dice: "Esta persona es rara", sin decirte si es un espía, un turista perdido o simplemente alguien que lleva un sombrero divertido. Este artículo presenta un sistema de seguridad más inteligente llamado ORCA que no solo detecta mejor a los raros, sino que también explica exactamente qué tipo de rareza presentan.

El Método ORCA: Una historia de detectives en dos pasos

Los autores, Haoyi Jia, Sagar Addepalli y Julia Gonski, proponen un nuevo marco de trabajo llamado ORCA (Organized Representation via Contrastive learning for Anomaly detection). Piensa en ORCA como un proceso de dos pasos diseñado para limpiar el desorden en la fiesta de las partículas antes de que el guardia de seguridad empiece a buscar.

Paso 1: El "Clasificador" (Aprendizaje Contrastivo)
Imagina que tienes una pila gigante de piezas de LEGO mezcladas de diferentes sets: un castillo, una nave espacial y un coche de carreras. Si simplemente las lanzas todas en una caja, es difícil saber qué pieza pertenece a qué set. Los métodos tradicionales intentan reconstruir toda la pila, pero a menudo se confunden con las piezas rojas que se parecen entre todos los sets.

El primer paso de ORCA utiliza una técnica llamada Aprendizaje Contrastivo. Es como un profesor superinteligente que toma las piezas y las clasifica en pilas distintas según su tipo antes de que intentes construir nada. El modelo se entrena con 48 procesos diferentes del Modelo Estándar (la física "conocida"), agrupándolos en 14 categorías como "Bosón de Vector Único" o "Par de Tops". Aprende a alejar las piezas de diferentes sets en un espacio virtual, mientras mantiene las piezas del mismo set cerca unas de otras.

El resultado es un "espacio de incrustación" (embedding space) altamente organizado. En lugar de una pila desordenada de datos brutos, el modelo ahora tiene un mapa ordenado donde cada tipo conocido de evento físico tiene su propio vecindario distintivo. Esto resuelve el primer problema: el modelo deja de confundirse por la pura energía o el número de partículas porque ya ha organizado los datos según qué son las partículas.

Paso 2: El "Guardia de Seguridad" (Autoencoder)
Una vez que los datos están clasificados en estos vecindarios ordenados, entra en juego el segundo paso. Este es un Autoencoder estándar, que actúa como un guardia de seguridad. El guardia es entrenado solo con los eventos de "fondo" (lo aburrido, lo normal). Aprende a reconstruir perfectamente el diseño de los vecindarios normales.

Cuando llega un nuevo evento, el guardia intenta reconstruirlo. Si el evento es normal, el guardia puede reconstruirlo fácilmente. Pero si el evento es una anomalía (una señal de nueva física), no encaja en el patrón de los vecindarios conocidos. El guardia tiene dificultades para reconstruirlo, y el "error de reconstrucción" se vuelve enorme. Esta puntuación de error es la puntuación de anomalía. Debido a que los datos ya fueron clasificados por el primer paso, esta puntuación es mucho más precisa y es menos probable que sea engañada por eventos de alta energía o multitudes.

Lo que encontraron: Mejor detección y una explicación más clara

Los investigadores probaron ORCA en un conjunto de datos simulados de 750 millones de colisiones protón-protón, imitando las condiciones del Gran Colisionador de Hadrones de Alta Luminosidad (HL-LHC). Compararon ORCA con un autoencoder estándar que miraba directamente los datos brutos sin el paso de clasificación.

1. Detección más inteligente
Los resultados mostraron que ORCA es significativamente mejor detectando nueva física. En casi todos los diferentes tipos de señales que probaron, ORCA encontró más anomalías "reales" mientras ignoraba más falsas alarmas. En el lenguaje del artículo, mejoró tanto la "amplitud" (encontrar más tipos de señales) como la "profundidad" (encontrarlas incluso cuando el ruido de fondo era enorme). La única ligera excepción fue una resonancia específica de baja masa, que el modelo todavía trató como algo similar al fondo, pero para casi todo lo demás, el nuevo método fue un claro ganador.

2. El "Por qué" detrás de lo "Raro"
La parte más emocionante del artículo es la interpretabilidad. En el pasado, si un detector marcaba un evento como "raro", los científicos se quedaban con la duda. ¿Era una nueva partícula? ¿Era un fallo?

Con ORCA, debido a que los eventos están clasificados en vecindarios distintos, los científicos ahora pueden mirar el evento "raro" y preguntar: "¿A qué vecindario conocido se parece más esto?". Utilizan una técnica estadística llamada ajuste de plantilla (template fit). Imagina que tienes un invitado misterioso en la fiesta. En lugar de solo decir "es raro", puedes decir: "Este invitado se parece un 80% a un turista perdido del vecindario de 'Par de Tops' y un 20% a un espía del vecindario de 'Di-Higgs'".

El artículo demuestra esto "inyectando" señales falsas de nueva física en los datos. Cuando hicieron esto, ORCA pudo contar con precisión cuántas señales falsas había e identificar correctamente a qué proceso de física conocida se parecían más. Por ejemplo, si inyectaron una señal de "Di-Higgs" pero no le dijeron al modelo que existía, el modelo categorizó correctamente los eventos como parecidos a eventos de "Par de Tops", revelando que el modelo había aprendido la estructura física subyacente (como el número de partículas en el estado final) incluso sin haber sido informado explícitamente.

Conclusión

Este artículo sugiere que, al añadir un paso de "clasificación" antes del paso de "búsqueda", podemos hacer que la detección de anomalías en colisionadores de partículas sea más potente y comprensible. No se trata solo de encontrar la aguja en el pajar; se trata de ser capaces de describir la forma, el color y el origen de la aguja una vez que la encuentras.

Los autores enfatizan que este es un resultado basado en simulaciones. Lo probaron en un conjunto de datos de 750 millones de colisiones simuladas, no en datos reales del LHC todavía. Sin embargo, el marco de trabajo está diseñado para ser modular. El "clasificador" podría sustituirse por una versión más rápida para ejecutarse en los disparadores (triggers) de hardware reales, y el "guardia" podría ser cualquier otro detector de anomalías. Esto abre la puerta a que futuros experimentos en el mundo real no solo encuentren la nueva física, sino que comiencen inmediatamente a comprender qué podría ser.

Resumen Técnico: Representación Organizada mediante Aprendizaje Contrastivo para la detección de Anomalías (ORCA)

Planteamiento del Problema
La detección de anomalías (AD) genérica a nivel de evento en la física de colisionadores enfrenta dos desafíos persistentes:

Interpretabilidad: Los puntajes de anomalía suelen ser difíciles de interpretar físicamente. La comprensión del comportamiento de estos puntajes se limita típicamente al examen de las correlaciones con las entradas cinemáticas puras, y la extracción de la señal requiere a menudo estrechar el análisis a un espacio de fase específico y reducido (por ejemplo, una ventana de masa invariante específica), lo que reduce la generalidad de la búsqueda.
Correlación con la Cinemática: Los puntajes de AD tradicionales suelen correlacionarse fuertamente con las escalas de energía y las multiplicidades de objetos, en lugar de con desviaciones genuinas del Modelo Estándar (SM). Las técnicas basadas en compresión, como los autoencoders estándar entrenados con entradas de bajo nivel, pueden ser sensibles a las características de la población de entrenamiento, lo que conduce a una reconstrucción deficiente de eventos normales o a una buena reconstrucción de anomalías raras debido a la topología del conjunto de datos o a sesgos de interpolación.

Metodología
Los autores proponen ORCA (Representación Organizada mediante Aprendizaje Contrastivo para la detección de Anomalías), un marco de dos etapas diseñado para desacoplar el aprendizaje de una representación informada por la física del mecanismo de puntuación de anomalías.

Etapa 1: Embedding Contrastivo Supervisado
- Arquitectura: El modelo utiliza una red de codificación inspirada en arquitecturas transformer. Procesa eventos de entrada (compuestos por hasta 1-10 jets, 4 electrones, 4 muones, 4 fotones y MET) mapeando cada tipo de objeto a un espacio de embedding común mediante redes dedicadas. Estos tokens de objetos son aumentados con embeddings posicionales y procesados a través de bloques de codificador transformer, seguidos de una capa de pooling de atención de múltiples cabezales para agregar los tokens en un único vector de representación de evento $\vec{r}$ .
- Objetivo de Entrenamiento: El codificador se entrena utilizando una pérdida contrastiva supervisada (tipo InfoNCE) sobre 48 procesos distintos del SM, que se fusionan en 14 grupos de procesos físicos. La pérdida fomenta que los eventos del mismo grupo de procesos se agrupen (alineación) mientras expande las representaciones a través del espacio disponible (uniformidad). Se añade un regularizador de varianza para evitar el colapso representacional.
- Salida: El modelo produce un vector de embedding de 128 dimensiones $\ell_2$ -normalizado. Se utiliza un cabezal de proyección solo durante el entrenamiento para calcular la pérdida contrastiva; las tareas posteriores operan sobre el embedding $\vec{r}$ .
Etapa 2: Detección de Anomalías No Supervisada
- Arquitectura: Un autoencoder estándar se entrena exclusivamente con los embeddings de eventos de fondo (datos de bias mínimo).
- Objetivo de Entrenamiento: El autoencoder minimiza el error cuadrático medio de reconstrucción entre el embedding de entrada y su reconstrucción.
- Puntaje de Anomalía: El puntaje de anomalía para un evento se define como el error cuadrático medio (MSE) entre su embedding estandarizado y la reconstrucción del autoencoder. Dado que el autoencoder aprende a reconstruir únicamente la distribución de fondo, los eventos de procesos disímiles al fondo producen errores de reconstrucción elevados.
Marco de Interpretación
- La naturaleza estructurada del espacio de embedding permite un ajuste de plantilla de máxima verosimilitud. Las dimensiones del embedding se reducen mediante Análisis de Componentes Principales (PCA) y Análisis de Componentes Independientes (ICA).
- Se construyen Funciones de Masa de Probabilidad (PMF) para cada grupo de procesos conocidos en las dimensiones reducidas.
- Se realiza un ajuste de verosimilitud compuesta sobre la distribución de eventos en una muestra anómala para atribuirlos a procesos de plantilla específicos, obteniendo conteos de señal y fondo con incertidumbres cuantificadas (usando un estimador sandwich para verosimilitudes compuestas).

Contribuciones Clave y Resultados
El método fue evaluado en el conjunto de datos COLLIDE-2V, que simula condiciones del LHC de Alta Luminosidad ( $\sqrt{s} = 13.6$ TeV, $\mu=200$ ) con más de 50 procesos distintos del SM.

Mejora de la Sensibilidad:
- En comparación con un autoencoder base entrenado directamente sobre las características de entrada de 110 dimensiones, ORCA demostró ganancias significativas tanto en el Área Bajo la Curva (AUC) como en la Tasa de Verdaderos Positivos (TPR) a una Tasa de Falsos Positivos (FPR) fija de $10^{-4}$ .
- El embedding contrastivo separó con éxito diferentes clases de señal en el espacio latente (visualizado mediante PCA), mientras que el espacio latente del autoencoder base mostró distribuciones amplias y superpuestas.
Interpretabilidad y Atribución de Señal:
- Ajuste de Plantilla: Los autores demostraron que la geometría del embedding permite la descomposición de una muestra anómala en procesos físicos conocidos.
- Pruebas de Retención (Holdout): En pruebas donde un grupo de señal fue excluido del entrenamiento del codificador, el ajuste ciego (sin la plantilla de la señal) categorizó correctamente los eventos inyectados en los procesos conocidos más similares (por ejemplo, los eventos de Di-Higgs fueron categorizados como eventos de Par de Tops en ausencia de una plantilla de Di-Higgs).
- Recuperación de Señal: En pruebas de inyección de señal, el ajuste de embedding contrastivo multidimensional logró una recuperación casi perfecta de los rendimientos inyectados. Este desempeño superó significativamente a:
  - Ajustes realizados sobre el puntaje de anomalía unidimensional (resaltando el valor de la información multidimensional).
  - Ajustes realizados sobre el espacio latente de un autoencoder no supervisado estándar (resaltando el valor del objetivo contrastivo).

Significancia y Reivindicaciones
El artículo afirma que ORCA establece una ruta hacia la detección de anomalías interpretable en colisionadores. Al estructurar el espacio latente mediante aprendizaje contrastivo, el marco:

Mejora la sensibilidad de las búsquedas de AD a nuevas señales de física a través de una amplia gama de procesos.
Transforma la salida de la detección de anomalías de un puntaje único e interpretable en una representación de alta dimensión que porta información física.
Permite el uso de técnicas estadísticas estándar (ajuste de plantillas) para caracterizar muestras anómalas, atribuyéndolas a procesos conocidos o identificándolas como similares a procesos conocidos específicos, incluso si la señal verdadera está ausente de la biblioteca de plantillas.
Ofrece una arquitectura modular donde el codificador y el detector de anomalías pueden optimizarse o reemplazarse de forma independiente (por ejemplo, para entornos de trigger de baja latencia) sin perder la interpretabilidad de los resultados finales.

Los autores enfatizan que este enfoque no requiere estrechar el análisis a un espacio de fase de medición dedicado, preservando así la generalidad de la búsqueda de detección de anomalías al tiempo que proporciona un mecanismo para el análisis estadístico posterior y la reinterpretación de modelos.

El Método ORCA: Una historia de detectives en dos pasos

Lo que encontraron: Mejor detección y una explicación más clara

Conclusión

Resumen Técnico: Representación Organizada mediante Aprendizaje Contrastivo para la detección de Anomalías (ORCA)

Más como este