A converged architecture for processing 32 Tbps of physics data in real-time at the LHCb experiment

Imagina una cámara gigante de alta velocidad que no toma fotos de atardeceres o cachorros, sino de los componentes más diminutos del universo chocando entre sí. Este es el mundo de la física de partículas, donde los científicos utilizan máquinas masivas llamadas colisionadores para disparar partículas unas contra otras miles de millones de veces cada segundo. Cuando estas partículas chocan, crean una explosión caótica de nuevas partículas, como romper un jarrón para ver qué hay dentro. El objetivo es captar un vistazo de algo raro y nuevo oculto en esos escombros. Pero aquí está el truco: la cámara es tan rápida y las colisiones son tan frecuentes que produce una montaña de datos, tantos que llenarían millones de discos duros cada segundo. Si los científicos intentaran guardar cada pieza de información, sus computadoras se derretirían y su almacenamiento se agotaría instantáneamente.

Para resolver esto, los físicos utilizan un "filtro" o un "disparador" (trigger). Piensa en ello como un portero en un club muy exclusivo. El portero tiene que decidir en una fracción de segundo qué colisiones son lo suficientemente interesantes como para conservarlas y cuáles son solo ruido de fondo aburrido para descartar. Durante décadas, estos porteros fueron una mezcla de hardware especializado y software de computadora. Pero a medida que las máquinas se volvieron más rápidas, los viejos porteros no pudieron seguir el ritmo. Eran demasiado lentos y rígidos, y a menudo descartaban eventos interesantes solo porque no se veían como el hardware esperaba que se vieran. La gran pregunta fue: ¿Cómo construimos un filtro que sea lo suficientemente rápido para manejar un flujo de datos, lo suficientemente inteligente para ver el panorama completo y lo suficientemente flexible para cambiar de opinión sobre la marcha?

Este artículo cuenta la historia de cómo el experimento LHCb en el Gran Colisionador de Hadrones resolvió este problema con una actualización masiva. El equipo construyó un nuevo sistema que actúa como una fábrica altamente eficiente y todo en uno. En lugar de utilizar un proceso lento de varios pasos con diferentes equipos encargados de diferentes partes del trabajo, crearon una "arquitectura convergente". Esto significa que combinaron la recolección de datos, la clasificación y el filtrado en un proceso fluido que se ejecuta en potentes tarjetas gráficas (GPU), que suelen encontrarse en las computadoras de videojuegos. Lograron procesar la asombrosa cifra de 32 terabits de datos por segundo en tiempo real. Esa es la tasa de datos más alta jamás manejada por software en cualquier experimento de física. Al eliminar los antiguos y rígidos filtros de hardware y reemplazarlos por un sistema de software inteligente y flexible, no solo mantuvieron el ritmo de la velocidad, sino que realmente mejoraron la calidad de la ciencia que pueden realizar, asegurando que ningún evento raro y emocionante se escape por las grietas.

El Problema: Un Diluvio de Datos

El Gran Colisionador de Hadrones (LHC) hace chocar partículas miles de millones de veces por segundo. Cada vez que chocan, se llama un "evento". En el pasado, el experimento LHCb utilizaba un sistema de filtrado de dos pasos. Primero, un "disparador de bajo nivel", compuesto por electrónica especializada y construida a medida, escaneaba rápidamente los datos y descartaba la mayoría de las colisiones aburridas. Solo aquellas que parecían prometedoras pasaban a un "disparador de alto nivel" (software) para un análisis más profundo.

Sin embargo, este viejo sistema tenía un fallo. Debido a que el filtro de hardware solo miraba unos pocos sensores específicos, a veces perdía eventos interesantes que ocurrían en otras partes del detector. Además, era difícil cambiar las reglas una vez que el hardware estaba construido. El equipo de LHCb decidió eliminar por completo el primer filtro basado en hardware. Esto significaba que su sistema tenía que manejar 40 veces más datos que antes. Necesitaban procesar un flujo de datos brutos de 32 terabits por segundo (Tbps) y filtrarlos hasta los eventos más interesantes en tiempo real. Si fallaban, los datos se perderían para siempre.

La Solución: Una Fábrica Convergente

El equipo construyó un nuevo sistema utilizando 164 servidores (computadoras) que actúan como una sola máquina masiva. Así es como lo hicieron funcionar:

1. La autopista de "Cero Copia" (Zero-Copy)
Normalmente, cuando los datos se mueven de una tarjeta de red a la memoria de una computadora y luego a un procesador, tienen que copiarse varias veces. Esto es como mover una caja de un camión a un almacén, luego a un estante y después a una vitrina de exhibición. Toma tiempo y energía. El equipo de LHCb utilizó una técnica de "cero copia". Imagina una cinta transportadora que corre directamente desde el camión, pasa por el almacén y llega directamente a la vitrina de exhibición sin detenerse nunca para ser movida a mano. Esto les permitió mover datos increíblemente rápido sin ralentizar la computadora.

2. La Potencia de las GPU
En lugar de usar procesadores estándar (CPU) para el trabajo pesado, utilizaron Unidades de Procesamiento Gráfico (GPU). Estos son los chips que se encuentran usualmente en las computadoras de videojuegos, diseñados para manejar miles de tareas simultáneamente. El equipo se dio cuenta de que reconstruir las trayectorias de las partículas es muy parecido a renderizar una escena de un videojuego 3D complejo. Al poner todo el proceso de filtrado en las GPU, pudieron procesar miles de colisiones al mismo tiempo.

3. Programación Inteligente (Scheduling)
Un desafío fue que no todas las colisiones son iguales en tamaño o complejidad. Algunas son rápidas de analizar; otras toman más tiempo. Si el sistema intentara procesarlas una por una, se quedaría trabado esperando. El equipo desarrolló un "programador" (scheduler) ingenioso que agrupa los eventos en lotes. Es como un chef preparando una comida: en lugar de cocinar un plato a la vez, prepara todos los vegetales, luego pica toda la carne, luego cocina todo junto. Esto mantiene las GPU ocupadas y eficientes. También utilizaron un "programador de eventos múltiples" que observa el lote completo y decide el mejor orden para ejecutar los pasos, asegurando que los cálculos más costosos solo se realicen en los eventos que realmente los necesitan.

4. La Red
Para conectar los 164 servidores, construyeron una red personalizada utilizando InfiniBand, una tecnología que se usa a menudo en supercomputadoras. Diseñaron la red para que cada servidor pudiera comunicarse con todos los demás de manera eficiente, evitando atascos de tráfico (un problema conocido como "incast"). Esto les permitió ensamblar las piezas de cada colisión provenientes de diferentes partes del detector y enviarlas a las GPU para su filtrado sin crear cuellos de botella.

Los Resultados: Rompiendo Récords

El equipo probó su sistema y encontró que funcionaba exactamente como estaba planeado.

• Velocidad: Procesaron con éxito los 32 Tbps completos de datos entrantes en tiempo real.
• Filtrado: El sistema aplicó un filtro que redujo los datos en un factor de 30:1. Esto significa que por cada 30 colisiones, solo se conservaba 1 para un estudio posterior.
• Escalabilidad: Cuando probaron el sistema con más servidores, escaló perfectamente. El sistema pudo manejar la tasa de diseño completa del LHC, que es de 30 millones de colisiones por segundo.
• Eficiencia: El sistema utilizó 164 servidores equipados con 328 GPU (dos por servidor). La potencia de cómputo total fue masiva, pero el diseño fue lo suficientemente eficiente como para que no necesitaran miles de máquinas como en el pasado.

El artículo confirma que este sistema es capaz de procesar la tasa de datos de software más alta jamás alcanzada en el campo de la física. Demostró que se pueden eliminar los antiguos y rígidos filtros de hardware y reemplazarlos por un sistema basado en software, más flexible, que es más rápido y más inteligente.

Por Qué Importa

Esto no se trata solo de manejar más datos; se trata de ver más del universo. Al eliminar el filtro de hardware, el experimento LHCb puede ahora observar el detector completo en busca de eventos interesantes, no solo las partes que el antiguo hardware estaba programado para vigilar. Esto significa que podrían encontrar partículas raras o nueva física que antes eran invisibles. El éxito de esta "arquitectura convergente" establece un nuevo estándar para cómo se construirán los futuros experimentos de física de partículas, demostando que con la mezcla adecuada de tecnología comercial y software ingenioso, podemos ampliar los límites de lo que es posible en la ciencia.