Hybrid Coarse-Grained Transprecision boosted by a Custom GEMM Kernel to accelerate Parametric Linear Systems

En el mundo de la ingeniería y la ciencia modernas, resolver problemas físicos complejos a menudo depende de una técnica llamada el método de los elementos finitos. Imagine intentar comprender cómo se balancea un puente con el viento o cómo fluye la electricidad a través de un semiconductor. Los científicos descomponen estos objetos masivos y continuos en millones de piezas pequeñas y manejables, convirtiendo las leyes de la física en un gigantesco sistema de ecuaciones. Para obtener una respuesta precisa, las computadoras deben procesar números con extremo cuidado, utilizando un formato conocido como doble precisión. Este método trata cada número con la mayor precisión posible, asegurando que los errores diminutos no se conviertan en errores masivos debido al efecto de bola de nieve. Sin embargo, esta búsqueda implacable de la perfección tiene un precio elevado: exige cantidades enormes de tiempo y energía. Para aplicaciones que necesitan respuestas instantáneas, como un gemelo digital de la planta de una fábrica o un robot navegando en una zona de desastre, esperar estas calculaciones lentas e hiperprecisas simplemente no es una opción.

El desafío radica en un tipo específico de cálculo que aparece una y otra vez en estas simulaciones. Implica un conjunto masivo y fijo de datos que representan la estructura física, combinado con un conjunto cambiante de parámetros que describen las condiciones actuales, como la resistencia del material o la temperatura. La computadora debe multiplicar estos elementos para encontrar la solución. Debido a que el conjunto de datos fijos es tan vasto, el cálculo se convierte en un cuello de botella, ralentizando todo el proceso. Los investigadores han sospechado durante mucho tiempo que, para muchas de estas tareas, la precisión extrema de las matemáticas de doble precisión es innecesaria. Del mismo modo que el ojo humano no puede distinguir entre dos tonos de gris ligeramente diferentes en una habitación con poca luz, muchas simulaciones físicas pueden tolerar pequeños errores numéricos sin que el resultado final se vuelva inútil. La pregunta es si podemos intercambiar con seguridad esa precisión adicional por una ganancia masiva en velocidad.

Un equipo de investigadores de la Queen's University Belfast y la University of Edinburgh ha desarrollado una nueva forma de abordar este problema, ofreciendo una solución que es tanto más inteligente como más rápida. Crearon un sistema que actúa como un filtro de dos etapas para la precisión matemática. Primero, en una fase fuera de línea (offline), el sistema estudia una muestra representativa de los parámetros cambiantes para determinar el nivel más bajo de precisión que aún mantiene la respuesta final dentro de un margen de error seguro. Prueba diferentes formatos, que van desde los números estándar de alta precisión hasta versiones mucho más compactas y de menor precisión. Una vez establecido este punto de referencia, el sistema pasa a una fase en línea (online) donde maneja datos en tiempo real. A medida que llega cada nuevo conjunto de parámetros, el sistema verifica rápidamente su rango y selecciona automáticamente el formato de precisión más eficiente disponible en la tarjeta gráfica. Si los números son pequeños y estables, utiliza un formato muy compacto; si son más grandes o volátiles, cambia a uno un poco más robusto. Este ajuste dinámico permite que la computadora funcione a su máxima velocidad sin sacrificar la confiabilidad del resultado.

Para que esta aceleración sea aún más dramática, los investigadores también construyeron un motor de cálculo personalizado. Normalmente, una computadora realiza este tipo de multiplicación de matrices en dos pasos separados: primero escala los datos según los parámetros, y luego multiplica los resultados entre sí. Esto requiere mover datos de un lado a otro entre diferentes partes de la computadora, lo que desperdicia tiempo. El equipo fusionó estos dos pasos en una única operación personalizada. Al escalar los datos mientras se cargan en la memoria rápida del procesador, eliminaron la necesidad de mover los datos dos veces. Este enfoque optimizado eliminó una cantidad significativa de esfuerzo desperdiciado, permitiendo que el sistema realice el mismo cálculo de manera mucho más eficiente.

Los resultados de este enfoque fueron probados en una variedad de problemas a gran escala utilizando potentes tarjetas gráficas de tres diferentes generaciones de tecnología. Los hallazgos fueron sorprendentes. Para un conjunto de datos masivo que contenía más de 21 millones de filas, el nuevo método fue capaz de procesar la información hasta 117 veces más rápido que el método tradicional de ultra precisión. En términos de energía, el sistema consumió 36 veces menos potencia para lograr el mismo resultado. Crucialmente, a pesar de estas enormes ganancias en velocidad y eficiencia, el error promedio en la respuesta final se mantuvo increíblemente bajo, situándose muy por debajo del uno por ciento. En un caso de prueba específico que involucraba un conjunto de datos de 80.3 gigabytes, el sistema podía evaluar dos conjuntos diferentes de parámetros cada segundo, una hazaña que sería imposible con los métodos antiguos y lentos.

Los investigadores también abordaron el problema de los límites de memoria. Cuando los datos son demasiado grandes para caber enteramente en la tarjeta gráfica, los métodos estándar a menudo tienen que hacer una pausa y buscar datos en la memoria principal de la computadora, lo cual es lento. El equipo descubrió que, al utilizar sus formatos de menor precisión, la huella de los datos se reduce lo suficiente como para caber enteramente en la tarjeta, evitando estas pausas lentas. Compararon dos estrategias para manejar los datos que no cabían: recargar los datos originales desde la memoria principal versus recalcular los datos sobre la marcha. Descubrieron que, para conjuntos de datos muy grandes, recalcular los datos era significamente más rápido que esperar a recargarlos, siempre que la precisión se gestionara cuidadosamente para evitar que los errores se acumularan con el tiempo.

Este trabajo demuestra que el requisito rígido de las matemáticas de doble precisión no siempre es necesario en la computación científica. Al igual que la precisión de la de la un cálculo se ajusta inteligentemente a las necesidades específicas del problema, y al optimizar la forma en que la computadora maneja los datos, es posible lograr un rendimiento en tiempo real en problemas que antes eran demasiado lentos para resolverse sobre la marcha. El estudio confirma que, con las herramientas adecuadas, los científicos e ingenieros pueden ejecutar simulaciones complejas en tiempo real, abriendo la puerta a gemelos digitales más receptivos, herramientas de diagnóstico más rápidas y diseños de ingeniería más eficientes, todo ello utilizando una fracción de la energía requerida anteriormente.