Hybrid Coarse-Grained Transprecision boosted by a Custom GEMM Kernel to accelerate Parametric Linear Systems

在现代工程与科学领域，解决复杂的物理问题通常依赖于一种被称为有限元法的技术。想象一下，试图理解一座桥梁在风中的摇摆，或是电流如何在半导体中流动。科学家们将这些巨大的、连续的物体分解成数百万个微小且易于处理的部分，从而将物理定律转化为一个庞大的方程组。为了获得精确的答案，计算机必须极其谨慎地进行数值计算，使用一种被称为“双精度”（double precision）的格式。这种方法对每一个数字都给予最高的精度，以确保微小的误差不会滚雪效应般演变成巨大的错误。然而，这种对完美的执着追求也付出了沉重的代价：它需要耗费大量的计算时间和能量。对于那些需要即时响应的应用，例如工厂车间的数字孪生或在灾区导航的机器人，等待这些缓慢且超高精度的计算显然是行不通的。

挑战在于这类模拟中反复出现的特定类型计算。它涉及一组代表物理结构的庞大且固定的数据，以及一组描述当前状况（如材料强度或温度）的不断变化的参数。计算机必须将两者相乘以求得解。由于固定数据集规模巨大，该计算过程成为了瓶颈，拖慢了整体速度。研究人员长期以来一直怀疑，对于许多此类任务，双精度数学的极高精度并非必要。正如人类肉眼无法在昏暗的房间里分辨出两种极其接近的灰色阴影一样，许多物理模拟可以容忍微小的数值误差，而不会导致最终结果变得毫无意义。问题的关键在于，我们是否可以安全地用牺牲一部分精度来换取大幅度的速度提升。

来自贝尔法斯特女王大学和爱丁堡大学的一个研究小组开发了一种应对这一问题的新方法，提供了一个既更聪明又更快速的解决方案。他们创建了一个类似于数学精度“两阶段过滤器”的系统。首先，在“离线阶段”，系统通过研究一组具有代表性的变化参数，来确定在保持最终答案处于安全误差范围内的前提下，所能达到的最低精度水平。它测试了从标准高精度数字到更紧凑的低精度版本等各种不同的格式。一旦建立了这一基准，系统就会进入处理实时数据的“在线阶段”。随着每一组新参数的到来，系统会快速检查其范围，并自动选择图形处理器（GPU）上最有效的精度格式。如果数值较小且稳定，它会使用一种非常紧凑的格式；如果数值较大或波动较大，它则会切换到一种更稳健的格式。这种动态调整机制使计算机能够在不牺牲结果可靠性的情况下，以最高速运行。

为了让这种加速效果更加显著，研究人员还为这些计算构建了一个定制引擎。通常情况下，计算机执行此类矩阵乘法分为两个独立步骤：首先根据参数对数据进行缩放，然后将结果相乘。这需要将数据在计算机的不同内存部分之间来回移动，从而浪费时间。该团队将这两个步骤融合为一个单一的定制操作。通过在数据加载进处理器的快速内存时对其进行缩放，他们消除了重复移动数据的需求。这种精简的方法消除了大量的无效劳动，使系统能够更高效地执行相同的计算。

研究人员使用来自三代不同技术的强大图形卡对这种方法的表现进行了多种大规模问题的测试。结果令人震惊。对于一个包含超过 2100 万行的庞大数据集，新方法处理信息的速度比传统的超高精度方法快了高达 117 倍。在能源方面，该系统实现相同结果所消耗的功率减少了 36 倍。至关重要的是，尽管获得了如此巨大的速度和效率提升，最终答案的平均误差仍然极低，保持在 1% 以下。在针对一个 80.3 GB 数据集的特定测试案例中，该系统每秒可以评估两组不同的参数，这在以往缓慢的老旧方法面前是无法实现的。

研究人员还解决了内存限制的问题。当数据过于庞大以至于无法完全装入图形卡时，标准方法往往不得不暂停并从计算机主内存中提取数据，这会导致速度变慢。该团队发现，通过使用他们的低精度格式，数据的占用空间会缩小到足以完全放入显卡中，从而避免了这些缓慢的停顿。他们对比了处理不完整数据的两种策略：是从主内存重新加载原始数据，还是实时重新计算数据。他们发现，对于非常大的数据集，只要精确度管理得当以防止误差随时间累积，实时重新计算数据要比等待重新加载数据快得多。

这项工作证明了在科学计算中，对双精度数学的僵化要求并不总是必要的。通过智能地将计算精度与特定问题的需求相匹配，并优化计算机处理数据的方式，实现对原本难以实时求解的复杂模拟进行实时性能处理是完全可能的。研究表明，借助正确的工具，科学家和工程师可以进行实时的复杂模拟，从而为更具响应性的数字孪生、更快速的诊断工具以及更高效的工程设计开启大门，同时仅需以往所需的一小部分能量。