Hybrid Coarse-Grained Transprecision boosted by a Custom GEMM Kernel to accelerate Parametric Linear Systems

現代の工学や科学の世界において、複雑な物理的問題を解決することは、有限要素法と呼ばれる手法に依存することがよくあります。橋が風でどのように揺れるか、あるいは半導体の中にどのように電気が流れるかを理解しようとしている場面を想像してみてください。科学者たちは、これらの巨大で連続的な物体を、扱いやすい数百万の小さな断片に分解し、物理法則を巨大な方程式のシステムへと変貌させます。正確な答えを得るために、コンピュータは「倍精度」として知られる形式を用い、極めて慎重に数値を計算しなければなりません。この手法は、あらゆる数値を最高レベルの精度で扱うことで、微細な誤差が巨大な間違いへと雪だるま式に膨れ上がるのを防ぎます。しかし、この執拗なまでの完璧さの追求には、高い代償が伴います。すなわち、膨大な時間とエネルギーを必要とするのです。工場のデジタルツインや、災害現場をナビゲートするロボットのように、即座に回答を必要とするアプリケーションにとって、これほど遅くて超高精度な計算を待つことは、単に選択肢にすら入りません。

課題は、これらのシミュレーションの中で繰り返し現れる、特定の種類の計算にあります。それは、物理的構造を表す膨大で固定されたデータセットと、材料の強度や温度といった現在の状況を表す変化するパラメータの組み合わせを伴います。コンピュータは、解を見つけ出すためにこれらを掛け合わせなければなりません。固定されたデータセットがあまりにも膨大であるため、この計算がボトルネックとなり、すべてを停滞させてしまいます。研究者たちは以前から、多くのこうしたタスクにおいて、倍精度の数学による極端な精度は不要ではないかと疑っていました。人間が薄暗い部屋の中で、二つのわずかに異なるグレーの陰影を区別できないのと同様に、多くの物理シミュレーションは、最終的な結果が無用になることなく、多少の数値誤差を許容できるのです。問題は、その余分な精度を、大幅なスピードアップのために安全にトレードオフできるかどうかです。

クイーンズ大学ベルファストとエディンバラ大学の研究チームは、この問題に取り組むための新しい方法を開発し、よりスマートで高速な解決策を提示しました。彼らは、数学的精度に対する「二段階のフィルター」として機能するシステムを作り上げました。まず、「オフライン・フェーズ」において、システムは変化するパラメータの代表的なサンプルを研究し、最終的な答えが安全な誤差範囲内に収まるために必要な最低限の精度を決定します。標準的な高精度形式から、よりコンパクトで低精度のバージョンに至るまで、さまざまな形式をテストします。この基準が確立されると、システムはリアルタイムのデータを処理する「オンライン・フェーズ」へと移行します。新しいパラメータのセットが到着するたびに、システムは即座にその範囲を確認し、グラフィックスカード上で利用可能な最も効率的な精度形式を自動的に選択します。数値が小さく安定していれば非常にコンパクトな形式を使用し、数値が大きくなったり変動したりすれば、より堅牢な形式へと切り替えます。この動的な調整により、結果の信頼性を損なうことなく、コンピュータを最高速度で動作させることが可能になります。

このスピードアップをさらに劇的なものにするために、研究者たちは計算のためのカスタムエンジンも構築しました。通常、コンピュータはこの種の行列乗算を、まずデータをパラメータによってスケーリングし、次にその結果を掛け合わせるという、二つの独立したステップで行います。これでは、データの移動をコンピュータのメモリ間で何度も繰り返す必要があり、時間が浪費されます。チームは、これら二つのステップを一つのカスタム操作へと融合させました。プロセッサの高速メモリにデータをロードする際にデータをスケーリングすることで、データを二度移動させる必要をなくしたのです。この合理化されたアプローチにより、無駄な労力が大幅に削減され、システムは同じ計算をより効率的に実行できるようになりました。

この手法の結果は、三つの世代のテクノロジーを用いた強力なグラフィックスカードを使用し、さまざまな大規模問題に対してテストされました。その結果は驚くべきものでした。2,100万行を超える膨大なデータセットにおいて、この新手法は、従来の超高精度な手法よりも最大117倍速く情報を処理することができました。エネルギー面では、同じ結果を得るために消費される電力を36分の1に抑えました。決定的なことに、これほど大規模なスピードアップと効率化を実現したにもかかわらず、最終的な答えの平均誤差は極めて低く、1パーセントを十分に下回る状態を維持しました。80.3ギガバイトのデータセットを用いた特定のテストケースでは、システムは1秒間に2つの異なるパラメータセットを評価することができ、これは旧来の遅い手法では不可能だった芸当です。

研究者たちは、メモリ制限の問題にも対処しました。データがグラフィックスカード全体に収まりきらない場合、標準的な手法ではメインコンピュータのメモリからデータを読み出すために一時停止せざるを得ず、それが速度低下を招きます。チームは、低精度形式を使用することで、データのフットプリント（占有量）が縮小し、カード内に完全に収まるようになることを発見しました。彼らは、収まりきらないデータを扱う戦略として、「メインメモリから元のデータを再ロードする」方法と「その場で再計算する」方法を比較しました。その結果、非常に大きなデータセットの場合、精度管理を慎重に行いエラーの蓄積を防ぐことができれば、データを再ロードして待機するよりも、その場で再計算する方が大幅に高速であることを突き止めました。

この研究は、科学計算における倍精度数学への硬直した要求が、必ずしも必要ではないことを証明しています。計算の精度を問題の特定のニーズに合わせて知的に一致させ、コンピュータのデータ処理を合理化することで、これまで即時処理が困難であった問題に対しても、リアルタイムのパフォーマンスを実現することが可能です。この研究は、適切なツールがあれば、科学者や技術者が複雑なシミュレーションをリアルタイムで実行できることを裏付けており、それによって、より応答性の高いデジタルツイン、より迅速な診断ツール、そしてより効率的なエンジニアリング設計への道が開かれ、同時に、従来必要とされていたわずかな分量のエネルギーで運用できるようになることを示しています。