A-GHOST: High-rate streaming of trigger-level data to programmable GPU inference

高エネルギー物理学の世界では、科学者たちは宇宙の根本的な構成要素を解明するために、粒子を光速に近い速度で衝突させています。これらの衝突は非常に激しく、かつ頻繁に発生するため、永久に保存するにはあまりにも膨大なデータの奔流を生み出します。この情報の氾濫を管理するために、実験は「トリガー」として知られる洗練されたフィルタリング・システムに依存しています。このシステムは門番として機能し、どの衝突イベントが保持するに値するほど興味深いものか、そしてどのイベントが単なるありふれたノイズとして破棄されるべきかを、瞬時の判断で決定します。数十年にわたり、この門番の役割は、極めて高速ではあるものの硬直した専用の電子回路によって行われてきました。これらの回路は、固定された極めて短い時間枠内で決定を下さなければならず、単純な計算しか扱うことができません。実験がより強力になるにつれ、それらが生成するデータは、これらの硬直した回路が処理できる速度よりも速く増大しており、システムが追いつけないために画期的な発見が見逃されてしまうというボトルネックが生じています。

研究チームは現在、この問題に対処するための新しい方法を実証しました。それは、高速で硬直した門番を維持しつつ、そのすぐ後ろに強力で柔軟な助手を追加するというものです。彼らの研究である「A-GHOST」は、初期の電子回路が単に「何を残すか」を決定するだけでなく、すべての衝突のコンパクトな要約を最新のグラフィックス・プロセッサ（GPU）へとストリーミングするという手法を探求しています。このプロセッサは、ハイエンドのゲーミング用コンピュータや人工知能（AI）に使用されるものと同じ種類のチップであり、従来の硬直した回路が管理できるものよりもはるかに複雑で創造的なアルゴリズムを実行することができます。この重い処理を強力なプロセッサへと移すことで、科学者たちは以前では不可能だった速度でデータを分析できるようになり、旧来の単純なシステムでは見逃していたであろう微細で稀な現象を検出する道が開かれました。

研究チームは、このアイデアをテストするために、高速コンピューティング用に設計された専用の開発キットを用いてプロトタイプを構築しました。実際の実験における巨大な粒子検出器に直接接続する代わりに、彼らは、粒子衝突から流れてくるデータストリームをシミュレートするソフトウェア・プログラムを用いた、制御されたループを作成しました。このシミュレートされたストリームは、高速ネットワークケーブルを通じて送られ、グラフィックス・プロセッサに直接入力されました。システムは、データを遅延させる通常のコンピュータの手順をバイパスし、ネットワークカードからプロセッサのメモリへと直接データを送るように設計されました。これにより、チームは、情報を一つも落としたり圧倒されたりすることなく、データが到着する速度にプロセッサがついていけるかどうかを確認することができました。

データを使いやすい形にするために、研究者たちはトリッキーなパズルを解かなければなりませんでした。データは、まるで窓から一枚ずつ投げ込まれる本のページのように、小さく断片化されたパケットとして到着します。しかし、データを分析するために使用される人工知能モデルは、効果的に機能するために、ページ全体、あるいは章全体を一度に見る必要があります。チームは、高速なアセンブラとして機能するカスタムプログラムを作成し、入ってくるこれらの断片を掴み取り、到着した瞬間にそれらを完全で連続したデータブロックへと繋ぎ合わせる仕組みを作りました。この組み立てはプロセッサのメモリ内において即座に行われ、データをコンピュータのメインプロセッサに戻したり往復させたりする必要なく、遅延なく分析できる状態にすることを保証しました。

チームは、シミュレートされた衝突データの中から異常なパターンを見つけ出すよう設計された、3種類の異なる人工知能モデルを用いてこのシステムをテストしました。一つのモデルは単一のイベントに着目し、他のモデルは複雑に進化するアノマリー（異常）を見つけるために、時間の経過に伴う一連のイベントのシーケンスに着目しました。彼らは、40から100ギガビット毎秒の範囲の速度でデータを送り、システムを限界まで追い込みました。最高速度において、システムはパケットを一つも失うことなく、ほぼすべてのデータを受信することに成功しました。人工知能モデルは、0.1ミリ秒未満の遅延でデータを分析でき、これは実際の実験において有用な速度です。システムは失敗することなく数時間稼働し、高速ネットワークと強力なグラフィックス・プロセッサの組み合わせが、現代の物理学実験によって生成される膨大な情報の流れを処理できることを証明しました。

この結果が重要なのは、単にその速度だけでなく、それが提供する柔軟性にあります。データを守る現在の硬直した回路は、タイミングの制御や初期フィルタリングの役割を引き続き果たすことができますが、もはや「何が興味深いか」についての最終決定を下す必要はありません。データのコンパクトな要約をプログラマブルなプロセッサにストリーミングすることで、科学者たちは、複数のイベントにわたるパターンから学習したり、複雑な生成モデルを使用してアノマリーを特定したりできる、より高度なアルゴリズムを実行できるようになります。これらは、現在の硬直したハードウェアには困難または低速すぎるタスクです。この研究は、この新しいアーキテクチャが実現可能であることを示しており、データフローがハードウェア・トリガーの限界によって遮断されることのない、より鋭く適応力の高い眼で宇宙を探索する道筋を提示しています。