MoreFit: A More Optimised, Rapid and Efficient Fit

本論文は、ジャストインタイム・コンパイルされた計算グラフ、新規の自動最適化、およびヘテロジニアスなバックエンド（OpenCLおよびLLVM/Clang）を活用することで、多様なハードウェアプラットフォームにわたって優れた速度と効率性を実現する、素粒子物理学におけるアンビンニング最大尤度パラメータ推定のための高性能フレームワークであるMoreFitを導入するものである。

要約

あなたは、巨大なミステリーを解決しようとしている探偵だと想像してください。あなたには、数百万もの手がかり（データポイント）の山があり、それらを生み出した複雑な機械の正確な設定（パラメータ）を突き止めなければなりません。素粒子物理学の世界では、これを「アンビンンド・最大尤度法（unbinned maximum likelihood fit）」と呼びます。

基本的には、あなたの数学的モデルが現実世界のデータと完璧に一致する「スイートスポット」を見つけ出そうとしているのです。問題は、数百万もの手がかりがあり、調整すべきつまみが数百個もある場合、この計算が非常に遅く、膨大なコンピュータ・パワーを消費してしまうことです。

そこで登場するのが MoreFit です。MoreFitは、従来のツールよりも高速かつ効率的にこれらの謎を解くために特別に設計された、非常にスマートで高速な助手だと考えてください。

その仕組みを、シンプルな概念に分解して説明します。

1. 「レゴの設計図」（計算グラフ）

従来のソフトウェアは、多くの場合、すべてのステップに対して長くて硬直した指示を書き出すことで計算を行います。しかし、MoreFitは 「計算グラフ（Computation Graph）」 を構築します。

レゴの設計図を想像してみてください。単にすべてのブロックを列挙するのではなく、その設計図はブロックがどのように接続されているかを示しています。MoreFitはこの数学的問題の地図を描きます。地図全体を把握しているため、人間や硬直したプログラムが見落としてしまうような非効率性を特定し、全体像を見渡すことができるのです。

2. 「オート・オプティマイザー」（ジャストインタイム・コンパイル）

MoreFitは設計図を手に入れた後、単に指示を実行するだけでなく、可能な限り速くなるように、その場で指示を 書き換えます。これは「ジャストインタイム・コンパイル」と呼ばれます。

これは、大勢に食事を振る舞う前のシェフを想像してみてください。シェフはレシピを見て、「おい、すべての料理に玉ねぎを刻んで入れる必要があるな。料理ごとに毎回新鮮な玉ねぎを刻むのではなく、一度に大量に刻んで準備しておこう」と気づきます。

• 従来の方法： イベントごとに玉ねぎを刻む（遅い）。
• MoreFitの方法： 数学の一部はイベントごとに変化しないことを理解し、一度だけ計算してその結果を再利用する。これにより、膨大な時間の節約が可能になります。

3. 「スーパーチーム」（並列処理とヘテロジニアス・アーキテクチャ）

従来の方法は、一人が100万枚のカードを一枚ずつ、順番に仕分けようとするようなものでした。MoreFitは、カードの仕分けが「極めて並列化しやすい（embarrassingly parallel）」作業であること、つまり、互いに邪魔をすることなく、全員が同時に自分の担当分をこなせる作業であることを理解しています。

MoreFitは、混合チーム のコンピュータで動作するように構築されています。

• GPU（グラフィックス・カード）： これらは、数千の小さなタスクを同時に実行できる「蜂の群れ」のようなものです。MoreFitは、特定のブランドだけでなく、あらゆる種類のGPUと通信できるようにオープン標準（OpenCL）を使用しています。
• CPU（プロセッサ）： これらは、高度なスキルを持つ専門家チームのようなものです。MoreFitはこれらも活用し、同期を完璧にとりながら（ベクトル化）、スピードアップを図ります。

4. 「魔法のショートカット」（記号微分）

最適な解を見つけるためには、コンピュータは答えに近づくためにどのつまみをどちらに回すべきかを知る必要があります。通常、これは「推測と検証」を繰り返すため時間がかかります。
MoreFitは 記号微分（symbolic differentiation） を使用します。推測する代わりに、数学的なルールを用いて、進むべき正確な方向を書き出します。これは、暗闇の中で正しい通りを探して車を走らせるのではなく、正確なルートを教えてくれるGPSを持っているようなものです。これにより、「フィッティング（適合）」のプロセスは、何百ステップもかかる代わりに、わずか数ステップで収束（答えを発見）することができます。

5. 「偽データ」工場（擬似実験）

探偵の結論を信頼する前に、偽の犯罪現場を作り、それを解決できるかどうかでその手法が機能するかテストしたいことがあります。物理学では、これを「擬似実験（pseudo-experiments）」の生成と呼びます。
MoreFitはこれについても非常に高速です。ゲームのルールを完璧に把握しているため、他のツールよりもはるかに速くこれらのシナリオを生成でき、科学者が結果の信頼性を確保するために何千ものテストを実行することを可能にします。

結果：時間との戦い

著者は、2種類のパズルを用いて、MoreFitを他の2つの有名なツール（RooFitとzfit）と比較テストしました。

1. 単純な質量フィット： 物体の重さを求めるようなもの。
2. 複雑な角度フィット： 回転する物体の3D回転を解明するようなもの。

判定：

• 大量のデータを扱う場合、MoreFitは競合相手よりも 10倍から50倍高速 であることが多くありました。
• 標準的なコンピュータ・プロセッサにおいて、MoreFitは従来の方法よりも大幅に高速でした。
• 強力なグラフィックス・カード（GPU）を使用した場合、主要な競合相手よりも ほぼ1桁（10倍）高速 でした。

まとめ

MoreFitは、データ・フィッティングを、よく整理された建設プロジェクトのように扱う新しいツールです。スマートな設計図を描き、無駄を省くために指示を書き換え、そして大規模なチーム（GPUとCPU）を同時に活用することで、かつてかかっていた時間のわずかな一部で複雑な物理学の問題を解決します。これにより、科学者は待ち時間やエネルギー消費を減らし、より多くの科学研究を行うことができるようになるのです。

技術概要

技術要約：MoreFit – より最適化され、高速かつ効率的なフィット

問題提起

非ビン化最大尤度フィットによるパラメータ推定は、ビニングに伴う情報の損失なしに全情報を保持できるという利点を持つ、素粒子物理学の根幹をなす手法である。しかし、現代の実験では前例のないデータ量（しばしば $O(10^6)$ イベント）が生成されており、複雑なパラメータセット（しばしば $>100$ パラメータ）の決定が求められている。さらに、擬似実験を用いた被覆補正（Feldman-Cousins法など）のような厳密な統計的検証には、パラメータあたり $O(10^5)$ 回以上のフィットを実行する必要がある。これらの計算需要により、従来のフィッティング・フレームワークは時間とエネルギーを大量に消費するため、ヘテロジニアスなアーキテクチャ全体で並列性を効率的に活用できるソリューションが必要となっている。

手法

MoreFitは、非ビン化最大尤度フィットのために特別に設計されたC++フィッティング・フレームワークであり、並列性と自動最適化を優先している。その核となる戦略は、特定のハードウェア・バックエンド向けに実行カーネルをジャストインタイム（JIT）で生成するためにコンパイルされる**計算グラフ（computation graphs）**に基づいている。

コア・アーキテクチャ

1. 計算グラフ: 確率密度関数（PDF）は、基本演算、関数、変数、および定数を含むツリー構造の計算グラフとして表現される。この構造により、以下が可能となる：

   • 記号微分（Symbolic Differentiation）: フレームワークは、最小化と不確実性推定に必要な解析的勾配およびヘッセ行列（二階微分）を計算するために、連鎖律を自動的に適用する。
   • 自動最適化: グラフを分析し、冗長な計算を特定して最適化を行う。

2. 計算バックエンド: MoreFitは、ヘテロジニアスなプラットフォームをターゲットにするためにオープン標準を利用する：

   • OpenCL バックエンド: 主要なベンダーをサポートするGPU用のデフォルトである。尤度評価、勾配/ヘッセ行列計算、およびイベント生成のためのOpenCL Cカーネルを生成する。ホスト・デバイス間のデータ転送オーバーヘッドを最小限に抑えるため、アクセラレータ上でKahanの和（Kahan summation）を採用している。
   • LLVM/Clang バックエンド: CPU向けに設計されており、このバックエンドはCカーネルをJITコンパイルする。SIMD（Single Instruction Multiple Data）ベクトル化と、スレッド生成のオーバーヘッドを回避するためのスレッドプーリング戦略によるマルチスレッド実行をサポートしている。

自動最適化技術

MoreFitは、計算グラフに適用されるいくつかの斬新な自動最適化戦略を採用している：

• パラメータ依存項のキャッシュ: パラメータには依存するがイベントデータには依存しない（例：正規化積分）尤度関数の項を特定し、パラメータ更新ごとにホスト上で一度だけ計算してバッファリングする。これらのバッファリングされた値は定数として計算カーネルに渡され、カーネルの複雑さを大幅に軽減する。
• イベント依存項の事前計算: イベント変数のみに依存する項（例：崩壊解析における角度項）について、フレームワークは別のカーネルステップでこれらの値を事前に計算することができる。得られた高次元データは、簡略化された尤度カーネルで使用され、最小化ループ中の複雑な式の繰り返し評価を回避する。
• 擬似実験生成の最適化: 擬似データの生成中、すべてのパラメータは固定されている。MoreFitはパラメータ依存項を定数として扱い、生成グラフを劇的に簡略化する。ホスト・デバイス間の転送を最小限に抑えるため、疑似乱数生成器（例：Xoshiro128++）を用いたアクセラレータ上での生成をサポートしている。

主な貢献

• フレームワークの導入: TensorFlowやROOTに依存しない（ただしROOTとの互換性は可能）、軽量で依存関係の少ないC++ライブラリとしてのMoreFitの提示。
• JITコンパイルとグラフ最適化: 計算グラフを自動的に分析・最適化してからJITコンパイルを行うという斬新なアプローチにより、ユーザーの介入なしに大幅な性能向上を実現する。
• ヘテロジニアス・サポート: GPU（OpenCL経由）とCPU（SIMDを備えたLLVM/Clang経由）の両方での実行のための統一されたインターフェースを提供し、幅広いハードウェア互換性を確保する。
• 解析的微分: 記号微分を通じて導出された解析的勾配およびヘッセ行列の提供。これにより、数値微分と比較して収束速度が向上する。

結果

本論文では、AMD 7950X3D CPUおよびNVIDIA Titan V GPUを用い、MoreFit (v0.1) を RooFit (v6.32.08) および zfit (v0.24.2) と比較ベンチマークを行った。2つのシナリオをテストした：1次元質量フィット（4パラメータ）および多次元角度フィット（8パラメータ）。

• 性能向上:
  • 質量フィット: 高統計量（$N=10^6$）において、16スレッドのCPU上でのMoreFit（解析的微分を使用）は、RooFitのSIMDバックエンドよりも最大 2.4倍高速 であった。GPU上では、高統計量においてMoreFitはRooFitのCUDA実装よりも桁違いに高速であった。
  • 角度フィット: 低統計量において、MoreFitは単一のCPUスレッドでRooFitのSIMデンドよりも 6.6倍 の高速化を示し、中間/高統計量では ~11倍 に増加した。GPU上では、データセットのサイズに応じて、MoreFitはzfitを 32–48倍 上回った。
• 解析的微分の影響: 解析的微分を使用することで、最小化の反復回数が大幅に減少した（質量フィットでは約85回から2–3回へ、角度フィットでは約200回から2–3回へ）。これにより、特にカーネル投入のオーバーヘッドが減少するGPUにおいて、大幅な高速化がもたらされた。
• スケーラビリティ: MoreFitはCPUのスレッド数に対して良好にスケールし、高統計量において1スレッドと比較して最大1桁の高速化を示した。

意義と展望

本論文は、自動最適化された計算グラフを使用することで、既存のフレームワークに対して1桁以上の性能向上を達成できるという、MoreFitの力を示している。その意義は、被覆補正のような計算コストの高い統計的手法を、実現可能かつ持続可能なものにすることにある。多様なハードウェア間で広く利用可能にすることを目的として、MoreFitはオープンでベンダーに依存しない標準に依拠している。

著者らは、MoreFitが初期開発段階であることを認めている。現在の制限事項には、組み込みPDFのライブラリが小さいこと、およびビン化フィットのサポートが欠けていることが含まれる。今後の作業は、PDFライブラリの拡張、効率的な汎用アクセプタンス補正の実装、およびビン化フィッティング機能の探索に焦点を当てる。本論文は、非ビン化最大尤度フィットにおける速度と効率を向上させる余地が依然として大きく、素粒子物理学における計算リソースの持続可能な利用に貢献すると結論付けている。