技術サマリー：エンドツーエンド深層学習パイプラインにおけるデータフレームライブラリのエネルギー消費

問題定義

効率的なデータ処理は、特にエネルギー消費の観点から、深層学習モデルの開発と展開における重要なボトルネックとなっている。既存の文献では、データフレームライブラリ（Pandas、Polars、Dask）を単独で、あるいは単純な分析ワークロードに対してベンチマーク評価しているが、これらが完全なエンドツーエンド深層学習パイプラインに組み込まれた際の性能とエネルギー効率に関する理解には大きなギャップが存在する。具体的には、先行研究は、トレーニングおよび推論中のデータ読み込み、前処理、バッチ供給、GPU ワークロード間の緊密な相互作用を捉えられていない。本論文は、現実的な深層学習コンテキストにおいて、データ処理が CPU/GPU の利用率および全体的な持続可能性に直接影響を与えるこれらのライブラリに対する包括的なエネルギープロファイリングの欠如に対処する。

手法

著者らは、Pandas、Polars、Dask を代表的な深層学習および機械学習パイプラインに統合した比較分析を実施した。

• 実験環境: 実験は、16 コア/32 スレッド CPU（2.10 GHz）、128 GB RAM、NVIDIA Tesla V100 GPU（32 GB HBM2）を搭載したワークステーションで行われた。ソフトウェアスタックには、Python 3.8.12、TensorFlow 2.8.0、PyTorch 1.12.1、および特定のバージョンの Pandas（1.4.2）、Polars（0.10.18）、Dask（2022.2.0）が含まれていた。
• データセット: 3 つの代表的なデータセットが使用された。
  • Insurance: 回帰/分類用の小規模な表形式データセット（1,000 レコード）。
  • ML-1M（MovieLens）: 協調フィルタリングおよびニューラル協調フィルタリング（NCF）用の中規模データセット（約 100 万行）。
  • COCO: ResNet-50（分類）および Mask R-CNN（物体検出）用の大規模画像データセット（約 118,000 画像）。
• モデル: 本研究では、古典的モデル（Random Forest、SVR、XGBoost）と深層学習アーキテクチャ（TabNet、ResNet、Mask R-CNN、NCF）を評価した。
• 測定プロトコル:
  • 各構成は 5 回実行され、外れ値を抑制してトリム平均と 95% 信頼区間を算出した。
  • CPU メトリクス: Linux perf を通じて取得（実行時間、CPU エネルギー、メモリ）。
  • GPU メトリクス: pynvml を通じて取得（GPU エネルギー、VRAM 使用量）。
  • エネルギープロファイリング: フレームワークは、データ読み込み、前処理、トレーニング、推論の各段階におけるエネルギー消費を追跡した。
• 実装: 各ライブラリに対して、データ読み込み、前処理（欠損値補完、エンコーディング、正規化）、およびバッチ処理を処理する統一されたデータ処理パイプラインを実装した。Polars は遅延評価とゼロコピースライシングを活用し、Dask はパーティションベースの並列処理を使用し、Pandas は標準的なインデックス付けを使用した。

主要な貢献

本論文は、持続可能な機械学習の分野に対して以下の 3 つの主要な貢献を行う。

1. エンドツーエンドパイプラインの統合: データ読み込みのみなど、孤立したステップに焦点を当てた先行研究とは異なり、本研究はデータ取り込みからモデル予測までの、トレーニングおよび推論のライフサイクル全体にわたるデータフレームバックエンドの影響を評価する。
2. トレーニングと推論の分析の差別化: 既存の文献がしばしばこれらのフェーズを均質なものとして扱うギャップに対処するため、本研究はトレーニング時と推論時におけるこれらのライブラリの性能を明示的に比較する。
3. 詳細なエネルギープロファイリング: 本研究は、実行時間分析を超えて、CPU と GPU の両方のエネルギー消費の詳細な内訳を提供し、RAM および VRAM 使用量に関する具体的な測定値を含む。これにより、各データローダー設定の完全なエネルギープロファイルが可能となる。

結果

実験結果は、データセットのサイズとモデルの複雑さに基づいた明確な性能とエネルギーのトレードオフを明らかにしている。

• 小規模データセット（Insurance）:
  • 実行時間: Pandas と Polars は、単純なモデル（Random Forest、SVR）においてほぼ同等の実行時間を示した。Dask はタスクスケジューリングのオーバーヘッドにより、より高い実行時間を要した。
  • エネルギー: Polars は、並列化された実行に起因し、Pandas や Dask と比較してニューラルアーキテクチャ（TabNet）における CPU エネルギー消費が低かった。ただし、Polars は Arrow バッファにより CPU メモリフットプリントが高かった。
• 中規模データセット（ML-1M）:
  • 実行時間: Polars は、協調フィルタリングおよび NCF ワークフローにおいて Pandas および Dask を大幅に上回った（例：NCF における Pandas は 17.9 秒に対し、Polars は 2.5 秒）。これは、効率的なカラム操作および PyTorch テンソルへのゼロコピー転送に起因する。
  • エネルギー: Dask のパーティションスケジューリングのオーバーヘッドにより、CPU エネルギー消費は Polars や Pandas と比較して著しく高かった。
• 大規模データセット（COCO）:
  • 実行時間: 重い GPU ワークロード（ResNet、Mask R-CNN）の場合、GPU 計算がパイプラインを支配するため、3 つのライブラリはいずれも同様の実行時間を達成した。
  • メモリおよびエネルギー: Dask はパーティション化されたデータ構造により、高い CPU メモリフットプリントを維持した。Polars と Pandas は低い CPU メモリフットプリントを維持した。Polars は前処理中にわずかな CPU エネルギーの節約を示したが、モデル計算が支配的であるため、GPU エネルギー消費はバックエンド間で実質的に同一であった。
• オペレーターレベルの分析: 表 2 は、データセットサイズが数十万行を超えた場合、Polars がすべてのモデルにおいてバッチ処理操作に対して一貫して低い CPU エネルギー消費を示したことを示している。

意義と主張

本論文は、深層学習パイプラインにおけるデータフレームライブラリの最初の包括的なエンドツーエンドエネルギー分析を提供することで、性能ベンチマークと持続可能な機械学習の間のギャップを埋めると主張している。

• 実用的な推奨事項:
  • Polars: 並列実行とゼロコピー機能に起因し、複雑なデータ変換やニューラルネットワークを含むワークフローにおいて、中規模から大規模データセットのエネルギー効率の高い処理に推奨される。
  • Pandas: エコシステムの成熟度が優先される小規模から中規模のワークロードにおいては、依然として競争力があり、実用的である。
  • Dask: データが利用可能な RAM を実際に超える場合、または分散コンピューティングが必要である場合に適しているが、そのオーバーヘッドは小規模データセットにおいてより高いエネルギー使用量につながる可能性がある。
• 持続可能性への影響: 本研究は、GPU エネルギーはしばしばモデル自体によって支配されるが、データローダーの選択が CPU エネルギー消費とメモリ効率に大きな影響を与えることを定量化し、機械学習操作の炭素フットプリントを削減するための実行可能な示唆を提供する。

著者らは、Polars がエネルギー効率の面で有望であることを示しているが、ライブラリの選択は、データセットのサイズ、モデルの種類、およびハードウェアの制約とバランスを取る必要があると結論付けている。今後の研究として、マルチノードクラスターおよび新興のハードウェアアクセラレータにおけるこれらのライブラリの探求が提案されている。