LLT: An R package for Linear Law-based Feature Space Transformation

技術要約：線形法則に基づく特徴空間変換のためのRパッケージ「LLT」

問題提起
時系列分類（TSC）は、センサーから収集されるデータのサイズが大きく、高次元であり、かつ時間データの連続的な性質を持つため、機械学習およびデータマイニングにおける困難な課題であり続けています。既存のアプローチは、一般に特徴量ベースの手法（例：離散ウェーブレット変換、離散フーリエ変換）と距離ベースの手法（例：1-最近傍法を用いた動的時間伸縮法）に分類されますが、単変量および多変量時系列の分類を容易にするために、特徴空間を効果的に変換できるアルゴリズムが求められています。

手法
本論文では、**線形法則に基づく特徴空間変換（Linear Law-based Feature Space Transformation: LLT）**アルゴリズムと、そのRパッケージの実装を紹介します。コアとなる手法は、タイムディレイ埋め込み（time-delay embedding）とスペクトル分解を用いて、時系列内の支配的なパターンである「線形法則」を特定することに基づいています。

1. 線形法則の定義： 時系列 $z_t$ に対して、$l$ 次のタイムディレイ埋め込みにより行列 $A$ が作成されます。次に、対称行列 $S = A^\top A$ が生成されます。「線形法則」は、$Sv \approx 0$ を満たす、最小固有値に対応する固有ベクトル $v$ として定義されます。分散を最大化する主成分分析（PCA）とは異なり、このアプローチは投影されたデータの分散を最小化する成分を探索します。
2. 変換プロセス：
   • 学習（Training）： データセットを訓練セットとテストセットに分割します。訓練セット内の各入力系列（初期特徴量）について、アルゴリズムはクラスごとにグループ化された線形法則（固有ベクトル）を計算します。
   • テスト（Testing）： テストインスタンスに対して、アルゴリズムは入力系列から $S$ 行列を構築します。これに対し、訓練によって導出された法則行列（$V^j$）を左から乗算します。
   • 特徴選択（Feature Selection）： 得られた行列（$S^{te,j}V^j$）を分析します。列の分散が小さい、あるいは絶対平均が小さい場合、そのテストデータは、その法則を導出した訓練データと同じクラスに属していることを示します。各クラスおよび各入力系列に対して、分散および／または絶対平均が最小となる列ベクトル（あるいは両方のランク付けされた組み合わせ）を選択することで、次元を削減します。

主な貢献
本研究の主要な貢献は、LLTアルゴリズムの最初のソフトウェア実装であるLLT Rパッケージです。パッケージの主な特徴は以下の通りです：

• モジュール化されたアーキテクチャ： アルゴリズムは、3つの主要関数（trainTest, trainLaw, testTrans）と2つの補助関数（embed, linlaw）に分解されています。このモジュール化により、さらなるアルゴリズム開発が容易になります。
• 効率性： 計算需要を低く抑えるため、パッケージは外部のコミュニティライブラリを使用せず、Rの組み込み関数のみに依存しています。
• 柔軟性と使いやすさ： パッケージはユーザーフレンドリーに設計されており、必須のパラメータ（パス、テスト比率、次元、ラグ、選択基準など）のみを必要とし、単変量および多変量データの両方をサポートしています。
• 公開性： パッケージ（v0.1.0）および必要なディレクトリ構造を持つサンプルデータセットは、GNU General Public License v3.0の下でGitHub上で公開されています。

結果
本論文では、季節クラス（「Warm」および「Cold」）に分類されたPowerConsデータセット（EDFによる家庭用電力消費データ）を用いてパッケージの検証を行っています。

• 実験設定： 著者らは、テスト比率0.1、次元（$dim$）5として300回の変換を実施しました。
• パフォーマンス： 単純な分類ルール（変換された特徴量の絶対平均がより小さいクラスを選択する）を用いた結果、本手法は平均精度87.204%（標準偏差5.536%）を達成しました。
• 比較の文脈： 著者らは、LLTをk-最近傍法（KNN）と組み合わせることで、他の研究（Kurbucz et al., 2022a）において、低計算量で正確な結果が得られることが既に示されていると述べています。さらに、マルチセンサデータ融合（AReM）データセットに基づく活動認識システムに関する先行研究では、LLTが特徴空間変換後に従来の分類器の精度を大幅に向上させ、最先端の手法を凌駕したことが示されています。

意義と主張
本論文は、LLTパッケージを、時系列データを分類しやすくするために特徴セットの構造を変換する実用的なツールとして位置付けています。著者らは、このアルゴリズムが既存の手法に対する低計算量の代替案を提供することを強調しています。本研究の意義は、計算ステップを分離することで、線形法則に基づく学習アルゴリズムの開発を可能にする、柔軟で使いやすく効率的な実装を提供した点にあります。著者らは控えめなトーンを維持しており、本パッケージをすべてのTSC問題に対する普遍的な解決策と主張するのではなく、LLTアルゴリズムの適用を促進するための基礎的な実装として提示しています。