🤖 AI

KAN vs LSTM Performance in Time Series Forecasting

本研究は、ベースラインのKolmogorov-Arnold Networks (KAN) は学習中の収束速度において勝る一方で、確率的かつ非定常な金融時系列データにおいてはLong Short-Term Memory (LSTM) ネットワークがそれらを大幅に上回る予測精度を示すことを実証しており、精度が極めて重要な予測タスクにおいてLSTMがより優れた選択肢であることを確立している。

原著者： Tabish Ali Rather, S M Mahmudul Hasan Joy, Nadezda Sukhorukova, Federico Frascoli

公開日 2026-07-07

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Tabish Ali Rather, S M Mahmudul Hasan Joy, Nadezda Sukhorukova, Federico Frascoli

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

全体像：2人の予測者によるレース

あなたは、数日間の天気を予測しようとしています。しかし、天気は混沌としており、絶えず変化し、その場しのぎの判断を下し、単純なルールに従うこともありません。あなたには、予測を助けてくれる2種類の異なる「予報士」（コンピュータモデル）がいます。

ベテランの探偵 (LSTM): このモデルは長い歴史を持っています。物語（一連の出来事のシーケンス）を読み解くことに長けており、「昨日何が起きたか」を記憶することで「明日何が起きるか」を推測する能力に定評があります。
新しい理論的天才 (KAN): これは、高度な数学的定理に基づいた全く新しいモデルです。このモデルは非常に「透明」であること、つまり、どのように意思決定を下しているのかを容易に可視化できることを約束しています。しかし、もともとは動的な物語ではなく、静的なパズルを解くために設計されたものです。

この論文の著者たちは、これら2つのモデルを対決させ、どちらが株価（乱雑で、ランダムで、絶えず変化するもの）の予測に適しているかを検証しました。

設定：どのようにゲームが行われたか

研究者たちは、特定のチャレンジを用意しました。

タスク: 過去のデータ（始値、高値、安値、終値、出来高）に基づいて、将来の株価を予測すること。
ルール: 彼らは「ダイレクト・マルチアウトプット（直接多出力）」法を用いました。これは、例えばモデルに対して、「これが過去20日間のデータです。これをもとに、次の1日後、2日後、あるいは100日後の価格を、一度に正確に教えてください」と頼むようなものです。
スコアカード: 成功度は RMSE（平方根平均二乗誤差）を用いて測定しました。これは「間違いのスコア」と考えてください。数値が低いほど、モデルの精度が高いことを意味します。

結果：ベテランの圧倒的な勝利

結果は、すべてのタイムフレーム（1日、2日、100日）において明確かつ一貫していました。

ベテラン (LSTM) が明確な勝者でした。 LSTMは、非常に高い精度で株価を予測しました。実際、その間違い（誤差）は、新天才（KAN）の誤差よりも 6.5倍から10倍小さかったのです。
新しい天才 (KAN) は苦戦しました。 理論的には興味深い存在でしたが、膨大なエラーを出しました。それはまるで、動いているパズルを無理やり静止させて解こうとしているかのようでした。時間の流れについていくことができなかったのです。

比喩:
ランナーが10秒後にどこにいるかを予測しようとしている場面を想像してください。

LSTM はランナーを観察し、その速度、歩幅、そして勢いを見て、将来の経路を計算します。
標準的な KAN は、ランナーの写真を撮り、その写真を（ステップの順序を無視して）単一の数字のリストへと平坦化し、未来を予測しようとします。それは、映画の中盤からランダムに抜き出した写真の山を見て、映画の結末を予測しようとするようなものです。シーケンス（連続性）を扱うには、それでは不十分なのです。

「スピード」の罠：どちらが速かったのか？

「もし KAN があんなにダメだったのなら、少なくともスピードだけは超高速だったのではないか？」と思うかもしれません。

論文によれば: はい、KAN の方がトレーニングを早く終えました（LSTM の最大120秒に対し、約35秒）。
落とし穴: しかし、これは公平な比較ではありません。これは、100メートルを全力疾走したスプリンターと、わずか10メートルしか走らなかったジョギング中のマラソンランナーを比較しているようなものです。
- LSTM は、小さなバッチ（データの塊）を使用して、25「ラウンド」（エポック）のトレーニングを行いました。
- KAN は、データセット全体を一度に使い、わずか10「ラウンド」しか行いませんでした。
- KAN は作業量を大幅に減らしたため、早く終わりましたが、深く学習する機会を失っていたのです。論文では、彼らが同じ量のトレーニングを行っていないため、KAN が「速い」と結論づけることは適切ではないと警告しています。

なぜ KAN は失敗したのか？（核心的な問題）

この論文は、標準的な KAN モデルの使用方法における根本的な構造的欠陥を指摘しています。

LSTM は、時間を理解するように構築されています。それは出来事の順序（ステップ1の次にステップ2が起きたこと）を記憶します。
標準的な KAN（ここでテストされたバージョン）は、時間を静的なものとして扱います。データを入力するために、研究者たちは時間のシーケンスを一つの長い数字のリストへと「平坦化（フラット化）」しなければなりませんでした。これにより、タイムラインが破壊されてしまったのです。モデルは「いつ」その出来事が起きたのかという文脈（コンテキスト）を失いました。そして、その文脈こそが未来を予測する上で最も重要な要素なのです。

実務家へのアドバイス

精度が必要な場合: LSTM を使い続けてください。これは、金融予測において信頼できる、実績のある選択肢です。
「新しいもの（KAN）」を使いたい場合: 株価予測に標準的なバージョンを使用しないでください。まだこの仕事に対応できる段階ではありません。
注意点: 論文では、この時間追跡の問題を解決しようとする、より新しい改良版の KAN（「Temporal KAN」や「Time-Frequency KAN」など）が存在することが明記されています。しかし、今回の研究ではそれらはテストされていません。あくまで「ベースとなる」バージョンのみをテストしたものです。

一文でのまとめ

混沌とした株価の予測において、古き良き、時間を意識できる LSTM モデルは、新しい理論的に透明な KAN モデルを圧倒しました。なぜなら、標準的な KAN は時間の流れを理解できず、一連の出来事のシーケンスを、意味を持たない数字の山に変えてしまったからです。

技術要約：時系列予測におけるKolmogorov-Arnold NetworkとLong Short-Term Memoryの性能比較

問題提起
金融市場は、複雑な非線形依存関係を持つ、確率的かつ非定常なプロセスによって特徴付けられます。Long Short-Term Memory（LSTM）ネットワークは、このような逐次的データのモデリングにおいて標準となっていますが、その「ブラックボックス」的な性質は、高リスクの意思決定における解釈可能性を制限しています。Kolmogorov-Arnold表現定理に基づいたKolmogorov-Arnold Networks（KAN）は、固定された活性化関数の代わりに学習可能なスプライン関数を用いることで、理論的に解釈可能な代替案を提供します。しかし、文献には大きな空白が存在します。すなわち、ベースライン KAN（PyKANライブラリによる実装）と、確立されたLSTMアーキテクチャとの間の制御された実証的比較が行われていないことです。先行研究では、多くの場合、KANを多層パーセプトロン（MLP）と比較したり、特殊な時間的バリアント（例：TKAN、TFKAN）を評価したりしていますが、標準的なKANの定式化自体の性能を単独で検証してはいません。本研究は、標準的なKANのアーキテクチャが、時間的修正なしに逐次的予測が可能かどうかを判断するために、ベースラインKANをベースラインLSTMと比較するというベンチマークを行うことで、この空白に対処します。

手法
本研究は、yfinance APIを通じて取得した歴史的な株価データ（始値、高値、安値、終値、出来高）を用いた、制御された実験デザインを採用しています。

データ前処理: 特徴量は、分割前にデータセット全体に適合させたMin-Maxスケーリングを用いて範囲 $[0, 1]$ にスケールされました。直接的なマルチアウトプット予測プロトコルが使用されました。すなわち、ルックバック・ウィンドウ $L$ が与えられたとき、モデルは $H$ 個の将来のタイムステップを同時に予測します。テストされた予測ホライゾンは、1日、2日、および100日です。
モデル・アーキテクチャ:
- LSTM: TensorFlow/Kerasを用いて実装され、スタックされた単方向レイヤー、ドロップアウト正則化、およびRMSprop最適化を備えています。入力は3Dテンソル $(batch, L, features)$ として扱われ、時間的順序を保持しています。
- KAN: PyKAN（PyTorch）を用いて実装されました。決定的な点として、標準的なKANは2D入力しか受け付けないため、逐次的入力は長さ $L \times |F|$ の1Dベクトルへと**フラット化（平坦化）**され、これにより時間的順序が事実上破棄されました。最適化には、B-スプライン活性化関数を用いたLBFGS（フルバッチ、二次の最適化）が使用されました。
評価指標: パフォーマンスは、正規化された特徴空間で計算された平方根平均二乗誤差（RMSE）を用いて測定されました。
実験的な非対称性: 著者らは、プロトコルにおけるいくつかの非対称性を明示的に述べています。LSTMはミニバッチによる確率的最適化（25エポック）を使用しましたが、KANはフルバッチの二次の最適化（10 LBFGSステップ）を使用しました。また、KANではランダムシードが固定されましたが、LSTMでは固定されませんでした。これらの要因は、性能の差をアーキテクチャの容量のみに帰属させることを妨げる混同変数として認識されています。

主要な結果
本研究では、テストされたすべての予測ホライゾンおよび市場条件（通常、変動、トレンド）において、ベースラインLSTMがベースラインKANを大幅に上回ることが示されました。

予測精度: LSTMは、KANよりも6.5倍から10.0倍低いRMSE値を達成しました。
- 1日のホライゾンにおいて、最良のLSTM構成はテストRMSE 0.039を達成したのに対し、最良のKAN構成は0.152でした。
- 100日のホライゾンにおいても、LSTMは6.5倍から7.2倍の優位性を維持しました。
- 200日のホライゾンでは、LSTMの構成制限により、KANのみがテストされました（RMSEは0.645–0.670と高値）。ただし、著者らは、単純なベースライン（例：パーシスタンス）の欠如により、これが些細な戦略に対して意味のある改善であるかは不明であると注記しています。
学習効率: KANの方が高速に学習を完了しました（平均35.12秒）、LSTM（11–120秒）と比較して。しかし、著者らは、これはアーキテクチャの効率に関する公平な比較ではないと警告しています。なぜなら、KANはLSTM（25エポックのミニバッチ更新）と比較して、パラメータ更新の回数が大幅に少なかったためです。
アーキテクチャの洞察: パフォーマンスの差の主な要因は、入力表現にあると特定されました。LSTMは再帰的なゲーティングを通じて時間的構造を保持しますが、標準的なKANはシーケンスをフラット化するため、時系列予測に不可欠な逐次的依存関係を失わせます。より単純なLSTM構成（2レイヤー、10ユニット）は、より深い構成よりも優れた性能を示し、これは深層RNNにおける勾配消失問題と一致しています。

主要な貢献

実証的ベースライン: 本研究は、確率的な金融データに対する標準的なKAN（PyKAN）に対する標準的なLSTMの、最初の制御された実証的ベースラインを確立しました。
限界の特定: 標準的なKANは、入力のフラット化に伴う時間的構造の喪失により、逐次的予測タスクにおいて競争力を持たないことを実証しました。
制約に関する透明性: 本論文は、最適化の非対称性、LSTMにおける固定ランダムシードの欠如、およびグローバル・スケーリングによるデータリークを含む方法論的な限界を詳細に記述しており、性能差の大きさを適切な注意を持って解釈することを保証しています。

意義と主張
著者らは、ベースラインの標準的な形式におけるKANは、精度が重視される金融予測において、確立されたLSTMに対して競争力がないと控えめに結論付けています。本研究は、KANが役に立たないと主張しているのではなく、むしろ、現在の標準的な実装におけるKANの理論的な解釈可能性は、予測精度において深刻なコストを伴うということを提示しています。

本研究の意義は以下の通りです：

時間的バリアントの必要性の検証: 結果は、逐次的処理を復元するために設計された特殊なKANバリアント（TKAN、TFKAN）の存在を支持しており、これらの修正が競争力のある性能を得るためにはオプションではなく必須であることを示唆しています。
実務家へのガイダンス: 高い精度を必要とするアプリケーションにおいては、LSTMが引き続き推奨される選択肢となります。金融アプリケーションにおけるKANの解釈可能性に関心がある実務家は、ベースラインのPyKAN実装ではなく、時間的バリアントを利用することが推奨されます。
今後の研究方向: 本論文は、計算予算を一致させ、ナイーブなベースライン（パーシスタンス、ARIMA）を含め、アーキテクチャの修正が精度の差を埋めることができるかどうかを判断するために、特殊なKANバリアントを評価する今後の研究を呼びかけています。また、KANに固有の非平滑・非凸な最適化の課題に対処するための、効率的なフリーノット多項式スプライン近似に関するさらなる数学的研究の必要性も強調しています。