From ARIMA to Attention: Power Load Forecasting Using Temporal Deep Learning
本論文は、PJM の電力消費データを用いた短期負荷予測の比較検討を通じて、ARIMA、LSTM、BiLSTM、Transformer 各モデルの性能を評価し、自己注意機構に基づく Transformer モデルが MAPE 3.8% の最高精度と堅牢性を示したことを報告しています。
10074 件の論文
本論文は、PJM の電力消費データを用いた短期負荷予測の比較検討を通じて、ARIMA、LSTM、BiLSTM、Transformer 各モデルの性能を評価し、自己注意機構に基づく Transformer モデルが MAPE 3.8% の最高精度と堅牢性を示したことを報告しています。
この論文は、生成モデルの人間嗜好やタスク目標への整合を可能にする「Flow-GRPO」の手法論的進歩と、画像・動画・音声・3D など多様な生成タスクへの応用展開を包括的にレビューし、その将来の課題を概説する調査論文である。
この論文は、知識空間理論を位置情報推薦に応用し、訪問地点間の前提依存関係を格子論的に定式化した「探索空間理論(EST)」を提案し、その数学的構造に基づいて構造的妥当性が保証された推薦システム(ESRS)を構築することを目的としています。
本論文は、センサー誤差や非定期的な点検により生じる舗装状態データの欠損を、隣接区間の特性と観測区間間の依存関係の両方を学習する集団学習ベースのグラフ畳み込みネットワークを用いて高精度に補完する手法を提案し、テキサス州交通省のデータを用いた実証実験でその有効性を示したものである。
この論文は、MoE(Mixture-of-Experts)モデルの構造最適化と重みの更新を分離する「Grouter」という事前ルーティング手法を提案し、高品質な構造を固定ルーターとして活用することで、トレーニングの収束速度と品質を大幅に向上させ、スケーラブルな MoE 訓練のパラダイムを確立したことを示しています。
本論文は、オンライン生鮮食品ショッピングにおける反復的な購入パターンや複雑なアイテム関係といった課題に対処するため、動的シーケンス分割、適応的ポジショナルエンコーディング、カテゴリレベルモデリングという 3 つの革新を導入し、BERT4Rec などの既存手法よりも優れた次回の買い物かご予測を実現するトランスフォーマーベースのモデル「T-REX」を提案するものである。
この論文は、時間的漏洩を防止する因果的なグラフ特徴量抽出プロトコルを提案し、Elliptic データセットを用いた時系列取引ネットワークにおける詐欺検出において、トランザクション属性を補完する解釈可能な構造的指標の有用性と実用性を検証したものです。
機械学習における多項式近似の課題は、ヘヴィサイド関数やシグモイド関数の展開に起因する特異な「不確定性原理」(極小値が鋭いほど谷が滑らかになる性質)によって説明され、これは物理学の観点から従来のフーリエ解析における不確定性原理を拡張する新たな概念である。
本論文は、小規模言語モデルにおけるグラフ特性推論の精度が、モデルの規模だけでなく、近隣構造を保持する入力表現や多分岐推論戦略といった表現方法と推論設計に強く依存することを示しています。
この論文は、スマートホームにおける異常なデバイス状態や行動文脈を検知・対応する能力を評価するための初のデータセット「SmartBench」を提案し、13 の主要な大規模言語モデル(LLM)のテスト結果から、現状の最先端モデルでも異常検知の精度が十分でなく、次世代のスマートホームアシスタントの実用化にはまだ課題が多いことを明らかにしています。
この論文は、大規模言語モデル(LLM)の健康時系列データに対する推論能力を包括的に評価し、その限界を明らかにするための新しいベンチマーク「HEARTS」を提案するものです。
本論文は、誤差逆伝播を用いずに、学習済みのリザーバの動的応答とヘッビアン学習に基づく自己組織化プロトタイプ読み出しを組み合わせた「RECAP」という画像分類手法を提案し、汚染データに曝されなくても MNIST-C における多様なノイズに対して高い頑健性を示すことを実証しています。
本論文は、拡散モデルから不要な概念を削除する剪定ベースの学習忘却手法において、剪定された重みの位置が側面チャネルとして機能し、追加データや再学習なしで削除された概念を完全に復元できる脆弱性があることを発見し、より安全な剪定メカニズムの必要性を提唱しています。
この論文は、テスト時トレーニング(TTT)モデルが持つ文脈圧縮による「針の干し草」タスクでの失敗を解決するため、驚異的なトークンのみを従来の注意機構に動的にルーティングする「SR-TTT」という新しいアーキテクチャを提案し、O(1) メモリ効率を維持しながら完全な文脈記憶を実現することを示しています。
この論文は、量子深層学習(QDL)の定義と分類を確立し、理論からハードウェア実装、応用分野、そして古典的アルゴリズムとの公平な比較までを包括的にレビューするとともに、将来の拡張可能な実装に向けたロードマップを提示する包括的な総説である。
本論文は、分散医療センシング環境における信頼性の低いまたは敵対的な参加者の影響を軽減し、骨治癒段階の解釈精度と訓練の安定性を向上させるために、適応型信頼スコア管理メカニズムを組み込んだ信頼性感知連合学習フレームワークを提案するものである。
本論文は、物理シミュレーションモデルの計算時間を短縮しつつ精度を維持するために、時間系列生成敵対的ネットワーク(TimeGAN)を用いて観測地点を超えた地域におけるハリケーンによる高潮のバイアス補正を行う新しい手法「HURRI-GAN」を提案し、その有効性を示したものです。
本論文は、目的関数によって誘起される多様体の幾何構造を n 次元球で局所的に近似し、学習率を不要とする測地線勾配降下法(GGD)を提案し、全結合ネットワークおよび畳み込みニューラルネットワークにおいて Adam などの既存手法を上回る性能向上を実証しています。
この論文は、VAE による次元削減と GAT を用いた IoT ボットネット検出において、グラフ構築手法(kNN、MNN、SNN、ガブリエルグラフ、ε-半径グラフ)の選択が分類性能に大きな影響を与えることを示し、ガブリエルグラフを用いた場合に 97.56% の最高精度を達成したことを報告しています。
本論文は、現代の AI アプリケーションが求める高効率な検索、高速インデックス作成、低メモリ使用量などの 6 つの要件をすべて満たすため、投影技術とグラフインデックスを統合した新しい近似最近傍検索フレームワーク「PAG」を提案し、HNSW より最大 5 倍高速な検索性能を実現することを示しています。