A Hamiltonian driven Geometric Construction of Neural Networks via the Lognormal family, Application to Financial Fraud Detection and to Network Security

技術要約：対数正規族によるハミルトニアン駆動型のニューラルネットワークの幾何学的構成

問題提起
従来の人工ニューラルネットワーク（ANN）は、通常、ユークリッド空間内で構築されており、この制限により、統計多様体に存在する構造化されたデータの固有の複雑さを捉える能力が制限されている。アマリによって開拓された情報幾何学は、シナプスパラメータに対するリーマン構造の有用性を確立してきたが、特定の統計多様体、特に対数正規多様体上でニューラルネットワーク・アーキテクチャを明示的に構築した研究はほとんどない。対数正規分布は金融、生物学、信号処理において普遍的であるが、そのパラメータ空間をニューラルコンポーネント（入力、重み、活性化関数）を導出するために体系的に利用した例はない。本論文は、対数正規統計多様体をいかにしてニューラル多様体として構造化し、ハミルトン幾何学とリー群形式を用いてそのコンポーネントを導出するかという問いに取り組むものである。

手法
著者らは、ハミルトニアンおよび幾何学的構造を利用することで、対数正規統計多様体上にニューラルネットワークを本質的に構築するための体系的な手法を提案している。その手法は以下のステップで進行する。

1. 統計的定式化： 対数正規分布は指数型分布族として扱われる。自然パラメータ $\theta = (\theta_1, \theta_2)$ は、ログデータの平均（$\mu$）および標準偏差（$\sigma$）から導出される。
2. ハミルトニアン力学： 対数正規多様体上の勾配流は、ハミルトン系と等価であることが示される。自然パラメータに基づく位相空間座標 $P$ および $Q$ を定義することにより、システムはポアンカレ・ディスク（$D$）、すなわち双曲幾何学のモデルへと写像される。
3. リー群の作用： システムのダイナミクスは、ポアンカレ・ディスクに対するリー群 $SU(1, 1)$ の作用によって記述される。この群の作用は、位相空間におけるシステムの進化を表す。
4. ニューラルコンポーネントの導出：
   • 入力： 入力ベクトルは、ハミルトニアン変数から導出されたポアンカレ・ディスクの座標によって定義される。
   • 重み行列： シナプス重み行列は、$SU(1, 1)$の作用の回転成分（回転行列$\Omega \in SO(2)$で表される）と平行移動ベクトル$\vec{t}$から構成される。この行列は特殊ユークリッド群$SE(2)$ に属する。
   • 活性化関数： 活性化関数は、角度変数 $\beta$ の指数関数および三角関数を含む群準同型として、システムのシンプレクティック構造から出現する。
5. アーキテクチャ： 得られるアーキテクチャは、バイアスを持つ完全結合単層ネットワークであり、その線形結合と非線形性は、単純な代数的抽象化ではなく、基礎となる幾何学に根ざしている。

主要な貢献

• 幾何学的構成： 本論文は、ユークリッド近似を超え、対数正規統計多様体から直接ニューラルネットワーク・アーキテクチャを厳密に導出する手法を提供している。
• ハミルトニアン駆動型のダイナミクス： 対数正規多様体上の勾配系は可積分であり、位相空間における閉じた楕円軌道を持つハミルトン系と等価であることを示している。これらはポアンカレ・ディスク上にコンパクト化される。
• 明示的なコンポーネント定義： 著者らは、リー群 $SU(1, 1)$ とシンプレクティック構造に基づき、入力関数、重み行列（回転と平行移動を含む）、および活性化関数を明示的に定義している。
• 理論的枠組み： 本研究は、情報幾何学、リー群論、および機械学習の間に架け橋を築き、情報処理システムがいかにして非ユークリッド空間上に「自然化」され得るかを示している。

結果と応用
著者らは、異常検知を実証するために、10日間のデータセットを用いた2つの具体的な適用シナリオを通じて、提案されたフレームワークを検証している。

1. 金融不正検知：

   • 背景： 対数正規分布に従う取引額が監視される。
   • メカニズム： 不正行為は、ベースラインとなる統計分布（$\mu, \sigma$）を変化させる。システムはこれらのパラメータをポアンカレ・ディスクへと写像する。
   • 結果： ケーススタディにおいて、高いボラティリティを伴う不正な日（6日目）は、統計的特性の劇的な変化を引き起こした。ポアンカレ・ディスクの双曲特徴空間において、これは顕著な「測地線加速度」をもたらし、ユークリッド距離指標よりもはるかに明確に、不正な状態を通常の運用エンベロープから分離させた。

2. ネットワークセキュリティ（DDoS侵入検知）：

   • 背景： 正の値かつ歪みを持つネットワークパケットレートを、対数正規分布としてモデル化する。
   • メカニズム： DDoS攻撃は、平均パケットレートとボラティリティを劇的に増大させる。
   • 結果： 幾何学的変換パイプラインによれば、通常のトラフィックルーチン中、座標は内部多様体エンベロープの極左セグメント（$x_D \approx -0.499$）に高度に安定したクラスターを形成する。DDoS攻撃が発生すると、分布パラメータの巨大なシフトにより、垂直境界軸に向かって「爆発的かつほぼ直交に近い跳躍」が生じ、$x_D$ は $-0.4996$から$-0.0062$へと移動し、$y_D$は$0.4999$ まで上昇する。このシフトは、ラオ・フィッシャー距離の膨大な変化を反映しており、従来の閾値ベースのシステムを回避する可能性のある適応型攻撃プロファイルに対しても堅牢な、即時的な幾何学的アラートを提供する。

意義と主張
本論文は、対数正規族に基づくニューラル情報処理システムがポアンカレ・ディスク上の力学系としてモデル化できることを示すことで、幾何学的機械学習への新しい視点を提示すると主張している。その意義は、ネットワークの基本操作（線形結合、非線形性）が恣意的な代数的選択ではなく、データのパラメータ空間の幾何学から本質的に導出されている点にある。

著者らは、このアプローチにより、データが対数正規分布に従う場合に自然に適応したアーキテクチャを設計できると断言している。ハミルトニアン形式と $SU(1, 1)$ の作用を利用することで、本モデルは、ディスク全体に対してグローバルにではなく、孤立した情報軌跡（オービット）内において、前方伝播中の統計的同一性を保持する。これは、データが対数正規分布に従うシステムにおいて、異常を検知するための計算負荷の低い幾何学的手法を提供する。本研究は、特定の統計多様体上でニューラルネットワークを明示的に構成するために、情報幾何学を適用するための基礎的な一歩として提示されている。