A Hamiltonian driven Geometric Construction of Neural Networks via the Lognormal family, Application to Financial Fraud Detection and to Network Security

Résumé Technique : Une Construction Géométrique de Réseaux de Neurones Pilotée par un Hamiltonien via la Famille Lognormale

Énoncé du Problème
Les réseaux de neurones artificiels (ANN) traditionnels sont généralement construits au sein d'espaces euclidiens, une limitation qui restreint leur capacité à capturer la complexité intrinsèque des données structurées résidant sur des variétés statistiques. Bien que la géométrie de l'information, initiée par Amari, ait établi l'utilité des structures riemanniennes pour les paramètres synaptiques, peu d'études ont explicitement construit des architectures de réseaux de neurones sur des variétés statistiques spécifiques, particulièrement la variété lognormale. La distribution lognormale est omniprésente en finance, en biologie et dans le traitement du signal, pourtant son espace de paramètres n'a pas été systématiquement utilisé pour dériver des composants neuronaux (entrées, poids, fonctions d'activation) à partir de principes géométriques fondamentaux. Le document répond à la question suivante : comment structurer une variété statistique lognormale en tant que variété neurale et déduire ses composants en utilisant la géométrie hamiltonienne et le formalisme des groupes de Lie.

Méthodologie
Les auteurs proposent une méthode systématique pour construire un réseau de neurones intrinsèquement sur la variété statistique lognormale en exploitant sa structure hamiltonienne et géométrique. La méthodologie procède selon les étapes suivantes :

1. Formulation Statistique : La distribution lognormale est traitée comme une famille exponentielle. Les paramètres naturels $\theta = (\theta_1, \theta_2)$ sont dérivés de la moyenne ($\mu$) et de l'écart type ($\sigma$) des données logarithmiques.
2. Dynamique Hamiltonienne : Le flot de gradient sur la variété lognormale est montré comme étant équivalent à un système hamiltonien. En définissant des coordonnées d'espace de phase $P$ et $Q$ basées sur les paramètres naturels, le système est projeté sur le disque de Poincaré ($D$), un modèle de géométrie hyperbolique.
3. Action du Groupe de Lie : La dynamique du système est décrite par l'action du groupe de Lie $SU(1, 1)$ sur le disque de Poincaré. L'action du groupe représente l'évolution du système dans l'espace de phase.
4. Dérivation des Composants Neuronaux :
   • Entrée : Le vecteur d'entrée est défini par les coordonnées du disque de Poincaré, dérivées des variables hamiltoniennes.
   • Matrice de Poids : La matrice de poids synaptiques est construite à partir de la composante de rotation de l'action $SU(1, 1)$ (représentée par une matrice de rotation $\Omega \in SO(2)$) et d'un vecteur de translation $\vec{t}$. Cette matrice appartient au groupe euclidien spécial $SE(2)$.
   • Fonction d'Activation : La fonction d'activation émerge de la structure symplectique du système, définie comme un morphisme de groupe impliquant des fonctions exponentielles et trigonométriques de la variable angulaire $\beta$.
5. Architecture : L'architecture résultante est un réseau à couche unique entièrement connecté avec un biais, où la combinaison linéaire et la non-linéarité sont ancrées dans la géométrie sous-jacente des données plutôt que dans de simples abstractions algébriques.

Contributions Clés

• Construction Géométrique : Le document fournit une dérivation rigoureuse d'une architecture de réseau de neurones directement à partir de la variété statistique lognormale, allant au-delà des approximations euclidiennes.
• Dynamique Pilotée par un Hamiltonien : Il démontre que le système de gradient sur la variété lognormale est intégrable et équivalent à un système hamiltonien avec des trajectoires elliptiques fermées dans l'espace de phase, lesquelles sont compactées sur le disque de Poincaré.
• Définition Explicite des Composants : Les auteurs définissent explicitement les fonctions d'entrée, la matrice de poids (incorporant la rotation et la translation) et la fonction d'activation basées sur le groupe de Lie $SU(1, 1)$ et la structure symplectique.
• Cadre Théorique : Ce travail établit un pont entre la géométrie de l'information, la théorie des groupes de Lie et l'apprentissage automatique, montrant comment les systèmes de traitement de l'information peuvent être "naturalisés" sur des espaces non euclidiens.

Résultats et Applications
Le document valide le cadre proposé à travers deux scénarios d'application spécifiques, utilisant des jeux de données de 10 jours pour démontrer la détection d'anomalies :

1. Détection de Fraude Financière :

   • Contexte : Les montants des transactions, qui suivent une distribution lognormale, sont surveillés.
   • Mécanisme : Une activité frauduleuse altère la distribution statistique de base ($\mu, \sigma$). Le système projette ces paramètres sur le disque de Poincaré.
   • Résultat : Dans le cas d'étude, une journée frauduleuse (Jour 6) présentant une forte volatilité a provoqué un changement radical des propriétés statistiques. Dans l'espace de caractéristiques hyperbolique du disque de Poincaré, cela s'est traduit par une "accélération géodésique" significative, séparant l'état frauduleux de l'enveloppe opérationnelle normale bien plus distinctement que ne le feraient des métriques de distance euclidiennes.

2. Sécurité Réseau (Détection d'Intrusion DDoS) :

   • Contexte : Les taux de paquets réseau, qui sont positifs et asymétriques, sont modélisés comme lognormaux.
   • Mécanisme : Une attaque DDoS augmente drastiquement la moyenne du taux de paquets et la volatilité.
   • Résultat : Le pipeline de transformation géométrique a montré que lors des routines de trafic normal, les coordonnées forment un groupe très stable sur le segment extrême gauche de l'enveloppe de la variété interne ($x_D \approx -0,499$). Lorsqu'une attaque DDoS se déclenche, le changement massif dans les paramètres de distribution provoque un "saut explosif, presque orthogonal" vers l'axe de la frontière verticale, forçant $x_D$ à voyager de $-0,4996$à$-0,0062$ et $y_D$ à grimper à $0,4999$. Ce décalage reflète une variation massive de la distance de Rao-Fisher, fournissant une alerte géométrique immédiate qui est robuste face aux profils d'attaque adaptatifs qui pourraient échapper aux systèmes traditionnels basés sur des seuils.

Signification et Revendications
Le document revendique d'offrir une nouvelle perspective pour l'apprentissage automatique géométrique en démontrant que les systèmes de traitement de l'information neuronale basés sur la famille lognormale peuvent être modélisés comme des systèmes dynamiques sur le disque de Poincaré. La signification réside dans le fait que les opérations fondamentales du réseau (combinaison linéaire, non-linéarité) ne sont pas des choix algébriques arbitraires mais sont intrinsèquement dérivées de la géométrie de l'espace des paramètres des données.

Les auteurs affirment que cette approche permet de concevoir des architectures naturellement adaptées aux données suivant des distributions lognormales, où l'espace des paramètres est intrinsèquement une variété. En utilisant le formalisme hamiltonien et l'action de $SU(1, 1)$, le modèle préserve l'identité statistique pendant la propagation directe au sein d'orbites (trajectoires d'information) isolées, plutôt que globalement sur l'ensemble du disque. Cela offre une méthode géométrique de faible coût computationnel pour détecter des anomalies dans des systèmes où les données suivent naturellement une distribution lognormale. Ce travail est présenté comme une étape fondamentale dans l'application de la géométrie de l'information à la construction explicite de réseaux de neurones sur des variétés statistiques spécifiques.