A Hamiltonian driven Geometric Construction of Neural Networks via the Lognormal family, Application to Financial Fraud Detection and to Network Security

Sintesi Tecnica: Una Costruzione Geometrica di Reti Neurali Guidata da un Hamiltoniano tramite la Famiglia Lognormale

Enunciato del Problema
Le reti neurali artificiali (ANN) tradizionali sono tipicamente costruite all'interno di spazi euclidei, una limitazione che restringe la loro capacità di catturare la complessità intrinseca di dati strutturati che risiedono su varietà statistiche. Sebbene l'informazione geometrica, pionieristica di Amari, abbia stabilito l'utilità delle strutture riemanniane per i parametri sinaptici, pochi studi hanno esplicitamente costruito architetture di reti neurali su specifiche varietà statistiche, in particolare la varietà lognormale. La distribuzione lognormale è ubiquitaria nella finanza, nella biologia e nell'elaborazione dei segnali, eppure il suo spazio dei parametri non è stato sistematicamente utilizzato per derivare componenti neurali (input, pesi, funzioni di attivazione) partendo da principi geometrici primi. Il documento affronta la questione di come strutturare una varietà statistica lognormale come una varietà neurale e come dedurre le sue componenti utilizzando la geometria hamiltoniana e il formalismo dei gruppi di Lie.

Metodologia
Gli autori propongono un metodo sistematico per costruire una rete neurale intrinsecamente sulla varietà statistica lognormale, sfruttando la sua struttura hamiltoniana e geometrica. La metodologia procede attraverso i seguenti passaggi:

1. Formulazione Statistica: La distribuzione lognormale è trattata come una famiglia esponenziale. I parametri naturali $\theta = (\theta_1, \theta_2)$ sono derivati dalla media ($\mu$) e dalla deviazione standard ($\sigma$) dei dati logaritmici.
2. Dinamica Hamiltoniana: Si dimostra che il flusso del gradiente sulla varietà lognormale è equivalente a un sistema hamiltoniano. Definendo le coordinate dello spazio delle fasi $P$ e $Q$ basate sui parametri naturali, il sistema viene mappato sul disco di Poincaré ($D$), un modello di geometria iperbolica.
3. Azione del Gruppo di Lie: La dinamica del sistema è descritta dall'azione del gruppo di Lie $SU(1, 1)$ sul disco di Poincaré. L'azione del gruppo rappresenta l'evoluzione del sistema nello spazio delle fasi.
4. Derivazione delle Componenti Neurali:
   • Input: Il vettore di input è definito dalle coordinate del disco di Poincaré, derivate dalle variabili hamiltoniane.
   • Matrice dei Pesi: La matrice dei pesi sinaptici è costruita dalla componente di rotazione dell'azione $SU(1, 1)$ (rappresentata da una matrice di rotazione $\Omega \in SO(2)$) e da un vettore di traslazione $\vec{t}$. Questa matrice appartiene al gruppo speciale euclideo $SE(2)$.
   • Funzione di Attivazione: La funzione di attivazione emerge dalla struttura simplettica del sistema, definita come un morfismo di gruppo che coinvolge funzioni esponenziali e trigonometriche della variabile angolare $\beta$.
5. Architettura: L'architettura risultante è una rete a singolo strato completamente connessa con un bias, dove la combinazione lineare e la non linearità sono radicate nella geometria sottostante dei dati piuttosto che in semplici astrazioni algebriche.

Contributi Chiave

• Costruzione Geometrica: Il documento fornisce una derivazione rigorosa di un'architettura di rete neurale direttamente dalla varietà statistica lognormale, andando oltre le approssimazioni euclidee.
• Dinamica Guidata da Hamiltoniano: Dimostra che il sistema del gradiente sulla varietà lognormale è integrabile ed equivalente a un sistema hamiltoniano con traiettorie ellittiche chiuse nello spazio delle fasi, che sono compattificate sul disco di Poincaré.
• Definizione Esplicita delle Componenti: Gli autori definiscono esplicitamente le funzioni di input, la matrice dei pesi (incorporando rotazione e traslazione) e la funzione di attivazione basandosi sul gruppo di Lie $SU(1, 1)$ e sulla struttura simplettica.
• Framework Teorico: Il lavoro stabilisce un ponte tra l'informazione geometrica, la teoria dei gruppi di Lie e l'apprendimento automatico, mostrando come i sistemi di elaborazione dell'informazione possano essere "naturalizzati" su spazi non euclidei.

Risultati e Applicazioni
Il documento valida il framework proposto attraverso due scenari di applicazione specifici, utilizzando dataset di 10 giorni per dimostrare il rilevamento di anomalie:

1. Rilevamento di Frodi Finanziarie:

   • Contesto: Gli importi delle transazioni, che seguono una distribuzione lognormale, vengono monitorati.
   • Meccanismo: L'attività fraudolenta altera la distribuzione statistica di base ($\mu, \sigma$). Il sistema mappa questi parametri sul disco di Poincaré.
   • Risultato: Nel caso di studio, un giorno fraudolento (Giorno 6) caratterizzato da un'alta volatilità ha causato uno spostamento radicale delle proprietà statistiche. Nello spazio delle caratteristiche iperbolico del disco di Poincaré, ciò ha comportato una significativa "accelerazione geodetica", separando lo stato fraudolento dall'inviluppo operativo normale in modo molto più distinto rispetto alle metriche di distanza euclidee.

2. Sicurezza di Rete (Rilevamento di Intrusione DDoS):

   • Contesto: I tassi di pacchetti di rete, che sono positivi e asimmetrici, sono modellati come lognormali.
   • Meccanismo: Un attacco DDoS aumenta drasticamente la media del tasso di pacchetti e la volatilità.
   • Risultato: La pipeline di trasformazione geometrica ha mostrato che durante le routine di traffico normale, le coordinate formano un cluster altamente stabile sul segmento estremo sinistro dell'inviluppo della varietà interna ($x_D \approx -0.499$). Quando scatta l'attacco DDoS, il massiccio spostamento nei parametri di distribuzione causa un "salto esplosivo, quasi ortogonale" verso l'asse del confine verticale, costringendo $x_D$ a viaggiare da $-0.4996$a$-0.0062$e$y_D$ a salire a $0.4999$. Questo spostamento riflette una massiccia variazione nella distanza di Rao-Fisher, fornendo un allarme geometrico immediato che è robusto contro i profili di attacco adattivi che potrebbero eludere i sistemi tradizionali basati su soglie.

Significatività e Rivendicazioni
Il documento sostiene di offrire una nuova prospettiva per l'apprendimento automatico geometrico, dimostrando che i sistemi di elaborazione dell'informazione neurale basati sulla famiglia lognormale possono essere modellati come sistemi dinamici sul disco di Poincaré. La significatività risiede nel fatto che le operazioni fondamentali della rete (combinazione lineare, non linearità) non sono scelte algebriche arbitrarie ma sono intrinsecamente derivate dalla geometria dello spazio dei parametri dei dati.

Gli autori affermano che questo approccio permette di progettare architetture naturalmente adatte per dati che seguono distribuzioni lognormali, dove lo spazio dei parametri è intrinsecamente una varietà. Utilizzando il formalismo hamiltoniano e l'azione di $SU(1, 1)$, il modello preserva l'identità statistica durante la propagazione in avanti all'interno di traiettorie informative isolate (orbite), piuttosto che globalmente su tutto il disco. Ciò offre un metodo geometrico computazionalmente leggero per il rilevamento di anomalie in sistemi dove i dati seguono naturalmente una distribuzione lognormale. Il lavoro è presentato come un passo fondamentale nell'applicazione dell'informazione geometrica alla costruzione esplicita di reti neurali su specifiche varietà statistiche.