EP-GAT: Energy-based Parallel Graph Attention Neural Network for Stock Trend Classification

Questo lavoro presenta EP-GAT, una rete neurale basata sull'energia e sull'attenzione parallela su grafi che supera i metodi esistenti nel prevedere le tendenze azionarie modellando dinamiche inter-stock evolutive e gerarchie intra-stock attraverso cinque dataset reali.

L'essenziale

Immagina di dover prevedere il meteo non solo per una città, ma per cento città diverse contemporaneamente, sapendo che il vento che soffia su Milano può cambiare il clima a Roma, e che ogni città ha la sua "personalità" interna (il traffico, le feste, il lavoro).

Fare previsioni sui titoli di borsa è esattamente questo: un caos di relazioni complesse. Il paper presenta un nuovo "super-astrologo" chiamato EP-GAT che usa la fisica e l'intelligenza artificiale per capire meglio di tutti gli altri come si muoverà il mercato.

Ecco come funziona, diviso in tre concetti chiave:

1. Il "Termometro dell'Energia" (La Fisica della Borsa)

La maggior parte dei vecchi metodi per prevedere la borsa guarda le relazioni statiche: "Se queste due aziende sono nello stesso settore (es. entrambe fanno auto), allora sono collegate". È come dire che due persone sono amiche solo perché vivono nella stessa città. Ma nella realtà, le amicizie cambiano ogni giorno!

EP-GAT fa qualcosa di più intelligente:

• L'Energia: Immagina che ogni azione (ogni titolo di borsa) abbia un livello di "energia" basato su quanto è agitata o calma nei suoi ultimi giorni.
• La Legge di Boltzmann: Questo è un concetto preso dalla fisica (come il calore che si muove tra gli oggetti). Il modello immagina che le azioni siano come molecole in una stanza. Se un'azione ha molta "energia" (è molto volatile), tende a influenzare quelle con meno energia.
• Il Risultato: Invece di disegnare una mappa fissa delle amicizie tra aziende, EP-GAT disegna una mappa che cambia ogni giorno. Se oggi l'azienda A è molto "calda" (energica) e l'azienda B è "fredda", il modello capisce che A sta probabilmente influenzando B. È come se il modello sentisse le correnti d'aria del mercato in tempo reale.

2. La "Torre di Pisa" (Le Relazioni Gerarchiche)

C'è un altro problema: quando i computer studiano i dati, spesso perdono i dettagli importanti man mano che si spingono in profondità. È come guardare un quadro da molto lontano: vedi i colori, ma perdi i dettagli del viso.

In borsa, ogni azione ha una sua storia interna (i suoi movimenti a breve, medio e lungo termine). I vecchi modelli tendevano a mescolare tutto in un'unica zuppa, perdendo la struttura.

EP-GAT usa un meccanismo chiamato "Attenzione Grafica Parallela".

• L'Analogia: Immagina di avere una squadra di esperti che analizzano un'azione.
  • L'esperto 1 guarda cosa è successo 5 minuti fa.
  • L'esperto 2 guarda cosa è successo 5 giorni fa.
  • L'esperto 3 guarda l'andamento di un mese.
• Invece di farli parlare tra loro e confondersi (come facevano i vecchi modelli), EP-GAT fa sì che ogni esperto tenga il proprio quaderno aperto e poi unisca i risultati alla fine senza cancellare nulla.
• Questo permette al modello di vedere sia i dettagli piccoli (il "rumore" del giorno) sia il quadro grande (la tendenza della settimana) contemporaneamente, senza che uno cancelli l'altro.

3. Il Risultato: Chi vince la gara?

Gli autori hanno messo alla prova il loro "super-astrologo" (EP-GAT) su 5 mercati reali (inclusi quelli di Londra, New York e la S&P 500) confrontandolo con 5 altri modelli famosi.

• Il Verdetto: EP-GAT ha vinto quasi sempre. È stato più preciso nel dire se un'azione sarebbe salita o scesa il giorno dopo.
• Perché ha vinto? Perché non si è limitato a guardare le regole fisse (come "le banche si influenzano a vicenda"), ma ha capito che le relazioni sono dinamiche (cambiano ogni giorno) e che ogni azienda ha una struttura interna complessa che va rispettata.

In sintesi

Immagina che il mercato azionario sia un grande oceano.

• I vecchi modelli guardavano solo la mappa delle correnti fisse.
• EP-GAT invece ha un sottomarino che sente le onde in tempo reale (grazie alla fisica dell'energia) e ha una lente d'ingrandimento che non perde mai i dettagli (grazie all'attenzione parallela).

Il risultato? Un sistema che riesce a navigare meglio nel caos della borsa, offrendo previsioni più affidabili per investitori e analisti. E la cosa bella è che il codice è pubblico, così chiunque può provare a usare questo "sottomarino" per esplorare il mercato!

Sommario tecnico

1. Il Problema

La previsione dei movimenti azionari rimane una sfida complessa a causa della natura stocastica e dell'alta volatilità dei mercati finanziari. Sebbene le reti neurali basate su grafici (GNN) abbiano mostrato prestazioni promettenti nel modellare le interdipendenze tra le azioni, gli approcci esistenti presentano due limitazioni fondamentali:

• Dipendenza da fattori statici: La maggior parte dei metodi attuali costruisce grafici azionari basati su relazioni statiche o predefinite (es. settore industriale, partecipazioni incrociate). Questo non riesce a catturare le interdipendenze evolutive e dinamiche che cambiano nel tempo in risposta alle condizioni di mercato.
• Perdita delle caratteristiche gerarchiche: Le tecniche di propagazione delle informazioni nelle GNN tendono a distorcere le caratteristiche intra-azioni gerarchiche (i modelli temporali a diverse scale all'interno della stessa azione) durante i passaggi di propagazione, portando a rappresentazioni latenti meno efficaci.

2. Metodologia: EP-GAT

Il lavoro propone EP-GAT (Energy-based Parallel Graph Attention Neural Network), un framework innovativo composto da due moduli principali:

A. Generazione del Grafico Azionario Basata sull'Energia

Per superare la rigidità dei grafici statici, gli autori introducono un metodo per generare grafici dinamici basati sulla fisica statistica:

• Definizione dell'Energia: L'"energia" di un'azione ($E_i$) è calcolata come la somma dei quadrati dei suoi indicatori storici (es. prezzi, volumi) in una finestra temporale.
• Distribuzione di Boltzmann: Le connessioni tra le azioni sono modellate utilizzando la distribuzione di Boltzmann. La probabilità di connessione tra due azioni $i$ e $j$ è determinata dalla differenza di energia tra di esse, normalizzata rispetto a una "temperatura" del sistema.
• Temperatura e Finestra Temporale: La dimensione della finestra di ritardo ($\tau$) funge da approssimazione della temperatura assoluta ($T$). Questo permette al modello di adattare la sensibilità alle differenze di energia: finestre più piccole enfatizzano le differenze energetiche, mentre finestre più grandi le uniformano.
• Sparsificazione: Viene applicata una soglia per rendere il grafo sparsificato, eliminando connessioni deboli e riducendo il rumore.

B. Meccanismo di Attenzione Grafica Parallela

Per preservare le caratteristiche gerarchiche interne alle azioni:

• Decoupling: Il meccanismo separa la propagazione delle informazioni dalla conservazione delle rappresentazioni gerarchiche.
• Architettura: Invece di sovrascrivere le rappresentazioni, il modello utilizza un blocco di attenzione parallela che combina le rappresentazioni latenti di ogni strato di propagazione ($H_l$) con quelle apprese dal blocco precedente ($H'_{l-1}$).
• Meccanismo: Utilizza un'operazione di concatenazione seguita da un'attenzione multi-testa (Multi-head Attention) per fondere le rappresentazioni, prevenendo la distorsione delle caratteristiche temporali gerarchiche durante la propagazione profonda.

3. Contributi Chiave

1. Grafico Dinamico Basato sull'Energia: Un metodo originale per generare grafici di azioni dinamici utilizzando le differenze di energia e la distribuzione di Boltzmann, catturando relazioni inter-azioni in evoluzione.
2. Attenzione Grafica Parallela: Un nuovo meccanismo che preserva le rappresentazioni latenti da diversi strati, permettendo al modello di mantenere le caratteristiche intra-azioni gerarchiche senza distorsione.
3. Validazione Sperimentale Estensiva: Sperimentazione su cinque dataset reali (NASDAQ, NYSE, SP, FTSE, LSE) con oltre 500 azioni, dimostrando la superiorità del modello rispetto a cinque baseline competitive.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dati reali coprenti un periodo di cinque anni, con una divisione in training, validazione e test.

• Metriche: Accuratezza (ACC), Coefficiente di Correlazione di Matthews (MCC) e F1-Score.
• Prestazioni: EP-GAT ha superato costantemente cinque baseline (inclusi GraphWaveNet, HyperStockGAT, STGCN, Informer e ST-TIS) su tutti i dataset e tutte le metriche.
  • Miglioramento medio: Rispetto alle baseline, EP-GAT ha ottenuto un miglioramento medio del 7.61% in ACC, 2.63 x 10⁻² in MCC e 0.06 in F1-Score.
• Analisi di Ablazione:
  • Rimuovere la generazione del grafico basato sull'energia (sostituendola con un grafico predefinito) ha causato un calo di performance del 2.25%, confermando l'importanza della modellazione dinamica.
  • Rimuovere il meccanismo di attenzione parallela ha portato a un calo significativo del 8.05%, validando l'efficacia nel preservare le caratteristiche gerarchiche.
• Analisi degli Iperparametri: La finestra di ritardo ($\tau$) ottimale si è rivelata essere tra 14 e 23 giorni, allineandosi con le evidenze precedenti sulla finestra di osservazione ideale per le previsioni azionarie.

5. Significato e Limitazioni

Significato:
Il lavoro dimostra che la modellazione esplicita delle relazioni inter-azioni dinamiche (tramite la fisica statistica) e la preservazione delle strutture gerarchiche interne (tramite l'attenzione parallela) sono cruciali per migliorare l'accuratezza nella previsione delle tendenze azionarie. EP-GAT offre un approccio più robusto rispetto ai modelli che si affidano a relazioni statiche o che perdono informazioni gerarchiche durante la propagazione.

Limitazioni:

1. Grafici Non Diretti: I grafici generati sono non diretti, ignorando la natura asimmetrica delle influenze (es. un'azione influente che influenza un'altra, ma non viceversa).
2. Scalabilità: Il meccanismo di attenzione parallela, che coinvolge operazioni dipendenti dalle caratteristiche e concatenazioni, potrebbe rendere difficile l'addestramento su mercati con un numero molto elevato di azioni.

Prospettive Future:
I ricercatori intendono esplorare relazioni inter-azioni dirette e migliorare il meccanismo di attenzione parallela integrando meccanismi di retention per gestire dataset di dimensioni maggiori.