ProtoTS: Learning Hierarchical Prototypes for Explainable Time Series Forecasting

Il paper presenta ProtoTS, un innovativo framework di previsione delle serie temporali che combina alta accuratezza e interpretabilità trasparente attraverso l'uso di prototipi temporali gerarchici per modellare modelli globali e variazioni locali, facilitando la comprensione delle decisioni in scenari ad alto rischio.

L'essenziale

Immagina di dover prevedere il futuro, ma non con una sfera di cristallo magica, bensì guardando a come il passato si ripete in schemi familiari. È esattamente quello che fa ProtoTS, un nuovo sistema intelligente per prevedere cose come il consumo di energia elettrica o il prezzo delle azioni.

Ecco come funziona, spiegato in modo semplice e con qualche analogia divertente.

1. Il Problema: La "Scatola Nera"

Fino a poco tempo fa, i computer erano bravissimi a prevedere il futuro (ad esempio: "Domani alle 14:00 ci sarà un picco di consumo elettrico"), ma erano pessimi nel spiegare perché.
Era come se un metereologo ti dicesse: "Pioverà", ma non ti spiegasse se è colpa di una nuvola, di un fronte freddo o di un vulcano che erutta. Se lavori in un settore importante (come la gestione della rete elettrica), non puoi fidarti di una previsione senza sapere il motivo.

I metodi precedenti cercavano di spiegare il "perché", ma lo facevano in modo frammentario: ti dicevano "è colpa della temperatura" o "è colpa del giorno festivo", ma non riuscivano a mostrare come questi fattori si mescolino per creare un'onda complessa di consumo.

2. La Soluzione: ProtoTS e i "Modelli di Riferimento" (Prototipi)

ProtoTS risolve il problema usando un'idea geniale: invece di cercare di calcolare tutto da zero ogni volta, impara a riconoscere dei Modelli di Riferimento (chiamati prototipi).

Immagina di avere un album fotografico pieno di "giorni tipici":

• Foto 1: Un giorno feriale d'estate (caldo, aria condizionata accesa, picco la sera).
• Foto 2: Un giorno festivo invernale (freddo, riscaldamento acceso, picco al mattino).
• Foto 3: Una domenica di primavera (tempo mite, consumi bassi).

Quando il computer deve fare una previsione per domani, non inventa nulla. Guarda i dati di domani e dice: "Oh, domani sembra molto simile alla Foto 1, ma con un tocco della Foto 2".
La previsione finale è semplicemente una mescolanza di queste foto.

3. La Magia: La Struttura ad Albero (Gerarchica)

Qui entra in gioco l'innovazione più bella di ProtoTS. Non si limita a un album piatto. Organizza le foto in un albero genealogico:

• Livello Radice (Il Genere): Ci sono poche foto grandi che coprono i concetti generali. Ad esempio: "Giorni Lavorativi", "Giorni Festivi", "Estate", "Inverno". Questo ti dà una visione d'insieme immediata.
• Livello Figlio (I Dettagli): Ogni foto grande può essere "scomposta" in versioni più specifiche.
  • La foto "Giorno Festivo" può dividersi in: "Festa Nazionale" e "Capodanno Cinese".
  • La foto "Capodanno Cinese" può dividersi ulteriormente in: "Giorni prima della festa" e "Giorno della festa".

Perché è utile?
Se un esperto umano (ad esempio un ingegnere energetico) vede che il modello sbaglia a prevedere il consumo durante il Capodanno, può dire: "Ehi, questa foto è troppo generica! Dividiamola in due: una per il giorno di vigilia e una per il giorno vero e proprio".
Il sistema accetta l'ordine, crea la nuova foto specifica e impara subito meglio. È come se potessi istruire il computer direttamente, rendendolo un partner, non solo uno strumento.

4. Come Gestisce la Confusione (Variabili Eterogenee)

Il mondo reale è caotico. Per prevedere l'energia, devi guardare:

• La temperatura (numeri continui).
• Se è sabato o domenica (categorie discrete).
• Se c'è un ponte festivo (sì/no).
• Il prezzo dell'energia.

ProtoTS ha un "trucco": usa canali separati per ogni tipo di informazione (come se avesse orecchie diverse per sentire suoni diversi) e poi le unisce tutte insieme in modo intelligente, filtrando il rumore di fondo. È come un chef che prende ingredienti diversi (verdure, spezie, carne) e li prepara separatamente prima di unirli in un piatto perfetto, assicurandosi che il sapore di ognuno emerga chiaramente.

5. I Risultati: Più Veloce, Più Preciso, Più Chiaro

Gli esperimenti hanno mostrato che ProtoTS:

1. Prevede meglio: Sbaglia meno rispetto ai migliori sistemi attuali (riducendo gli errori del 48% in alcuni casi!).
2. È più robusto: Funziona bene anche se ha pochi dati per imparare (come un bambino che impara velocemente guardando pochi esempi).
3. È spiegabile: Gli esperti possono guardare il modello, dire "Ah, ecco perché hai previsto quel picco: perché hai mescolato il modello 'Estate' con quello 'Festivo'", e persino correggerlo se necessario.

In Sintesi

ProtoTS è come un capo cuoco esperto che non cucina a caso. Ha un libro di ricette (i prototipi) organizzato per livelli: dalle basi (pasta, riso) ai piatti specifici (risotto alla milanese, risotto ai funghi).
Quando arriva un nuovo ordine, il capo cuoco guarda gli ingredienti, sceglie le ricette giuste dal suo libro, le mescola e ti dice esattamente cosa ha fatto e perché. Se ti piace, puoi anche suggerirgli di aggiungere una nuova ricetta al libro per la prossima volta.

È un sistema che non solo sa cosa succederà, ma ti spiega come e ti permette di insegnargli a fare meglio.

Sommario tecnico

1. Il Problema

La previsione delle serie temporali tramite deep learning ha ottenuto prestazioni eccezionali, ma la sua applicazione in scenari ad alto rischio (come la gestione energetica, la previsione meteorologica o la finanza) è ostacolata dalla mancanza di trasparenza. I modelli attuali soffrono di due limiti principali nell'interpretabilità:

• C1 (Lato Output): Le spiegazioni esistenti sono spesso locali e parziali, focalizzandosi su singoli step temporali. Non riescono a spiegare i pattern temporali globali (es. perché si verificano tre picchi di carico elettrico durante il giorno o perché seguono un trend decrescente), rendendo difficile per gli esperti comprendere la logica complessiva della previsione.
• C2 (Lato Input): Le spiegazioni si concentrano spesso solo su variabili endogene, ignorando le interazioni complesse tra variabili eterogenee (es. temperatura, festività, umidità) che modellano i pattern temporali.

L'obiettivo è sviluppare un modello che non solo sia altamente accurato, ma che offra anche un processo decisionale trasparente, guidabile dagli esperti e capace di spiegare sia le tendenze globali che le variazioni locali.

2. Metodologia: ProtoTS

Il framework proposto, ProtoTS, risolve questi problemi modellando i pattern temporali attraverso prototipi gerarchici. Il sistema è composto da due moduli principali:

A. Calcolo della Similarità Prototipo-istanza Multi-Canale

Per gestire l'eterogeneità delle variabili di input (endogene ed esogene, discrete e continue), ProtoTS utilizza un approccio a più canali:

1. Embedding Multi-Canale: Le variabili endogene e quelle esogene vengono codificate separatamente. Le variabili discrete (es. festività) usano tabelle di embedding dedicate, mentre quelle continue (es. temperatura) subiscono proiezioni non lineari.
2. Fusione tramite Collo di Bottiglia (Bottleneck Fusion): Le rappresentazioni vengono aggregate e passate attraverso un meccanismo di "collo di bottiglia" (basato su MLP-Mixer) per filtrare il rumore e le informazioni irrilevanti, preservando solo i componenti più predittivi.
3. Calcolo della Similarità: Viene calcolata la similarità tra la rappresentazione dell'istanza (denoised) e un set di prototipi apprendibili. Questa similarità determina il peso con cui ogni prototipo contribuisce alla previsione finale.

B. Apprendimento Gerarchico dei Prototipi

Per bilanciare accuratezza e interpretabilità, i prototipi sono organizzati in una struttura ad albero:

• Livello Radice (Coarse): Un piccolo set di prototipi cattura i pattern temporali globali (es. trend stagionali, effetti generali delle festività). Questo livello garantisce un'interpretazione globale immediata per l'utente.
• Livello Figlio (Fine): Ogni prototipo radice può essere suddiviso in prototipi figli per catturare variazioni locali e dettagli fini (es. differenza tra una festività lunga e una breve, o picchi specifici di temperatura).
• Strategia di Splitting: Il modello inizia con i prototipi radice. Una volta convergenti, un algoritmo automatico (basato sulla perdita di errore e sull'attivazione) identifica quali prototipi necessitano di una suddivisione per migliorare l'accuratezza senza compromettere la chiarezza.

Funzione di Previsione: La previsione finale è una combinazione pesata dei pattern temporali dei prototipi, dove i pesi sono determinati dalla similarità gerarchica tra l'input corrente e i prototipi.

3. Contributi Chiave

1. Interpretabilità Multi-Livello: A differenza dei metodi precedenti che offrono solo spiegazioni locali, ProtoTS fornisce una visione d'insieme dei pattern temporali (livello radice) e permette di approfondire i dettagli (livello figlio), colmando il divario tra comprensione globale e analisi locale.
2. Modellazione delle Interazioni Eterogenee: Grazie all'architettura multi-canale e alla fusione a collo di bottiglia, il modello cattura efficacemente come variabili diverse (meteo, calendario, storico) interagiscono per influenzare la serie temporale.
3. Steerability (Guidabilità Esperta): La struttura gerarchica permette agli esperti di dominio di intervenire direttamente sul modello. Possono dividere manualmente un prototipo o modificare il suo pattern temporale per incorporare conoscenza di dominio, migliorando sia l'accuratezza che la spiegabilità.
4. Nuovo Dataset: Introduzione e utilizzo del dataset LOF (Load Forecasting), un dataset sintetico ma realistico con 22 variabili esogene, progettato specificamente per testare la capacità di gestire variabili eterogenee.

4. Risultati Sperimentali

Il modello è stato valutato su diversi benchmark, inclusi il nuovo dataset LOF e il dataset EPF (Electricity Price Forecasting), confrontandosi con stati dell'arte come TimeXer, iTransformer, TiDE, TFT e modelli ML classici (XGBoost, LightGBM).

• Accuratezza: ProtoTS ha raggiunto prestazioni State-of-the-Art (SOTA). Sul dataset LOF, ha ridotto l'errore quadratico medio (MSE) del 48,3% e l'errore assoluto medio (MAE) del 20,9% rispetto al miglior baseline. Su EPF, ha migliorato le prestazioni dell'8% su MSE e MAE.
• Efficienza dei Dati: ProtoTS mostra una maggiore robustezza quando la quantità di dati di addestramento è ridotta, mantenendo prestazioni stabili mentre i modelli basati su Transformer degradano più rapidamente.
• Valutazione dell'Interpretabilità: Uno studio quantitativo con utenti umani ha mostrato che ProtoTS ottiene un User Precision (UPrec) del 77% (contro il 64% di TFT) e un punteggio di usabilità (SUS) significativamente più alto (73,36 vs 29,74), dimostrando che le sue spiegazioni sono più comprensibili e utili.
• Caso Studio: In un caso pratico sul carico elettrico, la modifica manuale di un prototipo relativo al "Capodanno Cinese" (dividendolo in pattern base e speciale) ha ridotto l'MSE di 0,009, dimostrando la capacità del modello di essere guidato dagli esperti.

5. Significato e Impatto

ProtoTS rappresenta un passo avanti fondamentale verso l'Intelligenza Artificiale Esplicabile (XAI) nelle serie temporali.

• Fiducia negli Scenari Critici: Permette agli esperti di settore (es. gestori di rete elettrica) di non solo prevedere, ma anche di comprendere e validare le ragioni dietro una previsione, costruendo fiducia necessaria per decisioni finanziarie e operative.
• Bilanciamento Accuratezza/Interpretabilità: Dimostra che non è necessario sacrificare l'accuratezza per ottenere trasparenza; anzi, la struttura gerarchica e la capacità di filtrare il rumore migliorano entrambe le metriche.
• Interazione Uomo-Macchina: Trasforma il modello da una "scatola nera" a un sistema collaborativo dove la conoscenza umana può essere integrata direttamente nella struttura di apprendimento del modello per affinare le previsioni.

In sintesi, ProtoTS offre un framework unificato che combina la potenza predittiva del deep learning con la trasparenza e la flessibilità richieste dalle applicazioni reali ad alto impatto.