Retrieval-Augmented Generation with Covariate Time Series

Il paper presenta RAG4CTS, un framework di Retrieval-Augmented Generation privo di addestramento e consapevole dei regimi, progettato per gestire serie temporali con covariate in scenari industriali a scarsità di dati, come la manutenzione predittiva delle valvole PRSOV, dove ha dimostrato prestazioni superiori rispetto agli stati dell'arte e un funzionamento reale senza falsi allarmi.

L'essenziale

Immagina di dover prevedere il meteo di domani, ma hai solo 18 secondi di dati storici, non ci sono molti giorni di pioggia registrati nel tuo archivio e, peggio ancora, il tempo non dipende solo da se stesso, ma è strettamente legato a due "cugini" esterni: la velocità del vento e la pressione dell'aria. Se sbagli la previsione, un aereo potrebbe non decollare o, peggio, subire un guasto costoso.

Questo è il problema che affrontano gli autori di questo paper, applicato a una valvola cruciale degli aerei (la PRSOV) di China Southern Airlines.

Ecco la loro soluzione, spiegata come se fosse una storia di detective, senza termini tecnici complicati.

1. Il Problema: L'Architetto senza Foto

Immagina di avere un architetto super-intelligente (un'Intelligenza Artificiale chiamata Time-Series Foundation Model) che sa costruire case perfette. Tuttavia, questo architetto ha un difetto: è stato addestrato su milioni di case generiche, ma quando gli chiedi di riparare una casa specifica e rara (come quella di un aereo moderno), si blocca.

• C'è poca storia: Per ogni volo, la valvola si comporta in modo critico solo una volta. Non ci sono molti esempi da studiare.
• Il tempo è brevissimo: Il comportamento critico dura solo 10 secondi (18 punti dati). È come chiedere a qualcuno di capire una canzone ascoltando solo un battito di ciglia.
• Le cause esterne: La valvola non decide cosa fare da sola; è spinta da due "motori" esterni (la velocità del motore e la pressione). Se l'IA guarda solo la valvola e ignora i motori, fa previsioni sbagliate.

I metodi tradizionali di IA provano a "imparare a memoria" (addestramento), ma con così pochi dati, l'architetto si confonde e allucina soluzioni impossibili.

2. La Soluzione: Il Detective con il "Libro dei Casi" (RAG4CTS)

Invece di far studiare l'IA a memoria, gli autori hanno creato un sistema chiamato RAG4CTS. Immaginalo come un detective privato che non indovina mai, ma consulta sempre un archivio di casi risolti.

Ecco come funziona il detective, passo dopo passo:

A. L'Archivio Perfetto (Knowledge Base)

Invece di trasformare i dati in numeri astratti (come fanno gli altri, perdendo dettagli), il detective tiene i dati grezzi intatti.

• Analogia: È come avere una libreria dove i libri non sono riassunti, ma le registrazioni audio originali delle conversazioni. Se vuoi capire un tono di voce, devi ascoltare l'audio, non leggere un riassunto. Qui, ogni "libro" è un volo completo di un aereo, conservato nella sua forma originale.

B. La Ricerca Intelligente (Ricerca Bi-Pesata)

Quando arriva un nuovo caso (un volo in corso), il detective non cerca solo "qualcosa che sembra simile". Cerca qualcosa che abbia la stessa logica fisica.

• Il trucco: Sa che la valvola è spinta dal motore (N2) e dalla pressione (IP). Quindi, quando cerca nei suoi archivi, non guarda solo la valvola, ma controlla: "Questo vecchio caso ha avuto lo stesso motore e la stessa pressione in quel momento?"
• Se trova un vecchio caso con la stessa "spinta" esterna, sa che la valvola si comporterà allo stesso modo. È come cercare un'auto che ha lo stesso motore e le stesse condizioni stradali della tua, non solo un'auto dello stesso colore.

C. L'Agente che Decide (Context Augmentation)

Una volta trovati i casi simili, il detective deve decidere: "Quanti casi devo mostrare all'architetto per fargli capire il problema?"

• Se ne mostra troppo, l'architetto si confonde (troppo rumore).
• Se ne mostra troppo poco, non capisce il pattern.
• La magia: Il detective usa un "agente" (un piccolo assistente) che prova a simulare la previsione con 1 caso, poi 2, poi 3... finché non trova il numero perfetto che dà il risultato migliore. È come un chef che assaggia il brodo aggiungendo un pizzico di sale alla volta finché non è perfetto.

3. Il Risultato: Zero Allarmi Falsi

Questo sistema è stato installato davvero nella flotta di China Southern Airlines.

• Prima: Si riparava la valvola solo quando si rompeva (o quando l'aereo era a terra bloccato), causando ritardi costosi.
• Ora: Il sistema osserva i voli. Se la valvola inizia a comportarsi in modo "strano" rispetto ai suoi gemelli storici perfetti, il sistema lancia un allarme.
• Il successo: In due mesi, ha individuato un guasto reale prima che causasse danni, con zero falsi allarmi. Ha previsto il futuro guardando il passato, ma guardando le cause, non solo gli effetti.

In Sintesi

Hanno preso un'Intelligenza Artificiale che era brava in teoria ma debole nella pratica industriale, e le hanno dato un super-potere: la capacità di consultare istantaneamente un archivio di casi storici reali, filtrandoli in base alla fisica reale (non solo alla forma), e decidendo dinamicamente quanto contesto mostrare per fare la previsione perfetta.

È come passare dal chiedere a un genio di indovinare il futuro, al dargli una macchina del tempo che gli mostra esattamente cosa è successo in situazioni identiche, permettendogli di dire: "So esattamente cosa succederà, perché l'ho già visto accadere così."

Sommario tecnico

1. Il Problema: Sfide nei Sistemi Industriali Critici

Il lavoro si concentra sulla Manutenzione Predittiva della Valvola di Regolazione e Chiusura della Pressione (PRSOV) negli aerei commerciali. Nonostante il successo dei Modelli Fondamentali per le Serie Temporali (TSFM) e del Retrieval-Augmented Generation (RAG) in altri domini, la loro applicazione in scenari industriali ad alto rischio incontra tre ostacoli fondamentali:

1. Scarsità dei Dati: I regimi operativi critici (es. la fase di regolazione della PRSOV) sono rari e si verificano una sola volta per ciclo di volo, rendendo impossibile l'addestramento di modelli profondi che richiedono grandi quantità di dati.
2. Sequenze Transitorie Brevi: Le dinamiche di interesse avvengono in finestre temporali estremamente ridotte (es. 18 punti dati in 10 secondi). I metodi esistenti basati su embedding vettoriali statici spesso richiedono padding (riempimento) che distrugge il segnale fine-granulare necessario per l'analisi transitoria.
3. Dinamiche Accoppiate alle Covariate: La variabile target (Pressione del Collettore - MP) non è autonoma, ma è passivamente guidata da covariate esterne (Velocità del Rotore N2 e Pressione Intermedia IP). I metodi RAG tradizionali che cercano solo similarità visive nel target ignorano queste relazioni fisiche causali, portando a riferimenti storici errati.

2. Metodologia: RAG4CTS

Gli autori propongono RAG4CTS, un framework RAG nativo per serie temporali, privo di addestramento (training-free) e consapevole del regime, progettato specificamente per serie temporali con covariate. L'architettura si compone di tre pilastri principali:

A. Knowledge Base Gerarchica Nativa

Invece di utilizzare database vettoriali che frammentano i dati, gli autori costruiscono un Knowledge Base (KB) gerarchico ad albero che conserva le registrazioni grezze (raw data) nella loro interezza fisica.

• La struttura segue la gerarchia fisica: Gruppo (tipo di aereo) -> Dispositivo (numero di coda) -> Regime (istanza specifica).
• Questo approccio garantisce una memorizzazione lossless e preserva la precisione numerica delle brevi sequenze transitorie, evitando errori di approssimazione tipici degli embedding.

B. Meccanismo di Recupero Bi-Pesato a Due Stadi

Per allineare storicamente i dati senza distorcere le dinamiche fisiche, viene introdotto un meccanismo di recupero che opera direttamente nello spazio dei dati grezzi, utilizzando due pesi:

1. Pesatura dei Punti Critici ($W_{point}$): Assegna maggiore importanza agli stati recenti del sistema e agli input di controllo futuri noti (le covariate), mentre maschera i valori target futuri sconosciuti.
2. Pesatura delle Covariate ($W_{cov}$): Utilizza l'Informazione Mutua (MI) per quantificare l'influenza causale di ogni covariata sul target. Questo permette di dare priorità alle variabili fisicamente dominanti (es. la pressione intermedia IP rispetto alla velocità N2).

Il recupero avviene in due fasi:

• Fase 1 (Allineamento della Forma): Utilizza la similarità del coseno pesata per identificare candidati con la stessa tendenza evolutiva.
• Fase 2 (Precisione dello Stato): Applica la distanza del Matrix Profile pesata per selezionare i match esatti che minimizzano la discrepanza numerica assoluta.

C. Strategia di Augmentation del Contesto Guidata da Agente

Per ottimizzare la quantità di contesto da fornire al modello fondazionale (TSFM), viene introdotto un approccio agentic self-supervised:

• Il campione recuperato più rilevante (Top-1) funge da "Agente" con un ground truth noto.
• L'agente esegue una ricerca greedy per determinare dinamicamente il numero ottimale di frammenti contestuali ($k^*$) da concatenare, massimizzando la riduzione dell'errore di previsione.
• Questo evita l'uso di iperparametri fissi, adattando la profondità del recupero alla complessità specifica di ogni query.

3. Contributi Chiave

1. Primo studio RAG per TSFM con covariate: Introduce un framework specifico per gestire serie temporali industriali dove le dinamiche sono guidate da fattori esterni.
2. Architettura Lossless e Fisica: Sostituisce gli embedding vettoriali con un KB nativo che preserva l'integrità fisica e numerica dei dati grezzi.
3. Recupero Causalmente Allineato: Il meccanismo bi-pesato garantisce che i contesti recuperati non siano solo simili visivamente, ma condividano la stessa logica di controllo fisico (stesse forze motrici).
4. Implementazione Industriale Reale: Il sistema è stato integrato e distribuito su Apache IoTDB presso la China Southern Airlines.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti sul dataset reale CSA-PRSOV (dati di voli 2023-2025).

• Performance di Previsione: RAG4CTS supera significativamente tutti i baselines, inclusi modelli Deep Learning avanzati (TimeMixer, PatchTST), TSFM zero-shot (Chronos-2) e altri approcci RAG (TS-RAG).
  • Riduzione dell'errore quadratico medio (MSE) fino a 0.058 (rispetto a >0.25 dei migliori baselines).
  • Le prestazioni migliorano drasticamente quando si utilizzano le covariate complete (IP e N2), confermando l'importanza della logica fisica.
• Ablation Study:
  • L'uso della Knowledge Base limitata allo stesso tipo di aereo (B777) è ottimale; l'inclusione di tipi diversi (A320) introduce shift di distribuzione che peggiorano le prestazioni.
  • La strategia di pesatura combinata (Punti + Covariate) è superiore all'uso di pesi uniformi o singoli.
  • L'augmentation dinamica del contesto (scelta di $k$) supera i metodi a contesto fisso.

5. Significato e Impatto Industriale

Il valore più rilevante del lavoro risiede nella sua implementazione operativa:

• Il sistema è stato distribuito nel flusso di lavoro di manutenzione della China Southern Airlines.
• Risultato Operativo: In due mesi di monitoraggio online, il sistema ha identificato con successo un guasto reale alla PRSOV (sull'aereo B-2**7) con zero falsi allarmi.
• Transizione alla Manutenzione Proattiva: Il framework permette di passare da una manutenzione reattiva (che causa fermi a terra e costi elevati) a una predittiva, identificando i precursori di guasto giorni prima che si verifichi un malfunzionamento critico.

In sintesi, RAG4CTS dimostra come l'integrazione di principi fisici (covariate, dinamica transitoria) con tecniche di generazione aumentata possa risolvere le limitazioni dei modelli fondazionali in scenari industriali reali caratterizzati da scarsità di dati e alta criticità.