Retrieval-Augmented Generation with Covariate Time Series

Each language version is independently generated for its own context, not a direct translation.

🛩️ De "Vlieger" die niet meer goed luistert: Een slimme oplossing voor vliegtuigonderhoud

Stel je voor dat je een heel oud, maar zeer waardevol vliegtuig hebt. In de motor zit een belangrijk onderdeel: een klep die de luchtdruk regelt (de PRSOV). Als deze klep het begeeft, kan het vliegtuig niet veilig vliegen.

Het probleem? Deze klep doet soms raar, maar heel kort. Het is alsof de klep even "stottert" tijdens het opstijgen, en dan weer normaal doet. Omdat dit maar heel kort duurt (zoals een flits van 10 seconden) en maar één keer per vlucht gebeurt, hebben we weinig gegevens om te leren wat er misgaat.

Traditionele computermodellen (AI) zijn hier slecht in. Ze zijn als een student die alleen uit een dik boek leert, maar als ze een heel kort, raar vraagje krijgen, weten ze het niet. Ze proberen het boek uit hun hoofd te herinneren, maar dat lukt niet goed bij deze specifieke, zeldzame situaties.

🧠 De Oplossing: "RAG4CTS" – De Slimme Referentie

De onderzoekers van Tsinghua University en China Southern Airlines hebben een nieuwe manier bedacht, genaamd RAG4CTS.

Stel je voor dat je een meester-kok bent die een heel lastig gerecht moet maken. In plaats van alleen te proberen het recept uit je hoofd te onthouden (wat vaak mislukt), loop je naar de kookboekenbibliotheek. Je zoekt daar naar exact dezelfde situatie die je nu hebt: "Wie heeft hier eerder een raar stotterend vuurtje gehad en hoe hebben ze dat opgelost?"

Dit is wat hun systeem doet:

Het zoekt in de geschiedenis: Het kijkt naar duizenden eerdere vluchten om te zien hoe de klep zich toen gedroeg.
Het vergelijkt de "omstandigheden": Het is niet genoeg om te kijken of de lijn op het scherm hetzelfde eruit ziet. Het systeem kijkt ook naar de oorzaak. Net als bij een auto: als je gas geeft, moet de snelheid omhoog. Als de snelheid niet omhoog gaat, is er iets mis. Het systeem kijkt dus naar de "gaspedaal" (de druk en snelheid) en de "reactie" (de klep).
Het kiest de beste voorbeelden: Het pakt niet zomaar een willekeurig oud voorbeeld, maar de perfecte match.

🌳 De Bibliotheek: Geen rommelige stapels, maar een georganiseerd archief

Normaal gesproken slaan computers gegevens op als een grote, ondoorzichtige stapel papier (vector databases). Dat is als een bibliotheek waar alle boeken door elkaar liggen.

De onderzoekers hebben een boom-structuur bedacht (een hiërarchische kennisbank).

De stam: Het type vliegtuig (bijv. Boeing 777).
De takken: Het specifieke vliegtuig (met zijn staartnummer).
De bladeren: De exacte momentopname van de klep.

Dit zorgt ervoor dat de computer de gegevens niet verwart en ze in hun originele, perfecte vorm bewaart. Geen wazige kopieën, maar de scherpe, echte data.

⚖️ De Slimme Zoeker: Twee stappen voor de perfecte match

Hoe weet de computer welke oude vlucht hij moet gebruiken? Hij gebruikt een twee-stappen strategie:

Stap 1: De Vorm (De danspas): Kijkt de computer: "Ziet de beweging eruit als een danspas die we kennen?" (Bijvoorbeeld: de druk stijgt snel en daalt dan).
Stap 2: De Kracht (De danspartner): Kijkt de computer: "Werkt de gaspedaal (de externe druk) op precies dezelfde manier?"

Als je alleen naar de vorm kijkt, kun je een verkeerde match vinden. Het is alsof je iemand ziet rennen die op jou lijkt, maar die rennt misschien naar een andere bestemming. Door ook naar de "gaspedaal" te kijken, weet je zeker dat je de juiste vergelijking maakt.

🤖 De Agent: Een slimme assistent die kiest hoeveel info je nodig hebt

Soms helpt het om 1 oud voorbeeld te kijken, soms 5, en soms 10. Te veel info maakt het verwarrend (te veel ruis), te weinig is niet genoeg.

Het systeem heeft een slimme agent (een digitale assistent) die dit zelf uitprobeert.

De agent zegt: "Laten we eerst 1 voorbeeld proberen. Werkt dat?"
"Nee? Laten we dan 2 proberen."
"Ja! Dat werkt perfect. Laten we dat gebruiken."

De agent kiest dus dynamisch hoeveel "hulpboeken" hij nodig heeft voor de specifieke situatie.

🚀 Het Resultaat in de Wereld

Dit systeem is nu al live bij China Southern Airlines.

Het werkt: In twee maanden tijd heeft het systeem één defect bij een klep voorspeld, voordat het echt kapot ging.
Geen valse alarmen: Het heeft geen enkele keer gezegd "Er is iets mis" terwijl er niets aan de hand was.

Kortom:
In plaats van dat de AI probeert alles uit haar hoofd te leren (wat lastig is bij zeldzame, korte gebeurtenissen), laat de AI de computer kijken naar de beste oude voorbeelden die er zijn. Het is alsof je een meester-vakman naast je hebt die zegt: "Ik heb dit al eens eerder gezien, laten we kijken hoe we het toen hebben opgelost."

Dit zorgt voor veiligere vliegtuigen, minder onverwachte storingen en minder geldverlies voor de luchtvaartmaatschappij.

Each language version is independently generated for its own context, not a direct translation.

Titel: Retrieval-Augmented Generation met Covariabele Tijdreeksen (RAG4CTS)

Auteurs: Kenny Ye Liang, Zhongyi Pei, Huan Zhang, Yuhui Liu, Shaoxu Song, Jianmin Wang (Tsinghua University & China Southern Airlines).

1. Het Probleem

Hoewel Retrieval-Augmented Generation (RAG) de prestaties van Large Language Models (LLMs) aanzienlijk heeft verbeterd, is het toepassen van dit paradigma op Time-Series Foundation Models (TSFMs) in industriële scenario's nog steeds een grote uitdaging. Het artikel focust op een specifiek, hoog-risico scenario: Predictive Maintenance van de Pressure Regulating and Shut-Off Valve (PRSOV) in commerciële vliegtuigen.

Dit scenario wordt gekenmerkt door drie fundamentele beperkingen die bestaande RAG-methoden falen om aan te pakken:

Data Scarcity (Tekort aan data): Kritieke operationele regimes (zoals de drukregeling tijdens de start) komen slechts één keer per vlucht voor, wat leidt tot een extreem klein aantal trainingsdata.
Korte Transiënte Sequenties: De dynamiek vindt plaats in zeer korte tijdvensters (bijv. slechts 18 datapunten in 10 seconden). Bestaande methoden die statische vector-embeddings gebruiken, verliezen hierdoor de fijne numerieke precisie en ruisen het signaal weg door padding.
Gekoppelde Covariabele Dynamiek: De doelvariabele (Manifold Pressure - MP) wordt niet autonoom bepaald, maar passief gedreven door externe covariaten (Engine Speed - N2 en Intermediate Pressure - IP). Bestaande methoden die alleen op de doelvariabele focussen, negeren deze fysische causaliteit, wat leidt tot onbetrouwbare voorspellingen.

Bestaande RAG-oplossingen (zoals TimeRAF en TS-RAG) vertrouwen vaak op leerbare adapters en statische embeddings, wat leidt tot een "data-paradox": ze hebben data nodig om te leren, terwijl ze juist bedoeld zijn voor data-schaarse scenario's.

2. Methodologie: RAG4CTS

De auteurs stellen RAG4CTS voor, een regime-bewust, trainingsvrij (training-free) RAG-framework dat specifiek is ontworpen voor covariabele tijdreeksen. Het framework bestaat uit drie kerncomponenten:

A. Hiërarchische, Native Knowledge Base (KB)

In plaats van tijdreeksen om te zetten in statische vector-embeddings (wat informatie verliest), bouwt RAG4CTS een hiërarchische kennisbank die de ruwe, originele data behoudt.

Structuur: De KB is opgebouwd volgens de fysieke hiërarchie: Vliegtuigtype -> Vliegtuigstaartnummer -> Regime-instantie -> Sensor.
Voordeel: Dit zorgt voor verliesvrije opslag van korte transiënte sequenties en behoudt de volledige numerieke precisie, essentieel voor het detecteren van kleine afwijkingen.

B. Tweestaps Bi-Gewogen Retrieval Mechanisme

Om historische regimes te vinden die fysiek relevant zijn voor de huidige query, gebruiken de auteurs een twee-traps strategie die direct in de ruwe data-ruimte werkt:

Bi-Gewogen Similariteit:
- Punt-gewicht (Point Weighting): Geeft meer gewicht aan recente systeemtoestanden en bekende toekomstige besturingssignalen (covariaten), terwijl de onbekende toekomstige doelwaarde (MP) wordt gemaskeerd.
- Covariabele-gewicht (Covariate Weighting): Gebruikt Mutuele Informatie (MI) om de causale invloed van covariaten (N2, IP) op de doelvariabele te kwantificeren. Dit zorgt ervoor dat de retrieval prioriteit geeft aan segmenten die worden gedreven door dezelfde fysieke krachten.
Tweestaps Filtering:
- Stap 1 (Vorm): Gebruikt een gewogen Cosine Similariteit om kandidaten te selecteren die dezelfde evolutionaire trend hebben (vormalignering).
- Stap 2 (Fysieke Precisie): Gebruikt een gewogen Matrix Profile afstandsmetriek om de exacte numerieke overeenkomst te vinden binnen de vorm-gealigneerde kandidaten.

C. Agent-gedreven Context Augmentatie

In plaats van een vast aantal historische contexten te gebruiken, introduceert het framework een agente strategie voor zelfsupervisie:

De meest relevante gevonden sample (Top-1) fungeert als een "Agent" met een bekende toekomst (ground truth).
Het systeem voert een greedige zoektocht uit om het optimale aantal contextfragmenten ( $k^*$ ) te bepalen dat de voorspellingfout op deze agent minimaliseert.
Deze geoptimaliseerde contextlengte wordt vervolgens toegepast op de echte query. Dit voorkomt dat te veel ruis wordt toegevoegd of dat te weinig context wordt gebruikt.

3. Belangrijkste Bijdragen

Eerste TSFM-RAG voor Covariabele Tijdreeksen: Het is de eerste studie die RAG toepast op foundation modellen voor tijdreeksen met expliciete aandacht voor covariabele koppelingen in industriële settings.
Native Knowledge Base: Een tree-structured schema dat ruwe data behoudt zonder vectorisatie, waardoor fysieke integriteit en korte transiënten intact blijven.
Fysisch Bewuste Retrieval: Een tweestaps mechanisme dat zowel trends als absolute waarden aligneert op basis van causale covariaten, in plaats van alleen visuele gelijkenis.
Dynamische Context Optimalisatie: Een agent-gedreven methode die de contextlengte dynamisch aanpast aan de complexiteit van de specifieke query, zonder extra training.
Industriële Implementatie: Volledige integratie in Apache IoTDB bij China Southern Airlines.

4. Resultaten

De methode is getest op de CSA-PRSOV dataset (China Southern Airlines), verdeeld over Boeing 777 en Airbus A320 vliegtuigen.

Voorspellingsnauwkeurigheid: RAG4CTS presteert significant beter dan State-of-the-Art (SOTA) baselines, waaronder diepe leermodellen (DLinear, PatchTST), Foundation Models (Chronos-2, TimesFM) en bestaande RAG-methoden (TS-RAG).
- Op de B777L dataset bereikte RAG4CTS een MSE van 0.058, vergeleken met 0.254 voor DLinear en 1.542 voor Chronos-2 (zero-shot).
Ablatie Studies:
- Het gebruik van covariabele gewichten is cruciaal; zonder deze neemt de fout aanzienlijk toe.
- De dynamische contextlengte ( $k^*$ ) presteert beter dan een vaste $k$ , wat aantoont dat de optimale hoeveelheid context per query verschilt.
- De Matrix Profile in combinatie met Cosine Similariteit bleek de meest effectieve combinatie voor retrieval.
Operatieel Succes:
- Sinds de implementatie in november 2025 heeft het systeem één PRSOV-fout succesvol geïdentificeerd binnen twee maanden.
- Er waren geen valse alarmen (zero false alarms).
- Het systeem slaagde erin om de degradatie van een klep (B-2**7) te detecteren voordat deze volledig faalde, wat leidde tot proactief onderhoud in plaats van reactief (Aircraft on Ground).

5. Betekenis en Impact

Dit onderzoek markeert een belangrijke stap in de overgang van reactief naar proactief predictief onderhoud in de luchtvaartindustrie.

Oplossing voor Data-Scarcity: Het bewijst dat RAG een krachtig alternatief is voor data-hongerige fine-tuning, vooral in scenario's met schaarse data en korte tijdsreeksen.
Fysieke Consistentie: Door de fysieke causaliteit (covariaten) te integreren in de retrieval, worden voorspellingen betrouwbaarder en fysiek plausibel, wat essentieel is voor veiligheid.
Schaalbaarheid: De implementatie in Apache IoTDB toont aan dat deze geavanceerde AI-methoden direct inzetbaar zijn in bestaande industriële data-infrastructuur zonder grote migratiekosten.

Samenvattend biedt RAG4CTS een robuust, schaalbaar en betrouwbaar raamwerk voor het voorspellen van complexe industriële tijdreeksen, waarbij het de kloof overbrugt tussen theoretische foundation modellen en de harde realiteit van industriële data.