Technische Samenvatting: Grote Modellen voor Tijdreeks- en Spatio-Temporele Data: Een Survey en Vooruitblik

1. Probleemstelling

Temporele data, bestaande uit tijdreeksen en spatio-temporele data, is alomtegenwoordig in real-world toepassingen variërend van geowetenschappen en transport tot gezondheidszorg en financiën. Hoewel deze datatypen cruciaal zijn voor het begrijpen van dynamische systeemgedragingen, steunde hun analyse historisch gezien op statistische modellering en compacte deep learning-architecturen (bijv. RNN's, CNN's, GNN's en standaard Transformers). Deze traditionele modellen zijn vaak taakspecifiek, beperkt in hun vermogen om brede transfer learning te ondersteunen, en missen robuuste semantische representatie en multi-task redeneer-mogelijkheden.

Hoewel Large Language Models (LLMs) en Pre-trained Foundation Models (PFMs) opmerkelijk succes hebben behaald in Natural Language Processing (NLP), Computer Vision (CV) en andere modaliteiten, blijft hun toepassing op temporele data gefragmenteerd. Een significante uitdaging ligt in de beperkte beschikbaarheid van hoogwaardige, diverse grootschalige datasets voor temporele data in vergelijking met tekst of afbeeldingen. Bovendien is er een gebrek aan een verenigd kader dat de studie van tijdreeksen en spatio-temporele data (inclusief grafen, kennisgrafen en video's) integreert onder het paradigma van grote modellen. Het vakgebied vereist een uitgebreide review om recente vooruitgang te consolideren, methodologische verschillen te verduidelijken en openstaande onderzoeksgelegenheden te identificeren.

2. Methodologie en Taxonomie

Dit artikel stelt geen nieuw algoritme of experimenteel model voor, maar biedt een omvattende survey en systematische taxonomie van bestaande grote modellen die zijn afgestemd op tijdreeksen en spatio-temporele data. De auteurs organiseren de literatuur langs vier primaire dimensies: datatypes, modelcategorieën, modelomvang en toepassingsgebieden/taken.

2.1 Kerndefinities

De survey maakt onderscheid tussen twee operationele groepen grote modellen:

• Large Language Models (LLMs): Taalkundig gecentreerde foundation-modellen die zijn hergebruikt voor temporele taken. Dit omvat zowel embedding-zichtbare modellen (open-source, bijv. Llama, BLOOM) als embedding-onzichtbare modellen (closed-source, bijv. GPT-4, PaLM). Adaptatiestrategieën omvatten prompting, reprogramming en fine-tuning (bijv. adapters, LoRA).
• Pre-trained Foundation Models (PFMs): Modellen die specifiek zijn ontworpen of aangepast als algemene backbones voor temporele, ruimtelijke, relationele of multimodale data. Deze zijn verschillend van taakspecifieke modellen en streven naar emergente capaciteiten zoals modality bridging en redeneren.

2.2 Verenigde Taxonomie

De auteurs categoriseren het veld in twee hoofdclusters:

1. Large Models for Time Series (LM4TS):
   • LLM4TS: Het hergebruiken van taalmodellen voor tijdreeks-taken (voorspelling, classificatie, etc.).
   • PFM4TS: Modellen die specifiek zijn voorgetraind op tijdreeksdata (bijv. Chronos, TimesFM).
   • Omvang: Verdeeld in General-Purpose (cross-domein) en Domain-Specific (transport, financiën, gezondheidszorg).
2. Large Models for Spatio-Temporal Data (LM4STD):
   • LLM4STD & PFM4STD: Modellen die Spatio-Temporele Grafen (STGs), Temporele Kennisgrafen (TKGs) en Videodata verwerken.
   • Omvang: Eveneens verdeeld in General-Purpose en Domain-Specific (bijv. klimaat, stedelijke computing).

2.3 Review Scope

De survey behandelt werken die zijn gepubliceerd of vrijgegeven tot de tijd van indiening (circa 2025-2026), afkomstig uit belangrijke databases (ACM, IEEE, arXiv, etc.). Het omvat:

• Tijdreeksen: Voorspelling (forecasting), classificatie, anomaliedetectie, imputatie.
• Spatio-Temporele Grafen: Verkeersvoorspelling, linkvoorspelling.
• Temporele Kennisgrafen: Completie en voorspelling.
• Videodata: Vraagbeantwoording (question answering), captioning, anticipatie.

3. Belangrijkste Bijdragen

Het artikel schetst vier primaire bijdragen:

1. Een Uitgebreide en Fundamentele Survey: Het biedt een diepgaande review van de vooruitgang in grote modellen voor temporele data, en dient als een fundamentele bron voor onderzoekers en praktijkbeoefenaars door het landschap van het veld systematisch in kaart te brengen.
2. Verenigde en Gestructureerde Taxonomie: De auteurs introduceren een nieuw classificatiesysteem dat onderzoek organiseert in LM4TS en LM4STD, verder onderverdeeld naar modeltype (LLM vs. PFM) en omvang (General vs. Domain-Specific). Dit biedt een coherent stappenplan voor het begrijpen van het veld vanuit meerdere perspectieven.
3. Overvloedige Resource-verzameling: Het artikel cureert een overvloed aan bronnen, inclus_ief datasets (bijv. METR-LA, MIMIC-III, CMIP6), open-source implementaties en evaluatiebenchmarks, georganiseerd volgens de belangrijkste toepassingsgebieden.
4. Toekomstige Onderzoeksgelegenheden: De auteurs identificeren en lichten zes veelbelovende paden voor toekomstig onderzoek toe:
   • Theoretische Analyse: Het begrijpen van de overdraagbaarheid van linguïstische representaties naar temporele sequenties.
   • Multimodale Modellen: Het afstemmen van multi-resolutie temporele signalen over tekst, getallen en afbeeldingen.
   • Continu Leren: Het aanpakken van non-stationariteit en concept drift zonder catastrofale vergeten (catastrophic forgetting).
   • Interpretabiliteit: Het ontwikkelen van frameworks om modelbeslissingen in kritieke domeinen uit te leggen.
   • Privacy en Beveiliging: Het mitigeren van risico's op datalekken en adversariële aanvallen in gevoelige temporele data.
   • LLM Agents: Het mogelijk maken van robuuste, onzekerheid-bewuste besluitvorming in tijdreeks-systemen.

4. Belangrijkste Bevindingen en Resultaten

De survey synthetiseert de huidige stand van de techniek zonder nieuwe experimentele resultaten te presenteren, waarbij de volgende trends en observaties worden benadrukt:

• Hergebruik versus Pre-training: Er is een dubbele trend waarbij onderzoekers ofwel bestaande LLM's hergebruiken (via prompting of reprogramming, bijv. Time-LLM, PromptCast) of specifieke PFMs ontwikkelen die zijn voorgetraind op enorme temporele corpora (bijv. Chronos, Pangu-Weather).
• Domeinadaptatie: Er is aanzienlijke vooruitgang geboekt in domeinspecifieke toepassingen. In de Gezondheidszorg tonen modellen zoals NYUTron en MedTsLLM veelbelovende resultaten in klinische event-voorspelling. In de Financiële sector integreren modellen zoals M2VN en GPT4FTS tekstueel nieuws met numerieke data voor volatiliteitsvoorspelling. In het Klimaat hebben modellen zoals Pangu-Weather en ClimaX de wereldwijde voorspellingen gerevolutioneerd met hoge nauwkeurigheid en verminderde computationele kosten.
• Spatio-Temporele Complexiteit: Voor spatio-temporele grafen en video's worden grote modellen steeds vaker gebruikt om tekstuele semantiek te integreren met structurele of visuele data. Modellen zoals STG-LLM en Video-LLaMA demonstreren het vermogen om complexe interacties en langetermijn-afhankelijkheden (long-range dependencies) te verwerken.
• Uitdagingen: De survey merkt op dat ondanks de vooruitgang, er uitdagingen blijven bestaan, waaronder de schaarste aan hoogwaardige grootschalige temporele datasets, de moeilijkheid om symbolische graafdynamiek af te stemmen op continue temporele veranderingen, en de computationele kosten die gepaard gaan met het verwerken van lange videosequenties of grote dynamische netwerken.

5. Betekenis en Vooruitblik

Het artikel positioneert zichzelf als een katalysator voor het opkomende veld van grote modellen voor temporele data. De betekenis ligt in:

• Integratie: Het overbrugt de kloof tussen tijdreeksanalyse en spatio-temporele analyse, waardoor kruisbestuiving van ideeën wordt bevorderd tussen domeinen die voorheen geïsoleerd werden bestudeerd.
• Standaardisatie: Door een verenigde taxonomie te bieden, hels het bij de standaardisatie van de terminologie en classificatie van modellen, wat helpt bij de vergelijking van verschillende benaderingen.
• Toegankelijkheid van Resources: De verzameling van datasets en tools verlaagt de drempel voor nieuwe onderzoekers.
• Richtinggevend: Door specifieke toekomstige richtingen te schetsen (bijv. theoretische analyse van overdraagbaarheid, privacy-bewuste PFMs), leidt het artikel de gemeenschap naar het aanpakken van de fundamentele beperkingen van huidige methodologieën.

De auteurs concluderen dat hoewel de integratie van grote modellen in de analyse van temporele data unieke uitdagingen met zich meebrengt, het potentieel om de Artificial General Intelligence (AGI) in het begrijpen en verwerken van temporele dynamiek te bevorderen, aanzienlijk is. De survey heeft als doel verdere nieuwsgierigheid en onderzoek in dit dynamische gebied te stimuleren.