🤖 machine learning

TIDES: Implicit Time-Awareness in Selective State Space Models

Het artikel stelt TIDES voor, een variant van een selectief ruimtetijdmomentmodel dat de fysieke betekenis van tijdsdiscretisatie behoudt voor de native verwerking van onregelmatige tijdreeksen, terwijl het tegelijkertijd een hoge per-token expressiviteit handhaaft door de input-afhankelijkheid van de stapgrootte naar de toestandsmatrix te verschuiven, waardoor state-of-the-art prestaties worden bereikt op tijdreeksbenchmarks.

Oorspronkelijke auteurs: Taylan Soydan, Miguel A. Bessa, Dirk Mohr, Rui Barreira

Gepubliceerd 2026-05-12

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Taylan Soydan, Miguel A. Bessa, Dirk Mohr, Rui Barreira

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert een robot te leren een verhaal begrijpen, maar het verhaal wordt op een zeer vreemde manier verteld. Soms spreekt de verteller elke seconde, soms wacht hij vijf minuten, en soms slaat hij dagen volledig over. Dit is wat er gebeurt met irreguliere tijdreeksdata (zoals een hartslagmonitor van een patiënt die alleen piept wanneer er iets verandert, of een weersensor die urenlang niet werkt).

Om hiermee om te gaan, heeft de robot twee superkrachten nodig:

Contextbewustzijn: Het moet weten wat er op dit moment gebeurt om te beslissen of het het verleden moet onthouden of vergeten. (Bijvoorbeeld: "Oh, er is net een hartaanval gebeurd? Dan is het beter dit te onthouden!" versus "Gewoon een normale hartslag? Dan kan ik de vorige vergeten.")
Tijdbewustzijn: Het moet begrijpen hoeveel tijd er tussen gebeurtenissen is verstreken. (Bijvoorbeeld: "Het is 5 seconden geleden sinds de laatste piep" versus "Het is 5 uur geleden.")

Het probleem met eerdere robots

Het artikel stelt dat de twee beste tot nu toe gebouwde robots (genaamd Mamba en S5) elk een van deze superkrachten hebben, maar de andere missen.

De "Mamba"-robot: Deze robot is uitstekend in contextbewustzijn. Hij kan naar een specifiek woord of een gebeurtenis kijken en beslissen: "Ik moet extra aandacht aan dit besteden!" Om dit te doen, behandelt hij tijd echter als een flexibel, verzonnen getal. Hij leert een "nep-tijd" op basis van de invoer.
- De fout: Als je deze robot traint op verhalen waarbij de gaten meestal 1 minuut zijn, en je vraagt hem vervolgens een verhaal te lezen met gaten van 1 uur, raakt hij in de war. Hij probeert zijn "nep-tijd"-logica toe te passen op een situatie die hij nog nooit heeft gezien, en faalt. Het is als een chef die alleen heeft leren koken wanneer de timer "5 minuten" aangeeft, maar wanneer de timer "5 uur" aangeeft, niet weet hoe hij het vuur moet aanpassen.
De "S5"-robot: Deze robot is uitstekend in tijdbewustzijn. Hij behandelt tijd precies zoals een echte klok. Als er 5 uur voorbijgaan, weet hij dat er 5 uur voorbij zijn, ongeacht wat er gebeurt.
- De fout: Hij is te star. Hij behandelt elke invoer op dezelfde manier. Hij kan niet zeggen: "Deze specifieke gebeurtenis is belangrijk, dus ik zal hem langer onthouden." Het is als een robot die seconden perfect telt, maar geen brein heeft om te beslissen wat het waard is om te onthouden.

De oplossing: TIDES

De auteurs hebben een nieuwe robot bedacht genaamd TIDES (Time-Implicit Decay and Eigenvalue Selectivity).

Stel je TIDES voor als een hybride chef.

De klok (Tijd): TIDES houdt een echte, fysieke klok bij. Hij vuilt de tijd nooit na. Als het gat tussen gebeurtenissen 5 uur is, weet de robot dat het 5 uur is. Hij probeert geen "nep-tijd" te leren uit de invoer. Hierdoor kan hij perfecte omgaan met rare, irreguliere gaten, zelfs als hij die specifieke gatgrootte nog nooit heeft gezien.
Het brein (Selectiviteit): In plaats van de tijd te vervalsen om slim te zijn, past TIDES zijn interne geheugenvoorinstellingen aan op basis van de invoer. Wanneer er een groot evenement plaatsvindt, zegt hij tegen zijn interne geheugen: "Vertraag het vergeetproces voor dit specifieke stukje informatie." Wanneer er een saai evenement plaatsvindt, zegt hij: "Vergeet dit snel."

De magische truc:
In eerdere modellen probeerde de robot slim te zijn door de kloksnelheid (de tijdstap) te veranderen. TIDES houdt de kloksnelheid echt en fysiek, maar verandert de geheugenvervalsnelheid (hoe snel hij vergeet). Op deze manier krijgt hij het beste van twee werelden: hij begrijpt de echte tijdsverloop en hij weet wat hij moet onthouden.

De "Vervagende Flits"-test

Om te bewijzen dat dit werkt, bedachten de auteurs een eenvoudig spel genaamd "Vervagende Flits".
Stel je een rij van 40 lichtdetectoren voor.

Er gebeurt een flits.
De detector gloeit en vervaagt vervolgens langzaam.
De snelheid waarmee het vervaagt, hangt af van in welke "zone" van de rij het zich bevindt (Langzaam, Gemiddeld of Snel).
De tijd tussen flitsen is willekeurig en irregulier.

De oude robots: De "S5"-robot kon de verschillende vervalsnelheden voor verschillende zones niet leren. De "Mamba"-robot kon de snelheden leren, maar als je de tijd tussen flitsen veranderde in iets wat hij niet tijdens het trainen had gezien, faalde hij volledig.
De TIDES-robot: Hij leerde de verschillende vervalsnelheden voor elke zone en hij werkte perfect, zelfs wanneer de tijd tussen flitsen totaal nieuw en raar was.

De resultaten

De auteurs testten TIDES op real-world datasets (zoals medische sensordata en biologische simulaties).

Het werd de nieuwe kampioen (State-of-the-Art) voor het classificeren van tijdreeksdata.
Het werd de nieuwe kampioen voor het voorspellen van biologische vergelijkingen.
Cruciaal: het had niet alleen geluk met de trainingsdata; het ging veel beter om met "out-of-distribution"-data (vreemde, ongezonde tijdsgaten) dan zijn concurrenten.

Samenvatting

TIDES is een nieuw type AI dat stopt met proberen tijd te "vervals" om slim te zijn. In plaats daarvan houdt het de tijd echt en fysiek, maar maakt het zijn geheugen flexibel. Hierdoor kan het omgaan met rommelige, irreguliere real-world data (zoals sensoren die uitvallen of medische dossiers die laat aankomen) zonder in de war te raken wanneer de timing verandert.

Technische Samenvatting: TIDES – Impliciete Tijdwaarneming in Selectieve Ruimtestatenmodellen

Probleemstelling

Real-world sequentiële data, zoals klinische observaties, omgevingssensorlezingen en financiële gebeurtenissen, wordt zelden op een regelmatig rooster bemonsterd. Standaard sequentiële modellen gaan vaak uit van uniforme tijdstappen, waardoor ze gedwongen worden om data te hersamplen (waardoor temporale informatie verloren gaat) of om invoer te verrijken met expliciete tijdskenmerken.

Twee dominante families van Ruimtestatenmodellen (SSM's) adresseren sequentiële modellering, maar staan voor een fundamentele afweging met betrekking tot onregelmatige tijdreeksen:

Continue-tijd SSM's (bijv. S5): Deze behouden de fysieke betekenis van de tijdstap ( $\tilde{\Delta} \equiv \Delta$ ), waardoor ze onregelmatige tijdstempels op een natuurlijke manier kunnen verwerken door de continue dynamiek te integreren over de werkelijk verstreken tijd. Ze zijn echter doorgaans Lineair Tijd-Invariant (LTI), wat betekent dat hun dynamiek niet verandert op basis van de inhoud van de invoer, wat de expressiviteit per token beperkt.
Selectieve SSM's (bijv. Mamba): Deze bereiken sterke expressiviteit per token door de discretisatiestap $\tilde{\Delta}$ en projectiematrices ( $B, C$ ) invoer-afhankelijke functies te maken. Dit stelt het model in staat om zijn effectieve tijdsconstante token per token aan te passen. Dit ontwerp collapseert $\tilde{\Delta}$ echter van een fysiek bemonsteringsinterval tot een geleerde poort. Bijgevolg verliest het model zijn natuurlijke verwerking van onregelmatige tijd; om onregelmatige data te verwerken, moet het tijdsverschillen behandelen als expliciete invoerfeatures. Het artikel betoogt dat deze indirecte koppeling het model verhindert om te extrapoleren naar onregelmatigheidsregimes (tijdsverschillen) die niet tijdens het trainen zijn gezien.

Methodologie: TIDES

De auteurs stellen TIDES (Time-Implicit Decay and Eigenvalue Selectivity) voor, een variant van een selectieve SSM die is ontworpen om de expressiviteit van Mamba te verzoenen met de fysieke tijdssemantiek van S5.

Kernontwerpprincipe

TIDES verplaatst de invoer-afhankelijkheid van de discretisatiestap ( $\tilde{\Delta}$ ) naar de continue-tijd generator (de toestandsmatrix $\Lambda$ en projecties $B, C$ ).

Impliciete Tijdwaarneming: De tijdstap $\tilde{\Delta}$ blijft strikt fysiek ( $\tilde{\Delta} \equiv \Delta$ ), uitsluitend bepaald door de tijdstempels van de observaties. Het is geen geleerde functie van de invoer.
Selectieve Generator: Invoer-afhankelijkheid wordt toegepast op:
- $\text{Re}(\Lambda)$ : Het reële deel van de eigenwaarden (vervaltempo's) wordt een functie van de invoer. Dit stelt het model in staat om "sneller te vergeten" of "langer vast te houden" op basis van inhoud, waardoor de nodige selectiviteit wordt geboden.
- $B$ en $C$ : De invoer- en uitvoerprojecties zijn invoer-afhankelijk, waardoor het model ruis kan filteren en het lezen/schrijven van toestanden kan moduleren.
- $\text{Im}(\Lambda)$ : Het imaginaire deel (oscillatiefrequentie) blijft statisch. De auteurs betogen dat het moduleren van frequentie per token een schone continue-tijd interpretatie mist, en empirisch vinden ze dat dit de prestaties schaadt.

Architectuurdetails

Initialisatie: Het model initialiseert met HiPPO-afgeleide biases voor $\Lambda, B, C$ en nul-geinitialiseerde projectiegewichten. Dit zorgt ervoor dat het model start vanuit een goed geconditioneerde LTI-recurrentie en selectiviteit leert als een gladde perturbatie.
Low-Rank Projecties: Om het aantal parameters te beheersen, worden de dichte projecties voor $B$ en $C$ gefactoriseerd in low-rank structuren ( $r \ll PH$ ).
Diepe Projectoren: Het invoerpad bevat residuale Gated Linear Unit (GLU) blokken voor de uiteindelijke projectie om non-lineariteit in te brengen, vergelijkbaar met de preprocessing van Mamba.
Normalisatie: RMSNorm wordt toegepast op de geprojecteerde parameters ( $\text{Re}(\Lambda), B, C$ ) direct voorafgaand aan discretisatie om training te stabiliseren en onbegrensde perturbaties in de recurrentie te voorkomen.
Stabiele Reparameterisatie: $\text{Re}(\Lambda)$ wordt gereparameteriseerd (bijv. via exponentiële of stabiele mapping) om ervoor te zorgen dat eigenwaarden in het stabiele halfvlak blijven, waardoor explosieve recurrenties worden voorkomen ongeacht de invoer.

Belangrijkste Bijdragen

Architectuur: TIDES introduceert een ontwerp waarbij selectiviteit resideert in de continue-tijd generator ( $\text{Re}(\Lambda), B, C$ ) terwijl de discretisatiestap een fysieke, impliciete grootheid blijft. Dit stelt het model in staat om onregelmatige tijdstempels op een natuurlijke manier te verwerken zonder afbreuk te doen aan de expressiviteit per token.
Mechanistische Analyse (Fading Flash): De auteurs introduceren een nieuw diagnostisch benchmark, Fading Flash, dat twee faalmodi isoleert:
- LTI-Rigiditeit: Het onvermogen van S5 om meerdere vervaltempo's gelijktijdig te modelleren.
- Extrapolatiefout: Het onvermogen van Mamba-achtige modellen om te generaliseren naar tijdsverschillen ( $\Delta$ ) buiten de trainingsverdeling.
- TIDES blijkt de enige architectuur te zijn die beide overwint, waarbij robuuste prestaties worden behouden over ongezette $\Delta$ -waarden terwijl zone-afhankelijke dynamiek wordt vastgelegd.
Empirische Resultaten: TIDES bereikt nieuwe state-of-the-art (SOTA) gemiddelde rangschikkingen op:
- UEA Time-Series Classification: Het presteert beter dan LogNCDE, RFormer en andere baselines.
- Physiome-ODE Regression: Het overtreft LinODEnet en andere modellen voor het voorspellen van onregelmatige tijdreeksen.

Experimentele Bevindingen

Fading Flash: In dit gecontroleerde experiment faalde S5 om zone-afhankelijke vervaltempo's te vangen (lage expressiviteit), terwijl MambaS (een Mamba-surrogaat) faalde om te extrapoleren naar test-tijd $\Delta$ -waarden buiten het trainingsbereik (drijvende effectieve vervaltempo's). TIDES leerde succesvol de juiste vervaltempo's voor alle zones en bleef robuust over een breed scala aan test-tijd $\Delta$ .
Random Drop Ablatie: Op de EigenWorms-dataset met willekeurige tijdstap-dropping behield TIDES een hoge nauwkeurigheid, zelfs bij extreme drop-rates ( $r_{test}=0.9$ ) die niet tijdens training waren gezien. Daarentegen stortten MambaS en RFormer significant in bij hoge drop-rates, wat bevestigt dat invoer-afhankelijke $\tilde{\Delta}$ of vaste signatuurvensters niet generaliseren naar onregelmatige bemonsteringsregimes.
Ablatie op $\text{Im}(\Lambda)$ : Het invoer-afhankelijk maken van het imaginaire deel van eigenwaarden verbeterde de prestaties niet en degradeerde ze licht, wat de ontwerpkeuze ondersteunt om oscillatiefrequenties statisch te houden.

Betekenis en Beweringen

Het artikel beweert dat TIDES aantoont dat expressiviteit per token en trouwe fysieke-tijdsemantiek compatibel zijn, op voorwaarde dat invoer-afhankelijkheid wordt gerouteerd via de continue-tijd generator in plaats van de discretisatiestap.

De auteurs postuleren een breder ontwerpprincipe voor onregelmatig bemonsterde sequenties: houd discretisatie en expressiviteit gescheiden. Het fysieke bemonsteringsinterval mag het model alleen binnenkomen via de analytische discretisatieregel, terwijl expressiviteit moet resideert in de continue-tijd generator. Deze scheiding stelt modellen in staat om tegelijkertijd expressief en extrapolatief te zijn naar bemonsteringsregimes die niet tijdens training zijn gezien.

Het artikel is bescheiden in zijn reikwijdte, en stelt expliciet dat TIDES is ontworpen voor onregelmatige tijdreeksen (klinische, sensor- en simulatiedata) en niet wordt beweren als een algemeen vervanging voor Mamba op taken met regelmatige roosters zoals taalmodellering, waarbij de rol van de invoer-afhankelijke tijds-poort verschilt. Het werk suggereert dat het principe van het scheiden van tijdsbehandeling van expressiviteit kan worden uitgebreid naar andere continue-tijd architecturen, waaronder Neural ODE's en varianten van continue-tijd attention.