Training-Free Time Series Classification via In-Context Reasoning with LLM Agents

1. Probleemstelling

Tijdreeksclassificatie (TSC) is een fundamentele taak in domeinen zoals gezondheidszorg, financiën en industriële monitoring. Bestaande oplossingen ondervinden echter aanzienlijke beperkingen:

• Data-schaarste en kosten: Toezicht op diepe leermodellen vereist grote hoeveelheden gelabelde data en kostbare, dataset-specifieke training of fine-tuning.
• Ondeelsbaarheid: Traditionele modellen (zoals CNN's en Transformers) en zelfs recente LLM-gebaseerde benaderingen vertrouwen vaak op pretraining of fine-tuning, waardoor ze moeilijk inzetbaar zijn in "plug-and-play"-scenario's waar gelabelde data schaars is.
• Suboptimale Zero-Shot-prestaties: Hoewel redeneringsgerichte Large Language Models (LLM's) veelbelovend zijn in het begrijpen van temporele patronen (trends, seizoensinvloeden), leveren ze suboptimale resultaten op wanneer ze puur in zero-shot-modus of met vaste prompts worden gebruikt.

De Kernvraag: Kunnen we meervoudige tijdreeksclassificatie effectief uitvoeren zonder enige vorm van modeltraining, pretraining of fine-tuning, door gebruik te maken van de in-context leervermogens van moderne redenerende LLM's?

2. Methodologie: Het FETA-kader

De auteurs stellen FETA (training-Free timE series classificaTion with LLM Agents) voor, een multi-agentkader dat modelaanpassing vervangt door exemplar-gebaseerde in-context redenering. De pijplijn bestaat uit vier gespecialiseerde agenten die werken in een modulaire workflow:

A. Kanaalontleders (Selectie en Voorverwerking)

Meervoudige tijdreeksen bevatten vaak redundante of irrelevante kanalen en variërende sequentielengtes, wat de efficiëntie van LLM-redenering belemmert.

• Functie: Ontleedt de meervoudige invoer in univariate kanalen en snoeit irrelevante kanalen weg.
• Mechanisme:
  1. Normalisatie: Past lengtenormalisatie en per-sample z-normalisatie toe om vergelijkbaarheid te waarborgen.
  2. Scoren: Berekent een training-vrije relevantiescore voor elk kanaal op basis van twee metrieken:
     • Prototype-Marge-score ($B_c$): Meet inter-klassenscheiding versus intra-klassencompactheid (vergelijkbaar met de Fisher-ratio).
     • Benaderde 1NN Leave-One-Out-nauwkeurigheid ($C_c$): Evalueert de zelfstandige classificatiecapaciteit met behulp van dichtstbijzijnde buren.
  3. Selectie: Voegt deze scores samen om kanalen te rangschikken en selecteert de top-$M$ meest informatieve kanalen voor downstream-verwerking.

B. Voorbeeldzoeker (In-Context Exemplar-selectie)

Om de redenering van de LLM te onderbouwen, haalt het systeem relevante gelabelde voorbeelden op voor de query.

• Functie: Haalt structureel vergelijkbare gelabelde sequenties uit de trainingsset op voor elk geselecteerd kanaal.
• Mechanisme: Gebruikt Dynamic Time Warping (DTW) om de $K_r$ dichtstbijzijnde buren te vinden. DTW wordt verkozen boven de Euclidische afstand omdat het robuust omgaat met temporele vervormingen, variabele snelheden en faseverschuivingen.
• Output: Een set exemplaren $\{(X_i, y_i, d_i)\}$ die de sequentie, het label en de op uitlijning gebaseerde afstand bevatten.

C. Kanaalredenaar (Patroon-gebaseerde In-Context Redenering)

Dit is de kernredeneermotor waar de LLM opereert.

• Functie: Voert in-context vergelijking uit van de query met opgehaalde exemplaren om een voorspelling op kanaalniveau en een betrouwbaarheid te genereren.
• Mechanisme:
  • Elk geselecteerd kanaal krijgt een onafhankelijke agent toegewezen.
  • De agent ontvangt de query-sequentie en de opgehaalde exemplaren (met DTW-afstanden).
  • De redenerende LLM analyseert temporele patronen (trends, fluctuaties, keerpunten) om te beslissen tussen conflicterende exemplar-labels.
  • Output: Een voorspeld label ($\hat{y}_c$) en een zelfbeoordeelde betrouwbaarheidsscore ($w_c \in [0, 1]$).
  • Belangrijk Voordeel: Deze stap gaat verder dan eenvoudige meerderheidsstemming door gebruik te maken van het vermogen van de LLM om complexe temporele nuances te interpreteren.

D. Beslissingsaggregator (Betrouwbaarheid-gewogen Fusie)

De laatste fase synthetiseert beslissingen van alle kanaalagenten.

• Functie: Aggregeert voorspellingen op kanaalniveau tot één globale beslissing.
• Mechanisme:
  • Consensusmodus: Als alle agenten het eens zijn, wordt de betrouwbaarheid verhoogd op basis van het aantal instemmende agenten.
  • Gewogen modus: Als agenten het oneens zijn, wordt een betrouwbaarheid-gewogen fusie toegepast. Geldige voorspellingen dragen hun betrouwbaarheidsscores bij aan de voorspelde klasse, terwijl een kleine smoothing-weight wordt toegevoegd aan andere klassen.
  • Resultaat: De klasse met de hoogste geaggregeerde score wordt geselecteerd. Deze aanpak is robuuster dan naïeve meerderheidsstemming, vooral wanneer kanalen conflicterende bewijzen leveren.

3. Belangrijkste Bijdragen

1. Eerste training-vrij multi-agentkader: Introduceert het eerste kader voor meervoudige TSC dat gebruikmaakt van LLM in-context redenering zonder enige parameterupdates, pretraining of fine-tuning.
2. Modulair pijplijndesign: Stelt een nieuwe architectuur voor die kanaalontleding, DTW-gebaseerde exemplar-oproeping, LLM-redenering en betrouwbaarheid-gewogen aggregatie integreert. Dit zorgt voor efficiëntie (door kanalen te snoeien) en interpreteerbaarheid (via exemplar-gronding).
3. Empirische validatie: Toont aan dat deze benadering state-of-the-art (SOTA) prestaties bereikt op uitdagende benchmarks, en zowel klassieke methoden als getrainde deep learning-modellen overtreft.

4. Experimentele Resultaten

• Datasets: Geëvalueerd op negen representatieve en uitdagende datasets uit het UEA Time Series Classification Archive.
• Benchmarks: Vergelijken met afstand-gebaseerde methoden (DTW), patroon-gebaseerde methoden (WEASEL+MUSE), deep learning-modellen (MLSTM-FCNs, TST), representatieleren methoden (TS-TCC, TS2Vec) en andere multi-agentbenaderingen (MERIT).
• Prestaties:
  • FETA (Qwen3) behaalde de hoogste gemiddelde nauwkeurigheid van 47,3%, en overtrof de beste getrainde benchmark (MERIT met 44,4%) en klassieke methoden.
  • FETA (DeepSeek R1) behaalde 46,6%, en eindigde overall op de tweede plaats.
  • Zelfs FETA (LLaMA 3.1), met gebruik van een kleiner niet-redenerend model, behaalde 38,9%, wat gelijkstaat aan de Transformer-gebaseerde TST-benchmark en significant beter presteert dan een directe zero-shot DeepSeek R1-benchmark (32,5%).
• Ablatiestudies: Bevestigden dat alle componenten cruciaal zijn. Het verwijderen van de Kanaalontleder veroorzaakte de grootste prestatiedaling (–14,6% gemiddeld), wat het belang van invoeroptimalisatie benadrukt. Het verwijderen van de Redenaar of Aggregator degradeerde de prestaties ook aanzienlijk, wat de noodzaak bewijst van LLM-redenering en betrouwbaarheid-gewogen fusie boven eenvoudige heuristieken.

5. Betekenis en Impact

• Paradigmaverschuiving: FETA toont aan dat LLM's kunnen dienen als concurrerende, plug-and-play-oplossers voor tijdreeksopgaven zonder de rekenkosten en data-eisen van traditionele trainingspijplijnen.
• Interpreteerbaarheid: In tegenstelling tot "black box" deep learning-modellen, biedt FETA interpreteerbare beslissingen die zijn gegrondvest in specifieke opgehaalde exemplaren en expliciete betrouwbaarheidsscores.
• Efficiëntie: Door irrelevante kanalen te snoeien en de invoerlengte te controleren, maakt het kader LLM-redenering haalbaar voor hoogdimensionale tijdreeksdata.
• Toekomstige richting: Dit werk opent een nieuwe weg voor het integreren van redenerende LLM's met gestructureerde temporele data onder zero-training beperkingen, wat suggereert dat "leren" in tijdreeksen kan worden bereikt via ophalen en redeneren in plaats van parameteroptimalisatie.

Beperkingen: Momenteel ontworpen voor gestructureerde numerieke signalen; toekomstig werk moet hybride datamodi (zoals tekst, afbeeldingen, metadata) en de milieukosten van grootschalige LLM-inferentie aanpakken.