Riepilogo Tecnico: InstructTime++

Definizione del Problema

La classificazione di serie temporali (TSC) si è tradizionalmente basata su un paradigma di modellazione discriminativa che mappa le sequenze di input direttamente su etichette di classe codificate one-hot. Gli autori identificano due limiti intrinseci in questo approccio:

1. Sfruttamento delle Caratteristiche Contestuali: I metodi di deep learning esistenti faticano a incorporare efficacemente le caratteristiche contestuali (ad esempio, età del paziente, genere nella diagnosi medica), che vengono tipicamente fornite come dati testuali discreti.
2. Relazioni Semantiche: L'uso di distribuzioni di etichette one-hot non riesce a catturare le relazioni semantiche tra le classi (ad esempio, la somiglianza tra "camminare" e "correre" rispetto a "sdraiarsi").

Inoltre, sebbene i Large Language Models (LM) offrano forti capacità generative, essi mancano del bias induttivo necessario per catturare la dinamica temporale implicita e i pattern strutturali inerenti ai dati numerici grezzi delle serie temporali.

Metodologia

Il paper propone un framework in due fasi: InstructTime e la sua estensione, InstructTime++.

1. InstructTime: Riformulare la TSC come un compito generativo multimodale

InstructTime sposta il paradigma dalla mappatura discriminativa al ragionamento generativo guidato da istruzioni.

• Input Multimodale: Il framework tratta le sequenze numeriche continue, le caratteristiche testuali discrete e le istruzioni specifiche del task come modalità distinte.
• Discretizzazione delle Serie Temporali: Per colmare il divario di modalità tra numeri continui e testo discreto, gli autori impiegano reti Vector Quantized (VQ). Le serie temporali grezze vengono segmentate in patch e codificate in token temporali discreti tramite un codebook apprendibile. Ciò converte le sequenze continue in un formato compatibile con la tokenizzazione dei modelli linguistici.
• Costruzione del Prompt: È stato progettato un template di prompt fisso contenente:
  • Istruzioni specifiche del task (ad esempio, "Riceverai segnali ECG...").
  • Caratteristiche contestuali (ad esempio, "Età: Anziano").
  • Token temporali discreti (rappresentati come <TS-Tokens>).
• Codifica Ibrida e Allineamento: Un livello di proiezione di allineamento (implementato come MLP) mappa i token temporali discreti nello spazio di embedding del modello linguistico.
• Strategia di Addestramento:
  • Pre-addestramento Auto-supervisionato Generativo: Una fase di pre-addestramento cross-domain allinea le rappresentazioni dei token temporali con le parole del linguaggio naturale, migliorando la generalizzazione del dominio.
  • Fine-Tuning Supervisionato (SFT): Il modello allineato viene sottoposto a fine-tuning su specifici task a valle utilizzando dati etichettati, dove il modello genera descrizioni testuali dell'etichetta di classe invece di predire una distribuzione di probabilità sulle classi.

2. InstructTime++: Potenziamento delle Caratteristiche Implicite

Riconoscendo che InstructTime si affida a caratteristiche esplicite e potrebbe perdere pattern latenti a causa della mancanza di un bias induttivo temporale nei LM, InstructTime++ introduce un modulo di Estrazione delle Caratteristiche Implicite.

• Toolkit Specializzati: Il framework sfrutta toolkit esterni per estrarre pattern informativi dalle serie temporali grezze e dagli input contestuali, traducendoli in descrizioni testuali.
  • Caratteristiche Statistiche: Estrazione basata su regole di statistiche distributive (media, varianza, asimmetria), misure di complessità (entropia del campione) e comportamenti a lungo termine (trend, periodicità).
  • Caratteristiche Visive: Utilizzo di modelli Vision-Language (VLM) per analizzare le visualizzazioni 2D delle serie temporali, estraendo pattern strutturali guidati dalla percezione (trend globali, forme locali).
• Fusione delle Caratteristiche: Queste caratteristiche implicite estratte vengono convertite in descrizioni di linguaggio naturale strutturate e aggiunte al template del prompt insieme alle caratteristiche esplicite.
• Ragionamento Unificato: Il modello linguistico ragiona congiuntamente su istruzioni specifiche, dati contestuali e le nuove descrizioni testuali implicite aggiunte per generare la classificazione finale.

Contributi Chiave

1. Cambio di Paradigma: Propone di riformulare la TSC come un compito generativo multimodale, consentendo l'integrazione naturale di caratteristiche contestuali testuali e la modellazione delle relazioni semantiche tra le classi.
2. Allineamento delle Modalità: Introduce una strategia di discretizzazione delle serie temporali utilizzando reti VQ e un livello di proiezione di allineamento per risolvere l'incoerenza tra le modalità numeriche e testuali.
3. Modellazione delle Caratteristiche Implicite: Estende il framework a InstructTime++ integrando toolkit specializzati per l'estrazione di caratteristiche statistiche e visive, compensando il limitato bias induttivo dei LM standard nel catturare la dinamica temporale.
   4.est Framework Guidato dalle Istruzioni: Dimostra un approccio unificato in cui le istruzioni specifiche del task guidano il processo generativo, facilitando il trasferimento cross-domain e la generalizzazione.

Risultati Sperimentali

Gli autori hanno valutato InstructTime e InstructTime++ su molteplici dataset di benchmark, inclusi EEG, ECG, Human Activity Recognition (HAR), Fault Detection (FD), Right Whale Calls (RWC), Epilepsy (EP) e Spoken Arabic Digits (SAD).

• Performance: InstructTime++ Adapt (che incorpora sia il pre-addestramento cross-domain che il fine-tuning specifico del dominio con caratteristiche implicite) ha raggiunto prestazioni state-of-the-art nella maggior parte dei dataset, superando i baseline discriminativi (CNN, Transformer, TCN) e altri approcci generativi (GPT-As-Classifier).
• Studi di Ablazione:
  • Pre-addestramento Cross-Domain: Ha migliorato significativamente le prestazioni, in particolare su dataset con dinamiche temporali complesse (EEG, ECG), confermando il suo ruolo nell'apprendimento di rappresentazioni invarianti rispetto al dominio.
  • Caratteristiche Implicite: La rimozione di una qualsiasi delle caratteristiche implicite statistiche o visive ha portato a un degrado delle prestazioni, con le caratteristiche visive che risultavano più critiche per HAR/EEG e quelle statistiche per ECG/RWC. Ciò conferma la natura complementare di queste caratteristiche.
  • Testo delle Istruzioni: La rimozione del testo delle istruzioni durante il pre-addestramento ha causato un calo marcato delle prestazioni, validando il suo ruolo nell'allineare le rappresentazioni numeriche con i compiti semantici.
  • Scaling del Backbone: Un backbone di medie dimensioni (Qwen3-0.6B) ha spesso prodotto il miglior compromesso tra prestazioni ed efficienza, suggerendo che la semplice scalabilità della dimensione del modello non garantisce risultati migliori per la TSC.

Significato e Claim

Il paper afferma che InstructTime++ affronta efficacemente i limiti dei metodi tradizionali di TSC discriminativa:

• Permette l'integrazione fluida di fonti di dati eterogenee (serie temporali numeriche e contesto testuale).
• Cattura le relazioni semantiche tra le classi attraverso l'output testuale generativo anziché tramite rigidi vettori one-hot.
• Supera la mancanza di bias induttivo temporale dei LM attraverso l'estrazione esplicita e la traduzione in linguaggio naturale di pattern strutturali e statistici impliciti.

Gli autori concludono che questo lavoro apre la strada alla classificazione di serie temporali agentica, dove i modelli possono sfruttare autonomamente strumenti esterni e ragionamento iterativo per un processo decisionale più adattivo e consapevole del contesto. Il framework è presentato come task-agnostic, con potenziali estensioni alla previsione (forecasting) e al rilevamento delle anomalie.