Technische Samenvatting: Semi-parametrische Functionele Classificatie via Path Signature Logistische Regressie met Adaptieve Orde-selectie

Probleemstelling

Het artikel behandelt de uitdaging van het classificeren van vector-waardige functionele data (bijv. meerdimensionale tijdreeks-trajecten) in aanwezigheid van scalaire covariaten. Traditionele functionele logistische regressiemodellen vertrouwen op lineaire aannames en vaste basis-expansies (bijv. Fourier, B-splines, FPCA). Deze klassieke benaderingen kampen met drie primaire beperkingen:

1. Lineariteitsaanname: Ze gaan uit van een lineaire relatie tussen functionele predictoren en de log-odds van de respons, wat kan falen bij het vastleggen van complexe niet-lineaire dynamiek.
2. Basis-gevoeligheid: De prestaties zijn sterk afhankelijk van de keuze van basisfuncties en de plaatsing van knopen (knots), wat kan leiden tot model-misspecificatie en een vertroebelde interpreteerbaarheid.
3. Kwetsbaarheid voor Irreguliere Sampling: Basis-projecties gaan uit van volledige, uniform gesamplede trajecten. Irreguliere sampling of ontbrekende data introduceert representatiebias en vereist interpolatie, wat kan leiden tot overmatige smoothing of structurele bias.

Bovendien verwaarlozen bestaande methoden vaak cross-kanaal correlaties of vereisen ze perfecte temporele uitlijning, wat onpraktisch is in scenario's uit de echte wereld zoals loopanalyse of sensor-gebaseerde activiteitsherkenning.

Methodologie: Path Signatures Logistic Regression (PSLR)

De auteurs stellen Path Signatures Logistic Regression (PSLR) voor, een semi-parametrisch raamwerk dat de lineaire functionele term vervangt door een niet-lineaire transformatie gebaseerd op path signatures.

Modelformulering

Het model gaat uit van een semi-parametrische additieve structuur voor de conditionele log-odds:
$$\text{Logit}(P(y=1|X, z)) = F(X) + z^\top \gamma$$
waarbij $X$ een $d$-dimensionale functionele predictor is, $z$ een vector van scalaire covariaten, en $F$ een gladde, niet-parametrische functionele mapping.

Om $F(X)$ te benaderen, behandelt de methode het tijd-geaugmenteerde signaal $\tilde{X} = (X, t)$ als een continu pad. Door gebruik te maken van de universaliteitseigenschap van path signatures (Stone–Weierstrass-type stelling), wordt $F(X)$ benaderd door een lineaire vorm van de getrunceerde signature:
$$F(X) \approx S_p(\tilde{X})^\top \beta_p$$
waarbij $S_p(\tilde{X})$ de getrunceerde path signature van orde $p$ is, en $\beta_p$ een coëfficiëntvector. Het volledige model wordt een generalized linear model:
$$\text{Logit}(P(y=1|X, z)) = \tilde{S}_p^\top \theta_p$$
waarbij $\tilde{S}_p$ de signature-features en scalaire covariaten concateneert.

Belangrijkste Innovaties

1. Basis-vrije Representatie: Signatures leggen geometrische en temporele kenmerken vast (verplaatsing, kromming, getekende oppervlakte) zonder dat basisselectie vereist is.
2. Robuustheid tegen Irregulariteit: De signature transform is stabiel onder kleine perturbaties van het pad. De methode gebruikt lokale stuksgewijze lineaire interpolatie, die theoretisch verdwijnt in fout naarmate het sampling-grid verfijnt, in tegenstelling tot globale basis-projecties die lijden onder irreducibele structurele bias.
3. Adaptieve Orde-selectie: Een cruciale bijdrage is een volledig data-gedreven procedure om de truncatie-orde $p$ te selecteren. In plaats van $p$ heuristisch vast te leggen, stellen de auteurs het minimaliseren van een gepenaliseerd empirisch risico-criterium voor:
   $$\hat{p} = \arg\min_{p} \left( \hat{L}_n(p) + \text{penn}(p, q) \right)$$
   waarbij $\hat{L}_n(p)$ het geregulariseerde empirische risico is en de strafterm $\text{penn}(p, q)$ schaalt met de complexiteit van de signature-features ($\sqrt{s_d(p)}$) en de dimensie van de scalaire covariaten ($\sqrt{q}$).

Theoretische Bijdragen

Het artikel biedt rigoureuze non-asymptotische garanties voor het voorgestelde raamwerk:

• Bestaan van Optimale Orde: Het bewijst het bestaan van een optimale truncatie-orde $p^*$ en coëfficiënten $\theta^*_{p^*}$ die de populatierisico willekeurig goed benaderen.
• Consistentie: De data-gedreven estimator $\hat{p}$ is aangetoond consistent te zijn, waarbij deze met exponentiële waarschijnlijkheid convergeert naar de ware optimale orde $p^*$ naarmate de steekproefomvang toeneemt.
• Risico-convergentie: Het classifier-risico convergeert met de standaard parametrische snelheid van $O(n^{-1/2})$, mits de correcte orde wordt geselecteerd.
• Eindige Zoekbereik: De auteurs leiden een berekenbare bovengrens $P$ af voor het zoekbereik van $p$, wat garandeert dat de optimalisatie eindig en praktisch is ($P = O(\log n)$).
• Foutpropagatie: Er wordt een raamwerk opgezet dat aantoont dat de reconstructiefout van PSLR verdwijnt bij grid-verfijning, in contrast met de irreducibele bias van basis-expansie methoden onder irreguliere sampling.

Experimentele Resultaten

De methode werd geëvalueerd op synthetische data en drie real-world datasets:

1. Synthetische Data: PSLR presteerde consequent beter dan klassieke functionele classifiers (B-spline, Fourier, FPCA) en geablateerde versies (Signature-only, Scalar-only) over variërende dimensies, aantal scalaire covariaten en irreguliere sampling-scenario's (ontbrekende data en ongelijkmatige tijdgrids).
2. Parkinson-ziekte Loopanalyse: Bij het gebruik van Vertical Ground Reaction Force (VGRF) data, bereikte PSLR superieure nauwkeurigheid en F1-scores vergeleken met baselines. Het model identificeerde succesvol interpreteerbare coëfficiënten, zoals de negatieve impact van verminderde variabiliteit in specifieke voetregio's op de PD-waarschijnlijkheid, wat overeenkomt met klinische observaties van een rigide looppatroon.
3. Human Activity Recognition (MotionSense): Bij het classificeren van wandelen versus joggen met behulp van smartphone-sensordata, toonde PSLR een hogere nauwkeurigheid en stabiliteit dan baselines, waarbij het effectief zowel functionele bewegingssignalen als scalaire attributen (bijv. gewicht) benutte.
4. Multi-Cohort Klinische Loopanalyse: De methode werd toegepast om neurologische patiënten van gezonde controles te onderscheiden met behulp van wearable sensor data, wat de robuustheid in complexe, hoog-dimensionale settings verder valideerde.

Betekenis en Claims

Het artikel claimt dat PSLR een praktische en theoretische vooruitgang biedt in de functionele data-analyse door:

• Integratie van Rough Path Theory met Adaptieve Complexiteit: Het overbrugt de kloof tussen de theoretische kracht van path signatures en praktische modelselectie, door verder te gaan dan vaste-orde heuristieken.
• Omgaan met Imperfecties in Real-World Data: Door het vermijden van basis-expansies, handelt de methode inherent irreguliere sampling en inter-kanaal afhankelijkheden af zonder dat tijdelijke uitlijning of complexe imputatie vereist is.
• Interpreteerbaarheid: Het raamwerk behoudt de interpreteerbaarheid voor scalaire covariaten terwijl het een geometrische interpretatie biedt van functionele effecten via signature-termen (bijv. verplaatsing, oppervlakte, interacties).
• Theoretische Rigor: Het vult een kritiek gat in de literatuur door de eerste non-asymptotische garanties te bieden voor adaptieve orde-selectie in semi-parametrische signature-gebaseerde classificatie, waardoor de modelcomplexiteit alleen groeit wanneer dat nodig is om de intrinsieke datastructuur te vatten.

De auteurs benadrukken dat hoewel de signature transform zelf bekend is, de integratie ervan met adaptieve complexiteitscontrole en scalaire covariaten binnen een verenigd semi-parametrisch logistisch regressieraamwerk een nieuwe bijdrage is die wordt ondersteund door rigoureuze finite-sample garanties.