Hyperspectral Trajectory Image for Multi-Month Trajectory Anomaly Detection

Probleemstelling

Trajectanomalie-detectie is cruciaal voor toepassingen zoals fraudeopsporing en stedelijke mobiliteitsanalyse. Bestaande methoden kampen echter met een fundamenteel dilemma tussen observatievermogen en schaalbaarheid:

1. Dichte GPS-methoden: Behouden fijnmazige informatie (zoals abnormale snelheden en kortdurende gebeurtenissen), maar zijn computatief onuitvoerbaar voor analyse over meerdere maanden. De kwadratische kost van Transformers (afhankelijk van sequentielengte) maakt het verwerken van duizenden tijdstappen onmogelijk.
2. Sparse (vaste) methoden: Comprimeren GPS-data naar "stay-points" (stoppunten) om schaalbaarheid te bereiken, maar werpen hierbij waardevolle bewijslast weg (zoals afwijkende routes of snelheidsprofielen tijdens beweging).
3. Gebrek aan eenheid: Er bestaat geen enkele architectuur die beide regimes (dicht en spaarzaam) verenigt. Bovendien negeren bestaande modellen de cyclische structuur van menselijke mobiliteit (dag-tot-dag patronen en binnen-dag patronen), waardoor modellen deze periodieke patronen opnieuw moeten leren uit ruwe data.

Methodologie: TITAnD

De auteurs stellen TITAnD (Trajectory Image Transformer for Anomaly Detection) voor, een raamwerk dat trajectanomalie-detectie herformuleert als een visueel probleem.

1. Hyperspectral Trajectory Image (HTI)

In plaats van trajecten als lineaire sequenties te behandelen, worden ze omgezet in een 2D-afbeelding met de afmetingen Dagen × Tijd van de dag.

• Structuur: Een raster van $D$ dagen en $S=288$ tijdsblokken per dag (5-minuten intervallen).
• Kanalen: Elke pixel in dit raster bevat een "hyperspectrale" embedding die informatie uitdrukt over:
  • Spatio-semantisch: Locatie (via UTM-coördinaten en POI-context).
  • Temporeel: Kalendercontext (dag van de week, uur, etc.).
  • Kinematisch: Bewegingsdynamica (snelheid, versnelling, richting).
• Unificatie: Zowel dichte GPS-streams als spaarzame stay-point logs worden via specifieke encoders naar hetzelfde HTI-formaat geprojecteerd, waardoor beide data-types als één visuele taak kunnen worden behandeld.

2. Cyclic Factorized Transformer (CFT)

Om de HTI efficiënt te verwerken, introduceren de auteurs de CFT. Dit is een Transformer-architectuur die de aandacht (attention) factoriseert langs de twee cyclische assen van de menselijke routine:

• Intra-day Attention: Modelleert patronen binnen een enkele dag (bijv. verkeersdrukte, stop-en-go dynamiek).
• Inter-day Attention: Modelleert consistentie over dagen heen (bijv. dezelfde ochtendroute elke dag).
• Efficiëntie: Door de aandacht te factoriseren in plaats van de volledige $D \times S$ sequentie plat te maken, daalt de complexiteit van $O(D^2S^2)$ naar $O((DS^2 + SD^2))$. Dit resulteert in een reductie van de rekentijd met een factor 85 (voor $D=120, S=288$) en maakt analyse over meerdere maanden mogelijk.
• Cyclische Bias: De architectuur gebruikt RoPE (Rotary Positional Embeddings) onafhankelijk per as om de cyclische aard van menselijke routines expliciet te modelleren.

3. Taken

• Agent-level detectie: Gereduceerd tot beeldclassificatie (is er een anomalie in het hele beeld?).
• Temporele lokalisatie: Gereduceerd tot semantische segmentatie (welke pixels/tijdsblokken zijn abnormaal?).

Belangrijkste Bijdragen

1. Eerste multi-maand detectie: TITAnD is het eerste framework dat anomalie-detectie uitvoert op dichte GPS-trajecten over meerdere maanden.
2. Unificatie van data-modi: Door de HTI-representatie worden dichte en spaarzame data verenigd onder één architectuur, wat kennisoverdracht tussen beide regimes mogelijk maakt.
3. CFT-architectuur: Een nieuwe Transformer-variant die de cyclische structuur van menselijke mobiliteit benut, wat leidt tot enorme efficiëntiewinsten zonder prestatieverlies.
4. Supervisie: Het paper benadrukt het belang van supervisie (gebruik van gelabelde data) in plaats van alleen zelf-supervisie (reconstructie), wat vaak suboptimaal is voor detectie.

Resultaten

De auteurs evalueren TITAnD op drie benchmarks: een spaarzaam dataset (NumoSim-LA) en twee dichte datasets (Tokyo, inclusief een geconverteerde "Dense2Sparse" variant).

• Prestaties: TITAnD behaalt de beste AUC-PR (Area Under Precision-Recall Curve) op zowel dichte als spaarzame benchmarks.
  • Op de dichte Tokyo-dataset bereikt het een temporele AUC van 0.84 (40% verbetering ten opzichte van een standaard Transformer).
  • Op de spaarzame NumoSim-LA dataset bereikt het een agent AUC van 0.63, wat aanzienlijk beter is dan gespecialiseerde spaarzame methoden zoals USTAD (0.53) en ICAD (0.30).
• Efficiëntie:
  • TITAnD is 11 tot 75 keer sneller dan een standaard Transformer bij het verwerken van lange sequenties (tot 12 maanden).
  • Het model is kleiner (6.5M parameters) dan CNN-baselines (19-26M parameters).
• Ablatiestudies:
  • Ruimtelijke context is de belangrijkste signaalbron.
  • Zowel intra-day als inter-day aandacht zijn noodzakelijk; geen enkele as alleen is voldoende, vooral niet voor spaarzame data. Dit bevestigt dat de factorisatie essentieel is.

Betekenis en Conclusie

Dit paper toont aan dat het herformuleren van trajectdata als een visueel probleem (HTI) gecombineerd met een structuur-bewuste architectuur (CFT) de barrières voor lange-termijn analyse doorbreekt.

• Het lost het compromis op tussen fijnmazige data en schaalbaarheid.
• Het bewijst dat menselijke mobiliteit een natuurlijke 2D-cyclische structuur heeft die expliciet gemodelleerd moet worden voor optimale prestaties.
• Het stelt voor het eerst de mogelijkheid open om anomalieën te detecteren in maandenlange, dichte GPS-gegevens, wat eerder computatief onmogelijk was.

De auteurs kondigen aan dat de code en modellen openbaar zullen worden gemaakt, wat de basis legt voor toekomstig onderzoek in mobiliteitsanalyse en veiligheidsmonitoring.