EdgeLPR: On the Deep Neural Network trade-off between Precision and Performance in LiDAR Place Recognition

Technische Samenvatting: EdgeLPR

Probleemstelling
Autonome navigatie op lange termijn is sterk afhankelijk van plaatsherkenning om lus-sluiting te realiseren en consistente mapping te handhaven. Hoewel diep leren de nauwkeurigheid van het extraheren van discriminerende kenmerken uit sensorische data aanzienlijk heeft verbeterd, blijft het implementeren van deze modellen op resource-beperkte EdgeAI-platforms een kritieke bottleneck. Traditionele op LiDAR gebaseerde benaderingen vereisen vaak het opslaan en vergelijken van grote puntwolken, wat leidt tot onaanvaardbare geheugen- en rekenkundige eisen. Bovendien verergeren de gelijktijdige implementatie van meerdere diepe netwerken (voor staatsschatting, mapping, detectie, etc.) deze beperkingen. Er ontbreekt een systematische analyse van hoe lichtgewicht architecturen en afwegingen in numerieke precisie de prestaties beïnvloeden bij LiDAR-plaatsherkenning, met name bij de overgang van hoog-precisie floating-point naar laag-precisie integer-inferentie.

Methodologie
Het artikel presenteert EdgeLPR, een framework voor efficiënte op LiDAR gebaseerde plaatsherkenning dat gebruikmaakt van Bird's Eye View (BEV)-representaties om het gebruik van lichtgewicht, op beelden gebaseerde convolutionele neurale netwerken (CNN's) mogelijk te maken.

• Representatie: In plaats van ruwe 3D-puntwolken te verwerken, projecteert het systeem LiDAR-scans naar 256x256 BEV-afbeeldingen. Dit verlaagt de inputdimensie en maakt het gebruik van efficiënte 2D-convolutionele backbones mogelijk.
• Architectuur: Het framework hanteert een unificerend beschrijverschema. Het maakt gebruik van drie representatieve lichtgewicht backbones: MobileNetV3, ShuffleNetV2 en ResNet18. In tegenstelling tot eerdere werken die vertrouwen op complexe aggregatiekoppen (zoals NetVLAD), extraheren deze modellen kenmerken, passen adaptieve globale pooling toe en voeren het resultaat door een ondiepe Fully Connected (FC)-laag om een compacte globale beschrijver te genereren. Dit ontwerp isoleert de bijdrage van de backbone-architectuur en zorgt voor een consistente beschrijvergrootte voor eerlijke vergelijking.
• Kwantiseringsstrategie: Om de afweging tussen efficiëntie en nauwkeurigheid te evalueren, benchmarken de auteurs de modellen onder drie precisie-regimes: FP32 (volledige precisie), FP16 (half-precisie) en INT8 (8-bit integer). De INT8-evaluatie maakt gebruik van een statische post-training kwantisatie (PTQ)-strategie, waarbij schalingsfactoren en nulpunten worden bepaald via een kalibratiefase om de reconstructiefout op een representatieve subset van data te minimaliseren.
• Training en Evaluatie: De modellen worden getraind op het KITTI-dataset (sequentie '00') met een triplet-verliesdoelstelling en augmentatie met willekeurige rotatie in het vlak. De evaluatie vindt plaats op twee datasets:
  • KITTI (sequentie 02, 05, 06): Voor intra-sequentie, robuustheid op korte termijn ten opzichte van gezichtspunten.
  • NCLT: Voor inter-sequentie, variaties op lange termijn in seizoenen en uiterlijk.
    De prestaties worden gemeten aan de hand van Recall@k (k=1, 5, 10, 20), F1-score, PR AUC en Mean Reciprocal Rank (MRR).

Belangrijkste Bijdragen

1. Nieuw Evaluatieframework: Het ontwerp en de validatie van een gecontroleerd, reproduceerbaar framework voor het evalueren van lichtgewicht neurale netwerken onder variërende kwantisatieniveaus, specifiek voor plaatsherkenning.
2. Uitgebreide Kwantitatieve Beoordeling: Een systematische analyse van state-of-the-art lichtgewicht architecturen (MobileNetV3, ShuffleNetV2, ResNet18) over verschillende precisies en omgevingscomplexiteiten (korte termijn versus lange termijn).
3. Empirische Toolbox: Het bieden van datagedreven inzichten ter ondersteuning van hardware- en prestatie-informeerde ontwerpkeuzes voor robotische perceptiesystemen van de volgende generatie, met name gericht op het overbruggen van het gat in het begrijpen hoe inputrepresentatie en modelcomplexiteit interageren met resource-beperkingen.

Resultaten
De experimenten tonen duidelijke afwegingen tussen nauwkeurigheid, robuustheid en efficiëntie:

• FP16 versus FP32: Bij alle architecturen levert FP16 resultaten op die bijna identiek zijn aan FP32, wat een "gratis" winst in geheugenefficiëntie en rekenkundige snelheid biedt zonder in te leveren op nauwkeurigheid.
• INT8-impact: De degradatie veroorzaakt door INT8-kwantisatie is sterk afhankelijk van de architectuur.
  • MobileNetV3: Toont de hoogste nauwkeurigheid in floating-point, maar lijdt onder de grootste prestatiedaling onder INT8 (bijvoorbeeld Recall@1 op KITTI daalt van ~0,90 naar ~0,75).
  • ShuffleNetV2: Demonstreert de meest gunstige balans, met behoud van concurrerende prestaties en minimale degradatie onder INT8, terwijl het het kleinste geheugengebruik biedt (~2,17 MB in INT8).
  • ResNet18: Toont de sterkste robuustheid tegen INT8-kwantisatie en veranderingen in uiterlijk op lange termijn (NCLT-dataset), met verwaarloosbare prestatiedaling. Het grote geheugengebruik (~11,15 MB in INT8) beperkt echter de geschiktheid voor strikt beperkte platformen.
• Inferentiegedrag: Interessant is dat parameter-efficiëntie niet altijd vertaalt naar hardware-efficiëntie. Bijvoorbeeld, ShuffleNetV2 toonde beperkte schaalbaarheid van doorvoer onder INT8-CPU-uitvoering in vergelijking met zijn floating-puntprestaties, wat suggereert dat architecturale efficiëntie in termen van parameters niet in alle contexten efficiënt hardwaregebruik garandeert.

Betekenis en Claims
Het artikel claimt een principiële basis te bieden voor het ontwikkelen van resource-efficiënte, door AI gedreven pijplijnen voor plaatsherkenning. Het betoogt dat de optimale architectuur niet universeel is, maar afhankelijk van specifieke doelstellingen:

• Als maximale nauwkeurigheid de prioriteit is en er gematigde resources beschikbaar zijn, is MobileNetV3 in FP16 een sterke kandidaat.
• Voor strikte geheugen- en stroombudgetten biedt ShuffleNetV2 met INT8 de meest efficiënte oplossing, met concurrerende prestaties en een ~4x reductie in geheugen in vergelijking met FP32.
• ResNet18 wordt benadrukt vanwege zijn robuustheid tegen kwantisatie en temporele variaties, hoewel zijn grootte de toepasbaarheid op laagvermogen beperkt.

De auteurs benadrukken dat robuustheid tegen kwantisatie alleen onvoldoende is; dit moet gepaard gaan met architecturale efficiëntie. Het werk concludeert dat het co-ontwerpen van architectuur, beschrijverdimensie en numerieke precisie essentieel is voor schaalbare, langetermijnimplementatie op low-power robotplatforms. Voor toekomstig werk wordt voorgesteld gezamenlijke optimalisatiestrategieën te onderzoeken, zoals kwantisatie-bewuste training en reductie van beschrijverdimensie.