When Does Channel Pruning Help Noise-Robust Pedestrian Detection? A Cross-Dataset Empirical Study

Technische Samenvatting: Wanneer helpt kanaal-pruning bij ruisbestendige voetgangersdetectie?

Probleemstelling
Voetgangersdetectiesystemen, die cruciaal zijn voor autonoom rijden en surveillance, vertonen vaak een significante degradatie onder realistische inputruis (bijv. sensor-uitleesruis, atmosferische omstandigheden, compressie-artefacten). Hoewel denoising in de inputruimte en ruisbewuste training gevestigde strategieën zijn, blijven benaderingen in de modelruimte—specifiek het prunen van kanalen om alleen ruisbestendige features te behouden—onderbelicht. De centrale vraag die wordt behandeld is of het zoeken naar en prunen van specifieke kanaalsubsets in een vooraf getrainde detector een kleiner, gelijktijdig ruisbestendiger model kan opleveren, en onder welke omstandigheden dit het geval is.

Methodologie
De studie maakt gebruik van een gecontroleerd, lek-vrij cross-dataset evaluatieprotocol met behulp van een hybride Particle Swarm Optimization en Differential Evolution (PSO–DE) zoekalgoritme, getiteld SPH-NRYP.

• Zoekruimte: Het algoritme zoekt naar binaire kanaalmaskers over de P3 en P4 feature-stadia van een vooraf getrainde YOLOv9m supernet. De stem en de detectie-head blijven ongepruned om lokalisatie van kleine objecten te behouden. De zoekruimte bestaat uit $N=600$ kanalen (240 van P3, 360 van P4).
• Supernet-paradigma: Een enkel "referentie supernet" is vooraf getraind met per-kanaal dropout ($p=0.25$) op de pruneerbare stadia. Dit maakt het mogelijk om willekeurige sub-netwerken te evalueren zonder hertraining, door gebruik te maken van feature-level hooks om pruning te simuleren.
• Fitnessfunctie: De zoekopdracht optimaliseert een gescalariseerde multi-objective functie:
  $$F(m) = \alpha \cdot \text{mAP}_\sigma(m) + \beta \cdot \text{SF}(m) + \gamma \cdot (1 - \rho(m))$$
  waarbij $\text{mAP}_\sigma$ de gemiddelde Average Precision is op een ruizige validatiesplit, $\text{SF}$ een Structural Fidelity term is (Pearson correlatie van feature maps tussen de geprunede kandidaat en het volledige supernet op een kalibratieset), en $\rho$ de kanaaldichtheid is (sparsity penalty).
• Evaluatieprotocol: Cruciaal is dat maskers worden geselecteerd op basis van validatieprestaties, maar worden geëvalueerd op gehouden-out test-splits die disjoint zijn van de zoekdata om selectiebias te voorkomen. Evaluaties dekken drie voetgangersbenchmarks die een orde van grootte verschillen in trainingsomvang beslaan: PnPLO/Karthy (klein, 944 afbeeldingen), INRIA Person (medium, 632 afbeeldingen), en Pascal VOC 2007+2012 person-only (groot, 6340 afbeeldingen). Ruisniveaus ($\sigma$) variëren van 0 tot 30 (Gaussische ruis).

Belangrijkste Bijdragen en Bevindingen

1. Smal, configuratie-afhankelijk werkingsbandbreedte:
   Over alle drie de datasets heen convergeert de hybride zoekopdracht naar een opmerkelijk smalle kanaaldichtheidsband, $\rho \in [0.553, 0.603]$, ondanks een 10-voudige variatie in de omvang van de trainingsset. Een gecontroleerde sweep van de sparsity weight ($\gamma$) onthult dat dit een configuratie-afhankelijk werkingspunt is (verankerd door de accuratesse/structuur doelstellingen) in plaats van een data-niveau invariant. De dichtheid verschuift monotoon met $\gamma$ ($d\rho/d\gamma \approx -0.23$).

2. Dataset-afhankelijk effect op ruisbestendigheid:
   De impact van pruning naar deze band is niet uniform; het is strikt dataset-afhankelijk:

   • PnPLO (Kleine data): Pruning verbetert de ruisbestendigheid. Bij $\sigma=20$ bereikt het geprunede model een +5.9 procentpunt (pp) hogere mAP dan de ongepruned baseline (0.682 vs. 0.623) en vertoont een kleinere clean-to-noisy prestatiekloof (0.140 vs. 0.192). Hier fungeert pruning als een regularisator.
   • INRIA en VOC (Grotere data): Pruning naar dezelfde band verslechtert de prestaties. Op INRIA en VOC vallen de geprunede modellen 6–11 pp onder zowel het ongepruned model als een high-density random baseline. In deze regimes vertegenwoordigt de weggegooide capaciteit essentiële signalen in plaats van redundantie.

3. Inertie van structurele en sparsity termen:
   Ablatie-studies onthullen dat noch de Structural Fidelity (SF) term, noch de expliciete sparsity penalty de detectie-accuratesse verbetert ten opzichte van een accuracy-only objective (A3). De zoekopdracht convergeert naar dezelfde lage-dichtheidsband en bereikt een vergelijkbare mAP wanneer er enkel wordt geoptimaliseerd voor noisy mAP. Hoge structurele getrouwheid lijkt een emergent kenmerk te zijn van maskers die de noisy mAP behouden, en niet een onafhankelijk doel.

4. Superioriteit van zoekopdracht boven magnitude pruning:
   Hoewel het resultaat van pruning dataset-afhankelijk is, is de methode van zoeken superieur aan standaard magnitude pruning. Magnitude pruning stort in bij de lage-dichtheidsband ($\rho \approx 0.55$), wat resulteert in bijna nul accuratesse op INRIA en VOC. De metaheuristische zoekopdracht slaagt erin bruikbare low-density werkingspunten te herstellen die magnitude-gebaseerde heuristieken niet kunnen bereiken, zelfs als die punten niet optimaal zijn voor alle datasets.

5. Bescheiden computationele besparingen:
   De studie biedt een eerlijke verantwoording van de structurele FLOPs. Omdat de maskers alleen specifieke stage-outputs (P3/P4) en hun directe consumenten beïnvloeden, is de gerealiseerde FLOP-reductie bescheiden (~4%), ver onder de ~45% die door een lineaire dichtheid-proxy werd voorspeld.

Significantie en Claims
Het artikel formuleert zijn bijdrage expliciet niet als een nieuwe methode die universeel "wint", maar als een karakterisering van wanneer kanaal-pruning helpt bij ruisbestendige detectie.

• Pruning is een Regularisator in Kleine-Data Regimes: De studie identificeert dat structurele pruning fungeert als een nuttige ruisbestendige regularisator alleen in kleine-data, hoge-redundantie regimes (zoals PnPLO). In grotere, complexere datasets is agressieve pruning een last.
• Waarschuwing tegen Over-engineering: De resultaten suggereren dat uitgebreide structurele zoekdoelen (combinatie van fidelity, sparsity en accuratesse) wellicht redundant zijn; het optimaliseren voor noisy accuratesse alleen is voldoende om de optimale dichtheidsband te vinden. Bovendien kan een dichtheid-gealigneerde random search de geavanceerde metaheuristische zoekopdracht evenaren of zelfs overtreffen, vooral op grotere datasets.
• Methodologische Voorzichtigheid: De auteurs waarschuwen tegen de aanname dat geavanceerde structurele zoekopdrachten of agressieve pruning inherent de ruisbestendige detectie ten goede komen. De "beste" pruning strategie is afhankelijk van de redundantie en schaal van de dataset, en de smalle werkingsband die is ontdekt, is een eigenschap van de zoekdynamiek en de fitness-weging, niet een universele data-invariant.

Samenvattend laat de studie zien dat hoewel metaheuristische zoekopdrachten in staat zijn om low-density, ruisbestendige sub-netwerken te vinden die magnitude pruning mist, het nut van dergelijke pruning sterk geconditioneerd is: het is gunstig voor scenario's met kleine hoeveelheden data, terwijl het de prestaties op grotere, meer diverse benchmarks schaadt.