Technische Samenvatting: Dual-branch Distilled Transformer voor Efficiënte Asymmetrische UAV-tracking (EATrack)

1. Probleemstelling

Tracking van Onbemande Luchtvaartuigen (UAV's) staat voor een kritische afweging tussen computationele efficiëntie en tracking-robustheid. Hoewel Vision Transformers (ViTs) superieure globale modelleringseigenschappen bieden in vergelijking met Convolutional Neural Networks (CNN's) en Discriminative Correlation Filters (DCF's), maakt hun hoge computationele kosten hen onpraktisch voor UAV-platforms aan boord met beperkte middelen.

Bestaande lichtgewicht benaderingen proberen dit op te lossen door netwerkarctitecturen te vereenvoudigen (bijvoorbeeld door lagen te verwijderen, tokens te laten vallen of adaptieve berekening). De paper betoogt echter dat dergelijke structurele vereenvoudigingen vaak de discriminatieve capaciteit van doelrepresentaties verzwakken, wat leidt tot prestatieachteruitgang in complexe scenario's met snelle beweging, occlusie en variaties in uiterlijk. Bovendien werken eerdere kennisdistillatiemethoden in tracking vaak op globaal niveau, waarbij ze geen expliciete gebruik maken van ruimtelijke priors of supervisie richten op het doelgebied. Dit kan resulteren in dat het studentmodel zijn focus op het doel verliest of last krijgt van verslechterde lokalisatie.

2. Methodologie

De auteurs stellen EATrack voor, een efficiënt en asymmetrisch UAV-trackingkader dat centraal staat om een leraar-geleide dual-branch distillatiestrategie. De kernfilosofie is om de rijke feature-representaties en precieze lokalisatiecapaciteiten van een volwaardige "Leraar"-ViT over te dragen aan een lichtgewicht "Student"-ViT tijdens training, zonder extra computationele kosten tijdens inferentie.

2.1. Architectuur

• Leraar Model: Een volwaardige Vision Transformer (12 lagen) die dient als bron van kennis.
• Student Model: Een lichtgewicht, asymmetrische ViT (8 lagen) ontworpen voor real-time inferentie. Het verwerkt template- en zoekframes onafhankelijk in de eerste fase (Fase 1) en fuseert ze in de tweede fase (Fase 2).
• Inferentiepijplijn: De student opereert onafhankelijk. Om temporale variaties op te vangen, accumuleert een Doelopslag betrouwbare doelfeatures. Periodiek worden representatieve embeddings uit deze opslag bemonsterd om de template bij te werken, waardoor temporale aanpassing mogelijk is met minimale overhead.

2.2. Dual-branch Distillatiestrategie

Het trainingsproces maakt gebruik van twee complementaire distillatiebranches om het studentmodel te sturen:

1. Ruimtelijk gefocuste Feature-level Distillatie:

   • Doel: Compensatie voor verzwakte feature-representaties veroorzaakt door pruning.
   • Mechanisme: Een ruimtelijk gewichtsmasker, afgeleid van de ground-truth bounding box, wordt toegepast op zowel leraar- als studentfeatures. Dit dwingt de distillatieverlies (Middeling Kwadratische Fout) om zich te concentreren op het doelgebied terwijl achtergrondruis wordt onderdrukt.
   • Effect: Versterkt het vermogen van de student om sterke, fijnkorrelige doelrepresentaties te leren en verbetert de robustheid tegen achtergrondrommel.

2. Prediction-level Distillatie:

   • Doel: Verbetering van de ruimtelijke lokalisatieprecisie.
   • Mechanisme: Een gemaskerde Kullback–Leibler (KL) divergentieverlies aligneert de confidentieverdelingen van de student en leraar specifiek binnen het doelgebied.
   • Effect: Leidt de student om het precieze lokalisatiegedrag en de randconsistentie van de leraar na te bootsen.

2.3. Training en Verliesfunctie

De totale trainingsverlies combineert standaard trackingdoelen met de distillatietermen:
$$L = L_{cls} + \lambda_1 L_1 + \lambda_2 L_{GIoU} + \lambda_3 L_{feat} + \lambda_4 L_{pred}$$
Waar $L_{feat}$ en $L_{pred}$ respectievelijk de feature-level en prediction-level distillatieverliezen zijn. Cruciaal is dat het leraarmodel en de distillatieverliezen worden verworpen na training; het studentmodel ondergaat geen extra berekening tijdens inferentie.

3. Belangrijkste Bijdragen

De paper schetst drie primaire bijdragen:

1. Dual-branch Distillatiekader: Een nieuw ontwerp dat selectief doel-specifieke kennis overdraagt via ruimtelijk gewogen feature-supervisie en gemaskerde prediction-level alignering. Dit adresseert de beperkingen van uitsluitend globale distillatie door supervisie te concentreren binnen het doelgebied.
2. Fijnkorrelige Doel-bewuste Training: Een strategie die het model expliciet leidt om variaties in uiterlijk vast te leggen door supervisie te richten op de voorgrond. Dit verbetert de robustheid tegen subtiele en dynamische veranderingen zonder de inferentielatentie te verhogen.
3. Asymmetrisch Lichtgewicht Kader: De integratie van een asymmetrische backbone met een temporale versterkingsmechanisme (Doelopslag) creëert een kader dat trackingnauwkeurigheid en computationele efficiëntie in evenwicht brengt, waardoor gepreunde transformers concurrerende nauwkeurigheid kunnen behouden.

4. Experimentele Resultaten

De auteurs evalueerden EATrack op vijf UAV-benchmarks: DTB70, UAVDT, VisDrone2018, UAV123 en UAV123@10fps.

• Prestaties: EATrack-DeiT (met een DeiT-tiny backbone) behaalde state-of-the-art (SOTA) resultaten op alle vijf datasets, en presteerde beter dan eerdere lichtgewicht trackers zoals Aba-ViTrack en SGLATrack. Bijvoorbeeld, op UAV123 behaalde het een success rate van 68,1%, wat een aanzienlijke marge boven de vorige beste uitkomt.
• Efficiëntie: Het model draait op 33,6 FPS op een embedded NVIDIA Jetson TX2-platform zonder versnellingstools (zoals TensorRT), wat real-time capaciteit aantoont. Op een high-end GPU (A100) bereikt het 241,9 FPS.
• Ablatiestudies:
  • Distillatie: Het verwijderen van distillatie resulteerde in een daling van 1,4% in precisie en 1,1% in success rate op UAV123. Zowel de feature-level als de prediction-level branches bleken complementair.
  • Temporale Cues: Het incorporeren van temporale cues verbeterde de prestaties aanzienlijk op dynamische datasets (bijvoorbeeld +3,2% op DTB70, +5,8% op VisDrone), wat de waarde van temporale modellering in complexe bewegingssituaties bevestigt.
  • Diepte-analyse: De studie identificeerde een optimale balans tussen laagdiepte en efficiëntie, waarbij een configuratie werd geselecteerd die prestaties maximaliseert terwijl het lichtgewicht-doel behouden blijft.

5. Betekenis en Claims

De paper beweert dat EATrack effectief de kloof overbrugt tussen efficiëntie en nauwkeurigheid in UAV-tracking. Door gebruik te maken van een leraar-geleide, doel-bewuste distillatiestrategie, stelt de methode structureel gepreunde transformers in staat om de discriminatieve en lokalisatiecapaciteiten van grotere modellen te behouden zonder de bijbehorende inferentie-overhead.

De auteurs benadrukken dat hun aanpak zich onderscheidt van bestaande op distillatie gebaseerde trackers door:

• Voorbij te gaan aan globale begeleiding naar fijnkorrelige, doel-bewuste supervisie.
• Het combineren van feature-level en prediction-level begeleiding om tegelijkertijd de representatiekwaliteit en de lokalisatieprecisie aan te pakken.
• Het bereiken van robustheid tegen variaties in uiterlijk via een temporale aanpassingsmechanisme dat werkt tegen ultra-lage kosten.

De resultaten suggereren dat EATrack een levensvatbare oplossing is voor real-time luchtvaarttoepassingen waarbij zowel hoge trackingnauwkeurigheid als strikte computationele beperkingen vereist zijn.