Technische Samenvatting: XiYOLO: Energiebewuste Objectdetectie via Iteratieve Architectuurzoek en Schaling

Probleemstelling

Objectdetectie op heterogene randapparaten (bijv. UAV's, UGV's, mobiele robots) staat voor een kritiek conflict tussen de behoefte aan betrouwbare waarneming en strikte beperkingen op het gebied van energie, latentie en geheugen. Hoewel grotere detectoren vaak de nauwkeurigheid verbeteren, brengen ze onaanvaardbare energiekosten met zich mee die de uithoudingsvermogen van het systeem beperken. Omgekeerd zijn kleinere modellen efficiënt, maar kunnen ze gebrek aan robuustheid vertonen.

Bestaande energiebewuste Neural Architecture Search (NAS)-methoden richten zich vaak op beperkte implementatieomgevingen of op enkele eindmodellen in plaats van op schaalbare detectorfamilies. Een primaire bottleneck is de moeilijkheid om te optimaliseren voor "echte" energie: standaard proxies zoals FLOPs, MAC's of het aantal parameters voorspellen de gemeten energie niet nauwkeurig, omdat energieverbruik sterk afhankelijk is van het apparaat, beïnvloed door geheugenbeweging, samenstelling van operatoren en platformspecifieke uitvoeringsgedragingen. Bovendien is het verkrijgen van exhaustieve hardware-energiemetingen over een grote zoekruimte kostbaar en vaak onpraktisch.

Methodologie

De auteurs stellen XiYOLO voor, een energieadaptief raamwerk ontworpen om een enkele energie-efficiënte basisarchitectuur te identificeren en deze uit te breiden tot een familie van detectoren voor verschillende implementatiebudgetten. Het raamwerk bestaat uit vier kerncomponenten:

1. Energiebewuste Zoekruimte (XiResOFA)

Het raamwerk introduceert een nieuw zoekblok, XiResOFA, dat standaard residual bottleneck-ontwerpen uitbreidt met elastische architecturale keuzes die compatibel zijn met Once-for-All (OFA)-zoek. Elk blok wordt geparametriseerd door een tuple $(r, k, t)$:

• Compressieverhouding ($r$): Kiesbaar uit $\{1, 0.5, 0.25\}$ om de kanaalbreedte te controleren.
• Kerngrootte ($k$): Kiesbaar uit $\{1, 3, 5\}$ om de receptieve velden aan te passen.
• Aandachtstype ($t$): Kiesbaar tussen "lite" en "full" aandachtsmechanismen.

Deze keuzes worden consequent toegepast over de backbone, het Feature Pyramid Network (FPN) en het Path Aggregation Network (PAN), waardoor een coherente zoekruimte ontstaat waarin architecturale beslissingen een directe, interpreteerbare relatie hebben met zowel detectiekwaliteit als hardware-energie.

2. Tweestaps Energie-inschatting

Om de schaarste aan hardware-energiegegevens aan te pakken, ontwikkelen de auteurs een tweestaps energiebenaderingsmodel:

• Fase 1 (Generieke Prior): Een voorgetrainde predictor $f_{base}(a)$ schat energie uitsluitend op basis van architectuur, waardoor overdraagbare energiepatronen op structuurniveau worden vastgelegd.
• Fase 2 (Apparaatspecifiek Residu): Een lichtgewicht residumodel $r(a, h)$ past de prior aan op specifieke hardware-doelen ($h$), rekening houdend met backend-implementatie en geheugenhierarchie.
  De uiteindelijke schatting is $\hat{E}(a, h) = f_{base}(a) + r(a, h)$. Deze aanpak stelt het systeem in staat om te kalibreren voor een nieuw apparaat met slechts 2–20 gemeten steekproeven (few-shot adaptatie) in plaats van exhaustieve profilering.

3. Iteratieve Architectuurzoek

In plaats van een monolithische gezamenlijke zoektocht over de backbone, FPN en PAN, hanteert het raamwerk een iteratieve zoekstrategie. Het verfijnt elke component progressief terwijl het conditieert op de huidige keuzes van de anderen:

1. Optimaliseer de backbone gegeven de huidige FPN/PAN.
2. Optimaliseer de FPN gegeven de nieuwe backbone en de huidige PAN.
3. Optimaliseer de PAN gegeven de nieuwe backbone en FPN.
   Deze stapsgewijze verfijning vermindert de combinatorische complexiteit terwijl het componenten toelaat om zich gezamenlijk aan te passen aan het energiebudget.

4. Compound Schaling

Zodra een enkele geoptimaliseerde basisarchitectuur ($a^*$) is geïdentificeerd, past het raamwerk compound schaling toe om een familie van implementeerbare varianten (nano, small, medium) te genereren. Dit scheidt de architectuurontdekking van de implementatieadaptatie, waardoor het genereren van modellen voor verschillende operationele regimes mogelijk wordt zonder dat er afzonderlijke zoektochten nodig zijn voor elk punt.

Belangrijkste Bijdragen

• XiYOOL Framework: Een nieuwe aanpak voor energieadaptieve waarneming die het probleem formuleert als het ontwerpen van een schaalbare basisdetector in plaats van het zoeken naar geïsoleerde modellen.
• XiResOFA Zoekruimte: Een blokontwerp met controleerbare compressie, kerngrootte en aandacht dat interpreteerbare nauwkeurigheids-energieafwegingen mogelijk maakt.
• Iteratieve Zoekstrategie: Een progressieve zoekmethode over backbone, FPN en PAN die een hoogwaardige basisarchitectuur efficiënter identificeert dan een globale gezamenlijke zoektocht.
• Tweestaps Energie-inschatter: Een model dat een generieke architectuurpredictor combineert met een hardware-specifiek residu, wat de steekproefficiëntie voor energiebewuste zoektochten onder schaarse hardware-metingen aanzienlijk verbetert.

Experimentele Resultaten

Experimenten werden uitgevoerd op de PascalVOC- en COCO-datasets, met implementatie op een echt apparaat op een ModalAI Sentinel Development Drone (met een Qualcomm Adreno 650 GPU en 15 TOPS NPU).

• PascalVOC-prestaties: Het medium XiYOLO-model behaalde 86,15 mAP50, wat YOLOv12m met +0,07 mAP50 overtrof. Cruciaal was dat het het energieverbruik met 20,6% op GPU en 35,9% op NPU verminderde ten opzichte van YOLOv12m. Op kleine schaal behaalde het 84,38 mAP50 met energiereducties van 47,0% (GPU) en 45,7% (NPU).
• COCO-prestaties: Het medium model behield concurrerende nauwkeurigheid (50,71 mAP50-95) terwijl het de energie met 24,5% op GPU en 38,8% op NPU verminderde ten opzichte van YOLOv12m. Op kleine schaal werd de energie met maximaal 53,7% op GPU en 51,6% op NPU verminderd.
• Implementatie-efficiëntie: Cumulatieve energiebenchmarks over tijd toonden aan dat XiYOLO-varianten consistent minder energie ophoopten dan YOLO-baselines op zowel GPU als NPU, waarbij de medium schaal de meest significante voordelen liet zien.
• Efficiëntie van de inschatter: Op HW-NAS-Bench behaalde de tweestaps-inschatter een lagere test-RMSE dan een gezamenlijke predictor over 2–20 few-shot steekproeven, wat een superieure steekproefficiëntie aantoont bij aanpassing aan nieuwe hardware.
• Zoekruimte-analyse: Willekeurig gesamplede modellen uit de XiResOFA-ruimte toonden een gemiddelde energiereductie van 21,1% ten opzichte van de YOLOv12-baseline. De iteratieve zoekruimte leverde een gemiddelde voorspelde mAP50-verbetering van ongeveer 3,5% op ten opzichte van een globale zoekruimte.

Betekenis en Claims

Het artikel stelt dat XiYOLO succesvol het ontwerp van randdetectoren behandelt als een zoektocht naar budgetadaptieve operationele punten die zijn afgestemd op heterogene hardware-beperkingen, in plaats van een zoektocht naar een enkel efficiënt model. Door een interpreteerbare zoekruimte te combineren met een energie-inschatter voor schaarse gegevens, bereikt het raamwerk een sterkere nauwkeurigheids-energieafweging dan bestaande YOLO-baselines.

De auteurs benadrukken dat hun aanpak interpreteerbare nauwkeurigheids-energieafwegingen mogelijk maakt onder schaarse hardware-metingen, waardoor energiebewust ontwerp overdraagbaar wordt tussen platformen waar nauwkeurige energiedata schaars is. De resultaten suggereren dat het zoeken naar een enkele basisarchitectuur en het schalen daarvan een levensvatbare strategie is voor het creëren van detectorfamilies die goed presteren op diverse randapparaten, waardoor de uithoudingsvermogen van systemen voor toepassingen zoals zoek- en reddingsoperaties en infrastructuurinspectie wordt verlengd zonder in te leveren op detectiekwaliteit.

Het artikel erkent beperkingen, waarbij wordt opgemerkt dat de zoektocht beperkt is tot een YOLOv12-afgeleide familie, de eindmodellen worden verkregen via schaling na de zoektocht in plaats van een meerpuntige zoektocht, en de evaluatie beperkt is tot specifieke GPU- en NPU-instellingen. Desalniettemin toont het werk aan dat energiebewuste architectuurzoektochten detectorontwerpen kunnen opleveren die zowel nauwkeurig als energie-efficiënt zijn voor heterogene randimplementatie.