Résumé Technique : Routage Adaptatif au Budget

Énoncé du Problème

Les collaborations d'inférence bord-nuage (edge-cloud) pour la perception visuelle (par exemple, la détection d'objets) emploient généralement une architecture de routage à « conditionnement faible ». Dans cette conception standard, un détecteur local léger ($M_w$) traite chaque image, et un estimateur de routage utilise les sorties intermédiaires du détecteur faible (propositions, embeddings ou activations) pour décider s'il faut décharger l'image vers un détecteur de nuage plus puissant et plus précis ($M_s$).

L'article identifie une inefficacité structurelle dans cette approche : la passe avant (forward pass) faible est exécutée sur chaque image, y compris celles qui sont ensuite déchargées vers le nuage. Cela crée une « taxe de calcul implicite ». Lorsque le budget de déchargement ($\rho$, la fraction des images envoyées au nuage) est élevé, le système paie le coût du détecteur faible ($C_w$) sur des images que le modèle fort traitera de toute façon. Cette dépendance sérielle introduit également une latence inutile, car la décision de routage ne peut être prise qu'une fois la passe faible terminée.

Les auteurs soutiennent que, bien que ce design soit nécessaire à de faibles budgets de déchargement (où la passe faible est rarement sautée), il devient sous-optimal à des budgets élevés. La question fondamentale est de savoir si un estimateur peut prédire la nécessité d'un déchargement en utilisant uniquement les pixels bruts (une approche de « saut de la passe faible » ou weak-skipping) afin de contourner entièrement le détecteur faible sur les images déchargées, et si, dans ce cas, un placement fixe unique est optimal à travers tous les régimes opérationnels.

Méthodologie

L'article propose le Routage Adaptatif au Budget, un système qui sélectionne dynamiquement entre deux placements d'estimateur en fonction du budget de déchargement :

1. Estimateur de Saut de la Passe Faible (Pre-Weak)

Au lieu de s'appuyer sur la sortie du détecteur faible, cet estimateur prédit les signaux de routage directement à partir des pixels bruts de l'image.

• Architecture : Un squelette (backbone) MobileNetV2-Lite hautement compressé (0,15 GFLOPs, environ 29× plus léger que le détecteur faible de 4,49 GFLOPs).
• Cible d'entraînement : Les auteurs contestent l'hypothèse selon laquelle les pixels bruts manquent de signal suffisant. Ils introduisent une récompense de déchargement contextuelle ($\Delta AP$), définie comme le changement de mAP sur l'ensemble du jeu de données si une image spécifique est traitée par le nuage plutôt que par la bordure.
  • Pour gérer la distribution à longue traîne de $\Delta AP$ (où la plupart des images ne génèrent aucun gain), ils proposent deux cibles transformées :
    • OffloadBin : Une cible de classification binaire ($1$ si $\Delta AP > 0$, sinon $0$).
    • MORIC+ : Une cible de régression qui normalise l'ampleur des gains et des pertes de manière symétrique autour de zéro.
• Mécanisme : L'estimateur produit un score ; un seuillage transforme ce score en une décision de déchargement binaire, maintenant le ratio de déchargement cible $\rho$ via une estimation de quantile glissante.

2. Estimateur Conditionné par la Passe Faible (Post-Weak)

Il sert de base de comparaison et de stratégie pour les faibles budgets.

• Architecture : Un modèle XGBoost entraîné sur des caractéristiques MORIC dérivées de la sortie du détecteur faible.
• Rôle : Il exploite des caractéristiques plus riches disponibles après la passe faible, qui sont « gratuites » lorsque le budget de déchargement est faible car la passe faible doit de toute façon être exécutée.

3. Logique de Routage Adaptatif au Budget

Le système ne s'engage pas sur un seul placement. Il emploie un arbitre configuré hors ligne qui bascule entre les deux stratégies en fonction de $\rho$ :

• Faible Budget ($\rho < \rho_{frontier}$) : Utilise le Conditionné par la Passe Faible. La passe faible est inévitable pour la plupart des images, donc les caractéristiques plus riches améliorent la précision du routage sans coût de calcul supplémentaire.
• Haut Budget ($\rho \ge \rho_{ceiling}$) : Utilise également le Conditionné par la Passe Faible. À des taux de déchargement très élevés, les rares images conservées localement ont un poids significatif, et le signal plus riche de l'estimateur conditionné par la passe faible l'emporte sur les économies de calcul.
• Budget Intermédiaire ($\rho_{frontier} \le \rho < \rho_{ceiling}$) : Utilise le Saut de la Passe Faible. Ici, la « taxe de calcul » de l'exécution du détecteur faible sur les images déchargées est la plus élevée. Sauter la passe faible économise des GFLOPs et de la latence importants, et l'estimateur de pixels bruts est suffisamment précis.

Les seuils ($\rho_{frontier} \approx 0,3$ et $\rho_{ceiling} \approx 0,8$ sur PASCAL VOC) sont déterminés hors ligne en balayant le budget et en identifiant l'endroit où l'enveloppe de performance bascule.

Contributions Clés

1. Formalisation de la Taxe de Calcul Implicite : Les auteurs articulent le fait que l'hypothèse standard de la « passe faible d'abord » impose un coût de calcul caché ($\rho \cdot C_w$) qui augmente avec le budget de déchargement, créant un désalignement avec les déploiements à haut budget.
2. Estimateur de Saut de la Passe Faible Compétitif : Ils démontrent qu'un estimateur léger, basé uniquement sur l'image (0,15 GFLOPs), peut surpasser les meilleures bases de comparaison conditionnées par la passe faible (XGBoost/MORIC) en termes de qualité de routage. Cela conteste le postulat selon lequel les pixels bruts sont insuffisants pour le routage de détection.
3. Cadre de Routage Adaptatif au Budget : Ils proposent un système hybride qui sélectionne le placement optimal (saut vs conditionnement) en fonction du budget de déploiement. Cette approche suit l'enveloppe de performance supérieure des deux stratégies sur toute la courbe opérationnelle.
4. Base de Comparaison Conditionnée par la Passe Faile Légère : Ils introduisent un nouvel estimateur conditionné par la passe faible (XGBoost sur MORIC) qui surpasse les méthodes SOTA existantes (EdgeML, DCSB) en qualité de routage avec un coût d'inférence de l'ordre de la milliseconde.

Résultats

Évalué sur le jeu de données PASCAL VOC avec un détecteur faible MobileNetV3 et un détecteur fort ResNet50 :

• Qualité de Routage : L'estimateur de Saut de la Passe Faible (entraîné sur OffloadBin) a obtenu une corrélation de rang de Spearman de 0,557 avec le gain oracle, surpassant la meilleure base de comparaison conditionnée par la passe faible (XGBoost/MORIC à 0,472) et battant nettement l'ancien SOTA (EdgeML à 0,138).
• Efficacité de Calcul : À des budgets de déchargement élevés ($\rho=0,9$), l'approche de saut de la passe faible réduit le calcul par image de 3,90 GFLOPs (presque tout le coût du détecteur faible) par rapport à l'approche conditionnée par la passe faible.
• Latence : L'approche de saut de la passe faible réduit la latence de bout en bout jusqu'à 19,1 ms (une réduction d'environ 30 %) à $\rho=0,9$, car elle supprime la dépendance sérielle à la passe faible de 24,70 ms.
• Enveloppe de Précision : Le routeur adaptatif au budget atteint un pic de mAP@0.5 de 0,808, ce qui est +1,7 point de pourcentage supérieur à la performance autonome du modèle fort (0,791) et surpasse toutes les bases de comparaison à placement fixe sur la plage opérationnelle. Il trace l'« enveloppe supérieure » des deux stratégies, dominant la frontière conjointe précision-calcul.

Signification et Revendications

L'article affirme que le placement de l'estimateur est un axe de conception critique et auparavant sous-exploré dans le déchargement sélectif. En déplaçant l'estimateur avant le modèle faible, le système peut éviter la « taxe de calcul » consistant à exécuter un détecteur faible sur des images qui seront déchargées.

Les auteurs soulignent que ni le saut de la passe faible, ni le conditionnement par la passe faible ne dominent l'ensemble de la courbe opérationnelle. La signification réside dans l'approche Adaptative au Budget, qui reconnaît que la stratégie optimale dépend du régime. Cette méthode permet aux systèmes d'atteindre la meilleure précision possible pour un budget donné tout en minimisant le calcul et la latence, surpassant efficacement le modèle fort lui-même à certains points de fonctionnement avec beaucoup moins de ressources de calcul. Le travail suggère que prédire si une image est difficile est nettement moins coûteux et plus efficace que de prédire ce que l'image contient, permettant l'utilisation de pixels bruts pour des décisions de routage de haute qualité.