Resumo Técnico: Roteamento Adaptável ao Orçamento

Declaração do Problema

As colaborações de inferência edge-cloud para percepção visual (ex: detecção de objetos) tipicamente empregam uma arquitetura de roteamento de "condicionamento fraco". Neste design padrão, um detector local leve ($M_w$) processa cada quadro, e um estimador de roteamento utiliza as saídas intermediárias do detector fraco (propostas, embeddings ou ativações) para decidir se deve realizar o offload do quadro para um detector na nuvem mais forte e preciso ($M_s$).

O artigo identifica uma ineficiência estrutural nesta abordagem: a passagem direta (forward pass) fraca é executada em todos os quadros, incluindo aqueles que são subsequentemente enviados para a nuvem. Isso cria um "imposto de computação implícito". Quando o orçamento de offload ($\rho$, a fração de quadros enviados para a nuvem) é alto, o sistema paga o custo do detector fraco ($C_w$) nos quadros que o modelo forte responderá de qualquer maneira. Essa dependência serial também introduz latência desnecessária, pois a decisão de roteamento não pode ser tomada até que a passagem fraca seja concluída.

Os autores argumentam que, embora esse design seja necessário em baixos orçamentos de offload (onde a passagem fraca raramente é pulada), ele torna-se subótimo em altos orçamentos. A questão central é se um estimador pode prever a necessidade de offload usando apenas pixels brutos (uma abordagem de "pular o fraco" ou weak-skipping) para evitar totalmente o detector fraco nos quadros offloaded e, se assim for, se um posicionamento fixo único é ideal em todos os regimes operacionais.

Metodologia

O artigo propõe o Roteamento Adaptável ao Orçamento (Budget-Adaptive Routing), um sistema que seleciona dinamicamente entre dois posicionamentos de estimador com base no orçamento de offload:

1. Estimador de Pulo do Fraco (Pré-Fraco / Weak-Skipping)

Em vez de depender da saída do detector fraco, este estimador prevê sinais de roteamento diretamente dos pixels brutos da imagem.

• Arquitetura: Um backbone MobileNetV2-Lite altamente comprimido (0,15 GFLOPs, ~29× mais leve que o detector fraco de 4,49 GFLOPs).
• Alvo de Treinamento: Os autores desafiam a suposição de que os pixels brutos carecem de sinal suficiente. Eles introduzem uma recompensa de offload contextual ($\Delta AP$), definida como a mudança no mAP de todo o dataset se um quadro específico for processado pela nuvem em vez da borda (edge).
  • Para lidar com a distribuição de cauda longa do $\Delta AP$ (onde a maioria dos quadros gera ganho zero), eles propõem dois alvos transformados:
    • OffloadBin: Um alvo de classificação binária (1 se $\Delta AP > 0$, caso contrário, 0).
    • MORIC+: Um alvo de regressão que normaliza a magnitude de ganhos e perdas simetricamente em torno de zero.
• Mecanismo: O estimador produz um score; um limiar (thresholder) mapeia isso para uma decisão de offload binária, mantendo a proporção de offload alvo $\rho$ por meio de uma estimativa de quantil contínua.

2. Estimador Condicionado pelo Fraco (Pós-Fraco / Weak-Conditioned)

Este serve como a linha de base para comparação e a estratégia de baixo orçamento.

• Arquitetura: Um modelo XGBoost treinado em características MORIC derivadas da saída do detector fraco.
• Papel: Ele aproveita características mais ricas disponíveis após a passagem fraca, que são "gratuitas" quando o orçamento de offload é baixo, pois a passagem fraca deve ocorrer de qualquer maneira.

3. Lógica de Roteamento Adaptável ao Orçamento

O sistema não se compromete com um único posicionamento. Em vez disso, emprega um árbitro ajustado offline que alterna entre as duas estratégias com base em $\rho$:

• Baixo Orçamento ($\rho < \rho_{fronteira}$): Utiliza o Condicionado pelo Fraco. A passagem fraca é inevitável para a maioria dos quadros, portanto, as características mais ricas melhoram a precisão do roteamento sem custo computacional adicional.
• Alto Orçamento ($\rho \ge \rho_{teto}$): Utiliza o Condicionado pelo Fraco novamente. Em taxas de offload muito altas, os poucos quadros mantidos localmente têm peso significativo, e o sinal mais rico do estimador condicionado pelo fraco supera a economia de computação.
• Orçamento Médio ($\rho_{fronteira} \le \rho < \rho_{teto}$): Utiliza o Pulo do Fraco. Aqui, o "imposto de computação" de executar o detector fraco nos quadros offloaded é mais alto. Pular a passagem fraca economiza GFLOPs e latência significativos, e o estimador de pixels brutos é suficientemente preciso.

Os limiares ($\rho_{fronteira} \approx 0,3$ e $\rho_{teto} \approx 0,8$ no PASCAL VOC) são determinados offline através de varreduras no orçamento e identificando onde o envelope de desempenho inverte.

Principais Contribuições

1. Formalização do Imposto de Computação Implícito: Os autores articulam que a suposição padrão "fraco-primeiro" impõe um custo de computação oculto ($\rho \cdot C_w$) que escala com o orçamento de offload, desalinhando-se com implantações de alto orçamento.
2. Estimador de Pulo do Fraco Competitivo: Eles demonstram que um estimador leve, baseado apenas na imagem (0,15 GFLOPs), pode superar as melhores linhas de base condicionadas pelo fraco (que exigem a passagem fraca completa de 4,49 GFLOPs) em qualidade de roteamento. Isso desafia a premissa de que os pixels brutos são insuficientes para o roteamento de detecção.
3. Estrutura de Roteamento Adaptável ao Orçamento: Eles propõem um sistema híbrido que seleciona o posicionamento ideal (pular vs. condicionado) com base no orçamento de implantação. Esta abordagem rastreia o envelope de precisão superior de ambas as estratégias ao longo de toda a curva operacional.
4. Linha de Base Condicionada pelo Fraco Leve: Eles introduzem um novo estimador condicionado pelo fraco (XGBoost sobre MORIC) que supera os métodos SOTA existentes (EdgeML, DCSB) em qualidade de roteamento com custo de inferência de sub-milissegundo.

Resultados

Avaliado no dataset PASCAL VOC com um detector fraco MobileNetV3 e um detector forte ResNet50:

• Qualidade de Roteamento: O estimador de Pulo do Fraco (treinado em OffloadBin) alcançou uma correlação de ranking de Spearman de 0,557 com o ganho órfão (oracle gain), superando a melhor linha de base condicionada pelo fraco (XGBoost/MORIC em 0,472) e vencendo significativamente o SOTA anterior (EdgeML em 0,138).
• Eficiência de Computação: Em altos orçamentos de offload ($\rho=0,9$), a abordagem de pulo do fraco reduz a computação por quadro em 3,90 GFLOPs (quase o custo total do detector fraco) em comparação com a abordagem condicionada pelo fraco.
• Latência: A abordagem de pulo do fraco reduz a latência de ponta a ponta em até 19,1 ms (redução de aprox. 30%) em $\rho=0,9$, pois remove a dependência serial da passagem fraca de 24,70 ms.
• Envelope de Precisão: O roteador Adaptável ao Orçamento atinge um pico de mAP@0.5 de 0,808, que é +1,7 pontos percentuais superior ao desempenho isolado do modelo forte (0,791) e supera todas as linhas de base de posicionamento fixo em todo o intervalo operacional. Ele rastreia a "envelope superior" das duas estratégias, dominando a fronteira conjunta de precisão-computação.

Significância e Alegações

O artigo afirma que o posicionamento do estimador é um eixo de design crítico e anteriormente subexplorado no offload seletivo. Ao mover o estimador para antes do modelo fraco, o sistema pode evitar o "imposto de computação" de executar um detector fraco em quadros que serão offloaded.

Os autores enfatizam que nem o pulo do fraco nem o condicionamento pelo fraco dominam toda a curva operacional. A significância reside no Roteamento Adaptável ao Orçamento, que reconhece que a estratégia ideal depende do regime. Este método permite que os sistemas alcancem a melhor precisão possível para um determinado orçamento enquanto minimizam computação e latência, superando efetivamente o próprio modelo forte em pontos operacionais específicos com muito menos recursos computacionais. O trabalho sugere que prever se um quadro é difícil é substancialmente mais barato e eficaz do que prever o que o quadro contém, permitindo o uso de pixels brutos para decisões de roteamento de alta qualidade.