Resumo Técnico: RAMS – Alternância de Modelos Adaptativa a Recursos e Condicionada à Detecção para Percepção em Borda Embarcada

1. Declaração do Problema

A implantação de detecção de objetos em hardware embarcado enfrenta uma tensão fundamental entre a latência de inferência e a qualidade da detecção que está ausente em ambientes de nuvem. Enquanto a latência de inferência na nuvem é limitada principalmente pela complexidade do modelo e pelo tempo de ida e volta da rede, os dispositivos embarcados compartilham recursos de CPU e memória com o SO hospedeiro, serviços de segundo plano e pipelines de sensores. À medida que a utilização do sistema aumenta, a latência de inferência para um modelo fixo degrada-se substancialmente (por exemplo, uma inferência YOLOv8-MEDIUM em um Intel i7-1165G7 pode degradar de 448 ms em repouso para mais de 1500 ms sob carga de surto).

O compromisso padrão — reduzir para um modelo mais leve para reduzir a latência — introduz um custo assimétrico. Uma inferência de 320 px em uma estrada vazia incorre na mesma penalidade de precisão que uma contendo um pedestre próximo, embora perder um pedestre carregue um risco de segurança não capturado apenas por métricas de latência. Além disso, sistemas adaptativos existentes frequentemente dependem de limiares fixos que não são transferíveis entre hardwares heterogêneos devido às pressões variáveis de recursos ociosos, ou exigem conectividade em nuvem, que não está disponível em dispositivos de borda.

2. Metodologia: O Sistema RAMS

O RAMS (Resource-Adaptive and Detection-Conditioned Model Switching) é um controlador de tempo de execução leve projetado para equilibrar latência e segurança sem a latência de recarregamento de modelo. Ele opera inteiramente no dispositivo e consiste em quatro componentes:

A. Monitor de Pressão de Recursos

Executando a 10 Hz, o monitor consulta sinais de nível de SO (utilização de CPU, pressão de memória virtual, temperatura e carga de bateria) para calcular um índice escalar de pressão $R(t) \in [0, 1]$.
$$R(t) = w_c c + w_m m + w_T \hat{T} + w_b (1 - b)$$
Os pesos refletem a dominância empírica da utilização da CPU em cargas de trabalho embarcadas. Se sensores específicos estiverem indisponíveis, seus pesos são redistribuídos para a utilização da CPU.

B. Calibração de Limiar Relativa ao Repouso

Para garantir a portabilidade entre dispositivos sem ajuste manual por dispositivo, o RAMS emprega um procedimento de calibração relativa ao repouso. Em vez de usar limiares fixos, o sistema perfila o dispositivo em repouso (sem carga de inferência) para determinar uma pressão base $R_{idle}$. Os limiares de alternância são então definidos como deslocamentos fixos deste baseline:
$$\theta_\ell = R_{idle} + \delta_\ell, \quad \theta_h = R_{idle} + \delta_h$$
onde $\delta_\ell = 0.10$ e $\delta_h = 0.25$. Isso garante que o significado semântico dos limiares (ex: "carga moderada") permaneça consistente entre plataformas com diferentes bases de repouso (ex: Raspberry Pi 5 vs. Jetson Orin).

C. Biblioteca de Modelos "Warm"

O RAMS mantém três níveis de YOLOv8 (NANO a 320px, SMALL a 416px, MEDIUM a 640px) residentes na memória simultaneamente. Esta abordagem de "camadas quentes" elimina a penalidade de latência associada ao carregamento de modelos sob demanda. A pegada de memória total é de aproximadamente 81 MB para modelos ONNX FP32 e 120–150 MB para motores TensorRT.

D. Políticas de Alternância

O controlador implementa cinco políticas, variando de limiarização simples a sobreposições condicionadas à detecção:

1. Política de Limiar (Threshold Policy): Utiliza histerese para evitar oscilações rápidas entre camadas baseadas em $R(t)$.
2. Política Preditiva (Predictive Policy): Utiliza uma Média Móvel Exponencialmente Ponderada (EWMA) para prever a pressão e disparar downgrades antes que os limiares sejam cruzados.
3. Política Adaptativa (Adaptive Policy): Autoajusta o fator de suavização da EWMA com base na variância das leituras de pressão recentes.
4. Política de Segurança (Safety Policy): Uma sobreposição condicionada à detecção que impede o downgrade para o nível NANO dentro de uma janela temporal ($\Delta t_w = 0.5$s) após a detecção de um Usuário Vulnerável da Via (VRU).
5. Política de Segurança de Dois Níveis (Safety2): Uma versão aprimorada que condiciona a camada de sobreposição à área da caixa delimitadora (bounding box) do VRU detectado. Caixas grandes (objetos próximos) disparam um bloqueio no nível MEDIUM, enquanto caixas menores (objetos distantes) disparam um bloqueio no nível SMALL.

3. Principais Contribuições

1. Índice de Pressão de Recurso Formal: Um método de calibração relativo ao repouso e portátil ($R(t)$) que permite que as equações do controlador operem em uma gama de 37× de latência em hardware heterogêneo sem ajuste manual por dispositivo.
2. Alternância Condicionada à Detecção: Cinco políticas formalmente especificadas, incluindo duas variantes reativas que atrasam downgrades baseados em detecções recentes de VRU, abordando o custo assimétrico de perder objetos críticos para a segurança.
3. Métrica SWAS: A Pontuação de Precisão Ponderada por VRU (SWAS), uma métrica escalar para comparação de políticas offline em vídeo não rotulado. O artigo introduz uma variante "limitada pelo oráculo" ($SWAS^\star$) que utiliza rótulos de verdade fundamental (ground-truth) para separar os benefícios da retenção de camada da circularidade de usar a própria saída do detector (potencialmente imperfeita) para disparar a política.
4. Avaliação Abrangente: Uma avaliação de dez experimentos em cinco alvos de hardware (Raspberry Pi 5, Intel i7-1165G7, i7-13700F, Jetson Orin ONNX, Jetson Orin TensorRT) cobrindo sensibilidade de carga, ajuste de histerese e trade-offs de segurança-latência.

4. Resultados

Experimentos foram conduzidos usando níveis de YOLOv8 e o conjunto de dados KITTI. Principais descobertas incluem:

• Trade-off Latência e Precisão: No Jetson Orin com TensorRT sob carga pesada, a política Safety2 alcançou uma latência média de 3,41 ms (5,6× mais rápida que o FIXED-MEDIUM) mantendo 74% da precisão de proxy. Ela conseguiu isso operando primariamente no modo NANO, mas selecionando o bloqueio para SMALL ou MEDIUM durante janelas positivas de VRU.
• Melhorias no SWAS: Sob carga pesada, a alternância condicionada à detecção melhorou o SWAS em 25,4% sob pontuação de oráculo (a estimativa conservadora que considera a circularidade do detector) e 47,3% sob pontuação derivada do detector em comparação com políticas de apenas limiar.
• Portabilidade entre Dispositivos: As mesmas equações do controlador governaram a operação através de uma gama de 37× de latência (de 3,41 ms no Jetson TRT para 127,52 ms no Jetson ONNX). O sistema adaptou com sucesso a seleção de camada às capacidades específicas do hardware sem ajuste manual de limiares.
• Limites de Recall: O artigo quantifica explicitamente um limite fundamental de sistemas reativos. Com o nível NANO alcançando apenas 24,2% de recall de VRU no KITTI, a sobreposição de segurança fica inativa para 76% dos quadros onde um VRU está presente porque o detector base falhou em disparar a condição. Isso destaca que a alternância reativa não pode compensar as limitações inerentes de recall do modelo de nível mais baixo.
• Resposta Transiente: O controlador compromete mudanças de camada em 3 amostras de monitoramento (0,3s) para políticas de limiar e mais rápido para políticas preditivas/adaptativas. As políticas de segurança introduzem um máximo de 5 ciclos adicionais em um nível superior após um evento de VRU antes de retornar ao normal.

5. Significância e Alegações

O artigo afirma que o RAMS é o único sistema que combina alternância de camadas quentes, seleção de camada condicionada à detecção, calibração portátil entre dispositivos e operação total no dispositivo sem offload para nuvem.

Os autores enfatem que a melhoria de 25,4% no SWAS do oráculo representa um benefício genuíno da alternância condicionada à detecção, distinto dos ganhos inflados vistos na pontuação derivada do detector causados pela circularidade de usar um detector de baixo recall para disparar bloqueios de segurança. O trabalho demonstra que é possível alcançar latência próxima ao NANO enquanto se preserva uma parte significativa da precisão de camadas mais pesadas durante janelas de segurança críticas.

No entanto, o artigo é modesto quanto às limitações desta abordagem. Ele afirma explicitamente que a sobreposição reativa é limitada pelo recall do detector base; se o nível NANO perder um VRU, a trava de segurança não poderá disparar. Os autores identificam isso como uma restrição fundamental de qualquer sistema reativo baseado em detecção que opere abaixo de um detector imperfeito, sugerando que trabalhos futuros devem focar em detectores de linha de base leves mais fortes ou classificadores de VRU paralelos para fechar essa lacuna. O sistema não afirma fornecer garantias formais de segurança (ex: ISO 26262), mas sim um mecanismo para otimizar o trade-off latência-precisão em ambientes com restrição de recursos.