MicroViTv2: Beyond the FLOPS for Edge Energy-Friendly Vision Transformers
O MicroViTv2 é um Vision Transformer leve e consciente de hardware que utiliza componentes reparametrizados e uma Atenção Transposta de Profundidade Única para alcançar precisão e eficiência energética superiores em dispositivos de borda, demonstrando que otimizar para o desempenho no mundo real é mais crítico do que minimizar os FLOPs.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No mundo da tecnologia moderna, os computadores tornaram-se extraordinariamente bons em olhar para imagens e compreender o que veem. Eles podem identificar um gato, detectar um carro ou ler uma placa com um nível de precisão que rivaliza com a visão humana. Esta capacidade baseia-se num tipo de inteligência artificial chamada Vision Transformer. Pense nestes sistemas como cartógrafos altamente detalhados que escaneiam uma imagem, dividindo-a em pequenos pedaços para compreender como se relacionam entre si. Embora estes cartógrafos sejam incrivelmente poderosos, também são pesados e exigentes. Eles requerem quantidades massivas de poder computacional e eletricidade para funcionar, o que os torna difíceis de usar em dispositivos menores, como smartphones, drones ou robôs autónomos que funcionam a baterias. Para estes dispositivos de borda (edge devices), o objetivo não é apenas ser inteligente, mas sim ser eficiente, equilibrando alto desempenho com baixo consumo de energia para que possam operar durante horas sem necessidade de recarga.
Os investigadores acreditam há muito tempo que a melhor forma de tornar estes sistemas eficientes era simplesmente reduzir o número de cálculos matemáticos que realizam. Na indústria, esta contagem é conhecida como FLOPs, uma métrica padrão usada para estimar quanto trabalho um computador tem de fazer. A suposição predominante era que menos cálculos significavam automaticamente um dispositivo mais rápido e energeticamente eficiente. No entanto, um novo estudo desafia esta crença de longa data. A equipa por trás da investigação, trabalhando com o Conselho Nacional de Ciência e Tecnologia de Taiwan, argumenta que contar cálculos é uma forma imperfeita de julgar o desempenho no mundo real. Eles descobriram que um modelo com ligeiramente mais cálculos pode, na verdade, correr mais rápido e usar menos energia se a sua estrutura interna for desenhada para funcionar melhor com o hardware físico no qual corre.
Para testar esta ideia, os investigadores desenvolveram um novo modelo chamado MicroViTv2. Este é uma versão leve do Vision Transformer, especificamente projetada para rodar em dispositivos de borda como o Jetson AGX Orin, um computador poderoso frequentemente usado em robótica e sistemas autónomos. Em vez de apenas tentar reduzir a matemática, a equipa redesenhou a arquitetura do modelo para reduzir o esforço físico sobre a memória e o processador do dispositivo. Eles introduziram um método chamado re-parametrização estrutural. Durante a fase de treino, o modelo aprende utilizando uma estrutura complexa com múltiplos caminhos, semelhante a um edifício com muitos corredores diferentes. Mas antes de o modelo ser implementado no mundo real, estes caminhos são matematicamente fundidos num caminho único e simplificado. Isto significa que, quando o dispositivo está realmente a executar o modelo, ele não tem de navegar pela complexa estrutura de treino; ele move-se através de uma rota simplificada e direta que é muito mais rápida de percorrer e requer menos acesso à memória.
Os investigadores também refinaram a forma como o modelo conecta diferentes partes de uma imagem. Eles substituíram mecanismos de atenção antigos por um novo componente chamado Single Depth-Wise Transposed Attention. Isto permite que o modelo olhe para toda a imagem e compreenda como partes distantes se relacionam sem ficar sobrecarregado por dados desnecessários. Ao focar-se em como o modelo move os dados através do hardware, em vez de apenas quantos problemas matemáticos resolve, a equipa criou um sistema que é mais amigável às limitações físicas dos dispositivos reais.
Os resultados dos seus experimentos, conduzidos em conjuntos de dados de imagens padrão e tarefas de detecção de objetos, mostram uma mudança clara na forma como a eficiência deve ser medida. Quando testado no Jetson AGX Orin, o novo modelo MicroViTv2 superou o seu predecessor e vários outros modelos leves líderes. Ele alcançou maior precisão na identificação de objetos enquanto processava imagens mais rapidamente e usava menos energia por imagem. Por exemplo, uma versão do seu modelo processou 1.883 imagens por segundo enquanto consumia apenas 14,9 milijoules de energia por imagem. Em comparação, outros modelos com menos cálculos teóricos foram mais lentos e usaram mais energia. O estudo demonstrou que o novo modelo melhorou a precisão em até 0,5 por cento sobre a sua versão anterior e superou concorrentes como o MobileViTv2 e o EdgeNeXt tanto em velocidade quanto em eficiência energética.
Crucialmente, o artigo descarta explicitamente a ideia de que contagens de cálculos mais baixas equivalem sempre a um melhor desempenho. Os investigadores mostraram que o seu modelo realizou, na verdade, mais operações matemáticas do que algumas versões mais antigas, mas ainda assim correu mais rápido e usou menos eletricidade. Esta descoberta sugere que o foco tradicional na redução das contagens de cálculos é enganoso quando aplicado ao hardware real. O verdadeiro gargalo é frequentemente como o computador acede à sua memória e como o software é agendado para rodar no chip. Ao otimizar a estrutura para se ajustar ao hardware, os investigadores provaram que um modelo pode ser mais eficiente mesmo que faça mais matemática.
A equipa validou estas descobertas através de diferentes cenários, incluindo a classificação de imagens e a detecção de objetos em cenas complexas. Em todos os testes, as melhorias estruturais levaram a melhores resultados. O estudo conclui que projetar para a realidade física do dispositivo é mais importante do que simplesmente minimizar a carga de trabalho teórica. Esta abordagem oferece um novo caminho para a criação de inteligência artificial que não é apenas inteligente, mas também prática para os dispositivos alimentados por bateria que estão a tornar-se cada vez mais comuns nas nossas vidas diárias. O trabalho confirma que, para construir sistemas verdadeiramente eficientes, os engenheiros devem olhar além dos números numa página e considerar como o modelo realmente se comporta dentro da máquina.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.