Precision-Aware Variable Bit Processing Elements for Hardware-Efficient Systolic Array Designs

No mundo moderno, nossos dispositivos digitais estão constantemente realizando um vasto número de cálculos para reconhecer rostos em fotos, traduzir idiomas ou navegar no tráfego. No cerne dessas tarefas reside um tipo específico de operação matemática chamada multiplicação, que é essencial para processar os padrões complexos encontrados em imagens e dados. Durante décadas, engenheiros construíram chips de computador para realizar essas multiplicações com extrema precisão, garantindo que cada único dígito de um número seja calculado exatamente como seria no papel. Essa abordagem garante a precisão, mas tem um custo: os circuitos necessários para manter essa precisão perfeita são grandes, consomem quantidades significativas de eletricidade e geram calor. À medida que nossa necessidade por computação mais rápida e poderosa cresce, os limites físicos de tornar esses circuitos menores estão sendo alcançados, criando um gargalo para a tecnologia futura.

Uma filosofia diferente surgiu para resolver este problema, uma que aceita uma quantidade pequena e controlada de erro em troca de ganhos massivos em velocidade e eficiência. Este conceito, conhecido como computação aproximada, opera na ideia de que, para muitas tarefas do mundo real, como identificar um gato em uma fotografia ou comprimir um arquivo de vídeo, o olho e o cérebro humanos não conseguem detectar as pequenas diferenças causadas por uma matemática ligeiramente imprecisa. Se um computador puder pular as partes mais difíceis de um cálculo, ele pode terminar o trabalho muito mais rápido enquanto usa muito menos energia. O desafio para os pesquisadores tem sido descobrir exatamente quanta precisão pode ser sacrificada sem arruinar o resultado final, um exercício de equilíbrio que exige navegar por um vasto panorama de possíveis escolhas de design.

Uma equipe de pesquisadores abordou esse desafio projetando um novo tipo de acelerador de hardware especificamente para essas tarefas tolerantes a erros. Eles se concentraram em uma estrutura chamada matriz sistólica, que é essencialmente uma grade de pequenas unidades de processamento que passam dados umas para as outras como uma onda, realizando multiplicações de matrizes de forma eficiente. Os pesquisadores perceberam que a parte que mais consome energia nessa grade é o multiplicador dentro de cada unidade. Em vez de construir cada multiplicador para ser perfeito, eles desenvolveram um método para criar multiplicadores "imperfeitos" que são estrategicamente falhos. Ao descartar intencionalmente os bits menos importantes de um número durante o cálculo e usar circuitos especializados que introduzem pequenos erros opostos, eles criaram um sistema onde os erros se cancelam mutuamente. Isso permite que o hardware permaneça incrivelmente eficiente, mantendo-se ao mesmo tempo capaz de produzir resultados que são precisos o suficiente para o uso prático.

Para encontrar o equilíbrio perfeito entre velocidade e precisão, os pesquisadores não confiaram em suposições. Eles empregaram um poderoso algoritmo de busca que imita o processo de evolução natural para explorar milhões de possíveis configurações de design. Imagine uma vasta biblioteca contendo todas as formas concebíveis de construir esses multiplicadores imperfeitos; o algoritmo testou sistematicamente combinações, mantendo os designs que ofereciam os melhores compromissos e descartando aqueles que eram excessivamente imprecisos ou não eficientes o suficiente. Eles testaram esses designs em três formatos diferentes padrão para lidar com números, variando desde o formato de alta precisão usado na computação científica até formatos mais compactos projetados especificamente para inteligência artificial. O objetivo era ver se podiam adaptar o nível de imperfeição às necessidades específicas da tarefa em questão.

Os resultados dessa exploração foram impressionantes. Quando os pesquisadores aplicaram seus designs imperfeitos e otimizados a tarefas de processamento de imagem, como suavizar o ruído em uma fotografia ou comprimir uma imagem para armazenamento, o hardware tornou-se significativamente menor e mais rápido. Em alguns casos, os novos designs reduziram o tamanho físico do chip em até 92 por cento e cortaram o consumo de energia em até 93 por cento em comparação com as versões tradicionais perfeitamente precisas. Notavelmente, essas economias massivas não vieram à custa da qualidade visível; as imagens produzidas pelo hardware aproximado eram virtualmente indistinguíveis daquelas feitas pelo hardware exato, mantendo um alto nível de fidelidade visual.

As descobertas foram ainda mais convincentes quando aplicadas a modelos de inteligência artificial usados para reconhecimento de padrões. Os pesquisadores testaram seus designs em conjuntos de dados padrão contendo milhares de imagens de dígitos manuscritos, itens de vestuário e objetos cotidianos. Em vários casos, o uso de seus multiplicadores aproximados na verdade melhorou o desempenho da inteligência artificial. Por exemplo, um modelo treinado para reconhecer itens de vestuário alcançou uma taxa de precisão maior usando o hardware imperfeito do que usando o hardware perfeito. Esse resultado contraintuitivo sugere que a pequena quantidade de ruído introduzida pela aproximação pode ajudar o computador a generalizar melhor, de forma semelhante a como um cérebro humano pode ignorar detalhes menores para reconhecer um rosto mais rapidamente. Para o conjunto de dados mais complexo testado, os designs aproximados de melhor desempenho ofereceram economias de hardware de até 92 por cento em tamanho e 93 por cento em energia, mantendo, ao mesmo tempo, uma precisão de classificação comparável ou superior aos métodos exatos.

Este trabalho demonstra que o caminho para uma computação mais eficiente nem sempre exige a construção de ferramentas melhores e mais precisas. Em vez disso, pode ser encontrado ao compreender onde a precisão é verdadeiramente necessária e onde ela pode ser relaxada com segurança. Ao usar um processo de busca inteligente para projetar hardware que é "bom o suficiente" em vez de perfeito, os pesquisadores mostraram que é possível construir chips de computador que são dramaticamente menores, mais rápidos e mais eficientes energeticamente. Esses designs estão agora disponíveis para que outros engenheiros os utilizem, oferecendo uma nova maneira de construir a próxima geração de dispositivos que podem lidar com as crescentes demandas da inteligência artificial sem consumir excessivamente nossos recursos energéticos. O estudo confirma que, no mundo da computação, às vezes um pouco de erro é exatamente o que é necessário para fazer o sistema funcionar melhor.