Hybrid Coarse-Grained Transprecision boosted by a Custom GEMM Kernel to accelerate Parametric Linear Systems

No mundo da engenharia e ciência modernas, resolver problemas físicos complexos frequentemente depende de uma técnica chamada método dos elementos finitos. Imagine tentar entender como uma ponte oscila com o vento ou como a eletricidade flui através de um semicondutor. Cientistas dividem esses objetos massivos e contínuos em milhões de pedaços minúsculos e gerenciáveis, transformando as leis da física em um gigantesco sistema de equações. Para obter uma resposta precisa, os computadores devem processar números com extremo cuidado, usando um formato conhecido como precisão dupla. Este método trata cada número com a maior precisão possível, garantindo que erros minúsculos não se transformem em erros massivos. No entanto, essa busca implacável pela perfeição tem um preço alto: exige quantidades enormes de tempo e energia. Para aplicações que precisam de respostas instantâneas, como um gêmeo digital de um chão de fábrica ou um robô navegando em uma zona de desastre, esperar por esses cálculos lentos e hiperprecisos simplesmente não é uma opção.

O desafio reside em um tipo específico de cálculo que aparece repetidamente nessas simulações. Ele envolve uma coleção massiva e fixa de dados que representam a estrutura física, combinada com um conjunto variável de parâmetros que descrevem as condições atuais, como resistência do material ou temperatura. O computador deve multiplicá-los para encontrar a solução. Como o conjunto de dados fixos é tão vasto, o cálculo torna-se um gargalo, retardando tudo. Pesquisadores há muito suspeitam que, para muitas dessas tarefas, a precisão extrema da matemática de precisão dupla é desnecessária. Assim como o olho humano não consegue distinguir entre dois tons de cinza ligeiramente diferentes em uma sala escura, muitas simulações físicas podem tolerar pequenos erros numéricos sem que o resultado final se torne inútil. A questão é se podemos trocar com segurança essa precisão extra por um ganho massivo de velocidade.

Uma equipe de pesquisadores da Queen's University Belfast e da University of Edinburgh desenvolveu uma nova maneira de enfrentar este problema, oferecendo uma solução que é ao mesmo tempo mais inteligente e mais rápida. Eles criaram um sistema que atua como um filtro de dois estágios para a precisão matemática. Primeiro, em uma fase offline, o sistema estuda uma amostra representativa dos parâmetros variáveis para determinar o nível mais baixo de precisão que ainda mantém a resposta final dentro de uma margem de erro segura. Eles testam diferentes formatos, variando de números de alta precisão padrão até versões muito mais compactas e de menor precisão. Uma vez estabelecida essa base, o sistema passa para uma fase online onde lida com dados em tempo real. À medida que cada novo conjunto de parâmetros chega, o sistema verifica rapidamente sua amplitude e seleciona automaticamente o formato de precisão mais eficiente disponível na placa de vídeo. Se os números forem pequenos e estáveis, ele utiliza um formato muito compacto; se forem maiores ou mais voláteis, ele muda para um formato um pouco mais robusto. Esse ajuste dinâmico permite que o computador funcione em velocidade máxima sem sacrificar a confiabilidade do resultado.

Para tornar esse aumento de velocidade ainda mais dramático, os pesquisadores também construíram um motor personalizado para os cálculos. Normalmente, um computador realiza este tipo de multiplicação de matrizes em duas etapas separadas: primeiro escala os dados pelos parâmetros e, depois, multiplica os resultados. Isso exige mover dados de um lado para o outro entre diferentes partes do computador, o que desperdiça tempo. A equipe fundiu essas duas etapas em uma única operação personalizada. Ao escalar os dados enquanto eles estão sendo carregados na memória rápida do processador, eles eliminaram a necessidade de mover os dados duas vezes. Essa abordagem simplificada removeu uma quantidade significativa de esforço desperdiçado, permitindo que o sistema realize o mesmo cálculo de forma muito mais eficiente.

Os resultados desta abordagem foram testados em uma variedade de problemas de grande escala usando poderosas placas de vídeo de três gerações diferentes de tecnologia. As descobertas foram impressionantes. Para um conjunto de dados massivo contendo mais de 21 milhões de linhas, o novo método foi capaz de processar a informação até 117 vezes mais rápido do que o método tradicional de ultraprecisão. Em termos de energia, o sistema consumiu 36 vezes menos potência para atingir o mesmo resultado. Crucialmente, apesar desses ganhos massivos de velocidade e eficiência, o erro médio na resposta final permaneceu incrivelmente baixo, mantendo-se bem abaixo de um por cento. Em um caso de teste específico envolvendo um conjunto de dados de 80,3 gigabytes, o sistema pôde avaliar dois conjuntos diferentes de parâmetros a cada segundo, um feito que seria impossível com os métodos antigos e lentos.

Os pesquisadores também abordaram a questão dos limites de memória. Quando os dados são grandes demais para caber inteiramente na placa de vídeo, os métodos padrão muitas vezes precisam pausar e buscar dados da memória principal do computador, o que é lento. A equipe descobriu que, ao usar seus formatos de menor precisão, a pegada de dados encolhe o suficiente para caber inteiramente na placa, evitando essas pausas lentas. Eles compararam duas estratégias para lidar com dados que não cabiam: recarregar os dados originais da memória principal versus recalculá-los sobre a hora. Eles descobriram que, para conjuntos de dados muito grandes, recalcular os dados era significativamente mais rápido do que esperar pelo recarregamento, desde que a precisão fosse gerenciada cuidadosamente para evitar que os erros se acumulassem ao longo do tempo.

Este trabalho demonstra que a exigência rígida de matemática de precisão dupla não é sempre necessária na computação científica. Ao combinar inteligentemente a precisão do cálculo com as necessidades específicas do problema, e ao simplificar a forma como o computador manipula os dados, é possível alcançar desempenho em tempo real em problemas que antes eram lentos demais para serem resolvidos instantaneamente. O estudo confirma que, com as ferramentas certas, cientistas e engenheiros podem executar simulações complexas em tempo real, abrindo as portas para gêmeos digitais mais responsivos, ferramentas de diagnóstico mais rápidas e designs de engenharia mais eficientes, tudo isso utilizando uma fração da energia anteriormente exigida.