💻 computer science

Floating-point autotuning with customized precisions

Este artigo apresenta o PROMISE, uma ferramenta de ajuste de precisão automatizada que utiliza um framework de busca paralelo e conteinerizado para identificar configurações ideais de ponto flutuante de precisão mista para aplicações numéricas, demonstrando que ganhos significativos de desempenho e eficiência são alcançáveis ao reduzir a precisão sem comprometer a acurácia.

Autores originais: Xinye Chen, Thibault Hilaire, Fabienne Jézéquel

Publicado 2026-06-09

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Xinye Chen, Thibault Hilaire, Fabienne Jézéquel

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um chef tentando assar um bolo perfeito. Durante anos, você tem usado os medidores mais caros e de alta precisão disponíveis (vamos chamá-los de "Copos de Ouro") para cada ingrediente, desde a farinha até uma pitada de sal. Você faz isso porque tem medo de que, se usar um copo mais barato, o bolo possa desmoronar.

Mas e se você percebesse que, para a farinha, uma medida bruta é suficiente, mas que para o extrato de baunilha, você absolutamente precisa do Copo de Ouro? Se você usasse Copos de Ouro para tudo, estaria desperdiçando dinheiro e tempo, embora o bolo tivesse o mesmo sabor.

Este é exatamente o problema que os cientistas da computação enfrentam com os números de ponto flutuante (a maneira como os computadores lidam com decimais). Durante décadas, os computadores usaram um padrão de "Copo de Ouro" chamado Precisão Dupla (FP64) para quase todos os cálculos. É incrivelmente preciso, mas também é pesado, lento e consome muita energia.

Este artigo apresenta uma nova versão de uma ferramenta chamada PROMISE (que significa PRecision OptiMISE). Pense no PROMISE como um sous-chef inteligente e automatizado que prova o seu bolo (executa o seu código) e lhe diz exatamente quais ingredientes precisam do Copo de Ouro e quais podem ser medidos com uma colher de plástico barata.

Aqui está como o artigo explica a nova abordagem deles, dividida em conceitos simples:

1. O Problema: Um Tamanho Não Serve para Todos

Os chips de computador modernos (como os do seu telefone ou placas de vídeo) estão ficando melhores em fazer contas com números "menores" (como FP16 ou até formatos personalizados de 8 bits). Esses números pequenos são como usar uma colher de plástico: são rápidos e usam muito pouca energia. No entanto, se você os usar para tudo, seus resultados podem se tornar lixo (o bolo queima).

O desafio é encontrar a mistura perfeita: usar as "colheres de plástico" onde é seguro e os "Copos de Ouro" apenas onde é absolutamente necessário.

2. O Jeito Antigo vs. O Jeito Novo

O Jeito Antigo: Ferramentas anteriores podiam apenas alternar entre alguns tamanhos padrão (como alternar entre uma colher de chá e uma colher de sopa). Elas não podiam inventar novos tamanhos.
O Jeito Novo (Precisão Customizada): Os autores atualizaram o PROMISE para permitir copos de tamanhos personalizados. Imagine que você pudesse pedir uma ferramenta de medição que tivesse exatamente 5 bits para a parte do "número inteiro" e 2 bits para a parte "decimal". Isso é crucial para novos hardwares como FPGAs (chips reconfiguráveis) que permitem que você desenhe suas próprias regras matemáticas.

3. Como o PROMISE Funciona: O Jogo do "Delta Debugging"

Como a ferramenta sabe quais variáveis (ingredientes) podem ser reduzidas de tamanho? Ela usa um jogo inteligente chamado Delta Debugging.

Imagine que você tem uma linha de 100 ingredientes. Você quer saber quais podem ser medidos com uma colher de plástico.

Comece no Alto: Você mede tudo com o Copo de Ouro primeiro para obter uma referência de bolo perfeita.
O Palpite: Você tenta trocar metade dos ingredientes por colheres de plástico.
O Teste de Sabor: Você assa o bolo novamente.
- Se o bolo tiver o mesmo sabor (a matemática ainda é precisa o suficiente), você mantém as colheres de plástico e tenta trocar mais ingredientes.
- Se o bolo for arruinado, você sabe que trocou muitos. Você volta e tenta trocar menos ingredientes.
O Resultado: A ferramenta estreita rapidamente a lista, encontrando o número mínimo exato de Copos de Ouro necessários para salvar o bolo, enquanto usa colheres de plástico para o restante.

4. Os "Óculos Mágicos" (CADNA)

Para saber se o bolo foi "arruinado" sem realmente assá-lo um milhão de vezes, o PROMISE usa uma biblioteca chamada CADNA. Pense no CADNA como um par de óculos mágicos que o computador usa enquanto cozinha. Esses óculos não veem apenas os números; eles veem a incerteza ou o "ruído" nos números. Eles podem dizer: "Ei, este cálculo é tão sensível que até um erro minúsculo de colher de plástico arruinará o resultado" ou "Este cálculo é tão robusto que uma colher de plástico é perfeitamente adequada".

5. A "Fábrica" (Estrutura de Benchmarking)

Executar esses testes de sabor leva muito tempo. Para acelerar isso, os autores construíram uma fábrica conteinerizada.

Imagine que você tem 100 receitas (algoritmos) diferentes para testar.
Em vez de testar cada uma por vez em uma única cozinha, eles colocam cada receita em seu próprio container Docker (uma unidade de cozinha autossuficiente).
Eles executam 6 dessas cozinhas ao mesmo tempo em um servidor poderoso.
Resultado: O que antes levava 13 horas agora leva apenas 3 horas. É como ter uma equipe de chefs trabalhando em paralelo em vez de um único chef trabalhando sozinho.

6. O Que Eles Descobriram (Os Resultados)

A equipe testou isso em várias "receitas", incluindo:

Redes Neurais (ensinando computadores a reconhecer imagens).
Simulações Térmicas (descobrindo como o calor se move através de um chip de computador).
Imagens Médicas (rastreando partículas em vídeos).
Álgebra Linear (resolvendo equações matemáticas complexas).

A Grande Descoberta:
Eles descobriram que, para a maioria desses programas, o "Copo de Ouro" padrão (Precisão Dupla) é um exagero enorme.

43% das variáveis poderiam ser calculadas usando precisão de 32 bits (um copo de tamanho médio) ou menor.
28% poderiam ser calculadas usando precisão de 16 bits ou até menor (colheres de plástico minúsculas).
Em alguns casos, eles pudiam usar formatos personalizados de 8 bits (como o formato E5M2 mencionado no artigo) para cerca de 23% das variáveis sem estragar a precisão.

Resumo

O artigo não afirma ter inventado uma nova receita de bolo ou um novo tratamento médico. Em vez disso, oferece uma maneira melhor de medir os ingredientes.

Ao atualizar a ferramenta PROMISE para lidar com copos de tamanhos personalizados e executar os testes em uma "fábrica" paralela, os autores mostraram que podemos tornar os programas de computador muito mais rápidos e eficientes em termos de energia sem sacrificar a precisão. Só precisamos parar de usar o Copo de Ouro para tudo e começar a usar a ferramenta certa para o trabalho certo.

Resumo Técnico: Autotuning de Ponto Flutuante com Precisões Customizadas

Definição do Problema
A aritmética de precisão reduzida oferece um potencial significativo para melhorar o desempenho, o uso de memória e a eficiência energética em aplicações numéricas, particularmente à medida que os aceleradores de hardware (ex: GPUs, FPGAs) passam a suportar formatos não padronizados e de baixa precisão. No entanto, determinar a configuração de precisão ideal para uma aplicação específica é um desafio. A precisão dupla padrão (FP64) é frequentemente superdimensionada, mas reduzir a precisão cegamente pode comprometer a estabilidade numérica e a acurácia. As ferramentas de ajuste de precisão existentes são muitas vezes limitadas aos formatos padrão IEEE 754 (FP16, FP32, FP64) ou carecem da flexibilidade para explorar configurações de largura de bits customizadas (ex: tamanhos específicos de expoente e mantissa) exigidas pelo hardware emergente. Além disso, o custo computacional de explorar o vasto espaço de configurações de precisão mista para grandes bases de código permanece como uma barreira para a implementação prática.

Metodologia
Os autores propõem uma versão aprimorada do PROMISE (PRecision OptiMISE), uma ferramenta de ajuste de precisão automatizada baseada em delta debugging e Aritmética Estocástica Discreta (DSA). A metodologia integra três componentes principais:

Emulação de Precisão Customizada via FloatX: A ferramenta é estendida para suportar formatos de ponto flutuante definidos pelo usuário através da integração com o FloatX, uma biblioteca C++ header-only. Diferente das bibliotecas padrão que fixam os tamanhos de expoente/mantissa ou dependem de alocação baseada em memória (como a MPFR), o FloatX permite que os usuários especifiquem alocações exatas de bits para o expoente ( $e$ ) e a mantissa ( $t$ ). O PROMISE aproveita isso para emular formatos não padronizados (ex: E5M2, E4M3) e configurações customizadas dentro de um framework de precisão mista unificado. Para garantir uma emulação realista, os autores implementaram versões de precisão customizada de funções matemáticas (ex: sin, exp) usando sobrecarga de funções C++, garantindo que as entradas e saídas sejam arredondadas para a precisão alvo antes e depois do cálculo.
Validação Numérica via CADNA: O PROMISE utiliza a biblioteca CADNA, que implementa DSA para estimar o número de dígitos significativos corretos em computações. Ao executar o código com modos de arredondamento aleatórios, o CADNA fornece uma estimativa estatística da acurácia numérica e detecta instabilidades. Isso permite que o PROMISE valide se uma configuração de precisão reduzida satisfaz os requisitos de acurácia definidos pelo usuário (ex: um número específico de dígitos corretos) sem a necessidade de uma solução de referência de "verdade fundamental" (ground-truth), evitando assim a falta de confiabilidade de usar o FP64 uniforme como referência para comparações de menor precisão.
Estratégia de Busca por Delta Debugging: A ferramenta emprega um algoritmo de delta debugging para buscar sistematicamente a configuração de menor precisão. A busca parte de uma base de alta precisão e reduz iterativamente a precisão das variáveis. Se uma configuração satisfizer o requisito de acurácia, a busca continua nessa direção; caso contrário, ela retrocede (backtrack). Os autores implementam uma estratégia de múltiplos níveis onde os tipos de precisão são ordenados por erro de arredondamento unitário (unit roundoff), e o delta debugging é aplicado iterativamente entre pares consecutivos de tipos.
Framework de Benchmarking Conteinerizado: Para enfrentar o alto custo computacional da busca, os autores desenvolveram um framework de benchmarking conteinerizado. Este framework envolve o PROMISE em um pipeline paralelizado, suportando tanto o paralelismo local (via GNU Parallel) quanto a execução distribuída (via um escalonador Python baseado em MPI). Isso permite a execução concorrente de múltiplos kernels de algoritmos em diferentes configurações de parâmetros, reduzindo significamente o tempo total de execução.

Principais Contribuições

PROMISE Estendido com Formatos Customizados: O artigo introduz uma nova versão do PROMISE que possibilita a especificação da aritmética de ponto flutuante ao definir o número de bits para a mantissa e o expoente. Isso permite que os usuários explorem configurações de precisão não padronizadas adaptadas a restrições de hardware específicas (ex: FPGAs) e formatos de baixa precisão emergentes.
Infraestrutura de Benchmarking Escalável: Os autores desenvolveram uma ferramenta de benchmarking de precisão mista projetada para implantação em larga escala. Isso inclui um conjunto de benchmarks simulados para algoritmos numéricos e um framework de execução paralela que reduz o tempo de execução de experimentos de ajuste de precisão em aproximadamente 3,4× (de ~13 horas para ~3 horas em seus testes) através de paralelismo ao nível de processo.
Validação Empírica Abrangente: A abordagem é validada em um conjunto de programas numéricos, incluindo solvers lineares (fatoração LU densa e esparsa) e aplicações do conjunto de benchmarks Rodinia (Back Propagation, HotSpot, Particle Filter, SRAD).

Resultos
Os experimentos avaliaram duas combinações de precisão: (I) E5M2-FP16-FP32-FP64 e (II) E5M2-BF16-FP32-FP64, através de variados requisitos de acurácia (1 a 10 dígitos corretos).

Redução de Precisão: Os resultados demonstram que uma proporção substancial de variáveis pode ser reduzida com segurança para menor precisão. Em média, 43% das variáveis podem ser representadas com precisão de 32 bits ou menos, e 28% podem ser reduzidas para 16 bits ou menos.
Superdimensionamento de FP64: O estudo confirma que a precisão dupla padrão é frequentemente superdimensionada para muitas tarefas de computação científica.
Utilidade de Formatos Customizados: Formatos customizados como E5M2 foram considerados viáveis para uma parte significativa das variáveis (média de 23% das variáveis nas configurações), com o E4M3 mostrando proporções semelhantes.
Sensibilidade Específica ao Algoritmo: A análise revelou que os requisitos de precisão variam conforme o componente algorítmico. Por exemplo, no Back Propagation, o caminho de ativação sigmoide exigiu maior precisão para estabilizar as avaliações exponenciais, enquanto na fatoração LU, operações de pivoteamento poderiam frequentemente tolerar formatos de 8 bits.

Significância e Alegações
O artigo afirma que o ajuste de precisão automatizado, quando estendido para suportar formatos customizados, pode derivar configurações de precisão mista eficientes e adaptadas aos requisitos de acurácia específicos da aplicação. Os autores posicionam este trabalho como um guia para a comunidade científica, demonstrando que ganhos significativos de desempenho e recursos são alcançáveis sem intervenção manual. A integração do FloatX e do framework de benchmarking paralelo aborda os duplos desafios da flexibilidade de formato e da escalabilidade de busca. Os autores observam modestamente que, embora o trabalho atual foque em solvers lineares diretos e kernels específicos, trabalhos futuros abordarão solvers iterativos e a integração de kernels numéricos de precisão mista (ex: para métodos de Krylov) no processo de ajuste. A ferramenta e os benchmarks são disponibilizados à comunidade para facilitar pesquisas adicionais neste domínio.