Compiler-Guided Polynomial-Level Parallelism for FHE-Encrypted Machine Learning Inference
O artigo apresenta o CRISP, uma abordagem guiada por compilador que possibilita o paralelismo seguro em nível de polinômio para inferência de aprendizado de máquina criptografada por FHE ao trocar a vetorização SIMD em tempo de execução por paralelismo OpenMP em tempo de compilação, resultando em ganhos significativos de velocidade e reduções de latência dentro do framework do compilador ANT-ACE.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No mundo digital moderno, informações sensíveis frequentemente viajam através de redes controladas por estranhos. Um banco pode processar o seu pedido de empréstimo num servidor que não possui, ou um hospital pode analisar registos de pacientes utilizando um serviço de nuvem operado por um terceiro. Nestes cenários, os dados estão vulneráveis; se o servidor for comprometido, a informação privada é exposta. Durante décadas, a única forma de proteger os dados nestas situações era mantê-los offline ou confiar completamente no operador do servidor. A criptografia totalmente homomórfica oferece um caminho diferente. É um método matemático que permite que um computador realize cálculos sobre dados que permanecem trancados num estado criptografado. O computador nunca vê os números reais; ele apenas manipula o código embaralhado. Quando o cálculo é terminado, o resultado é descriptografado para revelar a resposta correta, como se o trabalho tivesse sido feito nos dados originais, não criptografados. Esta tecnologia promete um futuro onde a privacidade é preservada mesmo quando a computação acontece numa infraestrutura não confiável.
No entanto, esta privacidade tem um preço elevado. Como o computador deve trabalhar com código embaralhado em vez de números claros, os cálculos são incrivelmente lentos. Uma tarefa que leva uma fração de segundo em dados normais pode levar horas ou até dias quando criptografada. Esta lentidão impediu a tecnologia de ser usada em aplicações de tempo real, como a análise de exames médicos ou o processamento de transações financeiras à medida que ocorrem. O gargalo reside na forma como o computador lida com as quantidades massivas de trabalho matemático necessárias para manter a criptografia intacta. Para tornar esta tecnologia prática, os investigadores devem encontrar formas de acelerar estes cálculos sem quebrar as regras de segurança que mantêm os dados seguros.
Uma equipa de investigadores da Universidade de Hunan e do Laboratório Chave Provincial de Guangdong para Segurança de Redes de Sistemas de Potência desenvolveu um novo método para enfrentar este problema de velocidade. Eles criaram um sistema chamado CRISP, que atua como um tradutor especializado para o código de computador que executa estes cálculos criptografados. O trabalho deles foca-se num tipo específico de esquema de criptografia conhecido como CKKS, que é amplamente utilizado para tarefas de aprendizagem automática (machine learning). Neste esquema, os dados criptografados são representados como uma coleção de grandes objetos matemáticos chamados polinómios. Para realizar um cálculo, o computador deve processar estes polinómios através de uma série de etapas que envolvem a sua decomposição em partes menores e a sua posterior remontagem. Os investigadores descobriram que o software existente usado para executar estes cálculos não estava a utilizar plenamente o poder dos processadores de computador modernos.
Os processadores de computador modernos contêm múltiplos núcleos, semelhantes a uma equipa de trabalhadores, cada um capaz de realizar um trabalho simultaneamente. O software padrão para cálculos criptografados foi desenhado para usar uma técnica chamada SIMD, que é como ter um único trabalhador a realizar uma tarefa em muitos itens pequenos ao mesmo tempo usando uma ferramenta especializada. Embora eficaz, esta abordagem limita o número de trabalhadores que podem estar ativos ao mesmo tempo. Os investigadores perceberam que a estrutura dos cálculos criptografados permitia uma estratégia diferente: em vez de depender da ferramenta especializada para cada item pequeno, eles poderiam atribuir diferentes grandes blocos de trabalho a diferentes trabalhadores. Eles desenvolveram uma abordagem guiada por compilador que reorganiza o código antes de ele ser executado, permitindo que o computador utilize os seus múltiplos núcleos de forma mais eficaz. Esta mudança de uma abordagem de um único trabalhador para muitos itens para uma abordagem de muitos trabalhadores para muitos blocos é o núcleo da sua inovação.
Os investigadores construíram o seu sistema, CRISP, sobre um compilador de ponta a ponta já existente chamado ANT-ACE. Este compilador pega num modelo de aprendizagem automática, como um usado para reconhecer imagens, e converte-o automaticamente num programa que pode ser executado em dados criptografados. A equipa inseriu a sua nova estratégia de paralelização na fase final deste processo, onde o programa é traduzido para as operações polinomiais que a biblioteca de criptografia compreende. Ao fazer isto ao nível do compilador, eles puderam ver toda a estrutura do cálculo e garantir que a nova forma de dividir o trabalho não violava as regras estritas da criptografia. Eles tiveram de ser cuidadosos porque os dados criptografados têm propriedades matemáticas específicas que devem ser preservadas; se o trabalho for dividido incorretamente, a resposta final estará errada. O seu método analisa cuidadosamente as dependências entre diferentes partes do cálculo para garantir que os trabalhadores paralelos não interfiram uns com os outros.
Os resultados dos seus experimentos foram significativos. Eles testaram o sistema num processador de computador multi-core padrão utilizando seis modelos diferentes de aprendizagem automática criptografada. Quando executaram os cálculos criptografados com o seu novo método, as operações matemáticas principais tornaram-se, em média, 2,65 vezes mais rápidas do que quando utilizavam o método padrão. Este aumento de velocidade foi consistente em diferentes tipos de cálculos, incluindo adição e multiplicação de números criptografados. Para todo o processo de inferência de aprendizagem automática — o tempo necessário para executar um modelo num único dado — o novo método reduziu o tempo total em uma média de 137 segundos em comparação com a melhor versão existente. Em alguns casos, a redução foi ainda mais dramática, com o sistema a correr quase sete vezes mais rápido para tarefas de multiplicação específicas. Estes melhoramentos foram alcançados sem alterar o esquema de criptografia subjacente ou exigir novo hardware; os ganhos vieram inteiramente de uma forma mais inteligente de organizar o trabalho existente.
Os investigadores também verificaram que o seu método funciona bem quando combinado com outras otimizações. Os modelos de aprendizagem automática envolvem frequentemente etapas complexas onde diferentes operações são fundidas para poupar tempo. A equipa mostrou que a sua estratégia de paralelização pode coexistir com estas técnicas de fusão, preservando os benefícios de ambas. Eles testaram o sistema com até dezasseis núcleos de processador e descobriram que o desempenho continuou a melhorar, embora os ganhos tenham começado a estabilizar à medida que o sistema se aproximava dos limites da largura de banda da sua memória. Isto indica que o método escala bem com hardware mais potente. Crucialmente, eles confirmaram que os resultados produzidos pelo novo sistema eram matematicamente idênticos aos resultados produzidos pelo sistema padrão, provando que a velocidade não veio à custa da precisão.
Este trabalho representa um passo prático para tornar a aprendizagem automática criptografada viável para uso no mundo real. Ao deslocar o controlo de como os cálculos são paralelizados da biblioteca de tempo de execução para o compilador, os investigadores desbloquearam um novo nível de desempenho que era anteriormente inacessível. A sua abordagem não depende de magia ou de novos avanços teóricos, mas sim de uma reorganização cuidadosa de como as ferramentas existentes são utilizadas. As descobertas sugerem que o processamento de dados criptografados pode ser tornado rápido o suficiente para aplicações que exigem resultados imediatos, como a deteção de fraude em tempo real ou diagnósticos médicos privados. A equipa disponibilizou a sua implementação para que outros possam estudar e construir sobre ela, abrindo a porta para novos refinamentos. À medida que a procura por computação que preserve a privacidade cresce, métodos como o CRISP fornecem um caminho claro para tornar o processamento de dados seguro uma parte padrão da paisagem digital, em vez de uma possibilidade teórica.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.