Resumo Técnico: Inferência Dividida Adaptativa Otimizada para Latência para Colaboração Nuvem-Borda-Extremidade Preservadora de Privacidade

1. Definição do Problema

Dispositivos finais da Internet das Coisas (IoT) enfrentam um compromisso crítico ao processar dados sensíveis à privacidade (ex: imagens médicas): eles carecem de recursos computacionais para executar Redes Neurais Convolucionais (CNNs) completas localmente, mas o descarregamento de dados brutos ou de características intermediárias para servidores em nuvem ou na borda expõe informações sensíveis. Embora a Criptografia Totalmente Homomórfica (FHE) permita a computação em dados criptografados sem descriptografia, implantar FHE inteiramente na nuvem é proibitivamente lento devido à expansão do texto cifrado e ao overhead da aritmética homomórfica. Inversamente, confiar exclusivamente em servidores de borda é insuficiente devido à sua capacidade limitada em comparação com a nuvem.

O desafio central abordado por este artigo é determinar onde dividir uma CNN e como distribuir o sufixo criptografado entre os níveis de borda e nuvem para minimizar a latência de ponta a ponta, preservando estritamente a privacidade. Especificamente, o artigo busca resolver o problema de selecionar um par de divisão ideal (um ponto de divisão no lado da extremidade e um ponto de terminação no lado da borda) que equilibre a execução em texto simples local, custos de criptografia, atrasos de comunicação e custos de execução FHE remota.

2. Metodologia

Arquitetura do Sistema e Modelo de Ameaça

O framework proposto opera em uma arquitetura de três níveis:

• Dispositivo de Extremidade (End Device): Atua como a âncora de confiança. Ele executa o prefixo inicial em texto simples da CNN, criptografa a ativação intermediária usando FHE (especificamente o esquema CKKS) e retém a chave secreta localmente. Ele nunca transmite entradas brutas ou características em texto simples.
• Servidor de Borda (Edge Server): É o primeiro nível externo. Ele recebe ativações criptografadas e executa um segmento contínuo do modelo sobre os textos cifrados.
• Servidor de Nuvem (Cloud Server): É o nível de alta capacidade. Ele completa o sufixo criptografado restante caso a borda não realize a terminação.

Modelo de Ameaça: Os servidores de borda e nuvem são modelados como "honestos-mas-curiosos" (honest-but-curious). Eles seguem o protocolo fielmente, mas podem tentar inferir informações privadas a partir dos textos cifrados que processam. O framework assume a não colusão entre os níveis; mesmo que borda e nuvem combinem observações, elas não podem descriptografar os dados sem a chave secreta mantida exclusivamente pelo dispositivo de extremidade.

Design de Modelo Compatível com FHE

Para permitir a avaliação homomórfica eficiente, o artigo substitui as funções de ativação ReLU padrão por uma função de ativação residual quadrática: $\sigma(z) = (\alpha \cdot z)^2 + z$. Isso preserva um caminho residual linear enquanto utiliza um polinômio de grau 2, que é compatível com o suporte do esquema CKKS para adição e multiplicação. O modelo é treinado do zero com esta ativação para garantir que a precisão seja mantida no domínio criptografado.

Algoritmo de Planejamento Otimizado para Latência

Os autores formulam a implantação como um problema de otimização restrito para minimizar a latência total $T_{tot}(q, e)$, onde $q$ é o ponto de divisão no lado da extremidade e $e$ é o ponto de terminação no lado da borda. A latência total é a soma de:

1. Execução Local em Texto Simples ($T_{end}$): Computada com base nos GFLOPS do dispositivo de extremidade.
2. Criptografia ($T_{enc}$): Custo para criptografar a ativação da divisão.
3. Comunicação ($T_{comm}$): Atrasos de transmissão para textos cifrados entre os níveis, calculados com base no tamanho do payload (determinado pelos parâmetros CKKS e empacotamento SIMD) e larguras de banda de link configuradas.
4. Execução FHE Remota ($T_{edge}, T_{cloud}$): Estimada usando densidades de custo calibradas empiricamente (segundos por GFLOP) para grupos de camadas específicas (ex: convolução+pooling, camadas totalmente conectadas) no respectivo hardware.

O planejador suporta duas granularidades:

• Nível de Convolução: Permite pontos de divisão em camadas de convolução individuais.
• Nível de Bloco: Restringe os pontos de divisão aos limites de blocos completos da rede ou camadas totalmente conectadas.

O sistema avalia todos os pares viáveis $(q, e)$ sob restrições como uma política de exposição máxima do modelo (limitando a fração de parâmetros do modelo no dispositivo de extremidade) e consistência estrutural, selecionando o par que minimiza a latência.

3. Principais Contribuições

1. Framework de Divisão Preservador de Privacidade: Uma arquitetura inovadora onde o dispositivo de extremidade permanece como o único detentor da chave secreta e dos dados em texto simples, enquanto os níveis de borda e nuvem realizam a computação estritamente em textos cifrados FHE.
2. Planejador Consciente de Latência: Um modelo de custo unificado e um algoritmo de otimização que considera conjuntamente a execução em texto simples, criptografia, comunicação e custos heterogêneos de execução FHE entre os níveis de borda e nuvem.
3. Particionamento Consciente de Granularidade: O framework suporta divisão tanto em nível de convolução quanto em nível de bloco, demonstrando que divisões mais finas podem reduzir significativamente a latência ao utilizar melhor os recursos da borda.
4. Implementação de Protótipo: Um protótipo funcional usando CKKS/OpenFHE em um ambiente de teste híbrido (Raspberry Pi 4B para a extremidade, contêineres Docker em um servidor Xeon para borda/nuvem) com modelos baseados em VGG16.

4. Resultados Experimentais

Os experimentos foram conduzidos nos conjuntos de dados CIFAR-10 e PathMNIST usando uma arquitetura VGG16 modificada (SquareVGG16).

• Desempenho de Latência:

  • A divisão em nível de convolução proposta alcançou uma latência de ponta a ponta amortizada de 1033,279 s/amostra no CIFAR-10 e 1023,429 s/amostra no PathMNIST.
  • Isso representa um aumento de velocidade de aproximadamente 12,9× em comparação com uma linha de base FHE total na nuvem e 3,9× em comparação com uma linha de base de divisão em nível de bloco.
  • A linha de base FHE total na nuvem sofreu com alta latência (aprox. 13.357 s/amostra no CIFAR-10) devido à execução de todo o modelo remotamente.

• Precisão:

  • O esquema colaborativo alcançou 88,53% de precisão no CIFAR-10 e 91,43% no PathMNIST.
  • Estes resultados coincidem exatamente com o modelo SquareVGG16 em texto simples (ou dentro de 0,01 pontos percentuais), confirmando que a ativação compatível com FHE e a inferência dividida não degradam o desempenho do modelo.

• Sobrecarga de Comunicação:

  • A divisão em nível de convolução incorreu em um volume de comunicação maior (aprox. 276 MB/amostra) comparado à divisão em nível de bloco (141 MB/amostra) porque a transferência para a nuvem ocorreu mais cedo (após Conv. III-1 vs. após o Bloco III). No entanto, a redução no tempo de execução FHE do lado da borda superou o custo de comunicação, resultando em menor latência total.

• Análise de Sensibilidade:

  • O plano de divisão ideal (Bloco II na extremidade, Conv. III-1 na borda) permaneceu estável através de várias configurações de largura de banda. O plano apenas se deslocou mais profundamente para o nível da borda quando a taxa de execução FHE da borda se aproximou da da nuvem.

5. Significância e Alegações

O artigo alega que sua principal significância reside em demonstrar que a inferência dividida preservadora de privacidade pode ser tornada otimizada para latência através de particionamento adaptativo. Ao tratar a seleção do ponto de divisão como um problema de otimização conjunta envolvendo custos de criptografia, comunicação e execução FHE heterogênea, o framework preenche a lacuna entre a alta segurança do FHE e os requisitos práticos de latência para aplicações de IoT.

Os autores enfatizam que seu trabalho fornece uma solução de nível de sistema que:

• Preserva a fronteira de privacidade criptográfica do FHE total na nuvem (nenhum dado em texto simples sai do dispositivo de extremidade) enquanto reduz drasticamente a latência.
• Valida que a divisão em nível de convolção (mais fina) é superior à divisão em nível de bloco (mais grosseira) em ambientes heterogêneos de nuvem-borda, mesmo quando os custos de comunicação aumentam.
• Oferece um modelo de custo reproduzível e calibrado por benchmarks para futuras pesquisas em inferência distribuída criptografada.

O artigo conclui modestamente, observando que a implementação atual é um protótipo de pesquisa baseado em CPU para inferência em lote não interativa, não para tomada de decisão em tempo real, e que trabalhos futuros focarão em aceleração de hardware e famílias de modelos mais amplas.