Differentially Private and Communication Efficient Large Language Model Split Inference via Stochastic Quantization and Soft Prompt

Título: Inference Dividida de LLMs com Privacidade Diferencial e Eficiência de Comunicação via Quantização Estocástica e Soft Prompt

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) exigem recursos computacionais massivos, impedindo sua execução local em dispositivos com recursos limitados. Consequentemente, os usuários dependem de serviços de inferência em nuvem, o que levanta sérias preocupações de privacidade, pois os prompts (consultas) podem conter informações sensíveis (nomes, endereços, segredos comerciais).

As abordagens existentes para mitigar esse risco enfrentam dois grandes desafios:

• Criptografia (HE): Oferece privacidade forte, mas o custo computacional é proibitivo para LLMs modernos.
• Inferência Dividida com Ruído (ex: SnD, InferDPT): Envolve enviar representações intermediárias (embeddings) perturbadas para o servidor. No entanto, métodos atuais sofrem de:
  • Alta sobrecarga de comunicação: A transmissão de embeddings de alta dimensão (ex: 4096 dimensões) consome muita largura de banda.
  • Dependência de modelos locais: Para recuperar a utilidade (qualidade da resposta) após a perturbação, métodos como o InferDPT exigem que o usuário execute um LLM local leve para "desruído" o texto. Isso consome memória e energia do dispositivo do usuário e limita o desempenho à capacidade do modelo local, não aproveitando todo o poder do LLM remoto.

2. Metodologia: Framework DEL

Os autores propõem o DEL (Differentially private and communication Efficient LLM split inference), um framework que equilibra privacidade, eficiência de comunicação e utilidade sem exigir modelos locais pesados. O pipeline consiste em três etapas principais:

A. Redução de Dimensionalidade (Encoder-Decoder)

• No lado do usuário: Um encoder pré-treinado projeta os token embeddings originais (alta dimensão, ex: $b$) para um espaço latente de baixa dimensão ($d$, onde $d \ll b$).
• No lado do servidor: Um decoder correspondente reconstrói os embeddings para a dimensão original antes de serem processados pelo LLM.
• Benefício: Reduz drasticamente a quantidade de dados transmitidos e melhora a relação privacidade-utilidade, mitigando a "maldição da dimensionalidade" do ruído diferencial.

B. Mecanismo de Privacidade: Quantização Estocástica $n$-bits

• Em vez de adicionar ruído gaussiano contínuo (que exige transmissão de floats de 32 bits), o DEL utiliza uma quantização estocástica $n$-bits no espaço latente.
• Cada coordenada do vetor latente é mapeada probabilisticamente para um de $2^n$ níveis uniformemente espaçados.
• Privacidade: O processo de quantização estocástica em si fornece garantias de Privacidade Diferencial ($f$-DP), especificamente $\mu$-GDP (Gaussian Differential Privacy).
• Eficiência: Permite a transmissão de apenas 1, 2 ou 4 bits por coordenada, reduzindo a sobrecarga de comunicação em ordens de magnitude em comparação com métodos que enviam floats completos.

C. Preservação de Utilidade: Soft Prompt no Servidor

• Para compensar a degradação de qualidade causada pela privacidade e pela compressão, o framework elimina a necessidade de um modelo de desruído local.
• Em vez disso, um Soft Prompt (uma sequência de vetores contínuos treináveis) é adicionado ao lado do servidor, concatenado aos embeddings privatizados reconstruídos.
• O Soft Prompt é otimizado para adaptar o comportamento do LLM à distribuição alterada dos dados privatizados, permitindo que o modelo remoto recupere a coerência e a precisão da geração.

3. Contribuições Principais

1. Novo Mecanismo de DP para LLMs: Combina projeção de dimensão reduzida com quantização estocástica $n$-bits, garantindo privacidade diferencial local enquanto reduz drasticamente o custo de comunicação.
2. Framework Leve e Sem Modelo Local: Introduz o uso de Soft Prompt no servidor para compensar a perda de utilidade. Isso remove a necessidade de implantar modelos de desruído computacionalmente intensivos no dispositivo do usuário, tornando a solução viável para dispositivos móveis e com recursos limitados.
3. Primeira Aplicação de Soft Prompt para Trade-off Privacidade-Utilidade: Até onde se sabe, é o primeiro trabalho a demonstrar a eficácia do soft prompt especificamente para melhorar o equilíbrio entre privacidade e utilidade na inferência de LLMs.
4. Desempenho Superior: Resultados experimentais mostram que o DEL supera os métodos state-of-the-art (como InferDPT e SnD) em tarefas de geração de texto aberto e compreensão de linguagem natural (NLU).

4. Resultados Experimentais

Os experimentos foram realizados em benchmarks de geração de texto (WikiText-2, PTB, C4) e NLU (QQP, MRPC) utilizando modelos como Llama3, Qwen2.5 e BERT.

• Geração de Texto Aberto:
  • O DEL alcançou pontuações de coerência (COH) superiores às do InferDPT em todos os níveis de privacidade (medidos pela Taxa de Sucesso do Ataque - ASR).
  • Diferente do InferDPT, onde o desempenho depende fortemente da capacidade do modelo local, o DEL aproveita totalmente a capacidade do LLM remoto.
  • Em cenários com requisitos de privacidade mais fracos (ASR mais alto), o DEL superou até mesmo suas próprias variantes que usavam modelos locais, provando que o soft prompt no servidor é mais eficaz.
• Eficiência de Comunicação:
  • A quantização estocástica reduziu a largura de banda necessária. Enquanto o mecanismo gaussiano padrão transmite embeddings de 3584 dimensões (floats), o DEL transmite representações comprimidas (ex: 1/32 da dimensão) quantizadas em poucos bits.
• NLU (Classificação):
  • O DEL superou o SnD (Split-and-Denoise) em precisão e AUC, mesmo com quantização de 1 a 4 bits, demonstrando que a redução de dimensionalidade e o soft prompt compensam a perda de informação.
• Transferibilidade:
  • O soft prompt mostrou forte capacidade de transferência entre diferentes conjuntos de dados e níveis de privacidade ($\mu$), mantendo a eficácia mesmo quando treinado em dados públicos (C4) e aplicado em outros domínios.

5. Significado e Impacto

Este trabalho representa um avanço significativo na viabilidade prática da inferência privada de LLMs. Ao eliminar a dependência de modelos locais pesados e reduzir drasticamente a largura de banda necessária, o DEL torna possível a implementação de serviços de LLM privados em dispositivos com recursos limitados (como smartphones e IoT).

A inovação central de utilizar Soft Prompt no servidor para corrigir a distorção de privacidade oferece um novo paradigma: em vez de tentar "consertar" os dados no cliente (o que é custoso), o servidor adapta sua própria interpretação dos dados perturbados. Isso permite que a privacidade seja garantida sem sacrificar a qualidade da resposta gerada pelo modelo mais poderoso disponível na nuvem.