Resumo Técnico: ZKBoost - Treinamento Verificável com Conhecimento Zero para XGBoost

1. Declaração do Problema

À medida que modelos de aprendizado de máquina, particularmente Árvores de Decisão com Gradiente Reforçado (GBDTs) como o XGBoost, são cada vez mais implantados em domínios sensíveis (por exemplo, finanças, saúde), há uma falta crítica de garantias criptográficas quanto à integridade do modelo. Os clientes não podem verificar se um modelo implantado $M$ foi genuinamente treinado em um conjunto de dados específico $D$ usando hiperparâmetros prescritos sem que o proprietário do modelo revele dados proprietários ou parâmetros do modelo.

As soluções existentes de Prova de Conhecimento Zero de Treinamento (zkPoT) enfrentam obstáculos significativos quando aplicadas ao XGBoost:

• Ineficiência Computacional: Reexecutar ingenuamente o processo de treinamento do XGBoost dentro de um circuito de Prova de Conhecimento Zero (ZKP) é proibitivamente caro. Isso é devido à necessidade de particionamento de dados cego em cada nó e à natureza sequencial da construção da árvore (onde cada árvore depende das previsões das árvores anteriores).
• Vulnerabilidades de Segurança: Trabalhos anteriores sobre treinamento e inferência ZK para árvores de decisão sofrem de falhas de segurança sutis. Estas incluem vazamento potencial da topologia da árvore e "lacunas de solidez" onde um provador malicioso poderia explorar o estouro de aritmética modular para desviar do algoritmo de treinamento correto, ainda assim passando pela verificação.
• Incompatibilidade Numérica: O XGBoost padrão depende de aritmética de ponto flutuante, que é não determinística entre hardwares e incompatível com a aritmética de anel finito exigida pela maioria dos sistemas ZKP.

2. Metodologia

Os autores propõem o ZKBoost, o primeiro protocolo zkPoT especificamente projetado para o XGBoost. A abordagem consiste em três pilares técnicos principais:

A. XGBoost de Ponto Fixo (TrainXGB)

Para preencher a lacuna entre o XGBoost padrão e os requisitos de ZKP, os autores implementam uma versão de ponto fixo do XGBoost.

• Aritmética: Todas as operações (adição, multiplicação, divisão) são realizadas em inteiros com um fator de escala global implícito, eliminando a não determinística de ponto flutuante.
• Aproximações: Funções não lineares essenciais ao XGBoost, como a função sigmoide ($\sigma$) e log-odds ($\sigma^{-1}$), são substituídas por aproximações amigáveis a provas (expansões lineares por partes e expansões de Taylor truncadas) que mantêm a precisão dentro de 1% da implementação padrão de ponto flutuante.
• Determinismo: Esta reformulação garante que o rastro de treinamento seja único e reproduzível, formando uma relação NP bem definida adequada para verificação ZK.

B. Modelo Genérico zkPoT (CertXGB)

Em vez de reexecutar o processo de treinamento de cima para baixo (da raiz às folhas), os autores projetam um algoritmo de certificação, CertXGB, que verifica o resultado do treinamento de baixo para cima e em paralelo.

• Lógica de Verificação: Dado um modelo reivindicado $M$ (ensemble de árvores) e um conjunto de dados $D$, o CertXGB:
  1. Avalia as árvores nos dados para determinar os índices das folhas.
  2. Reconstrói histogramas de gradiente e Hessian a partir das folhas até a raiz.
  3. Verifica se as divisões escolhidas pelo provador maximizam o ganho derivado desses histogramas reconstruídos.
  4. Verifica se os pesos das folhas são consistentes com os histogramas.
• Paralelismo: Essa reestruturação desacopla a validação de árvores individuais das dependências entre árvores, permitindo que múltiplas árvores sejam verificadas em paralelo, reduzindo significativamente os custos do provador.
• Ocultação de Topologia: Para evitar vazamento da estrutura da árvore (por exemplo, quais nós foram podados), o protocolo substitui nós podados por valores "fictícios". O ZKP verifica cegamente que esses fictícios são usados exatamente quando a condição de poda (ganho $\le 0$) é atendida.

C. Instanciação Segura com VOLE-ZKP

O protocolo é instanciado usando uma estrutura de ZKP baseada em Avaliação Linear Cega Vetorial (VOLE).

• Subprotocolos: Os autores projetam gadgets ZK específicos para operações não lineares críticas:
  • Comparação: Provas de decomposição de bits aprimoradas para prevenir ataques de "envolvimento" (wrap-around) onde um provador malicioso poderia inverter o Bit Mais Significativo (MSB) para alterar resultados de comparação.
  • Divisão e Truncamento: Provas que lidam com grandes faixas de valores sem exigir milhares de restrições, garantindo solidez contra estouro modular.
  • Construção de Histograma: Uma prova LogUp ponderada substitui a abordagem ZK-RAM mais cara usada em trabalhos anteriores, reduzindo a sobrecarga em aproximadamente 3-4 vezes.
• Verificações de Faixa Global: O protocolo impõe verificações de faixa global em valores intermediários para prevenir ataques de estouro aritmético que poderiam quebrar a solidez.

3. Contribuições Principais

1. Primeiro zkPoT para XGBoost: O artigo apresenta o primeiro protocolo que permite a um proprietário de modelo provar o treinamento correto de um modelo XGBoost em um conjunto de dados comprometido sem revelar dados ou parâmetros.
2. Algoritmo CertXGB: Um modelo de certificação genérico que reestrutura a validação de treinamento para ser de baixo para cima e paralelizável, oferecendo uma melhoria significativa sobre a reexecução ingênua.
3. Instanciação Segura e Eficiente: Uma implementação baseada em VOLE que aborda lacunas de solidez encontradas em trabalhos anteriores de treinamento ZK (especificamente em relação a estouro e vazamento de topologia) enquanto mantém alta eficiência.
4. XGBoost de Ponto Fixo: Uma implementação prática de XGBoost de ponto fixo que corresponde à precisão de ponto flutuante padrão dentro de 1% em conjuntos de dados do mundo real, tornando-a compatível com aritmética ZKP.

4. Resultados Experimentais

Os autores implementaram o ZKBoost em C++ e o avaliaram em três conjuntos de dados do mundo real: Câncer de Mama, Inadimplência de Crédito e Covertype.

• Precisão: A implementação de XGBoost de ponto fixo alcança precisão dentro de 1% do XGBoost de ponto flutuante padrão em todas as configurações de hiperparâmetro testadas e conjuntos de dados.
• Desempenho vs. Linha de Base: Comparado ao Sparrow (um trabalho relacionado para árvores de decisão comuns e florestas aleatórias), o ZKBoost é 3–6 vezes mais rápido em vários tamanhos de conjunto de dados, apesar de fornecer garantias de segurança mais fortes (ocultando a topologia da árvore e verificações rigorosas de solidez).
• Escalabilidade:
  • Contagem de Árvores: O tempo de prova escala linearmente com o número de árvores.
  • Tamanho do Conjunto de Dados: O tempo de prova não é significativamente impactado pelo número de pontos de dados (até 100k), graças à prova eficiente de construção de histograma.
• Condições de Rede: Os experimentos simularam condições tanto de LAN (5 Gbps) quanto de WAN (1 Gbps, latência de 60ms). Embora a latência da WAN aumente o tempo total em ~83-87%, as provas ainda são geradas em prazos razoáveis (por exemplo, ~52 minutos para um conjunto de dados de 100k com 100 árvores em WAN).

5. Significado e Alegações

O artigo alega ser o primeiro a fornecer um zkPoT prático, seguro e eficiente para XGBoost, um algoritmo dominante no processamento de dados tabulares. O significado reside em:

• ML como Serviço Confiável: Permitir que clientes verifiquem a integridade do treinamento sem expor dados proprietários.
• Conformidade: Permitir a verificação de que os modelos foram treinados em fontes de dados aprovadas (por exemplo, dados do censo) ou que excluíram conteúdo protegido.
• Avanços de Segurança: O trabalho identifica e corrige vulnerabilidades específicas de solidez (ataques de estouro, vazamento de topologia) em protocolos anteriores de treinamento ZK, oferecendo uma base mais robusta para Aprendizado de Máquina com Conhecimento Zero (ZKML).
• Praticidade: Ao demonstrar que a aritmética de ponto fixo pode corresponder à precisão de ponto flutuante e que o protocolo roda eficientemente em hardware comercial, os autores argumentam que o treinamento verificável de XGBoost é viável para aplicações reais de alto risco, como detecção de fraudes e previsão de risco de crédito.

Os autores observam que, embora a instanciação atual vise classificação binária, o quadro pode conceitualmente se estender à classificação multiclasse, e trabalhos futuros poderiam explorar provas sucintas não interativas para verificabilidade pública.