Can Blockchains Reliably Train Machine Learning Models?

Resumo Técnico: As Blockchains Podem Treinar Confiavelmente Modelos de Aprendizado de Máquina?

Declaração do Problema
As blockchains atuais de Prova de Trabalho (PoW) consomem vastas quantidades de eletricidade apenas para alcançar consenso sem confiança, sem utilidade prática adicional. Embora reaproveitar essa capacidade computacional para o treinamento de Aprendizado de Máquina (ML) ofereça uma solução potencial para o desperdício de energia, as tentativas existentes de integrar ML ao consenso de blockchain enfrentam lacunas técnicas significativas. Propostas anteriores, como Prova de Trabalho Útil (PoUW), Prova de Aprendizado Profundo (PoDL) e Prova Robusta de Aprendizado (RPoL), sofrem de falhas críticas em escalabilidade, segurança e adaptabilidade. Especificamente, muitas dependem do armazenamento de dados de teste na cadeia (esgotando o armazenamento), exigem carimbos de tempo sincronizados globalmente (frágeis sob atrasos de rede), assumem plataformas confiáveis ou falham em escalar para o treinamento moderno não determinístico em GPU. Além disso, protocolos de aprendizado distribuído sem segurança robusta permitem que adversários falsifiquem recompensas, quebrando a equidade e desencorajando a participação. O desafio central é projetar um protocolo que direcione o poder de mineração para o treinamento verificável de ML, mantendo as garantias de segurança e escalabilidade de uma blockchain permissionless.

Metodologia
Os autores propõem a Prova de Treinamento (PoT), um protocolo projetado para preencher a lacuna entre o consenso de blockchain e o treinamento descentralizado de ML. A metodologia envolve três componentes principais:

1. Fundamentação Teórica e Design de Consenso:

   • O artigo primeiro prova um resultado de impossibilidade teórica (Teorema II.3): um sistema permissionless onde validadores são admitidos sem recursos escassos (validadores permissionless sem recursos) não pode alcançar simultaneamente segurança e vivacidade.
   • Consequentemente, a PoT adota uma arquitetura híbrida que separa a camada de consenso da camada de treinamento. Ela utiliza um mecanismo de Prova de Participação (PoS) para a camada de consenso (Agregadores e Validadores) para garantir segurança, enquanto a camada de treinamento permanece aberta.
   • O sistema emprega uma arquitetura L1–L2:
     • L1 (Camada de Liquidação): Ancora participação, depósito em garantia e distribuição de recompensas em uma cadeia mainstream.
     • L2 (Camada de Execução/DTN): Uma Rede de Treinamento Descentralizada (DTN) que realiza o trabalho pesado do ciclo de vida da tarefa, reivindicação de modelos, validação e tratamento de disputas fora da cadeia.

2. Mecânicas do Protocolo (O Ciclo da Tarefa):

   • Participantes: Clientes publicam tarefas; Mineradores (Provedores de Serviço) treinam modelos; Validadores avaliam modelos; Agregadores mantêm o livro-razão; Verificadores (qualquer participante) contestam validações incorretas.
   • Compromisso e Revelação: Mineradores comprometem-se com um hash de modelo antes que os dados de treinamento sejam revelados, prevenindo roubo de modelos.
   • Pontuação Determinística: Validadores avaliam modelos revelados contra um conjunto de teste fornecido pelo cliente usando uma função de pontuação determinística ($VRF_{Model}$).
   • Mecanismo de Disputa: Em vez de validar cada modelo na cadeia (o que cria gargalos), a PoT assume que os validadores são honestos inicialmente. Uma janela de contestação permite que qualquer participante dispute um relatório de validação. Se um desafio for bem-sucedido, o validador desonesto é penalizado (perdendo uma fração de sua participação) e o desafiante é recompensado. Isso mantém o estado na cadeia leve.

3. Análise de Segurança de Incentivos:

   • Os autores modelam a camada de aprendizado como um jogo sequencial. Eles derivam condições suficientes (Teorema II.9) sob as quais a validação verídica é uma estratégia estritamente dominante para validadores e a maximização da pontuação real do modelo é a melhor resposta para mineradores.
   • Condições-chave incluem: a probabilidade de detecção ($q$) multiplicada pela fração de penalidade ($\phi$) e pela participação ($s$) deve exceder o ganho externo da trapaça mais a diferença de custo entre relatórios honestos e desonestos.

Principais Contribuições

• Protocolo de Prova de Treinamento (PoT): Um mecanismo de consenso inovador que redireciona recursos computacionais no estilo PoW para treinamento verificável de ML.
• Prova de Segurança Teórica: Uma prova formal demonstrando que validadores permissionless sem recursos não podem garantir um livro-razão, justificando a mudança para uma camada de consenso ponderada por participação para a PoT.
• Arquitetura Escalável: Um design L1–L2 que desacopla a liquidação de valor da execução de utilidade, permitindo que treinamento e validação pesados ocorram fora da cadeia, enquanto apenas resultados compactos são liquidados na cadeia.
• Compatibilidade de Incentivos: Uma análise teórica de jogos provando que os parâmetros econômicos do protocolo (penalidades, recompensas, custos de contestação) podem alinhar os incentivos dos participantes com comportamentos honestos, garantindo treinamento confiável de modelos.

Resultados

• Validação Teórica: Os autores demonstram que, sob configurações específicas de parâmetros (fração de penalidade, probabilidade de detecção e participação), o comportamento honesto é a estratégia estritamente dominante para validadores, e desafiadores racionais sustentarão a monitorização.
• Avaliação de Vazão: Simulações da DTN usando fluxos de trabalho no estilo PBFT com tamanhos de comitê de 10, 30 e 50 nós mostram que o sistema pode alcançar alta vazão.
  • Sob condições de largura de banda média a rápida, os tempos de sincronização permanecem na faixa de segundos, mesmo à medida que os tamanhos de lote aumentam.
  • O sistema é mostrado para atender confortavelmente aos requisitos de escalabilidade das taxas de chegada de trabalhos de aprendizado profundo industriais relatados (tipicamente bem abaixo de um trabalho por segundo).
• Simulações de Segurança:
  • Exp1: Visualiza a lacuna de pagamento, confirmando que a validação verídica torna-se estritamente dominante quando o risco de penalidade excede o custo da trapaça.
  • Exp2: Demonstra que a monitorização pode ser sustentada em equilíbrio quando as recompensas esperadas de penalidade cobrem os custos de verificação.
  • Exp3: Mostra que alta detectabilidade (impulsionada por monitorização ativa) incentiva mineradores a investir esforço na melhoria das pontuações reais dos modelos, enquanto baixa detectabilidade leva a esforço reduzido e qualidade inferior.

Significância e Alegações
O artigo alega que a PoT fornece uma base prática para redes de treinamento abertas escaláveis e robustas contra adversários. Sua significância reside em:

1. Eficiência Energética: Oferece um caminho para reaproveitar a imensa capacidade computacional de redes PoW para tarefas valiosas de ML, abordando as preocupações ambientais da blockchain.
2. Confiabilidade: Ao combinar uma camada de consenso ponderada por participação com um mecanismo de verificação impulsionado por disputas, garante que os resultados do treinamento sejam confiáveis e as recompensas sejam alocadas de forma justa, sem exigir que cada nó execute novamente tarefas de treinamento caras.
3. Escalabilidade: A separação L1–L2 permite que a rede lide com uma ampla gama de cargas de trabalho, incluindo treinamento de grandes modelos e treinamento colaborativo sensível à privacidade, sem congestionar o livro-razão.
4. Adaptabilidade: O design suporta atualizações frequentes de cargas de trabalho de treinamento e regras de avaliação fora da cadeia, evitando a rigidez e os custos de coordenação associados a atualizações de consenso na cadeia.

Os autores concluem que a PoT preenche com sucesso as lacunas técnicas de propostas anteriores, oferecendo um sistema que é seguro, escalável e capaz de suportar um mercado descentralizado para treinamento de aprendizado de máquina.