Adaptive and Robust Cost-Aware Proof of Quality for Decentralized LLM Inference Networks

Resumo Técnico: Prova de Qualidade Adaptativa e Robusta para Redes de Inferência de LLM Descentralizadas

Problema

Redes descentralizadas de inferência de grandes modelos de linguagem (LLM) visam fornecer acesso aberto e resistente à censura às capacidades de IA, mas exigem mecanismos sem confiança (trustless) para verificar a qualidade da saída em escala. Embora a verificação criptográfica seja frequentemente muito cara para a latência interativa, sistemas práticos dependem de uma "Prova de Qualidade" (PoQ), onde nós avaliadores leves pontuam saídas candidatas para formar um sinal de consenso para recompensas.

No entanto, em implementações abertas e sem permissão (permissionless), este mecanismo enfrenta vulnerabilidades críticas:

1. Heterogeneidade dos Avaliadores: Os avaliadores variam significativamente em confiabilidade e alinhamento de tarefa; alguns podem até exibir desalinhamento dependente da tarefa que inverte correlações com a verdade fundamental (ground truth).
2. Manipulação Adversária: Avaliadores maliciosos podem manipular pontuações para enviesar o consenso, inflar pagamentos ou sabotar competidores.
3. Fragilidade da Agregação Simples: Regras de consenso padrão baseadas em média aritmética são altamente sensíveis a pontuações extremas (outliers), tornando-as vulneráveis a injeção de ruído, boosting e ataques de sabotagem.

Esses problemas ameaçam o alinhamento de incentivos, podendo levar ao pagamento excessivo por saídas de baixa qualidade ou à seleção de modelos subótimos.

Metodologia

O artigo propõe uma extensão resiliente a adversários a um mecanismo de PoQ de custo consciente previamente estabelecido. A abordagem preserva a estrutura de incentivos original (equilibrando qualidade e custo computacional) enquanto endurece a camada de consenso. A metodologia consiste em três componentes principais:

1. Regras de Agregação Robustas
Em vez de depender apenas da média aritmética, o sistema avalia quatro regras de formação de consenso:

• Média Simples: Média não ponderada (linha de base).
• Mediana: Utiliza a mediana da amostra para reduzir a influência de grandes outliers.
• Média Aparada (Trimmed Mean): Remove uma fração fixa ($\gamma$) de pontuações extremas de ambas as extremidades antes de calcular a média, preservando mais informações do que a mediana, ao mesmo tempo em que limita o impacto adversário.
• Média Ponderada Adaptativa: Utiliza pesos de confiança para reduzir dinamicamente a influência de avaliadores não confiáveis.

2. Ponderação de Confiança Adaptativa
O sistema mantém um peso de confiança não negativo ($w_e$) para cada avaliador, atualizado online com base em sinais de desvio.

• Sinal de Desvio: Calculado como a diferença absoluta normalizada entre a pontuação de um avaliador e a pontuação de consenso ($d_{t,e} = |s_{t,e} - c_t| / 10$).
• Regra de Atualização: Uma atualização multiplicativa aumenta a confiança quando o desvio é baixo ($<0,5$) e diminui a confiança quando o desvio é alto ($>0,5$), limitada dentro de $[w_{min}, w_{max}]$. Isso permite que o sistema reduza o peso de outliers persistentes sem exigir supervisão de verdade fundamental.

3. Design de Recompensa com Consciência de Custo
As recompensas são computadas tanto para nós de inferência quanto para avaliadores:

• Nós de Inferência: As recompensas combinam qualidade normalizada (derivada do consenso) e custo de latência normalizado. Uma penalidade de limiar de qualidade é aplicada para saídas abaixo de um certo padrão, e um bônus de eficiência recompensa alta qualidade com baixo custo.
• Nós Avaliadores: As recompensas dependem da "proximidade" com a pontuação de consenso e do custo de avaliação. Isso incentiva os avaliadores a se alinharem com o sinal coletivo enquanto permanecem eficientes.

4. Modelo de Ameaça e Avaliação
Os autores definem um modelo de ameaça onde um adversário controla uma fração ($\rho$) dos avaliadores e emprega quatro estratégias de ataque:

• Injeção de Ruído Aleatório: Adição de ruído uniforme limitado às pontuações.
• Boosting: Adição de um viés positivo fixo.
• Sabotagem: Subtração de um viés fixo.
• Manipulação Estratégica: Aplicação de grandes desvios intermitentes com direção aleatória.

O