Resumo Técnico: Acordo Correlacionado Livre de Conhecimento para Incentivar Aprendizado Federado

1. Declaração do Problema

O Aprendizado Federado (FL) permite o treinamento colaborativo de modelos sem compartilhar dados brutos, no entanto, uma barreira crítica para sua adoção generalizada é a falta de mecanismos robustos para avaliar e incentivar as contribuições dos clientes. Os métodos tradicionais enfrentam limitações significativas:

• Dependência de Verdade Terrena: Métodos como o valor de Shapley exigem um conjunto de testes público verificável ou verdade terrena, o que frequentemente não está disponível em ambientes sensíveis à privacidade ou descentralizados.
• Ineficiência Computacional: Calcular valores exatos de Shapley é computacionalmente proibitivo (exponencial no número de clientes), e mesmo aproximações frequentemente exigem retreinar modelos ou acessar todos os dados dos clientes.
• Vulnerabilidades na Predição entre Pares: Mecanismos existentes de Predição entre Pares Multi-Tarefa (MTPP), especificamente o Acordo Correlacionado (CA), sofrem com duas desvantagens práticas:
  1. Requisito de Centralização: O CA exige que o servidor estime uma matriz completa de correlação de relatórios ($\Delta$) a partir dos relatórios conjuntos de todos os clientes, criando uma sobrecarga de $O(n^2)$ e violando princípios descentralizados.
  2. Vulnerabilidade a Inversão de Rótulos: O CA é apenas "fracamente verídico". Ele recompensa a correlação estatística em vez da correção semântica, permitindo que clientes maliciosos coordenem permutações de rótulos (por exemplo, invertendo todos os rótulos) e recebam recompensas completas idênticas ao relatório honesto.

2. Metodologia: Acordo Correlacionado Livre de Conhecimento (KFCA)

Os autores propõem o Acordo Correlacionado Livre de Conhecimento (KFCA), uma regra de pontuação derivada do framework Dasgupta-Ghosh, adaptada para ambientes FL onde o servidor carece de conhecimento sobre as distribuições de sinais dos clientes.

Mecanismo Central

O KFCA opera sob a Condição de Mundo Categórico, uma suposição estrutural onde as correlações de sinais exibem um padrão de sinal específico:

• Sinais correspondentes ($a=b$) são positivamente correlacionados ($\Delta(a,a) > 0$).
• Sinais não correspondentes ($a \neq b$) são negativamente correlacionados ($\Delta(a,b) < 0$).

Sob esta condição, o KFCA simplifica a regra de pontuação para uma verificação direta de acordo:
$$S_{KFCA}(r_1, r_2) = \mathbb{1}\{r_1 = r_2\}$$
Os clientes são recompensados apenas quando seus relatórios coincidem. Isso elimina a necessidade de estimar a matriz global $\Delta$, pois o mecanismo depende exclusivamente da propriedade estrutural de que o acordo implica informação.

Garantias Teóricas

• Veracidade Estrita: Diferentemente do CA, o KFCA é estritamente verídico sob a condição de mundo categórico. A recompensa esperada para relatório honesto é estritamente maior do que para qualquer outra estratégia (incluindo inversão de rótulos), desde que menos de 50% dos clientes sejam maliciosos.
• Robustez: O mecanismo tolera até 50% de clientes maliciosos (limiar de tolerância a falhas bizantinas). Se a maioria for honesta, a estratégia honesta domina estritamente.
• Livre de Conhecimento: O servidor não precisa conhecer a distribuição a priori dos rótulos ou a distribuição conjunta dos sinais. Ele apenas exige que a estrutura de correlação induzida satisfaça o padrão de sinal do mundo categórico.

Instanciações Práticas

Para lidar com sinais contínuos ou de alta dimensionalidade (por exemplo, gradientes de modelo) que não se encaixam naturalmente no modelo categórico, os autores propõem um pipeline de transformação:

1. Transformação do Espaço de Sinais: Discretização de sinais contínuos (por exemplo, quantização por sinal de atualizações de parâmetros).
2. Alinhamento de Verdade Latente: Garantir que os relatórios mapeiem para uma verdade latente compartilhada (por exemplo, via inferência MAP).
3. Regularização Categórica: Suavização para impor o padrão de sinal requerido na matriz de correlação.

Duas instanciações específicas são avaliadas:

• KFCA-D: Utiliza um conjunto de testes público compartilhado para tarefas de classificação.
• KFCA-QP: Utiliza atualizações de parâmetros quantizadas por sinal (por exemplo, $\text{sign}(\Delta\theta)$) para configurações sem um conjunto de testes público, como o ajuste de adaptadores de Modelos de Linguagem Grandes (LLM).

3. Principais Contribuições

1. Um Mecanismo de Recompensa Livre de Conhecimento: O KFCA é o primeiro mecanismo MTPP para FL que não exige estimativa global de distribuições de relatórios ($\Delta$) nem agregação de relatórios, permitindo computação de recompensas em tempo real e descentralizada adequada para incentivos baseados em blockchain.
2. Veracidade Estrita e Segurança: O artigo prova que, sob a condição de mundo categórico, o KFCA elimina o equilíbrio de inversão de rótulos inerente ao CA. Ele garante que o relatório honesto e esforçado seja a única estratégia ótima (até permutação de rótulos, o que é resolvido sob uma suposição de maioria honesta).
3. Validação Empírica: Os autores demonstram a viabilidade e eficiência do KFCA em dois cenários distintos:
   • Ajuste de Adaptador de LLM Federado: Aplicação do KFCA-QP ao ajuste fino LoRA/DoRA em quatro domínios (NLP Geral, Finanças, Médico, Código).
   • Inspeção de PCB do Mundo Real: Uma implantação em uma linha de manufatura para detecção de defeitos onde os dados estão isolados e não existe conjunto de testes público.

4. Resultados Experimentais

A avaliação compara o KFCA contra estimadores de valor de Shapley e variantes padrão de CA.

• Eficiência: O KFCA alcança custo computacional ordens de magnitude menor do que estimadores de valor de Shapley. Sua complexidade por rodada é linear no número de clientes ($O(npm)$), enquanto o CA é quadrático ($O(n^2)$) devido à necessidade de reestimar $\Delta$.
• Fidelidade da Recompensa: Em experimentos no MNIST com várias configurações de heterogeneidade (desequilíbrio de rótulos, ruído, etc.), as distribuições de recompensa do KFCA correspondem estreitamente ao valor exato de Shapley, superando o CA-D e o CA-QP no alinhamento com contribuições de verdade terrena.
• Resistência a Ataques:
  • Inversão de Rótulos: Em tarefas de classificação binária, um cliente malicioso realizando inversão coordenada de rótulos recebe uma recompensa negativa sob o KFCA, enquanto recebe recompensa completa sob o CA.
  • Ajuste Fino de LLM: No benchmark FlowerTune, o KFCA-QP atribui corretamente as maiores recompensas a atualizações honestas. Estratégias adversariais (inversões de sinal, atualizações zero, ruído aleatório) recebem recompensas zero ou negativas. Ataques parciais (atualizações esparsas) recebem recompensas proporcionais ao seu desvio da honestidade.
• Implantação no Mundo Real: Na tarefa de inspeção de PCB, o KFCA-QP reduziu com sucesso o peso de um cliente de baixa qualidade enquanto mantinha recompensas consistentes para participantes honestos, demonstrando aplicabilidade em configurações industriais sem verdade terrena.

5. Significado e Alegações

O artigo alega que o KFCA aborda um gargalo fundamental no FL incentivado: o trade-off entre veracidade, descentralização e eficiência computacional.

• Descentralização: Ao remover a necessidade de um servidor central estimar correlações globais, o KFCA permite designs de incentivos verdadeiramente descentralizados e on-chain, onde as recompensas podem ser computadas em tempo real.
• Segurança: Ele resolve a vulnerabilidade crítica do CA a ataques coordenados de inversão de rótulos, garantindo que a correção semântica (ou alinhamento com a verdade latente) seja recompensada, e não apenas a correlação estatística.
• Aplicabilidade: O mecanismo é mostrado como viável para aplicações modernas e de alto risco de FL, especificamente o ajuste fino de Modelos de Linguagem Grandes, onde a verdade terrena frequentemente não está disponível e a privacidade dos dados é primordial.

Os autores concluem que o KFCA fornece uma solução teoricamente fundamentada e prática para incentivar a participação honesta no aprendizado federado sem depender de supervisão externa ou procedimentos de verificação caros. Trabalhos futuros são sugeridos para explorar a integração do KFCA em contratos inteligentes para coordenar enxames de agentes de IA autônomos.