TRUST: A Framework for Decentralized AI Service v.0.1

1. Declaração do Problema

O artigo aborda as limitações críticas da verificação centralizada de IA na era dos Modelos de Raciocínio Avançado (LRMs) e dos Sistemas Multi-Agente (MAS). As abordagens centralizadas atuais sofrem de quatro falhas fundamentais:

• Robustez: Auditores centralizados criam pontos únicos de falha vulneráveis a ataques (por exemplo, injeção de prompts) e vieses sistêmicos.
• Escalabilidade: A complexidade combinatória dos rastros de raciocínio torna a verificação manual ou automatizada centralizada economicamente e computacionalmente inviável.
• Opacidade: A auditoria de "caixa preta" corrói a confiança, pois os usuários não podem verificar independentemente as alegações de segurança ou as capacidades do modelo.
• Privacidade: Expor rastros completos de raciocínio para auditoria pública arrisca o roubo de propriedade intelectual (destilação de modelos) e vazamento de dados.

Além disso, os paradigmas de avaliação existentes (por exemplo, "LLM como Juiz") focam na auditoria apenas de saída. O artigo demonstra, por meio de um estudo de caso clínico (pontuação CHA2DS2-VASc), que os modelos podem produzir saídas corretas por meio de raciocínio defeituoso ("correto por coincidência"). Auditorias apenas de saída falham em detectar essas "alucinações", levando a falhas catastróficas sob deslocamentos de distribuição. Adicionalmente, em MAS, auditorias lineares sofrem de viés de recência, culpando o agente final em vez da verdadeira causa raiz dos erros.

2. Metodologia: O Framework TRUST

Os autores propõem o TRUST (Serviços Transparentes, Robustos e Unificados para IA Confiável), um framework descentralizado que migra da auditoria linear para a decomposição estrutural e a verificação baseada em consenso.

A. Decomposição Estrutural

O framework transforma rastros de raciocínio lineares em estruturas de grafos para permitir auditoria paralela e preservadora de privacidade:

1. Grafos Acíclicos Direcionados Hierárquicos (HDAGs): Para raciocínio de Cadeia de Pensamento (CoT) de modelo único.
   • Decompõe rastros em cinco níveis de abstração: Objetivo, Estratégia, Tática, Passo e Operação.
   • As arestas codificam relações semânticas (por exemplo, decomposes_to, depends_on, validates).
   • Permite que diferentes componentes de raciocínio sejam auditados em granularidades apropriadas por tipos de auditores correspondentes.
2. Grafos de Interação Causal (CIGs): Para Sistemas Multi-Agente (MAS).
   • Projeta logs de interação em um grafo onde os nós representam estados do agente (Função, Entrada, Saída, Status) e as arestas representam a transmissão de mensagens.
   • Auditoria de Dupla Camada: Separa a Validade do Nó (correção do raciocínio) da Integridade da Aresta (aderência ao protocolo e fidelidade de transmissão).
   • Resolve o problema da "Caixa Preta de Caixas Pretas" permitindo atribuição determinística de causa raiz, distinguindo entre falhas primárias (Invalid_Root) e falhas em cascata (Invalid_Cascade).

B. Arquitetura de Auditoria de Três Níveis

A rede utiliza um conjunto heterogêneo de auditores roteados pela complexidade da tarefa:

• Nível 1 (Computacional): Verificadores determinísticos (interpretadores, provadores de teoremas) para sintaxe, matemática e código. Taxa de erro $\epsilon \approx 0$.
• Nível 2 (Avaliadores LLM): Modelos especializados para consistência semântica e fluxo lógico. Taxa de erro $\epsilon \approx 0,05$.
• Nível 3 (Especialistas Humanos): Especialistas de domínio para decisões de alto risco, ambíguas ou críticas para a segurança. Taxa de erro $\epsilon \approx 0,30$.

C. Mecanismos de Consenso e Privacidade

• Consenso Ponderado por Participação: Auditores votam em segmentos usando um protocolo Commit-Reveal para evitar comportamento de rebanho. É necessária uma maioria qualificada de dois terços ($\tau=0,66$) para a validade do segmento.
• Privacidade por Design:
  • Distribuição Segmentada: Auditores recebem apenas segmentos criptografados e atômicos do rastro, impedindo a reconstrução de lógica proprietária.
  • Armazenamento Off-Chain: Rastros completos são armazenados no IPFS; apenas metadados e hashes criptográficos são registrados on-chain.
• Refinamento Ativo (Protocolo DAAN): Ao identificar causas raiz, o sistema executa um ciclo Prune-Freeze-Repair (Poda-Gelar-Reparar). Ele poda subgrafos defeituosos, congela trabalho válido a montante e regenera apenas as partes necessárias, alcançando até 99% de economia de custos em comparação com retentativas globais.

D. Incentivos Econômicos

O framework implementa um Teorema de Lucratividade-Segurança:

• Penalização Ponderada por Reputação: Auditores com baixa reputação enfrentam penalidades mais altas por votos incorretos.
• Estrutura de Pagamento: Auditores honestos têm garantia de lucro esperado positivo, enquanto agentes maliciosos incorrem em perdas esperadas, tornando ataques coordenados economicamente irracionais.

3. Contribuições Principais

1. Primeiro Sistema de Auditoria Descentralizado: Um sistema de verificação preservador de privacidade para rastros de raciocínio que opera sem uma autoridade central confiável, oferecendo garantias prováveis sob condições de falhas bizantinas.
2. Decomposição de Grafos Inovadora: Introdução de HDAGs e CIGs para permitir verificação modular e localização determinística de falhas em contextos de modelo único e multi-agente.
3. Garantias Teóricas: Prova do Teorema de Lucratividade-Segurança, estabelecendo que auditores honestos lucram e agentes maliciosos perdem dinheiro, com probabilidades de falha limitadas pelas desigualdades de Hoeffding e Chernoff.
4. Refinamento Ativo: Um mecanismo de reparo cirúrgico que regenera apenas subgrafos defeituosos, reduzindo significativamente custos de tokens e latência.
5. Aplicações Abrangentes: O framework suporta quatro casos de uso: Auditoria Descentralizada, Rankings à Prova de Falsificação, Anotação de Dados Sem Confiança e Agentes Autônomos Governados.

4. Resultados Experimentais

O framework foi avaliado em múltiplos benchmarks (MMLU-Pro, GSM8K, MATH, HumanEval) e modelos (GPT-OSS, DeepSeek-R1, Qwen):

• Precisão: O TRUST alcançou 72,4% de precisão, superando as linhas de base em 4–18%.
• Robustez: O sistema permaneceu resiliente contra 20% de corrupção (participantes maliciosos).
• Atribuição de Causa Raiz: O protocolo DAAN alcançou 70% de precisão na identificação de causas raiz, comparado a 54–63% para métodos padrão.
• Eficiência: O refinamento ativo resultou em 60% de economia de tokens em comparação com estratégias de retentativa global.
• Validação Humana: Estudos com humanos no ciclo confirmaram o design com um escore F1 de 0,89 e um escore Brier de 0,074.
• Latência: Apenas para Níveis 1/2, a latência total é inferior a 10 segundos, comparável à avaliação centralizada.

5. Significado

Este trabalho representa uma mudança de paradigma na segurança e responsabilidade da IA:

• Da Saída para o Processo: Avança além da avaliação de saída de "caixa preta" para auditoria semântica do processo de raciocínio, crucial para domínios de alto risco como medicina e direito.
• Confiança Descentralizada: Demonstra que a confiança na IA pode ser imposta por meio de incentivos econômicos e criptografia, em vez de depender de guardiões centralizados.
• Privacidade Escalável: Resolve a tensão entre transparência e privacidade, permitindo verificação rigorosa sem expor a lógica proprietária do modelo.
• Infraestrutura para Agentes Autônomos: Ao fornecer atribuição determinística de falhas e capacidades de autorreparação, o TRUST estabelece as bases para a implantação segura de sistemas multi-agentes autônomos.

Em resumo, o TRUST fornece a fundação teórica e técnica para uma infraestrutura descentralizada, economicamente sustentável e preservadora de privacidade para verificar a segurança e correção de sistemas de IA de próxima geração.