Resumo Técnico: MAGIQ - Um Sistema de Governança de IA Multi-Agente Pós-Quântico com Segurança Provável

1. Declaração do Problema

A rápida implantação de sistemas de IA autônoma (agentic), capazes de planejamento autônomo e execução de tarefas em múltiplos passos, introduz desafios críticos de governança. As estruturas existentes frequentemente carecem de arquiteturas seguras que garantam que os agentes adiram a políticas de comunicação definidas pelo proprietário, mantenham responsabilidade pelas interações e resistam a futuras ameaças de computação quântica.

As soluções atuais enfrentam duas limitações primárias:

1. Falta de Aplicação de Políticas: Embora protocolos como Agent2Agent (A2A) e Model Context Protocol (MCP) promovam interoperabilidade, eles carecem de mediação em tempo de execução e mecanismos de aplicação de políticas, deixando os agentes vulneráveis a ataques documentados. O único sistema prático, SAGA, aplica controle de acesso baseado em tokens, mas carece de um modelo de segurança formal para definição de políticas e depende de primitivas criptográficas clássicas (por exemplo, RSA, ECC) vulneráveis aos algoritmos de Shor e Grover.
2. Vulnerabilidade Quântica: O NIST recomenda a descontinuação de algoritmos padrão de chave pública (RSA, DH, ECC) até 2030 devido à ameaça de computadores quânticos. Substituir simplesmente as primitivas do SAGA por equivalentes pós-quânticos incorreria em sobrecarga significativa e falharia em abordar as limitações fundamentais na definição de políticas e garantias formais de segurança.

O problema central é a ausência de uma estrutura de governança que ofereça simultaneamente aplicação de políticas rica e consciente de semântica para interações multi-agente e segurança pós-quântica provável.

2. Metodologia

Os autores propõem o MAGIQ, uma estrutura projetada para definir e aplicar políticas para sistemas de IA multi-agentes utilizando protocolos criptográficos pós-quânticos (PQC) eficientes.

2.1 Abstrações Principais

O MAGIQ introduz duas abstrações de comunicação em nível de aplicação para capturar a semântica dos agentes, distintas das mensagens de transporte de baixo nível:

• Sessão A: Modela a comunicação um-para-um entre dois agentes (Iniciador $A_I$ e Respondente $A_R$).
• Sessão C: Modela a comunicação um-para-muitos entre um agente orquestrador e um conjunto de outros agentes.
• Msg-Tarefa: A unidade de comunicação dentro dessas sessões, combinando intenção, dados (carga útil), contexto e identidade do agente.

2.2 Definição de Políticas

Os usuários definem "orçamentos" que governam as interações dos agentes. O MAGIQ aplica quatro tipos específicos de políticas:

1. Lista de Contatos Autorizados ($ACL_A$): Define quais agentes podem iniciar contato e quais podem responder.
2. Orçamento de Participação em Sessão A: Limita o número de sessões que um agente pode iniciar ou para as quais pode responder.
3. Orçamento de Msg-Tarefa ($Q_A$): Limita o número de mensagens que um agente pode enviar dentro de uma sessão.
4. Orçamento de Tempo ($\Delta_A$): Limita a duração em que um agente permanece ativo para uma tarefa.

2.3 Mecanismos de Aplicação Criptográfica

O MAGIQ utiliza primitivas pós-quânticas para aplicar essas políticas sem depender de um terceiro confiável para cada interação:

• Cadeias de Hash: Usadas para contagem eficiente e segura de msg-tarefas. Os agentes constroem cadeias de hash correspondentes aos seus orçamentos de mensagens. Cada mensagem revela uma pré-imagem do valor comprometido atual, permitindo que a contraparte verifique se o orçamento não foi excedido. Essas cadeias são vinculadas a sessões e agentes específicos para prevenir reutilização.
• Árvores de Merkle: Usadas em sessões C para agregar os valores terminais de múltiplas cadeias de hash (uma para cada respondente) em uma única raiz. Isso permite que o orquestrador prove a participação em uma sessão autorizada pelo usuário com uma única assinatura, em vez de exigir $m$ assinaturas separadas para $m$ sessões.
• Assinaturas Pós-Quânticas: O sistema emprega assinaturas baseadas em hash (especificamente XMSS) para identidade de longo prazo e autorização de políticas, garantindo segurança contra adversários quânticos.
• PQ-TLS: Toda a comunicação ocorre por meio de canais TLS Pós-Quânticos mutuamente autenticados.

2.4 Arquitetura do Sistema

O sistema envolve três entidades:

• Usuários ($U$): Definem políticas e possuem agentes.
• Agentes ($A$): Entidades autônomas executando tarefas.
• Provedor ($TA$): Uma entidade honesta, mas curiosa, gerenciando um registro de usuários e agentes, facilitando a descoberta e a autorização inicial.

O fluxo de trabalho inclui:

1. Registro: Usuários e agentes registram-se com o Provedor, obtendo certificados e chaves de assinatura.
2. Descoberta de Agente: Um iniciador consulta o Provedor para verificar se um respondente está autorizado sob suas respectivas políticas de contato.
3. Estabelecimento de Sessão: Os agentes realizam um handshake envolvendo a troca de tokens de autorização assinados e compromissos de cadeia de hash.
4. Transmissão de Mensagens: Os agentes trocam msg-tarefas, atualizando tokens de cadeia de hash e verificando tags HMAC para integridade.

3. Contribuições Principais

O artigo afirma as seguintes contribuições:

1. Estrutura MAGIQ: Um sistema que permite aos usuários definir orçamentos ricos de políticas de comunicação e controle de acesso, aplicados via primitivas criptográficas pós-quânticas, fornecendo responsabilidade através da atribuição de msg-tarefas.
2. Modelo de Segurança Formal: Um modelo de estrutura de Composabilidade Universal (UC) para comunicação segura de agentes definida e aplicada por políticas. Os autores provam que os protocolos MAGIQ realizam com segurança as funcionalidades ideais definidas ($F_{Reg}$, $F_{A-auth}$, $F_{Ases}$, $F_{Cses}$).
3. Avaliação de Eficiência: Uma avaliação empírica demonstrando que o MAGIQ é prático em comparação com o sistema clássico de última geração SAGA, mostrando que a sobrecarga pós-quântica é negligenciável em condições de rede realistas.

4. Resultados Experimentais

Os autores avaliaram o MAGIQ contra o SAGA usando vários backends de LLM (GPT-4.1, GPT-5.4, Qwen) e tipos de tarefas (Calendário, E-mail, Escrita).

• Sobrecarga Computacional:
  • Registro: O MAGIQ incorre em um custo único de 36 segundos para registro de usuário/agente devido ao pré-cálculo da árvore de chaves XMSS. O registro no lado do provedor permanece baixo (5,4 ms).
  • Por Sessão: Custos recorrentes são uniformemente inferiores a 5 ms.
  • Transferência de Dados: O MAGIQ reduz significativamente a sobrecarga de transferência de dados (0,03 ms vs. 1,44 ms no SAGA para agentes iniciantes) devido ao manuseio eficiente de tokens.
• Sobrecarga de Protocolo:
  • A sobrecarga amortizada diminui drasticamente à medida que o número de solicitações por sessão ($Q_{max}$) aumenta.
  • Em tamanhos de sessão práticos ($Q_{max} \ge 15$), a sobrecarga do MAGIQ converge para dentro de 10 ms do SAGA, independentemente da latência geográfica. O custo PQC adicional é absorvido pelas variações de latência de rede.
• Conclusão de Tarefa:
  • O MAGIQ adiciona uma sobrecarga constante de ~0,176s (dois agentes) a ~0,336s (multi-agente) à execução da tarefa.
  • Isso representa menos de 2% do tempo total de execução em todos os modelos e tarefas testados, confirmando que o custo é efetivamente negligenciável em comparação com a latência de inferência do LLM.
• Largura de Banda:
  • O MAGIQ requer maior largura de banda durante o estabelecimento de sessão (88,65 KB vs. 2,12 KB no SAGA) devido a certificados e assinaturas PQC.
  • No entanto, a transferência de dados por solicitação é comparável (0,56 KB vs. 0,59 KB).
• Escalabilidade:
  • A sobrecarga do provedor escala linearmente com o número de agentes, mas permanece negligenciável mesmo para 100 agentes com tempos de vida de sessão curtos.
  • A sobrecarga do orquestrador escala linearmente com o número de agentes receptores, mas cai significativamente à medida que os tempos de vida da sessão aumentam.

5. Significado e Alegações

O artigo posiciona o MAGIQ como o primeiro passo em direção a soluções seguras pós-quânticas para sistemas de IA autônoma. Seu significado reside em:

• Segurança Provável: Diferentemente de propostas teóricas anteriores, o MAGIQ fornece provas formais baseadas em UC para aplicação de políticas e garantias de segurança contra adversários de tempo polinomial quântico.
• Praticidade: A avaliação demonstra que a transição para criptografia pós-quântica não impõe uma penalidade de desempenho proibitiva em fluxos de trabalho de agentes, tornando-a uma solução viável para implantação imediata.
• Consciência Semântica: Ao mover a aplicação de políticas da camada de transporte para a camada de aplicação (msg-tarefas), o MAGIQ garante que a governança esteja alinhada com a semântica real das tarefas dos agentes, prevenindo ataques que contornam a segurança em nível de transporte.

Os autores concluem que o MAGIQ equilibra com sucesso a necessidade de segurança rigorosa e à prova de futuro com a eficiência operacional necessária para sistemas complexos de IA multi-agente.