AEGIS: Preventing Cross-Domain Resource Abuse in MCP
Este artigo apresenta o AEGIS, um componente de aplicação de políticas que utiliza grandes modelos de linguagem para analisar e normalizar diversas invocações de ferramentas MCP, permitindo que administradores definam salvaguardas detalhadas contra o abuso de recursos entre domínios, preservando ao mesmo tempo a flexibilidade do ecossistema.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde agentes de inteligência artificial atuam como assistentes pessoais, capazes de entrar em contato com outros programas de computador para buscar dados, analisar imagens ou gerenciar tarefas complexas. Para tornar isso possível, engenheiros criaram uma linguagem padrão chamada Model Context Protocol, que permite que esses agentes de IA falem com ferramentas externas de uma forma estruturada. Pense nisso como um controle remoto universal para software, permitindo que uma IA peça a um banco de dados uma lista de arquivos ou a um serviço de mapas uma localização. No entanto, assim como um controle remoto pode ser usado para mudar um canal ou acidentalmente desligar toda a televisão, esses agentes de IA podem, às vezes, fazer solicitações que são grandes demais ou exigentes demais. Se um agente pedir um vídeo que seja muito longo, uma lista de resultados que seja vasta demais ou uma resolução de imagem que seja alta demais, ele pode sobrecarregar os sistemas de computador por trás das cenas, fazendo com que eles fiquem lentos ou parem de funcionar inteiramente. Este não é um problema de a IA ser maliciosa, mas sim uma consequência de sua capacidade de pedir qualquer coisa, combinada com o fato de que muitas dessas ferramentas carecem de limites estritos sobre o que aceitarão.
Pesquisadores da IBM Research desenvolveram um novo sistema chamado AEGIS para resolver este problema específico de exaustão de recursos. O desafio central que enfrentaram foi que cada ferramenta que uma IA pode usar é diferente. Uma ferramenta pode pedir um "raio" para definir uma área de busca, enquanto outra pede uma "distância", e outra ainda usa "milhas" ou "quilômetros". Além disso, as ferramentas lidam com diferentes tipos de dados, como texto, vídeo ou localização, e cada tipo de dado consome poder computacional de uma forma única. Um pedido de mil mensagens de texto é fácil para um computador lidar, mas um pedido de mil vídeos em alta definição poderia derrubar o sistema. Como a linguagem e a estrutura desses pedidos variam tão drasticamente, tornou-se quase impossível para as equipes de segurança escrever um único conjunto de regras que funcione para todos eles. Escrever essas regras manualmente para centenas de ferramentas diferentes é lento, propenso a erros e difícil de escalar.
Para superar isso, a equipe construiu o AEGIS, um sistema que usa o poder de raciocínio de modelos de linguagem de grande escala para atuar como um tradutor e um porteiro. Em vez de tentar memorizar cada ferramenta possível, o sistema analisa a descrição de cada ferramenta que uma IA pode usar e descobre automaticamente que tipo de dado ela manipula e que tipo de ação ela realiza. Ele então pega os nomes confusos e variados dos parâmetros — como "limite", "contagem" ou "max_results" — e os traduz para um vocabulário único e padrão. Por exemplo, ele reconhece que pedir "cinquenta milhas" em uma ferramenta de localização e "cem resultados" em uma ferramenta de texto são ambos pedidos para um volume específico de dados que poderiam ser perigosos se deixados sem verificação. Ao converter esses diversos pedidos em uma linguagem comum, o sistema pode aplicar um conjunto consistente de regras de segurança em todo o ecossistema.
Uma vez que o sistema entende as ferramentas, ele não apenas adivinha onde estabelecer os limites; ele os mede. Os pesquisadores realizaram uma série de testes nos quais aumentaram gradualmente o tamanho dos pedidos enviados a um servidor, observando de perto quando o sistema começava a ter dificuldades ou a cometer erros. Eles encontraram o ponto exato onde o computador ainda conseguia lidar com a carga sem falhar e estabeleceram esse ponto como a fronteira de segurança. Esse processo, conhecido como benchmarking, permite que o sistema crie um limite de segurança personalizado para cada ferramenta individual que encontra, garantindo que a IA possa ainda fazer seu trabalho sem quebrar acidentalmente o computador com o qual está falando.
A equipe testou essa abordagem em uma coleção de quase mil ferramentas diferentes extraídas de uma ampla gama de serviços do mundo real, incluindo computação em nuvem, bancos de dados e mecanismos de busca. O sistema provou ser notavelmente preciso ao identificar o que cada ferramenta faz e ao categorizar os dados que ela manipula, classificando corretamente o tipo de dado e a natureza da operação em mais de noventa e oito por cento dos casos. Ele também identificou com sucesso quais ferramentas provavelmente causariam problemas de recursos e normalizou seus parâmetros com alta precisão. Quando os pesquisadores simularam um cenário onde um agente de IA tentava sobrecarregar um servidor ao solicitar um número excessivo de imagens, o sistema com o AEGIS implementado bloqueou a solicitação prejudicial e manteve o servidor funcionando suavemente, enquanto o servidor desprotegido sofreu um colapso sob a carga.
Este trabalho demonstra que é possível proteger esses sistemas de IA complexos e interconectados sem sacrificar sua flexibilidade. Ao usar análise inteligente para entender a intenção por trás de um pedido e ao medir a capacidade real dos sistemas, o AEGIS oferece uma maneira de proteger contra o abuso de recursos que se adapta à diversidade das ferramentas sendo usadas. Os pesquisadores observam que, embora o sistema seja altamente eficaz, a tarefa de traduzir perfeitamente cada nome de parâmetro possível continua sendo um desafio, e o trabalho futuro se concentrará em expandir essa proteção para cenários ainda mais complexos onde múltiplas ferramentas são usadas em sequência. Por enquanto, o sistema oferece um método prático para garantir que, à medida que os agentes de IA se tornem mais capazes e disseminados, eles não interrompam inadvertidamente os próprios sistemas dos quais dependem.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.