AEGIS: Preventing Cross-Domain Resource Abuse in MCP
Este artículo presenta AEGIS, un componente de aplicación de políticas que aprovecha los modelos de lenguaje extensos para analizar y normalizar diversas invocaciones de herramientas MCP, permitiendo a los administradores definir salvaguardas detalladas contra el abuso de recursos entre dominios mientras se preserva la flexibilidad del ecosistema.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina un mundo donde los agentes de inteligencia artificial actúan como asistentes personales, capaces de contactar con otros programas informáticos para obtener datos, analizar imágenes o gestionar tareas complejas. Para que esto sea posible, los ingenieros crearon un lenguaje estándar llamado Protocolo de Contexto de Modelo (Model Context Protocol), que permite a estos agentes de IA comunicarse con herramientas externas de una manera estructurada. Piensa en ello como un control remoto universal para el software, que permite a una IA pedir a una base de datos una lista de archivos o a un servicio de mapas una ubicación. Sin embargo, al igual que un control remoto puede usarse para cambiar un canal o accidentalmente apagar todo el televisor, estos agentes de IA a veces pueden realizar peticiones que son demasiado grandes o exigentes. Si un agente pide un vídeo que es demasiado largo, una lista de resultados que es demasiado vasta o una resolución de imagen que es demasiado alta, puede abrumar a los sistemas informáticos que hay detrás de escena, provocando que se ralenticen o dejen de funcionar por completo. Esto no es un problema de que la IA sea maliciosa, sino más bien una consecuencia de su capacidad para pedir cualquier cosa, combinada con el hecho de que muchas de estas herramientas carecen de límites estrictos sobre lo que aceptarán.
Investigadores de IBM Research han desarrollado un nuevo sistema llamado AEGIS para resolver este problema específico de agotamiento de recursos. El desafío central que enfrentaron fue que cada herramienta que una IA podría usar es diferente. Una herramienta podría pedir un "radio" para definir un área de búsqueda, mientras que otra pide una "distancia", y otra más utiliza "millas" o "kilómetros". Además, las herramientas manejan diferentes tipos de datos, como texto, vídeo o ubicación, y cada tipo de dato consume potencia informática de una manera única. Una petición de mil mensajes de texto es fácil de manejar para un ordenador, pero una petición de mil vídeos de alta definición podría colapsar el sistema. Debido a que el lenguaje y la estructura de estas peticiones varían enormemente, ha sido casi imposible para los equipos de seguridad escribir un único conjunto de reglas que funcione para todas ellas. Escribir estas reglas manualmente para cientos de herramientas diferentes es lento, propenso a errores y difícil de escalar.
Para superar esto, el equipo construyó AEGIS, un sistema que utiliza el poder de razonamiento de los modelos de lenguaje extensos para actuar como traductor y guardián. En lugar de intentar memorizar cada herramienta posible, el sistema analiza la descripción de cada herramienta que una IA podría usar y deduce automáticamente qué tipo de datos maneja y qué tipo de acción realiza. Luego, toma los nombres confusos y variados de los parámetros —como "límite", "conteo" o "max_resultados"— y los traduce a un vocabulario único y estándar. Por ejemplo, reconoce que pedir "cincuenta millas" en una herramienta de localización y pedir "cien resultados" en una herramienta de texto son ambas peticiones de un volumen específico de datos que podrían ser peligrosas si no se controlan. Al convertir estas diversas peticiones en un lenguaje común, el sistema puede aplicar un conjunto consistente de reglas de seguridad en todo el ecosistema.
Una vez que el sistema comprende las herramientas, no se limita a adivinar dónde establecer los límites; los mide. Los investigadores realizaron una serie de pruebas en las que aumentaron gradualmente el tamaño de las peticiones enviadas a un servidor, observando de cerca cuándo el sistema empezaba a tener dificultades o a cometer errores. Encontraron el punto exacto donde el ordenador aún podía manejar la carga sin fallar y establecieron ese punto como el límite de seguridad. Este proceso, conocido como benchmarking, permite al sistema crear un límite de seguridad personalizado para cada herramienta que encuentra, asegurando que la IA pueda seguir haciendo su trabajo sin romper accidentalmente el ordenador con el que está hablando.
El equipo probó este enfoque en una colección de casi mil herramientas diferentes extraídas de una amplia gama de servicios del mundo real, incluyendo computación en la nube, bases de datos y motores de búsqueda. El sistema demostró ser notablemente preciso al identificar qué hace cada herramienta y al categorizar los datos que maneja, clasificando correctamente el tipo de datos y la naturaleza de la operación en más del noventa y ocho por ciento de los casos. También identificó con éxito qué herramientas eran propensas a causar problemas de recursos y normalizó sus parámetros con alta precisión. Cuando los investigadores simularon un escenario en el que un agente de IA intentaba abrumar a un servidor solicitando un número excesivo de imágenes, el sistema con AEGIS implementado bloqueó la petición dañina y mantuvo el servidor funcionando sin problemas, mientras que el servidor desprotegido colapsó bajo la carga.
Este trabajo demuestra que es posible asegurar estos complejos sistemas interconectados sin sacrificar su flexibilidad. Al utilizar el análisis inteligente para comprender la intención detrás de una petición y al medir la capacidad real de los sistemas, AEGIS proporciona una forma de proteger contra el abuso de recursos que se adapta a la diversidad de las herramientas utilizadas. Los investigadores señalan que, si bien el sistema es altamente efectivo, la tarea de traducir perfectamente cada posible nombre de parámetro sigue siendo un desafío, y el trabajo futuro se centrará en expandir esta protección a escenarios aún más complejos donde se utilizan múltiples herramientas en secuencia. Por ahora, el sistema ofrece un método práctico para asegurar que, a medida que los agentes de IA se vuelven más capaces y generalizados, no detengan inadvertidamente los mismos sistemas de los que dependen.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.