🤖 AI

KYA: A Framework-Agnostic Trust Layer for Autonomous Systems with Verifiable Provenance and Hierarchical Policy Composition

KYA es una capa de confianza de código abierto y agnóstica a frameworks para sistemas autónomos que emplea cinco primitivas centrales —incluyendo un pipeline seguro de aplicación de cuatro puertas, composición jerárquica de políticas y puntuación unificada de confianza— para detectar desviaciones, fugas y ataques adversarios de los agentes, manteniendo al mismo tiempo latencia submilisegundo y alto rendimiento.

Autores originales: Kolawole Quadri

Publicado 2026-05-26

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Kolawole Quadri

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes una flota de robots autónomos (agentes de IA) trabajando para ti. Están solicitando préstamos, clasificando pacientes médicos o operando en la bolsa de valores. Actualmente, las herramientas que utilizamos para vigilar a estos robots (llamadas "observabilidad") son como el tablero de un automóvil: te indican si el motor está sobrecalentado, si el coche avanza lentamente o si una pieza está rota.

KYA (Conoce a tus Agentes) es un nuevo sistema que no solo vigila el motor; actúa como un guardia de seguridad, un detective y un notario todo en uno. Responde a las preguntas que el tablero no puede: ¿Está mintiendo este robot? ¿Se está desviando de su curso? ¿Está filtrando secretos? Y si algo sale mal, ¿quién es realmente el responsable?

Así funciona KYA, desglosado en cinco partes simples utilizando analogías cotidianas:

1. El control de seguridad de cuatro puertas (El "Portero")

Antes de que un agente de IA pueda hacer algo nuevo o cambiar sus reglas, debe pasar por cuatro estrictas puertas de seguridad. Piensa en esto como una bóveda bancaria de alta seguridad:

Puerta 1: ¿La persona que sostiene la llave firmó realmente esta solicitud? (Verificación de firma digital).
Puerta 2: ¿Esta solicitud sigue siendo válida o ha expirado? (Verificación de tiempo).
Puerta 3: ¿Esta solicitud hace que las reglas sean más estrictas o más laxas? KYA solo permite que las reglas se vuelvan más estrictas (más seguras), nunca más laxas. Es como un padre que dice: "Puedes añadir más tareas, pero no puedes eliminar las que ya tienes".
Puerta 4: ¿Un humano dijo realmente "sí"? Por defecto, un humano debe aprobar el cambio.

2. El reglamento de "Solo-Apretar" (La "Rejilla de Seguridad")

Imagina que tienes un reglamento para tus robots. La empresa (la plataforma) establece las reglas base. Tú (el inquilino) puedes añadir tus propias reglas más estrictas encima, pero nunca puedes eliminar las reglas de seguridad de la empresa.
KYA utiliza un sistema matemático especial para asegurar que, sin importar cuántas personas añadan reglas, el sistema nunca se vuelva accidentalmente menos seguro. Es como una pila de redes de seguridad: puedes añadir más redes, pero nunca puedes sacar una desde la base.

3. KYP: "Conoce a tu Principal" (La "Tarjeta de Identidad Universal")

En el pasado, teníamos tarjetas de identificación separadas para humanos, puntuaciones separadas para robots y registros separados para scripts automatizados. KYA pone todo en un único sistema de tarjetas de identificación.
Ya sea que el actor sea un empleado humano, un robot de IA o un script de fondo, KYA les otorga una "Puntuación de Confianza". Si un robot comienza a comportarse mal, su puntuación baja. Si un humano comete un error, su puntuación baja. Trata a todos de la misma manera, facilitando ver quién es confiable y quién es riesgoso.

4. El "Multiplicador de Interacción" (La "Combinación Peligrosa")

A veces, una sola acción es aceptable, pero dos acciones juntas son peligrosas.

Ejemplo: Darle a un robot una herramienta de "escritura" es riesgoso. Darle acceso a "datos privados" es riesgoso.
El Multiplicador: Si le das a un robot ambas, una herramienta de escritura y acceso a datos privados, el peligro no es solo "riesgoso + riesgoso". Es "superpeligroso".
KYA tiene una lista especial de estas "combinaciones peligrosas". Cuando las detecta, multiplica la puntuación de riesgo hacia arriba, alertando al operador humano de que esta combinación específica requiere escrutinio adicional.

5. El "Juego de la Culpa" (La "Responsabilidad del Orquestador")

Esta es una de las características más importantes. Imagina que un "Robot Gerente" contrata a tres "Robots Trabajadores" para hacer un trabajo. Si un Robot Trabajador se vuelve loco y roba datos, ¿quién se mete en problemas?

Antigua forma: El Robot Trabajador recibe la culpa. El Robot Gerente se va limpio.
Forma KYA: El Robot Gerente recibe la culpa.
KYA asume que si contratas a un trabajador riesgoso, eres responsable de lo que hace. Si un subagente se comporta mal, el sistema deduce inmediatamente puntos de la puntuación de confianza del Gerente. Esto evita que los gerentes se escondan detrás de subagentes "limpios" para hacer trabajo sucio.

Cómo maneja la evidencia (El "Diario a Prueba de Manipulación")

Cada vez que un agente hace algo, KYA lo escribe en un diario digital. Pero esto no es un registro normal; es un diario encadenado criptográficamente.

Cada entrada está vinculada a la anterior mediante un candado matemático especial (HMAC).
Si alguien intenta volver atrás y cambiar una entrada antigua (como borrar un error), el candado se rompe y todo el diario se marca como "manipulado".
Esto crea un registro admisible en un tribunal de exactamente qué sucedió, quién lo hizo y cuándo.

Lo que el artículo descubrió realmente

Los autores probaron este sistema con algunos desafíos difíciles:

Velocidad: Es increíblemente rápido. Puede verificar miles de agentes por segundo sin ralentizarlos.
Compatibilidad: Funciona con más de 15 tipos diferentes de marcos de trabajo de IA (como LangChain, CrewAI, etc.). No importa qué software uses; KYA se adapta encima de él.
Pruebas de Hacking: El equipo contrató a hackers del "equipo rojo" para intentar engañar a los agentes. KYA detectó el 89% de los ataques, incluido un tipo de ataque nuevo y muy astuto donde los hackers usan una cadena de robots para ocultar sus huellas.
Escenarios del Mundo Real: Lo probaron en un sistema simulado de préstamos bancarios y en un sistema de triaje hospitalario. En ambos casos, identificó con éxito a los agentes de riesgo y rastreó el mal comportamiento hasta la persona correcta (o robot).

La Conclusión

KYA es una herramienta de código abierto (gratuita para usar) que se sitúa entre tus agentes de IA y el mundo real. No solo te dice si la IA está funcionando; te dice si la IA es segura, honesta y responsable. Asegura que si una IA comete un error, sepamos exactamente a quién hacer responsable y tengamos un registro a prueba de manipulaciones para probarlo.

Resumen Técnico: KYA (Conoce a tus Agentes)

Declaración del Problema

Las plataformas actuales de observabilidad para agentes autónomos (por ejemplo, LangSmith, Langfuse) rastrean eficazmente métricas operativas como latencia, costo y tasas de error. Sin embargo, carecen de la capacidad para abordar la identidad del agente, la procedencia de la evidencia y los contratos de comportamiento ejecutables. Específicamente, las herramientas existentes no producen artefactos de gobernanza vinculados a la identidad del agente, verificables criptográficamente y atestiguables por terceros. Esta brecha deja a los operadores sin la capacidad de determinar definitivamente si un agente se está desviando, filtrando datos o actuando de forma descontrolada, ni pueden proporcionar los registros de auditoría criptográficos requeridos por regulaciones emergentes como la Ley de IA de la UE, el Marco de Gestión de Riesgos de IA del NIST y la ISO 42001.

Metodología

KYA (Conoce a tus Agentes) es una capa de confianza y gobernanza de código abierto, agnóstica al framework, diseñada para operar junto a las herramientas de observabilidad en lugar de reemplazarlas. Funciona como una pila coordinada de cuatro componentes:

SDK Principal (veldt-kya): Una biblioteca pura en Python que maneja la puntuación de confianza, las cadenas de evidencia y la composición de políticas.
Ganchos de Framework (kya_hooks): Integraciones en proceso para más de 15 frameworks de agentes (por ejemplo, LangChain, CrewAI, OpenAI Agents) que emiten eventos canónicos.
Puente de Telemetría (kya_otlp_bridge): Un sidecar que ingiere trazas de OpenTelemetry y las mapea a señales de KYA.
Módulo de Equipo Rojo (kya_redteam): Una herramienta fuera de banda para sondeo adversarial utilizando PyRIT y Garak.

El sistema se basa en cinco primitivas fundamentales para cerrar la brecha entre la telemetría y la gobernanza:

1. Pipeline de Aplicación de Entrada de Cuatro Puertas

Para gestionar actualizaciones de políticas y recomendaciones federadas, KYA emplea un estricto pipeline de cuatro puertas:

Puerta 1: Verificación de firma Ed25519 con anclaje de múltiples anclas.
Puerta 2: Verificación de expiración en el momento de persistencia (prevención de ataques de repetición).
Puerta 3: Composición "solo-estrechamiento" (las políticas pueden restringir pero nunca aflojar los valores predeterminados de la plataforma).
Puerta 4: Aprobación del operador como estado predeterminado; la aplicación automática está restringida a listas de permitidos específicas.

2. Álgebra de Composición de Solo-Estrechamiento

KYA introduce un álgebra formal para la composición jerárquica de políticas a través de tres canales: valores predeterminados de la plataforma, anulación por parte del inquilino y recomendaciones externas firmadas. Este sistema hace cumplir un cálculo de refinamiento donde las anulaciones por parte del inquilino solo pueden restringir (estrechar) los pesos de la plataforma, nunca aflojarlos. Esta propiedad está formalmente probada como sólida (Lema 1) y evita que recolectores comprometidos o recomendaciones externas debiliten la postura de seguridad de un inquilino.

3. Taxonomía Unificada de Confianza KYP (Conoce a tu Principal)

KYA unifica la puntuación de confianza a través de tres tipos de principales: usuarios humanos, agentes de IA y cuentas de servicio, en una única tabla a nivel de esquema (kya_principal_trust). A diferencia de sistemas anteriores que puntúan agentes de forma aislada o dependen de proveedores de identidad separados, KYP utiliza un mecanismo de puntuación compartido con un discriminador de conjunto cerrado. Esto permite un seguimiento consistente de la confianza y la agregación de señales en todo el ecosistema de actores.

4. Amplificación Auditables de Multiplicadores de Interacción

Construyendo sobre una línea base aditiva con forma de AIVSS, KYA introduce un registro auditable de multiplicadores de interacción. Estas son amplificaciones acotadas y asimétricas (multiplicadores $\ge$ 1.0 únicamente) desencadenadas por interacciones específicas entre pares (por ejemplo, "ejecución de código con entrada de usuario" o "escritor autónomo en producción"). Cada interacción lleva un código de auditoría estable, permitiendo a los auditores rastrear exactamente por qué se amplió una puntuación de riesgo. Esto aborda riesgos compuestos que los modelos aditivos lineales pasan por alto.

5. Atribución de Delegación de Dos Ejes

KYA aborda el patrón de ataque de "orquestador limpio" (donde un subagente comprometido influye en un orquestador limpio) a través de dos ejes:

Eje Estático: Una prima de confianza de delegación que penaliza a los orquestadores por delegar a subagentes riesgosos basándose en la configuración.
Eje Dinámico: Un mecanismo de débito en tiempo de ejecución que utiliza la convención actor_agent_key. Cuando un subagente emite una señal descontrolada, la señal se etiqueta con la clave del orquestador, debitando el contador de confianza del principal del orquestador en tiempo real. Esto previene la evasión de atribución donde los subagentes ocultan a la parte responsable aguas arriba.

Resultados Clave

El documento evalúa KYA en cuatro backends de almacenamiento (PostgreSQL, SQLite, DuckDB, MySQL) y más de 15 frameworks de agentes:

Corrección: Todas las 36 celdas en una matriz de extremo a extremo de 4 backends $\times$ 9 fases aprobaron.
Rendimiento: El puntuador de funciones puras se ejecuta en tiempo submilisegundo (p99 < 1ms). El sistema sostiene aproximadamente 1.800 operaciones por segundo con 20 trabajadores concurrentes mientras preserva la integridad de la cadena HMAC.
Detección Adversarial: En una campaña de equipo rojo utilizando 1.200 sondeos de PyRIT y Garak, KYA bloqueó o marcó el 89% de los ataques.
Atribución de Ataques: El sistema detectó y atribuyó con éxito el "ataque multiagente guiado por topología" (Liang et al.) al principal orquestador, una capacidad ausente en capas de gobernanza anteriores.
Cumplimiento: El sistema genera artefactos legibles por reguladores para 32 regímenes regulatorios, incluidos GDPR, HIPAA, NYDFS y la Ley de IA de la UE.

Significado y Afirmaciones

Los autores posicionan a KYA como una contribución de sistemas en lugar de una construcción criptográfica novedosa. Su importancia radica en la disciplina de composición y en las primitivas de ingeniería específicas que hacen que la gobernanza sea desplegable en entornos regulados y multiinquilino.

Novelty: El documento afirma novedad en la composición jerárquica de tres canales (plataforma/inquilino/externo) con una prueba formal de solidez, el registro de multiplicadores de interacción con códigos de auditoría estables y el débito en tiempo de ejecución del orquestador por mala conducta de subagentes.
Modestia: Los autores declaran explícitamente que los pesos de puntuación son heurísticos y derivados del juicio de expertos, no de una calibración basada en verdad fundamental. Reconocen que el sistema no resuelve el problema de la parada para la verificación de seguridad y que la tasa de fallos del 11% en inyecciones de prompts de múltiples vueltas sofisticadas refleja límites estructurales de los filtros externos.
Apertura: El sistema se publica bajo licencia Apache 2.0, con todos los factores de puntuación, pesos y artefactos de la cadena de evidencia auditables y ajustables por los operadores.

En resumen, KYA proporciona la capa faltante de procedencia verificable criptográficamente y contratos de comportamiento ejecutables para sistemas autónomos, permitiendo a los operadores responder preguntas de responsabilidad ("¿fue incorrecto? ¿quién es responsable?") en lugar de solo preguntas operativas ("¿cuánto tiempo tomó?").