Certified Purity for Cognitive Workflow Executors: From Static Analysis to Cryptographic Attestation
Este documento presenta una arquitectura de pureza certificada que fortalece la gobernanza de flujos de trabajo cognitivos al reemplazar las convenciones de tiempo de ejecución con límites estructurales mediante compilación restringida de WebAssembly, certificados de pureza criptográfica y atestación remota, demostrando así matemáticamente la eliminación de elusiones adversarias mientras se mantiene una sobrecarga de tiempo de ejecución despreciable.
Artículo original dedicado al dominio público bajo CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que gestionas una cocina de alto riesgo donde un equipo de chefs (agentes de IA) prepara comidas complejas (flujos de trabajo cognitivos) para invitados VIP. Las reglas son estrictas: los chefs pueden planificar la comida y anotar los ingredientes que necesitan, pero tienen estrictamente prohibido tocar la estufa, abrir la nevera o llamar al repartidor. Solo el Jefe de Cocina (el "Pipeline de Gobernanza") tiene permiso para realizar esas acciones.
Durante mucho tiempo, la cocina se basó en una regla simple: "Confía en que los chefs seguirán las reglas". Los gerentes de la cocina revisaban los libros de recetas de los chefs (análisis estático) para ver si habían escrito instrucciones prohibidas. Si la receta parecía limpia, se permitía al chef trabajar.
El Problema: La Brecha del "Truco de Magia"
El documento explica que este sistema de "confiar en la receta" tiene un fallo fatal. Un chef determinado y astuto podría usar trucos de magia para eludir las reglas sin escribirlos en el libro de recetas. En la plataforma específica de cocina que utilizan (llamada BEAM/Erlang), un chef podría:
- Fingir ser otra persona: Llamar a una función por su nombre en el último segundo, ocultando el hecho de que están utilizando una herramienta peligrosa.
- Escribir nuevas reglas sobre la marcha: Introducir un nuevo comando mientras cocinan, reescribiendo efectivamente su propia receta a mitad de la comida.
- Contratar a un guardaespaldas: Cargar una herramienta secreta y preescrita (un "NIF") que puede hacer cualquier cosa, incluida abrir la nevera.
- Enviar a un corredor: Crear una persona separada fuera de la cocina para que vaya a buscar ingredientes.
- Cambiar el libro de recetas: Cargar un libro de recetas completamente diferente y peligroso mientras cocinan.
Como estos trucos ocurren mientras el chef está trabajando, revisar el libro de recetas con antelación (análisis estático) no puede detectarlos. Es como intentar detener a un mago revisando sus bolsillos antes del espectáculo; podrían tener una carta oculta que sacarán más tarde.
La Solución: La Cocina de "Pureza Certificada"
Este documento propone un diseño de cocina radicalmente nuevo que hace que estos trucos de magia sean físicamente imposibles, no solo contrarios a las reglas.
1. La Nueva Cocina (Entorno Aislado WebAssembly)
En lugar de permitir que los chefs trabajen en la cocina abierta, ahora trabajan dentro de una caja de vidrio sellada y transparente.
- Sin Trucos de Magia: Dentro de esta caja, las herramientas para "ocultarse", "reescribir" o "contratar guardaespaldas" simplemente no existen. La caja está construida de modo que la única forma de salir es a través de una única puerta cerrada con llave.
- La Lista Blanca: La caja solo tiene una lista específica de herramientas que puede usar (como una calculadora, una libreta y un "formulario de solicitud"). No puede tocar la estufa ni la nevera. Si una herramienta no está en la lista, la caja literalmente no tiene la manija para ella.
2. La Credencial (Certificado de Pureza)
Antes de que un chef entre a la cocina, debe obtener una credencial especial.
- La Prueba: Una autoridad de confianza examina el código del chef (el "binario") y verifica que solo utiliza las herramientas permitidas.
- El Sello: Firman la credencial con un sello criptográfico (como un sello de lacre). Este sello prueba que esta versión específica del código del chef está limpia.
- Anti-Manipulación: Si el chef intenta cambiar su código incluso ligeramente (para añadir una herramienta secreta), el sello se rompe. La credencial se vuelve inválida. No puedes tomar una credencial limpia del Chef A y dársela a un Chef B modificado.
3. El Guardia de Seguridad (Puerta de Ejecución)
Cuando un chef llega a la puerta de la cocina, un guardia de seguridad revisa la credencial.
- La Verificación: El guardia verifica el sello, comprueba que el código coincide con la credencial y confirma que las herramientas listadas siguen estando en la lista "permitida".
- El Resultado: Si la credencial es válida, el chef entra. Si no, es rechazado inmediatamente. Esto ocurre cada vez antes de que el chef comience a cocinar.
4. El Pasaporte Transcocina (Atestación Remota)
¿Qué pasa si el Chef A trabaja en la Cocina A, pero necesita contratar al Chef B de la Cocina B?
- El Chef B trae un "Pasaporte" (un registro de atestación) que prueba que fue revisado por el guardia de seguridad de su propia cocina y que su cocina sigue las mismas reglas estrictas.
- La Cocina A puede leer este pasaporte y confiar en el Chef B sin necesidad de ver el código fuente del Chef B o firmar un contrato. Es una prueba de confianza legible por máquina.
Por Qué Esto Importa (Los Resultados)
El documento demuestra que este sistema funciona matemáticamente:
- Sin Brechas: Como los "trucos de magia" (clases de elusión) están estructuralmente ausentes en la nueva cocina, un chef astuto literalmente no puede realizarlos. No es que sean atrapados; es que no pueden ocurrir.
- Rápido: Verificar la credencial toma menos de un parpadeo (aproximadamente 40 microsegundos). El tiempo extra que añade a preparar una comida es menos del 0,4% del tiempo que tarda en llegar un camión de reparto.
- Sin Confianza: No tienes que confiar en el chef, en el gerente de la cocina ni en la otra cocina. Solo tienes que confiar en las matemáticas detrás del sello y en el diseño de la caja de vidrio.
En Resumen
El documento traslada la gobernanza de un letrero que dice "Por favor, no roben" (que depende de que las personas sigan las reglas) a un muro que dice "Físicamente no puedes robar" (que depende de la estructura del edificio). Convierte una promesa en una garantía matemática, asegurando que los agentes de IA pueden planificar y pensar, pero nunca pueden actuar secretamente fuera de las reglas.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.