Operationalising Artificial Intelligence Bills of Materials (AIBOMs) for Verifiable AI Provenance and Lifecycle Assurance

Resumen Técnico: Operacionalización de las Cartas de Materiales de Inteligencia Artificial (AIBOM) para la Trazabilidad Verificable de la IA y la Garantía del Ciclo de Vida

Declaración del Problema
Los Entornos de Investigación Confiables (TRE) son fundamentales para el análisis seguro de datos sensibles en los ámbitos de la salud, las finanzas y la seguridad nacional. Sin embargo, estos entornos dependen cada vez más de cadenas de suministro de software de IA complejas y multicapa que introducen desafíos significativos en cuanto a la reproducibilidad, la transparencia y la garantía de seguridad. Las Cartas de Materiales de Software (SBOM) tradicionales son insuficientes para los sistemas de IA porque se centran en binarios y paquetes estáticos, sin capturar componentes específicos de la IA dinámicos, como el linaje de los datos de entrenamiento del modelo, la deriva de parámetros, las llamadas a API en tiempo de ejecución y los flujos de decisión de agentes. Esta brecha genera riesgos relacionados con la ambigüedad en la procedencia del software, errores de versionado y vulnerabilidades no detectadas, particularmente cuando los modelos de IA y sus dependencias evolucionan rápidamente dentro de análisis federados regulados.

Metodología
El estudio adopta una metodología de ingeniería de sistemas y seguridad de software aplicada, utilizando un paradigma de ciencia del diseño para desarrollar y evaluar un pipeline operativo para la generación y gestión de Cartas de Materiales de IA (AIBOM) dentro de los TRE.

1. Ingeniería de Esquemas: Los autores extienden el estándar JSON CycloneDX 1.5 para crear un esquema AIBOM alineado con SACRO. Este esquema introduce campos específicos de la IA para capturar:

   • Artefactos del Modelo: Hashes SHA-256 de los binarios del modelo (por ejemplo, .pt, .onnx).
   • Linaje de Datos: Metadatos estructurados que hacen referencia a conjuntos de datos de entrenamiento, condiciones de acceso y Acuerdos de Uso de Datos.
   • Contexto de Inferencia: Parámetros en tiempo de ejecución, incluidos el tamaño de lote, la cuantización, el tipo de hardware (CPU/GPU) y la precisión de punto flotante.
   • Huella Digital del Entorno: Hashes criptográficos de las imágenes de contenedor de trabajos y las capas base.
   • Controles de Divulgación: Clasificación de las técnicas de control estadístico de divulgación aplicadas (por ejemplo, privacidad diferencial, supresión de celdas).
   • Vinculación de Salida: Digestos SHA-256 de los resultados analíticos para garantizar la integridad.

2. Automatización Basada en Agentes: Se implementa un pipeline autónomo de múltiples agentes dentro de trabajos de TRE en contenedores. Estos agentes realizan:

   • Inspección pre-ejecución: Enumeración estática de dependencias.
   • Seguimiento en tiempo de ejecución: Interceptación de importaciones dinámicas y carga de modelos mediante ganchos (hooks).
   • Captura de estado: Extracción de arquitectura, conteo de parámetros y sumas de verificación.
   • Coincidencia de Vulnerabilidades: Consulta en tiempo real de las bases de datos NVD y OSV utilizando identificadores PURL y CPE.
   • Vinculación Criptográfica: Hashing de los resultados analíticos y su vinculación al AIBOM utilizando estructuras de árbol de Merkle.

3. Evaluación: El sistema se probó en un entorno TRE simulado gestionado por Kubernetes utilizando un flujo de trabajo federado de predicción de resultados oncológicos. La evaluación comparó el registro manual, la generación tradicional de SBOM y la automatización completa de AIBOM propuesta a través de métricas de completitud de la procedencia, visibilidad de vulnerabilidades, integridad de la reproducibilidad y sobrecarga de automatización.

Contribuciones Clave

• Diseño del Esquema AIBOM: Un esquema formalizado y legible por máquina que extiende CycloneDX para codificar explícitamente metadatos del ciclo de vida de la IA, incluidos pesos del modelo, referencias a datos de entrenamiento y contextos de ejecución.
• Pipeline Operativo: Un pipeline totalmente automatizado y dirigido por agentes para la inspección continua del entorno, el enriquecimiento de vulnerabilidades y la auditoría de reproducibilidad.
• Marco de Integración: Un método para incrustar AIBOM en infraestructura compatible con SACRO (Verificación Semi-Automatizada de Resultados de Investigación) para apoyar la validación federada y el cumplimiento verificable por máquina.
• Herramientas de Código Abierto: El lanzamiento del repositorio aibom-toolkit, que proporciona definiciones de esquemas JSON, utilidades de validación e instancias de ejemplo para la adopción por parte de la comunidad.

Resultados
La evaluación empírica del marco arrojó los siguientes resultados cuantitativos:

• Fidelidad de Reproducibilidad: El sistema logró una fidelidad de reproducibilidad del 98.7%, permitiendo la reconstrucción casi perfecta de entornos de ejecución de software en TRE aislados.
• Precisión de Vulnerabilidades: El motor automatizado de coincidencia de CVE demostró una precisión del 96.2% en la identificación de vulnerabilidades dentro de los componentes de software.
• Ganancias de Eficiencia: La automatización resultó en una reducción del 63% en el tiempo de supervisión manual por ciclo de validación (reduciendo el tiempo promedio de 110 a 41 minutos).
• Robustez del Esquema: El esquema validó con éxito el 100% de los casos de prueba, incluidos documentos sintéticos con dependencias profundamente anidadas (hasta 12 niveles) y alta cardinalidad de componentes (más de 10.000 componentes).
• Auditabilidad: El sistema proporcionó trazabilidad de extremo a extremo para todos los componentes de software críticos, con cadenas de procedencia firmadas digitalmente que satisfacen los requisitos de ISO/IEC 27001 y NIST SP 800-218.

Significado y Afirmaciones
El artículo afirma que el marco propuesto avanza los fundamentos científicos de la transparencia de la cadena de suministro de software y la ingeniería de reproducibilidad de la IA. Al operacionalizar los AIBOM, el estudio proporciona una metodología generalizable para:

• Asegurar Sistemas de IA: Fortalecer la integridad de la procedencia y habilitar cadenas de suministro de software verificables en entornos regulados.
• Automatizar el Cumplimiento: Apoyar la divulgación verificable por máquina y el cumplimiento de estándares internacionales de seguridad de la información sin depender de la intervención manual.
• Cerrar la Brecha: Abordar la insuficiencia de las SBOM tradicionales para la IA capturando la naturaleza dinámica y con estado del entrenamiento e inferencia de modelos.

Los autores posicionan el AIBOM no como un reemplazo de estándares existentes como SBOM, VEX o CSAF, sino como una capa fundamental de procedencia que mejora estos marcos al proporcionar el contexto específico (linaje de datos, configuración del modelo, entorno de ejecución) necesario para una evaluación precisa de vulnerabilidades y reproducibilidad en sistemas de IA. El trabajo establece que la garantía automatizada de procedencia y la validación reproducible del ciclo de vida de la IA son factibles y escalables dentro de infraestructuras de investigación seguras.