Operationalising Artificial Intelligence Bills of Materials (AIBOMs) for Verifiable AI Provenance and Lifecycle Assurance

Sintesi Tecnica: Operazionalizzazione dei Materiali di Bill di Artificial Intelligence (AIBOM) per la Provenienza Verificabile dell'IA e l'Assicurazione del Ciclo di Vita

Enunciato del Problema
Gli Ambienti di Ricerca Fidati (TRE) sono fondamentali per l'analisi sicura di dati sensibili in ambito sanitario, finanziario e di sicurezza nazionale. Tuttavia, questi ambienti dipendono sempre più da catene di approvvigionamento software di IA complesse e multilivello, che introducono sfide significative per quanto riguarda la riproducibilità, la trasparenza e l'assicurazione della sicurezza. I tradizionali Materiali di Bill di Software (SBOM) sono insufficienti per i sistemi di IA perché si concentrano su binari e pacchetti statici, non riuscendo a catturare componenti specifici dell'IA dinamici come la genealogia dei dati di addestramento del modello, la deriva dei parametri, le chiamate API in runtime e i flussi decisionali degli agenti. Questo divario crea rischi legati all'ambiguità della provenienza del software, agli errori di versionamento e alle vulnerabilità non rilevate, in particolare quando i modelli di IA e le dipendenze evolvono rapidamente all'interno di analisi federate regolamentate.

Metodologia
Lo studio adotta una metodologia di ingegneria dei sistemi e di sicurezza applicata del software, utilizzando un paradigma di scienza del progetto per sviluppare e valutare una pipeline operativa per la generazione e la gestione dei Materiali di Bill di Intelligenza Artificiale (AIBOM) all'interno dei TRE.

1. Ingegneria dello Schema: Gli autori estendono lo standard JSON CycloneDX 1.5 per creare uno schema AIBOM allineato a SACRO. Questo schema introduce campi specifici per l'IA per catturare:

   • Artifatti del Modello: Hash SHA-256 dei binari del modello (ad esempio, .pt, .onnx).
   • Genealogia dei Dati: Metadati strutturati che fanno riferimento ai dataset di addestramento, alle condizioni di accesso e agli Accordi di Utilizzo dei Dati.
   • Contesto di Inferenza: Parametri runtime inclusi dimensione del batch, quantizzazione, tipo di hardware (CPU/GPU) e precisione in virgola mobile.
   • Impronta Digitale dell'Ambiente: Hash crittografici delle immagini dei container del lavoro e dei livelli di base.
   • Controlli di Divulgazione: Classificazione delle tecniche di controllo statistico della divulgazione applicate (ad esempio, privacy differenziale, soppressione delle celle).
   • Vincolo dell'Output: Digest SHA-256 degli output analitici per garantire l'integrità.

2. Automazione Basata su Agenti: Una pipeline autonoma multi-agente viene implementata all'interno di job TRE containerizzati. Questi agenti eseguono:

   • Ispezione Pre-esecuzione: Enumerazione statica delle dipendenze.
   • Tracciamento Runtime: Intercettazione di importazioni dinamiche e caricamento del modello tramite hook.
   • Cattura dello Stato: Estrazione dell'architettura, del numero di parametri e dei checksum.
   • Corrispondenza delle Vulnerabilità: Query in tempo reale ai database NVD e OSV utilizzando identificatori PURL e CPE.
   • Vincolo Crittografico: Hashing degli output analitici e loro vincolo all'AIBOM utilizzando strutture ad albero di Merkle.

3. Valutazione: Il sistema è stato testato in un ambiente TRE simulato gestito da Kubernetes utilizzando un flusso di lavoro federato di previsione degli esiti del cancro. La valutazione ha confrontato la registrazione manuale, la generazione SBOM tradizionale e l'automazione completa AIBOM proposta attraverso metriche di completezza della provenienza, visibilità delle vulnerabilità, integrità della riproducibilità e sovraccarico di automazione.

Contributi Chiave

• Progettazione dello Schema AIBOM: Uno schema formalizzato e leggibile da macchina che estende CycloneDX per codificare esplicitamente i metadati del ciclo di vita dell'IA, inclusi i pesi del modello, i riferimenti ai dati di addestramento e i contesti di esecuzione.
• Pipeline Operativa: Una pipeline completamente automatizzata e guidata da agenti per l'ispezione continua dell'ambiente, l'arricchimento delle vulnerabilità e l'audit della riproducibilità.
• Framework di Integrazione: Un metodo per incorporare gli AIBOM in infrastrutture conformi a SACRO (Controllo Semi-Automatizzato degli Output di Ricerca) per supportare la validazione federata e la conformità verificabile da macchina.
• Strumenti Open Source: Il rilascio del repository aibom-toolkit, che fornisce definizioni di schema JSON, utility di validazione e istanze di esempio per l'adozione da parte della comunità.

Risultati
La valutazione empirica del framework ha prodotto i seguenti risultati quantitativi:

• Fedeltà della Riproducibilità: Il sistema ha raggiunto una fedeltà di riproducibilità del 98,7%, permettendo la ricostruzione quasi perfetta degli ambienti di esecuzione software tra TRE isolati.
• Precisione delle Vulnerabilità: Il motore automatico di corrispondenza delle CVE ha dimostrato una precisione del 96,2% nell'identificare le vulnerabilità all'interno dei componenti software.
• Guadagni di Efficienza: L'automazione ha portato a una riduzione del 63% del tempo di supervisione manuale per ciclo di validazione (riducendo il tempo medio da 110 a 41 minuti).
• Robustezza dello Schema: Lo schema ha convalidato con successo il 100% dei casi di test, inclusi documenti sintetici con dipendenze profondamente annidate (fino a 12 livelli) e alta cardinalità dei componenti (oltre 10.000 componenti).
• Auditabilità: Il sistema ha fornito tracciabilità end-to-end per tutti i componenti software critici, con catene di provenienza firmate digitalmente che soddisfano i requisiti ISO/IEC 27001 e NIST SP 800-218.

Significato e Affermazioni
Il documento afferma che il framework proposto avanza le fondamenta scientifiche della trasparenza della catena di approvvigionamento software e dell'ingegneria della riproducibilità dell'IA. Operazionalizzando gli AIBOM, lo studio fornisce una metodologia generalizzabile per:

• Sicurezza dei Sistemi di IA: Rafforzare l'integrità della provenienza e abilitare catene di approvvigionamento software verificabili in ambienti regolamentati.
• Automazione della Conformità: Supportare la divulgazione verificabile da macchina e la conformità agli standard internazionali di sicurezza delle informazioni senza fare affidamento su interventi manuali.
• Colmare il Divario: Affrontare l'insufficienza degli SBOM tradizionali per l'IA catturando la natura dinamica e statale dell'addestramento e dell'inferenza del modello.

Gli autori posizionano l'AIBOM non come un sostituto degli standard esistenti come SBOM, VEX o CSAF, ma come un livello di provenienza fondamentale che potenzia questi framework fornendo il contesto specifico (genealogia dei dati, configurazione del modello, ambiente di esecuzione) necessario per una valutazione accurata delle vulnerabilità e la riproducibilità nei sistemi di IA. Il lavoro stabilisce che l'assicurazione automatizzata della provenienza e la validazione del ciclo di vita dell'IA riproducibile sono fattibili e scalabili all'interno di infrastrutture di ricerca sicure.