Operationalising Artificial Intelligence Bills of Materials (AIBOMs) for Verifiable AI Provenance and Lifecycle Assurance

기술 요약: 검증 가능한 AI 출처 및 수명주기 보장을 위한 인공지능 부품 목록 (AIBOM) 의 운영화

문제 제기
신뢰할 수 있는 연구 환경 (TRE) 은 보건, 금융, 국가 안보 분야에서 민감한 데이터의 안전한 분석에 필수적입니다. 그러나 이러한 환경은 점점 더 복잡하고 다층적인 AI 소프트웨어 공급망에 의존하고 있으며, 이는 재현성, 투명성, 보안 보장과 관련하여 상당한 과제를 야기합니다. 전통적인 소프트웨어 부품 목록 (SBOM) 은 정적 바이너리와 패키지에 초점을 맞추고 있어 모델 학습 데이터 계보, 매개변수 드리프트, 런타임 API 호출, 에이전트 의사결정 흐름과 같은 동적인 AI 고유 구성요소를 포착하지 못하므로 AI 시스템에는 부적합합니다. 이러한 격차는 특히 규제된 연방 분석 내에서 AI 모델과 종속성이 빠르게 진화할 때 소프트웨어 출처의 모호성, 버전 관리 오류, 그리고 탐지되지 않은 취약점과 관련된 위험을 초래합니다.

방법론
본 연구는 시스템 공학 및 적용 소프트웨어 보안 방법론을 채택하여, TRE 내에서 AI 부품 목록 (AIBOM) 생성 및 관리를 위한 운영 파이프라인을 개발하고 평가하기 위해 설계 과학 패러다임을 활용합니다.

1. 스키마 엔지니어링: 저자들은 CycloneDX 1.5 JSON 표준을 확장하여 SACRO 와 정렬된 AIBOM 스키마를 생성합니다. 이 스키마는 다음을 포착하기 위해 AI 고유 필드를 도입합니다:

   • 모델 아티팩트: 모델 바이너리 (예: .pt, .onnx) 의 SHA-256 해시.
   • 데이터 계보: 학습 데이터셋, 접근 조건, 데이터 사용 약관을 참조하는 구조화된 메타데이터.
   • 추론 컨텍스트: 배치 크기, 양자화, 하드웨어 유형 (CPU/GPU), 부동소수점 정밀도를 포함한 런타임 매개변수.
   • 환경 지문: 작업 컨테이너 이미지 및 기본 레이어의 암호화 해시.
   • 공개 통제: 적용된 통계적 공개 통제 기법 (예: 차등 프라이버시, 셀 억제) 의 분류.
   • 출력 바인딩: 무결성을 보장하기 위한 분석 결과의 SHA-256 다이제스트.

2. 에이전트 기반 자동화: 컨테이너화된 TRE 작업 내에서 자율적인 다중 에이전트 파이프라인이 구현됩니다. 이러한 에이전트는 다음을 수행합니다:

   • 실행 전 검사: 정적 종속성 열거.
   • 런타임 추적: 후크를 통한 동적 가져오기와 모델 로딩의 인터셉션.
   • 상태 캡처: 아키텍처, 매개변수 수, 체크섬 추출.
   • 취약점 매칭: PURL 및 CPE 식별자를 사용하여 NVD 및 OSV 데이터베이스에 대한 실시간 쿼리.
   • 암호화 바인딩: 분석 결과 해싱 및 Merkle 트리 구조를 사용하여 AIBOM 에 바인딩.

3. 평가: 시스템은 연방 암 결과 예측 워크플로우를 사용하여 시뮬레이션된 Kubernetes 관리 TRE 환경에서 테스트되었습니다. 평가는 출처 완전성, 취약점 가시성, 재현성 무결성, 자동화 오버헤드 지표에 대해 수동 로깅, 전통적인 SBOM 생성, 그리고 제안된 전체 AIBOM 자동화를 비교했습니다.

주요 기여

• AIBOM 스키마 설계: 모델 가중치, 학습 데이터 참조, 실행 컨텍스트를 포함하여 AI 수명주기 메타데이터를 명시적으로 인코딩하기 위해 CycloneDX 를 확장한 공식화되고 기계가 읽을 수 있는 스키마.
• 운영 파이프라인: 지속적인 환경 검사, 취약점 강화, 재현성 감사를 위한 완전 자동화된 에이전트 주도 파이프라인.
• 통합 프레임워크: 연방 검증 및 기계 검증 가능 준수를 지원하기 위해 AIBOM 을 SACRO(연구 결과의 반자동 검사) 준수 인프라에 임베딩하는 방법.
• 오픈 소스 도구: 커뮤니티 채택을 위한 JSON 스키마 정의, 유효성 검사 유틸리티 및 예시 인스턴스를 제공하는 aibom-toolkit 저장소 출시.

결과
프레임워크의 경험적 평가는 다음과 같은 정량적 결과를 산출했습니다:

• 재현성 충실도: 시스템은 격리된 TRE 간 소프트웨어 실행 환경의 거의 완벽한 재구성을 가능하게 하는 **98.7%**의 재현성 충실도를 달성했습니다.
• 취약점 정밀도: 자동화된 CVE 매칭 엔진은 소프트웨어 구성 요소 내 취약점을 식별하는 데 **96.2%**의 정밀도를 보여주었습니다.
• 효율성 향상: 자동화는 검증 주기당 수동 감독 시간을 63% 감소시켜 평균 시간을 110 분에서 41 분으로 단축했습니다.
• 스키마 견고성: 이 스키마는 깊게 중첩된 종속성 (최대 12 단계) 과 높은 구성 요소 카디널리티 (10,000 개 이상) 를 가진 합성 문서를 포함한 100% 의 테스트 사례를 성공적으로 검증했습니다.
• 감사 가능성: 시스템은 모든 중요한 소프트웨어 구성 요소에 대한 엔드 투 엔드 추적성을 제공했으며, 디지털 서명이 된 출처 체인은 ISO/IEC 27001 및 NIST SP 800-218 요구 사항을 충족했습니다.

의의 및 주장
본 논문은 제안된 프레임워크가 소프트웨어 공급망 투명성 및 AI 재현성 공학의 과학적 기초를 진전시킨다고 주장합니다. AIBOM 을 운영화함으로써 본 연구는 다음을 위한 일반화 가능한 방법론을 제공합니다:

• AI 시스템 보안: 규제된 환경에서 출처 무결성을 강화하고 검증 가능한 소프트웨어 공급망을 가능하게 함.
• 준수 자동화: 수동 개입에 의존하지 않고 국제 정보 보안 표준에 대한 기계 검증 가능한 공개 및 준수를 지원.
• 격차 해소: 모델 학습 및 추론의 동적이고 상태가 있는 특성을 포착함으로써 AI 에 대한 전통적인 SBOM 의 부족함을 해결.

저자들은 AIBOM 을 SBOM, VEX, CSAF 와 같은 기존 표준을 대체하는 것이 아니라, AI 시스템의 정확한 취약점 평가와 재현성에 필요한 특정 컨텍스트 (데이터 계보, 모델 구성, 실행 환경) 를 제공함으로써 이러한 프레임워크를 강화하는 기초적인 출처 계층으로 위치시킵니다. 이 연구는 자동화된 출처 보장과 재현 가능한 AI 수명주기 검증이 안전한 연구 인프라 내에서 실현 가능하고 확장 가능함을 입증합니다.