CEDAR-42001: From ISO/IEC 42001 Conformity to Architecture-Aware, Audit-Visible Assurance Posture for AI Cyber-Physical Systems

기술 요약: CEDAR-42001

문제 정의
자율 주행 차량 및 산업 제어 시스템과 같은 AI 기반 사이버 물리 시스템(AI-CPS)은 센싱, 연산, 제어, 인간의 감독 및 거버넌스에 걸친 보증(assurance) 과제에 직면해 있다. ISO/IEC 42001:2023이 인공지능 경영시스템(AIMS)을 위한 요구사항을 수립하고 있지만, 적합성 평가(conformity assessment)만으로는 AI-CPS 운영자에게 충분하지 않다. 표준 적합성 판정이나 부적합 목록만으로는 어떤 특정 아키텍처 계층이 영향을 받았는지, 현재의 관행이 리스크 맥락에 충분한 성숙도를 갖추었는지, 또는 구체적으로 어떤 조치가 뒤따라야 하는지를 밝혀내지 못한다. 이는 전략적 자원 배분, 약점의 운영적 우선순위 지정, 그리고 교정 조치의 전술적 선택을 클로즈(clause) 기반의 준수 결과로부터 직접 도출할 수 없게 만드는 "의사결정 간극(decision gap)"을 생성한다. 기존 방식들은 대개 경영 시스템 거버넌스와 아키텍처 인지 보안 평가를 별개의 영역으로 취급한다.

방법론: CEDAR-42001
저자들은 ISO/IEC 42001의 감사 증거를 "아키텍처 인지적이고 감사 가시적인 보증 포스처(architecture-aware, audit-visible assurance posture)"로 변환하기 위해 설계된 2단계 방법인 CEDAR-42001(Control–Evidence Decision and Action Reasoning)을 제안한다. 이 방법은 원래의 적합성 판정을 보존하면서 진단 데이터를 풍부하게 더하는 행 단위(row-level) 방식으로 작동한다.

• 단계 A (적합성 판정): 이 단계는 ISO/IEC 42001의 적합성 함수를 유지한다. 우선순위가 지정된 26개 규칙의 계층 구조를 사용하여, 코딩된 감사 기록을 적합(Conformity), 개선 기회(OFI), 경미한/중대한 부적합(Minor/Major Nonconformity), 또는 미평가(Not Assessed)와 같은 결과로 매핑한다. 이 단계는 원래의 준수 판정을 변경하지 않는다.
• 단계 B (감사 가시적 보증 진단): 이 단계는 각 감사 행에 네 가지 진단 필드를 추가한다:
  1. 아키텍처 귀속(Architectural Attribution): 발견 사항을 거버넌스 계층(G), 7개의 AI-CPS 아키텍처 계층(L1–L7: 물리, 센싱/인지, 데이터 처리, 미들웨어, AI 결정/제어, 애플리케이션 로직, 인간 감독), 또는 교차 계층 범주 중 하나에 할당한다.
  2. 성숙도 프로필(Maturity Profile): 다섯 가지 차원(추적성, 운영화, 모니터링, 개선, 교차 계층 통합)을 0–4 척도로 평가한다. 17개 규칙의 게이트가 이 점수들을 IRDMO 성숙도 사다리(초기, 반복 가능, 정의됨, 관리됨, 최적화됨)에 매핑하여, 다음 단계로의 진행을 막는 "결합 제약(binding constraint)"을 식출한다.
  3. 리스크 비례 목표(Risk-Proportionate Target): CPS 영향 및 안전/보안 중요도에 따라 최소 목표 및 선택적 확장 목표를 할당하고, 현재 성숙도와 요구되는 성숙도 사이의 격차를 계산한다.
  4. 조치 권고(Action Recommendation): 단계 A의 결과, 주요 계층, 결합 제약, 그리고 리스크 맥락을 바탕으로 구체적인 조치(교정, 개선, 보증 강화, 증거 획득, 또는 유지 관리)를 도출한다.

풍부해진 행들은 세 가지 의사결정 산출물로 집계된다: 전략적 뷰(리스크 집중도), 운영적 뷰(계층별 격차), 그리고 전술적 뷰(조치 등록부/CAPA).

주요 기여

1. 감사 가시적 보증 포스처의 정의: 본 논문은 관련 거버넌스 또는 AI-CPS 계층, 성숙도, 결합 제약, 리스크 비례 목표 및 조치 권고를 기록하는 유계된 진단 구조를 정의한다.
2. CEDAR-42001 방법론: 적합성 상태, CPS 계층 귀속, 성숙도 충분성, 조치 클래스를 단일한 추적 가능한 감사 행 내에 병치하는 새로운 방법을 제시한다.
3. 행 단위 추적성(Row-Level Traceability): 주요 방법론적 기여는 어떠한 집계 의사결정 산출물도 개별 의무, 증거 노트, 트리거된 규칙으로 분해할 수 있게 함으로써, 결론에 도달하는 방식의 투명성을 보장하는 능력이다.
4. 거버넌스-보증 핸드오프(Governance-to-Assurance Handoff): 이 방법은 감사 증거가 심층적인 기술 테스트, 조직적 개선, 또는 보완을 필요로 하는 지점을 식별함으로써 경영 시스템 준수와 기술적 보증 사이의 간극을 메우며, 이것이 기술적 보안 평가를 대체하는 것은 아니다.

결과 및 평가
본 방법론은 세 가지 제한적 연구를 통해 평가되었다:

1. 엔드 투 엔드 파이프라인 커버리지 (Meridian Robotics): 자율 이동 로봇 플릿을 위한 합성 AIMS 증거 코퍼스를 159개 모든 감사 질문에 대해 평가하였다.
   • 적합성 vs. 보증 격차: 89.9%(143/159)의 감사 행이 적합한 것으로 간주되었으나, 적합한 행 중 단 34.3%만이 기준이 되는 "고보증(High-assurance)" 범주에 도달했다. 이 비율은 보증 임계값의 대안적 운영 방식에 따라 22.4%에서 46.2% 사이에서 변동되었다.
   • 계층 분포: 중대한 부적합 사항은 거버넌스(G), 센싱/인지(L2), 미들웨어(L4), AI 결정(L5)에 걸쳐 분포되어 있었으며, 이는 약점이 거버넌스 계층에만 국한되지 않음을 보여준다.
   • 성숙도 통찰: 모니터링과 교차 계층 통합이 전반적으로 가장 낮은 점수를 기록했으며, 높은 성숙도 단계로의 진행을 막는 결합 제약 역할을 빈번하게 수행했다.
2. 소급 적용 (Cruise Robotaxi 사고): 본 방법론을 2023년 10월 발생한 Cruise 사고의 공개 문서에 적용하였다.
   • 본 프레임워크는 거버넌스, 인지(L2), 결정(L5), 인간 감독(L7) 전반에 걸쳐 기록된 우려 사항을 성공적으로 포착하였다.
   • 물리 계층(L1)에서 물리적 피해가 발생했음에도 불구하고, 지배적인 약점은 주로 G, L2, L5, L7에 기인함을 입증하였으며, 각 계층에 대한 차별화된 조치 권고를 도출하였다.

의의 및 주장
본 논문은 CEDAR-42001이 단순한 컴플라이언스를 넘어 실행 가능한 보증으로 나아가야 하는 AI-CPS 운영자들에게 필수적인 번역 계층을 제공한다고 주장한다. 저자들은 이 방법이 취약점 공격 가능성(exploitability)을 추정하거나, 기술적 CPS 보안 테스트(예: 침투 테스트, 런타임 모니터링)를 대체하거나, 배치된 시스템의 안전성을 인증하는 것이 아님을 명시한다. 대신, 이 방법의 의의는 감사 증거가 어디에서 더 깊은 기술적 보증이나 조직적 개선을 필요로 하는지를 식별하는 데 있다.

저자들은 결과가 특정 합성 고정 장치(synthetic fixture)와 선택된 Cruise 사고의 공개 증거를 특징짓는 것이지, 운영 조직 내의 보증 격차의 보편성을 확립하거나 미래의 사고를 방지할 것을 보장하는 것이 아님을 언급하며 신중한 입장을 유지한다. 이 방법은 기술적 보안 평가 자체와는 구별되는, 보증 포스처를 가시화하고 실행 가능하게 만드는 정보적 의사결정 지원 도구로 제시된다.