기술 요약: 제어 경계에서 보험 청구까지: CER 프레임워크를 통한 AI 매개 손실의 재구성

1. 문제 정의

본 논문은 생성형 및 에이전트형 AI 시스템을 도입하는 조직이 직면한 잔여 위험(residual risk) 관리의 결정적인 공백을 다룹니다. 피보험 조직의 AI 시스템이 손실(예: 프롬프트 인젝션, RAG 포이즈닝, 악의적 도구 출력 또는 자격 증명 오용)에 실질적으로 기여했을 때, 현재의 관행은 보험 청구 회복에 필요한 세 가지 필수 조건을 동시에 신뢰성 있게 확립하는 데 실패합니다:

1. 허용된 상태 (Permitted State): AI 시스템이 실행 가능한 운영 경계(무엇을 할 수 있도록 허용되었는가)를 가졌는지 여부.
2. 실제 상태 (Actual State): 보존된 아티팩트를 통해 시스템의 실제 상태와 인과 관계를 재구성할 수 있는지 여부(무엇을 실제로 수행했는가).
3. 보장 일치 (Coverage Alignment): 재구성된 손실이 가입된 보험 보장 범위와 일치하는지 여부.

저자들은 AI 매개 손실에 대해 기존의 "사건 재구성(event reconstruction, 무엇이 일치했는가)" 방식은 불충분하다고 주장합니다. 대신 "상태 재구성(state reconstruction, 시스템이 무엇을 했는가)"이 필요하며, 이는 사고 발생 당시의 특정 지침, 검색된 컨텍스트, 모델 구성, 도구 호출 및 비인간 정체성(NHI) 범위를 분석하는 것을 포함합니다. 이러한 구체적인 재구성이 없으면, 잔여 위험은 종종 조직의 인지 없이 조직에 그대로 남게 됩니다.

2. 방법론: CER 프레임워크

본 논문은 위험 전가를 위해 필요한 세 가지 차원을 점수화하고 연결하도록 설계된 유스케이스 수준의 진단 프레임워크인 CER을 소개합니다. CER은 거버넌스 점수, 위협 분류 체계 또는 법적 의견이 아니라, 피보험자의 AI 시스템을 통해 발생한 손실이 재구성되고 전가될 수 있는지를 판단하기 위한 구체적인 진단 도구입니다.

세 가지 차원

CER은 특정 잔여 위험 시나리오를 세 가지 별개의 차원에서 평가하며, 각 차원에 대해 0에서 3까지의 척도로 점수를 부여합니다:

• C (Control Boundary, 제어 경계): AI 시스템이 정의되고 기술적으로 강제 가능한 운영 범위를 가졌는지 평가합니다.
  • 핵심 차이점: 정책, 프롬프트 또는 구두 지침만으로는 경계가 될 수 없습니다. 경계는 인증, 권한 부여, 런타임 가드레일 또는 승인 게이트를 통해 기술적으로 강제되어야 합니다.
  • 스코어링 로직: 점수는 관련 실패 모드(예: 적법한 사용자에 의한 오용, 모델의 비정상적 동작, 외부 조작)에 대한 최저 성능에 의해 결정됩니다.
• E (Evidence Reconstruction, 증거 재구성): 시스템의 상태와 인과 관계를 보존된 아티팩트를 통해 "청구 등급(claim-grade)" 표준으로 재구성할 수 있는지 평가합니다.
  • 핵심 차이점: 이는 단순한 운영 텔레메트리 그 이상을 요구합니다. 외부 검토자(감사관, 규제 기관, 손해 사정사)가 피보험자의 서술에 의존하지 않고도 인과 관계를 결정할 수 있을 만큼 상관관계가 있는 아티팩트(프롬프트, 컨텍스트, 모델 버전, 메모리, 도구 호출, 승인 기록)가 필요합니다.
  • 스코어링 로직: 점수는 "사용 가능한 재구성 불가"(0)에서 "청구 등급의 증거"(3)까지의 범위를 가집며, 이는 감사 및 보험 청구 처리를 지원할 수 있는 수준입니다.
• R (Insurance Response, 보험 대응): 재구성된 손실이 보험 적용 대상인지 평가합니다.
  • 핵심 차이점: 이 차원은 이질적입니다. 이는 시장 가용성, 특정 약관, 제외 조항 및 피보험자가 설정한 조건에 따라 달라집니다. 동일한 AI 시스템을 사용하는 두 조직이라도 서로 다른 R 점수를 받을 수 있습니다.
  • 스코어링 로직: R은 보장 경로의 존재, 활성화된 제외 조항의 부재, 그리고 인과 관계 입증 요구 사항을 충족할 수 있는 능력을 테스트합니다.

진단 결과

CER 프레임워크는 C, E, R 점수를 결합하여 "진단 상태"를 결정합니다. 시나리오는 세 가지 링크가 모두 존재하고 연결되어 있을 때만 **전가 정렬(Transfer-Aligned)**된 것으로 간주됩니다(구체적으로 각 차원에서 최소 2점 이상의 점수 필요).

• 경계 없음 (C=0): 강제 가능한 허용 상태가 존재하지 않음; 증거가 있더라도 위험은 보유됨.
• 재구성 불가 (E≤1): 경계는 존재하지만, 청구 등급의 증거로 실제 상태를 증명할 수 없음.
• 제외됨/불가 (R=0): 경계가 있고 재구성이 가능하지만, 보험 보장 경로가 존재하지 않음.
• 전가 정렬 (C≥2, E≥2, R≥2): 세 가지 링크가 모두 존재하며, 실제 보험 한도 및 약관의 적용을 받음.

3. 주요 기여

본 논문은 AI 위험 및 보험 분야에 세 가지 구체적인 기여를 합니다:

1. AI 특유의 재구성 문제 정의: 사건 재구성(표준 사고 대응)과 상태 재구성(메모리, 도구 사용, 정체성 범위를 포함한 AI 시스템의 내부 상태 분석)을 구분합니다. 또한 에이전트형 AI의 경우 인과 관계가 조언, 권한 부여 및 실행을 붕괴시키기 때문에 새로운 증거 접근 방식이 필요함을 명시합니다.
2. CER을 통한 운영화: 명시적인 스코어링 루브릭(0–3 척도)과 점수에서 진단 상태로의 매핑을 갖춘 구els 구체적인 진단 도구를 제공합니다. 이를 통해 조직은 자신의 위험 전가 체인이 어디에서 끊어지는지(경계 실패, 재구성 실패 또는 전가 실패)를 정확히 식별할 수 있습니다.
3. 청구 등급 증거의 명세: AI 재구성에 필요한 특정 아티팩트 군(예: 프롬프트 로그, 검색된 컨텍스트, 모델 구성, 도구 호출 추적, 승인 기록)을 정의하고, 공개된 사례(PocketOS, Replit, Moffatt v. Air Canada)를 통해 프레임워크의 적용을 보여줍니다.

4. 결과 및 적용

본 논문은 새로운 경험적 데이터를 제시하는 대신, 기존의 공개 사례에 CER 프레임워크를 적용하여 그 유용성을 입증합니다:

• PocketOS/Replit 사건: 프레임워크는 광범위한 범위의 API 토큰으로 인해 프로덕션 데이터베이스를 삭제한 에이전트의 사례가 **제어 경계(C)**의 실패임을 강조합니다. 사건이 재구성(E)되더라도, 강제 가능한 경계(C0)가 없으므로 위험 전가가 불가능합니다.
• Moffatt v. Air Canada: 재구성된 AI 행동을 법적 및 보험적 결과로 매핑하는 방법을 보여주는 판결된 출력/신뢰 사례로 활용되었습니다.
• 에지 케이스(Edge Cases): 논문은 범위 경계를 명확히 합니다. 피보험자의 AI 시스템과 무관하게 발생하는 순수 외부 AI 기반 공격(예: 인간 직원을 속이는 딥페이크)은 CER의 범위 밖이지만, 피보험자의 AI 시스템 자체를 조작하는 공격(예: 포이즌된 RAG 문서)은 CER의 범위 내에 있습니다.

5. 의의 및 주장

본 논문은 의도적으로 좁고 명확한 의의를 주장합니다:

• 격차 해소: 통제/거버넌스 프레임워크(NIST AI RMF, ISO/IEC 42001, OWASP 등)와 보험 보장 분석을 연결합니다. 기존 프레임워크는 통제를 정의하거나 위험을 분류할 수는 있지만, AI 시스템의 상태를 보험 적용 손실과 연결하는 사후 손실, 유스케이스 수준의 증거 체인을 명시하지는 않는다고 주장합니다.
• 잔여 위험의 명확화: AI 시스템에 대한 잔여 위험 전가는 "허용된 상태", "재구성된 실제 상태", "보장 대응 손실"이 명시적으로 연결되지 않는 한 불가능하다고 상정합니다.
• 실무적 유용성: 프레임워크는 보험사와 피보험자에게 다음 네 가지 실무적 질문에 답하기 위해 설계되었습니다:
  1. AI 시스템이 무엇을 하도록 허용되었는가?
  2. AI 시스템이 실제로 무엇을 했는가?
  3. 어떤 특정 아티팩트(프롬프트, 도구, 정체성)가 손실을 발생시켰는가?
  4. 이 재구성이 보험 트리거 및 보장되는 손실 범주와 어떻게 매핑되는가?

저자들은 CER이 거버넌스, 보안 또는 클레임 프레임워크를 대체하는 것이 아니라 이를 연결하는 역할을 한다는 점을 강조합니다. 이는 AI 시스템으로부터 발생하는 손실이 증거로부터 재구성될 수 있는지, 그리고 그 재구성이 조직에 의한 위험 보유가 아닌 보험 청구를 지원하기에 충분한지를 판단하기 위한 진단 도구 역할을 합니다.