Public regulatory data infrastructure for lifecycle oversight of AI medical devices

기술 요약: AI 의료기기의 라이프사이클 감독을 위한 공공 규제 데이터 인프라

문제 정의
AI 기반 의료기기에 대한 규제 과학은 사전 결정된 변경 통제 계획(PCCP)과 같은 메커니즘을 통해 소프트웨어가 출시 후에도 진화한다는 점을 인정하며, "라이프사이클 감독(lifecycle oversight)" 철학으로 전환되었습니다. 그러나 병원, 안전 관리자, 연구자들이 기기를 식별하고, 변경 사항을 추적하며, 인허가와 안전 신호를 연결하기 위해 사용하는 레지스트리(등록부)를 포함한 공공 규제 데이터 인프라는 이와 발맞추어 진화하지 못했습니다. 주요 관할 구역(미국, EU, 중국, 일본, 호주)의 현재 레지스트리들은 여약 정적인 하드웨어의 법적 시장 허가를 확인하는 데 주로 설계된 "등록 지향적(registration-oriented)" 형태에 머물러 있습니다. 이러한 시스템은 가변적인 AI 소프트웨어를 관리하는 데 필요한 구조화되고 쿼리 가능한 필드를 갖추고 있지 않습니다. 결과적으로 외부 이해관계자들은 현재의 소프트웨어 버전, 특정 인구 집단에 대한 근거, 알고리즘 변경 이력, 또는 인허가와 출시 후 이상 사례 간의 연결 고리를 신뢰성 있게 파악할 수 없습니다. 본 논문은 "공공 거버넌스 가능성(public governability)"을 지원하는 공공 데이터 계층이 없다면, AI 의료기기의 안전한 조달, 배포 및 책임 추궁이 구조적으로 위태로워질 것이라고 주장합니다.

방법론
본 연구는 5개 관할 구역(미국 FDA, 유럽 연합 EUDAMED, 중국 NMPA, 일본 PMDA, 호주 TGA)의 공공 규제 기록 환경에 대해 근거 중심의 감사(source-grounded audit)를 수행합니다.

1. 사양 도출: 저자들은 5가지 거버넌스 기능과 20가지 구조적 요구사항으로 구성된 후보 최소 공공 데이터 사양을 도출했습니다. 이는 전문가 합의를 통해 설정된 것이 아니라, 각 요구사항을 규제, 거버넌스, 임상/운영, 그리고 경험적/문제적 앵커(anchor)에 연결하는 투명한 "4개 앵커 소스 일치(four-anchor source-concordance)" 절차를 통해 도출되었습니다.
   • F1 식별(Identity): 규제 대상은 무엇인가? (예: 소프트웨어 상태, 안정적 ID).
   • F2 버전 및 변경 가독성(Version & Change Legibility): 대상이 변경되었는가, 그리고 어떤 권한에 의거하였는가? (예: 버전 이력, 변경에 대한 규제적 근거).
   • F3 근거 가독성(Evidence Legibility): 규제적 신뢰의 근거는 무엇이었는가? (예: 검증 환경, 인구 집단, 지표).
   • F4 연결성(Linkage): 출시 전 기록이 출시 후 현실과 연결될 수 있는가? (예: 리콜/이상 사례와의 연결).
   • F5 AI 특이성(AI Specificity): 공공 기록이 AI 속성을 구분할 수 있는가? (예: 모델 클래스, 학습 데이터 모달리티, 출처).
2. 감사 도구: 두 명의 주석 작성자가 100개의 셀(5개 관할 구역 × 20개 요구사항)을 0–3점의 서수 척도로 독립적으로 채점했습니다.
   • 0: 공공적으로 이용 불가능.
   • 1: 서사(narrative), PDF 또는 자유 텍스트 형태로만 공개됨.
   • 2: 구조화된 필드는 존재하나 쿼리하거나 다운로드할 수 없음.
   • 3: 구조화되어 있으며 쿼리 또는 다운로드 가능함.
3. 격차 유형론(Gap Typology): 충족되지 않은 요구사항은 적절한 개혁 도구를 결정하기 위해 다섯 가지 별도의 격차 유형으로 분류되었습니다: 스키마(Schema) (필드 자체가 없음), 공표-접근(Publication–Access) (데이터는 보유하고 있으나 공개되지 않음), 구조화(Structuring) (데이터는 공개되었으나 비구조적임), 연결(Linkage) (안정적인 식별자가 없음), 인구(Population) (필드는 존재하나 비어 있거나 일관성이 없음).
4. 스트레스 테스트: 건축적 발견을 검증하기 위해 세 가지 경험적 프로브(probe)를 실시했습니다.
   • FDA AI 식별성: 큐레이션된 AI 목록 없이도 알려진 AI 기기들을 기본 510(k)/PMA 기록으로부터 복구할 수 있는지 테스트.
   • NMPA UDI 발견 가능성: 벌크 다운로드 가능한 중국의 UDI 인프라가 AI 상태를 구조화된 필드로 노출하는지 테스트.
   • FDA 제품군 계보(Product-Family Lineage): 다중 제출 AI 제품군에 대해 구조화된 선행/후속 관계 링크가 존재하는지 테스트(openFDA 활용).
5. 신뢰도: 주석 작성자 간 일치도(사전 조정 전 코헨의 카파(Cohen's κ) = 0.724)를 평가하였으며, 불일치는 문서화된 조정을 통해 해결되었습니다. 민감도 분석은 12개 항목의 "보수적 핵심(conservative core)" 사양과 고신뢰도 하위 집단을 사용하여 실행되었습니다.

주요 결과
감사 결과, 규제 철학과 공공 데이터 인프라 사이에 구조적 불일치가 있음이 드러났습니다.

• 전반적 결손: 100개 셀 중 단 6%(6개)만이 구조화되고 쿼리 가능한 가용성(점수 3) 임계값에 도달했습니다. 나머지 94%는 이 임계값 미달이었습니다.
• 기능적 집중: 결손은 균등하게 분포되어 있지 않으며, F2 (버전 및 변경), F3 (근거 가독성), 그리고 가장 심각하게는 **F5 (AI 특이성)**에 집중되어 있습니다.
  • F5 (AI 특이성): 어떤 관할 구역도 모델/방법 클래스, 학습 데이터 모달리티, 또는 데이터 출처를 기본 공공 기록 내의 구조화된 필드로 노출하지 않았습니다. 모든 F5b–d 셀은 0 또는 1점을 기록했습니다.
  • F2 (변경): 가장 발전된 PCCP 프레임워크를 가진 미국조차도 버전 및 변경 이력을 구조화된 필드가 아닌 서사적 또는 추론적 형태로만 노출하고 있습니다.
• 관할 구역별 차이: 미국(FDA)이 F1(식별) 및 F5a(보충 목록을 통한 AI 작업 범주) 측면에서 구조적 노출에 가장 근접해 있으나, 여전히 현재의 소프트웨어 버전이나 구조화된 제품군 계보를 노출하는 데 실패하고 있습니다. EU(EUDAMED)와 중국(NMPA)은 구조화된 근거 및 AI 메타데이터 측면에서 상당한 격차를 보입니다.
• 격차 유형론 결과: 충족되지 않은 94개 셀 중 41개는 구조화 격차(데이터는 존재하나 비구조적임)였고, 28개는 스키마 격차(필드 자체가 없음)였으며, 단 17개만이 공표-접근 격차(데이터는 보유했으나 공개되지 않음)였습니다. 이는 단순히 "더 많이 공개하는 것"만으로는 불충분하며, 규제 기관이 기존의 서사적 공시를 구조화하고 새로운 데이터 필드를 생성해야 함을 시사합니다.
• 스트레스 테스트 결과:
  • FDA: AI 목록에 있는 알려진 AI 기기 중 좁은 의미의 AI 용어를 통해 기본 510(k) 필드에서 식별된 비율은 2.5%에 불과했으며, 50.4%는 AI 신호가 전혀 없었습니다.
  • 중국: 벌크 UDI 데이터셋은 다운로드 가능하지만 "AI에 눈먼(AI-blind)" 상태입니다. AI 상태는 신뢰할 수 없는 자유 텍스트 키워드 매칭을 통해 추론해야 합니다.
  • 계보: openFDA의 70개 샘플 AI 제품군 기록 중 구조화된 선행/대상(predecessor/predicate) 필드를 노출한 사례는 0건이었습니다. 계보는 서사적 PDF나 신청자 그룹화를 통해서만 확인할 수 있습니다.

주요 기여

1. 공공 거버넌스 가능성 프레임워크: 본 논문은 설계 목표를 "투명성"(정보를 보이게 만드는 것)에서 "공공 거버넌스 가능성"(조달, 모니터링, 책임 추궁과 같은 특정 거버넌스 과업에 정보를 사용 가능하게 만드는 것)으로 전환합니다.
2. 감사 가능한 사양: 본 논문은 공공 규제 환경이 라이프사이클 감독을 지원하기 위해 반드시 포함해야 하는 20가지 구조적 요구사항(12개 항목의 보수적 핵심 포함)을 담은 감사 가능한 사양을 제공합니다.
3. 5단계 격차 유형론: 본 논문은 데이터 결핍을 스키마, 공표-접근, 구조화, 연결, 인구 격차로 구분하여 이해를 정교화합니다. 이 구분은 각 격차 유형에 따라 서로 다른 정책 도구(예: 새로운 데이터 수집 vs 기존 PDF의 재구조화 vs 투명성 명령)가 필요함을 나타냅니다.
4. 후보 최소 공공 데이터 확장: 저자들은 기존 등록 기록에 추가될 수 있는 20개의 구조화된 필드 세트(표 7)를 제안합니다. 이 필드들은 기밀성을 해치지 않으면서도 구현 가능한 범주형 요약 메타데이터(예: 모델 클래스, 업데이트 상태, 검증 인구 집단)에 초점을 맞춥니다.

의의 및 주장
본 논문은 주요 기여가 현재의 레지스트리가 불완전하다는 관찰(이미 알려진 문제)이 아니라, 그 문제를 재현 가능하고 감사가 가능한 공공 데이터 사양으로 변환했다는 점에 있다고 주장합니다.

• 겸허한 주장: 저자들은 본 사양이 전문가의 합의를 나타내거나 외부 검증을 거쳤다고 주장하지 않습니다. 대신, 도출 과정이 투명하며(추적성 매트릭스를 통해), 결과가 보수적인 민감도 제한 하에서도 안정적임을 주장합니다.
• 구조적 불일치: 핵심 발견은 공공 레지스트리가 "라이프사이클 거버넌스 가능성"이 아닌 "시장 허가 가시성"을 중심으로 조직되어 있다는 것입니다. 레지스트리는 기기가 시장에 진입했음을 확인할 수는 있지만, 진입 후의 거버넌스를 지원할 수는 없습니다.
• 정책적 시사점: 연구는 개혁이 단일한 방식의 투명성 명령이 되어서는 안 된다고 주장합니다. 대부분의 격차가 "공표-접근" 격차가 아닌 "구조화" 또는 "스키마" 격차이기 때문에, 효과적인 개혁은 단순히 기존 문서를 공개하는 것이 아니라 새로운 구조화된 필드를 생성하고 서사적 공시를 쿼리 가능한 데이터로 변환하는 것을 요구합니다.
• AI 특이성: 본 논문은 AI 관련 메타데이터(F5)의 부재가 단순한 정도의 문제가 아니라 '종류(kind)'의 문제임을 강조합니다. 모델 클래스와 학습 데이터 출처에 대한 구조화된 필드가 없다면, 공공 기록은 분포 변화(distribution shift), 이식성(portability), 또는 형평성(equity)을 평가하는 필수적인 과업을 수행할 수 없습니다.

요약하자면, 본 논문은 공공 규제 기록을 정적인 승인 목록에서 AI 의료기기의 라이프사이클 거버넌스를 지원할 수 있는 동적인 인프라로 변모시키기 위한 진단 프레임워크와 구체적인 로드맵을 제공합니다.