Bridging AI Risk Frameworks: Reconciling ISO/IEC 42001, the NIST AI Risk Management Framework, and the EU AI Act into a Uni ed Governance Taxonomy

위대한 AI 규칙서의 엉킴 (The Great AI Rulebook Tangle)

당신이 의사들이 질병을 진단하거나 누가 대출을 받을지 결정하는 것을 도울 수 있는 로봇을 만들려고 한다고 상상해 보십시오. 당신은 이 로봇이 안전하고, 공정하며, 실수로 누군가에게 해를 끼치지 않기를 바랍니다. 하지만 문제는 세상에 로봇을 만들기 위한 단 하나의 규칙서만 존재하는 것이 아니라는 점입니다. 대신, 세 명의 서로 다른, 매우 시끄러운 사서들이 방의 세 모퉁이에서 각기 다른 지시를 외치고 있습니다. 한 사서는 유럽에서 온 엄격한 판사로, "만약 당신의 로봇이 이 특정 업무를 수행한다면, 당신은 반드시 이 100페이지 분량의 규칙을 따라야 하며, 그렇지 않으면 문제가 생길 것이다"라고 말합니다. 또 다른 사서는 미국의 도움이 되는 코치로, "여기에 리스크를 생각하는 데 도움이 될 유연한 플레이북이 있지만, 당신이 훌륭해 보이고 싶지 않다면 이를 반드시 사용할 필요는 없다"라고 말합니다. 세 번째는 글로벌 인증 기관으로, "당신의 회사가 조직적으로 운영되고 있음을 증명하는 빛나는 금색 별을 원한다면, 이 특정 체크리스트를 따라야 한다"라고 말합니다.

이 논문은 인공지능(AI) 거버넌스의 세계에 살고 있습니다. 간단히 말해, 이것은 AI 시스템이 책임감 있게 구축되고 사용되도록 보장하는 방법을 연구하는 분야입니다. 이 논문이 하나로 뒤섞어 놓은 세 가지 핵심 개념은 다음과 같습니다: ISO/IEC 42001(회사가 잘 조직되어 있음을 증명하는 인증을 받기 위한 표준), NIST AI 리스크 관리 프레임워크(팀이 리스크를 관리하도록 돕는 자발적 가이드), 그리고 EU AI 법(위험한 AI를 금지하고 고위험 AI에 대한 엄격한 규칙을 설정하는 실제 법률)입니다. AI가 어디에나 존재하게 된 지금, 모두가 이 문제에 관심을 두고 있습니다. 만약 기업들이 이 세 가지 규칙서를 동시에 따르려고 한다면, 결국 똑같은 규칙을 세 번씩 쓰게 되고, 혼란에 빠지며, 많은 돈을 낭비하게 될 것입니다. 큰 질문은 이것입니다: 법의 엄격함이나 가이드의 유연성을 잃지 않으면서, 이 세 가지 서로 다른 규칙서가 함께 작동하게 만들 수 있을까요?

논문의 핵심 아이디어: 하나의 지도, 세 개의 목적지

Vinod Dhiman이 작성한 이 논문은 이 세 가지 규칙서를 하나의 거대하고 평평한 목록으로 합치려는 시도는 나쁜 아이디어라고 주장합니다. 그것은 도시의 지도, 교통법규 목록, 그리고 운전자 매뉴얼을 하나의 종이에 합치려는 것과 같습니다. 그렇게 하면 어떤 규칙은 반드시 지켜야 하는 '법'인 반면, 다른 규칙은 그저 '제안'일 뿐이라는 사실을 놓칠 수 있습니다. 저자는 이들을 평면화하는 대신, **통합 AI 거버넌스 분류 체계(Unified AI Governance Taxonomy, UAGT)**를 구축해야 한다고 제안합니다. 이것을 다섯 가지 서로 다른 층을 가진 레고 조립 설명서 또는 "슈퍼 정리 도구"라고 생각하십시오.

여기 이 논문이 설명하는 방식이 있습니다:

1. "슈퍼 정리 도구"의 다섯 가지 층
논문은 우리가 AI 거버번스를 다섯 가지 서로 다른 렌즈를 통해, 서로 겹쳐진 상태로 바라봐야 한다고 말합니다:

• "왜" 층 (규범적 목적 - Normative Purpose): 목표가 무엇인가? (예: "인종차별을 하지 마라", "안전하라").
• "누구" 층 (거버넌스 대상 - Governance Subject): 누가 책임을 지는가? (예: 회사 전체, 특정 로봇, 또는 로봇을 사용하는 사람).
• "리스크" 층 (리스크 로직 - Risk Logic): 위험을 어떻게 측정하는가? (예: "나쁜 목록"에 올라가 있어서 위험한 것인가, 아니면 특정 상황에서 실제로 해를 끼쳤기 때문에 위험한 것인가?).
• "어떻게" 층 (통제 아키텍처 - Control Architecture): 어떤 구체적인 규칙을 따르는가?
• "증거" 층 (증거 - Evidence): 우리가 그것을 수행했음을 증명하기 위해 어떤 서류를 보여줄 것인가?

논문은 이 세 가지 규칙서(ISO, NIST, EU)가 "왜"와 "어떻게" 층에서는 대부분 일치하지만, "누구"와 "리스크" 층에서는 서로 다르다는 것을 발견했습니다. 예를 들어, EU 법은 채용에 사용되는 로봇을 단순히 "고위험"이라고 규정합니다(목록 기반 규칙). 하지만 미국의 가이드는 "글쎄, 이 특정 로봇이 실제로 얼마나 많은 해를 끼쳤는지 측정해 보자"라고 말할 수 있습니다. 논문은 이 둘을 강제로 같게 만들어서는 안 된다고 주장합니다. 대신, UAGT는 두 가지 답변을 나란히 유지합니다. 이는 마치 두 개의 주머니가 있는 배낭과 같습니다: 하나는 "법적 고위험" 라벨을 위한 주머니이고, 다른 하나는 "측정된 저위험" 라벨을 위한 주머니입니다. 당신은 두 가지를 모두 가지고 다님으로써 법을 어기지 않으면서도, 동시에 실제 상황이 어떠한지도 알 수 있습니다.

2. 8개의 "안정적인" 버킷 (Eight "Stable" Buckets)
이를 현실 세계에서 구현하기 위해, 논문은 모든 규칙을 8개의 안정적인 버킷(거버넌스 도메인)으로 정리합니다. 이것들은 내용이 업데이트되더라도 변하지 않을 서류함의 여덟 가지 서로 다른 서랍과 같습니다. 버킷은 다음과 같습니다:

1. 책임성 (Accountability): 누가 책임을 지는가?
2. 리스크 평가 (Risk Assessment): 위험을 점검함.
3. 데이터 거버넌스 (Data Governance): 데이터가 깨끗하고 공정한지 확인함.
4. 투명성 (Transparency): AI가 어떻게 작동하는지 공개함.
5. 인간의 감독 (Human Oversight): 인간이 AI를 지켜보고 있는지 확인함.
6. 견고성 및 보안 (Robustness & Security): AI가 다운되거나 해킹당하지 않도록 함.
7. 모니터링 (Monitoring): 출시 후 AI를 관찰함.
8. 제3자 및 AI 모델 (Third-Party & AI Models): 외부 도구 및 대규모 AI 모델을 관리함.

논문은 기업들이 이 여덟 가지 서랍 안에 자신들의 규칙을 넣을 수 있다고 제안합니다. 각 서랍 안에는 세 가지 규칙서를 동시에 만족시키는 "통제 라이브러리"를 가질 수 있습니다. 예를 들어, "인간의 감독" 서랍에서 회사는 "인간이 결정을 확인해야 한다"라는 하나의 규칙을 작성합니다. 이 단일한 규칙은 ISO 심사원(인증을 받기 위해), NIST 팀(리스크를 관리하고 있음을 보여주기 위해), 그리고 EU 규제 기관(법을 준-수하고 있음을 증명하기 위해) 모두에게 보여줄 수 있습니다.

3. 실제 사례
논문은 이 아이디어를 두 가지 사례, 즉 의사가 엑스레이를 읽는 것을 돕는 의료용 AI와 누가 대출을 받을지 결정하는 신용 점수 산정 AI를 통해 테스트합니다.

• 의료 사례에서, 이 AI는 의료 기기이기 때문에 EU 법에 의해 "고위험"에 해당합니다. 논문은 회사가 UAGT를 사용하여 AI가 의사에게 안전하다는 것(NIST), 병원의 경영 시스템에 안전하다는 것(ISO), 그리고 EU 법을 준수한다는 것(EU)을 증명하는 하나의 문서 세트를 어떻게 만들 수 있는지 보여줍니다.
• 신용 사례에서, 이 AI는 금융 결정을 위한 EU의 "나쁜 목록"에 올라와 있기 때문에 "고위험"입니다. 논문은 회사의 내부 테스트 결과 AI가 매우 안전하다고 나오더라도, 여전히 엄격한 EU 규칙을 따라야 함을 보여줍니다. UAGT는 회사가 "엄격한 법" 버전과 "내부 테스트" 버전을 분리하면서도 같은 폴더 안에 체계적으로 정리할 수 있도록 돕습니다.

4. 이 논문이 할 수 없는 것
이 논문은 이 시스템이 할 수 없는 것에 대해서도 매우 신중하게 명시하고 있습니다. 논문은 ISO 인증을 받는 것이 자동으로 EU 법을 준수하고 있음을 의미한다는 생각을 명시적으로 배제합니다. 이는 운전면허(ISO)를 가지고 있다고 해서 특별한 허가 없이 트럭(EU 법)을 운전할 수 있는 것은 아닌 것과 같습니다. 논문은 차이점을 "매핑하여 없앨 수 없다"고 말합니다. 만약 EU가 특정 시스템을 고위험이라고 규정한다면, 내부 테스트 결과가 저위험이라 하더라도 그것은 고위험으로 남습니다. 또한 논문은 이 시스템이 완성된 제품이 아니라 하나의 "청사진" 또는 "지도"라고 언급합니다. 이는 거대한 실제 환경 실험을 통해 검증된 것이 아니라, 문헌 분석을 바탕으로 제안된 구조입니다.

5. "브뤼셀 효과"와 미래의 변화
논문은 EU 법이 매우 엄격하기 때문에, 전 세계 기업들이 안전을 위해 종종 EU 규칙을 그대로 따르게 된다는 점(이를 "브뤼셀 효과"라고 함)을 언급합니다. UAGT는 기업들이 이를 효율적으로 수행할 수 있도록 돕습니다. 그러나 논문은 규칙이 여전히 변하고 있다고 경고합니다. EU는 2026년에 일부 마감 기한을 조정한 "디지털 옴니버스" 업데이트를 통과했으며, 미국 또한 가이드를 업데이트하고 있습니다. 논문은 여덟 가지 버킷은 유지되겠지만, 그 안의 구체적인 규칙들은 법이 변함에 따라 업데이트될 필요가 있다고 제안합니다.

요약하자면
논문은 세 가지 규칙서를 동일하게 만들려고 강요해서는 안 된다고 결론짓습니다. 대신, 이 "통합 분류 체계"를 사용하여 스마트한 파일링 시스템을 구축해야 합니다. 이 시스템은 기업이 하나의 규칙 세트와 하나의 증거를 사용하여 엄격한 EU 법, 유연한 미국 가이드, 그리고 글로벌 인증 표준을 동시에 만족시킬 수 있게 해줍니다. 이는 시간을 절약하고 비용을 줄여주지만, 엄격한 법적 규칙을 내부 회사 규칙과 분리하여 안전하게 보호합니다. 이는 세 가지 서로 다른 규칙서가 주는 혼란을 해결하면서도, 그들이 모두 똑같다고 가정하지 않는 방법입니다.