Qualifying and Quantifying Risk under the EU AI Act
이 논문은 EU AI 법의 기본권에 대한 질적 초점과 정량적 위험 정의를 조화시키기 위한 '심각성 우선' 2단계 프레임워크를 제안하는 동시에, 위험 정량화의 권한을 제공자에게 위임하는 것이 '위험 해킹'과 규제적 과소 분류를 가능하게 할 수 있다고 경고한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신이 로봇들이 도처에 널려 있는 활기찬 미래 도시의 시장이라고 상상해 보십시오. 어떤 로봇은 당신이 가장 좋아하는 빵 설정을 학습하는 토스터처럼 해롭지 않습니다. 다른 로бо트들은 강력합니다. 예를 들어 로봇 판사나 공원에서 얼굴을 스캔하는 드론 같은 것들 말이죠. 모든 도시 지도자에게 던져지는 큰 질문은 이것입니다: "어떻게 하면 멋진 새로운 발명품들을 멈추지 않으면서도 모두를 안전하게 지킬 수 있을까?" 이것이 바로 **위험 규제(risk regulation)**라고 불리는 분야의 핵심입니다. 이는 어떤 나쁜 일이 일어날 가능성(확률)과 그 일이 실제로 일어났을 때 얼마나 끔찍할 것인가(심각도)를 파악하는 기술입니다. 보통 지도자들은 빠른 수학 문제를 풀려고 노력합니다. 사고가 날 확률에 사고가 얼마나 심각할지를 곱하는 것이죠. 만약 그 숫자가 작다면, 그들은 "괜찮아!"라고 말합니다. 하지만 만로 그 '나쁜 일'이 당신의 사생활이나 자유를 잃는 것처럼 쉽게 셀 수 없는 것이라면 어떨까요? 거기서부터 까다로워집니다. 만약 인간의 권리에 가격표를 붙일 수 없다면, 어떻게 수학을 할 수 있을까요? 이것이 바로 유럽연합(EU)이 인공지능(AI)에 관한 규칙을 만들려고 시도하며 직면하고 있는 정확한 퍼즐입니다.
독일과 미국의 연구진이 작성한 이 논문은 AI 시스템을 세 가지 바구니, 즉 "금지"(No Go), "고위험"(High Risk), "최소 위험"(Minimal Risk)으로 분류하도록 설계된 거대한 법안인 EU의 새로운 "AI 법(AI Act)"을 깊이 있게 다룹니다. 저자들은 이 법에서 재미있는 긴장 관계를 발견했습니다. 한편으로, 이 법은 위험을 확률 × 심각도라는 수학 방정식처럼 정의합니다. 다른 한쪽에서, 이 법은 존엄성, 사생활, 공정성과 같은 '기본권'을 보호하려 하는데, 이러한 권리들은 대개 특별하고 수치화할 수 없는 가치로 취급됩니다. 당신은 '존엄성'을 달러나 퍼센트로 측정할 수 없습니다. 저자들은 만약 우리가 이 복잡한 인권에 단순한 수학 공식을 강요하려 한다면, 기업들이 시스템을 조작할 수 있다고 제안합니다. 그들은 위험한 로봇을 안전해 보이도록 숫자를 미세하게 조정할 수 있는데, 저자들은 이를 **"위험 해킹(risk hacking)"**이라고 부릅니다.
그렇다면 저자들은 무엇을 제 제안하나요? 그들은 이 문제를 마치 2단계 댄스처럼 바라보는 새로운 방식을 제안합니다. 1단계는 로봇의 목적을 살펴보고 다음과 같이 묻는 것입니다: "그것이 초래할 수 있는 해악이 얼마나 자주 발생하느냐와 상관없이, 기본권을 침해할 만큼 심각한가?" 이것이 그들이 말하는 "심각도 우선(severity-first)" 접근 방식입니다. 이것은 마치 클럽의 보안 요원을 생각하면 쉽습니다. 보안 요원은 싸움이 얼마나 자주 일어나는지에 신경 쓰지 않습니다. 만약 어떤 사람이 수류탄을 들고 있다면(높은 심각도), 그가 지금까지 한 번도 수류탄을 던진 적이 없더라도 즉시 출입을 금지합니다. 2단계는 상황의 "수학"을 살펴보는 것입니다. 해악이 일어날 가능성은 얼마나 되는가? 그리고 그 로봇을 막는 데 드는 비용은 얼마인가?
이 논문은 EU AI 법이 비록 명시적으로 말하지는 않더라도 이미 이 "심각도 우선" 논리를 사용하고 있다고 주장합니다. 예를 들어, 이 법은 특정 AI 활용(직장에서 감정을 읽는 것 등)을 금지하는데, 이는 설령 그 일이 일어날 확률이 낮더라도 사생활에 대한 잠재적 해악이 너무 높기 때문입니다. 저자들은 규제자들이 이 순서를 고수해야 한다고 제안합니다: 먼저 심각도를 확인한 다음, 확률을 걱정하십시오. 만약 우리가 기업들이 스스로 수학을 결정하게 내버려 둔다면, 그들은 "낮은 확률"의 "파괴적인" 사건이 사실은 "낮은 위험"이라고 주장하며 위험한 AI가 빈틈을 타고 빠져나가게 할 수도 있습니다. 해악이 얼마나 나쁠 수 있는지에 먼저 초점을 맞춤으로써, 우리는 기술이 유용하게 성장하도록 허용하면서도 인간의 권리를 보호할 수 있습니다. 이 논문은 모든 수학 문제를 해결했다고 주장하는 것이 아니라, "위험 해킹"을 막고 규칙이 실제로 사람들을 위해 작동하게 만드는 명확한 로드맵을 제공합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.