High-Risk AI Systems and the Problem of Identity in the European AI Act
본 논문은 고위험 AI 시스템에 대한 모호한 정체성 판단에 의존하는 유럽의 AI 법안이 의도된 기능과 신뢰성 프로파일을 통해 시스템을 개별화하여 규제 및 거버넌스 맥락에서 공시적 정체성을 위한 감사 가능하고 실행 가능한 표준을 창출하는 '기능+' 프레임워크를 적용함으로써 해결될 수 있다고 주장한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
이 글은 간단한 언어와 일상적인 비유를 사용하여 해당 논문의 내용을 설명합니다.
핵심 문제: 로봇이 언제 '새로운' 로봇이 되는가?
병원이나 국경 검문소 운영을 돕기 위해 매우 똑똑하고 고위험 로봇을 구매한다고 상상해 보세요. 유럽 연합 (EU) 은 이러한 로봇이 작동하기 전에 검사받고 인증을 받아야 한다고 규정하는 새로운 법 (AI 법) 을 제정했습니다.
하지만 까다로운 부분이 있습니다: 로봇은 변합니다. 소프트웨어 업데이트를 받고, 새로운 데이터에서 학습하며, 때로는 설정이 조정되기도 합니다.
이 법은 어려운 질문을 던집니다: 이것은 여전히 같은 로봇입니까, 아니면 새로운 로봇입니까?
- 같은 로봇이라면, 비싼 새로운 검사를 받을 필요가 없습니다.
- 새로운 로봇이라면, 작업을 멈추고 설계도부터 다시 그려서 완전히 새로운 인증서를 받아야 합니다.
이 논문은 현재 법이 이 질문에 답하는 방법에 대해 다소 모호하다고 주장합니다. 저자 안드레아 페라리오는 정체성을 정의하는 '레시피'를 사용하여 이 문제를 바라보는 새로운 방식을 제안합니다.
해결책: '기능+'(Function+) 레시피
이를 해결하기 위해 저자는 **기능+(Function+)**이라는 철학적 개념을 사용합니다. 이는 자동차를 정의하는 것과 같습니다.
- 기술적 기능 (엔진): 이 기계는 무엇을 하도록 만들어졌습니까? (예: "A 에서 B 로 사람을 수송한다")
- 맥락 ('플러스' 부분): 이 기계는 현실 세계에서 어떻게 행동해야 합니까? (예: "충돌해서는 안 되며, 모든 승객에게 공정해야 하고, 왼쪽으로 회전한 이유를 투명하게 설명해야 한다")
- 신뢰 점수 (레벨): 현재 실제로 잘 수행하고 있습니까? (예: "95% 안전하고 90% 공정하다")
이 논문은 AI 시스템이 엔진, 규칙, 그리고 신뢰 점수가 일관되게 유지될 때만 '같은' 것으로 간주된다고 말합니다.
논문에서 제시된 두 가지 실제 이야기
저자는 이 문제가 왜 중요한지 보여주기 위해 두 가지 이야기를 사용합니다:
이야기 1: 병원 분류 로봇 (시간 여행)
한 병원은 어떤 환자가 응급 처치가 가장 필요한지 결정하기 위해 AI 를 사용합니다.
- 변화: 새로운 바이러스가 유행합니다. 병원은 AI 를 업데이트하여 노인 환자를 더 잘 처리하도록 하고, 결정 내린 이유를 설명하는 기능을 추가합니다.
- 갈등: 의사는 "그냥 업데이트된 같은 로봇이다"라고 말합니다. AI 회사는 "같은 로봇이다"라고 주장합니다. 하지만 간호사들은 "아니요! 지금은 다르게 생각합니다. 이건 다른 로봇입니다!"라고 말합니다.
- 논문의 견해: AI 의 '신뢰 점수'(자신을 얼마나 잘 설명하고 환자를 공정하게 대우하는지) 가 떨어지거나 핵심 규칙이 변경되면, 법적으로 그것은 새로운 로봇입니다. 새로운 인증서가 필요합니다. 만약 법이 이를 측정할 명확한 방법을 제공하지 않는다면, 로봇이 실수를 했을 때 누가 책임져야 하는지 아무도 모르게 됩니다.
이야기 2: 공항 얼굴 스캐너 (쌍둥이 역설)
두 공항이 같은 회사에서 얼굴 스캐닝 로봇을 구매하고 싶어 합니다.
- 상황: 공항 A 는 '로봇 X'(매우 빠르고 비쌈) 를 구매합니다. 공항 B 는 '로봇 Y'(약간 느리고 저렴함) 를 구매합니다. 둘은 외관이 같고 같은 일을 합니다.
- 갈등: 회사는 "로봇 X 가 더 빠르므로 더 좋습니다. 다른 제품이므로 더 많은 비용을 지불해야 합니다"라고 말합니다. 공항 관리들은 "아니요, 둘은 정확히 같은 일을 합니다. 우리가 필요로 하지 않는 속도에 대해 추가 비용을 청구하는 것입니다"라고 말합니다.
- 논문의 견해: 현재 법은 "이 두 로봇이 같은 것입니까?"라고 명확히 판단할 테스트를 제공하지 않습니다. 저자는 다음과 같이 확인해야 한다고 제안합니다: 둘의 신뢰 점수가 같습니까? 둘이 동등하게 안전하고 공정하다면, 사소한 속도 차이와 관계없이 법적으로 같은 로봇으로 취급되어야 합니다.
저자의 주요 주장 두 가지
주장 1: 법에는 이미 '시간 기계'(시간적 정체성) 가 있다
이 논문은 EU AI 법이 시간 경과에 따른 변화를 처리할 방법이 이미 있지만, 규칙 속에 숨어 있다고 말합니다.
- 규칙: 로봇을 너무 많이 변경하여 규칙을 위반하거나 업무를 변경하면, 이는 '중대한 수정'으로 간주됩니다.
- 해결책: 저자는 이를 더 명확하게 만들기 위해 기능+ 레시피를 사용할 것을 제안합니다. 로봇이 시작되었을 때의 '신뢰 점수'를 정확히 기록해야 하며, 나중에 그 점수가 너무 낮아지면 그것이 새로운 로봇임을 알 수 있어야 합니다.
주장 2: 법에는 '거울'(공시적 정체성) 이 빠져있다
이 논문은 법이 동일한 시간에 두 로봇을 비교하는 방법에 대해서는 침묵하고 있다고 말합니다.
- 공백: 공항 A 와 공항 B 가 서로 다른 두 로봇을 가지고 있다면, 법은 "이들이 법적으로 같은 것입니까?"라고 말해줄 체크리스트를 제공하지 않습니다.
- 해결책: 저자는 간단한 감사 흐름도(보안 요원을 위한 체크리스트와 유사) 를 제안합니다:
- 같은 직무 설명을 가지고 있습니까? (의도된 목적)
- 같은 규칙집을 가지고 있습니까? (신뢰성 프로파일)
- 현재 같은 성적표를 가지고 있습니까? (신뢰성 수준)
- 세 가지 모두 YES라면: 그들은 같은 로봇입니다.
- 하나라도 NO라면: 그들은 다른 로봇입니다.
제안 사항: 이를 어떻게 해결할 것인가
저자는 이를 현실 세계에서 작동하게 하기 위해 두 가지 실용적인 단계를 제안합니다:
- 구체적인 업무 명시: 단순히 "이 AI 는 의사를 돕는다"라고 말하지 마세요. 대신 "이 AI 는 의사가 환자의 응급도에 따라 분류하는 것을 돕지만, 암을 진단하는 것은 허용되지 않는다"라고 명시하세요. 이렇게 하면 AI 가 자신이 아닌 것처럼 가장하는 것을 방지할 수 있습니다.
- 성적표 표준화: 각 회사가 '안전'이나 '공정성'을 측정하는 방식을 임의로 정하는 대신, 표준 템플릿이 필요합니다. 모든 자동차가 정확히 같은 방식으로 계산된 '안전 별 등급'(예: 5 점 만점) 을 보여줘야 한다고 상상해 보세요. AI 의 등급이 5 점에서 3 점으로 떨어지면, 새로운 검사가 필요한 시점임을 알 수 있습니다.
요약
이 논문은 AI 를 공정하게 규제하기 위해서는 로봇이 '같은' 것인지 '새로운' 것인지 추측하는 것을 멈추고, 그 목적, 규칙, 그리고 성능을 측정할 명확하고 수학적인 방법이 필요하다고 주장합니다. 이러한 요소들이 변경되면 법은 이를 새로운 로봇으로 취급해야 합니다. 이는 문제가 발생했을 때 누가 책임져야 하는지 파악하기 쉽게 만들고, 본질적으로 동일한 로봇에 대해 회사가 추가 비용을 청구하는 것을 막아줍니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.