Distinguishing Task-Specific and General-Purpose AI in Regulation

핵심 요약: "스위스 아미 나이프" vs. "특수 목적 도구"

인공지능(AI)의 세계를 하드웨어 매장이라고 상상해 보세요.

지난 10년 동안 정책 입안자들은 **태스크 특화형 AI(Task-Specific AI)**를 위한 규칙을 작성해 왔습니다. 이것은 특수 목적의 도구와 같습니다. 망치, 드라이버, 또는 토스터기 같은 것이죠. 여러분은 망치가 무엇을 위한 것인지(못을 박는 것) 정확히 알고 있습니다. 토스터기가 무엇을 위한 것인지(빵을 굽는 것)도 정확히 압니다. 이 도구들은 명확한 하나의 직업을 가지고 있기 때문에, 이에 대한 규칙을 만들기가 쉽습니다. 예를 들어, "이 망치는 못을 박을 때 부러지지 않을 만큼 튼튼해야 한다"라거나 "이 토스터기는 빵을 태워서는 안 된다"라고 말할 수 있습니다.

이제 우리는 **범용 AI(General-Purpose AI, GPAI)**를 마주하고 있습니다. 이것은 여러분이 요청하는 방식에 따라 무엇이든 될 수 있는 마법의 스위스 아미 나이프와 같습니다. 그것은 망치가 될 수도, 드라이버가 될 수도, 톱이 될 수도, 이쑤시개가 될 수도, 병따개가 될 수도 있습니다. 단 하나의 직업을 가진 것이 아니라, 거의 모든 것을 할 수 있는 잠재력을 가지고 있습니다.

문제점: 저자들은 정책 입안자들이 이 마법의 스위스 아미 나이프를 규제하기 위해, 자신들이 망치를 위해 만들었던 똑같은 규칙을 사용하려 한다고 주장합니다. 그들은 "망치"의 손잡이가 얼마나 무거운지를 기준으로 망치를 금지하려 하지만, 정작 그 스위스 아리 나이프가 와인 병을 따거나, 자동차를 수리하거나, 밧줄을 자르는 데 사용될 수 있다는 사실은 깨닫지 못하고 있습니다. 기존의 규칙은 이 새로운 도구에 맞지 않습니다.

---

기존의 규칙이 작동하지 않는 네 가지 이유

이 논문은 왜 이 "마법의 스위스 아미 나이프"를 위해 다른 접근 방식이 필요한지에 대한 네 가지 주요 이유를 밝히고 있습니다.

1. 너무 유연해서 규정하기가 어렵다

비유: "무게가 5파운드 이상인 도구는 판매할 수 없다"라는 법을 만드는 상황을 상상해 보세요.

• 망치의 경우: 이것은 작동합니다. 망치의 무게를 측정하면 됩니다. 너무 무거우면 금지하면 됩니다.
• 스위스 아미 나이프의 경우: 이것은 실패합니다. 칼 자체는 가벼울 수 있지만, 만약 누군가 그것을 폭탄을 만드는 데 사용한다면 위험해집니다. 반대로 시계를 수리하는 데 사용한다면 유용할 것입니다. 도구 자체가 문제가 아니라, 그것이 어떻게 사용되는가가 문제입니다.

논문의 주장: GPAI는 수천 가지의 서로 다른 일을 할 수 있도록 적응될 수 있기 때문에, "도구"(모델) 자체를 규제하는 것은 무의 использования입니다. 도구의 크기나 무게만 보고는 그것이 어떤 해를 끼칠지 예측할 수 없습니다. 우리는 그 도구가 수행하도록 요청받은 특정한 작업을 규제해야 합니다.

2. 제대로 테스트할 수 없다

비유: 운전 면허 시험을 상상해 보세요.

• 특수 목적 배달 로봇의 경우: 특정 경로를 주행하도록 테스트합니다. 로봇이 빨간불에 멈추고 연석을 피해야 한다는 것을 알고 있습니다. 쉽게 합격과 불합격을 줄 수 있습니다.
• 스위스 아미 나이프의 경우: 어떻게 테스트해야 할까요? 운전을 시켜야 할까요? 요리를 시켜야 할까요? 시를 쓰게 해야 할까요? 수학 문제를 풀게 해야 할까요?
  • 만약 "요리" 시험을 본다면, 통과할 수도 있습니다. 하지만 그것이 자동차를 사고 낼 것인지에 대해서는 알려주지 않습니다.
  • 만약 "운전" 시험을 본다면, 떨어질 수도 있지만, 그것이 나쁜 시를 쓸 것인지에 대해서는 알려주지 않습니다.

논문의 주장: 현재의 규칙은 AI가 출시되기 전에 "테스트"를 통과할 것을 요구합니다. 하지만 GPAI는 하나의 특정한 직업이 없기 때문에, 이러한 테스트는 오해의 소지가 있습니다. 모델이 이야기 쓰기에 대한 안전 테스트는 통과할 수 있지만, 의료 조언을 생성하는 데 사용될 때는 처참하게 실패할 수 있습니다. "현실 세계"는 도구가 사용될 때마다 변하기 때문에, 테스트는 실제 위험을 반영하지 못합니다.

3. 새로운 법적 악몽을 초래한다

비유: 예전에 벽돌만 만들던 공장이 있다고 상상해 보세요.

• 기존 규칙: 벽돌의 안전, 벽돌 먼지, 벽돌 배송에 관한 법이 있었습니다.
• 새로운 현실: 이제 그 공장은 벽돌뿐만 아니라 가짜 다이아몬드, 가짜 목소리, 가녀한 바이러스도 만듭니다.

논문의 주장: 태스크 특화형 AI는 주로 공정성 문제(예: "이 채용 로봇이 차별을 했는가?")를 일으켰습니다. 하지만 GPAI는 기존의 법이 예상하지 못한 완전히 새롭고 무서운 문제들을 일으킵니다:

• 저작권: 책과 노래를 완벽하게 복제할 수 있습니다.
• 가짜 뉴스: 진짜처럼 들리는 가짜 뉴스 기사를 쓸 수 있습니다.
• 딥페이크: 사람들이 하지 않은 말을 하는 것처럼 영상을 만들 수 있습니다.
• 생물 보안: 악의적인 행위자들이 위험한 바이러스를 설계하는 것을 도울 수 있습니다.

이것들은 "AI 전문가"가 아닌 전혀 다른 전문가들(저작권 변호사나 생물 보안 전문가 등)이 필요한 별개의 법적 문제입니다.

4. 공급망이 엉망이다

비유: 특수 제작된 자동차를 상상해 보세요.

• 기존 방식: 한 회사가 자동차를 만들고, 테스트하고, 판매합니다. 브레이크가 고장 나면 누구에게 책임을 물어야 할지 알 수 있습니다. 바로 그 자동차 회사입니다.
• 새로운 방식: 모듈형 로봇을 상상해 보세요.
  • A 회사가 "두뇌"(GPAI 모델)를 만듭니다.
  • B 회사는 그 두뇌를 가져와 트럭을 운전하도록 가르칩니다.
  • C 회사는 그 트럭을 가져와 배달 서비스로 만듭니다.
  • D 회사는 그 배달 서비스를 이용해 불법 물품을 운송합니다.

논문의 주장: GPAI의 경우, "두뇌"는 거대 기업에 의해 만들어지지만, 이후 수천 명의 다른 사람들이 그것을 수정하고 다양한 용도로 사용합니다. 만약 문제가 발생하면, 누구에게 책임을 물어야 할지 파악하기가 매우 어렵습니다. 두뇌를 만든 사람일까요? 수정한 사람일까요? 아니면 사용한 사람일까요? 기존의 규칙은 한 명의 명확한 소유자를 가정하지만, 새로운 현실은 많은 소유자가 얽힌 복잡한 그물망과 같습니다.

---

세 가지 권고 사항: 해결 방법

저자들은 이 깨진 규칙들을 고치기 위한 세 가지 방법을 제안합니다.

1. "도구"가 아닌 "직업"을 규제하라

비유: 칼이 날카롭다고 해서 "칼"을 금지하는 대신, "사람을 찌르는 행위"를 금지하세요.

• 현재의 접근 방식: "크기가 X보다 큰 AI 모델은 안 된다." (이는 마치 수술용으로 사용되는 칼이라 하더라도 날 길이가 3인치보다 길면 모두 금지하는 것과 같습니다.)
• 새로운 접근 방식: "채용에 사용되는 AI 중 차별을 하는 AI는 안 된다." 또는 "가짜 뉴스를 생성하는 데 사용되는 AI는 안 된다."
• 이유: 이는 도구(칼) 자체보다 해악(찌르는 행위)에 집중합니다. 이를 통해 기술이 선한 목적(수술)으로 사용되는 것은 허용하면서, 악한 목적(범죄)은 막을 수 있습니다.

2. "기술적 사양"은 최후의 수단으로만 사용하라

비유: 자를 사용하여 위험을 측정하는 것은 지름길이지만, 종종 틀릴 수 있습니다.

• 아이디어: 때때로 "컴퓨터가 너무 강력하면 감시해야 한다"라고 말할 필요가 있을 수도 있습니다. 하지만 우리는 다음의 경우에만 이 방법을 써야 합니다:
  1. 도구의 사용을 규제할 수 없을 때 (위험이 너무 크거나 빠를 때).
  2. 위험이 실재하고 증명되었을 때 (단순한 추측이 아닐 때).
  3. 도구를 막는 데 드는 비용보다 그 도구를 막음으로써 얻는 이득이 더 클 때.
• 이유: 만약 우리가 단순히 크기나 속도를 기준으로 도구를 금지한다면, 우리는 실수로 유익한 것들(예: 기후 모델링)을 금지하거나, 작지만 강력한 위험한 것들을 놓칠 수 있습니다.

3. 시스템에 "과속 방지턱"을 설치하라

비유: 모든 나쁜 운전자를 잡으려고 노력하는 대신, 애초에 빠르게 달리기 어렵게 만드는 도로를 만드세요.

• 아이디어: 논문은 전체 "리스크 체인(risk chain)"을 살펴보라고 제안합니다. 과거에는 생물 무기를 만드는 것이 어려웠습니다. 실험실, 비싼 화학 물질, 그리고 박사 학위가 필요했기 때문입니다. 이것들이 "자연적인 과속 방지턱"이었습니다.
• 위협: AI는 이러한 과속 방지턱을 제거할 수 있습니다. 실험실 없이도 노트북 하나로 바이러스를 설계할 수 있게 만들 수 있습니다.
• 해결책: 규제 기관은 새로운 과속 방지턱을 찾아야 합니다. 만약 AI가 "지식"을 얻는 것을 쉽게 만든다면, 아마도 AI를 실행하는 데 필요한 "재료"나 "컴퓨터"를 규제해야 할 수도 있습니다. 우리는 어디에서 장벽이 무너지고 있는지 생태계 전체를 살펴보고 새로운 장벽을 세워야 합니다.

요약

이 논문은 우리가 단순한 망치를 위해 만들어진 규칙을 가지고 마법의 형상 변환 스위스 아미 나이프를 규제하려 한다고 주장합니다. 그 칼은 무엇이든 할 수 있기 때문에, 무게나 크기로 판단할 수 없습니다. 대신 우리는 다음과 같이 해야 합니다:

1. 도구가 수행하는 특정한 직업을 규제한다.
2. 꼭 필요한 경우에만 도구의 사양을 살핀다.
3. 사건이 터진 후 나쁜 행위자를 잡으려 하기보다, 나쁜 일이 일어나는 것을 막기 위해 시스템에 장벽을 구축한다.