Intelligent Cause Prioritisation? An Analysis of AI Policy Priorities and Governance in Africa

세상이 인간보다 더 빠르게 생각하고, 창조하고, 문제를 해결할 수 있는 초강력 엔진을 만들고 있다고 상상해 보세요. 이 엔진의 이름은 인공지능(AI)입니다. 지금 현재, 모든 사람은 이 엔진을 얼마나 빨리 몰아야 할지, 그리고 더 좋은 브레이크를 만들어야 하는지에 대해 논쟁하고 있습니다. 어떤 사람들은 엔진이 통제 불능 상태가 될까 봐 걱정하는 반면, 다른 이들은 이 엔진이 우리를 목적지까지 얼마나 빨리 데려다줄 수 있을지에 대해 흥별떠듭니다. 이 논문은 지도의 특정 부분, 즉 아프리카 대륙을 살펴봅니다. 이 논문은 단순하지만 거대한 질문을 던집니다. 아프리카 국가들이 빈곤이나 의료 시설 부족과 같은 오래된 문제들을 해결하기 위해 이 새로운 엔진을 사용하려고 노력할 때, 그들은 브레이크에도 충분한 주의를 기울이고 있는가? 저자들은 모두가 이 엔진이 놀랍다는 점에는 동의하지만, 이를 안전하게 유지하기 위한 규칙들은 차고에 뒤처져 버릴 수도 있다고 제안합니다.

---

추격 레이스: 아프리카의 AI 모험

세계의 AI 발전을 고속 열차 경주라고 생각해 보세요. 앞서 나가는 국가들은 선로와 엔진을 만들고 있습니다. 아프리카의 많은 국가와 같이 뒤처진 국가들은 따라잡으려 애쓰고 있습니다. 그들은 기차가 쌩 하고 지나가는 것을 보며 이렇게 생각합니다. "와, 우리가 저 기차에 올라타기만 하면, 직접 도로와 다리를 놓는 길고 느린 과정을 건너뛸 수 있겠어!" 이 아이디어를 "리프프로깅(leapfrogging, 단계를 건너뛰는 도약)"이라고 부릅니다. 이는 많은 아프리카 국가들이 유선 전화망을 구축하는 단계를 건너뛰고 바로 모바일 폰으로 넘어갔던 것과 같습니다. 이제 그들은 경제를 개선하고, 의료를 혁신하며, 학생들을 가르치기 위해 AI로 똑같은 일을 하고 싶어 합니다.

하지만 이야기에 반전이 있습니다. 이 논문의 저자들은 아프리카 지도자들이 무엇을 말하고 공식 계획에 기록하고 있는지 살펴보았습니다. 그들은 모두가 기차의 속도에 환호하고 있지만, 정작 안전 장치에 대해서는 말하는 사람이 거의 없다는 것을 발견했습니다.

두 가지 유형의 안전: "지금" 대 "나중"

논문이 발견한 내용을 이해하려면, "안전"을 두 개의 바구니로 나누어야 합니다. 저자들은 이를 **근시적 안전(Proximate Safety)**과 **구조적 안전(Structural Safety)**이라고 부릅니다.

• 근시적 안전은 자동차의 브레이크를 점검하고 당장 보행자를 치지 않도록 확인하는 것과 같습니다. 이것은 '지금 당장' 눈에 보이고 만질 수 있는 문제들입니다. AI의 세계에서 이는 선거를 망치는 가짜 뉴스 영상(딥페이크)을 막거나, 로봇이 즉각적으로 일자리를 뺏는 것을 방지하거나, 해커가 AI를 이용해 은행 계좌를 해킹하는 것을 막는 것을 의미합니다. 논문은 아프리카 정부들이 이러한 문제들에 대해 이야기하고 있다고 언급합니다. 그들은 나쁜 사람들이 거짓 정보를 퍼뜨리거나 데이터를 훔치는 데 AI를 사용하는 것을 막아야 한다는 점을 알고 있습니다.
• 구조적 안전은 전체 도로 시스템이 언젠가 모두에게 백만 달러를 청구할지도 모르는 단일 기업에 의해 건설되는 것에 대해 걱정하거나, 혹은 기차가 너무 빨라서 아무도 조종할 수 없게 되는 상황을 걱정하는 것과 같습니다. 이것은 크고 무서운 장기적인 문제입니다. 여기에는 "만약 가장 똑똑한 AI를 소수의 부유한 국가들이 독점한다면 어떻게 될 것인가?" 또는 "만약 AI가 우리가 눈치채지 못하는 사이에 우리의 민주주의를 해치는 결정을 내리기 시작한다면 어떻게 될 것인가?"와 같은 질문들이 포함됩니다. 논문은 아프리카 정부들이 주로 이 바구니를 무시하고 있다고 주장합니다. 그들은 기차를 움직이게 하는 데 집중하고 있지, 누가 선로를 소유하는지 혹은 기차가 멈출 수 없을 정도로 빨라지면 어떻게 될지에 대해서는 관심을 두지 않고 있습니다.

논문이 실제로 발견한 것

저자들은 단순히 추측한 것이 아니라 탐정 놀이를 했습니다. 그들은 2023년에서 2026년 사이 아프리카 지도자들의 35개 연설, 보도 자료 및 공개 성명을 읽었습니다. 또한 나이지리아, 케냐, 남아프리카 공화국, 에티오피아를 포함한 13개국의 공식 AI 전략 문서와 아프리카 연합의 문서를 살펴보았습니다.

그들이 발견한 내용은 다음과 같습니다.

1. "추격"에 대한 집착: 그들이 읽은 거의 모든 문서는 **발전(development)**에 집착하고 있었습니다. 지도자들은 어디에서나 "AI가 우리를 부자로 만들 것이다!", "AI가 우리 병원을 고칠 것이다!", "AI가 우리를 기술 허브로 만들 것이다!"라고 말하고 있었습니다. 어조는 압도적으로 열광적이었습니다. 이는 마치 친구들이 여행 계획을 세우면서 목적지에서 먹을 아이스크림에 대해서만 이야기하고, 정작 자동차에 안전벨트가 없다는 사실은 무시하고 있는 것과 같았습니다.
2. 안전의 격차: 지도자들이 안전에 대해 이야기할 때조차, 그것은 거의 항상 "근시적"인 문제들(가짜 뉴스, 개인정보 보호, 편향성)에 관한 것이었습니다. 그들은 "구조적"인 문제(권력 집중, 장기적 의존, 또는 통제력을 잃을 위험)에 대해서는 거의 언급하지 않았습니다.
3. "사치"라는 신화: 어떤 이들은 "아프리카는 가난하기 때문에 안전을 걱정할 여유가 없다. 생존에 먼저 집중해야 한다"라고 생각할지도 모릅니다. 논문은 이것이 전부는 아니라고 제안합니다. 물론 국가들은 제한된 돈과 자원을 가지고 있습니다. 하지만 저자들은 큰 안전 위험들이 단지 먼 미래의 문제가 아니라, 바로 지금 쌓여가고 있다고 주장합니다. 장기적인 위험을 무시함으로써, 국가들은 자신들의 기술을 위해 다른 나라에 전적으로 의존하고, 그 기술이 어떻게 작동하는지에 대해 아무런 목소리도 낼 수 없는 불리한 계약에 스스로를 가두게 될 수도 있습니다.

"락인(Lock-in)" 함정

논문은 **"락인(lock-in)"**이라는 영리한 개념을 사용합니다. 집을 짓고 있다고 상상해 보세요. 만약 오늘 특정 유형의 문틀을 사용하기로 결정했다면, 나중에 바꾸기 어렵기 때문에 모든 벽을 그 문틀에 맞춰서 지어야 합니다.

저자들은 아프리카 국가들이 안전에 대해 생각하지 않고 AI 도입을 서두름으로써, 외국 기업과 타국이 만든 규칙에 의존하는 시스템에 "락인"될 수 있다고 제안합니다. 만약 그들이 지금 안전 규칙을 만드는 데 참여하지 않는다면, 결국 자신들의 필요에 맞지 않거나 사람들을 보호하지 못하는 시스템을 갖게 될 수도 있습니다. 이는 마치 누군가에게 당신의 집 보안 시스템을 설계하게 하면서, 그 시스템이 실제로 당신의 가족을 지켜줄 것인지 묻지 않는 것과 같습니다.

결론

논문은 아프리카 정부들이 "예, 우리는 AI를 원합니다!"라고 말하는 데는 훌륭한 역할을 하고 있지만, "예, 우리는 AI를 안전하게 원합니다!"라고는 말하지 않고 있다고 결론짓습니다.

그들은 지도자들이 개발 챔피언(성장에 집중함)이나 전략적 균형가(성장과 안전 둘 다 하려고 노력함)로서 행동하고 있지만, 거버넌스 옹호자(안전과 규칙에 집중함)로서 행동하는 사람은 매우 적다는 것을 발견했습니다. 논문은 이것이 단순한 실수가 아니라 위험한 격차라고 제안합니다. 만약 세계가 아프리카의 의견 없이 AI 규칙을 만든다면, 그 규칙은 아프리카에 작동하지 않을 수 있습니다.

저자들은 아프리카 국가들에게 AI를 사용하지 말라고 말하는 것이 아닙니다. 그들은 만약 빠른 차를 운전하고 싶다면, 가속 페달을 밟기 전에 브레이크를 점검해야 한다고 말하고 있습니다. 그들은 지도자들에게 안전을 나중에 살 수 있는 "사치품"으로 취급하는 것을 멈추고, 여정의 필수적인 부분으로 취급하라고 촉구합니다. 그렇지 않으면, 자신들이 만들지도 않은 도로 위에서, 작동하지 않는 브레이크를 가진 채, 조종할 사람도 없이 질주하게 될 수도 있습니다.