The Universality Myth: Epistemic Exclusion, Structural Power, and AI Governance in the Global South
이 논문은 주요 AI 거버넌스 프레임워크의 주장된 보편성이 인식론적 배제의 구조적 메커니즘을 은폐하는 이데올로기적 신화라고 논하며, 여기서 글로벌 사우스(Global South)의 인구 집단은 AI 시스템에 이의를 제기하는 데 필요한 '논쟁 리터러시(contestation literacy)'가 결여되어 있으며, 이는 개념적 자원 박탈, 왜곡된 사회기술적 상상력, 그리고 관료적 구조적 장벽의 결합을 통해 배포자의 권력을 강화한다고 주장한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능이 어떻게 구축되고 통제되는지에 대한 규칙이 대부분의 사람들이 읽을 수 없는 언어로 쓰여 있는 세상을 상상해 보십시오. 세계 지도자들과 주요 기구들은 종종 이 규칙들이 인류와 지구를 보호하기 위해 설계되었으며, 모두에게, 어디에서나 적용된다고 주장합니다. 그들은 모든 국가를 안내해야 할 보편적 원칙에 대해 이야기합니다. 하지만 자세히 들여다보면 다른 현실이 드러납니다. 많은 공동체, 특히 이러한 기술의 생성 과정에서 역사적으로 소외되었던 지역을 일컫는 '글로벌 사우스(Global South)'의 사람들에게 이 규칙들은 따르기 어려울 뿐만 아니라, 보이지 않는 존재입니다. 이 시스템 아래에서 살아가는 사람들은 인공지능 시스템이 자신의 삶에 관한 결정을 내리고 있다는 사실을 인식할 기본적인 도구조차 갖추지 못하고 있으며, 그 결정에 이의를 제기할 능력은 더더욱 없습니다. 이것은 단순히 더 많은 교육이나 더 나은 인터넷 접속이 필요한 문제가 아닙니다. 이는 이러한 시스템을 이해하고 도전하는 데 필요한 개념 자체가 공적 담론에서 누락되어 있는 구조적 격차의 문제입니다.
이 격차는 RV 대학교의 연구자 아물랴 N(Amulya N)과 아슈위니 프라사드 S(Ashwini Prasad S)가 조사하고자 했던 핵심 내용입니다. 그들은 '보편적' AI 거버넌스라는 개념이 실제로는 권력을 가진 자들을 돕는 환상이라고 주장합니다. 저자들은 기술 기업과 정부가 사람들에게 AI 제품을 사용하는 법, 즉 스크롤하고, 클릭하고, 상호작용하는 법을 가르치는 데 몰두하는 동안, 그들을 어떻게 통치(govern)할 것인지는 가르치지 않는다고 지적합니다. 도구를 사용하는 법을 아는 것과 그 도구의 제작자에게 책임을 묻는 법을 아는 것 사이에는 중대한 차이가 있습니다. 논문은 '경합 가능성(contestability)'—즉, 시스템을 질문하고 규제할 수 있는 대상으로 보는 능력—의 결여가 우연이 아니라고 단언합니다. 그것은 권력이 작동하는 방식의 기능적인 일부입니다. 사람들이 시스템을 볼 수 없을 때, 그들은 시스템에 도전할 수 없으며, 이를 구축하는 기업들은 변화해야 한다는 압박을 받지 않게 됩니다.
이 현상을 이해하기 위해 연구자들은 인도와 사하라 이남 아프리카라는 매우 다른 두 곳을 살펴보았습니다. 이 지역들을 선택한 이유는 이 문제가 특정 국가나 특정 유형의 정부에 국한된 것이 아님을 보여주기 위해서입니다. 강력한 자체 기술 산업과 거대한 정부를 보유한 인도에서 문제는 내부로부터 발생합니다. 정부는 중대한 데이터 보호법을 통과시켰지만, 의회에서의 토론은 약 2시간 동안만 지속되었으며, 최종 법안에는 국가 자체에 대한 광범위한 면제 조항이 포함되었습니다. 인공지능의 세부 사항을 거의 알지 못하는 대중은 더 나은 안전장치를 요구할 어휘나 정치적 압력을 갖추지 못했습니다. 그 결과, 서류상으로는 보호적인 것처럼 보이지만 평범한 시민들에게는 실질적인 보호를 거의 제공하지 못하는 법안이 만들어졌습니다. 사하라 이남 아프리카의 경우, 문제는 외부로부터 옵니다. 그곳의 국가들은 유럽이나 미국의 AI 시스템과 거버넌스 규칙을 채택하고 있지만, 이를 집행하는 데 필요한 현지의 제도나 전문 지식 없이 채택하는 경우가 많습니다. 그들은 이 규칙들이 보편적이라고 듣지만, 서로 다른 사회를 위해 설계되었기 때문에 현지 인구를 보호하는 데 실패하는 경우가 많으며, 결국 자신들이 감사하거나 이해할 수 없는 시스템의 대상이 됩니다.
연구자들은 이러한 '보이지 않음'이 두 가지 주요 힘에 의해 유지된다는 것을 발견했습니다. 첫째, 인식의 부재입니다. 많은 이들은 AI가 자신의 대출, 복지 혜택, 또는 안전에 관한 결정을 내리고 있다는 사실을 전혀 모릅니다. 둘째, 사람들이 AI에 대해 알고 있더라도 실질적인 위험을 은폐하는 특정한 이야기들을 통해서만 접하게 되는 일종의 오정보(misinformation)가 존재합니다. 어떤 이들은 AI가 모든 개발 문제를 해결할 마법 같은 해결책이라고 듣고, 다른 이들은 공상 과학 영화 속 로봇의 역습을 두려워하라는 말을 듣습니다. 이러한 이야기들은 현재 일어나고 있는 실제적이고 조용한 해악들, 즉 차별하는 알고요리즘, 도난당하는 데이터, 그리고 현지의 동의 없이 구축되는 인프라로부터 사람들의 관심을 돌립니다. 논문은 이러한 이야기들이 단순한 오해가 아니라, 사람들이 올바른 질문을 던지지 못하게 만드는 구조적 특징이라고 주장합니다.
이 연구의 가장 놀라운 발견 중 하나는 이러한 맹목성이 이러한 시스템을 구동하는 데이터 센터의 건설을 승인하는 정부 관료들에게까지 확장된다는 점입니다. 인도의 경우, 단 하나의 데이터 센터가 다양한 정부 기관으로부터 최대 30개의 허가를 받아야 할 수도 있습니다. 한 공무원이 건축 허가나 전기 연결을 승인할 때, 그 건물이 인공지능 시스템을 위한 데이터 센터라는 사실을 전혀 모를 수도 있습니다. 서류에는 그 정보가 요청되지 않으며, 공무원의 직무 기술서에는 AI의 광범적인 영향력을 이해하는 내용이 포함되어 있지 않습니다. 그들은 부패한 것이 아니라, 단지 알지 못할 뿐입니다. 그들은 거대한 거버넌스 시스템을 지원하면서도 정작 그 존재에 대해서는 완전히 눈이 먼 상태로 존재합니다. 이는 책임져야 할 사람들이 오히려 시민들이 겪는 것과 마찬가지로 지식으로부터 소외되어 있는 상황을 만듭니다.
이 연구는 해결책이 단순히 더 많은 사람에게 기술을 가르치는 것이라는 일반적인 믿음에 도전합니다. 저자들은 사람들이 나쁜 시스템을 막을 법적 권한이 없거나, 법 자체가 권력자들을 면제하도록 작성되어 있다면, 사람들에게 AI 사용법을 가르치는 것만으로는 문제를 해결할 수 없다고 주장합니다. 대화에 더 많은 목소리를 추가하는 것은, 그 목소리들이 말할 수 없는 언어로 대화가 진행되고 있거나, 대화의 규칙이 듣지 않아도 되는 사람들에 의해 설정되어 있다면 아무런 도움이 되지 않습니다. 논문은 보편적 AI 거버넌스라는 주장이 시스템을 구축하고 배치하는 이들의 이익을 대변하는 신화라고 결론짓습니다. 이는 그들이 글로벌 표준을 따르고 있다고 주장하면서도, 실제로 그 표준이 준수되고 있는지 확인할 수 없는 공간에서 운영할 수 있게 해줍니다. 이 시스템 아래에서 살아가는 사람들이 거울의 실체를 볼 수 있는 개념적 도구를 갖추기 전까지, 인공지능의 미래를 형성할 권한은 여전히 그들의 손에 닿지 않는 곳에 머물 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.