Governance in an Institutional Environment Reconfigured by Artificial Intelligence. A Public Choice Institutionalism Perspective

인공지능을 통제하는 것에 대해 생각할 때, 우리의 대화는 종종 기계 그 자체에 집중됩니다. 우리는 어떻게 하면 이를 안전하게 구축할 수 있을지, 어떻게 하면 코드가 오작동하지 않게 할 수 있을지, 그리고 어떻게 하면 그 결정이 인간의 가치와 일치하도록 보장할 수 있을지를 묻습니다. 이것은 자동차의 엔진이 원활하게 작동하는지 확인하는 것과 같습니다. 하지만 종종 간과되는 훨씬 더 크고 심오한 질문이 있습니다. 그것은 단지 기계에 관한 것이 아니라, 그 기계가 변화시키고 있는 세상에 관한 것입니다. 인공지능이 확산됨에 따라, 그것은 단순히 기존의 법과 조직 옆에 나란히 놓여 있는 것이 아니라, 그것들을 능동적으로 재편합니다. 인공지능은 우리가 규칙을 만드는 방식, 책임을 할당하는 방식, 그리고 사회를 조직하는 방식을 재고하도록 강요합니다. 과제는 더 이상 도구를 고치는 것이 아닙니다. 그것은 노동, 권위, 그리고 의사결정의 본질 자체가 실시간으로 다시 쓰이고 있는, 발밑에서 요동치며 변하는 지형을 항해하는 일입니다.

이것이 조지 메이슨 대학교의 연구원인 폴 드라고스 알리가(Paul Dragos Aligica)가 다루는 핵심적인 수수께끼입니다. 그는 이 새로운 현실을 이해하기 위해서, 인공지능을 단일한 권위가 해결해야 할 단일한 문제로 보는 것을 멈춰야 한다고 주장합니다. 대신, 그는 인공지능을 많은 서로 다른 집단, 규칙, 그리고 결정들이 상호작용하는 복잡한 생태계로 볼 것을 제안합니다. 이 논문은 이 변화하는 세상을 관리하는 최선의 방법은 '다중심성(polycentricity)'이라는 개념을 통한 것이라고 제안합니다. 쉽게 말해, 이는 하나의 단일한 상사나 정부가 위에서부터 모든 것을 통제하려 하는 것이 아니라, 여러 개의 중심적인 힘이 나란히 존재하며 각자 자신의 규칙과 결정을 내리는 시스템을 의미합니다. 알리가는 사람들이 서로 다른 이해관사들을 가질 때 어떻게 선택을 하는지에 대한 연구와, 중앙의 지휘관 없이도 복잡한 시스템이 어떻게 스스로를 조직하는지에 대한 연구라는 두 가지 강력한 아이디어를 결합하여 이 논거를 구축합니다.

논문은 두 가지 서로 다른 종류의 문제를 구분하며 시작합니다. 첫 번째는 '좁은' 문제입니다. 즉, 인공지능라는 인공물(artifact) 자체를 어떻게 통제할 것인가 하는 것입니다. 여기에는 프로그래밍, 모니터링, 그리고 시스템이 의도한 대로 작동하도록 보장하는 기술적인 작업이 포함됩니다. 두 번째는 '넓은' 문제입니다. 즉, 기술이 변화시키고 있는 전체 제도적 환경을 어떻게 통제할 것인가 하는 것입니다. 알리가는 넓은 문제가 진정으로 중요한 문제라고 강조합니다. 인공지능이 사회에 들어올 때, 그것은 연쇄 반응을 일으킵니다. 그것은 분업을 변화시킵로, 즉 인간이 하던 일부 과업을 이제는 기계가 수행하게 하고, 인간은 새롭고 다른 역할을 맡게 합니다. 이러한 변화는 단순한 교체가 아닙니다. 그것은 규칙의 체계 전체로 파급되는 효과의 폭포를 만들어냅니다.

이 파급 효과가 어떻게 작동하는지 이해하기 위해, 이 논문은 경제학자들이 분업을 연구하는 방식과 유사한 논리를 사용합니다. 새로운 기계가 도입된 공장을 상상해 보십시오. 처음에는 기계가 반복적이고 대량의 과업을 맡습니다. 하지만 이는 인간 노동자들이 하는 일을 바꾸도록 강요합니다. 노동자들은 일상적인 업무를 그만두고 예외적인 경우, 어려운 사례, 또는 기계에 대한 감독에 집중하기 시작할 수 있습니다. 이러한 인간 역할의 변화는 새로운 규칙, 새로운 관리자, 그리고 새로운 분쟁 해결 방식에 대한 필요성을 창출합니다. 논문은 이를 '폭포(cascade)'라고 설명합니다. 특정 과업에 인공지능을 사용하기로 한 단 하나의 결정이 결국 사회가 의사결정을 내리는 방식을 규정하는 최고 수준의 규칙들을 다시 쓰도록 강요할 수 있습니다. 이는 특정 과업의 일상적인 운영에서부터, 그 과업을 수행할 권한을 누가 갖는지를 결정하는 규칙으로, 그리고 마지막으로 규칙 자체를 바꿀 권리가 누구에게 있는지를 결정하는 헌법적 수준까지 이동합니다.

이 폭포가 시스템을 타고 올라감에 따라, 정치학자들이 수십 년 동안 연구해 온 익숙한 인간의 행동들을 활성화합니다. 새로운 역할과 권한이 생겨날 때, 사람들과 조직들은 그것을 자신들의 이익을 위해 차지하려고 노력할 것입니다. 이는 집단들이 가치를 창창출하기보다는 새로운 규칙으로부터 이득을 취하기 위해 에너지를 소비하는 '지대 추구(rent-seeking)'로 이어집니다. 또한, 기술을 관리해야 할 사람들이 오히려 자신들이 규제해야 할 바로 그 기업들에 의존하게 되는 '규제 포획(regulatory capture)'으로 이어집니다. 또한, 책임 있는 사람들이 기계나 이를 관리하기 위해 구축된 새로운 관료제가 내리는 복잡하고 불투명한 결정을 효과적으로 감시할 수 없게 되는 '대리인 손실(agency loss)'을 초래하기도 합니다. 논문은 이러한 현상들이 사고가 아니라, 사회 구조가 변할 때 발생하는 필연적인 결과라고 주장합니다.

이러한 복잡성을 고려하여, 논문은 이 새로운 세상을 어떻게 통제할 것인가에 대한 두 가지 주요 비전을 평가합니다. 첫 번째는 '단일 중심적(monocentric)' 비전입니다. 이것은 단일한 중앙 권위, 즉 전 세계적인 규제 기관이나 통합된 조약가 모든 이에게 하나의 규칙 세트를 설정한다는 아이디어입니다. 이것은 질서와 명확한 책임 소재, 그리고 문제가 발생했을 때 손가락질할 수 있는 단일한 대상을 제공한다는 점에서 매력적인 아이디어입니다. 그러나 알리가는 이 접근 방식이 비현실적이며 위험하다고 주장합니다. 이 방식은 단일한 중심지가 단일 정부가 대응할 수 있는 속도보다 더 빠르게 변하는 기술을 관리할 수 있을 만큼 충분히 알 것이라고 가정합니다. 또한, 모든 권력을 한곳에 집중시켜 가장 강력한 기업이나 국가가 자신의 이익을 위해 전체 시스템을 쉽게 탈취할 수 있게 만듭니다. 더욱이, 단일한 규칙 세트는 서로 다른 문화와 사회에 존재하는 깊은 가치와 필요의 차이를 결코 다 담아낼 수 없습니다.

그 대안이자 논문이 옹호하는 것은 '다중 중심적(polycentric)' 비전입니다. 이것은 혼란스러운 무법지대가 아니라, 여러 개의 서로 다른 결정 중심지들이 동시에 작동하는 구조화된 시스템입니다. 이 시스템에서는 서로 다른 도시, 지역, 기업, 그리고 조직들이 인공지능을 통제하는 다양한 접근 방식을 시도할 수 있습니다. 어떤 곳은 속도를 우선시할 것이고, 어떤 곳은 안전을, 또 어떤 곳은 프라이버시를 우선시할 것입니다. 이러한 서로 다른 중심지들은 서로 경쟁하고 서로로부터 배웁니다. 만약 한 가지 접근 방식이 실패한다면, 전체 시스템을 무너뜨리지 않고도 그것을 폐기할 수 있습니다. 만약 한 가지 접근 방식이 효과적이라면, 다른 곳에서도 이를 채택할 수 있습니다. 결정적으로, 이 시스템은 '상호 운용성(interoperability)'에 의존합니다. 이는 서로 다른 중심지들이 서로 다른 규칙을 가지고 있더라도, 공유된 표준과 합의를 통해 서로 소통하고 협력할 수 있음을 의미합니다. 이것은 마치 모든 것을 다스리는 단 한 명의 왕을 필요로 하지 않으면서도, 서로 거래하고 서로의 법을 존중하는 독립적인 마을들의 네트워크와 같습니다.

논문은 이러한 다중 중심적 접근 방식이 단지 이론적인 이상이 아니라, 이미 나타나고 있는 현실이라고 강력하게 주장합니다. 세상은 인공지능을 위한 단일한 세계 정부를 향해 움직이는 것이 아니라, 이미 서로 다른 규칙과 표준의 패치워크(patchwork)를 향해 움직이고 있습니다. 이러한 현실에 단일한 하향식 솔루션을 강요하려는 시도는 실수일 것입니다. 대신, 목표는 이 진화하는 과정을 조종하는 것이어야 합니다. 논문은 우리가 완벽한 시스템을 처음부터 설계하여 설치할 수 없음을 강조합니다. 시스템은 너무나 복잡하고 변화는 너무나 빠릅니다. 대신, 우리는 정원사나 항해사처럼 행동해야 합니다. 우리는 좋은 해결책이 자라나고 나쁜 것들이 뽑혀 나갈 수 있는 조건을 만들 수 있습니다. 우리는 서로 다른 집단이 협력할 수 있도록 다리를 건설할 수 있고, 새로운 아이디어가 테스트될 수 있는 공간을 보호할 수 있습니다.

궁극적으로, 논문은 인공지한 미래를 통제하기 위한 완벽한 기계를 만드는 것이 아니라, 미래가 펼쳐짐에 따라 배우고 적응할 수 있는 회복력 있는 시스템을 경작하는 것이 최선이라고 결론짓습니다. 우리는 미래를 예측할 수 없으며, 모든 세부 사항을 통제하려고 해서도 안 됩니다. 대신, 실험, 학습, 그리고 적응을 허용하는 유연한 프레임워크를 구축하는 데 집중해야 합니다. 다중 중심적 접근 방식을 수용함으로써, 우리는 다양한 인간의 사고와 서로 다른 관할 구역 간의 경쟁 압력을 활용하여 작동하는 해결책을 찾아낼 수 있습니다. 우리는 단일한 집단이 모든 권력을 쥐지 못하게 함으로써 지대 추구와 포획의 위험을 관리할 수 있습니다. 그리고 우리의 규칙이 멀리 떨어진 중심지로부터 강요되는 것이 아니라, 영향을 받는 사람들에 의해 형성되도록 함으로써 규칙의 정당성을 유지할 수 있습니다. 앞으로 나아갈 길은 미래를 통제하기 위한 완벽한 기계를 만드는 것이 아니라, 미래가 펼쳐지는 과정 속에서 배우고 적응할 수 있는 회복력 있는 시스템을 경작하는 것입니다.