AI Governance Under Political Constraints: The Case for Ex Post Liability
이 논문은 사후 엄격 책임이 사전 규제들을 괴롭히는 포획 및 합의 실패를 피하면서도 보완적 도구들을 분류하고 민사 책임을 약화시키려는 시도들을 평가할 수 있는 틀을 제공하기 때문에, 정치적 제약 하에서 가장 강력한 AI 거버넌스 수단이라고 주장한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능은 그것을 안내하기 위해 만들어진 규칙들보다 더 빠르게 움직이고 있습니다. 이러한 시스템이 점점 더 강력해짐에 따라, 의학 및 과학 분야의 어려운 문제들을 해결할 것을 약속하지만, 광범위한 사기부터 핵심적인 기계에 대한 인간의 통제력 상실에 이르기까지 심각한 해를 끼칠 수 있는 잠재력도 함께 안고 있습니다. 전 세계 정부들은 이 힘이 피해를 입히기 전에 이를 어떻게 관리할지 결정하기 위해 노력하고 있습니다. 핵심 질문은 단순히 어떤 규칙을 쓸 것인가가 아니라, 어떻게 실제로 작동하는 방식으로 규칙을 쓸 것인가입니다. 문제는 아무도 이 시스템들이 정확히 얼마나 위험한지에 대해 동의하지 않으며, 이를 만드는 사람들은 일반 대중보다 정치인들에게 훨씬 더 많은 영향력을 행사한다는 점입니다. 이러한 불균형은 기업들이 기술을 출시하기 전에 안전함을 증명하도록 요구하는 엄격한 법안을 통과시키는 것을 어렵게 만듭니다. 왜냐하면 정치인들은 "안전"이 무엇을 의미하는지, 혹은 어느 정도의 위험이 허용 가능한지에 대해 합의할 수 없기 때문입니다.
휴스턴 대학교의 연구원인 가브리엘 웨일(Gabriel Weil)의 새로운 논문은 이러한 불확실성을 다루는 가장 좋은 방법은 미래를 예측하려고 노력하는 대신 과거에 대해 비용을 지불하는 것이라고 주장합니다. 기업들이 새로운 인공지능을 구축하거나 출시하기 전에 정부의 승인을 받도록 강제하는 대신, 이 논문은 기업들이 자신들의 기술이 실제로 초래한 모든 해악에 대해 재정적 책임을 지는 시스템을 제안합니다. "사후 책임(ex post liability)"이라고 알려진 이 접근 방식은 안전의 부담을 개발자 자신에게 넘깁니다. 만약 기술이 잘 작동하고 아무런 문제가 없다면 기업은 아무것도 지불하지 않습니다. 만약 재앙을 일으킨다면, 그들은 피해에 대해 지불해야 합니다. 웨일의 분석은 이 방법이 미래를 예측하려는 시도보다 정치적 압력에 더 강하고, 기술의 미지의 특성에 더 적합하다고 시사합니다.
논문은 먼저 왜 기존의 규제 방식들이 인공지능의 세계에서는 실패할 가능성이 높은지 설명하며 시작합니다. 일반적으로 정부는 규칙을 설정하거나, 면허를 요구하거나, 기업이 만들어내는 위험에 대해 세금을 부과함으로써 위험을 관리하려고 합니다. 예를 들어, 정부는 기업이 시스템을 사용하기 전에 안전함을 증명해야 한다고 말하거나, 시스템이 사용하는 컴퓨팅 파워의 양에 따라 세금을 부과할 수 있습니다. 그러나 이러한 방법들은 기술이 얼마나 위험한지에 대한 명확한 합의를 필요로 합니다. 세율이나 안전 규칙을 설정하려면, 정치인들은 먼저 정확히 어느 정도의 피해를 예상할지 결정해야 합니다. 웨일은 전문가들이 이 문제에 대해 합의하지 못하고 있다는 점을 지적합니다. 어떤 이들은 대재앙의 위험이 거의 확실하다고 믿는 반면, 다른 이들은 그것이 무시할 만한 수준이라고 생각합니다. 기술이 너무 새롭고 복잡하기 때문에, 이 논쟁을 해결할 확고한 데이터가 없습니다. 위험에 대한 공유된 이해 없이는, 정치인들이 설정한 어떤 규칙이나 세금도 재앙을 막기에는 너무 약하거나, 혹은 모든 진보를 멈출 정도로 지나치게 엄격할 것입니다.
나아가, 이 논문은 정치 과정 자체가 효과적인 규제에 불리하게 왜곡되어 있다고 주장합니다. 인공지능 시스템의 실수로 인해 고통받을 사람들은 일반 대중이지만, 이들은 흩어져 있고 조직화되어 있지 않습니다. 이러한 시스템을 만드는 기업들은 수는 적지만 부유하며, 자신들의 이익을 보호하려는 동기가 매우 강합니다. 정치 체제에서 조직된 집단은 대개 분산된 대중보다 더 많은 영향력을 가집니다. 만약 정부가 엄격한 규칙을 세우려 한다면, 이 기업들은 규칙을 약화시키거나 우회하기 쉽게 만들기 위해 로비를 할 수 있습니다. 또한 그들은 기술적 전문성을 이용해 규제 당국을 혼란스럽게 할 수 있는데, 규제 당국은 종로 기술이 어떻게 작동하는지 설명하는 데 있어 기업 자체에 의존하는 경우가 많기 때문입니다. 이는 결국 규칙이 대중이 아닌 기업을 보호하는 상황을 만듭니다.
웨일은 기업들에게 그들이 초래한 실제 해악에 대해 책임을 묻는 것이 이러한 정치적 함정을 피하는 방법이라고 제안합니다. 엄격한 책임 제도 하에서, 기업은 시스템을 구축하기 위해 허가를 받을 필요도 없고, 정부와 특정 위험 수준에 합의할 필요도 없습니다. 대신, 기업은 자신의 시스템이 누군가에게 해를 끼친다면 반드시 비용을 지불해야 한다는 것을 단순히 알게 됩니다. 이는 기술이 정확히 얼마나 위험한지 아무도 모를 때도 잘 작동합니다. 만약 기술이 안전한 것으로 판명되면 기업은 아무것도 지불하지 않습니다. 만약 위험한 것으로 판명되면, 기업은 피해를 보상해야 합니다. 이는 기업이 스스로 시스템을 안전하게 만드는 방법을 찾아내도록 강력한 동기를 부여하는데, 왜냐하면 문제가 생겼을 때 비용을 감당해야 하는 주체가 바로 그들이기 때문입니다.
논문은 또한 흔한 우려 사항을 다룹니다. 만약 재앙이 너무 커서 기업이 감당할 수 없다면 어떻게 할 것인가 하는 문제입니다. 단일 기업이 감당할 수 없을 정도로 큰 피해가 발생하는 경우, 저자는 징벌적 손해배상을 사용할 것을 제안합니다. 이는 기업이 비록 아직 대재앙이 발생하지 않았더라도, 대재앙으로 이어질 수 있는 위험을 감수한다면 막대한 벌금을 물릴 수 있음을 의미합니다. 이 벌금은 단순히 발생한 실제 피해가 아니라, 그들이 만들어낸 잠재적 위험을 기준으로 계산될 것입니다. 이는 기업들이 설령 들키지 않을 것이라고 생각하더라도, 가장 큰 위험들에 대해 주의를 기울여야 할 이유를 보장합니다. 작은 사고들에 대해 기업이 지불할 돈이 부족한 문제를 해결하기 위해, 논문은 기업들에게 보험 가입을 요구할 것을 제안합니다. 그러면 보험사가 민간 규제 기관으로서 역할을 하며, 시스템의 안전성을 점검하고 더 위험한 시스템에 대해서는 더 높은 가격을 책정하게 될 것입니다.
저자는 현재 논의되고 있는 다른 아이디어들, 예를 들어 기업들에게 특정 정부 규칙을 준수할 경우 "세이프 하버(safe harbor)"나 소송 면책권을 주는 방식과 이 접근 방식을 대조합니다. 논문은 이것이 나쁜 거래라고 주장합니다. 만약 기업이 단순히 체크리스트를 따랐다는 이유만으로 피해에 대한 책임을 피할 수 있다면, 그들은 시스템을 진정으로 안전하게 만들기 위해 최소한의 요구 사항 이상을 수행할 이유가 줄어들기 때문입니다. 또한 논문은 미국의 최근 입법 제안들과 유럽의 사례를 살펴보며, 이들이 책임을 규제로 맞바꾸려 한다고 지적합니다. 웨일은 이러한 제안들 중 어느 것도 좋은 가치를 제공하지 못한다고 봅니다. 그것들은 사람들을 안전하게 지키기 위한 충분한 대안을 제공하지 못한 채, 기업의 책임을 약화시키는 경향이 있습니다.
논문은 결론적으로 투명성 요구 사항이나 안전 연구와 같은 다른 도구들도 유용하지만, 그것들은 책임 제도를 대체하는 것이 아니라 지원하는 역할을 해야 한다고 밝힙니다. 인공지능을 통치하는 가장 효과적인 방법은 시장과 법원이 위험을 분류하는 작업을 하도록 두는 것입니다. 개발자들이 자신들이 초래한 해악에 대해 비용을 지불하게 함으로써, 시스템은 그들이 실수의 비용을 내부화하도록 강제합니다. 이 접근 방식은 정치인들이 미래에 대해 합의할 것을 요구하지 않으며, 그들이 임의로 발전을 막을 권한을 주지도 않습니다. 이는 단지 기술을 만드는 사람들이 실패했을 때 그 비용을 부담하는 주체가 되도록 보장할 뿐입니다. 위험이 미지수이고 정치가 어려운 세상에서, 이 방법은 안전을 위한 가장 신뢰할 수 있는 경로를 제공합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.