Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

새로운 기술이 등장할 때, 그것은 혜택의 약속과 위험의 그림자를 함께 가져옵니다. 종종 그 위험의 진정한 본질은 기술이 실제로 세상에서 사용될 때까지 숨겨져 있습니다. 이는 우리가 살고, 일하고, 소통하는 방식을 재편할 수 있는 도구인 인공지능에 특히 해당됩니다. 위험이 매우 복잡하고 특정 상황에 따라 달라지기 때문에, 정부 관료를 포함한 그 누구도 기술이 배치되기도 전에 완벽한 규칙을 작성하는 것은 어렵습니다. 사회가 직면한 핵심 질문은 단순히 나쁜 결과를 막는 방법이 아니라, 우리가 더 많은 것을 배워감에 따라 이러한 위험을 관리하는 적절한 방법을 어떻게 발견할 것인가 하는 것입니다. 여기에는 경제학자들이 원래의 거래에 참여하지 않은 사람들에게 영향을 미치는 비용이나 혜택을 설명할 때 사용하는 용어인 '외부효과(externalities)'를 이해하는 것이 포함됩니다. 새로운 기술이 이웃이나 타인에게 문제를 일으킬 때, 그 문제들은 외부효과입니다. 문제는 이러한 외부효과가 너무 얽혀 있고 예측 불가능하여, 단일 기관이 사전에 이를 모두 파악해낼 수 없다는 점입니다.

두 명의 연구자, 알리 팔리다(Ali Palida)와 니콜라스 틸먼(Nicholas Thielman)은 이 문제에 대한 다른 각도를 탐구하기 위해 연구를 시작했습니다. 그들은 정부가 인공지래를 어떻게 규제해야 하는지를 묻는 대신, 정부 규제가 어떻게 민간 집단이 스스로 해결책을 찾아내는 것을 막을 수 있는지를 물었습니다. 그들은 새로운 기술을 사용하는 과정이 하나의 '발견'의 형태라고 주장합니다. 무언가를 시도해 봄으로써, 사람들은 무엇이 작동하고 무엇이 실패하는지, 그리고 누가 보호받아야 하는지를 배웁니다. 이러한 학습 과정은 민간 집단—보험사, 안전 인증 기관, 또는 서로 협상하는 이웃들처럼—이 특정 상황에 적합한 유연한 규칙을 구축할 수 있게 해줍니다. 저자들은 만약 정부가 너무 일찍 엄격한 금지나 경직된 규칙을 도입한다면, 기술을 관리하는 최선의 방법을 찾기 위해 필요한 바로 그 실험들을 가로막을 수 있다고 제안합니다.

이 아이디어를 테스트하기 위해, 연구자들은 새로운 기술이 유사한 불확실성에 직면했던 세 가지 역사적 사례를 살펴보았습니다. 첫 번째 사례는 1800년대 후반의 전기와 관련이 있습니다. 전기 조명과 전선이 처음 도입되었을 때 빈번한 화재가 발생했지만, 어떤 장치가 안전한지는 아무도 몰랐습니다. 정부는 즉시 개입하여 안전 기준을 설정하지 않았습니다. 대신, 화재 손실을 우려한 보험사들이 만든 '언더라이터스 래보러토리(Underwriters Laboratories)'라는 민간 단체가 등장했습니다. 이 단체는 전기 장비를 테스트하고 자체적인 안전 표준을 만들기 시작했습니다. 시간이 흐르면서, 그들은 더 많은 장치를 테스트하고 무엇이 화재를 일으키는지 목격하면서 규칙을 정교하게 다듬었습니다. 그들의 민간 시스템은 신뢰를 얻어 도시들이 그 표준을 법으로 채택하게 되었고, 제조업체들은 제품을 판매하기 위해 그들의 승인을 구하게 되었습니다. 저자들은 이 시스템이 효과적이었던 이유가 유연했기 때문이라고 언급합니다. 즉, 위험이 무엇인지 알기 전부터 쓰여진 규칙에 갇혀 있는 대신, 실제 사용을 통해 새로운 위험이 발견됨에 따라 규칙을 변경할 수 있었기 때문입니다.

두 번째 사례는 사이버 보험의 세계에서 옵니다. 컴퓨터와 인터넷이 성장함에 따라 해커들이 주요 위협이 되었지만, 이러한 위협의 성격은 끊임없이 변했습니다. 어떤 해에는 주요 위험이 신용카드 번호 탈취였을 수 있고, 다음 해에는 병원 기록을 잠그는 랜섬웨어일 수도 있었습니다. 위험이 매우 유동적이었기 때문에, 정부 규제 기관들은 유효성을 유지하는 규칙을 작성하는 데 어려움을 겪었습니다. 그러나 민간 보험사들은 빠르게 적응했습니다. 그들은 보험 보장을 받기 위해 기업이 특정 보안 표준을 충족할 것을 요구하는 정책을 제공하기 시작했습니다. 만약 기업이 보안 업데이트를 하지 않으면, 보험사는 보험료를 인상하거나 계약을 해지했습니다. 이는 피드백 루프를 생성했습니다. 즉, 새로운 유형의 공격이 나타남에 따라 보험사들은 청구 데이터를 통해 학습하고 요구 사항을 업데이트했습니다. 이 민간 시스템은 실시간으로 안전 규칙을 지속적으로 조정할 수 있게 해주었는데, 이는 느리게 움직이는 정부 관료 조직이 따라 하기 힘든 부분이었습니다.

세 번째 이야기는 라디오 방송의 초기 시절을 배경으로 합니다. 정부가 주파수를 관리하는 중앙 기관을 만들기 전, 방송국들은 서로 간섭을 일으켜 신호가 혼란스럽게 뒤섞이는 경우가 많았습니다. 흔히 알려진 믿음은 이러한 혼란이 중앙 당국에 의해서만 해결될 수 있다는 것이었습니다. 그러나 연구자들은 정부가 개입하기 전, 라디오 방송국들이 실제로 서로 협상하고 있었다는 사실을 발견했습니다. 그들은 주파수를 거래하거나, 방송 시간을 합의하거나, 간섭을 피하기 위해 경쟁사를 인수하기도 했습니다. 이러한 민의적인 협상과 재산권 시스템 덕분에 라디오 산업은 성장하고 가치를 인정받을 수 있었습니다. 이후 정부가 이 유연한 민간 시스템을 경직된 중앙 집중식 계획으로 대체할 때까지 말입니다. 저자들은 이러한 변화가 민간 시스템이 실패했기 때문이 아니라, 정치인들과 강력한 방송 사업자들이 귀중한 전파를 스스로 통제하고 싶어 했기 때문에 일어났다고 주장합니다. 그 결과, 더 적응력이 떨어지고 혁신이 느린 시스템이 만들어졌습니다.

이 과정의 메커니즘을 이해하기 위해, 연구자들은 미래가 불확실할 때 의사결정이 어떻게 작동하는지에 대한 간단한 모델을 구축했습니다. 모델에 따르면, 새로운 기술이 사용되고 그 결과가 관찰됩니다. 이 관찰은 모든 이에게 새로운 것을 가르쳐줍니다. 만약 기술의 영향을 받는 집단이 새로운 것을 배울 때마다 모여서 규칙을 재협상할 수 있다면, 그들은 새로운 현실에 맞춰 접근 방식을 조정할 수 있습니다. 그들은 기술이 위험하다면 사용을 중단하기로 결정하거나, 안전하지만 수정이 필요하다면 사용 방식을 바꿀 수 있습니다. 그러나 외부 권위가 영구적인 금지령이나 민간 합의로 변경할 수 없는 고정된 규칙을 부과하면, 학습 과정은 중단됩니다. 금지는 진실을 밝혀낼 실험을 막아버립니다. 설령 나중에 그 집단이 기술이 안전하고 유익하다는 것을 배우더라도, 그들은 정부의 거부권을 우회하여 협상할 수 없기 때문에 예전의 규칙에 묶여 있게 됩니다.

연구자들은 이것이 두 가지 구체적인 문제를 일으킨다는 것을 발견했습니다. 첫째, 영구적인 금지는 위험을 이해하는 데 필수적인 학습을 중단시킵니다. 둘째, 설령 집단이 다른 방식이 모두에게 더 나을 것이라는 점을 배우더라도, 고정된 정부 규칙은 그들이 그러한 변화를 만드는 것을 방해합니다. 저자들은 이것이 정부의 규칙이 항상 나쁘다는 의미는 아니라고 강조합니다. 때로는 너무 큰 위험을 감수할 수 없는 재앙을 막기 위해 금지가 필요할 수도 있습니다. 하지만 이 연구는 금지의 즉각적인 안전성과 더 나은, 더 유연한 해결책을 발견할 기회를 차단하는 장기적인 비용 사이에서 무게를 달아보아야 한다고 제안합니다. 목표는 단순히 위험한 기술을 완전히 내버려 두는 것이 아니라, 무엇이 효과적인지를 배울 기회를 차단하기 전에 규칙을 확정 짓지 않는 것입니다.

논문은 인공지능에 대한 효과적인 거버넌스가 처음부터 완벽하게 설계될 수 있는 것이 아닐 수도 있다고 결론짓습니다. 대신, 그것은 우리가 기술을 사용하고 실수로부터 배우면서 나타나는 결과물일 수 있습니다. 계약, 보험, 인증을 통한 민간 집단은 결과에 직접적인 이해관계를 가지고 있기 때문에 더 빠르게 배우고 적응하는 데 더 유리한 위치에 있는 경우가 많습니다. 그들은 새로운 정보가 들어오는 즉시 규칙을 변경할 수 있습니다. 정부의 개입은 때때로 필요하지만, 시스템을 고착화시켜 버릴 위험을 안고 있습니다. 저자들은 우리가 무엇이 효과적인지를 가르쳐줄 바로 그 과정을 차단하지 않도록, 민간의 실험이 일어날 수 있는 공간을 확보해야 한다고 제안합니다. 과제는 정책 입안자들이 즉각적인 해악으로부터 사람들을 보호하면서도, 미래에 더 효과적인 거버넌스로 가는 길을 끊지 않도록 하는 것입니다.