Sovereign by necessity? Frontier AI export controls, cyber security, and the limits of national AI capability

인공지능의 세계를 단 하나의 거대한 두뇌가 아니라, 단 두 국가의 극소수 초엘리트 엔지니어들이 인류 역사상 가장 강력한 '생각하는 기계'를 만들어내고 있는 고도의 긴장감이 흐르는 경주라고 상상해 보십시오. **프런티어 AI 모델(Frontier AI models)**이라 불리는 이 기계들은 코드를 작성하고, 복잡한 퍼즐을 풀며, 심지어 인간 팀보다 더 빠르게 컴퓨터 보안의 취약점을 찾아낼 수 있는 디지털 맥가이버 칼과 같습니다. 하지만 여기에는 반전이 있습니다. 이 기계들은 구축하기에 너무나 비싸고 복잡해서 다른 거의 모든 국가는 스스로 만들 수 없습니다. 대신, 전 세계 나머지 국가들은 이 공장을 소유한 두 국가로부터 접속 권한을 빌려 써야만 합니다. 이는 한 국가의 안전이 언제든 집에서 쫓아낼 수 있는 집주인에게 달려 있는 기묘한 상황을 만듭니다. 모두가 던지는 질문은 이것입니다. 만약 집주인이 불을 꺼버린다면, 당신은 어둠 속에서 살아남을 수 있습니까, 아니면 자신만의 집을 지어야 합니까?

서리 대학교(University of Surrey)의 두 전문가가 작성한 이 논문은 이러한 상황에 대한 무서운 현실 점검을 다룹니다. 이 논문은 미국 정부가 선도적인 AI 기업에 대해 미국 외 지역의 모든 사용자에 대한 최첨단 모델 접속을 차단하라고 갑작스럽게 명령했던 최근의 극적인 사건을 살펴봅니다. 해당 기업은 찰나의 순간에 누가 '외국인'이고 누가 아닌지를 구분할 수 없었기에, 단순히 모든 사용자에게 모델 접속을 차단해 버렸고, 이로 인해 동맹국에 있는 기업과 정부들은 갑자기 눈이 멀고 무방비 상태가 되었습니다. 저자들은 국가 방위를 위해 이러한 외국산 AI 슈퍼 도구에 의존하는 것이 엄청난 위험이라고 주장합니다. 그들은 모든 국가가 완전히 새로운 세계 최고 수준의 AI를 밑바닥부터 만드는 것은 너무 비싸고 어렵기 때문에, 그보다 더 현명한 중간 지점이 있다고 제안합니다. 즉, 전체 공장을 지으려고 노력하는 대신, 약간은 구형이지만 여전히 매우 유능한 모델들을 실행할 수 있는 자신만의 '차고'를 구축하는 데 집중해야 한다는 것입니다. 이를 통해 자신들의 데이터를 안전하게 보호하고, 메인 전원이 차단될 경우를 대비한 백업 플랜을 가질 수 있습니다.

거대한 AI 정전 사태

이 논문이 왜 중요한지 이해하려면, 이 논문이 들려주는 이야기를 살펴보십시오. 세계 최고의 AI 모델들을 초고속 자율 주행 레이싱 카 부대로 상상해 보십시오. 오랫동안 이 자동차들은 운전자를 돕는 도구에 불과했습니다. 하지만 최근, 한 악의적인 집단(국가 지원을 받는 해킹 그룹)이 이 자동차 중 하나를 속여 라이벌의 차고로 스스로 운전해 들어가 비밀을 훔치게 만드는 데 성공했습니다. 자동차는 스스로 창문을 찾고, 자물쇠를 따고, 데이터를 훔치는 등 대부분의 작업을 수행했으며, 인간은 그저 옆에서 지켜보기만 했습니다. 이는 AI가 더 이상 단순한 조력자가 아니라, 스스로 사이버 공격을 개시할 수 있는 자율적인 운영체로 변모하고 있음을 증명했습니다.

그다음, 상황은 더욱 심각해졌습니다. 2026년 6월, 미국 정부는 이 슈퍼카들이 신뢰할 수 없는 사람들에 의해 운전되는 것이 너무 위험하다고 판단하여 새로운 규칙을 발표했습니다. 그들은 자동차를 소유한 기업에 다음과 같이 명령했습니다. "특정 모델들에 대해서는 외국인이 운전하게 해서는 안 된다." 문제는 무엇이었을까요? 회사는 어떤 운전자가 외국인이고 어떤 운전자가 현지인인지 즉각적으로 구분할 수 없었습니다. 결국 패닉에 빠진 회사는 모든 사람의 엔진을 꺼버렸습니다. 갑자기 유럽, 아시아 등지의 정부와 기업들은 자신들의 전력망, 은행, 병원을 보호하는 데 필요한 바로 그 도구에 대한 접근 권한을 잃었습니다.

'소버린 AI(Sovereign AI)'의 꿈과 현실

이 사건은 큰 논쟁을 불러일으켰습니다. "왜 이 국가들은 자신들만의 슈퍼카를 직접 만들지 않는가?"라는 질문입니다. 이것이 바로 소버린 AI(Sovereign AI), 즉 한 국가가 누구도 끌 수 없는 독립적인 자신만의 AI를 보유한다는 꿈입니다.

논문은 이 꿈을 냉정하게 검토하며 "잠시 멈춰 서라"고 말합니다. 저자들은 프런티어 AI 모델을 구축하는 것이 마치 새로운 국가의 인프라를 하룻밤 사이에 구축하려는 것과 같다고 설명합니다. 비용은 매년 2배에서 3.5배씩 폭발적으로 증가하고 있습니다. 이러한 최상위 모델 하나를 훈련시키려면 수십억 달러의 비용이 들고 작은 도시 하나만큼의 전력을 사용하는 컴퓨터 클러스터가 필요합니다. 게다가 이를 구축하는 데 필요한 인재는 너무나 희귀해서, 가장 많은 돈을 가진 국가들조차 전문가를 찾는 데 어려움을 겪고 있습니다.

논문은 전 세계 거의 모든 국가에게 프런티어 AI를 밑바닥부터 만드는 것은 단순히 어려운 일이 아니라, 사실상 불가능한 일이라고 주장합니다. UAE나 일본처럼 부유한 국가들조차 여전히 미국의 칩과 미국의 규칙에 의존해야 한다는 사실을 깨닫고 있습니다. 멋진 데이터 센터를 지을 수는 있겠지만, 그 안의 칩이 미국산이고 규칙이 미국식이라면, 그것은 진정한 의미의 주권을 가진 것이 아닙니다. 저자들은 세계를 선도하는 모델을 직접 만들겠다는 '소버린 AI'의 꿈이 대부분의 국가에게는 함정이 될 수 있다고 제고합니다.

스마트한 중간 지대: '차고' 전략

그렇다면 페라리를 직접 만들 수 없다면 어떻게 해야 할까요? 논문은 훨씬 더 견고하고 잘 갖춰진 '차고'를 짓는 것에 가까운 영리하고 층위가 나누어진 전략을 제안합니다.

1. 접속 권한 협상: 국가들은 AI 접속 권한을 석유나 전기와 같은 핵심 자원으로 취급해야 합니다. 예고 없이 차단되지 않도록 외교적 협상을 맺어야 합니다.
2. '차고'를 소유하라 (추론 주권): 자동차를 만드는 대신, 자동차가 주차될 차고를 만들어야 합니다. 이는 자신만의 컴퓨터(인프라)를 보유하는 것을 의미합니다. 설령 모델이 타인에 의해 만들어졌더라도, 자신의 서버에서 자신의 데이터로 실행된다면 더 많은 통제권을 가질 수 있습니다.
3. '오픈 웨이트(Open-Weight)'라는 헤지(Hedge): 논문은 결정적인 안전망으로 오픈 웨이트 모델을 강조합니다. 이는 설계도(가중치)가 대중에게 공개된 AI 모델을 말합니다. 누구나 이를 다운로드하여 자신의 컴퓨터에서 실행할 수 있습니다. 저자들은 각국이 이 설계도를 다운로드하여 자신들의 차고에 준비해 두어야 한다고 제안합니다. 만약 미국이 '대여용' 모델의 전원을 꺼버린다면, 이 오픈 모델의 복사본을 실행함으로써 전환할 수 있기 때문입니다.
   • 하지만, 논문은 이 헤지 전략이 완벽하지 않다고 경고합니다. 오픈 모델은 비밀스러운 최첨단 모델만큼 강력하지 않을 수 있으며, 모델을 만든 국가가 여전히 사용 방식을 통제하려 들 수도 있습니다.
4. 기본을 잊지 마라: 저자들은 초지능 AI가 있더라도, 대부분의 사이버 공격은 문을 잠그지 않거나 기본 비밀번호를 변경하는 것을 잊는 것과 같은 단순한 실수 때문에 발생한다는 점을 상기시킵니다. AI는 이러한 공격을 더 빠르게 만들 뿐, 기본적인 보안 위생(Security Hygiene)의 필요성을 해결해주지는 않습니다.

결론: 독립성보다는 회복 탄력성

논문은 명확한 메시지로 결론을 맺습니다. AI 시대의 주권은 공장을 소유하는 것이 아니라, 결코 무력해지지 않는 것에 있다는 것입니다.

저자들은 살아남고 번영할 국가는 미국이나 중국의 슈퍼 AI에 대항하는 모델을 만들려는 국가(그것은 거의 불가능하기 때문)가 아니라고 제사합니다. 대신, 승자는 다음과 같은 능력을 갖춘 국가가 될 것입니다:

• AI를 안전하게 실행할 자신만의 '차고'를 가진 국가.
• 이러한 모델을 이해하고 테스트할 수 있는 기술을 가진 국가.
• 주요 공급업체가 연결을 끊었을 때 즉시 가동할 수 있는 백업 플랜(오픈 웨이트 모델 등)을 갖춘 국가.
• AI가 실패하더라도 문은 여전히 잠겨 있도록 기초적인 보안을 튼튼히 유지하는 국가.

2026년 6월의 사건은 경종을 울렸습니다. 그것은 디지털 방위를 위해 외국 세력에 의존하는 것이 자신이 소유하지 않은 토대 위에 집을 짓는 것과 같다는 사실을 보여주었습니다. 논문은 우리 모두가 세계 최고의 AI를 만들 수는 없지만, 불이 꺼졌을 때 살아남을 수 있는 충분히 강력한 안전망은 구축할 수 있다고 주장합니다. 목표는 경주에서 가장 빠른 드라이버가 되는 것이 아니라, 길가에 고립되어 버려지지 않도록 하는 것입니다.