How to Catch a GPU: A Taxonomy of Verification and Enforcement Mechanisms for International AI Agreements

인공지능의 세계를 거대한 디지털 거인들을 건설하고 있는 고도의 긴장감이 흐르는 대규모 건설 현장이라고 상상해 보십시오. '프런티어 AI 모델'이라 불리는 이 거인들은 너무나 강력해서, 만약 잘못된 손에 들어가거나 통제를 벗어나게 된다면 잠재적으로 파괴적인 해를 끼칠 수 있습니다. 모두를 안전하게 지키기 위해 각국은 "누구도 일정 크기보다 큰 거인을 만들 수 없다"라고 명시하는 글로벌 규칙집을 작성하려 노력하고 있습니다. 하지만 여기에 까다로운 문제가 있습니다. 누군가가 규칙을 준수하고 있는지 실제로 어떻게 확인할 것인가 하는 점입니다. 단순히 정중하게 물어볼 수도 없고, 전 세계의 모든 컴퓨터 내부를 들여다볼 수도 없습니다. 당신에게는 나쁜 행위자들이 작은 숨겨진 창고 안에 거대한 기계를 몰래 들여오려는 것을 잡아낼 방법이 필요합니다. 이것이 바로 "검증과 집행(verification and enforcement)"의 과제, 즉 규칙이 단순히 종이 위의 글자가 아니라 실제로 작동하게 만드는 일입니다.

"GPU를 잡는 법(How to Catch a GPU)"이라는 제목의 이 논문은 이러한 국제 AI 협정들을 위한 탐정의 가이드북 역할을 합니다. 저자인 레이몬드 쿱만스챕(Raymond Koopmanschap)과 오토 바르텐(Otto Barten)은 규칙 위반자를 잡는 거대한 문제를 세 가지 더 작고 관리 가능한 과제로 나눕니다. 그들은 규정을 어기는 것을 막으려면 세 가지를 해야 한다고 주장합니다. 첫째, 사람들이 건축 자재(컴퓨터 칩)를 훔치지 못하게 막아야 하고, 둘째, 규칙을 따르고 있는 사람들이 몰래 거인을 만들기 시작하지 않도록 해야 하며, 셋째, 가장 중요하게는, 나쁜 놈들이 기계를 숨겨두고 있는 비밀 창고를 찾아내야 한다는 것입니다.

저자들은 이 문제들을 바라보는 새로운 방식을 제안하며, 기술이 발전하고 저렴해짐에 따라 "거인" 기계들은 점점 더 작아질 것이라고 시사합니다. 결국 위험한 AI는 컨테이너 하나나 작은 방 하나에도 들어갈 수 있게 될 것입니다. 이 논문은 전문가들의 제안들을 분석하며, 우리가 칩을 훔치는 것을 막고 규칙을 따르는 사람들을 감시하는 데는 좋은 아이디어가 있지만, 비밀 창고를 찾는 데는 형편없다는 점을 밝혀냅니다. 저자들은 요구되는 컴퓨터 전력이 낮아질수록, 숨겨진 시설을 찾는 것은 거의 불가능해진다고 제안합니다. 그들은 "임계점(breaking point)"을 정의하는데, 이는 우리의 현재 탐색 방법이 작동을 멈추는 특정 규모를 의미합니다. 그들은 우리가 큰 공장들은 추적할 수 있겠지만, 비밀 실험실이 일반적인 건물과 구별하기 어려워지는 규모(고성능 그래픽 카드 약 10,000대 수준)로 작아지는 순간, 이를 식별하기가 매우 어려워진다는 것을 발견했습니다. 만약 나쁜 놈들이 필사적으로 숨기려 한다면, 우리는 결코 찾아내지 못할 수도 있습니다.

3단계 탐정 게임

저자들이 이 문제를 해결하는 방식을 이해하기 위해, 당신이 누군가 차고에서 초고속 경주용 자동차를 만드는 것을 막으려는 교통 경찰이라고 상상해 보십시오. 이 논문은 "교통 경찰"의 업무를 세 가지 뚜렷한 게임으로 나눕니다.

1. "부품을 훔치지 마라" 게임 (통제되지 않은 자원 획득 방지)
이것은 나쁜 놈들이 필요한 특수 엔진 부품을 얻지 못하게 막는 것에 관한 것입니다. AI 세계에서 이 "부품"은 AI 학습에 필요한 강력한 컴퓨터 칩(GPU)입니다. 저자들은 현재 이 칩을 만드는 과정이 매우 특수하고 복잡한 케이크를 굽는 것과 같아서, 전 세계에 단 몇 개의 베이커리만이 적절한 오븐을 가지고 있다고 언급합니다. 칩을 만드는 곳이 매우 적기 때문에, 그들을 추적하는 것은 상당히 쉽습니다. 베이커리를 감시한다면 모든 케이크가 어디로 가는지 알 수 있습니다. 논문은 공급망이 이처럼 집중되어 있는 한, 사람들이 공장에서 칩을 몰래 빼돌리는 것을 아마도 막을 수 있을 것이라고 제안합니다. 설령 "경주용 자동차"가 더 작아지더라도, 부품을 구하는 것은 여전히 세상의 눈에 띄지 않고는 불가능할 것입니다.

2. "차고에서 속임수를 쓰지 마라" 게임 (통제 체제로부터의 탈출 방지)
이 게임은 규칙을 따르고 있는 사람들을 위한 것입니다. 예를 들어, 작은 자동차를 만들 수 있도록 허가받은 공장이 있다고 가정해 봅시다. 경찰은 그 공장 안에서 몰래 금지된 슈퍼카를 만들기 시작하는지 확인하고 싶어 합니다. 논문은 만약 허가된 공장 안에 카메라, 센서, 조사관을 배치한다면, 그들이 속임수를 쓰려 할 때 잡아낼 수 있다고 제안합니다. 저자들은 이것이 사실 가장 해결하기 쉬운 부분이라고 주장합니다. 만약 공장이 금지된 기계를 만들려고 시 한다면, 우리는 그냥 그 건물 전체의 전원을 차단하면 됩니다. 이는 마치 방의 불을 끄는 마스터 스위치를 가진 것과 같습니다. 누군가 해서는 안 될 일을 하고 있다면, 그냥 스위치를 내리면 됩니다. 기계가 크든 작든, 기계가 우리가 감시하는 방 안에 있는 한 이 방식은 유효합니다.

3. "비밀 창고를 찾아라" 게임 (숨겨진 용량 탐지)
이것은 가장 어려운 게임이며, 논문에서 상황이 무너지기 시작한다고 말하는 지점입니다. 이것은 경찰이 존재조차 모르는 차고에서 슈퍼카를 만들고 있는 나쁜 놈들을 찾는 것에 관한 것입니다. 저자들은 현재 대규모 AI 공장들은 찾기 쉽다고 설명합니다. 그것들은 거대하며, 엄청난 양의 전기를 사용하고, 산업용 굴뚝처럼 보이는 거대한 냉각탑을 가지고 있습니다. 우주에서도 볼 수 있습니다!

하지만 논문은 AI가 더 똑똑해짐에 따라, 동일한 위험한 일을 수행하는 데 더 적은 전력이 필요할 것이라고 경고합니다. 과거에 창고 하나가 필요했던 기계가 곧 컨테이너 하나에 들어갈 수도 있습니다.

• 임계점: 저자들은 시설 규모가 고성능 칩(구체적으로 H100 급) 약 10,000대 수준으로 작아지면, 더 이상 비밀 공장처럼 보이지 않고 일반 사무실 건물이나 창고처럼 보이기 시작한다고 계산했습니다.
• 사라지는 마술: 이 규모에서는 냉각 시스템이 일반 에어컨처럼 작아져서 일반적인 건물과 섞이게 되며, 전기 사용량 또한 대형 슈퍼마켓이나 병원과 비슷해집니다.
• 능동적 은폐: 만약 나쁜 놈들이 의도적으로 숨으려 한다면(능동적 은폐), 논문은 우리가 10,000대에서 100,000대 사이의 칩 규모를 가진 시설을 찾지 못할 수도 있다고 제언합니다. 그들은 지하, 창고, 혹은 컨테이너 안에 있을 수 있으며, 우리의 위성과 전력 모니터링 장치는 그저 일반적인 건물을 보고 있는 것으로 인식할 것입니다.

이것이 왜 중요한가

논문은 우리가 알고 있는 공장들을 감시하고 칩을 훔치는 것을 막는 계획은 잘 갖춰져 있지만, 비밀 시설을 찾는 계획은 빠져 있다고 결론짓습니다. 저자들은 만약 우리가 이 작은 숨겨진 실험실들을 찾는 방법을 알아내지 못한다면, 국제적인 AI 규칙 시스템 전체가 실패할 수 있다고 제안합니다. 이것은 마치 대형 트럭을 위해 잘 작동하는 속도 제한 표지판이 있지만, 아주 작고 빠른 오토바이가 카메라를 피해 지나갈 수 있다면 그 규칙이 도로를 실제로 안전하게 지키지 못하는 것과 같습니다.

저자들은 포기하자는 말이 아니라, 대신 "비밀 창고를 찾아라" 문제에 에너지를 집중해야 한다고 말합니다. 그들은 기술이 발전함에 따라 "금지된 기계"의 크기가 작아질 것이며, 이는 숨기기 게임을 더욱 어렵게 만들 것이라고 지적합니다. 그들은 기술이 너무 작아져서 보이지 않게 되기 전에, 이러한 작은 숨겨진 실험실을 찾아낼 수 있는 새로운 방법을 연구자들이 발명해야 한다고 제안합니다. 그때까지, 이 논문은 "비밀 창고를 찾아라" 부분이 계획에서 가장 취약한 연결 고리이며, 가장 먼저 무너질 가능성이 높은 부분이라고 주장합니다.