인공지능에 관한 대화는 종론 하나의 이분법적인 질문에 갇혀 있는 것처럼 느껴집니다. 즉, 가장 강력한 컴퓨터 두뇌를 기업의 웹사이트를 통해서만 접근 가능한 잠긴 문 뒤에 보관해야 하는가, 아니면 그 내부 작동 방식을 누구나 다운로드하여 연구할 수 있도록 공개해야 하는가 하는 문제입니다. 이 논쟁은 모델의 공개를 '개방'과 '폐쇄'라는 단순한 선택으로 취급합니다. 그러나 이러한 시스템의 실체는 훨씬 더 복격적입니다. 아이가 알파벳을 배우도록 돕기 위해 설계된 AI와 복잡한 군사 전략을 계획하거나 금융 시장을 조작할 수 있는 시스템은 근본적으로 다릅니다. 한 시스템이 초래하는 위험은 다른 시스템이 초사하는 위험과 같지 않습니다. 만약 우리가 두 경우에 동일한 규칙을 적용한다면, 수백만 명을 가르칠 수 있는 도구를 봉쇄하거나, 혹은 원하는 누구에게나 위험한 무기를 손에 쥐여주는 결과를 초래하게 될 것입니다. 사회의 핵심 과제는 단순히 기계가 얼마나 똑똑해질 수 있는지를 결정하는 것이 아니라, 누가 그 지능을 사용할 수 있는지, 그리고 어떤 조건 하에서 사용할 것인지를 결정하는 것입니다.

2026년 9월, SAFE AI 재단의 연구원 차이 K. 토(Chai K. Toh)와 바수 라즈 제인(Vasu Raj Jain)은 이 문제에 대해 생각하는 새로운 방식을 제안했습니다. 그들은 현재의 논쟁이 중요한 구분을 놓치고 있다고 주장합니다. 바로 시스템이 얼마나 유능한가(capability)와 누가 그 시스템에 접근할 수 있는가(access) 사이의 차이입니다. 그들은 모델을 개방할지 폐쇄할지를 묻는 대신, 기계가 실제로 무엇을 할 것인지, 그리고 잘못되었을 때 얼마나 많은 해를 끼칠 수 있는지에 따라 접근 권한을 분류해야 한다고 제안합니다. 그들은 이를 '다계층 AI 접근성 모델(Multi-Tiered AI Accessibility Model)'이라 부르며, 이는 마치 우리가 위험도에 따라 다양한 종류의 차량이나 화학 물질을 규제하는 것처럼 인공지능을 세 가지 뚜렷한 단계로 조직하는 체계입니다.

첫 번째 단계로, 저자들이 '학습용 AI(AI for Learning)'라고 부르는 이 단계는 교육과 기초 문해력을 위해 설계되었습니다. 이들은 학생들이 기술을 사용하는 법, 코딩하는 법, 또는 세상을 이해하는 법을 가르치기 위한 시스템입니다. 위해를 가할 가능성이 낮기 때문에, 이 모델들은 가능한 한 개방적이어야 합니다. 누구나 자신의 신원을 증명할 필요 없이 이들을 다운로드하고, 연구하며, 사용할 수 있어야 합니다. 연구원들은 이러한 학습 도구들의 능력이 의도적으로 제한되어야 한다고 제ธ합니다. 교훈을 전달하기 위해 반드시 현존하는 가장 강력한 컴퓨터일 필요는 없기 때문입니다. 이러한 학습 도구들의 능력을 설계 단계에서부터 제한함으로써, 사회는 위험한 시스템을 실수로 유출할 위험 없이 개방형 접근의 혜택을 누릴 수 있습니다.

두 번째 단계인 '탐사용 AI(AI for Exploration)'는 새로운 애플리케이션을 구축하거나 과학적 아이디어를 테스트하기 위해 더 큰 힘이 필요한 연구자, 개발자, 기업들을 대상으로 합니다. 이 시스템들은 학습용 도구보다 더 유능하지만, 아직 정점에 도달한 것은 아닙니다. 이 계층에 대한 접근은 완전히 개방되어 있지는 않지만, 그렇다고 완전히 잠겨 있지도 않습니다. 이는 슬라이딩 스케일(변동 척도) 방식으로 운영됩니다. 이 범주에 속하는 덜 강력한 시스템은 몇 가지 규칙과 함께 대중에게 공개될 수 있는 반면, 더 강력한 시스템은 사용자가 신원을 등록하고 특정 이용 약관에 동의할 것을 요구합니다. 여기서 핵심 아이디어는 책임성입니다. 도구의 힘이 커질수록, 그것을 사용하는 개인이나 조직은 식별 가능해야 합니다. 문제가 발생했을 때, 누가 시스템을 사용했는지에 대한 기록이 남게 되며, 필요할 경우 그 사용을 다시 중단시킬 방법이 존재합니다.

세 번째이자 마지막 단계는 '전면적 프런티어 AI(Full-Scale Frontier AI)'입니다. 이들은 고도의 추론, 자율적 계획, 그리고 국방, 항공 또는 핵심 인프라와 같은 고위험 분야에서 작동할 수 있는 상상 가능한 가장 강력한 시스템들입니다. 저자들은 이러한 시스템들이 누구나 다운로드하여 수정할 수 있는 공개 파일 형태로 절대 출시되어서는 안 된다고 주장합니다. 일단 강력한 모델이 가중치(모델을 작동시키는 수학적 지침)의 형태로 발표되면, 그것을 다시 회수하는 것은 불가능합니다. 악의적인 행위자가 이를 다운로드하면, 안전 장치를 제거하거나, 행동을 변경하거나, 스스로 움직이는 로봇에 이를 심어 넣을 수 있습니다. 원 제작자는 모든 통제권을 잃게 됩니다. 따라서 이러한 프런티어 시스템에 대한 접근은 정당한 필요가 있는 검증된 조직으로 엄격히 제한되어야 하며, 모든 상호작용은 기록되고 모니터링되어야 합니다. 목표는 혁신을 막는 것이 아니라, 가장 위험한 도구들이 책임질 수 있는 당사자들에 의해서만 다뤄지도록 보장하는 것입니다.

이 논문은 왜 이러한 분리가 필요한지에 대한 강력한 근거를 제공합니다. 저자들은 AI에 추가된 안전 기능들이 흔히 피상적이며 매우 저렴하게 제거될 수 있다는 점을 지적합니다. 연구에 따르면 단 몇 백 달러의 컴퓨산 능력과 적은 양의 데이터만으로도 누군가는 안전한 오픈 웨이트(open-weight) 모델을 가져와서 그 안전 가드레일을 제거할 수 있습니다. 이는 개발자가 모델을 출시하기 전에 안전함을 확인했더라도, 모델이 다운로드되는 순간 그 안전 보장은 사라진다는 것을 의미합니다. 모델은 위험한 것으로 변할 수 있으며, 원래의 개발자는 이를 막거나 수정할 방법이 없습니다. 보안 인터페이스를 통해 모델이 제공되는 폐쇄형 시스템에서는, 개발자가 사용량을 모니터링하고, 누군가 규칙을 어기려 할 때 이를 감지하며, 즉각적으로 접근 권한을 박탈할 수 있습니다. 반면 오픈 시스템에서는 파일이 다운로드되는 순간, 개발자는 이러한 모든 통제 수단을 잃게 됩니다.

이 시스템이 작동하기 위해, 연구원들은 특정 AI가 어느 계층에 속하는지 결정하기 위한 일련의 규칙을 제안합니다. 그들은 네 가지 주요 요소를 살펴볼 것을 제 제안합니다: 시스템이 얼마나 유능한가, 인간의 도움 없이 얼마나 자율적으로 행동할 수 있는가, 실수의 결과가 현실 세계에 어떤 영향을 미칠 수 있는가, 그리고 시스템이 실제로 무엇을 위해 사용되는가입니다. 어떤 시스템은 매우 똑똑하더라도 시를 쓰는 데만 사용된다면 낮은 계층에 머물 수 있습니다. 하지만 약간 덜 똑똑하더라도 전력망을 제어하거나 생물학적 작용제를 설계하도록 설계된 시스템이라면, 실패의 결과가 매우 심각하기 때문에 더 높은 계층에 배치되어야 합니다. 시스템이 어느 계층에 속할지에 대한 결정은 전적으로 이를 만드는 기업들에게 맡겨져서는 안 됩니다. 대신, 독립적인 규제 기관이나 안전 연구소가 증거를 검토하고 계층을 할당하여, 규칙이 공정하고 일관되게 적용되도록 해야 합니다.

이 접근 방식은 두 가지 서로 다른 안전 경계를 결합합니다. 첫 번째는 시스템이 허용되는 강력함의 한계에 대한 제한으로, 저자들이 '역량 경계(Capability Boundary)'라고 부르는 개념입니다. 이는 어떤 AI라도 인간이 통제할 수 없는 수준의 원초적 지능과 자율성을 갖지 못하도록 천장을 설정합니다. 두 번째는 '접근성 경계(Accessibility Boundary)'이며, 이는 이 논문에서 도입된 새로운 개념입니다. 이는 시스템이 그 천장에 가까워질수록, 사용할 수 있는 사람의 수는 줄어들어야 하며, 사용 규칙은 더 엄격해져야 함을 규정합니다. 만약 우리가 천장만 있고 누가 올라갈 수 있는지에 대한 규칙이 없다면, 가장 위험한 도구들이 누구의 손에도 들어갈 수 있습니다. 만약 우리가 누가 사용할 수 있는지에 대한 규칙은 있지만 그 힘의 천장이 없다면, 우리는 너무 위험해서 누구도 다룰 수 없는 시스템에 대한 통제된 접근을 허용하게 될 수도 있습니다.

연구원들은 이 시스템이 완벽한 해결책이 아니며, 작동하기 위해 제도에 의존한다는 점을 인정합니다. 그들은 결연한 개인들이 여전히 강력한 모델을 유출할 방법을 찾아낼 수 있으며, 이 프레임워크가 위험한 기술의 확산을 완전히 막을 수는 없다는 점을 시인합니다. 그러나 그들은 이것이 그러한 확산의 비용과 난이도를 높여, 악의적인 행위자들이 가장 강력한 도구를 손에 넣는 것을 훨씬 더 어렵게 만든다고 주장합니다. 접근성을 명확한 계층으로 조직함으로써, 사회는 학습과 연구를 위한 오픈 AI의 혜택을 유지하면서도, 가장 강력한 시스템들을 위한 보안 구역을 확보할 수 있습니다. 그 결과, 가장 유능한 기계들이 모두로부터 격리되거나 모두에게 뿌려지는 것이 아니라, 그들을 가장 안전하게 사용할 수 있는 사람 및 조직과 매칭되는 세상을 만들 수 있습니다.