Versioned Governance for Frontier AI: A Software-Engineering-Inspired Approach
이 논문은 규범적 정책의 '침묵의 드리프트(silent drift)' 문제를 해결하기 위해 세밀한 버전 관리, 분류된 변경 로그, 그리고 명시적인 롤백 메커니즘을 옹호함으로써 투명하고 감사 가능하며 규제적으로 수용 가능한 정책 진화를 보장하는, 소프트웨어 공학에서 영감을 얻은 AI 거버넌스 프레임워크를 제안한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능 시스템을 규제하는 규칙들이 웹사이트의 이용 약관이나 공장의 안전 매뉴얼처럼 공개된 문서로 작성되는 세상을 상상해 보십시오. 이 문서들은 AI가 무엇을 할 수 있는지, 무엇을 거부해야 하는지, 그리고 제작자들이 어떻게 안전을 유지할 것인지에 대해 우리에게 알려줍니다. 이러한 시스템을 구축하는 사람들에게 규칙은 고정된 것이 아닙니다. 기술이 진화함에 따라 규칙은 끊임없이 변합니다. 오늘 안전해 보였던 규칙이 내일은 더 강화되어야 할 수도 있고, 새로운 기능이 등장하여 새로운 허가가 필요할 수도 있습니다. 문제는 이러한 변화가 무엇이 변경되었는지, 왜 변경되었는지, 그리고 누가 변경할 권한을 가졌는지에 대한 명확한 공개 기록 없이 발생할 때 생깁니다. 명확한 이력의 부재는 규칙이 시간이 흐름에 따라 조용히 표류하는 상황을 만듭니다. 기자, 판사, 또는 기술을 사용하려는 기업과 같은 외부인은 문서의 한 문장이 단순히 문법을 개선하기 위해 다듬어진 것인지, 아니면 AI가 허용되는 경계를 근본적으로 변화시킨 것인지 알 수 없게 됩니다.
이러한 침묵은 사회가 이러한 시스템을 신뢰하는 데 필요한 신뢰를 깨뜨리기 때문에 위험합니다. 만약 법원이 작년에 발생한 사건을 판단해야 한다면, 그들은 현재 존재하는 규칙이 아니라 그 당시에 규칙이 정확히 어떠했는지를 알아야 합니다. 만약 어떤 기업이 6개월 전의 정책을 바탕으로 자사의 안전성을 인증했다면, 그 정책이 여전히 동일한 의미를 갖는지 알아야 합니다. 현재 이러한 문서들이 업데이트되는 방식은 종종 이러한 명확성을 제공하는 데 실패합니다. 변화는 실제로 일어나지만, 그 기록은 누락되거나 혼란스럽습니다. 이는 실험실 외부의 사람들이 자신들이 사용하거나 규제하는 기술을 지배하는 규칙의 진정한 본질에 대해 추측만 하게 만듭니다.
연구자 셰신 쉬에(Zhixin Xue)는 이 문제를 조사하고 소프트웨어 엔지니어가 코드를 관리하는 방식에서 영감을 얻은 해결책을 제 제안했습니다. 컴퓨터 프로그래밍의 세계에서 개발자가 프로그램을 업데이트할 때, 그들은 모든 변경 사항을 추적하기 위해 엄격한 시스템을 사용합니다. 그들은 사용자에게 변화가 얼마나 중요한지를 알려주는 버전 번호를 부여합니다. 메이저(major) 숫자 변경은 크고 잠재적으로 호환되지 않는 업데이트를 의미하며, 마이너(minor) 숫자 변경은 기존 시스템과 계속 작동하면서 새로운 기능을 추가함을 의미하고, 패치(patch)는 작은 수정을 의미합니다. 또한 그들은 무엇이 왜 바뀌었는지 설명하는 상세한 로그를 유지합니다. 쉬에는 인공지능을 규제하는 문서들도 이와 동일한 수준의 규율을 갖추어야 한다고 주장합니다. 단순히 맥락 없이 새로운 버전의 정책을 게시하는 대신, 연구소들은 모든 변화를 분류하고, 이유를 설명하며, 영구적이고 변경 불가능한 이력을 유지하는 구조화된 시스템을 사용해야 합니다.
이러한 접근 방식이 필요한지, 그리고 어떻게 작동할 수 있는지를 테스트하기 위해, 쉬에는 2019년에서 2025년 사이 프런티어 AI 시스템을 규제하는 다섯 가지 주요 규칙 세트를 살펴보았습니다. 여기에는 OpenAI의 이용 정책 및 모델 사양, 앤스로픽(Anthropic)의 책임 있는 스케일링 정책(Responsible Scaling Policy), 유럽연합의 인공지능법(EU AI Act), 그리고 미국 국립표준기술연구소(NIST)의 위험 관리 프레임워크가 포함되었습니다. 연구자는 이 문서들이 시간이 지남에 따라 어떻게 개정되었는지 분석하며, 이러한 규율 있는 추적의 징후를 찾았습니다. 연구 결과, 일부 문서들이 버전 번호와 변경 날짜 목록을 사용하기 시작했지만, 가장 결정적인 부분들은 누락되어 있다는 것을 발견했습니다. 구체적으로, 이 문서들은 변경 사항이 규칙의 중대한 변화인지 아니면 단순한 명료화인지를 거의 설명하지 않았습니다. 또한 그들은 실수를 발견했을 때 변경 사항을 되돌릴 수 있는 명확한 메커니즘도 갖추고 있지 않았습니다.
분석 결과 저자가 '조용한 표류(silent drift)'라고 부르는 패턴이 드러났습니다. 연구된 실제 사례들에서, 규칙에 대한 가장 중요한 변화는 종종 더 강력한 새로운 AI 모델의 공개적인 출시와 같은 갑작스러운 외부 사건에 대응하여 발생했습니다. 그러나 이러한 변화에 대한 문서화는 이를 따라가지 못했습니다. 존재하던 변경 목록들은 대개 평이한 언어로 작성된 요약본에 불과했으며, 이는 무슨 일이 일어났는지는 설명했지만 변화의 중요성을 분류하지는 않았습니다. 이는 독자로 하여금 변화가 경미한 것인지 중대한 것인지 추측하게 만듭니다. 더욱이, 연구된 다섯 가지 도구 중 어느 것도 정책 변경이 문제를 일으켰을 때 이를 되돌릴 수 있는 공식적인 방법을 포함하고 있지 않았습니다. 정부와 국제 기구의 법률과 표준은 민간 기업보다 버전 추적을 더 잘하고 있었지만, 여전히 적응 속도가 느렸고 변경을 되돌리는 구체적인 메커니즘이 부족했습니다.
이 논문은 해결책이 완전히 새로운 법이나 기관을 발명하는 것이 아니라, 어떤 연구소라도 즉시 사용할 수 있는 구체적이고 가벼운 프레임워크를 채택하는 것이라고 제안합니다. 이 프레임워크는 정책 문서가 업데이트될 때마다 작성자가 4단계 시스템을 사용하여 변경 유형을 선언하도록 요구합니다: 메이저(major), 마이너(minor), 패치(patch), 빌드(build). 메이저 변화는 허용되거나 금지되는 근본적인 경계를 바꾸는 변화입니다. 마이너 변화는 핵심 원칙을 바꾸지 않으면서 새로운 시나리오나 절차를 추가하는 것입니다. 패치는 의미를 바꾸지 않는 명료화나 수정입니다. 빌드는 특정 지역이나 집단에 맞게 조정된 버전입니다. 이러한 분류와 함께, 업데이트에는 변경 사항을 설명하는 상세한 로그와 필요한 경우 이를 되돌리기 위한 계획이 포함되어야 합니다.
결정적으로, 이 논문은 변화를 잘못 분류하는 행위 자체를 기록 가능한 사건으로 취급해야 한다고 주장합니다. 만약 어떤 연구소가 변경 사항이 단지 작은 패치라고 주장했지만, 감사인이나 규제 기관이 나중에 그것이 실제로는 규칙의 중대한 변화였다고 판단한다면, 그 실수는 공개적으로 기록되어야 합니다. 이는 변화의 진정한 성격을 숨기는 것에 대해 평판 비용을 발생시킵니다. 연구는 소프트웨어 엔지니어들이 때때로 이러한 엄격한 버전 관리 규칙을 완벽하게 따르지 못하기도 하지만, 규율은 잘못되었을 때의 결과가 있을 때 가장 잘 작동한다고 언급합니다. 변화의 분류를 공적이고 감사가 가능한 주장으로 만듦으로써, 이 프레임워크는 '조용한 표류'를 가시화하고 책임을 묻는 것을 목표로 합니다.
연구 결과는 이 문제를 해결할 도구들이 이미 소프트웨어 산업에 존재하지만, AI를 규제하는 문서에는 충분히 적용되지 않았음을 나타냅니다. 격차는 기술적 능력의 부족이 아니라 동기와 규율의 부족에서 기인합니다. 연구는 AI 시스템이 더욱 강력해지고 그 규칙이 더 빈번하게 변함에 따라, 그 규칙들의 명확하고 버전이 지정된 이력을 유지하는 것이 필수적이 된다고 결론짓습니다. 이 체계 없이는, 이 강력한 시스템들을 규제하는 규칙들은 불투명하고 신뢰하기 어렵게 남을 것입니다. 구조화된 접근 방식을 통해 변화를 투명하게 만들 수 있으며, 이를 통해 규제 기관, 법원, 그리고 대중은 규칙이 어떻게 진화해 왔는지 정확히 이해하고 창조자들이 내린 결정에 대해 책임을 물을 수 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.