Position: AI Governance Needs ISO-like Interoperability Protocols, Not Just Laws
이 입장 논문은 효과적인 글로벌 AI 거버넌스를 위해 파편화된 관할 구역별 법률에서 벗어나, 국경 간 위험 소통을 가능하게 하고 중소기업의 준수 부담을 줄이며 혁신을 저해하지 않으면서도 대중의 신뢰를 구축할 수 있는 ISO와 같은 상호 운용성 프로토콜 및 표준화된 기계 판독 가능 '영양 성분표'로의 전환이 필요하다고 주장한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능은 더 이상 단순히 사진을 분류하거나 노래를 추천하는 도구에 머물지 않습니다. 인공지능은 환자를 진단하는 병원부터 대출을 승인하는 은행에 이르기까지, 세계에서 가장 중요한 시스템들을 움직이는 보이지 않는 엔진이 되었습니다. 이러한 시스템이 더욱 강력하고 복잡해짐에 따라, 전 세계 정부들은 이를 안전하고 공정하게 유지하기 위해 서둘러 규칙을 만들고 있습니다. 그러나 현재 이 규칙들은 서로 다른 언어로 작성되어 있습니다. 어떤 국가는 특정 유형의 안전 점검을 요구하는 반면, 이웃 나라는 완전히 다른 문서 세트를 요구하며, 제삼국은 기업이 무시할 수도 있는 자율 가이드라인에 의존하기도 합니다. 이러한 상충하는 규제의 파편화는 개발자들에게 혼란스러운 미로를 만들어, 유익한 기술을 국경 너머로 배포하는 것을 어렵게 만들고, 대중이 사용하는 시스템이 정말로 안전한지에 대해 불확실함을 남깁니다.
한 연구팀은 이러한 글로벌 혼란의 해결책이 더 많은 법을 만드는 것이 아니라, 법과 나란히 존재하는 보편적인 기술적 언어를 구축하는 것이라고 주장합니다. 그들의 관점에서 법률 조항에만 의존하는 것은 모든 항구마다 새로운 조약을 작성함으로써 세계 해운 산업을 관리하려는 것과 같습니다. 이는 느리고 비용이 많이 들며 오류가 발생하기 쉽습니다. 대신, 그들은 인공지능을 위한 표준화된, 기계가 읽을 수 있는 "영양 성분표"를 만들 것을 제안합니다. 식품 라벨이 소비자에게 칼로리, 성분, 알레르기 유발 물질 등 패키지 안에 무엇이 들어있는지 정확히 알려주는 것처럼, 이 새로운 디지털 라벨은 규제자와 사용자에게 인공지능 시스템 내부에 무엇이 들어있는지, 즉 얼마나 많은 에너지를 소비하는지, 학습 데이터의 출처는 어디인지, 그리고 공정성 테스트에서 어떻게 수행되는지를 알려줄 것입니다.
연구진은 데이터 프라이버시를 성공적으로 관리해 온 역사를 바탕으로, 법은 목표를 설정해야 하지만 기술 표준은 그 목표가 달sat되었음을 증명하는 실질적인 업무를 수행해야 한다고 제안합니다. 그들은 유럽 연합의 일반 데이터 보호 규정(GDPR)을 예로 듭니다. 이는 엄격한 개인정보 보호법이지만, 단순히 법 자체 때문이 아니라 기업들이 실제로 따를 수 있는 실용적이고 표준화된 보안 프로토콜에 의해 뒷받지되었기에 전 세계적으로 효과를 거둘 수 있었습니다. 인공지능에 대해서도 그들은 유사한 경로를 제안합니다. 즉, 인공지능 시스템이 한 나라에서 다른 나라로 이동할 때 자신의 안전과 준수 사항에 대한 증거를 직접 지니고 다닐 수 있게 하는 공유된 기술 형식을 만드는 것입니다. 이는 서울의 한 회사가 자신들의 시스템이 유럽 연합, 미국, 중국의 안전 요구 사항을 동시에 충족한다는 것을 증명하는 단일한 표준 문서를 만들 수 있음을 의미하며, 이를 위해 각 지역마다 코드를 다시 쓰거나 모델을 다시 학습시킬 필요가 없게 됩니다.
이 아이디어를 실현하기 위해 연구팀은 "AI 리스크 매니페스트(AI risk manifests)"라고 부르는 구체적인 구조를 설계했습니다. 이것은 인간이 읽기 위해 작성된 단순한 요약본이 아니라, 컴퓨터가 자동으로 스캔하고 검증할 수 있는 구조화된 데이터 파일입니다. 연구진은 모든 라벨이 반드시 포함해야 할 세 가지 핵심 정보를 식히했습니다. 첫째, 시스템이 서로 다른 집단의 사람들을 어떻게 대우하는지, 그리고 불공정한 결정을 내리는지 여부를 보여주는 편향성에 관한 보고가 있어야 합니다. 둘째, 모델을 학습시키고 실행하는 데 사용된 전력을 상세히 기록하여 에너지 소비량을 추적해야 합니다. 이는 환경에 대한 커지는 우려 사항입니다. 셋ey, 시스템을 가르치는 데 사용된 데이터의 명확한 이력을 제공하여, 그 데이터가 도난되거나 조작되지 않았음을 확인하기 위해 출처를 추적해야 합니다. 이 정보가 보고되는 방식을 표준화함으로써, 규제자들이 추측을 멈추고 자동화된 도구를 사용하여 시스템이 운영되기 전에 안전한지 검증하며 직접 확인할 수 있다고 연구진은 주장합니다.
또한 이 논문은 엄격한 표준을 만드는 것이 혁신을 저해하거나 중소기업의 경쟁을 너무 어렵게 만들 것이라는 흔한 공포를 다룹니다. 저자들은 현재의 파편화된 시스템이 오히려 가장 큰 혁신의 장벽이라고 반박하는데, 이는 중소기업들이 수십 개의 서로 호환되지 않는 규칙서들을 헤매게 만들기 때문입니다. 그들의 제안된 해결책은 표준을 모듈식으로 유연하게 만들어, 소프트웨어 업데이트처럼 기술 변화에 따라 진화할 수 있도록 하는 것입니다. 그들은 핵심 규칙은 안정적으로 유지하되, 새로운 유형의 AI가 등장함에 따라 세부 사항을 조정할 수 있는 체계를 구상합니다. 이러한 접근 방식은 규제 준수 비용을 낮추어 더 작은 플레이어들이 시장에 진입할 수 있게 하는 동시에, 대기업들에게는 글로벌하게 운영할 수 있는 명확한 경로를 제공할 것이라고 그들은 주장합니다.
궁극적으로 연구진은 기술을 통치하는 방식에 대한 세계의 사고 전환을 촉구하고 있습니다. 그들은 법이 무엇이 옳고 그른지를 정의하는 데 필요하지만, 복잡하고 빠르게 움직이는 시스템이 안전하게 작동하도록 보장하기에는 그것만으로는 충분하지 않다고 믿습니다. 안전의 실질적인 작업은 기술적 세부 사항, 즉 메트릭, 데이터 로그, 그리고 검증 단계에서 이루어진다고 그들은 제 제안합니다. 이러한 세부 사항을 위한 공유된 기계 판독 가능 언어를 구축함으로써, 세계는 규제의 혼란 상태에서 벗어나, 기술과 함께 이동하는 검증 가능한 사실에 기반하여 신뢰를 쌓는 글로벌 협력의 시대로 나아갈 수 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.