다음은 CANONIC: 거버넌스는 컴파일이다(Governance Is Compilation) 논문을 일상적인 언어와 창의적인 비유를 사용하여 번역한 내용입니다.

거대한 문제: "슬롭(Slop)"의 홍수

누구보다 빠르게 책을 찍어낼 수 있는 공장을 상상해 보세요. 2025년, 이 공장(AI)은 엄청난 양의 텍스트를 쏟아내기 시작했고, 이는 새로운 문제를 야기했습니다. 바로 **"슬롭(Slop)"**입니다.

"슬롭"은 단순히 글을 못 쓰는 것이 아닙니다. 그것은 완벽해 보이고, 똑똑하게 들리며, 유려하게 흐르지만, 실제 현실과는 아무런 연결 고리가 없는 텍스트를 말합니다. 마치 요리사가 몇 초 만에 아주 맛있어 보이는 음식을 만들어냈지만, 그 재료가 플라스틱인 것과 같습니다. 먹으면 병이 나겠지만, 접시만 보고는 그것이 가짜라는 것을 알아챌 수 없습니다.

이 논문은 더 많은 사람을 고용해 책을 읽게 하거나(인간 검토), 더 나은 거짓말 탐지기를 만드는 것(AI 탐지)으로는 이 문제를 해결할 수 없다고 주장합니다. 왜일까요? 가짜 책들이 진짜 책과 똑같이 생겼기 때문입니다. 공장은 너무 빠르고, "가짜" 책들은 너무나 설득력이 있습니다.

해결책: "컴파일러(Compiler)"라는 문턱

저자인 데스턴 해들리(Dexter Hadley)는 근본적인 패러다임의 전환을 제안합니다. 책이 진실인지 판단하려고 노력하는 대신(이는 어렵습니다), 책이 구조적으로 유효한지를 판단해야 한다는 것입니다(이는 쉽습니다).

그는 이것을 **컴파일로서의 거버넌스(Governance as Compilation)**라고 부릅니다.

컴퓨터 프로그램을 생각해 보세요. 프로그램이 실행되기 전, "컴파일러"가 이를 검사합니다. 컴파일러는 "이 프로그램이 세상의 문제를 해결할 것인가?" 혹은 "이 코드가 천재적인가?"를 묻지 않습니다. 대신 다음과 같은 세 가지 단순하고 기계적인 질문을 던집니다.

1. 사전에 존재하는 단어를 사용했는가?
2. 컴퓨터에 실제로 존재하는 파일을 참조하고 있는가?
3. 그 파일이 약속된 폴더 안에 들어있는가?

이 중 하나라도 답이 "아니오"라면, 컴파일러는 **"에러(Error)"**를 내뱉고 프로그램 실행을 중단합니다. 코드가 아무리 천재적이라 할지라도, 구조적으로 결함이 있다면 거부됩니다.

CANONIC은 이와 동일한 논리를 AI 글쓰기에 적용합니다. 이는 텍스트를 위한 "컴파일러" 역할을 합니다. AI가 생성한 콘텐츠가 공공 도서관(코퍼스, corpus)에 들어가기 전, 반드시 세 개의 관문을 통과해야 합니다.

세 개의 관문 (The Triad)

글이 CANONIC의 관문을 통사하려면, 특정 유형의 폴더 안에 세 개의 특정 파일이 담긴 형태로 구축되어야 합니다. 만약 파일 하나라도 누락되면, 그 텍스트는 즉시 거부됩니다.

1. 규칙집 (CANON.md): 이 파일은 "이 특정 주제에 대한 규칙은 이것이다"라고 명시합니다. 이것이 곧 법입니다.
2. 사전 (VOCAB.md): 이 파일은 규칙집에서 사용된 모든 단어를 정의합니다. 정의되지 않은 멋진 단어를 함부로 사용할 수 없습니다. 이는 AI가 임의로 전문 용어를 만들어내는 것을 방지합니다.
3. 설명서 (README.md): 이 파일은 프로젝트가 실제로 무엇에 관한 것인지 설명합니다.

비유: 당신이 집을 짓고 있다고 상상해 보세요.

• 사전은 승인된 자재 목록입니다 (예: "벽돌"은 빨간 점토 벽돌을 의미하며, 빨간 플라스astik이 아닙니다).
• 규칙집은 "모든 벽은 벽돌로 만들어져야 한다"라고 규정합니다.
• 설명서는 "이것은 집이다"라고 말합니다.

만약 당신이 "빨간 플라스틱"을 사용하면서 사전에서 이를 정의하지 않는다면, 검사관(컴파일러)은 당신을 막아설 것입니다. 당신이 "믿어달라, 이건 벽이다"라고 말하는 것만으로는 부족합니다.

"증거 원장 (The Evidence Ledger)"

논문은 두 번째 층위인 **원장(Ledger)**을 도입합니다.
텍스트에서 이루어지는 모든 주장은 공개적이고 변경 불가능한 기록(Git 저장소와 같은)에 있는 특정 "커밋(commit, 파일의 저장된 버전)"에 연결되어야 합니다.

• 주장: "환자의 상태가 호전되었다."
• 앵커(Anchor): "원장의 커밋 #12345를 참조하시오."

만로 작성자가 그 주장을 증명할 수 있는 구체적인 커밋을 제시하지 못한다면, 그 텍스트는 거부됩니다. 이는 마치 법정에서 "내가 직접 봤다"라고 말하는 것과 같습니다. 반드시 비디오 테이프를 제출해야 합니다. 테이프를 제시하지 못하면, 그 주장은 기록에 남을 수 없습니다.

CANONIC이 하는 일 (그리고 하지 않는 일)

이 부분이 이 논문에서 가장 중요한 부분입니다. 저자는 한계에 대해 매우 솔직합니다.

CANONIC이 하는 것:
**책임성(Accountability)**을 보장합니다.
어떤 텍스트가 관문을 통과했다면, 당신은 다음을 확신할 수 있습니다:

• 모든 단어가 정의되었습니다.
• 모든 주장이 특정 증거를 가리키고 있습니다.
• 규칙이 준수되었습니다.

이것은 "검증 불가능한 산문"을 "체크 가능한 기록"으로 바꿉니다. 설령 텍스트가 틀렸더라도, 이제는 추적 가능합니다. 당신은 증거를 살펴보고, 어디서 잘못되었는지 찾아내어 수정할 수 있습니다.

CANONIC이 하지 않는 것:
**진실(Truth)**을 보장하지는 않습니다.
논문은 이 시스템이 "슬롭(Slop)"을 걸러낼 수 있는지 확인하기 위해 테스트(벤치마크)를 수행했습니다. 결과는 놀라웠습니다: 걸러내지 못했습니다.

• 테스트: 연구진은 가짜 뉴스, 진짜 뉴스, 그리고 교묘하게 조작된 AI 생성 거짓 정보를 시스템에 입력했습니다.
• 결과: 가짜 뉴스가 잘 짜여진 구조(정의된 단어, 실제처럼 보이는 가짜 증거, 명확한 타임라인)를 갖추고 있다면, "컴파일러" 관문은 그 가짜 뉴스를 통과시켰습니다.
• 교훈: 기계는 문장이 문법적으로 유효하고 참조가 되어 있는지는 확인할 수 있지만, 그 문장이 진실인지는 확인할 수 없습니다.

비유:
은행의 보안 요원을 상상해 보세요.

• CANONIC은 당신의 신분증을 검사하는 요원입니다. 만약 당신의 신분증이 정교하게 위조되었고, 사진도 있고 데이터베이스 형식과 일치한다면, 요원은 당신을 들여보내 줄 것입니다. 요원은 당신이 유효한 신분증을 가졌는지를 확인하는 것이지, 당신이 선한 사람인지를 확인하는 것이 아닙니다.
• 진실은 은행 지점장이 결정합니다. 지점장은 신분증을 보고, 그 사람을 직접 대면하며, "잠깐, 이 사람은 자신의 잔고에 대해 거짓말을 하고 있군"이라고 판단합니다.

논문은 우리가 알고리즘(경비원)에게 누가 거짓말을 하는지 결정하게 만들려고 노력해 왔다고 주장합니다. 논문의 핵심은 이렇습니다: 그만하십시오. 경비원의 역할은 단지 신분증을 확인하는 것입니다. 진실 여부를 결정하는 것은 매니저의 몫입니다.

"인간 참여 (Human-in-the-Loop)"

이 시스템은 인간이 규칙을 쓰고, AI가 콘텐츠를 쓰는 구조로 설계되었습니다.

• 인간은 "헌법(Constitution)"을 설정합니다 (CANON.md 파일의 규칙).
• AI는 텍스트를 생성합니다.
• "컴파일러"는 AI가 규칙을 준수했는지 검사합니다.
• 만약 AI가 규칙을 바꾸려 한다면, 차단됩니다. 오직 인간만이 헌법을 바꿀 수 있습니다.

이를 통해 AI는 빠르고 창의적일 수 있지만, 법을 어기거나 흔적을 숨길 수는 없는 시스템을 만듭니다.

요약

논문은 "슬롭(구조적으로 완벽하게 만들어진 가짜 또는 근거 없는 AI 텍스트)"을 자동으로 식별하는 알고리즘을 만들 수는 없다고 결론짓습니다.

대신, 우리는 책임성을 강제하는 시스템을 구축해야 합니다.

• 과거 방식: "이 AI가 쓴 기사는 진실이라고 믿어주세요." (검증하기 어려움).
• 새로운 방식 (CANONIC): "여기 기사가 있습니다. 여기에 사용된 단어의 사전가 있습니다. 여기에 증거가 담긴 정확한 파일이 있습니다. 그리고 이 기사가 따른 규칙집이 있습니다. 당신은 이 모든 것을 스스로 확인할 수 있습니다."

이 시스템은 거짓말을 막는 것이 아니라, 만약 거짓말이 발생했을 경우 그 거짓말이 명확하고 변경 불가능한 증거의 흔적을 남기도록 하여, 인간 전문가가 이를 찾아내고 지적할 수 있게 만듭니다. 이는 AI라는 "블랙박스"를 모든 것이 보이고 검증 가능한 "글래스박스(Glass Box)"로 바꾸는 작업입니다.