Operational Identity: A Finite Audit of Declared and Implemented Rules of Sameness

동일함의 보이지 않는 규칙들

당신이 친구와 함께 거대하고 복잡한 '점 이어 그리기' 게임을 하고 있다고 상상해 보세요. 두 사람 모두에게는 "점의 색깔을 바꿔도 그것은 여전히 같은 점이다. 하지만 새 페이지로 옮기면 그것은 새로운 점이다"라고 적힌 규칙 책이 있습니다. 이것이 많은 컴퓨터 시스템이 작동하는 방식입니다. 그들은 설계자들이 작성한 공식적인 규칙 책인 **선언(Declaration)**을 가지고 있습니다. 이 선언은 두 데이터 조각이 '동일한지'(상호 참조되는지) 아니면 '다른지'를 결정하는 기준을 시스템에 알려줍니다.

하지만 여기 반전이 있습니다. 컴퓨터는 단순히 규칙 책을 읽기만 하는 것이 아니라, 실제 코드, 숨겨진 스위치, 그리고 게임을 하는 동안 누르는 자동 버튼인 메커니즘(Mechanism) 또한 가지고 있습니다. 때때로 컴퓨터의 숨겨진 버튼은 규칙 책이 말하는 것과는 다른 리듬으로 눌리기도 합니다. 예를 들어, 규칙 책은 "색깔 변화는 상관없다"라고 말하지만, 컴퓨터의 코드는 몰래 "색깔이 바뀌면 우리는 이것을 완전히 새로운 점으로 취급해야 한다!"라고 말할 수 있습니다.

이 논문은 컴퓨로 과학과 논리학의 세계, 구체적으로는 시간이 흐름에 따라 사물(법적 규칙, AI 에이전트, 또는 데이터베이스 기록 등)을 어떻게 추적하고 관리하는지를 다룹니다. 큰 문제는 시스템이 종종 스스로에게 거짓말을 한다는 점입니다. 시스템은 자신이 약속한 규칙과는 완전히 다른 숨겨진 규칙을 완벽하게 일관성 있게 따를 수도 있습니다. 만약 확인하지 않는다면, 당신은 동일한 것에 대해 이야기하고 있다고 생각하지만, 컴퓨터는 전혀 다른 것을 이야기하고 있다고 생각할 수 있습니다. 이것은 당신의 은행, 의료 기록, 또는 법적 계약이 이러한 숨겨진 불일치 위에 구축되어 있다면, 그 과정을 추적하려고 할 때 전체 시스템이 무너질 수 있다는 점에서 매우 중요합니다.

위대한 "동일함" 감사 (The Great "Same-ness" Audit)

이 논문은 이러한 숨겨진 불일치를 잡아내는 영리한 방법을 소개합니다. 저자인 데니스 케이스(Denise Case)는 이를 **운영적 정체성 감사(Operational Identity Audit)**라고 부릅니다. 이것은 탐정이 용의자의 일기(선언)를 읽는 것에 그치지 않고, 용의자가 타이핑을 할 때 그 손의 움직임(구현)을 관찰하는 추리 소설과 같습니다.

두 가지 분할 (The Two Partitions)
100개의 찰흙 공이 쌓여 있다고 상상해 보세요.

1. 선언된 분할 (The Declared Partition): 규칙 책에는 "공을 찌그러뜨려도 그것은 여전히 같은 공이다"라고 적혀 있습니다. 그래서 당신은 찌그러진 공들을 모두 한데 묶습니다. 이것이 "선언된 분할"입니다.
2. 운영적 분할 (The Operational Partition): 이제 공을 다루는 로봇을 관찰해 보세요. 규칙 책은 "찌그러뜨려도 동일함"이라고 말하지만, 로봇에게는 비밀 센서가 있습니다. 공이 찌그러질 때마다 로봇은 공에 작은 점을 찍고 이를 다른 상자에 넣습니다. 로봇은 "찌그러짐 = 새로운 공"이라는 숨겨진 규칙을 따르고 있는 것입니다. 이것이 "운영적 분할"입니다.

이 논문의 핵심 작업은 이 두 그룹을 비교하는 것입니다. 질문은 이것입니다: 로봇의 숨겨진 그룹화가 규칙 책이 하나로 묶어두라고 명시한 그룹을 나누어 버리는 경우가 발생하는가?

"발산 증거" (The "Divergence Witness")
만약 로봇이 규칙 책이 함께 묶어두었던 그룹을 나누어 버린다면, 논문은 이를 **발산 증거(Divergence Witness)**라고 부릅니다. 이것은 규칙 책은 쌍둥이라고 말하지만 로봇은 서로 남남으로 취급하는 단 한 쌍의 찰흙 공을 찾아내는 것과 같습니다. 논문은 문제를 찾기 위해 모든 공을 확인할 필요가 없음을 증명합니다. 이러한 불일치 쌍을 단 하나라도 찾아내는 것만으로도 시스템이 자신의 규칙에 대해 거짓을 말하고 있다는 것을 입증하기에 충분합니다.

"형제" 탐정 작업 (The "Sibling" Detective Work)
때때로 로봇은 단순히 무작위적인 비밀 규칙을 따르는 것이 아니라, 시스템 설계자들이 언급하지 않은 다른 공식적인 규칙을 따르고 있을 수도 있습니다. 논문은 **형제(Siblings)**라는 개념을 도입합니다.

• 규칙 책이 "색깔이 중요하다" (규칙 A)라고 말한다고 가정해 봅시다.
• 하지만 알려진 "형제 규칙" (규칙 B)인 "모양이 중요하다"라는 규칙이 존재합니다.
• 만약 로봇이 모양을 기준으로 공을 나누고 있다면, 감사는 이렇게 말할 수 있습니다: "아하! 당신은 규칙 A를 따르는 것이 아니라, 규칙 B를 따르고 있군요."
• 그러나 논문은 이 부분에서 매우 신중합니다. 로봇이 규칙 책이 만든 그룹 안에서 '모양' 규칙을 따른다고 해서, 로봇이 모든 곳에서 '모양' 규칙을 완전히 따르고 있다는 뜻은 아님을 증명합니다. 로봇은 이것저것 섞어서 적용할 수도 있기 때문입니다. 논문은 로봇의 비밀 규칙이 공식 규칙과 정확히 어떻게 다른지 분류하기 위해 특정한 "격자(lattice, 화려한 격자 구조)"를 만듭니다.

"버전 필드"의 함정 (The "Version Field" Trap)
이 논문의 가장 흥สนใจ로운 예 중 하나는 "버전 필드"를 포함합니다. 텍_글자 하나를 바꿀 때마다 버전 번호가 올라가는(1.0, 1.1, 1.2) 문서를 상상해 보세요.

• 규칙 책: "텍스트의 의미가 동일하다면, 그것은 동일한 문서이다."
• 로봇: "버전 번호가 바뀌면, 그것은 새로운 문서이다!"
• 결과: 로봇은 규칙 책이 하나의 큰 그룹으로 유지하라고 한 것에도 불구하고, 버전 번호를 기준으로 문서를 아주 잘게 쪼개어 그룹화합니다. 논문은 이것이 **"하위 형제 발산(Sub-sibling Divergence)"**이라 불리는 특정 유형의 불일치임을 보여줍니다. 로봇은 '모양' 규칙보다도 더 세밀하게 나누는, 지나치게 까다로운 태도를 보이고 있습니다.

"통과"의 함정 (비단조성, Non-Monotonicity)
이 논문에서 가장 난해한 부분입니다. 보통 시험에 합격하면 영원히 합격한 상태로 남습니다. 하지만 이 논문은 이 종류의 감사에서는 합격이 영구적이지 않다는 것을 증로합니다.
오늘 당신이 10개의 공을 가지고 로봇을 테스트했고, 로봇이 통과했습니다. 당신은 로봇에게 "충실함" 판정을 내립니다.
그런데 내일, 당신이 찰흙 공 하나를 더 추가하여 기존의 것들과 연결합니다. 갑자기 규칙 책은 "오, 이 두 공은 사실 같은 것이다!"라고 말합니다. 하지만 로봇은 비밀 센서 때문에 여전히 이들을 다르게 취급합니다.
이제 로봇은 탈락합니다! 논문은 이를 **비단조성(Non-Monotonicity)**이라고 부릅니다. "합격" 판정은 당신이 살펴본 특정 사건의 이력에 대해서만 유효합니다. 만약 더 많은 이력(더 많은 변화, 더 많은 시간)을 추가한다면, 어제 합격했던 시스템이 오늘 탈락할 수 있습니다. 당신은 영구적인 "선행 증명서"를 받을 수 없습니다. 오직 "특정 시점까지의 행동 보고서"만을 받을 수 있을 뿐입니다.

이 논문이 배제하는 것들
이 논문은 자신이 무엇을 하지 않는지에 대해 매우 엄격합니다.

• 이 논문은 어떤 규칙이 "옳은" 것인지(예: '색깔'과 '모양' 중 무엇이 객체의 진정한 정의인지)를 말해주지 않습니다. 단지 로봇이 자신에게 주어진 규칙을 따르고 있는지를 확인할 뿐입니다.
• 이 논문은 숨겨진 규칙을 찾아낼 수는 있지만, 이는 감사자가 공개하거나 발견한 규칙에 한해서만 가능합니다. 이 감사는 시스템 운영자가 감사자에게 보여주는 메커니즘(특정 코드 필드, 워크플로 상태, 또는 구성 값 등)이나 감사자가 조사를 통해 찾아낸 목록을 검토함으로써 작동합니다. 만약 메커니즘이 문서화되지 않은 코드나 아무도 밝히지 않은 비밀스러운 관행 속에 숨겨져 있다면, 감사는 이를 볼 수 없습니다. 감사의 정확도는 설계자가 탐정에게 보여준 스위치 목록, 혹은 탐정이 조사 끝에 간신히 찾아낸 목록에 달려 있습니다.
• 이 논문은 로봇이 두 가지를 하나로 합쳤다고 해서 로봇이 "고장 났다"고 말하지 않습니다. 논문은 로봇이 규칙 책이 유지하라고 했던 것들을 나누는(split) 경우에만 관심을 가집니다. 합치는 것(merge)은 괜찮을 수 있지만, 나누는 것은 죄가 됩니다.

결론
이 논문은 자신만의 방식으로 '정직'하지만, 자신이 약속한 것과는 '불성실'한 시스템을 잡아내는 수학적 도구를 제공합니다. 이는 "뭔가 잘못된 것 같다"는 막연한 느낌을 구체적이고 검증 가능한 불일치 목록으로 바꿔줍니다. 디지털 세계에서는 시스템이 일관성을 유지한다고 해서 반드시 진실하다는 뜻은 아님을 보여줍니다. 또한, 시스템에 대한 우리의 신뢰는 언제나 일시적임을 경고합니다. 왜냐에는 단 하나의 역사적 조각을 더 추가하는 것만으로도, 그 시스템이 우리가 생각했던 규칙을 결코 따르고 있지 않았음이 드러날 수 있기 때문입니다.