Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence

기술 요약: 인공지능 거버넌스를 위한 울프럼 언어(Wolfram Language) 기반 계산 법학(Computational Law) 구현

문제 제기
본 논문은 내부 추론 과정이 불투명한("블랙박스") 인공지능 시스템을 어떻게 거버넌스(통제 및 관리)할 것인가라는 과제를 다룬다. 전통적인 해석 가능성(interpretability) 연구는 AI가 '왜' 특정 결론에 도달했는지를 이해하는 데 집중하지만, 저자는 효과적인 거버넌스를 위해 시스템의 추론 과정 자체를 이해할 필요는 없다고 주장한다. 대신, 거버넌스는 시스템이 무엇을 해야 하고(의무), 무엇을 할 수 있으며(허용), 무엇을 해서는 안 되는지(금지)를 명시적으로 규정하고, 그 준수 여부를 검증하는 것을 요구한다.

핵심적인 어려움은 법의 매체에 있다. 인간의 언어는 본질적으로 모호하고, 정보 손실이 발생하며, 문맥 의존적이어서 기계가 직접 실행하기에는 부적합하다. 대규모 언어 모델(LLM)은 법률 텍스트를 유창하게 읽고 쓸 수 있지만, 인간의 모호성을 그대로 물려받아 불투명하게 해석한다. 본 논문은 계산 법학(법적 추론을 실행 가능한 코드로 정형화하는 것)이 이러한 모호성을 우회하여, AI 시스템이 법을 '해석'하는 것이 아니라 법을 직접 '실행'할 수 있게 하는 경로를 제공한다고 상정한다.

방법론
본 논문은 체계적인 평가보다는 탐색적 구현 연구에 가깝다. 저자는 다음과 같은 세 가지 접근 방식을 사용한다.

1. 정형화 구현: 저자는 DAPRECO 지식 베이스의 근간이 되는 **재화된 입출력 로직(Reified Input/Output Logic)**을 **울프럼 언어(Wolfram Language)**로 구현하였다. 이 구현은 다음을 포함한다:

   • I/O 쌍(I/O Pairs): 규범을 재작성 규칙(Input $\to$ Output)으로 표현한다.
   • 공리(Axioms): 고전적 의무 논리(deontic logic)에서 발견되는 역설을 처리하기 위해 입력 강화(Strengthening the Input, SI), 출력 약화(Weakening the Output, WO), 출력의 결합(Conjunction of Output, AND), 입력의 논리합(Disjunction of Input, OR), 그리고 집합적 누적 추이성(Aggregative Cumulative Transitivity, ACT)과 같은 논리 연산을 구현한다.
   • 규범 유형(Norm Types): 규제적 규범(의무와 허용)과 구성적 규범(예: "서명된 계약" $\to$ "직원임"과 같이 제도적 사실을 정의하는 것)을 구분한다.
   • 재화(Reification): 추상적인 사건과 상태를 기호적 객체(예: Transfer["Alice", "Book", "Bob"])로 변환하여 재귀적 구성과 구조적 검사가 가능하게 한다.
   • 시간 연산자(Temporal Operators): 시간적 범위를 처리하기 위해 재화된 시간 연산자(RexistAtTime)를 구현한다.
   • ABox/TBox 분리: 지식 표현을 관리하기 위해 원자적 사실(ABox)과 정의 및 규칙(TBox)을 분리한다.

2. LLM 번역 실험: 저자는 GPT-4(2024년 1월 버전)가 영어 법률 문장을 구현된 울프럼 언어 정형식으로 번역할 수 있는지 테스트한다. 모델에게 코드 프레임워크와 공리를 제공하고 네 가지 서로 다른 법률 문장을 번역하도록 요청했다. 생성된 출력은 실행되었으며 의도한 로직에 따라 수동으로 검증되었다.

3. 사례 연구 (플러피, Fluffy): "계산적 계약(computational contract)" 하에서 작동하는 AI 에이전트(로봇 경비견 "플러피")의 시연이다. 이 계약은 별도의 문서가 아니라 에이전트의 운영 코드에 직접 내장되어 있다. 에이전트의 센서 데이터(예: 카메라 피드, 거리 계산)는 기호적 규칙으로 직접 입력되어, 행동에 대한 심볼릭한 정당화(예: Obligation[Stop], Permission[UseTaser])를 생성한다.

주요 기여

1. 재화된 I/O 로직의 울프럼 구현: 법적 규범, 재화된 사건성, 시간 연산자를 표현하고 조작할 수 있는 DAPRECO 정형식의 작동하는 구현체를 보여줌으로써, 법적 규범을 기호 프로그래밍 언어에서 어떻게 다룰 수 있는지 입증하였다.
2. LLM 실패 모드 카탈로그: 법률 텍스트를 코드로 번де하는 과정에서 나타난 GPT-4의 실패 사례에 대한 상세 보고이다. 연구는 네 가지 구체적인 실패 패턴을 식별했다:
   • 환각 함수(Hallucinated Functions): 존재하지 않는 API 함수를 발명함.
   • 시간적 누락(Temporal Omission): 명시적으로 프롬프트를 주지 않으면 필요한 시간적 범위를 포함하지 못함.
   • 정형식 이탈(Formalism Drift): 특정 논리 정형식을 버리고 일반적인 프로그래밍 패턴으로 회귀함.
   • 침묵적 의미 오류(Silent Semantic Errors): 가장 치명적인 실패 모드로, 코드가 오류 없이 실행되고 그럴듯해 보이지만 실제로는 잘못된 규범을 인코딩함(예: 3D 거리가 아닌 표면 거리를 체크하거나, 엉뚱한 대상에게 의무를 적용함). 이러한 오류는 판별력이 없는 테스트 케이스에 대해 "정상처럼 보이는" 출력을 생성하기 때문에 초기 인간 검토를 통과하기도 했다.
3. 플러피 사례 연구: 계산적 계약이 에이전트의 운영 코드로 직접 확장되어, 법률 텍스트와 기계 행동 사이의 간극을 메우면서 심볼릭한 감사 추적(audit trail)을 생성할 수 있음을 보여주는 개념 증명이다.
4. 거버넌스 프레임워크: "AI의 거버넌스"(기계 행동 제어)와 "AI 내의 거버넌스"(인간 개발자 제어)를 구분하며, 계산 법학이 전자를 위한 도구임을 주장한다.

결과

• 구현: 울프럼 언어는 복잡한 논리합, 재화된 부정, 중첩된 의무를 포함한 재화된 I/O 로직의 요구 사항을 성공적으로 처리했다. 그러나 저자는 완전한 정형화가 (예: "금발 혹은 결합" 규칙과 같이) 법률 전문가가 읽을 수 없을 정도로 복잡한 공식으로 이어진다는 점을 언급하며, 인간의 언어와 형식 논리 사이의 간극을 강조했다.
• LLM 성능: GPT-4는 후보 코드를 빠르게 생성하고 수정 요청에 잘 반응하는 능력을 보였다. 그러나 모델이 자율적인 정형화 도구로서 기능하는 데는 실패했다. 번역된 네 가지 문장 중 세 문장에서 침묵적 의미 오류가 발견되었으며, 이는 본 논문을 준비하는 과정에서 발견되었다. 연구는 LLM이 실행 가능한 테스트 케이스를 통한 엄격한 인간 검증이 전제될 때만 유효한 생산성 도구라고 결 결론지었다.
• 사례 연구: 플러피 에이전트는 실시간 센서 데이터를 바탕으로 규칙을 성공적으로 실행하여 다양한 시나리오에 대해 올바른 의무/허용(deontic) 출력을 생성했다. 그러나 연구 결과, 에이전트를 검증하는 데 사용된 테스트 하네스(test harness) 자체에도 버그가 있음이 드러났다. 이는 검증 레이어 자체도 반드시 정밀 검토되어야 함을 뒷 보강한다.

의의 및 주장
본 논문은 계산 법학이 "AI 내의 거버넌스"(인간 개발자 규제)가 아닌 "AI의 거버넌스"(기계 행동 제어)를 위한 실행 가능한 기술적 경로임을 주장한다.

• 감사 가능한 정당화: 규칙을 코드에 직접 내장함으로써, AI 시스템은 불투명한 "블랙박스" 결정 대신 투명하고 심볼릭한 정당화 기록을 생성할 수 있다.
• 집행 메커니즘: 기계에 대한 집행은 물리적 처벌이 아닌 에너지(전기)와 정보(컴퓨팅 예산, 데이터 접근권)에 대한 통제를 통해 달성될 수 있다고 제안한다. 계산적 계약은 운영 행동을 경제적 페널티(예: 낮은 평점, 컴퓨팅 자원 제한)와 연결할 수 있다.
• 정형화의 한계: 저자는 모든 법을 정형화하는 것이 목표가 아님을 명시한다. "합리적인", "신의성실"과 같은 많은 법적 개념은 정형화를 거부하는 "개방적 질감(open texture)"을 가지고 있다. 목표는 세금 규정, 금융 준수, 안전 필수 기계 작동과 같이 "정형화가 가능하고 프로그램적으로 실행되어야 하는 법"을 정형화하는 것이다.
• 파이프라인 접근 방식: 저자는 LLM이 번역 초안을 작성하고, 형식 시스템이 이를 검증하며, 인간이 최종 판단을 내리는 역할 분담을 제안한다. 침묵적 의미 오류의 위험 때문에 LLM을 자율적 정형화 도구로 사용하는 것을 거부한다.

논문은 기술적 장치(실행 가능한 법)는 이미 존재하지만, 배포를 위해서는 기술적 과제(충돌 해결, 검증된 라이브러리), 법적 과제(코드 기반 법에 대한 표준), 그리고 제도적 과제(실행 가능한 계약에 대한 규제적 인정)를 해결해야 한다고 결론짓는다. 궁극적인 목표는 인간의 판단을 대체하는 것이 아니라, 기계의 속도에 맞춰 규제와 혁신 사이의 균형을 강제할 수 있을 만큼 날카로운 도구를 제공하는 것이다.