Legal interpretation and AI: from expert systems to argumentation and LLMs

이 논문은 AI 와 법 연구가 전문가 시스템, 논증, 그리고 최근의 대규모 언어 모델 (LLM) 의 발전에 따라 법적 해석을 지식 공학, 변증법적 상호작용, 그리고 자동화된 생성이라는 서로 다른 방식으로 접근해 온 과정을 조명합니다.

핵심

1. 첫 번째 단계: "엄격한 규칙을 외운 로봇" (전문 시스템)

비유: "정해진 레시피대로만 요리를 하는 로봇"

1970~90 년대, AI 연구자들은 법을 컴퓨터에 넣기 위해 전문 시스템을 만들었습니다. 이때의 AI 는 마치 완벽한 레시피를 외운 요리사와 같았습니다.

• 어떻게 작동했나요?
  인간 전문가 (요리사) 가 "법"이라는 레시피를 하나하나 입력했습니다. 예를 들어, "공원에 차를 금지한다"는 법을 입력할 때, "자전거는 차인가?"라는 질문이 생깁니다. 이때 인간이 "아니요, 자전거는 제외합니다"라고 미리 정해두면, 로봇은 그 규칙만 따릅니다.
• 문제점은?
  만약 인간이 실수로 "자전거도 차다"라고 입력해 버리면, 로봇은 아이의 작은 자전거까지 공원에서 쫓아냅니다. 로봇은 상황을 고려하거나 유연하게 생각할 수 없었습니다. 모든 해석을 미리 정해둔 규칙에 맡겼기 때문에, 예상치 못한 상황 (예: 아이의 자전거) 에는 너무 경직되어 버렸습니다.

2. 두 번째 단계: "논쟁을 즐기는 변호사들" (논증)

비유: "법정에서 서로 설득하는 변호사들"

로봇이 너무 경직되자, 연구자들은 **논증 (Argumentation)**이라는 방식을 도입했습니다. 이제 AI 는 법정에서 서로 다른 주장을 펼치는 변호사들처럼 작동합니다.

• 어떻게 작동하나요?
  "공원에 차 금지"라는 법을 두고 두 가지 주장이 충돌합니다.

  1. 경찰 (로봇 A): "일상적인 말로 '차'는 자전거도 포함하니까 금지해야 해!" (일반적 의미)
  2. 아이의 부모 (로봇 B): "이 법의 목적은 소음과 위험을 막는 거니까, 아이의 자전거는 허용해야 해!" (목적론적 의미)

  AI 는 이 두 주장을 동시에 가져와서, "어떤 주장이 더 설득력 있는가?"를 판단합니다. 마치 법정에서 판사가 양쪽 변호사의 말을 듣고 최선의 결론을 내리는 과정을 시뮬레이션하는 것입니다.

• 장점:
  이제 AI 는 단순히 규칙을 따르는 게 아니라, 왜 그렇게 해석해야 하는지 이유를 들이대며 유연하게 판단할 수 있게 되었습니다.

3. 세 번째 단계: "방대한 책을 읽은 천재 (하지만 때론 망상가)" (대형 언어 모델, LLM)

비유: "모든 책을 읽었지만, 진짜 경험을 해보지 않은 천재 학생"

최근 등장한 **생성형 AI (LLM)**는 거대한 도서관의 모든 책을 읽은 천재 학생과 같습니다.

• 무엇을 잘하나요?

  • 빠른 요약: 복잡한 법조문을 쉽게 설명해 줍니다.
  • 다양한 관점: "자전거는 금지될까?"라고 물으면, "일반적인 의미, 목적, 판례" 등 다양한 각도에서 답변을 만들어냅니다.
  • 창의성: 인간이 생각지 못한 새로운 해석을 제안하기도 합니다.

• 하지만 치명적인 약점이 있습니다 (할루시네이션):
  이 천재 학생은 진짜 경험을 해본 적이 없습니다. 단지 책에 쓰인 말들을 통계적으로 연결할 뿐입니다.

  • 망상 (Hallucination): "아니, 사실은 자전거 금지 법이 1990 년에 폐지되었어!"라고 사실과 다른 거짓말을 매우 그럴듯하게 해낼 수 있습니다.
  • 이유 없는 결론: "왜 그런가?"라고 물으면, "책에 그렇게 쓰여 있었으니까"라고 말하지만, 그 '책'은 실제로 존재하지 않을 수도 있습니다.

4. 결론: 우리는 AI 를 어떻게 써야 할까?

비유: "AI 는 훌륭한 '조수'지만, '주인'이 될 수는 없다"

이 논문은 AI 를 법 해석의 **최종 결정권자 (주인)**로 삼아서는 안 된다고 강력히 경고합니다.

• 왜?
  AI 는 **진실 (Truth)**을 알지 못하고, 도덕적 책임을 질 수 없기 때문입니다. 만약 AI 가 아이의 자전거를 금지한다고 잘못 판단해서 벌금을 매기면, 그 책임은 AI 가 질 수 없습니다.
• 올바른 사용법:
  AI 는 **유능한 조수 (비서)**가 되어야 합니다.
  • AI 는 "이 법조문에 대해 이렇게 해석할 수도 있고, 저렇게 볼 수도 있어. 참고 자료는 여기 있어"라고 아이디어를 제안합니다.
  • 하지만 최종 결정은 반드시 인간 변호사나 판사가 내려야 합니다. 인간은 AI 가 제안한 아이디어를 검토하고, "아, 이건 우리 사회의 가치와 맞지 않네"라고 최종적으로 판단해야 합니다.

요약

1. 과거: AI 는 경직된 로봇처럼 미리 정해진 규칙만 따랐습니다.
2. 중간: AI 는 변호사처럼 서로 다른 주장을 비교하며 논리적으로 판단했습니다.
3. 현재: AI 는 천재 조수처럼 빠르고 다양한 해석을 제안하지만, 거짓말을 할 수도 있고 책임감은 없습니다.
4. 미래: AI 는 도구일 뿐입니다. 법을 해석하고 책임을 지는 것은 결국 인간이어야 합니다.

이 논문은 AI 가 법조계에 혁명을 일으키고 있지만, 우리는 그 한계를 정확히 알고 인간이 주도권을 쥐고 있어야 한다고 말하고 있습니다.

기술 요약

논문 요약: 법적 해석과 AI - 전문가 시스템에서 논증 및 LLM 으로

저자: Václav Janeček, Giovanni Sartor
주제: AI 와 법 (AI and Law) 연구가 법적 해석 (Legal Interpretation) 문제를 어떻게 접근해 왔는지, 그리고 최근 생성형 AI(특히 LLM) 의 등장으로 인해 어떻게 진화하고 있는지에 대한 고찰.

1. 문제 제기 (Problem)

법적 해석은 법의 의미 (특히 성문법 조항) 를 특정 상황에 적용하기 위해 결정하는 과정으로, 법조계뿐만 아니라 일반 시민에게도 필수적인 작업입니다. 그러나 법적 텍스트는 종종 모호하거나 (syntactic ambiguity), 맥락에 따라 다양한 해석이 가능하여 (vagueness), 해석의 주체가 누구이며 어떤 방법론으로 해석의 불확실성을 해결할 것인지에 대한 기술적 접근이 필요합니다.
기존의 AI 연구는 법적 지식을 어떻게 체계화하여 기계가 일관되게 적용할 수 있을지에 집중했으나, 최근 대규모 언어 모델 (LLM) 의 등장으로 해석의 자동화 가능성과 그 한계 (할루시네이션, 논리적 비일관성 등) 에 대한 새로운 논의가 촉발되었습니다.

2. 연구 방법론 및 접근 방식 (Methodology)

저자들은 AI 와 법 연구의 역사적 흐름을 세 가지 주요 단계로 나누어 법적 해석의 기술적 접근 방식을 분석합니다.

• 1 단계: 전문가 시스템 (Expert Systems, 1970~1990 년대)

  • 기반: 심볼릭 AI (Symbolic AI) 및 인간이 생성한 지식 베이스.
  • 접근: 법적 해석의 불확실성을 해결하기 위해 지식 엔지니어가 해석 규칙을 사전에 정의하여 지식 베이스에 주입하는 방식.
  • 예시: "법률 및 컴퓨터 학위를 가진 개인은 지원할 수 있다"는 문장의 모호성을 해결하기 위해 논리 연산자 (AND/OR) 를 사용하여 해석을 명확화하거나, "자전거는 차량이다"와 같은 해석 규칙을 시스템에 미리 정의함.
  • 한계: 해석 권한이 시스템 구축자 (엔지니어) 에게 집중되어 특정 상황 (예: 어린이의 자전거) 에 대한 유연한 적용이 어렵고, 시스템이 논리적 일관성을 유지해야 하므로 상충되는 해석을 동시에 수용하기 어려움.

• 2 단계: 논증 이론 (Argumentation)

  • 기반: 논리적 일관성보다는 상반된 주장을 대립시키고 변증법적으로 평가하는 프레임워크.
  • 접근: 해석을 단일한 결론이 아닌, 다양한 해석 기준 (canons, 예: 일반적 의미, 목적론적 해석, 선례 등) 에 기반한 '논증'의 경쟁으로 모델링.
  • 메커니즘: 서로 다른 해석 주장 (예: 일반 언어에 따르면 차량에 자전거 포함 vs. 법의 목적상 어린이 자전거 제외) 을 구성하고, 논증 그래프 (Argument Graph) 를 통해 어떤 주장이 다른 주장보다 우세한지 (defeat) 평가.
  • 특징: 해석의 불확실성을 시스템 내부에서 논증 구조를 통해 처리하며, 인간 판사가 최종 판단을 내리기 전까지의 논리적 과정을 시각화.

• 3 단계: 머신러닝 및 생성형 AI (Machine Learning & LLMs)

  • 기반: 대규모 신경망 (Deep Neural Networks) 과 방대한 텍스트 데이터로 사전 훈련된 LLM.
  • 접근: 규칙 기반이 아닌 언어적 패턴과 확률적 추론을 통해 해석 제안 생성.
  • 기술적 도구:
    • RAG (Retrieval-Augmented Generation): 외부 법률 지식 베이스를 검색하여 LLM 의 답변을 사실에 기반하도록 보정.
    • Generative Interpretation: 계약 해석 등에서 LLM 을 사용하여 당사자의 의도를 파악하거나 모호성을 정량화.
    • 프롬프트 엔지니어링: Chain-of-Thought (CoT) 등을 통해 논리적 추론 과정을 유도.

3. 주요 기여 (Key Contributions)

• 법적 해석의 기술적 진화 분석: 규칙 기반의 '지식 주입'에서 논증 기반의 '의사결정 구조화', 그리고 통계 기반의 '언어적 생성'으로 이어지는 AI 의 법적 해석 접근법 변화를 체계적으로 정리함.
• LLM 의 법적 해석 능력에 대한 비판적 평가: LLM 이 법적 해석에서 가질 수 있는 잠재력 (효율성, 다양한 해석 제안) 과 근본적인 한계 (할루시네이션, 사실성 부재, 논리적 비일관성, 규범적 이해 부족) 를 명확히 구분.
• 인간 - AI 협업 모델 제안: LLM 을 '독립적인 해석자'가 아닌, 숙련된 법률가를 보조하는 '동료 (Companion)'로 위치 짓는 프레임워크 제시.
• 생성적 해석 (Generative Interpretation) 개념 정립: LLM 을 통해 계약이나 법령의 '일반적 의미'를 데이터 기반으로 탐색하는 새로운 해석 방법론을 제안하고 그 법적 타당성을 논의.

4. 결과 및 발견 (Results)

• 전문가 시스템의 한계: 사전 정의된 규칙은 모호성을 제거할 수 있으나, 실제 법적 상황의 복잡성과 유연성을 반영하지 못해 '해석 권한의 이전' 문제를 야기함.
• 논증 접근의 효과: 상충되는 해석을 논증 구조로 모델링함으로써, 법의 목적이나 원칙에 따라 어떤 해석이 더 타당한지 평가하는 논리적 토대를 마련함.
• LLM 의 성과와 위험:
  • LLM 은 법적 텍스트를 요약, 번역, 모호성 식별, 다양한 해석 관점 제시 등에서 인간과 유사한 수준의 성능을 보임.
  • 그러나 할루시네이션 (17~34% 의 오류율) 이 내재적이며, 법적 진리 (Truth) 나 규범적 정당성을 이해하지 못함.
  • RAG 와 같은 기술이 사실 오류를 줄일 수 있으나, 완전한 해결책은 아님.
  • LLM 은 '통계적 언어 패턴'을 기반으로 할 뿐, 인간과 같은 '이해 (Understanding)'나 '의도 (Intention)'를 가지지 않음.
• 실무적 함의: LLM 을 법적 해석의 최종 결정 도구 (Oracle) 로 사용하는 것은 위험하며, 반드시 인간 전문가의 검증과 책임 하에 보조 도구로 사용되어야 함.

5. 의의 및 시사점 (Significance)

• 법적 실무의 변화: LLM 은 법률가의 업무 효율을 높일 수 있으나, 동시에 '기술적 의존'과 '전문성 퇴화'의 위험을 내포하므로 새로운 윤리적, 실무적 가이드라인이 필요함.
• 연구 방향성 제시: 향후 연구는 LLM 의 언어적 능력을 논리적/논증적 프레임워크와 결합하여 (Hybrid AI), LLM 이 생성한 해석을 논리적 검증 (Verification) 하에 두는 방향으로 나아가야 함을 강조.
• 규제 및 정책적 시사점: AI 를 통한 법적 해석 자동화 (Agentic AI) 에 대한 신중한 접근이 필요하며, 특히 인간의 통제 없이 AI 가 법적 결정을 내리는 것은 허용되어서는 안 된다고 경고.
• 법적 해석학의 확장: LLM 을 활용한 '생성적 해석'은 법 해석학에 실증적 (Empirical) 접근을 도입하여, 전통적인 해석 방법론 (문리해석, 목적해석 등) 을 데이터 기반으로 보완할 가능성을 제시함.

결론적으로, 이 논문은 AI 가 법적 해석의 주체가 될 수는 없으며, 인간 법률가의 판단을 보조하는 도구로서만 그 가치를 발휘할 수 있음을 강조합니다. 기술의 발전 속도에 맞춰 인간 중심의 검증 체계와 방법론적 가이드라인을 수립하는 것이 향후 AI 와 법 연구의 핵심 과제임을 시사합니다.