Legal interpretation and AI: from expert systems to argumentation and LLMs

本論文は、AI と法の研究が、専門家の解釈を知識ベースへ転移するエキスパートシステム、解釈的論証の構造と受容性を評価する議論フレームワーク、そして法実務で活用される大規模言語モデルによる解釈の自動生成へと、そのアプローチと方法論を進化させてきた経緯を概説しています。

要約

この論文は、**「AI（人工知能）と法律の解釈」**というテーマについて、過去の技術から最新の AI までを振り返りながら、どう向き合うべきかを解説したものです。

法律の解釈とは、「この条文は、この状況に当てはまるのか？」という問いに答える作業です。AI はこの作業をどうやって、そしてどうやってきたのでしょうか？

わかりやすく、3 つの「時代」に分けて、身近な例え話で説明します。

---

1. 昔の AI：「完璧なマニュアル作成者」

（専門知識システム：Expert Systems）

昔の AI は、まるで**「厳格な料理のレシピ本」**のようなものでした。

• 仕組み: 人間（法律の専門家）が「A なら B だ」「C なら D だ」というルールを一つ一つ書き込み、AI に覚えさせます。
• 例え話: 「公園には車を入れない」というルールがあったとします。
  • AI は「車＝エンジンがついているもの」という定義を事前に決めています。
  • もし「子供が乗る自転車」が公園に入ろうとしても、AI は「自転車はエンジンがないから車じゃない」と判断し、OK 出します。
  • でも、もし「車＝エンジンがあるもの＋自転車も含む」というルールを最初に人間が間違えて入力してしまったら、AI は「自転車も NG！」と厳しく判断してしまいます。
• 問題点: 人間が事前に「すべて」のルールを決めなければなりません。もし「子供が乗る自転車」のような、状況によって変わる微妙なケースが出てきても、AI は柔軟に対応できず、「マニュアル通り」にしか動けません。

2. 中盤の AI：「議論の仲裁人」

（議論の AI：Argumentation）

次に、AI は**「法廷での議論」**をシミュレートするようになりました。

• 仕組み: 正解が一つだけあるのではなく、「A さんの意見」と「B さんの意見」をぶつけ合い、どちらがより説得力があるかを判断します。
• 例え話: 同じ「公園に車を入れない」というルールで、子供が自転車に乗って来た場合。
  • 警官（AI）の意見: 「『車』には普通、自転車も含まれるから、ダメだ！」（言葉の定義重視）
  • 子供（AI）の意見: 「でも、このルールは『騒音や事故』を防ぐのが目的でしょ？子供が静かに乗っているなら、目的に反しないから OK だ！」（目的重視）
  • AI は、この二つの議論を並べて、「目的重視の意見の方が、この状況ではもっとも理にかなっている」と判断します。
• 特徴: 正解を最初から決めるのではなく、「議論の過程」を重視して、最も納得できる答えを見つけようとします。

3. 最新の AI：「天才的な真似っ子」

（大規模言語モデル：LLMs / 生成 AI）

現在の ChatGPT などの AI は、**「膨大な本を読んだ天才的な真似っ子」**です。

• 仕組み: 法律の条文や裁判例、ニュースなど、インターネット上の膨大なテキストを丸ごと読み込み、「人間がどう答えるか」を統計的に学習しています。
• 例え話: あなたが「公園の自転車はどうなる？」と聞くと、AI は即座にこう答えます。
  • 「一般的には車に含まれますが、目的によっては例外もありますね。子供なら許されるケースもよくありますよ。ただし、公園のルール次第です！」
  • 非常に自然で、人間が言っていそうなことを言います。
• メリット: すぐにたくさんの意見や解釈の候補を提示してくれます。法律の専門家でも、AI が「あ、こんな視点があったのか！」と気づかせてくれることがあります。
• 大きなリスク（ハルシネーション）:
  • AI は「真実」を知っているわけではなく、「ありそうな言葉」を繋げているだけです。
  • 嘘をつくことがあります。 「実は、この公園には『子供用自転車は OK』という特別な条例があります」と存在しない法律を勝手に作り出して（幻覚）、自信満々に教えてしまうのです。
  • また、同じ質問をしても、答えが変わったり、論理的な飛躍があったりします。

---

結論：AI は「助手」だが、「裁判官」にはなれない

この論文が伝えている最も重要なメッセージは以下の通りです。

1. AI は「魔法の杖」ではない:
   AI が「これが正解です」と言っても、それをそのまま信じてはいけません。AI は「アイデア出しのパートナー」や「参考文献の整理係」にはなりますが、最終的な判断を下す「裁判官」にはなれません。

2. 人間の責任は残る:
   AI が提示した「子供用自転車は OK だ」という答えが、本当に正しいかどうかは、人間（弁護士や裁判官）が元の法律を確認し、責任を持って判断しなければなりません。
   もし AI の嘘（幻覚）を信じて子供に罰金を科したり、逆に許可を出したりしたら、それは人間の責任です。

3. 未来の使い道:
   今後は、AI の「言葉の力」と、論理や議論の「厳密さ」を組み合わせる研究が進んでいます。

   • AI が大量の法律文書から情報を抜き出し、
   • 人間がその情報を論理的にチェックして、
   • 最終的に「正しい解釈」を導き出す。
     という**「AI と人間のタッグ」**が、法律の世界の新しい形になるでしょう。

まとめると：
AI は法律の解釈において、**「非常に優秀な秘書」にはなれますが、「責任ある上司」**にはなれません。秘書が提案した案を、上司（人間）が必ずチェックして、最終決定を下す。これが、今のところ最も賢い付き合い方です。

技術概要

論文要約：AI と法解釈の進化：エキスパートシステムから論証、そして大規模言語モデル（LLM）へ

著者: Václav Janeček, Giovanni Sartor
概要: 本論文は、人工知能（AI）と法（AI and Law）研究における「法的解釈」へのアプローチの変遷を概観し、従来の記号論的 AI（エキスパートシステム）から論証ベースの手法、そして最新の生成 AI（大規模言語モデル：LLM）に至るまでの技術的発展、課題、および法的実践への示唆を論じている。

---

1. 問題設定 (Problem)

法的解釈は、立法者、裁判官、弁護士、行政官、そして一般市民にとって不可欠なプロセスである。しかし、AI 技術が法分野に応用される際、以下の核心的な課題に直面している。

• 解釈の曖昧性と多様性: 法条文は文脈や目的によって意味が変化する（例：「公園への車両持ち込み禁止」における「車両」に自転車や子供用自転車が含むか否か）。
• AI の自律性と信頼性のジレンマ: 従来の AI は人間の知識を厳密に形式化することに依存していたが、最新の生成 AI は言語パターンに基づいて解釈を生成する。しかし、LLM は「真実」や「規範的根拠」を内在的に理解しておらず、幻覚（ハルシネーション）や論理的破綻を起こすリスクがある。
• 責任の所在: AI が解釈を提案し、それに基づいて決定を下す場合、誰がその解釈の正当性と責任を負うのかという法的・倫理的課題が存在する。

2. 手法とアプローチの進化 (Methodology)

論文は、法的解釈への AI のアプローチを 3 つの主要な段階で分析している。

3.1. 記号論的 AI とエキスパートシステム (1970 年代〜1990 年代)

• 手法: 人間が作成した知識ベース（ルールと概念の形式化）と、論理的推論アルゴリズム（演繹、帰納、確率論など）を使用。
• 解釈の扱い: 解釈の曖昧さは、システム構築段階の「知識エンジニア」が解決し、知識ベースに明確なルールとして埋め込むことを前提としていた。
  • 例: 「車両」の定義を「自転車を含む」と事前にルール化するか、システム実行時にユーザーに確認するか。
• 限界: 解釈の権限がシステム構築者に移転し、個別の具体的事情（例：子供用の自転車の特殊性）を柔軟に考慮できなくなる「事前解釈」の硬直性が指摘された。また、矛盾する解釈を同時に扱えない論理的整合性の制約があった。

3.2. 論証ベースのアプローチ (Argumentation)

• 手法: 対立する解釈を「論証（Argument）」として形式化し、それらの弁証法的相互作用（攻撃と防御）を評価するフレームワークを採用。
• 解釈の扱い: 解釈の基準（解釈の規範、Canons）を論証の前提として扱う。
  • 例: 「通常の言語意味」に基づく論証 vs 「立法目的（Teleology）」に基づく論証。
  • 技術: 非単調論理（Defeasible Logic）やファジィ論理を用い、より強い論証が弱い論証を覆す（defeat）構造をモデル化。
• 特徴: 論理的一貫性よりも、対立する解釈の競合を明示的に扱い、どの解釈が「受容可能（Acceptable）」かを評価する。

3.3. 機械学習と生成 AI（LLM）

• 手法: 大規模なテキストデータで事前学習された深層学習モデル（LLM）を用い、自然言語による解釈の生成や要約を行う。
• 解釈の扱い:
  • 生成的解釈 (Generative Interpretation): 契約や条文の文脈を分析し、当事者の意図や「通常の意味」を統計的に推測する。
  • 技術的工夫: 検索拡張生成（RAG）を用いて外部知識ベースから法源を抽出し、ハルシネーションを抑制する試み。プロンプトエンジニアリングによる解釈の方向付け。
• 現状: 言語的・談話的competence は高いが、知識ベースやルールベースの推論とは異なり、統計的な確率に基づいて次単語を予測する。

3. 主要な貢献と知見 (Key Contributions & Results)

1. 解釈の技術的変遷の明確化:

   • 「解釈の形式化（エキスパートシステム）」→「解釈の論証化（Argumentation）」→「解釈の生成（LLM）」という歴史的展開を体系的に整理し、各段階の長所と短所を比較した。

2. LLM の限界とリスクの特定:

   • LLM は「真実」や「規範的正当性」を理解していないため、法的解釈において「権威あるオラクル」として機能することはできない。
   • ハルシネーション: 存在しない判例や法源を生成するリスクが内在的であり、RAG などの技術でも完全には解消できない。
   • 一貫性の欠如: 同じプロンプトに対して異なる回答を生成する可能性があり、法的不確実性（Foreseeability）を損なう。
   • 評価の難しさ: 法的解釈には絶対的な正解（Ground Truth）が存在しない場合が多く、人間の専門家による評価（ベンチマーク）が必要となる。

3. 「生成的解釈」の提案と批判的検討:

   • Hoffman と Arbel が提唱する「生成的解釈（Generative Interpretation）」（LLM を用いて契約当事者の意図を統計的に推定する手法）を紹介しつつ、それが単なる「ブレインストーミング」の補助ツールに留まるべきだと論じた。
   • 裁判所や弁護士が LLM の出力を盲目的に採用するのではなく、最終的な判断と責任は人間が負うべきであるという規範的結論を導き出した。

4. 将来の研究方向性の提示:

   • ハイブリッド・アプローチ: LLM の言語処理能力と、論理・論証ベースの厳密な推論システムを統合する。
   • 制御と検証: LLM の出力を論理的フレームワークで検証する、あるいは LLM 同士を対立させることで解釈の妥当性をチェックする仕組みの構築。
   • ワークフローの再設計: 弁護士が AI を効果的かつ安全に利用するための新しいプロトコルとガイドラインの必要性を強調。

4. 意義と結論 (Significance & Conclusion)

本論文は、AI 技術が法解釈の領域に急速に浸透する中で、**「AI は解釈の主体ではなく、熟練した法解釈者（弁護士・裁判官）のための補助ツール（Companion）であるべきである」**という重要な立場を確立している。

• 技術的意義: 単なるテキスト生成を超えて、法的推論の構造（論証、規範、文脈）をどう AI に組み込むかという課題を浮き彫りにした。
• 実務的意義: 法律実務において LLM を導入する際、その出力を無条件に信頼せず、事実確認、論理的整合性のチェック、規範的根拠の再評価を行う「人間の監視（Human-in-the-loop）」が不可欠であることを示唆した。
• 政策的・倫理的意義: AI による自律的な法的決定（例：自動 Fine 発行システム）は、解釈の責任と透明性の観点から現時点では危険であり、慎重なアプローチが必要であると警告している。

結論として、Little Tom（公園に自転車を持ち込めるかという例え話）のケースにおいて、AI システムが独自に解釈を下して彼を罰することは現時点では許容されない。しかし、AI が解釈の候補を提示し、論争点を整理することで、人間の法解釈者の能力を拡張する「支援ツール」としての役割は、適切に設計されれば極めて有望である。今後の研究は、LLM の言語能力と論理的推論の厳密さを統合し、信頼性の高い法的支援システムを構築することに焦点が当てられるべきである。