RAG System for Supporting Japanese Litigation Procedures: Faithful Response Generation Complying with Legal Norms
本論文は、タイムスタンプ付きの外部知識の厳格な検索、個人情報の使用禁止、および生成されるすべての回答が提供されたコンテキストに忠実であることを保証することによって、日本の医療訴訟に特化し、法的遵守を確実にする検索拡張生成（RAG）システムの設計を提案するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
日本の法廷を、ハイリスクな「カードを見せるゲーム」として想像してみてください。このゲームでは、裁判官がレフェリー（審判）であり、二人の弁護士（原告と被告）がプレイヤーです。このゲームの黄金律は、「レフェリーは、プレイヤーがテーブルの上に置いたカードに基づいてのみ判断を下さなければならない」というものです。レフェリーは、自分自身のポケットから秘密の知識を取り出したり、片方の側しか見ていない情報を使用したりすることは厳格に禁じられています。
さて、医療事件は非常に複雑であるため、レフェリー（裁判官）でさえ、医療科学を理解するために特別な助手（専門家）を必要とすることがあります。通常、この助手は人間の医師であり、裁判官に医学的科学を説明する役割を担います。しかし、この論文の著者たちはこう問いかけています。「もし、その人間の医師を、超高性能なAIに置き換えたらどうなるだろうか？」
この論文は、AIを法廷で機能させるためには、単に通常のコンピュータのように「チャット」をさせるだけでは不十分であることを主張しています。私たちは、3つの厳格なルールに従う特別な「リーガルAI（法的AI）」を構築しなければなりません。さもなくば、このゲームのルールを壊してしまうからです。
以下に、これらのルールを簡単な比喩を用いて説明します。
1. 「秘密の図書室」禁止ルール（知識源の制御）
問題点： 通常のAIモデルは、学校が始まる前に何百万冊もの本を読んだ学生のようなものです。彼らは、他の誰も知らない秘密の事実や個人的な意見を含め、読んだすべてのことを記憶しています。もしAI裁判官がこの「プライベートな記憶」を使用すれば、それは「両者がすべての証拠を見なければならない」というルールに違反することになります。
論文による解決策： AIは、承認された特定の棚から本を取り出すことしか許されない司書である必要があります。
- 比喩： AIをシェフだと想像してください。通常のシェフは、自分の頭の中にある秘密の家族のレシピを使うかもしれません。しかし、「リーガル・シェフ」は、原告と被告の両方がすでにキッチンのカウンターに置いた食材のみを使用することが許可されています。もしシェフが自分のプライベートなパントリーからスパイスを取り出そうとしたら、その料理は失格となります。システムは、いかなる「プライベートな知識」も厳格に排除し、専門家によって公式に検証され共有された文書のみを使用しなければなりません。
2. 「誠実なゴーストライター」ルール（コンテキストへの忠実性）
問題点： AIは時として「ハルシネーション（幻覚）」を起こすことがあります。これは、AIが作り話をしたり、自分の記憶と事実を混同したりすることを意味します。法廷において、もしAIが証拠にない事実を捏造した場合、それは災厄となります。
論文による解決策： AIは、目の前にあるものだけを書くことができる、厳格なゴーストライターとして振る舞わなければなりません。
- 比喩： AIを、文書を書き写す書記官だと考えてください。もし書記官が原文にない一文を加えたなら、それは嘘をついていることになります。論文では、AIが常に次のようにチェックするシステムを提案しています。「今言ったことは、今読んでいる文書の中にあったものか、それとも自分で作り上げたものか？」もし答えが「自分で作った」であれば、システムはその回答を拒絶しなければなりません。これは、提供された教科書のみを使用することが許されている試験を受ける学生のようなものです。昨年の学習内容を自分の記憶から使うことはできません。
3. 「タイムトラベル」ルール（問題固有の参照時期）
問題点： 医学は急速に変化します。10年前に「完璧」とされていた治療法が、今日では「過失」とみなされるかもしれません。しかし、訴訟においては、現在のルールを使って医師の過去の行動を判断することはできません。医師が行った当時のルールに基づいて判断しなければならないのです。
論文による解決策： AIにはタイムマシン（あるいは、少なくとも非常に優れたカレンダー）が必要です。
- 比喩： ある医師が2015年にミスをしたとします。もしあなたがAIに「これはミスでしたか？」と尋ね、AIが2024年の医学書を参照した場合、AIは「はい、それは間違いです！」と言うかもしれません。しかし、それは医師にとって不公平です。なぜなら、2015年においては、それが正しい方法だったからです。
- 論文によれば、AIは次のように理解できるほど賢くなければなりません。「なるほど、この質問は2015年の出来事に関するものだ。私は2024年の本を無視して、2015年の本だけを見なければならない」。
- これは、1980年代のファッションショーを審査するようなものです。ベルボトムの服装に対して、2024年の基準で「流行していない」と批判することはできません。80年代に何がクールであったかに基づいて判断しなければならないのです。
まとめ
この論文は、このAIが明日にも裁判官に取って代わる準備ができていると言っているわけではありません。むしろ、安全なリーガルAIアシスタントを構築するための設計図（ブループリント）を提示しているのです。
日本の法廷で役立つためには、このAIは以下の条件を満たす必要があります：
- ソースに対して誠実であること： 全員が合意した本のみを使用すること。
- テキストに対して忠実であること： 作り話をしないこと。
- 時間を意識していること： 過去を未来の目で見ることのないよう、ルールや医学的事実がいつ有効であったかを正確に把握すること。
著者たちは現在、AIが発言する際に、単なる確率のルールではなく、法の厳格なルールに従うようにするための、これらの「ガードレール」をどのように構築するかについて研究を進めています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。