JUDICATA: An Agentic Neuro-Symbolic Architecture for Legal Reasoning with Adversarial Defense and Procedurally Contestable Argumentation

コンピューターが人間のように読み書きできる世界を想像してみてください。しかし、彼らには非常に厄介な癖があります。それは、自信満々に嘘をついてしまうことがあるのです。これが、今日のチャットボットの背後にある超スマートなAIの脳、大規模言語モデル（LLM）の世界です。これらのモデルは物語を書いたり一般的な質問に答えたりすることには長けていますが、間違いが致命的な結果を招く場所、例えば法廷のような場所では苦戦します。法律の世界では、単に推測するのではなく、特定の事実を特定の規則に結びつけて結論を導き出さなければなりません。もしAIが架空の法律や架空の判例を捏造してしまったら、誰かの人生を台無しにしかねません。この論文はこの問題、つまり、どうすればAIが「幻覚（ハルシネーション：作り話）」を起こすのではなく、法の厳格かつ論理的な規則に従うことができるのかという問題に取り組んでいます。また、ハッカーがAIを騙そうとするのを阻止できるほど強力なものにする方法についても論じています。

この研究の背後にある研究者たちは、JUDICATAと名付け、AI単体で賢くしようとするのではなく、その周囲に「安全網」を構築することに決めました。標準的なAIを、才能はあるが衝動的な、推測が大好きな学生だと考えてみてください。JUDICATAは、その学生を厳格な法廷の中に、守護者のチームと共に配置するようなものです。まず、検索チームは超高速の司書のように振る舞い、AIが記憶から推測するのではなく、答えに必要な正確な法律や過去の判例を掘り起こします。第二に、セキュリティチームはクラブの用心棒のように振る舞い、誰もトリックや嘘を忍び込ませようとしていないか、あらゆる質問をチェックします。最後に、ロジックチームは、明確な主張、証拠、反論を備えた法的議論のような特定の形式でAIに回答を書くことを強制し、人間がその作業を検証できるようにします。

この論文は、これらのチームを組み合わせることで、AIが架空の法律を捏造することを止めることを示しています。テストにおいて、このシステムは悪意のある欺瞞の試みを約**94.4%**ブロックし、AIが真実として提示しようとした偽の事実の数を大幅に減少させました。研究者たちは、このシステム全体の中で最も重要な部分は、**トゥールミン・モデル（Toulmin Model）**と呼ばれる手法を用いた「ロジックチーム」であることを見出しました。この部分を取り除くと、システムのパフォーマンスは崩壊し、AIは再び事実を捏造し始めました。これは、秘密は単により大きくより賢い脳を持つことではなく、AIを誠実に行動させるための厳格でステップバイステップのプロセスを持つことにあるということを証明しています。

JUDICATAの物語：安全網を備えたAI弁護士

あなたが大きな裁判に向けて準備をしている弁護士だと想像してください。あなたのケースを支持する完璧な法律を見つける必要がありますが、間違いは許されません。もし存在しない法律を引用してしまったら、あなたは敗訴します。さて、あなたの手助けをするロボット助手がいると想像してください。問題は、このロボットが少し白昼夢を見がちなことです。自信たっぷりに聞こえるのがあまりに上手いため、空白を埋めるために架空の法律や架空の判例を捏造してしまうことがよくあります。これは「幻覚（ハルシネーション）」と呼ばれますが、法律の世界では災難です。

この論文の著者であるJUDICATAは、シンプルな問いを立てました。「どうすればロボットの白昼夢を止め、ルールに従わせることができるだろうか？」彼らはロボットの脳を完璧にするために再学習させることはしませんでした。代わりに、彼らは**ニューロ・シンボリック・アーキテクチャ（neuro-symbolic architecture）**を構築しました。これは、ロボットの「直感（ニューラル）」と厳格な「ルールブック（シンボリック）」を組み合わせるという、少し凝った言い方です。彼らは、判事に届く前にエラーを捕まえるように設計された、三層の要塞のようなシステムを構築しました。

システムの3人の守護者

JUDICATAシステムは、円滑に機能する機械のように連携する3つの主要な部分で構成されています。

1. 超司書（HyPA-RAG）
まず、システムは正しい情報を見つける必要があります。標準的なAIシステムは、単に似たような言葉を検索することが多く、それが間違いにつながることがあります。JUDICATAは「トライモーダル（三様式）」検索を使用しており、これは、以下の3つの異なる方法で同時に答えを探すことを意味します。

• ワードマッチ（単語一致）： 正しい語彙を確保するために、正確な法的用語（例：「人身保護令（habest corpus）」など）を探します。
• ミーニングマッチ（意味一致）： 言葉が異なっていても、質問の背後にある「概念」を理解します。
• ストラクチャーマッチ（構造一致）： 法律がどのように階層構造（例：特定の条項がどのように段落の中に組み込まれているか）として接続されているかを見ます。

システムはこれら3つの検索結果を混合します。質問が単純な場合はワードマッチをより信頼し、複雑な場合は構造と意味に頼ります。これにより、AIは常に、自作の偽物ではなく、本物の法律を手にしている状態になります。

2. 用心棒（敵対的防御）
AIが法律を読む前に、セキュリティチェックを通過しなければなりません。ハッカーやペテン師は、奇妙な質問をしたり、法律的なテキストの中に悪い指示を隠したりすることで、AIを「脱獄（ジェイルブレイク）」させようとすることがよくあります。JUDICATAは、厳格な用心棒として機能する**デュアルパス・ディフェンス（二段階防御）**システムを備えています。

• パス1（構文チェック）： コードインジェクションや既知のトリックフレーズのような、疑わしいパターンをスキャンします。
• パス2（意味チェック）： 言葉が正常に見えても、質問が「トリックのように感じられるか」を判断するために、スマートな脳を使用します。

テストにおいて、このシステムは正当な質問をブロックすることなく、攻撃の94.4%（800件中755件）を阻止しました。これは、たとえ悪党が変装していても、誰を通すべきで誰を追い返すかを正確に知っている用心棒のようなものです。

3. 書記官（LSIMとトゥールミン）
AIが正しい法律を持ち、セキュリティを通過したら、次は答えを書かなければなりません。ここが魔法が起きる場所です。AIに自由な形式のエッセイを書かせる代わりに、JUDICATAはトゥールミン・モデルと呼ばれる特定の構造を使用することを強制します。このモデルは、議論を以下の6つの要素に分解します。

• 主張（Claim）： あなたが言おうとしていること。
• データ（Data）： あなたが持っている事実。
• 論拠（Warrant）： なぜその事実が主張を支持するのか。
• 裏付け（Backing）： 論拠を補強する追加の支持。
• 反論（Rebuttal）： 何が起こり得るか、あるいは相手側が何を言う可能性があるか。
• 限定詞（Qualifier）： あなたがどの程度確信しているか（例：「おそらく」や「確実に」）。

AIにこれらのボックスを埋めることを強制することで、システムは捏造を防ぎます。もしAIが事実を捏造しようとすれば、それは「データ」のボックスに適合せず、システムによって検知されます。これにより、AIの推論は**手続き的に争点化可能（procedurally contestable）**になります。つまり、人間の弁護士が答えを見て、「よし、ここにあなたの主張があり、ここに証拠があり、ここに反論がある。これを確認できる」と言えるようになるのです。

実験が示したこと

研究者たちは、3つの異なるAIの脳を用いてこのシステムをテストしました。ローカルコンピュータで動作する小さなもの（Mistral 7B）、クラウド上の巨大なもの（Kimi K2）、そして商用モデル（Gemini 2.5 Flash）です。彼らは、どの脳を使用してもシステムが機能するかどうかを確認したいと考えました。

結果は明白でした：脳の大きさよりも、構造が重要であるということです。

• 偽の事実の削減： JUDICATAシステムがない場合、AIは事実を捏造しやすい傾向がありました。システムを導入すると、幻覚のリスクは大幅に低下しました。ローカルのMistralモデルでは、幻覚のリスクは0.898（0が完璧で1が完全な混沌であるスケール）まで低下し、クラウドのKimiモデルでは0.467まで低下しました。
• 「安全税（セーフティ・タックス）」： システムはAIをわずかに慎重にさせました。いくつかのテストでは、AIが100%確信を持てない法律の引用を拒否したため、引用する法律の数が少なくなりました。著者はこれを「安全税」と呼んでいます。多くの法律を誤って引用するよりも、少ない法律を正しく引用する方が良いのです。
• 決定的な要素： 最も重要な発見は、システムの一部を一つずつオフにしていく「アブレーション研究（切除研究）」から得られました。トゥールミン・モデル（構造化された議論）をオフにすると、システムのパフォーマンスは崩壊しました。「複合スコア」（回答がいかに優れているかの指標）は約27%低下し、幻覚のリスクは0.94以上に急上昇しました。これは、厳格な議論の構造こそが、AIを誠実に行動させるための最も重要な部分であることを証明しました。

なぜこれが重要なのか

この論文は、AIが自律的に完璧になるのを待つ必要はないと主張しています。代わりに、AIに正直であることを強制するシステムを構築することができるのです。スマートな検索エンジン、タフなセキュリティガード、そして厳格な議論形式を組み合わせることで、JUDICATAは法廷で信頼できるAIを生み出します。

また、このシステムはプライバシーを尊重します。データをクラウドに送信することなくローカルコンピュータ上で完全に動作できるため、ブラジルのLGPDやEUのAI法のような厳格なプライバシー法に従うことができます。これは、弁護士がクライアントの秘密がビッグテック企業に送られる心配をすることなく、機密性の高いケースの支援にAIを利用できることを意味します。

結局のところ、JUDICATAは、法的なAIの未来が、より大きくより賢いロボットを持つことにあるのではないことを示しています。それは、ロボットの周囲により優れたチームを構築し、ロボットが自分の仕事をチェックし、ルールに従い、決して作り話をしないようにすることなのです。著者たちが示唆するように、このアプローチは、混沌とした白昼夢を見るAIを、信頼可能で、争点化可能で、安全な法的アシスタントへと変貌させるのです。