Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI

この論文は、民主的な認識的主体性を維持するため、高リスク領域における生成 AI に対して、Brouwer の思想に基づき「公的に検証可能な正当化の証明」がない限り「未決定」として出力を留保し、確信度ではなく検証可能な根拠に基づく責任ある AI 設計を提案するものである。

要約

この論文は、**「AI に『絶対的な正解』を言わせるのをやめ、『わからない』と言える勇気を持たせよう」**という、とても重要な提案をしています。

タイトルは少し難しいですが、内容をわかりやすく説明しましょう。

🎭 物語の舞台：AI という「自信過剰な朗読者」

今の生成 AI（チャットボットなど）は、まるで**「自信満々で朗読する俳優」**のようです。
たとえその内容が半分嘘（ハルシネーション）だったり、根拠が薄かったりしても、AI は流暢で堂々と「正解です！」と言います。

• 今の問題点：
  私たちはその「堂々とした声」に騙されて、AI の言葉を事実だと信じてしまい、自分で考えたり疑ったりする力（これを論文では**「認識の主体性（Epistemic Agency）」**と呼びます）を失いつつあります。
  「AI がそう言うなら、もう間違いないだろう」と思い込むと、民主主義や社会の議論が壊れてしまいます。

🔨 解決策：「ブローワーのルール」を AI に教える

著者は、数学者のルイ・ブローワーという人の考え方をヒントに、AI に新しいルールを課すことを提案しています。

「証拠（証明書）がなければ、『YES』も『NO』も言わない」

これがこの論文の核心です。

🏗️ 具体的な仕組み：3 つの答え

AI は、これからの回答を以下の 3 つのどれかに分類して出す必要があります。

1. ✅ 断言（Asserted）：
   「これは正しい！」と言える。

   • 条件： AI の内部で「これこそが正解だ」と証明できる**「証拠（証明書）」**が揃っている場合。
   • 例： 「国会の公式記録と契約書、宣誓供述書に基づき、この大臣は汚職を犯したと証明できます（証明書添付）」

2. ❌ 否定（Denied）：
   「これは間違いだ！」と言える。

   • 条件： 「これは間違いだ」と証明できる**「証拠」**が揃っている場合。
   • 例： 「裁判所の判決と証拠により、この大臣は潔白であると証明できます（証明書添付）」

3. ❓ 未定（Undetermined）：
   「今は答えられない」。

   • 条件： 証拠が足りなかったり、曖昧だったりする場合。
   • 例： 「噂はありますが、公式な調査結果が出ていません。今のところ**『わからない』**と答えるしかありません。証拠が集まればまた考え直します」

ここが重要：
「未定（Undetermined）」は、AI が「バグった」わけでも「怠けている」わけでもありません。「証拠がないから、無理に答えを出さない」という、最も誠実で責任ある態度なのです。

🧩 アナロジー：「裁判所」と「AI」

この仕組みを**「裁判所」**に例えてみましょう。

• 今の AI：
  裁判官が、証拠がなくても「犯人は A さんだ！」と即座に判決を下すようなものです。それは危険です。
• この論文の提案する AI：
  裁判官は、検察官から「証拠（証明書）」を提出されないと、判決（YES/NO）を下しません。
  「証拠が足りないなら、**『審理保留（未定）』**にする」と言います。
  そして、なぜ保留なのか（証拠が足りないのか、範囲が違うのか）を詳しく説明します。

これにより、人々は「AI が言ったから」と blindly（盲目的に）従うのではなく、「あ、証拠がまだ足りないんだな。じゃあ、もっと情報を集めよう」と、自分で考え、議論する力を取り戻すことができます。

🛠️ どうやって実現するの？（技術的な話）

「でも、AI は計算機なのに、どうやって『証拠』を出すの？」という疑問があります。

論文では、AI の内部で**「数値の境界線」**を厳しくチェックする仕組みを作ろうとしています。

• 例：「この答えの確率は 80% 以上だ」という曖昧な数字ではなく、**「この答えは、間違いなく 90% 以上である」と証明できる計算結果（証明書）**が出せるかどうかをチェックします。
• もし計算結果が「70%〜90%」のように幅広すぎて、結論が出せないなら、無理に「80%」と出さず、**「未定」**とします。

🌟 この提案がもたらす未来

このルールを導入することで、AI は以下のような存在になります。

• 「正解を押し付ける神」ではなく、「情報を整理する助手」
• 「自信過剰な嘘つき」ではなく、「証拠を重視する誠実なパートナー」

著者は、**「AI に『わからない』と言える能力を持たせること」こそが、AI と人間が共に成長し、民主的な社会を守るための教育（Education for grown-ups）**だと説いています。

まとめ

この論文は、**「AI に『わからない』と言わせることは、AI の能力不足ではなく、むしろ人間を守るための最も賢い設計」**だと伝えています。

• 証拠があれば： 堂々と「YES/NO」と言う。
• 証拠がなければ： 堂々と「未定（U）」と言う。

この「未定」という選択肢を尊重することで、私たちは AI の言葉に流されず、自分たちの頭で考え、社会を良くしていくことができるようになります。

技術概要

論文要約：責任ある AI における認識的主体性の維持：ブローワー流の主張可能性制約

1. 問題提起：生成 AI と認識的主体性の危機

本論文は、生成 AI が高リスク分野（公的議論、法、医療、自由に関わる領域など）において、不確実性を権威ある見解へと変換し、民主的な認識的主体性（Epistemic Agency：知識を認識・評価・行動に移す能力）を脅かすという問題に焦点を当てています。

• 現状の課題: 生成 AI は確率的なパターンを「権威ある答え」として提示し、事実誤認やバイアスを拡大させるだけでなく、市民が公的議論に参加するための批判的思考や正当化の能力を退化させる（スキル低下）リスクがあります。
• 根本的な問題: 従来の AI は「確信度（confidence）」に基づいてカテゴリカルな断定（Yes/No）を行いますが、これは証拠が不十分な場合でも「事実」のように振る舞うことを許容してしまいます。これは、民主主義における正当化の責任を AI に委譲し、人間の判断を置き換える危険な状態です。
• 核心: AI が「何を言うことができるか」を、単なる統計的な確からしさではなく、公的に検証可能で異議申し立て可能な「正当化（warrant）」に基づいて制約する必要があります。

2. 方法論：ブローワー流の直観主義に基づくアプローチ

著者は、数学的直観主義の創始者である L.E.J. ブローワーの思想を応用し、AI の出力に対する新しい規範的制約を提案します。

2.1 核となる概念：主張可能性制約（Assertibility Constraint）

• 原則: 「証明書なしに、カテゴリカルな発言はしない（No certificate, no categorical speech act）」
• 定義: 高リスク分野において、AI システムがある主張（φ）を肯定（Asserted）または否定（Denied）できるのは、その主張に対する**公的に検査可能で異議申し立て可能な「正当化の証明書（certificate of entitlement）」**を提示できる場合に限られます。
• 代替案: 証明書を提示できない場合、AI は「未決定（Undetermined）」を返さなければなりません。これは単なる確信度の低い「拒否」オプションではなく、認識的な義務として必須のステータスです。

2.2 二重の正当化構造

この枠組みは、内部の計算と外部の公的正当化を区別しつつ、証明書によって結びつける二つの次元を持っています。

1. 内部正当化（Internal Entitlement）: 内部 regime $\langle R, t_{int} \rangle$ におけるモデルの計算（例：確定的な境界値、分離マージン）。ここで「証拠（witness）」が構築されます。
2. 公的正当化（Public Warrant）: 公的 regime $\langle S, \tau, t \rangle$ における証拠基準、閾値、記録時間。ここで「主張の権利」が評価されます。

• 境界オブジェクトとしての証明書: 内部の計算結果（witness）と公的基準（standing）を結びつける「証明書（Certificate）」が、両者の間の橋渡し役を果たします。

2.3 実装メカニズム：3 状態インターフェース

決定層（Threshold や Argmax）において、以下の 3 つのステータスを定義します。

• A (Asserted): 証明書が閾値を明確に超える（$\ell \ge \tau$）。
• D (Denied): 証明書が閾値を明確に下回る（$u < \tau$）。
• U (Undetermined): 証明書の境界が閾値をまたぐ、または証明書の存在しない場合。
• 実装: 確定的な数値出力（点推定）ではなく、区間推定（Interval Bound Propagation など）やコンフォーマル予測を用いて、閾値を「強制（forcing）」できるかどうかを判定します。

3. 主要な貢献

1. ブローワー流の主張可能性制約の提案:

   • 高リスク分野における AI のカテゴリカル出力を、公的に異議申し立て可能な証明書に依存させるという規範的制約を確立しました。
   • 「未決定（U）」を単なる技術的なリジェクトオプションではなく、認識的誠実性を保つための必須ステータスとして再定義しました。

2. 正当化 - 主張インターフェースのセマンティクス:

   • 世界に対する真偽（Truth of $\phi$）ではなく、システムが主張する権利（Warrant-claim $W(\phi)$）に対してステータスを割り当てる新しいインターフェースを設計しました。
   • 証明書（境界オブジェクト）を通じて、内部の計算的強制力と公的の異議申し立て可能性を接続します。

3. 設計補題（Design Lemma）の証明:

   • 命題: 「証明書の健全性を保ったまま、全入力に対して二値（A/D）のみを出力するインターフェースは、宣言された範囲内で決定可能（decidable）でなければなりません。」
   • 帰結: 強制する証拠（witness）が存在しない場合、二値出力を強制することは認識的な欺瞞（誤った確信）を意味します。したがって、証拠がない場合は「U」を返すことが数学的に必須となります。

4. ハイブリッド実装の提案:

   • 完全な直観主義的アーキテクチャの構築が現実的でない場合でも、古典的なモデルの上に「構成的なラッパー（Constructive Wrapper）」を被せ、閾値判定や Argmax 段階で証明書チェックを行うハイブリッド・アーキテクチャを提案しました。

4. 結果とケーススタディ

• Tooth Social（政治的チャットボット）の事例:

  • 汚職疑惑に関する AI の回答をシミュレーションしました。
  • 初期段階: 証拠が不十分で区間が閾値をまたぐ場合、AI は「未決定（U）」を返し、その理由（証拠不足、範囲外など）を明示します。これにより、市民がさらなる調査を待つ余地を残します。
  • 証拠更新後: 議会調査報告書など新たな公的証拠が追加され、区間が閾値を明確に超えた場合のみ、「肯定（A）」へとステータスが移行します。
  • このプロセスは、AI が「事実」を宣言するのではなく、「主張する権利」を証明するプロセスであることを示しました。

• 設計補題の検証:

  • 証明書の健全性を保つ限り、証拠がない状態で A/D を出力することは不可能であり、U が唯一の正当な出力であることを理論的に示しました。

5. 意義と結論

• 認識的主体性の維持: この枠組みは、AI の流暢な出力が人間の判断を置き換えるのを防ぎ、市民が証拠に基づいて判断し、異議を唱えるための「教育」として機能します。
• 民主的正当化の保護: 真実を regulative ideal（規範的理想）として扱い、AI の出力を公的な正当化の実践に組み込むことで、民主的プロセスにおける AI の役割を再定義します。
• 技術的・哲学的統合: 数学的直観主義（構成主義）と政治哲学（認識的転回）を統合し、AI 倫理を単なる規制や技術的対策を超えた、規範的な設計原則へと昇華させました。
• 今後の展望: 完全な実装には計算コストがかかるため、高リスク分野に限定した選択的適用や、古典的モデルと検証モジュールを組み合わせるハイブリッド・アプローチが現実的な道筋として示唆されています。

総括:
本論文は、AI に「何を知っているか」ではなく「何を主張する権利があるか」を問うことで、責任ある AI のあり方を提案しています。証明書を伴わない断定を禁止し、「未決定」を誠実な回答として位置づけることは、AI 時代における民主的な認識的主体性を守るための重要な枠組みとなります。