🤖 machine learning

Concise and Logically Consistent Conformal Sets for Neuro-Symbolic Concept-Based Models

本論文は、概念予測とラベル予測を単一の帰納・帰納修正ステップで調和させることにより、神経記号概念ベースモデルに対して簡潔で論理的に整合性があり、かつカバレッジが保証された集合を同時に生成する事後型適合予測フレームワーク「COCOCO」を導入する。

原著者： Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso

公開日 2026-05-19

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

非常に賢く、複雑なパズルを解くように設計された 2 部構成のロボットアシスタントを想像してください。このロボットは「ニューロ・シンボリック概念ベースモデル（NeSy-CBM）」と呼ばれます。

その仕組みは以下の通りです：

「目」（ニューラルネットワーク）： まず、ロボットは雑多な画像（街の写真や医療スキャンなど）を見て、その中の高レベルな対象物を特定しようとします。「車、犬、木が見える」と言います。これらがその「概念」です。
「脳」（シンボリック論理）： 次に、ロボットは厳格なルールセット（「車には車輪がある」や「7 と 6 を足すと 13 になる」など）を用いて、最終的な答えを導き出します。「私が目にしたものに基づけば、答えは 13 に違いない」と言います。

問題：過信なロボット
問題は、このロボットがしばしば過信していることです。間違っている場合でも、100% の確信を持って発言します。

例：ロボットが犬と馬の写真を見ていたと想像してください。訓練中のバグのため、ロボットは自信満々に犬を「猫」、馬を「牛」だと判断します。その後、論理ルールを用いて答えを「農場の動物」と結論づけます。偶然、最終的な答えは正解しましたが、その推論は完全に破綻しています。
医療診断や自動運転車のような高リスクな状況では、ロボットがいつ不確実であるかを知る必要があります。そうすれば、その作業を再確認できるからです。しかし現在、ロボットは推測していることに気づいていません。ただ自分が正しいと思い込んでいるだけです。

解決策：COCOCO
著者たちは、COCOCO（Conformality、Consistency、Conciseness の頭文字）と呼ばれる新しい手法を紹介しました。COCOCO を、ロボットの頭にかぶせる安全網かつ論理チェッカーだと考えてください。

COCOCO は単一の答えを与えるのではなく、可能な答えのリスト（「予測セット」）を提供します。それはこう約束します：「このリストに真の答えが含まれていることを 90% の確信で保証します」。

しかし、COCOCO は他の安全網にはない特別なことを 2 つ行います。

一貫性（論理チェック）： ロボットが「見た」対象物のリストと、それが与えた答えのリストが一致していることを保証します。
- 比喩： ロボットの答えのリストに「13」が含まれているが、見た対象物（7 と 5）のリストが作り出せるのは「12」だけだとすると、COCOCO は「待て、それは合わないぞ！」と言います。そして「13」をリストから削除し、数学に合うように対象物のリストを修正します。これにより、ロボットの「目」と「脳」が互いに合意することを強制します。
簡潔性（サイズ制限）： 「答えは 0 から 100 の間の何でもあり得る」という安全網は無意味です。COCOCO は、安全性を保ちながらリストを可能な限り短くしようとします。不可能な選択肢を削ぎ落とし、人間が実際に読める長さのリストにします。

仕組み（「修正」ステップ）
COCOCO は、修正ステップと呼ばれる巧妙なトリックを使用します。

ロボットの「脳」から得られた可能な答えのリストで始まります。
ロボットの「目」から得られた可能な対象物のリストで始まります。
「最初のリストの答えを実際に作り出せる対象物はどれか？」、「そして、2 番目のリストの対象物が実際に作り出せる答えはどれか？」と問います。
それらを相互参照し、合わないものを捨て去ります。これをたった一度行うだけで、リストを整理する完璧かつ最も効率的な方法であることが数学的に証明されています。

なぜこれが重要なのか
この論文では、医療用 X 線、レストランのレビュー、数字を使った数学問題など、8 つの異なるデータセットでこれをテストしました。

結果： COCOCO はロボット予測の誠実さを成功裏に維持しました。ロボットの「目」と「脳」が常に合意すること（一貫性）、可能性のリストを実用的な小ささに保つこと（簡潔性）、そして真の答えがリスト内にあることを保証すること（カバレッジ）を確実にしました。
比較： 他の手法は「脳」だけ、あるいは「目」だけを修正しようとしましたが、失敗しました。それらは読みきれないほど長いリストを与えたり、対象物と答えが一致しないリストを与えたりしました。COCOCO は、両方の問題を同時に修正した唯一の手法でした。

要約
COCOCO は、賢いが過信な AI を取り、安全網で包み込み、自らの作業を再確認させるツールです。AI が「答えは X だ」と言う場合、同時に「X を可能にする Y と Z を見た」とも認めることを保証し、可能性のリストを人間が信頼して使用できるほど短く保ちます。

技術的概要：ニューロ記号概念ベースモデルのための簡潔かつ論理的に整合的なコンフォーマル集合

問題定義

ニューロ記号概念ベースモデル（NeSy-CBM）は、概念抽出のためのニューラルネットワークとタスク推論のための記号的推論を統合し、高リスクアプリケーション向けの信頼性の高い AI システムの構築を目指しています。しかし、これらのモデルは過信と較正不具合に悩まされることが多く、ステークホルダーが予測の信頼性を評価することが困難です。さらに、不確実性が定量化された場合でも、得られる確率はエンドユーザーにとって直感的でないことがあります。

NeSy-CBM における不確実性定量化の既存のアプローチは、しばしば以下の 3 つの重要な望ましい性質を同時に満たすことができません：

整合性（Consistency）： 予測された概念とラベルは、ユーザーが指定した事前知識（ $K$ ）と論理的に整合していなければなりません。
カバレッジ（Coverage）： 予測集合は、概念とラベルの両方に対して、分布フリーかつ有限サンプルの周辺カバレッジ保証を提供しなければなりません。
簡潔性（Conciseness）： 予測集合は、解釈可能性と実用上の有用性を維持するために、可能な限り小さくなければなりません。

現在の「片側」のコンフォーマル予測（CP）戦略（例えば、ラベルまたは概念のいずれか一方のみに CP を適用する）や非対称な修正手法は、これら 3 つの基準のすべてを満たすことができません。その結果、集合が整合性を欠くか、片側でカバレッジ保証が欠如するか、あるいは実用的でないほど巨大になることがよくあります。

手法：COCOCO

著者らは、訓練済みの任意の NeSy-CBM を、上記 3 つの望ましい性質すべてを満たすコンフォーマル予測器に変換するための事後フレームワークであるCOCOCO（COnformality, COnsistency, COnciseness）を提案します。

中核メカニズム

COCOCO は 2 段階で動作します：

結合コンフォーマル化： 標準的な CP 手法を用いて、ラベル用のコンフォーマル予測集合（ $\Upsilon_\alpha(x)$ ）と概念用のコンフォーマル予測集合（ $\Gamma_\beta(x)$ ）を独立して構築します。概念については、概念抽出器の条件付き独立性を利用して積集合を構築するか、またはe 値を活用してボンフェローニ補正を回避し、集合サイズを制御します。
演繹 - 帰納的修正： フレームワークは、2 つの集合を調和させる単一の結合修正ステップを適用します。このステップには以下が含まれます：
- 演繹（Deduction）： 概念集合によって帰結されるラベルのみを保持するようにラベル集合をフィルタリングします（ $\Upsilon_{rev} = \Upsilon_\alpha \cap g^\dagger(\Gamma_\beta)$ ）。
- 帰納（Abduction）： 少なくとも 1 つのラベル集合内のラベルを帰結する概念のみを保持するように概念集合をフィルタリングします（ $\Gamma_{rev} = \Gamma_\beta \cap g^{-\dagger}(\Upsilon_\alpha)$ ）。

理論的保証

単一ステップ固定点： 著者らは、この結合修正演算子を 1 回適用するだけで固定点に到達することを証明しています。プロセスを反復する必要がないため、計算効率が保証されます。
最適性： 得られるペア $(\Gamma_{rev}, \Upsilon_{rev})$ は、相互の論理的整合性を維持する元の集合の最大の部分集合です。
不完全な知識下でのカバレッジ： このフレームワークは分布フリーのカバレッジ保証を維持します。推論層が不完全な場合（例えば、不完全な知識や推論のショートカットによる場合）、カバレッジの下限は推論層の健全性（ $\delta_{ab}$ および $\delta_{de}$ ）に基づいて線形的に低下します。
ユーザー指定のサイズ予算： コンフォーマル e 予測（分位数の代わりに e 値を使用）を統合することで、COCOCO はユーザーが最大集合サイズ（予算）を指定し、期待値においてカバレッジ保証を維持するために誤カバレッジレベル（ $\tilde{\alpha}, \tilde{\beta}$ ）を適応的に選択することを可能にします。このアプローチは、概念の数が増加しても保証が劣化するのを防ぎます。

主要な貢献

望ましい性質の形式化： 本論文は、整合性、カバレッジ、簡潔性をコンフォーマル NeSy 手法に必要な条件として定義し、形式化しました。
COCOCO フレームワーク： 概念とラベルを結合的にコンフォーマル化し、単一の演繹 - 帰納ステップを通じてそれらを調和させる新しい事後フレームワーク。
理論的証明：
- 構成上、COCOCO が 3 つの望ましい性質すべてを満たすことの証明。
- 修正ステップが 1 回の反復で固定点に到達することの証明。
- 不完全な知識と結合失敗確率を考慮したカバレッジ境界の導出。
サイズ制御： e 値が、カバレッジ保証を損なうことなくユーザー指定のサイズ予算を可能にする方法の実証。
広範な実証評価： 2 つの最先端の NeSy アーキテクチャ（DeepProbLog および Logic Tensor Networks）を用いた、8 つのデータセット（医療画像、テキスト、画像分類を含む）での評価。

実験結果

8 つのデータセット（CHX, CEB, RIV10, MN-Add 変種、CIF10）における実験により、COCOCO は自然なベースラインおよび最強の競合他社（RPB）を上回ることが示されました：

整合性： COCOCO はすべてのデータセットで1.00 の概念およびラベル整合性を達成しました。対照的に、RPB などの競合他社は概念側で顕著な不一致を示すことが多く（例えば、MN-EO データセットでは 0.12 まで低下）、これに比べて優れています。
簡潔性： COCOCO はベースラインと比較して予測集合サイズを大幅に削減しました。例えば、CEB データセットでは、概念集合サイズを 75.06（RPB）から 53.49 に削減し、MN-EO では 100.00（RPB）から 12.13 に削減しながら、完全な整合性を維持しました。
カバレッジ： COCOCO は、整合性と簡潔性を保証するためにわずかなカバレッジ（概念側では通常 RPB より 7〜10 パーセントポイント低い）と引き換えに、名义 0.9 のターゲットにおいて高いラベルカバレッジ（多くの場合 $\ge 0.87$ ）と概念カバレッジ（ $\ge 0.83$ ）を維持しています。
ロバスト性： この手法は、不完全な知識（RIV10）や推論のショートカット（MN-EO）下でも堅牢に機能し、理論的境界がカバレッジの低下を正しく予測しています。
実行時間： COCOCO の計算オーバーヘッドは modest（ベースライン実行時間の約 1.2 倍から 1.6 倍）です。修正ステップには、帰納的および演繹的画像計算の単一パスのみが必要であるためです。

意義と主張

本論文は、COCOCO が、分布フリーのカバレッジを維持しつつ、記号的知識を活用してコンフォーマル予測集合を縮小し、ラベル - 概念の整合性を強制する最初の手法であると主張しています。

著者らは、COCOCO を、ステークホルダーが単なる予測だけでなく、厳密な統計的保証を持つ論理的に整合した妥当な代替案の集合を必要とする、高リスクドメイン（例えば、医療診断）における意思決定支援システムに適した NeSy-CBM への重要な一歩として位置づけています。このフレームワークは、ドメイン制約を尊重する解釈可能な集合を提供することで、NeSy モデルの不確実性の「ブラックボックス」性質に対処し、基盤となるニューロ記号モデルの再訓練を必要とすることなく、信頼性と信頼性を向上させます。