🤖 machine learning

EM-NeSy: Expectation Maximization for Neurosymbolic Learning

本論文は、記号成分が微分可能であることを必要とせずに、厳密な推論と近似的な推論の両方をサポートし、スケーラブルかつ効率的な学習を可能にするためにExpectation-Maximizationアルゴリズムを活用した、新しいニューロシンボリック学習フレームワークであるEM-NeSyを導入するものである。

原著者： Annegret Seibt, Luc De Raedt, Giuseppe Marra

公開日 2026-06-15

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Annegret Seibt, Luc De Raedt, Giuseppe Marra

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

ビッグピクチャー：ロボットに「思考」と「推論」を教える

あなたは、ロボットに2つのことを同時に教えようとしていると想像してください。

知覚（Perception）： ぼやけた写真を見て、そこに何があるかを推測する方法（例えば、手書きの数字を認識すること）。これはニューラルネットワーク（「Neural」の部分）によって行われます。
推論（Reasoning）： それらのオブジェクトが、一連のルールに従って共に成立しているかどうかをチェックする方法（例えば、数独のパズルが正しいかどうかを確認すること）。これは記号論理学（「Symbolic」の部分）によって行われます。

現在の手法では、これら2つの部分を「ワイヤー」でつなぎ、ロボットが間違いから学習できるようにすることで、同時に教えようとしています。しかし、このワイヤーには問題があります。もし論理部分が複雑すぎたり、数学的に扱いづらい手法（ランダムサンプリングなど）を使用していたりすると、この「ワイヤー」は切れてしまいます。ロボットは、間違いを修正するための正確な方向を計算できないため、学習ができなくなってしまうのです。

EM-NESYは、この「ワイヤー」を完全に取り除く新しい学習方法です。学習プロセス中にこれら2つの部分を常に会話させるのではなく、交代で作業を行うようにします。

アナロジー：美術評論家と弟子

EM-NESYの仕組みを理解するために、「弟子の画家」（ニューラルネットワーク）と**「厳しい美術評論家」**（記号論理学）を想像してみてください。

旧来の方法（エンド・トゥ・エンド学習）

従来のメソッドでは、弟子が絵を描くと、評論家がすぐに「それは間違いだ！」と叫びます。そして評論家は、どの筆致が間違っていたのか、どう直すべきかを正確に説明しようとします。

問題点： もし評論家のルールが複雑すぎたり（複雑な数独のパズルのように）、あるいはステップごとに説明するのが難しい方法（ランダムに推測するなど）を使っていたりする場合、評論家は行き詰まってしまいます。評論家は、筆致をどう直すべきかという具体的な指示を与えることができなくなります。弟子は混乱し、上達することができません。

新しい方法（EM-NESY）

EM-NESYは、このワークフローを、リハーサルのような2つの明確なステップに変更します。

ステップ1：評論家のレビュー（「期待値」ステップ）
弟子は現在のスキルに基づいて絵を描きます。評論家はその絵と「正解（ラベル）」の両方を見ます。
評論家は、「どのように筆致を直すべきか」を説明しようとする代わりに、単に**「修正リスト」**を書き出します。

例：「君はこの数字を『3』だと思ったけれど、数独のルールに従えば、これは『5』である確率が70%、『6』である確率が30%だ。」
重要なポイント： 評論家は、どのような手法を用いても構いません。複雑な数学、ランダムな推測、あるいは厳格な論理。ステップごとに推論の過程を説明できなくても、最終的な確率のリスト（「事後分布」）さえ作成できればよいのです。

ステップ2：弟子の練習（「最大化」ステップ）
評論家は、その修正リストを弟子に渡します。弟子は自分の元の推測と、評論家の修正内容を見比べます。

弟子は考えます。「自分は『3』だと予想した。でも評論家は、『5』か『6』であるべきだと言っている。次は『5』や『6』が出る確率が高くなるように、自分の脳を調整しなければならない。」
弟子は、評論家のリストに合わせて自分自身の内部設定（ニューラルパラメータ）を更新します。
重要なポイント： このステップでは、評論家は関与しません。評論家のリストは「確定した事実」として扱われます。弟子は、自分の描き方をどう変えるべきかだけを学べばよいのです。

なぜこれが画期的なのか？

1. 「学習不可能」な論理を解禁する
一部の論理問題は非常に難解で、正確な答えを計算できなかったり、答えを見つける手法が「微分不可能（数学的に扱いにくい）」であったりします。

アナロジー： 評論家が答えを見つけるためにサイコロを振る手法を使っていると想像してください。従来の方法では、サイコロの目の出方まで遡って筆致に影響を与えることができないため、弟子に教えることができませんでした。
EM-NESYの場合： 評論家はサイコロを振り、結果を得て、それを書き留めます。弟子はその「結果」から学ぶだけです。ややこしいサイコロを振るプロセスは、学習プロセスから完全に隠蔽されています。

2. 高速化とメモリ節約
論文では、論理が正確に計算できるほど単純な場合、この新手法は従来の手法と同等の精度を持ちながら、より高速であることを示しています。

アナロジー： 間違いをするたびに、宇宙の歴史すべてを再計算する必要はないと気づくようなものです。単に最終的な判定さえあればよいのです。これにより、膨大なコンピュータメモリと時間を節約でき、従来のシステムではクラッシュしてしまうような大きなパズル（100桁の数独グリッドなど）を解決できるようになります。

3. あらゆる「評論家」に対応可能
評論家は数学的に「滑らか」である必要も、微分可能である必要もないため、既存のあらゆる論理エンジンを組み込むことができます。これには、これまでニューラルネットワークとの併用が困難だったものも含まれます。

実験の結果

著者らは、3種類のパズルでテストを行いました。

手書き数字の加算： EM-NESYは、他の手法では完了すらできなかった巨大な合計（100桁）を処理でき、かつメモリ使用量も少ないことを示しました。
ビジュアル数独： 厳格なルールがあるパズルにおいて、近似的な手法（ランダムサンプリングなど）を使用して論理部分を解いている場合でも、学習が可能であることを示しました。
マップ上の経路探索： グリッド上での最短経路を見つける学習において、論理が複雑すぎて微分が困難なタスクでも、従来の手法が苦戦する中で成功することを示しました。

まとめ

この論文は、ニューロシンボリック学習を、順番に行われる「熱いか冷たいか（Hot and Cold）」ゲームとして扱うフレームワーク、EM-NESYを提案しています。

ターン1： 論理エンジン（評論家）が、手持ちの道具を駆使して、正解がどうあるべきかを判断します。
ターン2： ニューラルエンジン（弟子）が、それらの回答に合わせて自分の脳を調整します。

この単純な切り替えにより、AIは、論理を数学的に完璧にしたり微分可能にしたりすることを強制されることなく、複雑で、ややこしく、あるいは近似的な論理から学習できるようになります。これにより、「見る」ことと「考える」ことの両方ができるAIの構築が、より柔軟に、そして大規模に可能になります。

技術要約: EM-NESY: 神経記号論的学習のための期待値最大化（Expectation Maximization）

問題提起

神経記号論的（Neurosymbolic, NeSy）モデルは、ニューラルネットワークの知覚能力と、記号論理の推論能力を統合することを目指している。最先端のNeSyモデルの多くは、通常、ニューラル成分と記号成分の両方に勾配をバックプロパゲーションすることでエンドツーエンドの学習を実現しているが、このアプローチは、記号成分が近似推論に依存する場合に重大な課題に直面する。

厳密な確率推論は、複雑なタスクにおいては #P困難であり、計算量的に手に負えないことが多い。その結果、多くのシステムは近似推論手法（例：サンプリング、ブリーフプロパゲーション、または線形計画法による緩和）を採用せざるを得なくなる。しかし、これらの手法は以下の微分可能性の問題を導入する：

非微分可能性: サンプリングのような手法は本質的に非微分であり、特殊な勾配エスティメータ（例：REINFORCE）や再パラメータ化トリックを必要とする。
計算オーバーヘッド: 理論的には微分可能な反復的手法（例：ブリーフプロパゲーション）であっても、すべての反復を通じてバックプロパゲーションを行うために必要な巨大な計算グラフにより、実際には実用的ではなくなる。

現在の解決策は、微分可能性を確保するために推論固有の修正を必要とすることが多く、これがNeSyシステムの柔軟性とスケーラビリティを制限している。

手法: EM-NeSy

著者らは、NeSy学習を期待値最大化（EM）アルゴリズムの一種として捉える学習フレームワークであるEM-NeSyを提案する。この定式化は、記号推論プロセスと勾配計算をデカップル（分離）し、あらゆる推論エンジン（厳密、近似、微分可能、または非微分可能）の使用を可能にする。

フレームワーク

NeSyモデルは、以下のような潜在変数モデルとして扱われる：

$X$ : サブシンボリック入力（例：画像）。
$Z$ : 潜在的な記号変数（ニューラルによって予測される）。
$Y$ : ターゲットとなる記号出力（例：数独グリッドの妥当性）。
$\theta$ : ニューラルネットワークのパラメータ。

学習プロセスは、以下の2つのステップを交互に繰り返す：

Eステップ（期待値）:
記号成分は、観測されたラベル $Y$ と入力 $X$ に条件付けられた潜在変数 $Z$ の事後分布を計算する：
$p(z|y, x, \theta) = \frac{p_{Ne}(z|x, \theta)p_{Sy}(y|z)}{p(y|x, \theta)}$
ここで、 $p_{Ne}$ はニューラル事前分布、 $p_{Sy}$ は記号尤度である。決定的なのは、このステップが「確率的な補正器」として機能し、背景知識に基づいて $Z$ のソフトまたはハードなラベルを仮説生成（abduction）することである。このステップは、微分可能性を必要とせず、あらゆる記号推論エンジン（厳密、近似、サンプリングベース）によって実行できる。
Mステップ（最大化）:
ニューラルパラメータ $\theta$ は、ニューラル事前分布 $p_{Ne}(z|x, \theta)$ と、Eステップで計算された事後分布 $\ell(z)$ との間のクロスエントロピーを最小化することによって更新される：
$L_{EM-NeSy}(\theta) = -\sum_{z \in R(Z)} \ell(z) \log p_{Ne}(z|x, \theta)$
勾配は、事後分布 $\ell(z)$ を定数として扱い、ニューラル成分のみを通じてバックプロパゲーションされる。これにより、記号推論プロセスを微分する必要性が排除される。

理論的等価性

論文では、厳密な推論が行われる条件下において、EM-NeSyによって計算される勾配は、標準的なエンドツーエンドの微分可能なNeSy学習の勾配と数学的に等価であることを証明している（定理3.1）。したがって、EM-NeSyは厳密な推論が可能な場合には標準的な設定を再現しつつ、それが困難な場合には明確な優位性を提供する。

バリアントと拡張

Hard EM: ソフトな事後分布の代わりに、最大事後確率（MAP）割り当てを使用する。
Multi-M EM: 1回のEステップに対して複数のMステップ（勾配更新）を実行し、高価な事後分布の再計算を行うことなく収束を加速させる。
近似推論: 本フレームワークは、修正を加えることなく、サンプリングベースの手法（例：棄却サンプリング、ABCサンプリング）や反復アルゴリズム（例：ブリーフプロパゲーション）を自然にサポートする。

主な貢献

NeSy学習の再定式化: 著者らはNeSy学習をEMフレームワーク内に再構成し、柔軟性を向上させるために高度なEMバリアント（一般化EM、確率的EM、Hard EM）の使用を可能にした。
微分可能性に依存しない統合: 記号推論プロセスが微分可能である必要なく、あらゆる確率推論エンジンをNeSyモデルに統合できる汎用的なフレームワークを提案した。
スケーラビリティと効率性: 本アプローチは、厳密な推論が困難である、あるいは反復ソルバーの微分が計算量的に困難であるタスクにおいても、NeSy学習がスケールできることを示している。

実験結果

著者らは、MNISTAdd（手書き数字の加算）、Visual Sudoku、およびWarcraft path-planningの3つのベンチマークでEM-NeSyを評価した。

厳密な推論 (MNISTAdd): EM-NeSyは、標準的なエンドツーエンドの微分可能なNeSy (BP-std) および DeepStochLog と同等の精度を達成した。しかし、スケーラビリティと効率性の面でそれらを大幅に上回った。DeepStochLogは知識コンパイルの制限により15桁のスケールへの拡大に失敗したが、EM-NeSyは100桁までスケール可能であった。また、ピークメモリ使用量を約90 GBから約35 GBに削減し、訓練時間を短縮した。
近似/非微分的な推論:
- Visual Sudoku: 標準的な微分可能な手法（Scallop, SL）は、9x9グリッドでタイムアウトした。ABC（近似ベイズ計算）サンプリングを用いたEM-NeSyは、最小限の訓練時間（8.24分）で競争力のある精度（53.3%）を達成したが、他の手法は適用不可能であった。
- Warcraft Path-Planning: ABCサンプリングを用いたEM-NeSyは、I-MLEやEXALと比較して大幅に速い訓練時間で、最先端の精度（12x12で98.80%、30x30で69.60%）を達成した。
観察された限界: EM-NeSyの性能は、近似事後分布の質に依存する。Hard EM (MAP) はMNISTAddにおいてバイアスを示し、ループのあるブリーフプロパゲーションはファクターグラフの構造により9x9のSudokuで失敗した。ABCサンプリングは、より大きなインスタンスにおいて高い分散を示したが、より小さな設定では依然として効果的であった。

意義と主張

本論文は、EM-NeSyが推論固有の微分可能性に関する修正の必要性を排除することで、モデル設計を大幅に簡素化する統一された学習フレームワークを提供すると主張している。NeSy学習をEM問題として扱うことで、以下のことが可能になる：

特化した、あるいは最適化された、あるいは非微分的なソルバーを含む、あらゆる記号推論エンジンの使用。
厳密な推論が行われる場合には標準的なエンドツーエンドの学習を再現しつつ、優れた計算効率とメモリのスケーラビリティを提供する。
複雑な組合せ制約（パスプランニングや数独など）を伴うタスクにおいて、厳密な推論が不可能であったり、微分可能な近似を構築することが困難であったりする場合でも、NeSyシステムを扱うことを可能にする。

著者らは、EM-NeSyは効果的な近似を選択するという問題（これは依然としてタスク依存である）を解決するものではないが、微分可能性という障壁を取り除き、それによって、よりスケーラブルで柔軟な神経記号論的システムを可能にするものであると結論付けている。