技術概要：ルール違反が稀な場合における論理異常検出のためのキメラトレーニング

問題定義

本論文は、論理異常検出という設定に対処する。ここで異常とは、単なる統計的アウトライヤーや分布外（OOD）サンプルではなく、既知の意味的制約に違反する入力として定義される。これらの制約には、構造化されたオブジェクトの共起、行動の前提条件、および時間的または関係的な規則性が含まれる。

この分野における重要な課題は、現実世界のルール違反がトレーニング中に稀であるか、あるいは完全に存在しないことである。標準的な教師あり二値分類は、定義上希少な異常サンプルへのアクセスを必要とする。さらに、既存の手法はトレードオフに直面している。完全記号的パイプラインは壊れやすい知覚出力に依存する一方、完全ニューラルパイプラインはしばしば制約を暗黙的に再学習し、それらを偽の視覚的手がかりと絡み合わせ、解釈可能なルールレベルの帰属を提供することに失敗する。著者らは、異常の明示的な例を必要とせず、ルールに整合するトレーニングデータ（すなわち「正常」データ）のみを使用してルール違反を検出することを学習できる手法を開発することを目的としている。

手法

提案されるフレームワーク、ニューラルエバリュエーターは、論理制約を明示的な有向非巡回グラフ（DAG）にコンパイルし、それらを評価するために再利用可能なニューラル演算子を学習する、ニューラル記号的アプローチである。

1. 構造とトレーニングパイプライン

本手法は 4 つの段階で動作する（図 1 に示す）：

• 段階 1（リーフ概念バンク）： 共有エンコーダ $E_\phi$ が入力画像から特徴 $z$ を抽出する。「リーフ」ヘッドのセットが、定義済みの意味概念（例：オブジェクトの存在、関係）の確率を予測する。
• 段階 2（部分木ゲート学習）： 各論理ルールは、リーフが概念 ID であり、内部ノードが論理演算子（AND, OR, IMPLIES, IFF）である DAG として表現される。システムは、各内部ノードに対して部分木ゲート $g_{\theta_v}$ を学習する。これらのゲートは、子の特徴とエッジレベルの否定フラグを、親の特徴表現とルール充足確率にマッピングする。
• 段階 3（レベル別トレーニング）： トレーニングは深さによってボトムアップで進行する。低深度のゲートは凍結され、現在の深度のゲートはノードごとの二値交差エントロピーを使用してトレーニングされる。重要なのは、内部ノードの真のターゲットが、ハードな概念ラベルからの正確なブール伝播を通じて導出され、グラフのルートだけでなく、すべてのノードに中間的な教師信号を提供することである。
• 段階 4（推論）： 新しい画像に対して、凍結されたゲートが特徴を DAG を介して伝播させ、ルート充足確率を計算する。異常スコアは $1 - \hat{t}_{root}$ と定義される。

2. キメラネガティブトレーニング

現実の違反の希少性に対処する核心的な革新は、キメラトレーニングである。

• 問題： 同じ画像の正常データでトレーニングすると、「ショートカット学習」につながりやすい。これは、ゲートが論理演算子を構成するのではなく、ルールのグローバルな視覚テンプレートを認識することを学習してしまうことである。さらに、有益な対照例（例：含意 $A \Rightarrow B$ に対する $A=1, B=0$）がトレーニング分布から欠落している可能性がある。
• 解決策： 生ピクセルを混合する（Mixup のような）のではなく、本手法は特徴レベルで対照的オペランドを構築する。子 $\ell$ と $r$ を持つ二値ノードの場合、サンプル $i$ のトレーニング入力は、サンプル $i$ の左子特徴と、異なるサンプル $\pi(i)$（$\pi$ は置換）の右子特徴を連結することで形成される。
• ターゲット生成： この「キメラ」入力に対するターゲットラベルは、それぞれのサンプルのハード真実ラベル（$t_\ell(y_i)$ および $t_r(y_{\pi(i)})$）に論理演算子を適用することで計算される。
• 効果： これにより、ゲートは視覚的相関を記憶するのではなく、特徴間の論理的関係を学習する構成演算子として振る舞うことが強制される。自然データに特定のルール結果が存在しない場合でも、教師あり論理的対照例を提供する。

3. 系譜認識キャッシング

多数のルールにスケーリングするために、システムはキャッシングメカニズムを採用する。キャッシュキーは、記号的部分木構造、エッジの否定、ゲート構造、特徴次元、およびアップストリームエンコーダのフィンガープリントに基づいて生成される。これにより、特徴表現と論理構造が一致する限り、学習された部分木を異なるルールや実行間で安全に再利用できる。

主要な貢献

1. 部分木ゲート： ハードなブール教師下で、概念条件付き特徴を真の確率に構成するボトムアップのノード局所学習メカニズム。これにより、学習された論理演算子の再利用が可能になる。
2. キメラネガティブトレーニング： 異なるサンプルからの部分木オペランドを混合することで、演算子レベルの構成性を強制し、ショートカット学習を防ぐ新しいトレーニング戦略。これにより、トレーニングデータから実対照例（違反）が完全に欠落している状況でも、モデルが効果的に動作することを可能にする。
3. 実証的検証： 構造化された画像/ビデオベンチマーク（CLEVRER, OpenImages, VidOR）および実世界データにおける手法の有効性の実証。独立イベントベースラインおよび同一画像意味トレーニングに対する顕著な改善を示す。

結果

著者らは、ニューラルエバリュエーターを 3 つのベースラインに対して評価した：

• INDEPPROB： 独立イベント確率的エバリュエーター（記号的ベースライン）。
• SEM（意味的損失）： キメラ混合なしの同一画像意味トレーニングベースライン。
• Mono-N/Mono-C： モノリシックなルート専用ベースライン（正常データのみでトレーニング、またはキメラデータでトレーニング）。

主要な知見：

• 性能向上： ニューラルエバリュエーターは、ルールレベルの異常 AUROC において、一貫して独立イベントベースラインを上回った。CLEVRER (+0.083)、OpenImages (+0.078)、VidOR (+0.234) で顕著な改善が観察された。
• キメラトレーニングの必要性： SEM ベースライン（同一画像トレーニングのみ）は複雑なデータセットで崩壊し、AUROC $\approx 0.5$（ランダム推測）となった。これは、明示的な対照的教師なしでは、有益な違反真理構成の十分なカバレッジが通常の正常データには欠けており、非自明な異常信号を学習できないことを確認する。
• 構成ルール： 本手法は、固定された確率的仮定（イベント独立性など）が失敗する、構成および関係ルール（CLEVRER における含意の連鎖、VidOR におけるオブジェクト - 関係ルールなど）に対して特に強力な性能を示した。
• アブレーションの洞察： モノリシックなキメラトレーニングベースラインは完全なモジュールモデルと同様の性能を示したが、モジュールアプローチは、顕著な性能損失なしに、より解釈可能で再利用可能なルール評価の分解を提供する。

意義と主張

本論文は、多くの実用的な異常は、ピクセル空間での単なる希少性ではなく、ドメイン制約の違反として特徴づけるのが最善であると主張する。制約を明示的な DAG にコンパイルし、キメラベースの教師でトレーニングすることにより、検出器はスカラー異常スコアだけでなく、どの 制約が違反されたかを説明する構造化されたルールレベルの帰属も提供する。

著者らは、このアプローチにより、トレーニングデータセットがルールに整合するサンプルのみを含んでいる場合でも、ルール違反を検出できることを強調している。これは、稀な異常サンプルへのアクセスを必要とする完全教師あり二値分類と比較して、特徴的な点である。本手法は、記号的推論（明示的制約）とニューラル知覚（堅牢な特徴抽出）の間のギャップを埋め、真実の異常が利用できない状況における論理異常検出のためのスケーラブルな解決策を提供する。

本論文は、その限界について控えめに述べており、本手法はリーフ概念バンクからの誤り、データセット注釈のバイアス、および抽出されたルールにおける潜在的な偽相関を継承することを認めている。また、高い異常スコアは、一般的な安全性の判断ではなく、選択されたルールセットに対する意味的不整合を示すものであると主張している。