💬 NLP

Judge Circuits

本論文は、位置を考慮したエッジ帰属パッチングを採用し、LLM が構造的に脆弱で形式固有の出力ブランチから分離された、共有かつスパースな「潜在評価器」サブグラフを有していることを明らかにし、ベンチマークの信頼性が真の評価品質ではなくフォーマッターの幾何学構造を測定する傾向がある理由を説明する。

原著者： Nils Feldhus, Tanja Baeumel, Elena Golimblevskaia, Qianli Wang, Van Bach Nguyen, Aaron Louis Eidt, Christopher Ebert, Wojciech Samek, Jing Yang, Vera Schmitt, Sebastian Möller, Simon Ostermann

公開日 2026-05-18

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Nils Feldhus, Tanja Baeumel, Elena Golimblevskaia, Qianli Wang, Van Bach Nguyen, Aaron Louis Eidt, Christopher Ebert, Wojciech Samek, Jing Yang, Vera Schmitt, Sebastian Möller, Simon Ostermann

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

以下は、論文「Judge Circuits」を平易な言葉と創造的な比喩を用いて解説したものです。

大きな問題：気まぐれな「裁判官」

非常に賢い AI を裁判官として雇ったと想像してください。ある物語を 1 から 5 までの星で評価するように頼みます。すると、その物語に5 星を与えます。
次に、全く同じ AI に全く同じ質問をしますが、形式を少し変えます。数字を求めず、「この物語は良いか」という問いに対して「はい」か「いいえ」で答えるように頼みます。すると、突然**「いいえ」**と言います。

これがこの論文が調査している問題です。大規模言語モデル（LLM）は一貫した裁判官であるはずですが、質問の形式（数字対言葉など）が変わるだけで、異なる回答を出すことがよくあります。これにより、自動採点における信頼性が損なわれます。

調査：脳の中を覗く

研究者たちは、質問と回答を見るだけでなく、AI の「脳」（内部のコンピュータコード）の中を覗き込み、混乱がどこで起きているかを調べました。彼らは、AI が判断を処理する際の情報の経路を追跡するために、PEAPという特別なツール（高機能な X 線検査のようなものと考えてください）を使用しました。

彼らは、AI の脳が実際には二つのパートからなる工場のように構築されていることを発見しました。

1. 「中核裁判官」（潜在評価者）

AI の中間層の奥深くには、専門的なニューロンの小さなチームが存在します。これを中核裁判官と呼びましょう。

役割： 物語を読み、考え、確固たる内部意見を形成します。「これは良い物語だ」と判断します。
重要な発見： このチームは、星の評価を求めようが、はい/いいえの回答を求めようが、真/偽の判決を求めようが、同じです。彼らは機械の中の「真実を語る者」です。もし彼らをオフにすると、AI は完全に評価する方法を忘れますが、事実（誰が大統領かなど）は記憶したままです。

2. 「翻訳者」（タスクフォーマッター）

中核裁判官が物語が良いと判断すると、その意見は工場ラインの最も末端にある別のチームに引き継がれます。これを翻訳者と呼びましょう。

役割： 彼らの唯一の仕事は、内部の意見（「良い物語」）を受け取り、求められた特定の形式に変換することです。
- 星を求められれば、「5」と書きます。
- はい/いいえを求められれば、「はい」と書きます。
問題点： 研究者たちは、これらの翻訳者が脆弱で一貫性がないことを発見しました。時には、「はい/いいえ」の翻訳者が形式に混乱し、中核裁判官が良い物語だと判断したにもかかわらず、誤って「いいえ」と書いてしまいます。

実験：分裂の証明

これを証明するために、研究者たちはフォーマット転送注入と呼ばれる巧妙な実験を行いました。

中核裁判官が作業を終え、輝く「良い物語」のシグナルを持っていると想像してください。研究者たちは、その正確なシグナルを取り出し、通常「悪い物語」と言うはずの別のタスクの「翻訳者」に強制的に注入しました。

結果： 多くの場合、「悪い物語」の翻訳者は突然考えを変え、「良い物語」（あるいは「はい」）と言いました。
意味： これは、中核裁判官が最初から正しい作業をしていたことを証明しました。間違いは思考の中ではなく、最後の翻訳段階にありました。「翻訳者」こそが、AI を一貫性のないものにする弱いリンクです。

なぜ一部の AI モデルは他よりも優れているのか

この論文はまた、この「二部構成の工場」設計は、単にモデルの大きさだけでなく、特定のモデルアーキテクチャに依存していることも発見しました。

モジュール型モデル（Qwen など）： これらのモデルは非常に明確な分離を持っています。中核裁判官と翻訳者は異なる部屋にいます。翻訳者を壊しても、中核裁判官は完璧に機能し続けます。
絡み合い型モデル（Gemma-3-12B など）： これらのモデルでは、中核裁判官と翻訳者がごちゃごちゃに絡み合った複雑な結び目になっています。翻訳者を修正しようとすると、誤って中核裁判官も壊してしまいます。そのため、修正が困難です。

結論

この論文は、AI 裁判官が一貫性のない回答を与える場合、それは通常、AI が思考や評価が下手だからではないと結論付けています。それは、出力フォーマット（回答が書き出される方法）に不具合が生じているからです。

比喩のまとめ：
AI を、料理の美味しさを正確に知っている天才シェフ（中核裁判官）だと考えてください。

シェフにレビューを書くように頼めば、「5 星」と書きます。
頷くように頼めば、「はい」と頷きます。
しかし、時にはシェフの注文を客に伝えるウェイター（翻訳者）が混乱します。ウェイターは「5 星」と聞いても、言語の切り替えが下手なため、客に誤って「料理はひどい」と伝えてしまうかもしれません。

問題なのはシェフの味覚ではなく、ウェイターの翻訳です。AI 裁判官を修正するには、シェフを再訓練する必要はありません。ウェイターを修正するだけで十分です。

技術的サマリー：ジャッジ回路

問題定義

「LLM-as-a-Judge（LaaJ）」パラダイムは、モデル評価のスケーリングにおける標準となっているが、重大な信頼性の問題に悩まされている。すなわち、モデルは同じ入力に対して、出力形式（例えば、1〜5 段階のレーティング対真偽分類）に応じて体系的に異なるスコアを割り当てることである。先行研究はこの不一致を記録してきたが、入力と出力のレベルに留まり、内部的な計算メカニズムを説明するに至らなかった。本論文が扱う中心的な問いは、モデルが一貫して判断するかどうかではなく、入力から出力までの計算経路において、出力トークン形式に起因する不一致が「どこ」で生じるかである。

手法

著者らは、Gemma-3、Qwen2.5、Llama-3 モデルにおけるジャッジ回路の内部メカニズムを因果的に調査するために、**位置意識型エッジ帰属パッチング（PEAP）**を採用している。彼らのアプローチは以下の通りである：

回路の発見：PEAP を用いて、差分入力トークン（クリーン対破損プロンプト）から出力へ至る因果的エッジを、トークン位置にわたって追跡する（前提対仮説など、分離されたスパンを比較するタスクに不可欠）。
対照的分解：同一のデータインスタンスに対して 2 つの回路を追跡する。1 つはレーティングタスク用（ $C_{rate}$ ）、もう 1 つは分類制御タスク用（ $C_{class}$ ）である。これらの回路の共通部分（ $C_{LE} = C_{rate} \cap C_{class}$ ）は**潜在評価器（LE）を定義し、その差分はタスクフォーマッター（TF）**を定義する。
因果的プローブ：発見された回路を 3 つの独立した手法で検証する：
- ゼロアブレーション：LE 成分をゼロに固定し、判断が崩壊する一方で世界知識が保持されるかどうかをテストする。
- 部分空間ステアリング：LE 活性化空間内で 1 次元の判断方向を特定し、それを操作して出力変化を観察する。
- 形式転送注入（FTI）：レーティングプロンプトからの LE 活性化を捕捉し、分類プロンプトのグラフに注入して、出力トークンが反転するかどうかを確認する。

主要な貢献と結果

1. 共有された潜在評価器の発見

本研究は、中後段の多層パーセプトロン（MLP）と選択された後段の注意ヘッドに位置する**疎で汎用的な潜在評価器（LE）**のサブグラフを特定した。

タスク間での重なり：構造化された言語的正しさ、好み、感情といった異なる判断タスクは、密な計算幹を共有している。例えば、Qwen2.5-7B において、タスク間のエッジ IoU は 34.9% から 47.0% の範囲にある。
忠実性：これらの疎な回路（上位 $k \le 200$ のエッジ）は因果的に十分であり、25 のモデル - タスク構成のうち 21 において、モデルの評価行動の $\ge 87\%$ を再現する。

2. 構造依存性のモジュール性

LE の機能的隔離は、規模の普遍的な帰結ではなく、モデルの構造に依存する：

モジュール型モデル：Qwen2.5-7B、Qwen2.5-14B、Llama-3.1-8B、Gemma-3-27B において、LE をゼロアブレーションすると判断性能は崩壊するが、世界知識（MMLU、StrategyQA）は維持される。
絡み合い型モデル：Gemma-3-12B において、LE は世界知識経路と密に絡み合っている。これをアブレートすると、判断と事実の想起の両方が劣化する。これは、モジュール性が単なるパラメータ数の関数ではなく、構造的特性であることを示している。

3. 形式に起因する不一致のメカニズム

本論文は、形式の変化がなぜ不一致を引き起こすのかのメカニズム的説明を提供する：

分岐：判断は、共有された LE 幹における安定した連続信号によって計算される。この信号はその後、**脆弱で形式固有の末端枝（タスクフォーマッター）**によって特定の出力トークンへマッピングされる。
ボトルネック：不一致は評価そのものではなく、ルーティングにおいて生じる。LE は安定した 1 次元の判断方向を計算するが、タスクフォーマッターの「アトラクタ幾何学」（このスカラーを離散トークンへどのようにマッピングするか）は形式とモデルによって変化する。
- 二値/順序形式：明確なアトラクタを持つ形式（例えば、二値の Yes/No や 1〜5 段階のスケール）では、LE 信号は正常に復号される。
- 多アトラクタ形式：MNLI（含意/中立/矛盾）のようなタスクでは、フォーマッターが確率質量を 3 つの競合するトークンに分散させる。1 次元の判断信号を注入しても、信号が 3 つのアトラクタに分裂して単一のラベルが argmax に達するのを妨げるため、出力が反転しないことが多い。
FTI の証拠：レーティングプロンプトからの blanket 活性化注入を分類プロンプトに行うと、モジュール型モデル（例：Qwen2.5-7B は $\ge 99\%$ のケースで出力トークンを反転）では出力トークンが反転するが、フォーマッターが幾何学的に絶縁されているモデル（例：MNLI における Gemma-3-27B）では失敗する。

4. 評価への実践的示唆

著者らは、LE の 1 次元因果方向をゼロショット判断スカラーとして機能させ得ることを実証した。

少量の（ $N$ が小さい）好みデータにおいて（プロンプト出力の較正が不十分で、教師ありプローブが過学習する状況）、この潜在信号は教師あり残差プローブと同等かそれ以上の性能を示す。
しかし、プロンプト語彙が人間のラベルとスケール整合しているタスク（例：Yelp の 1〜5 つ星）では、確率重み付き期待値が依然として強力なベースラインであり、潜在方向はそれを上回らない。

意義と主張

本論文は、LaaJ の信頼性に関する議論を再定義する。それは、形式摂動下での行動的不一致が、基盤となる評価能力の失敗ではなく、安定した内部判断が脆弱な末端マッピングを通じてルーティングされることによる期待されるシグネチャであると論じる。

診断の転換：診断の問いは「モデルは一貫して判断するか？」から「この出力仕様に対するフォーマッターが、基盤となる判断を保持しているか？」へとシフトする。
ベンチマークの解釈：形式を跨いだベンチマークレベルの信頼性比較は、評価の質というよりも部分的にフォーマッターの幾何学を測定している。
構造への洞察：この知見は、クリーンな内部抽象化が規模とともに一般的に現れるという仮定に挑戦する。むしろ、構造上の選択（トレーニングデータ、注意の疎性、正規化）が、モデルが機能的モジュール性を示すかどうかを決定する上で重要な役割を果たす。

著者らは、LaaJ の不一致に対する修正は、モデルの中核的な判断能力を乱すことなく**フォーマッター（ルーティング機構）**を標的とするべきであり、離散出力の較正が不十分な領域では、プロンプト出力に代わる代替手段として潜在部分空間抽出が viable であると結論づけている。