💬 NLP

Repair, Not Improvement: Decomposing Constrained Decoding in Tool-Call Abstention

本論文は、ツール呼び出しのシナリオにおける制約付きデコーディングは、ストップトークンの強制による負の影響がトークン選択を制限する利点をしばしば上回るため、棄却エラーを修復できないことが多いことを実証しており、最終的に、言語固有の性能差に関する従来の主張は支持されないことを明らかにしている。

原著者： Janghoon Lee (Redrob)

公開日 2026-08-17

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Janghoon Lee (Redrob)

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

セットアップ：AI、ルール、そして「ノー」と言う技術

想像してみてください。あなたは、非常に熱心で、動きの速いロボットに、有能なアシスタントになるよう教えています。このロボットは物語を書いたり、数学の問題を解いたり、さらには魔法使いのふりをしたりすることに長けています。しかし、一つだけ問題があります。それは、時には「答えを知らない」ことや、「何もしない方がよい」と認めることが、ロボットにとって最善の行動である場合があるということです。AIの世界では、これを「アブステインション（棄権）」と呼びます。もしあなたが天気をチェックするようにロボットに頼んだのに、実際には法的な秘密を知りたいのだとしたとします。その時、ロボットは自信満々に偽の法的意見を捏造するのではなく、「お手伝いできません」と言うべきなのです。

これらのロボットが突拍子もない物語を作ったり、ルールを破ったりしないようにするために、エンジニアは「制約付きデコーディング（constrained decoding）」というトリックを使います。これは、ロボットに厳格な塗り絵を与えるようなものだと考えてください。ロボットがページ上のどこにでも絵を描けるのではなく、特定の輪郭（JSON形式や許可されたツールのリストなど）の中にだけ色を塗ることが許されているのです。もしロボットが枠からはみ出して描こうとすると、コンピュータが即座にそれを阻止します。長い間、科学者たちはこのトリックはほぼ「無料」であると考えてきました。つまり、ロボットの実際の知能を損なうことなく、回答を完璧で整ったものに見せることができると考えていたのです。しかし、ある特定の状況において、大きな疑問符が浮かびました。「ロボットが『できない』と言う必要があるとき、どうなるのか？」という疑問です。厳格な塗り絵（制約）のせいで、ロボットは本来すべきではない時まで、無理やりツールを選ばされてしまうのでしょうか？本論文は、まさにこの問いを掘り下げ、ルールによって回答の見栄えが良くなることが、実は「止まるべき時に止まる」という能力を損なっていないかを検証しています。

ストーリー：ルールが「ノー」ボタンを壊すとき

この論文の研究者たちは、巧妙な実験を用いてこの概念をテストすることにしました。彼らはいくつかのAIモデル（0.6億個の「脳細胞」を持つ極小のものから、40億個を持つ少し大きめのものまで）を取り上げ、シンプルな質問を投げかけました。「ツールを使うべきか、それとも単に『なし（None）』と言うべきか？」彼らは、言語によって結果が変わるかどうかを確認するため、英語と韓国語の2ヶ国語でこれを行いました。

何が間違っているのかを正確に理解するために、彼らは単に「自由な回答」と「制限された回答」を比較しただけではありません。彼らは、まるで三幕構成の劇のように、中間ステップを追加しました。

自由な幕（The Free Act）： ロボットは、いくらでも説明できる自由なスペースを持って、自由に回答します。
短い幕（The Short Act）： ロボットはわずか一行で回答しますが、それでも言いたいことは自由に言える状態です。これは、単にロボットの説明を切り詰めることが、その正確性に悪影響を与えるかどうかをテストしています。
制限された幕（The Restricted Act）： ロボットは一行で回答しますが、厳格なツールのリスト（または「なし」）の中から選ぶことを強制されます。これが標準的な「制約付きデコーディング」の手法です。

これら三つの幕を比較することで、科学者たちは二つの異なる問題を切り分けることができました。一つは「ロボットの発言を短く切り詰めるコスト」、もう一つは「リストの中から選ぶことを強制するコスト」です。

大きな発見：改善ではなく「修理」

結果は驚くべきものであり、直感に反するものでした。研究によると、ロボットに厳格なリストから選ぶことを強制すると、ロボットが「ノー」と言うべき時に判断する能力が実際に賢くなるわけではないことが分かりました。実際、最小のモデルにおいては、厳格なルールによって「棄権（abstain）」の精度が著しく低下しました。特定のケース（韓国語を用いた極小の0.6Bモデル）では、自由に話させていた場合と比較して、精度が29.5パーセントポイントも低下しました。

しかし、なぜルールがあるケースで助けになったのかを見ると、物語はより面白くなります。研究者たちは、厳格なルールが「脳のアップグレード」ではなく、乱れた回答に対する「修理キット」として機能していることを発見しました。ロボットがリストからの選択を強制されると、支離滅裂な内容や読めないテキストを生成しなくなりました。つまり、「ナンセンス」を「正しく見える回答」に変えたのです。しかし、ルールは「間違った判断」を「正しい判断」に変えたわけではありませんでした。

ここが極めて重要な点です。研究者たちは、厳格なルールによって間違った回答が正しい回答へと変わった698の事例を調査しました。そのうち、545のケースは、ロボットが元々「読み取り可能な回答を全く生成できていなかった」ケースでした。ロボットがすでに正しい判断を下していたにもかかわらず、フォーマットによってブロックされたケースはゼロでした。これは、ルールがロボットの判断力を修正したのではなく、単にその「筆跡」を修正したに過ぎないことを意味しています。

隠れた罠：「ストップ・トークン」対「列挙型（Enum）」

論文では、どちらが「悪役」であるかを特定するために、厳格なルールを二つの部分に分解しました。

ストップ・トークン（The Stop Token）： 「一行で書き終えること」というルールです。
列挙型（The Enum）： 「特定のツールのリストからのみ選べること」というルールです。

これら二つの要素が互いに戦っていることが分かりました。「ストップ・トークン」（回答を短く切ること）こそが真の犯人で、一部のケースでは、ロボットが「なし」と言う能力を約20.0ポイントも損なわせる原因となっていました。一方で「列挙型」（ツールのリスト）は、約19.5ポイントの精度を回復させることで、これを補おうとしました。これらを合わせると、ほぼ相殺され、わずか0.5ポイントの純損失となります。

これが、なぜ以前の研究が見逃してきたのかという理由です。最終的な数字だけを見れば、ルールはほとんど害を与えていないように見えます。しかし、内部構造を見れば、巨大な「修理」によって巨大な「損失」が隠されていることが分かります。ルールはロボットの意思決定を改善したのではなく、ロボットの発言を短く切り詰めたことによるダメージを、ただパッチワークのように修復しただけなのです。

結論：脳のアップグレードは期待するな

論文は、AIシステムを構築するすべての人に向けて明確な警告で締めくくられています。AIをプロフェッショナルに見せるために厳格なフォーマットルールを使用する場合、それが「いつ行動すべきでないか」を知る能力を高めてくれるとは期待しないでください。ルールは出力を綺麗で読みやすくはしますが、助けるべきか否かの判断に迷っているロボットを救うことはできません。

実際、この研究は、これらのルールがロボットを、本来すべきではない時よりも頻繁に行動へと駆り立ててしまう可能性があることを示唆しています。ロボットがリストからの選択を強制されると、たとえ「何もしない」のが正解である場合でも、ツールを選択する方向へと「判断の境界線」を動かしてしまう傾向があります。これは安全性において危険です。例えば、あなたが法的な質問をした際に、ルールによってツールを選ばざるを得なくなったロボットは、明確に「できない」と言う手段を与えられていないために、自信満々に天気APIを呼び出してしまうかもしれません。

研究者たちはこれを異なるモデルと言語（英語と韓国語）にわたってテストしましたが、パターンは共通していました。厳格なルールは、乱れたテキストを修正するには素晴らしいものですが、判断力を向上させる魔法の杖ではありません。論文にある通り、ルールは「読めない出力を読めるものにする（それは価値のあることである）が、判断力については、最初に見つけた状態のままにしておく」のです。したがって、もしあなたのAIに「ノー」と言うべき時を知ってほしいのであれば、単なる厳格なチェックリストに頼るのではなく、ロボット自身に「いつ止まるべきか」を教えなければならないのです。

技術要約：改善ではなく修復：ツール呼び出しの棄却における制約付きデコーディングの分解

問題提起

近年の制約付きデコーディングに関する研究（Lee et al., 2026a）は、フォーマットの制約（JSONスキーマなど）がパフォーマンスの低下を招くものの、そのコストの大部分はデコーダーによる強制ではなく、プロンプトの指示に起因することを確立した。しかし、先行研究では、この結論において関数呼び出し（function calling）が明示的に除外されている。先行研究では、この領域の制約は単なる提示の好みの制限（回答の書き方の制限）ではなく、正当性の要件（特定の回答の排除）をエンコードしているためである。

本論文は、ツール呼び出しの棄却（tool-call abstention）、すなわち、適用すべきツールがない場合にモデルが正しく呼び出しを拒否しなければならないシナリオに焦点を当てて調査を行う。この設定において、制約付きデコーダー（ツール名の列挙と棄却トークンのセットに制限されたもの）は特有の課題に直面する。制約は単に出力をフォーマットするだけでなく、回答の集合自体を制限し、正しい「ツールなし」という決定を削除してしまう可能性がある。中心的な問いは、先行研究で他のフォーマットに対して示唆されているように、デコーダーによるパフォーマンス低下への寄与は無視できる程度なのか、それとも制約がモデルの判断に直接干渉するため、有意なものとなるのか、という点である。

方法論

本研究では、プロンプトの効果からデコーダーの効果を分離し、長さの制約と語彙の制約の効果を分離するために、厳格な実験設計を採用している。

実験設定

モデル: Qwen3 オープンウェイトモデル（0.6B、1.7B、4B パラメータ）。
言語: 英語および韓国語。
ベンチマーク: MetaTool Task2を使用。これには、「ツールが必要なケース」と「ツールを棄却すべきケース」の対応するペアが含まれる。データセットには、200件の棄却アイテムと、クエリが両条件で同一である200件のツール必要アイテムが含まれる。
スコアリング: Lee et al. (2026b) から採用した厳格な決定論的ルール。棄却が正解とされるのは、出力に棄却トークンが含まれ、かつツール名（またはその後に現れるツール名）が含まれていない場合のみである。マルチ候補の出力は誤りと判定される。

3条件設計

「制約税」を分解するために、著者はバイト単位で同一のプロンプトに対して以下の3つの条件を実行する：

contract-free (制約なし): 256トークンの予算を持つ制約なし生成（説明を許容する）。
contract-short (短縮制約): 制約なし生成だが、最初の改行で停止する（説明能力を排除し、長さ制限のコストを分離する）。
constrained (制約あり): 10個の候補ツールと棄却トークンの列挙（enum）に制限され、最初の改行で停止する。

指標と分解

著者は、特定の効果を分離するために3つの差分を定義する：

$\Delta_{length}$ : acc(short) - acc(free). 出力長を制限すること（最初の行で停止すること）によるコストを測定する。
$\Delta_{mask}$ : acc(constrained) - acc(short). 長さが既に制御されている条件下での、グラマー（列挙）による限界コストを測定する。
$\Delta_{total}$ : acc(constrained) - acc(free). 制約付きデコーディングの総コストであり、上記2つの合計である。

この設計により、著者は「フォーマット（早期停止）」のコストと「マスキング（トークン集合の制限）」のコストを区別することができる。

メカニズム変数

本研究では、非制約条件下でモデルが列挙グラマーによって禁止されたトークンに割り当てている確率質量として定義される masked_mass を測定する。これは Reddy et al. (2026) が提案した「実行可能質量（feasible mass）」の補集合である。

主な貢献

制約税の分解: 本論文は、ツール棄却の設定における制約付きデコーディングの総コストが、単一の負の値ではなく、逆の符号を持つ2つの成分の和であることを示している。
- ストップトークン（長さの制約）は、しばしば大幅な精度低下を引き起こす（例：-20.0ポイント）。
- 列挙制約（語彙のマスキング）は、多くの場合、その損失の一部を回復させる（例：+19.5ポイント）。
- その結果、総効果（ $\Delta_{total}$ ）はゼロに近いか、あるいは負になることがあり、これはグラマーがモデル固有の判断を改善しているのではなく、長さの制約によって生じたダメージを能動的に「修復」している事実を隠蔽している可能性がある。
修復 vs 改善: 著者は、制約がモデルの意思決定能力を向上させないことを示している。制約によって「修復」された698件の棄却のうち、545件は非制約出力において読み取り可能な回答が存在しなかったものであり、モデルが正しい判断を下していたもののフォーマットのために失敗したケースは0件であった。制約は単に有効なトークンを出力するように強制することで可読性を回復させているだけであり、根底にある論理を強化しているわけではない。
決定境界のシフト: 制約は可読性を「修復」する一方で、決定境界もシフトさせる。自由生成のベースラインと比較して、制約はツール選択の精度を高めるが、棄却の精度を低下させる。これは、グラマーがモデルを、たとえ棄却が正しい場合であっても、ツール呼び出しへとバイアスさせることを示している。
言語独立性: 言語固有の確率分布がコストを変化させるという仮説に対し、本研究では、項目内統計量（両言語が制約なしで正解したアイテムにおける失敗の比較）において、韓国語と英語の間に有意な差は見られなかった。しかし、マスクされた確率質量は言語の違いを完全には説明していない。ロジスティック回帰において、言語係数がゼロを除外したことは、マス質量変数では説明できない残留的な言語効果があることを示している。
非線形メカニズム: masked_mass と棄却ペナルティの関係は線形ではない。約0.480にブレークポイントが存在する。この閾値以下では、マスはペナルティをほとんど予測しないが、閾値を超えるとペナルティは急激に増加する。

結果

棄却パフォーマンス: 非制約の自由生成ベースラインに対し、棄却における $\Delta_{total}$ は負（パフォーマンス低下を示す）であり、6つのモデル/言語セルのうち4つで区間がゼロを含まなかった。最悪のケースでは**-29.5ポイント**の低下となった。正の値をとり、かつ区間がゼロを含まないケースは一度もなかった。
分解: 最も小さいモデル（0.6B）の韓国語において、ストップトークン単体では**-20.0ポイントのコストがかかるが、列挙を追加することで+19.5ポイントが回復し、純コストは-0.5**となる。これは「修復」仮説を裏付けている。つまり、グラマーはストップトークンによって引き起こされたダメージを修正している。
ツール選択: ツールが必要なアイテムについては、制約は一貫して精度を向上させており（すべてのセルで $\Delta_{total}$ が正）、制約がツールが必要な場合には役立つことを裏付けている。
言語に関する主張: 言語依存のコストに関する事前登録された両方の主張は、当初の仮説を支持できなかった。項目内統計量は韓国語と英語の間に有意な差を示さず、マスクされた確率質量も、言語を分離する分散を吸収しなかった（回帰分析において言語係数が依然として有意であった）。

意義と主張

本論文は、先行研究で見られた制約の「ほぼ無料」の強制は、関数呼び出しの棄却においては成立しないと結論付けている。主な意義は、制約効果の分解にある：

関心の分離: ストップトークン（長さ制御）と列挙（語彙制御）は、相反する効果を持つ分離可能なコンポーネントである。2条件設計（自由生成 vs 制約あり）では、これらが一つの数値に合算されてしまうため、大きな損失と大きな回復が互いに打ち消し合い、隠れてしまう可能性がある。
利得の性質: この設定における制約付きデコーディングの恩恵は、判断力ではなく形式である。それは読み取り不可能な出力を読み取り可能にするが、いつ棄却すべきかを判断するモデルの能力を向上させるものではない。実際には、モデルをツール呼び出しへとバイアスさせることで、その決定を悪化させる可能性がある。
実務上の示唆: 実務家は、ストップトークンとグラマーを別々に報告すべきである。単一の集計指標に頼ることは、制約付きデコーディングが棄却に対して中立または有益であるという誤った結論を導く可能性がある。実際には、それはモデルがツール呼び出しを正しく拒否する能力を積極的に損なっている可能性がある。

本論文は、その知見が棄却の設定および使用された特定のベンチマーク（ゴールドツールが常に最初の候補となる特性を持つ）に特有であることを認め、限定的な範囲に留めている。新しい学習手法やアーキテクチャを提案するものではないが、現在の推論時制約のコストをより深く理解するための測定フレームワークを提供している。