💬 NLP

Inclusion-of-Thoughts: Mitigating Preference Instability via Purifying the Decision Space

この論文は、多肢選択問題における誤答の干渉によるモデルの選好不安定さを軽減し、推論の安定性と透明性を向上させるため、妥当な選択肢のみを抽出して再構成する「Inclusion-of-Thoughts（IoT）」という段階的自己フィルタリング手法を提案し、その有効性を広範なベンチマークで実証しています。

原著者： Mohammad Reza Ghasemi Madani, Soyeon Caren Han, Shuo Yang, Jey Han Lau

公開日 2026-04-08

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Mohammad Reza Ghasemi Madani, Soyeon Caren Han, Shuo Yang, Jey Han Lau

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

思考の「選別」で AI を賢くする：IoT（Inclusion-of-Thoughts）の仕組み

この論文は、**「AI が正解を知っているのに、なぜか間違った答えを選んでしまう」**という現象を解決する新しい方法を紹介しています。

この方法を**「IoT（Inclusion-of-Thoughts：思考の包含）」と呼びます。名前の響きは「Internet of Things（モノのインターネット）」と似ていますが、ここでは「思考の中に、正しい選択肢を『含める』」**という意味で使われています。

以下に、専門用語を排し、日常の例えを使ってこの仕組みを解説します。

🎭 問題：AI は「迷い屋」になりやすい

私たちが AI に「A、B、C、D のどれが正解？」と質問すると、AI は通常、「正解」だけでなく「それっぽく見えるダミー（紛らわしい選択肢）」も一緒に考えてしまいます。

🍎 例え話：スーパーの果物売り場

Imagine 果物売り場で「一番美味しいリンゴはどれ？」と聞かれたとします。

A：完璧な赤いリンゴ（正解）
B：少し傷がついたリンゴ（紛らわしい）
C：緑色のリンゴ（紛らわしい）
D：リンゴの絵が描かれた箱（紛らわしい）

AI は、A が正解だとわかっていても、B や C が「実は美味しいんじゃないか？」と迷ってしまいます。
AI の脳内では、**「A が一番いいけど、B も捨てがたいな…」「いや、C もありかも？」と、正解と不正解の間で「揺れ動き（不安定さ）」**が起きます。その結果、最終的に B や C を選んでしまうことがあります。

これが論文が指摘する**「選好の不安定さ（Preference Instability）」です。知識不足ではなく、「迷いすぎて間違える」**のが問題なのです。

💡 解決策：IoT（思考の選別）の 3 ステップ

IoT は、AI に**「一度、迷いを整理して、本当に正解っぽいものだけを残す」というプロセスを踏ませます。まるで、「最終面接」を 1 対 1 に絞る**ようなイメージです。

ステップ 1：最初の直感（全選択肢を見る）

AI に最初の質問を投げます。

「A、B、C、D の中で、一番良さそうなのは？」
👉 AI は**「A（正解）」**を選びます。

ステップ 2：「もし A がなかったら？」という逆転発想

ここが IoT の最大の特徴です。AI に**「A を消して、残りの B、C、D、そして『どれも違う』の中から一番良いものを選んで」**と聞きます。

もし AI が本当に A が正解だと確信していれば、**「どれも違う（none of the options）」**と答えるはずです。
もし AI が迷っていたら、**「B が一番良いかも」**と答えてしまいます。

この段階で、AI が**「A が本当に最強だ」**と再確認できるかがテストされます。

ステップ 3：最終決戦（2 択に絞る）

もしステップ 2 で「B が良いかも」と言われた場合、AI は**「A vs B」**の 2 択だけを考えさせます。

「A と B、どっちが本物？」

「B や C、D という邪魔なノイズ（紛らわしい選択肢）」が全て消え去った状態で、AI は冷静に**「やっぱり A だ！」**と結論を出せます。

🌟 なぜこれがすごいのか？

1. 「迷い」を消す魔法

この方法は、AI に「もっと深く考えろ」と言ったり、何回も試行錯誤させたりするのではなく、「思考の舞台（選択肢）」を狭めて、余計なノイズを排除することに集中しています。

従来の方法：「もっと考えて、100 回試して、一番多い答えを選べ」（計算コストが高い）
IoT の方法：「邪魔な選択肢を消して、本当に迷っている 2 つだけを見比べろ」（計算コストが低い）

2. 人間の「再考」と同じ

人間も、テストで迷った時、**「他の選択肢を消去法で消していく」**と正解が見えてくることがあります。IoT は、AI にこの「人間の賢い消去法」を真似させています。

3. 透明性が高い

AI が「なぜ A を選んだのか」の過程が、**「最初は A を選んだ → B も検討したが、A の方が圧倒的だった」**という形で記録されます。これにより、AI の判断理由がよりわかりやすくなります。

📊 結果：劇的な改善

実験の結果、この IoT を使った AI は、算数や常識クイズ、教育系のテストなどで、従来の方法よりも大幅に正解率を上げました。
特に、**「正解を知っているのに、迷って間違えてしまう」**というタイプのミスが劇的に減りました。

🏆 まとめ

この論文が伝えているのは、**「AI をもっと賢くするには、もっと多くの情報を与えればいいわけではない」ということです。
むしろ、「迷わせるノイズ（紛らわしい選択肢）を減らし、AI が本当に信じている正解に集中させる環境」**を作ることが、AI を安定して賢くする鍵なのです。

「選択肢を減らすことで、正解への道が見える」。
それが、この「Inclusion-of-Thoughts（思考の包含）」の素晴らしいアイデアです。

論文「Inclusion-of-Thoughts: Mitigating Preference Instability via Purifying the Decision Space」の技術的サマリー

この論文は、大規模言語モデル（LLM）の多肢選択問題（MCQ）における推論の不安定性、特に「魅力的な誤答（distractors）」に注意が逸れ、正解と誤答の間でモデルの好みが不安定に振れる現象を解決する新しい手法**「Inclusion-of-Thoughts (IoT)」**を提案するものです。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

1. 問題定義：推論の不安定性と認知負荷

LLM は Chain-of-Thought (CoT) プロンプティングにより推論能力を向上させてきましたが、多肢選択問題においては依然として課題が残っています。

本質的な問題: 正解がモデルの高信頼候補の中に含まれているにもかかわらず、複数の魅力的な誤答（distractors）が存在することで、モデルの最終的な予測が不安定に振れ（Preference Instability）、誤答を選んでしまうことがあります。
原因: 知識の欠如や推論ステップの不足ではなく、選択肢間の比較における曖昧さと、それによるモデルの好みの不安定性が主因です。
既存手法の限界: 既存のテスト時拡張手法（Self-Consistency や Tree-of-Thoughts など）は、多数のサンプリングや複雑な探索戦略に依存しており、計算コストが高く、本質的な「選択肢間の不安定性」への対処が不十分です。

2. 手法：Inclusion-of-Thoughts (IoT)

IoT は、モデルの推論空間を「精製（Purifying）」し、最も可能性の高い候補のみで比較を行う段階的な自己フィルタリング戦略です。計算コストを最小限に抑えつつ、モデルの内部推論の安定性を高めることを目的としています。

3段階のプロセス

ステージ 1: 初期好みの誘発 (Initial Preference Elicitation)
- 標準的な CoT プロンプトを用いて、元の選択肢セット $O$ に対してモデルに回答を生成させます。
- モデルが最も信頼する候補 $o^*_1$ を特定します。
ステージ 2: 第 2 の妥当性評価 (Second Plausibility Assessment)
- 対照的な摂動: ステージ 1 で選ばれた候補 $o^*_1$ を選択肢から除外し、代わりに「none of the options（どの選択肢もない）」というプレースホルダーを挿入した新しい選択肢セット $O'$ を作成します。
- モデルにこの修正された問題に対して再度回答を求めます。
- 判定:
  - もしモデルが「none of the options」を選んだ場合、 $o^*_1$ が他のすべての選択肢よりも明確に優れていると判断され、**早期停止（Early Stopping）**が発生し、 $o^*_1$ が最終回答となります。
  - もし別の候補 $o^*_2$ が選ばれた場合、モデルは $o^*_1$ と $o^*_2$ の間で揺らいでいるとみなされます。
ステージ 3: 限定された最終推論 (Confined Final Inference)
- ステージ 2 で選ばれた上位 2 つの候補（ $o^*_1$ と $o^*_2$ ）のみを含む、最小限の選択肢セットで再構成された問題を作成します。
- モデルはこの「ノイズの少ない（distractor のない）」環境で、2 つの候補のみの比較を行い、最終回答を決定します。
- これにより、モデルは不要な選択肢による認知負荷から解放され、自身の推論の核心に集中できます。

特徴

ゼロショット・教師なし: 追加のトレーニング、人間のアノテーション、補助モデルを必要としません。
計算効率: 早期停止メカニズムにより、多くのケースでステージ 3 をスキップでき、Self-Consistency (SC) に比べてトークン生成量が大幅に少ない（CoT の約 2.2 倍）です。

3. 主要な貢献

IoT フレームワークの提案: サンプリングや探索による推論空間の拡大ではなく、モデルの高信頼候補を隔離・比較することで MCQ 推論を改善する軽量なテスト時フレームワーク。
好みの不安定性という視点: MCQ 推論の誤りの多くは、知識不足ではなく「魅力的な選択肢間の好みの不安定性」に起因することを示し、これを解決するアプローチを提示。
遷移分析（Transition Analysis）: 各ステージでの正解/誤答の遷移パターン（TTT, FTT, TFF など）を分析し、モデルが中間段階で正解を認識しながら最終的に誤答を選ぶ「不安定性」のメカニズムを解明。
診断ツールとしての機能: 外部評価者による評価と組み合わせることで、ベンチマークデータセット内の「曖昧な正解」や「誤ったラベル」を特定する診断ツールとしても機能することを示唆。

4. 実験結果

4 つの異なる規模のモデル（Llama-3.3-8B, Olmo-2-7B/13B, GPT-4o-mini）を用い、常識推論、教育、数学の各種ベンチマークで評価を行いました。

精度の向上:
- Olmo-2-7B において、常識推論タスク（OBQA, CSQA, GSM8K-MC など）で SOTA（State-of-the-Art）レベルの性能を達成しました（例：GSM8K-MC で +3.95% 向上）。
- 全モデル、全タスクにおいて、標準的な CoT や Self-Consistency (SC) を上回る平均精度を記録しました。
計算コスト:
- SC は CoT の約 4.6 倍のトークンを生成しますが、IoT は約 2.2 倍に留まり、高いコストパフォーマンスを示しました。
ロバスト性:
- 選択肢の順序をシャッフルした実験において、IoT は CoT に比べて順序への感度が低く、より安定した性能を示しました。
組み合わせ効果:
- IoT と SC を組み合わせることで、さらに精度が向上しましたが、計算コストの増加に対して利益は限定的でした。

5. 意義と結論

推論の安定化: IoT は、LLM が持つ「推論能力」そのものを強化するのではなく、推論過程における「意思決定の不安定性」を除去することで、既存のモデルの能力を最大限に引き出すことを示しました。
解釈可能性の向上: どの段階でモデルが正解を認識し、どこで迷ったかを可視化できるため、モデルの意思決定プロセスの透明性が高まります。
将来的な展望: 本手法は、推論の深度を深めるのではなく、意思決定空間を「精製」する新しいパラダイムを提供します。これは、より複雑なタスクや、データセットの品質評価（ノイズの検出）にも応用可能な可能性を秘めています。

総じて、この論文は「推論の失敗は、知識の欠如ではなく、選択肢の多さによる混乱（認知負荷）に起因する」という洞察に基づき、シンプルかつ効果的な解決策を提示した点で画期的です。