技術的概要：不要なプロンプトは無関係なプロンプトが大規模言語モデルを誘導できるか？

問題定義

大規模言語モデル（LLM）に関する現在の研究は、プロンプトの感度がタスクに関連する指示、デモンストレーション、または推論の手がかりによって駆動されると仮定して進められている。支配的なパラダイムでは、パフォーマンスを向上させるためには、プロンプトをより明確かつ体系的にターゲットタスクを記述するように洗練させる必要があるとされている。本論文は、直感に反するプロンプト感度の形態を検証することで、その基礎的な仮定に挑戦する。すなわち、ターゲットタスクと「意味的に無関係」なプロンプトが、それでもモデルの振る舞いを誘導し、パフォーマンスを著しく変化させることができるかどうかである。著者らは、LLM が「不要なプロンプト（spurious prompts）」に脆弱である可能性を提唱している。これは、タスク固有の語彙、ドメインの手がかり、明示的な解決戦略を意図的に避けた自然言語の指示でありながら、それでもモデルの出力を決定づけるものである。

手法

著者らは、不要なプロンプトを発見するための単純かつ完全な「ブラックボックス探索手順」を提案する。この手法は、モデルの勾配、隠れ状態、重みへのアクセスを一切必要とせず、モデルの出力のみに依存する。最適化ループは以下の構成要素からなる。

1. 候補生成: LLM 生成器（具体的には Qwen3.5-27B）に、候補となるシステムプロンプトを生成するよう指示する。重要なのは、これらのプロンプトが下流タスクに関して「不要（spurious）」であるように制約されている点である。例えば、数学的推論タスクにおいて、生成器は算術、方程式、計算に関連する語の使用を明示的に禁止される。代わりに、タスクと表面的には無関係であるが、モデルにユーザーのクエリに直接回答することを要求するペルソナ、儀式、またはスタイル（例：「チューナー」、「織り手」、「管理者」）を採用することが推奨される。
2. プロンプト検証: 検証器が、タスク固有の語彙フィルタを使用して候補をフィルタリングする。ドメインに関連する禁止用語（例：「数学」、「診断」、「調査」）や明示的な推論戦略を含むプロンプトは破棄される。
3. 反復探索と突然変異: 検証されたプロンプトをベンチマークのトレーニングサブセットで評価する。上位 K 個のパフォーマンスを示すプロンプトを選択し、生成器によって突然変異させる。この際、ペルソナ、ナラティブ、または枠組みを変化させつつ、その不要な性格を維持する。リプレイバッファは、プロンプトが異なるデータサブセットにおいても効果的であり続けることを保証する。
4. 最終選択: 複数の突然変異ラウンドの後、検証セットの精度に基づいて最良のパフォーマンスを示すプロンプトが選択される。

本研究では、7 つのベンチマーク（GSM8K, MATH500, MedQA, GPQA, OpenBookQA, MuSR, MMLU-Pro）において、0.8B から 27B パラメータまでの 4 つのモデル（Qwen3.5, Llama-3.2, Olmo-3）を用いて、これらのプロンプトを評価した。

主要な貢献

本論文は、以下の 3 つの主要な貢献を導入する。

1. 不要なプロンプト（Spurious Prompts）: ターゲットタスクと表面的には意図的に無関係であるが、モデルのパフォーマンスを強く規定するプロンプトの正式な導入。
2. 制約付き探索手順: タスク記述とドメイン語彙を明示的に除外し、モデル内部へのアクセスなしに動作する、これらのプロンプトを発見するための新規なブラックボックス手法。
3. 実証的および診断的分析: 不要なプロンプトが精度を向上させ、標準的なベースライン（ゼロショットの連鎖思考や PromptWizard などのタスク認識型オプティマイザを含む）と同等かそれ以上の性能を発揮し、明示的な指示なしにモデルを意図しない振る舞い（例：最初の選択肢を選択する、偶数を生成する、誤った回答を生成する）へと誘導できることを示す証拠。

結果

実験結果は、いくつかの重要な知見をもたらした。

• パフォーマンスの最大化: 不要なプロンプトは、標準的なプロンプトベースラインやタスク認識型の PromptWizard と頻繁に同等かそれ以上の性能を示す。例えば、Qwen3.5-27B モデルにおいて、不要なプロンプトはベンチマーク全体で平均精度 73.24% を達成し、PromptWizard（67.99%）やゼロショット連鎖思考（59.79%）を上回った。
• 振る舞いの誘導: 著者らは、不要なプロンプトを用いて、特定の、しばしば敵対的な振る舞いを誘発することに成功した。
  • 位置バイアス: 「優先度」をテーマとしたプロンプトは、直接の命令と比較して、選択肢 A の選択率を高める（Qwen3.5-27B における GPQA で最大 99.73%）。
  • 誤った回答: 精度を最小化するように設計されたプロンプトは、「最も誤った回答を選択する」という直接の指示よりも効果的に、モデルに誤った回答を選択させた。
  • 数値的制約: 不要なプロンプトは、数学的出力を偶数、素数、または 10 未満の数へと成功裏に誘導し、しばしば直接の指示を上回った。
• 意味的不可識別性: プロンプトテキストとタスク記述間のコサイン類似度分析により、不要なプロンプトはランダムで無関係なテキストに近い類似度スコア（約 0.09）を持つことが示され、これらが隠れたタスク記述ではないことが確認された。
• 効率性: 不要なプロンプトは、PromptWizard からの最適化されたプロンプト（約 293–412 トークン）よりも著しく短い（約 117–314 トークン）ため、その有効性は冗長性の副産物ではないことが示唆される。
• 転移性: 不要なプロンプトは、異なるモデルやベンチマーク間では転移性が低い（個性的な相互作用を示唆）が、数学的に類似したタスク間（GSM8K と MATH500）ではある程度の転移性を示す。
• 構造的対意味的: 「ナンセンス（意味のないトークンが大半）」プロンプトを用いたアブレーション研究により、構造的制約のみが精度や誤答誘導を駆動しうるが、厳密な位置バイアスを誘発するには、一貫した自然言語のナラティブが必要であることが示された。

意義と主張

本論文は、LLM における「新しい種類のプロンプト感度」を明らかにすると主張している。すなわち、モデルの振る舞いと推論能力は、意図されたタスクから完全に切り離された潜在的な特徴によって強力に誘導されうる。

著者らは、この発見が、プロンプトの有効性はより良いタスク記述から生じるべきだという仮定に挑戦するものであると強調している。代わりに、表面的に無関係な指示は、モデルのパフォーマンスを著しく変化させる振る舞いを誘発しうる。本論文は、この感度が LLM における指示追従の仕組みに関する新たな問いを投げかけ、プロンプト感度の評価がタスク関連の変異を超えて、一見無関係な不要なプロンプティングを含むべきであることを示唆している。

著者らは、その含意に関して控えめな立場を維持している。すなわち、結果は魅力的かつ診断的であるが、不要なプロンプトが最先端（SotA）の結果を達成するための普遍的なアルゴリズムであると主張するものではない。むしろ、彼らはさらなる調査を要する内部誘導メカニズムと現在の LLM の堅牢性に対する脆弱性と制御メカニズムを浮き彫りにしている。