Anchorless Diversification for Parallel LLM Ideation

技術的サマリー：並列 LLM アイデア創出のためのアンカーレス多様化

問題定義
大規模言語モデル（LLM）は、物語の前提、製品コンセプト、スローガンなどの創造的タスクにおける候補アイデアのプールを生成するために、ますます展開されています。これらのプールのスケーリングをモデルパラメータを増やすことなく行うために並列推論は魅力的ですが、重大な失敗モードが存在します。現代の LLM は、事前学習と好意最適化により、既知のパターンの周りに確率質量を集中させる傾向があります。これにより「意味的崩壊」が生じ、並列生成が同じ意味的盆地にクラスター化し、探索の錯覚を生み出しながら、実際には人間と AI の共創のための利用可能な空間を狭めてしまいます。

核心的な課題は、出力品質を犠牲にしたり、過剰な推論コストを負ったりすることなく、これらの候補プールを効果的に多様化することです。既存の手法はしばしば「アンカー付き」戦略に依存しています。すなわち、観測されたシードアイデア、共有状態、または反復的な再生成を使用するもので、これらはシード生成、選択、フィードバックループといった隠れたコストをもたらしますが、これらは頻繁にコスト比較から除外されています。本論文は、「アンカーレス」手法（観測されたシードアイデアや逐次調整に依存しない手法）が、並列生成の効率性を維持しつつ、多様性の達成においてアンカー付きベースラインと競合できるかどうかを調査します。

手法
著者は、3 つの創造的タスクファミリーを評価しました。短編小説（4 プロンプト）、代替用途タスク（AUT、5 つの物体）、およびスローガン（3 プロンプト）です。3 つの最先端モデル、GPT-5.4、Claude Sonnet 4.6、および Gemini 2.5 Pro をテストしました。

本研究では、2 つの指示戦略の下で、2 つの**単一ステージ（アンカーレス）手法を 4 つの2 ステージ（アンカー付き）**手法と比較しました。

1. ニュートラル：「応答を新規性があり、タスクに適したものにする。」
2. ダイバージ：「この同じタスクのために生成される可能性のある他の応答から際立たせるように努める」という人口参照指示を追加します。

生成手法：

• アンカーレス：
  • indep：プロンプトからのみ独立して生成。
  • strat（意味的方向性層別化）：単一の計画呼び出しでモデルにタスクの 5 つの広範な意味的方向性を提案させる。その後、シード例を見ずに、これらの方向性全体に生成を均等に分散させる。
• アンカー付き（2 ステージ）：
  • repr：シードプールを生成し、3 つの代表的なアンカー（メドイド＋最遠方優先）を選択し、これらのアンカーを回避するよう条件付けして候補を再生成する。
  • self：各候補を、自身のシード出力を回避するよう条件付けして再生成する。
  • peer1/peer2：各候補を、自身のシード出力に加え、シードプールからの 1 つまたは 2 つのピア出力を回避するよう条件付けして再生成する。

評価指標：

• 多様性：平均ペアワイズ意味距離（$D_{pair}$）、最隣接距離、メドイド距離、MST 分散、および正規化された意味領域エントロピー（$D_{ent}$）。
• 品質：タスク固有の自動プロキシ（物語用 MAoSS、AUT 用 CLAUS、スローガン用フレーズレベルの非テンプレート指標）、タスク内で標準化。
• コスト：計画呼び出し、シード生成、再生成ステップを含むフルパイプラインのトークン会計。
• 分析：プールサイズ稀化（AUC およびファーストヒット指標）は、プールがサンプリングされるにつれて多様性がどの程度急速に蓄積するかを測定する。

主要な結果

1. 低コストベースラインとしての発散的指示：独立生成（indep-diverge）に「ダイバージ」指示を適用することは、すべてのモデルとタスクにおいて意味的多様性を著しく向上させ、品質プロキシを維持またはわずかに向上させます。これは最小限のオーバーヘッド（$R_{tok} \approx 1.1$）を伴うため、強力な低コストベースラインとなります。
2. 意味的方向性層別化：strat-diverge手法（計画＋発散的指示）は、最も強力なアンカー付き手法（peer2-divergeなど）と同等かそれ以上の多様性レベルを達成します。重要なのは、シードと再生成のパイプラインの重いトークンコストを回避し、単一の計画呼び出しと並列生成でこれを実現している点です。
3. トークン効率：フルパイプラインコストを考慮すると、strat-divergeは最高の多様性－品質－計算フロンティアを提供します。例えば、GPT-5.4 において、strat-divergeは 10 万トークンあたりの多様性増加（0.295）を達成し、peer2-diverge（0.157）を著しく上回ります。これは、peer2が同様の生多様性増加を持っているにもかかわらずです。
4. 稀化ダイナミクス：シードプールが生成された後、局所アンカー手法（self、peer）はstrat-divergeよりもわずかに速く意味領域エントロピーを蓄積しますが、strat-divergeはシード生成フェーズを排除するため、はるかに少ない総トークン数で目標多様性レベルに到達します。
5. 頑健性：結果は、異なる埋め込みモデル、品質指標（スローガンに対する LLM-as-a-judge を含む）、およびタスクファミリー全体で維持されます。

意義と主張
本論文は、オープンエンドな LLM アイデア創出のための実用的なアンカーレスベースラインを確立すると主張しています。その主張は以下の通りです。

• 直接的な発散的指示は、シードプールを観測することなく冗長性を回避するためにモデルの潜在的な応答に関する暗黙の知識を活用する、強力かつ低コストの介入です。
• 意味的方向性層別化は、モデルに回答空間の「粗い地図」を外部化させ、潜在的なタスク変異を明示的な割り当て構造に変換することを可能にします。これにより、状態依存の調整やシード生成のオーバーヘッドなしに、広範な並列探索が可能になります。
• フルパイプライン会計は、多様化手法を評価する際に不可欠です。アンカー付き再生成は依然として強力ですが、シード付けと再生成のコストが含まれると、その優位性は縮小します。
• これらの知見は、LLM アイデア創出における「自動層別化」の視点を支持します。すなわち、モデルは並列生成の魅力を維持する推論時の制御を通じて、より広範な候補プールへと誘導でき、科学発見や創薬設計などの下流アプリケーションにおける AI 誘発的なアイデア多様性の崩壊を軽減する可能性があります。

著者は、自動品質プロキシへの依存、埋め込みベース指標の感度、より長編の出力、より厳格な事実的制約、およびマルチモーダルタスク全体でのこれらの手法のテストを必要とする今後の研究の必要性など、限界について謙虚に述べています。