以下は、提示された論文「PIAST: Rapid Prompting with In-context Augmentation for Scarce Training data」の技術的要約です。

PIAST: 限られた訓練データにおける迅速なプロンプト構築のための文脈内拡張

1. 問題設定

大規模言語モデル（LLM）はプロンプトの設計に非常に敏感ですが、効果的なプロンプトを手作業で設計することは困難であり、特に数発（few-shot）の例を精巧に作成する必要があります。既存の自動プロンプトエンジニアリング手法には、以下の課題がありました。

• 計算コストと時間の非効率性: 大規模なプロンプト探索空間を探索するために数時間もの計算資源を必要とするものが多い。
• データ依存性: 候補を評価するために大規模な訓練データセットを必要とする。
• 最適化対象の偏り: 多くの手法が「指示文（Instruction）」の書き換え（言い換えや進化アルゴリズムなど）に焦点を当てており、文脈内学習（ICL）において最も影響力が大きい「数発の例（Few-shot examples）」の最適化を軽視している。
• 既存手法の限界: 例を合成する手法（PRL など）は計算コストが非常に高く、訓練セットから例を選択する手法（APO など）は新規の例を生成できない。

本研究は、限られた計算予算と訓練データの制約下で、人間が作成した指示文を補完する「自動生成された数発の例」を高速に構築・最適化する手法を提案します。

2. 提案手法：PIAST (Prompting with In-context Augmentation via Shapley-based Tuning)

PIAST は、以下の 3 つのコンポーネント（すべて凍結された LLM で実装）からなるパイプラインです。

2.1 主要コンポーネント

1. Example Proposer（例提案者）:
   • 特定のタスクの初期指示を受け取り、トピックや長さの多様性を持たせた初期候補例のセットを生成します。
2. Prompt Evaluator（プロンプト評価者）:
   • 候補プロンプト（指示文＋例）を、データの小さなランダムなサブセット上で評価し、性能を測定します。
3. Example Improver（例改善者）:
   • 現在の例セットを反復的に改善します。最も役に立たない例を特定し、**「置換（Replace）」「削除（Drop）」「維持（Keep）」**のいずれかの決定を下します。

2.2 最適化アルゴリズムの核心

• モンテカルロ・シャプレイ値推定:
  • 各反復で、現在の例セットの中で最も貢献度が低い（有害な）例を特定するために、シャプレイ値（Shapley values）を使用します。
  • 全順列の計算は不可能なため、$K$ 個のランダムな順列をサンプリングし、各例の限界貢献度（Marginal Contribution）を平均化して推定します（モンテカルロ近似）。
  • 最もシャプレイ値が低い例 $i^*$ を特定します。
• Replace/Drop/Keep 決定:
  • 改善者が $m$ 個の新しい候補例を生成します。
  • 以下の 3 つのスコアを計算して比較します：
    • Replace: 最悪の例 $i^*$ を新しい候補 $c$ に置き換えた場合の性能。
    • Drop: 最悪の例 $i^*$ を削除した場合の性能。
    • Keep: 現状維持の性能。
  • 最も高いスコアを持つアクションを選択します（同点の場合は Replace > Drop > Keep の優先順位）。
• リプレイバッファ（Replay Buffer）:
  • 各反復でサンプリングされた訓練データのサブセットに過剰適合（Overfitting）するのを防ぐため、過去の反復で使用されたデータの一部をバッファに保存し、次の評価に組み込みます。これにより、生成された例の汎化性能を維持します。

2.3 高速化技術

• KV キャッシュの再利用: 共有される文脈接頭辞（Instruction + 例）に対するアテンション計算をキャッシュし、再計算を回避。
• PagedAttention: KV キャッシュをページ化メモリに格納し、断片化を最小化して効率的なアクセスを実現。
• 連続トークンレベルバッチング: 完了したリクエストを退避させ、新しいリクエストを動的にバッチに追加することで、GPU の利用率を最大化。

3. 主要な貢献

1. 概念的貢献:
   • 人間が作成した簡潔な指示文を、自動生成された少量の数発例で拡張する新しい自動プロンプト構築手法「PIAST」を提案。
   • 指示文の書き換えではなく、文脈内例の最適化が、高速かつデータ効率の良いプロンプトエンジニアリングの主要なレバーであることを示唆。
2. 実装貢献:
   • シャプレイ値の近似、KV キャッシュの再利用、PagedAttention、連続バッチングなどを組み合わせ、非常に高速な実装を実現。
3. 実証的貢献:
   • 限られた計算予算（サブセットデータのみ使用）でも、テキスト簡略化や数学的推論（GSM8K, DeepMath, Math500）において既存の自動プロンプト手法を上回る性能を達成。
   • 予算を少し増やすことで、分類タスクや要約タスクでも SOTA（State-of-the-Art）を達成。
   • 反復ループなし（初期生成例のみ）でも競争力のある結果を得られることを示し、初期例の重要性を強調。

4. 実験結果

実験は NVIDIA A100 GPU 上で、Qwen2.5-7B-Instruct をベースモデルとして実施されました。

• 分類タスク (7 データセット):
  • PIAST は最も高速でありながら、平均精度で 2 位〜3 位を記録。
  • 拡張予算版（PIAST (E)）は AG's News や SUBJ などで SOTA を更新しました。
• 要約タスク (SAMSUM):
  • PIAST は ROUGE スコアで 2 位、実行時間は最も短かったです。PIAST (E) は ROUGE-2 と平均スコアで最良の結果を記録。
• 数学的推論 (GSM8K, DeepMath, Math500):
  • 指示文の書き換えのみを行う手法（APE, GA, DE など）は限定的な改善しか見せませんでしたが、例を最適化する PIAST は大幅な精度向上を達成。
  • PIAST はトップクラスの精度を維持しつつ、PRL などの競合手法に比べて計算時間を劇的に短縮（例：GSM8K で 80 分 vs PRL の 48 時間）。
• ドメイン知識タスク (MedQA):
  • 医療分野の質問応答でも 2 位の精度を達成し、高速性を維持しました。
• テキスト簡略化:
  • SARI スコアで最良の結果を記録し、かつ最も短い実行時間でした。

アブレーション研究:

• クロスモデル頑健性: Qwen で学習したプロンプトを Mistral で評価しても高い転移性能を示しました（PIAST (E) は過学習により転移性能が低下する傾向あり）。
• 最適化ループの重要性: 最適化ループなし（初期例のみ）でも多くのタスクで良好な結果が出ますが、難易度の高いタスク（SUBJ など）では最適化ループによる改善が顕著でした。
• シャプレイ値 vs 留め置法（LOO）: 複雑なタスクではシャプレイ値に基づく選択の方がロバストでした。

5. 意義と結論

PIAST は、「例の最適化」が「指示文の書き換え」よりも重要であり、かつ**「限られた訓練データと計算資源」でも高品質なプロンプトを構築可能**であることを実証しました。

• データ効率: 全訓練データを使用せず、サブセットのみで高性能を達成できるため、データが限られる環境やプライバシーが懸念される場面で有用です。
• 計算効率: 既存の SOTA 手法（PRL など）に比べて数十分〜数時間の計算時間で同等以上の性能を出せます。
• 将来展望: 提案者は、PIAST が訓練データへの依存度をさらに下げる方向への一歩であると述べており、外部信号（検索やヒューリスティック）との組み合わせや、より強力なモデルを提案者に用いることなどの拡張性を示唆しています。

総じて、PIAST は実用的な制約下で LLM の性能を引き出すための、効率的かつ効果的なプロンプトエンジニアリングの新しいパラダイムを提供しています。