Prompts for Public-Sector LLMs Should Be Governed as Commons
本論文は、公共部門における大規模言語モデルへのプロンプトは、私的な入力ではなく統治されたコモンズとして扱われるべきであると論じ、AI導入における透明性、異議申し立て可能性、および監査可能性を高めるための、バージョン管理されたリポジトリとステークホルダー間の交渉メカニズムを備えた「プロンプト・コモンズ」フレームワークを提案するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、非常に賢いものの、少しばかり偏った意見を持つロボットの助手が、あなたの意思決定の作成をサポートしている市議会の会議を運営していると想像してください。あなたは、そのロボットは大手テック企業によって作られたため、その性格は固定されていると考えているかもしれません。しかし、この論文は、「ロボットへの話し方（プロンプト）」こそが、実は会話において最も重要な部分であると主張しています。
以下に、日常的な比喩を用いた、この論文の主要なアイデアの簡単な内訳を示します。
1. 問題点：「隠されたレシピ」
大規模言語モデル（LLM）を、巨大で高性能なキッチンだと考えてください。材料（データ）とシェフの訓練（モデルのコード）はすでに設定されています。
しかし、この論文は、シェフに与える**「レシピ」**こそが、実際に料理を決定すると主張しています。
- もしあなたがシェフに「予算の少ないパーティー用に、スパイシーな料理を作って」と言えば、ある結果が得られます。
- もし「VIPのために、健康的で高価な料理を作って」と言えば、全く異なる結果が得られます。
公共の政府業務において、これらの「レシピ（プロンプト）」は、一人の人間によって書かれたり、非公式に回されたり、あるいは秘密にされたりすることがよくあります。もしレシピに隠れたバイアス（例えば、誰もが車を運転していると想定しているなど）があれば、ロボットはバスを利用する人々を傷つけるような決定を下すことになります。レシピが隠されているため、誰もそのバイアスを見つけることも、議論することも、修正することもできません。
2. 解決策：「コミュニティ・クックブック（Prompt Commons）」
著者は、Prompt Commonsと呼ばれる新しいシステムを提案しています。これは、一人のシェフのポケットの中にある秘密のノートではなく、公開された、コミュニティ運営のレシピ・ライブラリを想像してください。
このライブラリには、3つの特別なルールがあります。
- バージョン管理： すべてのレシピにはバージョン番号と履歴ログがあります。誰かが材料を変更した場合、いつ、なぜ変更されたのかを全員が正確に把握できます。
- プロベナンス（「誰が」）： すべてのレシピには、誰がそれを書いたのかを明記しなければなりません。それは高齢者でしたか？障害者支援団体でしたか？それとも近隣住民のグループでしたか？これにより、レシピの中に誰の声が入っているのかを確実に把握できます。
- 「拒否（ベト）」ボタン： 特定のグループ（例えば、地元の障害者評議会など）が、自分たちのコミュニティに害を及ぼすレシピを見つけた場合、彼らは「一時停止」ボタンを押すことができます。そのレシピは、問題が議論され、修正されるまで、隔離ゾーンにロックされます。
3. 実践における仕組み：「シティ・パイロット」
研究者たちは、北米のある大都市でこのアイデアをテストしました。彼らは、さまざまなコミュニティ・グループ（高齢者、移民、LGBTQ+グループなど）から443人の異なる人々を集め、街の道路や公園についてロボットがどのように話すべきかについての、独自の「レシピ」を書いてもらいました。
これらを3,000以上のバリエーションのデータセットへと変え、ライブラリを管理する3つの異なる方法をテストしました。
- オープン型： 誰でもレシピを追加できる（公開掲示板のようなもの）。
- キュレーション型： チームがすべてのレシピに適切なタグが付いているか、また異なるグループを網羅しているかを確認する（厳格な編集者のようなもの）。
- 拒否（ベト）有効型： キュレーション型に、特定のグループが悪いレシピをブロックできる権限を加えたもの。
結果：
- 単独の人物によるレシピを使用したとき、ロボットは一方の議論に対して非常に「コミット（固執）」していました（例：常に車を優先するなど）。
- コミュニティ・クックブック（特に拒否機能付きのバージョン）を使用したとき、ロボットの回答はよりバランスの取れたものになりました。ロボットは、勝者を決めるのではなく、「自転車レーンと駐車スペースの両方を設ける」といった「妥協案」を提案する可能性が高まりました。
- 最も重要なことに、「悪い」回答が出た際、拒否システムを持つチームは、オープン型（30時間以上を要した）と比較して、はるかに速く（約5時間で）問題を修正できました。
4. なぜこれが政府にとって重要なのか
この論文は、政府はこれらのプロンプトを一時的なメモとして扱うのではなく、公式な政策文書として扱うべきであると示唆しています。
- 透明性： 都市が予算を公表しなければならないのと同様に、意思決定に使用する「レシピ」も公開すべきです。
- 説明責任： もし決定がうまくいかなかった場合、原因となった特定のバージョンのレシピまで遡ることができます。
- 交渉： 一人の人間がロボットの性格を決めるのではなく、異なるグループが独自のバージョンを提出でき、システムは妥協点を見つけ出すように設計できます。
5. この論文が述べて「いない」こと
論文が実際に主張している内容に忠実であることが重要です。
- このシステムが完璧であるとか、すべてのAIの問題を解決するとは言っていません。
- 「妥協」の回答が常に最高の道徳的選択であるとは主張していません。ただ、それらがより可視化され、議論しやすくなるということを述べているだけです。
- ロボットの脳（モデル）自体を変える必要があるとは示唆していません。変化はすべて、どのように話しかけるか（プロンプト）の部分にあります。
まとめ
この論文は、「どのように質問するか」は、「答え」と同じくらい重要であると主張しています。質問（プロンプト）を、公開され、共有され、規制されたリソースとして扱うことで、政府におけるAIをより公平で、透明性が高く、人々に応答できるものにできるのです。それは、一人の人間による秘密の指示を、公開された対話へと変えるものです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。