Mind the Gap: How Elicitation Protocols Shape the Stated-Revealed Preference Gap in Language Models
本論文は、言語モデルにおける表明選好と顕示選好の乖離が誘発プロトコルに強く依存することを示しており、表明選好における中立性の許容は強制選択に基づく顕示選好との相関を改善するものの、顕示選好における棄権の導入やシステムプロンプトによる誘導は、この不一致を確実に解消するものではないことを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
新しい友人の性格を理解しようとしている状況を想像してください。これには 2 つの方法があります。
- 直接尋ねる：「あなたは誠実さよりも親切さを重視しますか？」（これが表明された選好です）。
- 行動を観察する：誠実であるか親切であるかを選ばなければならない難しい状況に彼らを置き、実際に何をするかを見る（これが顕在化された選好です）。
AI の世界では、研究者たちはある問題に気づきました。時には AI が「誠実さ」を愛すると主張しながら、トリッキーな物語に直面すると、代わりに「親切さ」を選ぶことがあるのです。この不一致は表明・顕在化（SvR）ギャップと呼ばれます。
この論文『Mind the Gap（ギャップに注意せよ）』は、なぜこのギャップが存在するのか、そして何より重要なのは、質問の仕方が答えをどのように変えるのかを調査しています。「引き出しプロトコル」を、AI と行うゲームのルールと考えてください。
以下は、研究者たちが単純な比喩を用いて発見したことです。
1. 「強制選択」の罠（従来の方法）
以前、研究者たちは AI に片方を選ばせるゲームを行っていました。審判が「A か B かを選ばなければならない！話もためらいも許さない！」と叫んでいる状況を想像してください。
- 問題点：AI が実際には不確実であったり、「状況による」と考えていたりしても、A か B かを選ばなければなりません。まるで、満腹でどちらも欲しくない人に対して「ピザ」か「サラダ」を選ばせるようなものです。
- 結果：AI はランダムに、あるいは単語の順序に基づいて選び、偽の選好を生み出します。研究者がこれらの偽の選択と、AI が価値を置くと主張したものを比較すると、関連性は弱く、散漫でした。
2. 「オプトアウト」ボタン（表明された選好のための新しい方法）
研究者たちは、「直接尋ねる」部分に対して新しいルールを試みました。「A か B かを選べるが、『気にしない』または『状況による』と言うこともできる」と伝えたのです。
- 比喩：友人に「コーヒーと茶、どちらが好きですか？」と尋ねる際、「私は飲み物にしない人だ」とか「時間帯による」と答えられるようにするのを想像してください。
- 結果：これはフィルターのように機能しました。「弱いシグナル」（AI の推測やランダムな選択）を除去したのです。研究者が AI が強く片方を選んだ場合のみを見ると、表明された選好と実際の行動の一致が大幅に改善されました。「ギャップ」は著しく縮小しました。
3. 「オプトアウトが多すぎる」問題（顕在化された選好のための新しい方法）
次に、彼らは AI に「難しいシナリオ」（顕在化された選好）の最中に「状況による」と言うことを許可してみました。
- 比喩：今度は、友人を実際の危機的状況に置き、「行動 A、行動 B、あるいは『わからない』と言うこともできる」と伝えるのを想像してください。
- 結果：AI はほぼ常に「状況による」または「同程度」と言い始めました。まるで、難しいテストを与えられた学生が、すべての答えに「わからない」と書き込むようなものです。
- 結果：AI があまりにも頻繁に確固たる選択を拒否したため、研究者は AI が実際に何を価値としているかの明確な順位付けを行うことができませんでした。彼らが言ったこととやったことの間の関連性は消え去り（ほぼゼロ、あるいは負の値にまで低下しました）。
4. 「取扱説明書」実験（プロンプト操作）
最後に、研究者たちは AI に「カンニングペーパー」を与えることで、その行動を「修正」しようと試みました。難しいシナリオの前に、AI に「ここはあなたが好きだと述べた価値のリストです。これを厳密に守ってください」と伝えました。
- 比喩：レースの直前にドライバーに「覚えておいて、あなたは安全を愛すると言ったはずです。だから安全に運転してください！」と伝えるようなものです。
- 結果：それは確実には機能しませんでした。一部の AI では少し助けになりましたが、他の AI（「Claude」ファミリーなど）では、実際には事態を悪化させました。AI はカンニングペーパーを無視するか、それによって混乱しているように見えました。研究者たちは、この「取扱説明書」トリックは価値の短いリストには機能するものの、リストが長い場合（16 種類の異なる価値）には完全に失敗することを発見しました。
大きな教訓
この論文の主な教訓は、質問の仕方が答えを変えるということです。
- AI が不確実な時に選択を強制すれば、ノイズの多い偽のデータが得られます。
- AI に「わからない」と言いすぎることを許せば、データは全く得られません。
- 単に AI に「自分のルールに従う」ように指示するだけでは、問題を確実には解決しません。
著者たちは結論として、AI の価値を真に理解するためには、時には AI が（人間と同様に）明確な選好を本当に持っていないことを認める手法が必要であり、選択を強制したり無視したりするのではなく、その不確実性に対処するようにテストを設計する必要があると述べています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。