Multiple Choice Questions: Reasoning Makes Large Language Models (LLMs) More Self-Confident, Especially When They are Wrong
本論文は、Chain-of-Thought プロンプトが、特にモデルが誤っている場合に大規模言語モデルの自信を体系的に過大評価させ、その結果として較正を劣化させ、確率に基づく評価を信頼できなくすることを示している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
この論文を、平易な言葉と日常的な比喩を用いて説明します。
大きなアイデア：「自分自身を誤った方向に説得する」
あなたが多肢選択式テストを受けていると想像してください。答えを出すには 2 つの方法があります。
- 「直感チェック」方式：問題を読み、すぐに答えを選ぶ。
- 「解き方を示す」方式：なぜその答えが正しいのか、段階的に説明を書き出し、その後に答えを選ぶ。
この論文は、超賢いチャットボットのよう振る舞う AI の一種である大規模言語モデル（LLM）が、2 つ目の方法を用いたときに何が起こるかを調査しています。研究者たちは知りたいと考えていました：自分の思考を説明することは、AI がその答えに対してより自信を持つようになるのか？
実験：57 人の被験者によるテスト
研究者たちは、Llama、Mistral、GPT のバージョンを含む 7 つの異なる AI モデルを、MMLUと呼ばれる大規模なテストにかけました。このテストは、歴史や数学から法律、生物学まで、57 分野にわたる 15,000 問以上の問題を含む巨大な図書館のようなものです。
彼らは AI に同じ質問を 2 回出しました。
- 1 ラウンド目：「答えのアルファベットだけを教えて。」（直接）
- 2 ラウンド目：「段階的に考え、論理を説明し、その後で答えのアルファベットを教えて。」（思考連鎖）
意外な発見
結果は、自分の物語を過信している学生を見ているようなものでした。
1. 「自信増幅」効果
AI に「段階的に考えよ」と求められたとき、答えが正しくても間違っていなくても、その答えに対する自信が高まりました。
- 比喩：なぞなぞの答えを推測している人を想像してください。ただ推測するだけなら、「X だと思いますが、確信はありません」と言うかもしれません。しかし、X が答えである理由について 5 分間、長く詳細な物語を書き始めると、自分自身の物語を信じるようになります。「X が 99% 確実だ！」と言うようになります。X が実際には間違っていたとしてもです。
2. 「間違っているが、大声で主張する」問題
ここが厄介な点です。AI の自信は、正解したときよりも間違っていたときにより高くなりました。
- 比喩：AI が数学の問題を正解した場合、80% の確信を感じるかもしれません。しかし、数学の問題を間違えた場合、論理的に聞こえる長い説明を書く行為が、95% の確信を持たせます。負けることが分かっている事件について、非常に説得力のある主張をする弁護士のようなものです。話すほど、自分自身の嘘を信じてしまいます。
3. 「較正」の崩壊
AI の世界において、「較正」とは、「90% 確実だと言うとき、実際には 90% の確率で正しいのか？」を意味します。
この研究は、AI に推論（思考連鎖）を求めたことが、実際にはその較正を破綻させたことを発見しました。AI は頻繁に誤っているにもかかわらず、高い自信を持つ答えを出すようになりました。
- 比喩：天気予報士を想像してください。「推論」のステップなしでは、「雨が降るかもしれません、確率は 50% です」と言います。しかし、推論のステップを取り入れると、「風速、湿度、雲のパターンを計算しましたので、雨が降ることは 99% 確実です！」と言い始めます。しかし、その後、雨は降りません。彼らはより確信を持つようになりましたが、正確性は低下しました。
なぜこれが起こるのか？
この論文は、この現象がこれらの AI の構築方法によるものであると示唆しています。これらは「自己回帰的」であり、前の単語に基づいて次の単語を予測する仕組みになっています。
- フィードバックループ：AI が特定の答えを支持する推論ステップの書き出しを始めると、そのテキストが文脈の一部となります。まるで AI が自分自身のエッセイを読み、自分の書いた文章に説得されているかのようです。答えを支持するために書くほど、その答えはモデルにとって「論理的」に感じられるようになります。たとえその論理に欠陥があったとしても。
- 「説明することで信じる」現象：この論文は、人間もこれと同じことをしていると指摘しています。私たちが自分の答えを説明すると、その答えに対する自信が高まることがよくあります。AI はこの人間の特性を模倣していますが、その説明がナンセンスであることに気づく人間の能力は持ち合わせていません。
結論
この論文は、多肢選択式の問題に AI を使う際、AI に「段階的に考えよ」と求められた場合、AI の「自信スコア」を信頼する際には非常に注意が必要であると結論付けています。
- AI が「99% 確実だ」と言い、推論を求められていた場合、実際には間違っている可能性があります。
- 推論プロセスは、AI が正解を見つけるのを助けるだけでなく、AI が危険なほど確信を持って誤った答えを自分自身に信じ込ませるのを助けてしまいました。
要約すると：AI に「解き方を示す」よう求めることは、それをより上手な話し手にしますが、必ずしも自分の知識のより誠実で正確な判定者にするわけではありません。実際には、それをより自信に満ちた嘘つきにするかもしれません。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。