非常に難しいパズルを解こうとしている場面を想像してみてください。しかし、解決策に近づくたびに、あなたの脳はループに陥ってしまいます。「自分は正しい、自分は正しい」と考え続け、3ステップ前に犯したミスを実際には修正できないのです。これは、大規模言語モデル（LLM）と呼ばれる超スマートなコンピュータプログラムにとってよくある問題です。彼らは会話や文章作成には長けていますが、複雑な数学や科学の問題を論理的に解こうとすると、しばしば自分の足に躓いてしまいます。これを解決するために、科学者たちはこれらのモデルに「自己反省（セルフ・リフレクション）」、つまり自分の作業を振り返り、「待てよ、これは筋が通っていない」と言わせる方法を試してきました。しかし、多くの場合、モデルは頑固になってしまいます。一度「良い答えだ」と思ってしまうと、たとえ間違っていたとしても、それを変えることを拒むのです。Microsoftとニューヨークの大学の研究者によって書かれたこの論文は、大きな問いを投げかけています。「どうすれば、単に堂々巡りをすることなく、モデルに真の意味で考えを変えさせ、より良い答えを見つけさせることができるのか？」彼らは、哲学の古い概念である「ヘーゲル弁証法」に目を向けました。それは、非常に構造化された、ハイステークスなディベート・クラブのようなものです。単に「自分が正しい」と言うのではなく、モデルは2つの役割を演じることを強制されます。一つはアイデアを提案する役割、もう一つはそのアイデアの欠点を見つけ出す厳格な批評家を演じる役割です。そして、第3のキャラクターが登場して、これら2つの相反する意見を融合させ、両方の優れた部分を保持した全く新しい、より優れたアイデアへと昇華させます。これは、単に自分がすでに考えていることを繰り返すのではなく、自分自身と議論させることで、コンピュータをより賢く成長させるための方法なのです。

著者らは、LLMがこの哲学的なドラマをステップ・バイ・ステップで演じる新しいフレームワークを提案しています。彼らはこれを「自己弁証的（セルフ・ダイアレクティカル）」プロセスと呼んでいます。魔法が起きる仕組みは以下の通りです。まず、モデルは最初のアイデアを出し、これを「命題（プロポジション）」と呼びます。次に、モデルは「反対のアイデア（オポジション）」を生成しなければなりません。これは単なるランダムな推測ではありません。モデルは、元のアイデアにある特定の欠陥や穴を見つけ出す批評家として振る舞うよう指示されます。このステップは「止揚（アブライション／スブレーション）」と呼ばれます。最後に、モデルはこれら2つの対立する見解をまとめ上げ、「統一されたアイデア」、すなわち「総合（スペキュレーション）」を作り出そうとします。この新しいアイデアは単なる妥協案ではなく、最初のアイデアの問題点を解決しつつ、その強みを維持した、より高次の解決策であるはずです。研究者らは、これを数学の文章題（GSM-8kおよびGSM-hardデータセット）、記号論理パズル、複雑な知識問題（MMLU Pro）を含む、いくつかの異なる種類のタスクでテストしました。彼らは、この手法が標準的なプロンプティングと比較して、モデルの精度を大幅に向上させたことを見出しました。例えば、GSM-Symbolicという難しい数学テストにおいて、彼らの手法はGPT-4o-miniの精度を0.709から0.770へと、またQwen 2.5-7Bモデルにおいては0.587から0.623へと向上させました。

この研究の中で最も興味深い部分の一つは、このプロセスにおいてモデルがどの程度「創造的」であるべきかを判断することでした。研究者らは、モデルの想像力を制御するために「温度（テンパラチャー）」と呼ばれるものを使用しました。温度を、モデルの想像力のダイヤルだと想像してください。設定が低いと、モデルは非常に集中し、最も明白な答えに固執しやすくなります。一方、設定が高いと、モデルはより奔放になり、奇妙で新しい組み合わせを試みる可能性が高くなります。チームは、このダイヤルの使い方として2つの方法をテストしました。一つは、プロセス全体を通して一定の設定に保つこと、もう一つは「動的アニーリング・スケジュール」を使用することです。アニーリング・スケジュールとは、旅の始まりには高い温度（多くのワイルドで創造的な探索）からスタートし、プロセスが進むにつれて、徐々にダイヤルを下げて低い温度（集中した、注意深い洗練）へと移行していくようなものです。彼らは、どちらの方法もあらゆる状況において完璧であるとは言えないことを見出しました。あるモデルやタスクにとっては、一定の温度が最適であり、また別のモデルやタスクにとっては、創造的な状態から集中した状態へと移行する動的スケジュールが最良の結果をもたらしました。例えば、GSM-8kの数学テストでは、動的アニーリング・スケジュールがGPT-4oの精度を0.955に達させ、一定温度によるスコアの0.953をわずかに上回りました。しかし、同じテストにおけるQwen 2.5-7Bモデルについては、一定温度の方がわずかに優れていました。このことは、「モデルの創造性を調整する最善の方法」は、具体的な問題や使用される特定のコンピュータの脳（モデル）に依存することを示唆しています。

モデルが導き出した新しいアイデアが実際に優れたものであることを確認するために、研究者らは注意深く行動する必要がありました。すべての数学問題や科学的アイデアをチェックするための人間の専門家が利用できないため、彼らは「マルチエージェント多数決（MAMV）」と呼ばれるシステムを考案しました。複数の異なるAIモデルが円卓を囲んで座っている場面を想像してください。各モデルは独立して、新しい統一アイデアが有効であるか（意味が通っているか）、そして斬新であるか（実際に新しいものか）について投票します。もし多数のAI裁判官が「イエス」と言えば、そのアイデアは受理されます。もし「ノー」と言えば、プロセスは停止します。これにより、チームは人間の教授陣を必要とせずに、大規模なスケールでこの手法をテストすることができました。結果は、この構造化された自己批判が、単に「もう一度やってみて」や「もっと一生懸命考えて」と頼むよりもはるかに優れていることを示しました。ヘーゲル的アプローチを用いたモデルは、自身の論理的な誤りを見つけ出し、それを修正することに長けており、数学や科学においてより正確な回答へと導きました。

しかし、著者らは、これがすべてを解決する魔法の杖ではないことも強調しています。モデルが創造的になりすぎると（温度が高すぎると）、トピックから完全に外れたアイデアやナンセンスな内容を生み出してしまう可能性があることが分かりました。逆に、集中しすぎると（温度が低すぎると）、同じ間違いを何度も繰り返してしまうかもしれません。また、アイデアがいかに「新しい」かを測定することは非常に困難です。モデルは素晴らしい新理論を発見したと考えているかもしれませんが、それは単に学習データの中で読んだ内容を思い出しているだけかもしれません。研究者らは、彼らの手法が生成するアイデアが必ずしも科学的に正しいとは限らないことを認めており、真の検証には依然として人間の専門家が必要であるとしています。また、時としてモデルがループに陥り、優れた反対意見を生成できなかったり、あるいは単に同じ段落を繰り返したりすることも指摘しています。こうした限界はあるものの、この論文は、自己反省を単なる「やり直し」という命令ではなく、構造化された討論として扱うことが、AIに明確に思考させるための強力な方法であることを示唆しています。モデルに自らの欠点と向き合い、より優れた答えを統合させることで、単に賢そうに聞こえるだけでなく、実際に論理的に思考できるシステムを構築できるかもしれないのです。