あなたは、ロボットに物語を書かせたり、数学の問題を解かせたり、ビデオゲームのコードを書かせたりする方法を教えようとしていると想像してください。長い間、これを行う最善の方法は、人間がキーボードでタイピングするように、ロボットに一単語ずつ書かせることでした。しかし、そこには落とし穴があります。一度ロボットが単語を選んでしまうと、それに縛られてしまうのです。もし早い段階で小さなミスをすると、物語全体が支離滅裂なものへと螺旋状に悪化してしまい、簡単に戻って修正することができません。最近、科学者たちは「拡散モデル（Diffusion Model）」と呼ばれる新しい種類のロボットの脳を発明しました。このモデルは、一単語ずつタイピングするのではなく、空白のページから始まり、一度に、かつゆっくりと全体を整えていくのです。それは、アーティストが汚れを拭き取っていくことで、泥だらけの絵が徐々に鮮明な傑作へと変わっていく様子を見ているようなものです。この手法は、全体像を一度に見ることができるため非常に優れていますが、厄介な問題があります。それは、しばしば「決まりきったパターン」に陥ってしまうことです。同じ退屈な文章を何度も繰り返したり、あるいは、他とは違うことをしようとしすぎて混乱し、物語が崩壊してしまったりすることがあります。科学者たちの大きな疑問は、どうすれば、意味のある能力を失うことなく、ロボットに創造性を持ち、新しいアイデアを探求させることができるかということです。

この論文は、これらの「拡散」ロボットがより創造的に思考するのを助けるための、SAKE（Semantic-Aware Kernel Entropy）と呼ばれる巧妙な新しいトリックを紹介しています。研究者たちは、これらのロボットの多様性を高める通常の方法、つまり「温度（temperature）」というつまみを上げてランダム性を高めることは、退屈な物語を直そうとして、そこに紙吹雪を投げつけるようなものだと発見しました。それは多様性を加えるかもしれませんが、品質を損ない、物語をランダムなノイズのようにしてしまいます。代わりに、著者らは「好奇心旺盛な探検家」のように振る舞う、よりスマートなガイドを提案しています。このガイドは、ロボットが今書いたものとあまりに似すぎている単語を選ぼうとしていないかをチェックします。もしロボットが繰り返しのループに陥りそうになったら、ガイドはそれを別の、しかし依然として理にかなった道へと優しく押し戻します。もしロボットがすでに創造的であれば、ガイドは身を引き、自由にさせておくのです。

チームは、コンピュータコードの作成や複雑な数学の問題の解決といった困難な課題を用いて、この手法をテストしました。彼らは、この新しいガイドが、従来のメソッドと比較して、より幅広い正解を生成するのに役立つことを発見しました。例えば、コードを書くように求められた際、SAKEを用いたロボットは32回の試行の中で55.8%の確率で正解に到達しましたが、標準的なメソッドでは41.1%でした。数学においても、同様の改善が見られました。この論文は、この「エントロピーに基づくガイダンス」を用いることで、仕事の質を犠牲にすることなく、AIにより多くの可能性を探求させることができ、創造性と正確性の間のトレードオフを効果的に解決できることを示唆しています。

問題点：ロボットの「退屈なループ」

なぜこれが重要なのかを理解するために、これらのAIモデルが通常どのように機能するかを見てみましょう。あなたが秘密の単語を当てるゲームをしていると想像してください。もしあなたが安全策をとるなら、最も一般的な単語を最初に推測するかもしれません。しかし、もし勝ちたいのであれば、異なる推測を試す必要があります。AIのテキスト生成の世界には、「温度スケーリング（temperature scaling）」と呼ばれる一般的なツールがあります。これは、ランダム性のための音量つまみのようなものです。つまみを下げると（低温度）、AIは安全策をとり、最も可能性の高い単語を選びます。これはしばしば、繰り返しの多い退屈なテキストにつながります。つまみを高く上げると（高温度）、AIは奔放になり、ランダムな単語を選びます。これは確かに多様性を生みますが、それは乱雑な多様性です。それは、新しいステーションを聞こうとしてラジオの音量を最大にするようなものです。何か違うものは聞こえてくるかもしれませんが、同時に多くの静電気やノイズも聞こえてしまい、音楽は判別不能になってしまいます。

研究者たちは、コーディングや数学のような複雑なタスクにおいては、単に「もっと多くの」多様性が必要なのではなく、「より良い」多様性が必要であると主張しています。私たちは、AIが（パズルの解き方を試すように）異なる推論の経路を探求できるようにする必要がありますが、それは無意味な内容に陥ることなく行われなければなりません。古い手法は、AIを安全にさせすぎて（退屈）、あるいは奔放にしすぎて（崩壊）、どちらか一方でした。

解決策：「好奇心旺盛な探歴家」のガイド

この論文の著者であるJingwei Zhangとそのチームは、SAKE（Semantic-Aware Kernel Entropy）と呼ばれる、AIを導くための新しい方法を考案しました。単に「ランダム性」のつまみを上げるのではなく、SAKEはAIの隣に立つスマートなコーチのように振る舞います。

その仕組みを簡単に説明すると以下の通りです：

1. コーチが地図を確認する： AIがテキストを生成している間、SAKEはAIがすでに選んだ単語と、次に検討している単語をチェックします。そして、特別な「地図」（カーネル・グラム行列と呼ばれます）を使用して、それらのアイデアがいかに似ているかを確認します。
2. 「反発」する力： もしAIが、今言ったこととあまりに似ている単語（例えば、「犬が走った」と言った後にまた「犬が走った」と言うようなこと）を選ぼうとした場合、コーチは「反発力」を感じます。コーチは、その繰り返しの選択からAIを遠ざけ、別の、しかし関連性のあるアイデアを試すよう促します。
3. 動的な調整： 素晴らしいのは、このコーチが賢いことです。もしAIがすでに創造的であり、多様な単語を選んでいるなら、コーチはリラックスし、AIが自然な自信に従うままにします。コーチが介入するのは、AIがループに陥り始めた時だけです。

論文では、これを問題の「線形化」として説明しています。辞書にあるあらゆる単語に対して完璧な答えを計算しようとする（それは永遠に時間がかかるでしょう）代わりに、AIは自身の脳内にあるアイデアの「形」（埋め込み空間）を見つめ、正しい方向への素早いプッシュを計算します。これにより、プロセスはリアルタイムで使用できるほど高速になります。

結果：より良い結果、より少ないノイズ

チームは、この新しいガイドが実際に機能するかどうかを確認するために、いくつかのベンチマークでテストを行いました。彼らはSAKEを、標準的な「温度」メソッドおよび「離散的分類器フリー・ガイダンス（Discrete Classifier-Free Guidance: D-CFG）」と呼ばれるもう一つの人気のある手法と比較しました。

• コード生成： コンピュータコードを書くよう求められた際（HumanEvalおよびMBPPテストを使用）、SAKEを用いたAIは、複数回の試行を与えられた場合に、より優れた正解を見つけ出すことができました。HumanEvalテストでは、成功率は標準的なメソッドの**41.1%から、SAKEを使用することで55.8%**へと跳ね上がりました。MBPPでは、**48.2%から56.1%**になりました。
• 数学的推論： GSM8K数学テストにおいて、SAKEを使用したAIは**75.1%の自己整合性スコアを達成し、標準的なモデルの71.5%**を上回りました。
• 「パレート・フロンティア」： 研究者たちはまた、品質と多様性のバランスについても調査しました。彼らは、温度を上げるとAIの多様性は増すものの、テキストの品質（一貫性）を損なう（バラバラにする）ことを発見しました。しかし、SAKEは、その「フロンティア」を外側へと押し広げることに成功しました。これは、SAKEが、品質を失うことなく、より多様になれることを意味します。それは、まるで「ケーキを食べながら、同時にそれを食べる」方法を見つけたかのようです。

興味深い発見の一つは、「モード崩壊（mode collapse）」についてでした。これは、AIが生成する数少ない回答のループに陥ってしまう現象です。論文は、低温度（AIが通常非常に安全な設定）において、標準的な手法はすぐに停滞してしまうことを示しています。しかし、SAKEはAIに探索を強制し、ランダム性の設定が低い状態であっても、パフォーマンスを大幅に向上させました。

トレードオフ：速度 vs 知能

もちろん、無料のものは何もありません。論文は、SAKEが標準的な手法よりも多くの計算資源を必要とすることを認めています。なぜなら、「コーチ」が単語の類似性をチェックするために追加の計算を行う必要があるからです。しかし、チームは、この速度低下は非常に小さいものであることを見出しました。AIは、ガイドなしのバージョンの約**93%の速度でテキストを生成しています。対照的に、D-CFGと呼ばれる別の手法ははるかに遅く、約67%**の速度まで低下しました。このことは、SAKEが、作業を大幅に遅らせることのない実用的なツールであることを示唆しています。

なぜこれが重要なのか

論文は、多様性とは単に物事を違って見せることではなく、「堅牢性（robustness）」に関わることであると結論付けています。数学の問題を解いたりコードを書いたりするような複雑なタスクにおいて、問題に対する異なる複数の考え方を持つことは、正しい答えを見つける確率を高めます。SAKEを用いることで、私たちはAIモデルを混沌とした無意味な生成器に変えることなく、これらの異なる経路を探求させることができるのです。

著者らは、この手法が、将来的にAIを使用する方法、特に深い思考と創造性を必要とするタスクにおいて、ゲームチェンジャーになる可能性があると示唆しています。彼らは、AIの思考の「形」を理解することで、AIをスマートかつ創造的に導き、品質と多様性のバランスという古くからの問題を解決できることを示しました。論文は、AIのあらゆる問題を解決したと主張しているわけではありませんが、その結果は、この新しい「エントロピーに基づくガイダンス」が、テキスト生成AIをより信頼性が高く、多才なものにするための重要な一歩であることを示唆しています。