あなたは、非常に優秀で動作の速いロボットにコンピュータコードの書き方を教えていると想像してください。このロボットは「大規模言語モデル（LLM）」として知られており、インターネット上のほぼすべての本やウェブサイトを読み込んでいます。このロボットは、次にどのような言葉が来るべきかを推測することに長けており、高度なオートコンプリートのようなものです。しかし、ここが難しいところなのですが、ロボットが「正しそうに見える」コードを書いたとしても、それが実際に「動作する」とは限りません。完璧な文章のように見えても、実行した瞬間にクラッシュしてしまうようなコードを書くこともあるのです。これを解決するために、科学者たちは「ベンチマーク」を使用します。これは、書かれたコードが実際にテストを実行される「練習試験」のようなものです。もしコードがテストに合格すれば1ポイント獲得し、クラッシュしたり間違った答えを出したりすれば不合格となります。この分野における大きな疑問は、「どうすれば、私たちが彼らの脳全体を作り直すことなく、ロボットを単に賢いように見せるだけでなく、現実の問題を解決できるほど本当に賢くできるのか？」ということです。

ここで、新しい研究が登場します。それは、ロボットの脳を作り直す必要はないという提案です。研究者であるErxue Zhou、Jingxiang Meng、そしてAofan Liuは、RAV（Route, Align, Verifyの略）と呼ばれる、巧妙な3ステップのトリックを提案しています。これは、まるで学生を大きな試験に向けて準備させるようなものです。まず、単に一般的な学習ガイドを与えるのではなく、彼らが直面している問題がどのような種類なのかを正確に把握し、適切な種類のヒントを与えます（Route）。次に、彼らが教室で教わった方法が、実際のテスト問題の書き方と正確に一致するようにし、言い回しの違いで混乱しないようにします（Align）。最後に、単に一つの答えを提出させるのではなく、10通りの異なる解決策を書かせ、それぞれに素早いチェックを行い、実際に機能するものを選び出します（Verify）。論文では、これら3つのステップを連携させることで、基礎となるモデルを変更することなく、より優れた結果を得られることが示唆されています。

3ステップのマジックトリック

研究者たちは、彼らのアイデアをMBPPと呼ばれる人気のコーディング・チャレンジのセットでテストしました。彼らは標準的で強力なコーディングモデル（Qwen2.5-Coder-7B-Instruct）を使い、こう問いかけました。「この特定のモデルに対して、私たちとの話し方や答えの選び方を変えるだけで、テストに合格する能力を高めることはできるだろうか？」

彼らの3ステップのフレームワークがどのように機能するかを、遊び心のある比喩を使って説明します。

1. Route：スマートな受付係
何千ものリクエストが届く忙しいオフィスを想像してみてください。もしあなたが単に「問題を助けてほしい」と言っただけなら、受付係はあなたの状況に合わない一般的な回答を出すかもしれません。しかし、もし受付係があなたのリクエストを見て、「おや、文字列の操作ですね？では、『文字列スペシャリスト』のガイドを使いましょう！」とか、「数学の問題ですか？では、『数学の魔術師』ガイドに切り替えましょう！」と言えたらどうでしょう？
論文におけるこれは、Route（経路設定）の段階です。モデルがコードを書き始める前に、軽量な「ルーター」がタスクを調べます。タスクがテキスト操作（回文を見つけるなど）に関するものであれば、特定のプロンプトスタイルを使用します。もし数学やアルゴリズムに関するものであれば、別のスタイルに切り替えます。これにより、モデルが「一律のプロンプト」ではなく、特定の仕事に対して適切な「味付け」の指示を受け取れるようにします。

2. Align：実践形式の練習
次に、サッカー選手を、実際の試合とは全く異なるドリルを使ってトレーニングした場面を想像してください。重いボールを使って泥だらけのフィールドで練習したのに、実際の試合は芝生の上で軽いボールを使って行われるとしたら、その選手はドリルには優れていても、試合では下手になってしまうかもしれません。これは「ミスマッチ」です。
AIの世界でも、モデルはある種類の指示で学習され、別の種類の指示でテストされることがよくあります。Align（調整）の段階はこの問題を解決します。研究者たちは、彼らのトレーニングデータを、テスト中にモデルが見ることになる「ルーティングされた」プロンプトと全く同じ見た目になるように書き換えました。そして、モデルの脳全体を書き換えることなく新しいテクニックを教える方法であるLoRAを使用して、モデルにこれらの新しいタスク固有のスタイルへの応答方法を具体的に教え込みました。これは、サッカー選手に実際の試合の条件を完璧に模倣した練習ドリルを与えるようなものです。

3. Verify：セーフティネット
最後に、最高のトレーニングと適切なヒントがあったとしても、モデルは最初の一回でミスをする可能性があります。これまでは、多くの人がモデルが出した最初の答えをそのまま受け取っていました。しかし、もしモデルが10個の異なる答えを生成でき、そこから最適なものを選べるとしたらどうでしょうか？
これがVerify（検証）の段階です。モデルは複数のバージョンのコード（候補プール）を生成します。その後、システムは各バージョンを問題に含まれる公開テストに対して実行します。これは、教師が10個の異なるエッセイを採点し、最高評価（A）を取ったものだけを提出させるようなものです。システムは、実際にテストに合格したコードを選択します。もし2つのコードが合格した場合は、より短い方のコードを選びます。このステップによって、「おそらく」が「確実」へと変わります。

彼らが発見したこと

研究者たちがこれら3つのステップをすべて組み合わせたとき、結果は目覚ましいものでした。彼らはMBPPベンチマークでRAVパイプライン全体をテストしました。

• MBPP Sanitized（クリーンなバージョンのテスト）において、彼らの手法は0.8911のスコアを達成しました。
• MBPP Full（より困難な完全版）において、彼らは0.8520に達しました。

これを比較するために、これらのトリックを使わなかった元のモデルは、サニタイズされたセットで0.8276、フルセットで0.7528のスコアでした。これは、RAVメソッドがサニタイズされたセットで6.35パーセントポイント、フルセットでは驚異的な9.92パーセントポイント、成功率を向上させたことを意味します。

秘訣：なぜこれらが共に機能するのか

最も興味深い部分は、彼らが各ステップを単独で試したときに何が起きたかです。

• もし彼らがRouteとAlignだけを使用し、答えのチェック（Verify）を行わなかった場合、改善はごくわずかでした。それは、素晴らしい学生であっても、間違いをチェックせずに宿題の初稿をそのまま提出してしまうようなものです。
• しかし、RouteまたはAlignをVerifyと組み合わせたとき、スコアは大幅に跳ね上がりました。

このことは、RouteとAlignが必ずしもモデルに「最初の一回で完璧な答え」を書かせるわけではないことを示唆しています。むしろ、彼らは「より良い選択肢のリスト」を書かせるのです。これらは、生成されたコードの山の中に正しい答えが隠れている確率を高めます。そして、Verifyが探偵として機能し、その隠れた正解を見つけ出し、選択するのです。

著者らは、結果が単なる運によるものではないことを確認するために、テストを何度も実行しました。より困難な「Full」セットにおいても、改善は非常に安定していました。また、モデルがトレーニングデータから答えを暗記してしまったのではないか（「汚染」と呼ばれる問題）を確認しましたが、その証拠は見つかりませんでした。

まとめ

この論文は、より優れたコードを得るために、新しい巨大で超高価なロボットの脳を発明する必要はないことを示唆しています。代わりに、質問の仕方（Route）、モデルへの練習のさせ方（Align）、そして最終的な答えの選び方（Verify）について、より賢くなることで、はるかに優れた結果を得ることができるのです。これは、システムを改善するための最善の方法は、必ずしもエンジンを大きくすることではなく、ドライバー、地図、そして目的地へのチェックイン・プロセスを微調整することである、という教訓を与えてくれます。