想像してみてください。あなたは、非常に珍しく、難解な言語（科学者が使うJuliaや、クラウドサービス用のBallerinaのようなもの）を教えるために、優秀だが未経験の弟子にプログラミングを教えているところだとします。問題は？その弟子は、これまで一度もそれらの言語を見たことがないのです。彼らはPythonやJavaには精通していますが、Juliaを書こうとすると、文法を混同し、誤った記号を使い、構文の中で迷子になってしまいます。

これが、この論文の著者たちが直面した「トリレンマ（三すくみ）」です：

1. データ不足： モデルに教えるための、これらの希少な言語における優れたコードの例が極めて少ない。
2. 思考コストが高すぎる： モデルに「もっと深く考えさせ」、人間がデバッグするように何度もやり直させることができますが、それでは実用化するには時間がかかりすぎ、コストもかかりすぎます。
3. 強化学習の失敗： モデルが良いコードを書いたら報酬を与え、悪いコードを書いたら罰を与えるという方法では、モデルがあまりにも基本的な文法ミスを連発しているため、学習のための「よくできました」という信号すら得られず、うまく機能しません。

ビッグアイデア：「宿題の左シフト」

著者たちは、「セレクティブ・レフトシフト（選択的左シフト）」と呼ぶ巧妙な3ステップのパイプラインを提案しています。このように考えてみてください。弟子の苦労を、あなたが監視している間（これは遅くて高価です）にすべて解決させるのではなく、事前にオフラインの静かな部屋でその苦労をすべて終わらせてしまい、その結果を完璧な教科書に変えてしまうのです。

彼らの3フェーズ・パイプラインがどのように機能するかを、コーディングの魔法使いを訓練する比喩を用いて説明します：

フェーズ1：オフラインの「試行・失敗・再試行」工場

モデルにリアルタイムで失敗を待つのではなく、著者たちは自動化された工場を設置しました。彼らはモデルに問題を提示し、それを解決させます。

• 魔法： もしコードが失敗しても、工場はそれを単に捨てることはしません。エラーメッセージ（例えば「カンマではなくセミコロンを使うべきです」や「このテストケースは出力が5ではなく6であったために失敗しました」など）をモデルにフィードバックします。
• ループ： モデルは再び挑戦し、エラーを修正し、そしてまた挑戦します。コードがすべてのテストに合格するまで、このループを繰り返します。
• 結果： コードが完璧に動作したら、それは特別な「検証済みデータセット」に保存されます。著者たちはこれを計算の「左シフト」と呼んでいます。ユーザーが質問するたびに「考えて修正する」という高価なプロセスを行うのではなく、高品質な学習データを作成するために、一度だけ高価な「思考と修正」を行うのです。

フェーズ2：文法ブートキャンプ（SFT）

これで、完璧に検証されたコードが詰まった教科書が手に入りました。次に、彼らは（具体的にはQwen3-8Bモデルを用いて）モデルに「教師あり微調整（SFT）」を行います。

• なぜこれが重要か： これまでは、モデルが（JuliaにおけるTrueではなくtrueといった）文法ミスを犯していたため、論理的な部分に到達することすらできませんでした。このフェーズは、厳格な文法ブートキャンプのようなものです。モデルにJuliaやBallerinaの特定の「方言」を叩き込み、くだらない文法ミスをさせないように強制します。
• 証明： 論文では、このステップを経て、構文エラーが**45.9%から0.6%**へと激減したことが示されています。モデルは、実際にコンパイル可能なコードを書けるようになったのです。

フェーズ3：「意識的練習」ジム（RLVR）

モデルは文法を覚えました。次は「論理」――つまり、本当に難しい問題を解く方法を教える番です。彼らは強化学習（RL）を用いますが、そこにひねりを加えています。

• ひねり（難易度のキュレーション）： ほとんどのRL手法は、ランダムな問題をモデルに投げつけます。しかし、著者らはこれが非効率であると主張しています。問題が簡単すぎれば、モデルは即座に解いてしまい、何も学びません。逆に難しすぎれば、モデルはすべて失敗し、何も学べません。
• 戦略： 彼らは、モデルができる限界のちょうど境界線上にある（チェスや競技プログラミングで使用されるELOレーティングによって測定される）問題のデータセットを厳選しました。これは、アスリートが行う「意識的練習（デリバレート・プラクティス）」のようなものです。自分が「ほぼできる」レベルの動きに対してのみトレーニングを行うことで、最も速く上達できるのです。
• セーフティネット： 彼らはまた、「ゼロ・アドバンテージ・マスキング」と呼ばれるトリックも使用しています。もし一連の試行がすべて失敗した（あるいはすべて成功した）場合、そのグループを無視します。彼らは、一部の試行は成功し、他の試行は失敗したという「差」があるグループからのみ学習することで、モデルが何を改善すべきかという明確な信号を得られるようにしています。

結果：劇的な飛躍

結果は目覚ましく、特に、彼らが従来の状態最高（SOTA）の手法と比較して、1/3のデータと1/6のコストしか使用していないことを考えると驚異的です。

• Julia（「中程度」の希少言語）の場合：

  • ベースモデルは標準的なテスト（MultiPL-E）で**44.0%**のスコアでした。
  • 彼らのフルパイプライン適用後、68.6%へと跳ね上がりました。これは+24.6ポイントの向上です。
  • より困難な実戦テスト（Ag-LCB）では、**9%から39.2%**へと上昇しました。
  • 標準テストでは以前のベストを7.6ポイント、難易度の高いテストでは14.2ポイント上回りました。

• Ballerina（「極端な」希少言語）の場合：

  • ベースモデルはBallerinaについてほとんど何も知りませんでした（スコアは4.4%）。
  • パイプライン適用後、**49.7%**を記録しました。
  • これは、コンパイラといくつかのテストケースさえあれば、モデルが一度も見聞きしたことがない言語に対しても、この手法が有効であることを証明しています。

明確に否定されたこと

論文は、何がうまくいかないのかについても非常に明確です。

• 最初からの強化学習（RL）のみ： 最初に文法（SFT）を教えずにRLだけで教えようとしても失敗すると、彼らは主張しています。モデルは構文エラーのループに陥り、論理を学ぶための「報酬」信号を得ることができません。
• ランダムな難易度： RLフェーズでランダムな問題を使用したテストを行い、それがはるかに効果が低い（52.2% vs 68.6%）ことを発見しました。適切な難易度を選択することが、学習を定着させるために不可しいと示唆しています。
• オンラインでの「もっと考える」スケーリング： ライブ使用時（推論時）に「試行・失敗・修正」のループを行う（推論時スケーリング）ことは、あまりにも高価で遅いと彼らは主張しています。彼らの「オフライン」アプローチの方が、より賢い投資となります。

信頼性は？

著者たちは、自分たちの発見を直接測定しているため、非常に自信を持っています。

• 彼らは、2つの異なる言語（JuliaとBallerina）と2つの異なるベンチマークを用いて、パイプラインが機能することを証明しました。
• 彼らはコスト削減を測定し、彼らの手法が、同様の従来手法（$320.3**）に対し、わずか**$54.02であったことを示しました。
• 彼らは、「難易度ベースのキュレーション」が必要であることを、ランダムな問題を用いた実験を通じて実証しました。その結果、スコアは著しく低くなりました。
• 彼らは、コンパイラといくつかのテストケースさえあれば、このアプローチが新しく登場するあらゆるプログラミング言語に適用できる可能性があると示唆していますが、世界中のすべての言語でテストしたわけではありません。

要約すると、もしAIに希少な言語を教えたいのであれば、ただ深いプールに放り込むのではなく、まず、AIが正解に辿り着くまでオフラインで練習させることで教科書を作り、文法を教え、それから「汗をかくのにちょうど良い」難易度の問題で訓練させるべきだ、とこの論文は提案しています。これは、より安く、速く、そしてスマートに、コーディングの魔法使いを構築する方法なのです。