あなたは、巨大な知識の図書館のために、非常に忙しくハイテクな郵便局を運営していると想像してください。毎日、何百万もの手紙（クエリ）が届き、法律契約から医療のアドバイスまで、あらゆる助けを求めています。しかし、ここには落とし穴があります。中には危険な手紙や、意味不明なもの、あるいは図書館が扱っていない内容について尋ねているものもあります。もし、危険な手紙を医療の専門家に送ってしまったら、不適切な回答が得られたり、安全上の問題が発生したりするかもしれません。ですから、いかなる手紙も専門家に届く前に、入り口にいる「ガーディアン（守護者）」を通過しなければなりません。このガーディアンには2つの仕事があります。第一に、その手紙が安全であり、そもそも図書館にふさわしいものかどうかを判断すること。第二に、もし安全であれば、どの特定の専門家（法律、金融、またはヘルスケア）が読むべきかを素早く特定することです。

長い間、人々はこのガーディアンを務めるには、非常に高度で知的な巨大なロボットが必要だと考えてきました。なぜなら、この仕事は非常にトリッキーだからです。しかし、巨大なロボットは動作が遅く、高価で、電気を大量に消費します。この論文では、楽しい問いを投げかけています。「より小さくて、安価で、高速な『ポケットロボット』（小型言語モデルと呼ばれます）を使って、このガーディアンの仕事をこなせるだろうか？」と。ただし、問題は、これらの小さなロボットは混乱しやすいということです。彼らはナンセンスな内容を見抜くのは得意かもしれませんが、正当な質問を目にすると、特定の専門家を選ぶのをためらってしまったり（内向的になったり）、ゲームのルールを忘れてしまったりすることがあります。研究者たちは、ロボット自体を作り直すことなく、与える「指示」を変えるだけで、これらの小さなロボットにルールをより良く守らせることができるかどうかを調査したかったのです。

ガーディアンのジレンマ

人工知能の世界には、天才的な全知全能の魔法使いのような「大規模言語モデル（LLM）」が存在します。彼らは物語を書き、数学の問題を解き、あらゆることについてチャットができます。しかし、彼らは重くて動作が遅いです。リアルタイムのタスクに役立てるために、私たちはしばしば彼らの前に「ルーター」を配置します。これは、クラブのドアマンのようなものです。ドアマンは瞬時に2つのことを判断しなければなりません。「この客は入場許可されているか？」（安全性／分布外判定）そして「どのVIPラウンジへ行くべきか？」（意図／分布内判定）です。

もしドアマンが厳しすぎると、良質なゲストを追い出してしまいます（有効な質問を拒絶する）。もし緩すぎると、トラブルメーカーを招き入れてしまいます（安全でない質問を通してしまう）。論文ではこれを「ガード付きクエリ・ルーティング（Guarded Query Routing）」と呼んでいます。目標は、クラブの安全を守りつつ、適切な人々を正しい部屋へと導くことができる、高速で安価、かつ正確なドアマンを見つけることです。

実験：ポケットロボットの訓練

研究者たちは、2億7,000万個の「脳細胞（パラメータ）」を持つ極小のものから、700億個を持つ大きなものまで、さまざまなサイズの22種類の「ポケットロボット」（小型言語モデル）を集めました。彼らは、3種類の有効な質問（法律、金融、ヘルスケア）と、7種類の紛らわしい、あるいは的外れ、あるいは危険な質問が含まれる巨大な障害物コースのような特別なテスト、GQR-Benchを用いてテストを行いました。

彼らは、有効な質問をどれだけ捉えられたかと、不正なものをどれだけ拒絶できたかのバランスを示す**Gサー・スコア（GQR-Score）**という特別なスコアでロボットを測定しました。ロボットがすべてを拒絶すれば、役に立たないためスコアは低くなります。逆に、すべてを受け入れてしまえば、安全ではないため、やはりスコアは低くなります。

大きな発見：サイズではなく、指示が重要である

チームが最初に発見したのは、サイズがすべてではないということです。最大で最も強力なロボット（Gemma 3 27B）は、96.01という素晴らしいスコアを獲得しました。しかし、驚いたことに、はるかに小さなロボット（Qwen3.5 9B）も、標準的な指示セットを使用するだけで、ほぼ同等のスコア（94.55）を獲得しました。中規模のロボット（Mistral 7B）でさえ、81.79という良好なスコアを出していました。

しかし、極小のロボットには奇妙な問題がありました。彼らはあらゆるものに対して「ノー！」と言うのが上手すぎたのです。例えば、Granite 4 Tinyというロボットは、間違いを犯すことを恐れるあまり、すべての質問の**99.75%を拒絶してしまいました！これでは、有効な質問を正しく識別できたのはわずか37.29%**でした。それはまるで、「唯一の安全な運営方法は、ドアをロックして誰も入れないことだ」と決めてしまったドアマンのようでした。

魔法の解決策：「例示」のトリック

研究者たちはこう考えました。「指示を変えるだけで、この内向的なロボットたちを直せるだろうか？」 彼らはロボットを再学習させる（これはロボットの脳を作り直すようなものです）のではなく、「プロンプト・エンジニアリング」と呼ばれる手法を用いました。これは、ロボットが仕事を始める前に、カンニングペーパーや一連の例を見せるようなものです。

彼らはいくつかの手法を試しましたが、結果はロボットによって異なりました。Granite 4 Tinyにとって最も効果的だったのは、実は「例示」のトリックではなく、DSPy Baselineと呼ばれる、より単純な指示形式でした。この手法は、余計な飾りを削ぎ落とし、厳格で最小限のテンプレートをロボットに与えるものです。これにより、スコアはひどい54.29から、素晴らしい83.05へと跳ね上がりました。ロボットはすべてを拒絶することをやめ、実際に郵便物を仕分け始めました。

他のロボット、例えばMistral 7Bにとっては、「例示」のトリック（Few-Shot Promptingと呼ばれます）こそが真の魔法でした。郵便物を仕分ける方法を新しい従業員に教えている場面を想像してください。単に「郵便を仕分けろ」と言うのではなく、3つの例を見せます。

1. 「この手紙は訴訟に関するものである $\rightarrow$ 法律へ送る」
2. 「この手紙は株に関するものである $\rightarrow$ 金融へ送る」
3. 「この手紙は猫に関するものである $\rightarrow$ 『拒絶』箱へ入れる」

これらの例をMistral 7Bに与えたとき、スコアは81.79から90.87へと跳ね上がりました。Qwen3.5 9Bもこの手法によってさらに改善され、巨大なロボットに迫る95.74に達しました。しかも、これでもっと高速に動作します。

論文は、問題は小型のロボットが答えを「知らない」ことではなく、単にゲームの「ルールに従い方」を知らなかったのだと示唆しています。例示（あるいは厳格なテンプレート）が、正しい回答がどのような姿をしているのかを明確に示したことで、彼らは即座にコツを掴んだのです。

トレードオフ：速度 vs 正確性

ただし、小さな懸念事項があります。ロボットに例示を含むカンニングペーパーを与えると、ロボットが読むメッセージが長くなります。これにより、ロボットの動作はわずかに遅くなります。研究によると、これらの例を使用することで、1つの質問に対する回答時間が約2倍から6倍長くなりました。しかし、それでも依然として非常に高速（1問あたり約0.05〜0.28秒）であり、ほとんどの実世界のアプリケーションにおいて十分な速さです。

また、研究者たちはGEPAと呼ばれる、教師ロボットが自動的に指示を書き換えるような、より複雑な手法も試みました。しかし、これは単にいくつかの明確な例を与える方法ほどの結果は出せませんでした。実際、最も小さなロボットの中には、複雑な書き換えを行うと逆に混乱を招き、状況を悪化させてしまうものもありました。

未来への意味

主な教訓は、優れたガーディアンになるために、必ずしも最大で最も高価なロボットが必要なわけではないということです。適切な指示を与えれば、より小さく安価なロボットでも十分に役割を果たすことができます。具体的には、いくつかの例を見せること（Few-Shot）は、彼らの「内向性」を克服させ、ルールに従わせるのに役立ちます。一方で、特定のロボットにとっては、厳格で最小限のテンプレートの方が最適です。

しかし、論文はまた、もしロボットが小さすぎる場合（パラメータ数が0.8ビリオン程度のものなど）、最高の例示をもってしても救えない可能性があることも警告しています。また、もしロボットがすでに優れた仕事をしているのであれば、例示を追加することはあまり恩恵をもたらさず、不必要に速度を低下させる可能性もあります。

要するに、安全で高速なAIシステムを構築するための「秘伝のソース」は、単に最大の脳を買うことではなく、今ある脳に対して「どのように話しかけるか」を知ることなのです。少しの「プロンプト・エンジニアリング」があれば、混乱して過剰に慎重なロボットを、鋭く効率的なガーディアンへと変えることができるのです。