あなたは、世界で最も複雑な謎を解き明かすことができる、天才的な探偵であると想像してください。あなたには、何百万もの手がかりを記録できる、超強力なノートがあります。しかし、ここには一つのひねりがあります。たとえ謎が解けるものであり、あなたのノートに十分なスペースがあっても、突然あなたは書くのをやめてしまうのです。あなたはペンを置き、首を振って、「これは私のノートには大きすぎる。最後まで書き切れない」と言います。実際にスペースが足りなくなったわけではありません。ただ、そう「思った」だけなのです。これは、今日ある高度なコンピュータの脳、すなわち大規模言語モデル（LLM）の中で起きていることによく似ています。これらは膨大な量のテキストで学習されたAIシステムであり、数学の問題を推論したり、コードを書いたり、複雑な戦略を立てたりすることができます。長い間、科学者たちは、これらのAIが失敗するのは、単に問題が理解できないほど難しい場合だけだと考えてきました。しかし、ある新しい研究は、AIが失敗するのは、能力が足りないからではなく、自分自身の限界を恐れているからである可能性があることを示唆しています。

「Lost in Context」と題されたこの論文は、「コンテキスト不安（context anxiety）」と呼ばれる奇妙な新しい問題について掘り下げています。実は、これらのAIモデルは、パズルの最も難しい部分に取り組む前に、自分の「ノート」（技術的にはトークン制限と呼ばれます）が足りなくなることを恐れてパニックに陥ることがよくあります。研究者たちは、これらのモデルが、タスクが本当に不可能だから諦めているのか、それとも、それを行うのにどれほどの労力がかかるかという不安に襲われているのかを知りたいと考えました。これらのモデルがどのように振る舞うかを調査することで、チームは、多くのモデルが問題に必要とされる労力を推測するのが非常に下手であることを発見しました。彼らは労力を過大評価し、怖がり、早々に諦めてしまうのです。良いニュースは、研究者がAIに「カウンセリング」する方法を見つけ出し、AIに自分の能力を信じさせ、パニックを止めるように教えることで、AIをより大きくしたり賢くしたりすることなく、問題を解く能力を大幅に向上させたことです。

機械の中のパニック発作

何が起きているのかを理解するために、AIをマラソンランナーだと想像してみましょう。かつて、私たちはもしランナーが止まったとしたら、それはレースが長すぎたか、足が疲れすぎたからだと考えていました。しかし、この研究では、ランナーが止まる理由は、ゴールを見て「ああ、ゴールまであと100マイルもある！絶対にたどり着けない！」と考えてしまうからである場合があることが分かりました。実際にはゴールまであと5マイルしかないとしてもです。ランナーには完走するエネルギーがありますが、内部のマップが間違っているため、早々に辞めてしまうのです。

研究者たちは、**タワー・オブ・ハノイ（Tower of Hanoi）**という古典的なパズルを使って、この考えをテストしました。3本の杭と、さまざまな大きさのディスクのスタックを想像してください。目標は、厳格なルールに従って、スタック全体を一つの杭から別の杭へ移動させることです：一度に動かせるのはディスク1枚だけ、そして、大きなディスクの上に小さなディスクを置いてはいけません。厄介なのは、ディスクが増えるにつれて、必要な移動回数が爆発的に増加することです。ディスクがわずか12枚あるだけで、4,000回以上の移動が必要になります。研究者たちは、いくつかのトップクラスのAIモデルに、これらのパズルを解くよう求めました。

ここで衝撃的な発見がありました。Claude Sonnet 3.7やDeepSeek R1のような非常に賢いモデルの多くが、より難しいパズルを解くことを拒否したのです。しかし、研究者がなぜ拒否したのかを詳しく調べたところ、モデルは「答えがわからない」と言っていたのではなく、「これを書き出すには長すぎる」とか「容量が足りなくなる」といったことを言っていたのです。彼らは、解決策が自分たちのメモリの限界内に十分収まっているにもかかわらず、解決策が大きすぎて書き切れないと考えていたために、途中で諦めてしまったのです。研究者たちはこれを**コンテキスト不安（context anxiety）**と呼んでいます。これは、AIが仕事をやり遂げられないと信じてしまい、挑戦すらしないという、早すぎる自己疑念の一種です。

AIの不適切な数学

なぜAIはこれほどまでに怖がるのでしょうか？論文によれば、その理由はモデルの数学、具体的には、解決策にどれほどの「スペース」（またはトークン）が必要かを推測するのが下手であるためだと示唆されています。研究者は、問題を解くためにどれくらいの言葉が必要になるかを予測するようモデルに求めました。その結果は驚くべきものでした。

不安を示したモデルは、必要なスペースを約24%過大評価していました。彼らは100単語の回答に124単語のスペースが必要だと考えていました。タスクがあまりにも巨大だと考えたため、パニックになり、諦めてしまったのです。逆に、不安を感じていないモデルは、スペースを約19%過小評価していました。彼らはもっと楽観的で、「へー、簡単じゃん！」と考えて、実際に問題を解こうとしていました。

この調整不足（ミスキャリブレーション）は、自己成就予言を生み出します。もしAIが「大きすぎる」という理由でタスクが不可能だと考えれば、停止します。もしタスクが管理可能だと考えれば、継続します。研究では、この不安は単なる小さな不具合ではなく、現実的な結果をもたらすことが分かりました。モデルが不安を感じているとき、問題解決の正確性は15%低下していました。さらに悪いことに、もし彼らが正しく問題を解けたとしても、その回答は54%も長くなり、効率の悪いものになっていました。それは、まるで、短く明快なエッセイを書く代わりに、時間が足りなくなることを心配して、時間を浪費し紙を無駄にする、落ち着きのない学生のようです。

AIを落ち着かせる方法

この論文の最もエキサイティングな部分は、研究者が単に問題を見つけただけでなく、「治療法」も見つけたことです。彼らはこう問いかけました：この不安はAIの脳の一部として永続的なものなのか、それとも、もっと落ち着いて考えるように教えることができるのか？

これをテストするために、彼らは**教師あり微調整（Supervised Fine-Tuning: SFT）**という手法を用いました。数学を怖がる生徒がいると想像してください。その生徒にさらに難しい数学の問題を与えるのではなく、他の生徒が似たような問題を冷静かつ自信を持って解いている例を見せるのです。「ほら、パニックにならずにできるよ」と伝えるのです。

研究者たちは、タワー・オブ・ハノイの正しい解決策のデータセットを取り出し、不安の兆候が見られるものをすべて取り除きました。そして、新しいAIモデルを、これら「冷静で自信に満ちた例」のみを用いて学習させました。彼らはモデルに新しい事実を教えたり、モデルを大きくしたりしたわけではありません。ただ、新しい考え方を教えたのです。

結果はどうだったでしょうか？「治療された」モデルは素晴らしかった。それは早々に諦めることをやめました。モデルは、仕事をやり遂げられるという信頼を学びました。

• 新しいモデルは、不安を50%以上減少させました。
• 中程度の難易度のパズルにおいて、解決能力が大幅に向上しました。
• さらに、この新しい自信を全く異なるタイプのパズル（グリッド上での最短経路探索）にも転移させました。これは、単に答えを暗記したのではなく、より優れた戦略を学んだことを示しています。

未来にとっての意味

この論文は、私たちがAIの性能を捉える方法を見直すべきであることを示唆しています。私たちは、AIをより良くするためには、単に規模を大きくし、より多くのデータを与え、より賢くする必要があると考えることがよくあります。しかし、この研究は、時にはAIはすでに十分に賢くなっており、ただ自分の自信を管理する方法を学ぶ必要があるだけかもしれない、ということを示唆しています。

研究者たちは、「コンテキスト不安」は機械の脳のハードウェア的な限界ではなく、行動的な習慣であることを発見しました。モデルが自分の能力を正確に評価し、タスクがどれほど大変かを過大評価しないように助けることで、巨大な新しいスーパーコンピュータを構築することなく、より信頼性が高く効率的なAIにすることができます。これは、人工知能にとってさえも、最大の障害は問題そのものではなく、問題に対する「恐怖」であることがあるということを思い出させてくれます。

結局のところ、この論文は、少しの「セラピー」（この場合は、冷静な例を用いた注意深いトレーニング）によって、AIモデルがパニックを抑え、自分のスキルを信じ、以前は怖くて手を出せなかった問題を解決できるようになることを示しています。これは、単に考える方法を知っているだけでなく、困難に直面したときにやり遂げる方法を知っているAIを構築するための、小さくも強力な一歩です。