Are you going to finish that? A Practical Study of the Partial Token Problem

あなたは、非常にスマートだが、少し融通の利かないロボットと「文章の続きを完成させる」ゲームをしていると想像してください。あなたは文章を入力し、ロボットはその直後の単語を当てるはずです。

通常、これは完璧に機能します。しかし、この論文はある特定の「グリッチ（不具合）」を発見しました。ロボットが混乱するのは、言葉を知らないからではなく、言葉の数え方のせいです。

以下に、簡単な比喩を用いた問題の解説、証拠、そして解決策をまとめます。

1. コアとなる問題：「半分のレンガ」グリッチ

ロボットの脳を、すべての本がレンガ（トークン）でできている図書館だと考えてください。

• ユーザーの視点： あなたは言葉（「apple」や「is」など）を見ています。
• ロボットの視点： それはレンガを見ています。時には、1つのレンガが1つの単語全体をカバーすることもあります。時には、1つのレンガが2つの単語をカバーすることもあります。時には、レンガが真っ二つに切れていることもあります。

**「部分的なトークン問題（Partial Token Problem）」**は、あなたがレンガのちょうど真ん中で入力を止めてしまった時に発生します。

• 比喩： ロボットが「processing」という単語を1つの固形レンガとして期待しているとします。
• 間違い： あなたが「process」と入力して止まったとします。
• 混乱： ロボットは「process」というレンガを見て、「待てよ、私は『process』というレンガを知っている。しかし、同時に『processing』というレンガも知っている。もし今、次に『ing』を付け足したら、自分自身のルールを破ってしまう！なぜなら、『processing』は本来、壊すことのできない1つのレンガであるはずだからだ！」と考えます。

ロボットは、まるごと1つのレンガとして見るように訓練されているため、あなたが期待するような形で単語を完成させることを恐れます。ロボットはこう考えるのです。「もしユーザーが『process』で止まったのなら、次に『ing』が来ることを望んでいるのではなく、おそらく全く別の何かを望んでいるに違いない」と。

2. どこでこれが起こるのか？（3つの罠）

この論文は、これが単なる英語の珍しいグリッチではないことを明らかにしました。これは、「言葉」と「レンガ」が一致しない以下の3つの特定の状況で頻繁に発生します。

• スペースのない言語（中国語など）： 英語では、スペースが単語の終わりを教えてくれます。しかし、中国語にはスペースがありません。ロボットは、どこで一つの単語が終わり、次の単語が始まるのかを推測しなければなりません。
  • 例： 「is a」というフレーズが1つのレンガである場合があります。もしあなたが「is」と入力して止まったら、あなたはレンガを半分に切ってしまったことになります。ロボットはパニックになります。
• 単語を結合する言語（ドイツ語など）： ドイツ語はしばしば、2つの単語を1つの巨大な単語に結合します（例：卵黄を意味する「Eigelb」）。
  • 例： もしロボットが「Ei」（卵）を見て、あなたがそこで止まった場合、でもロボットが「Eigelb」を1つのレンガだと考えているなら、ロボットは何が次に続くのかについて混乱します。
• コンピュータコード： コードは () や : といった記号を使用します。多くの場合、一連の記号が1つのレンガになっています。
  • 例： あなたが def main() と入力して止まったとき、もしロボットが (): を1つの単語として考えているなら、ロボットは次の記号を予測しようとして行き詰まってしまいます。

3. どれほど深刻なのか？（「サイレント・クラッシュ」）

研究者たちは、多くの異なるロボット（AIモデル）を用いてこれをテストしました。結果は衝撃的でした。

• 確率の低下： ロボットが「半分のレンガ」の後で推測を強制されると、正しい答えを出すべきであるという自信が1,000倍から10,000倍も低下します。それは、答えを知っているのに、先生の採点ルールを恐れるあまり、答えを書くことを拒む学生のようなものです。
• 精度の低下： ロボットは、正しい答えを出す確率が60%から95%減少します。文字を飛ばしたり、変なスペースを入れたり、あるいは全く違う単語を出したりします。
• 「大きいことは良いこと」ではない： 「ロボットをより賢く（より大きなモデルに）すれば、これが解決するのではないか？」と思うかもしれません。いいえ。 論文によると、より大きな、より賢いロボットほど、この問題が悪化することが分かりました。彼らは、自分たちの特定の「レンガ」のルールにあまりにも厳格に訓練されているため、そのルールを破ることに対してより頑固になってしまうのです。

4. 解決策：グリッチを修正する方法

論文では、「思考（推論）」フェーズにおける2つの修正方法をテストしました。

• 手法A：「トークン・ヒーリング（Token Healing）」（撤退）：

  • 仕組み： もしあなたが「process」と入力してロボットが混乱した場合、この手法はロボットにこう伝えます。「よし、最後の部分は忘れろ。代わりに『pro』までしか見ていないふりをしろ」。
  • 結果： 時には役に立ちますが、当たり外れがあります。それは、割れた花瓶を直そうとして、上部を切り落とすようなものです。形は合うかもしれませんが、完璧ではありません。

• 手法B：「ByteSampler」（地図）：

  • 仕組み： 推測する代わりに、この手法は、ロボットがあなたの文章を読み取った「あらゆる可能な方法」の地図を描きます。そして、あなたのテキストと正確に一致する経路を見つけ出し、そこから継続します。
  • 結果： 完璧に機能します。 テストにおいて、この手法は、プロンプトがレンガの途中で切れていたとしても、ロボットに正しい答えを100%の確率で出させることができました。これは、道に迷った瞬間にルートを再計算するGPSのようなもので、目的地に確実に到達することを保証します。

まとめ

この論文は、AIモデルは言語を理解することには長けているものの、彼らが言葉を数えるために教えられた特定の方式（トークナイゼーション）の奴隷でもある、と結論付けています。ユーザーがロボットの内部的なカウントルールに一致しない方法で入力を止めた場合、ロボットの自信は崩壊します。

良いニュースは、ロボットを作り直す必要はないということです。彼らが考えている間、よりスマートな「GPS」（ByteSamplerのようなもの）を使用することで、彼らが自分自身のカウントルールによって躓かないようにすることができるのです。