TokenScope: Token-Level Explainability and Interpretability for Code-Oriented Tasks in Large Language Models
TokenScopeは、生成中にトークンレベルのメトリクス、アテンションパターン、および構造的情報を露出させることで、コード指向の大規模言語モデルの説明可能性を高めるよう設計されたインタラクティブなツールであり、それによってインタラクティブなトークン置換や反事実的分岐といった機能を通じた体系的な調査を可能にする。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、熟練したシェフ（AI）が複雑な料理（コード）をリアルタイムで調理している様子を見ていると想像してください。通常、あなたには完成した一皿しか見えません。もし料理の味が悪かったとしても、なぜシェフがステップ4で塩を入れすぎたのか、あるいはステップ10でなぜ特定のスパイスを選んだのか、その理由は分かりません。ただ、結果が間違っていることだけが分かります。
TokenScopeは、シェフの思考プロセス全体を、調理の全ステップを通して見ることができる魔法のメガネのようなものです。それは単に完成した料理を見せるだけでなく、シェフの自信、迷い、そして最終的に選ばなかった他の食材までも描き出します。
以下に、論文が主張するTokenScopeの機能を、簡単な比喩を用いて解説します。
1. AIの思考に対する「X線ビジョン」
AIを理解するためのほとんどのツールは、完成した料理の写真を見たり、事後に書かれたレシピ本を読んだりするようなものです。それらは何が起きたかは教えてくれますが、シェフがそれをしている時にどのように感じていたかまでは教えてくれません。
TokenScopeは異なります。それはシェフの脳内のライブフィードとして機能します。AIがコードを書いている間、TokenScopeは以下の内容を表示します：
- 自信（Confidence）: 次の単語（トークン）に対して、シェフがどれほど確信を持っているか。もしシェフが推測している状態なら、システムはそれを赤色で強調します（低自信）。確信がある場合は緑色になります。
- 「もしも（What-Ifs）」: シェフが考えていたものの、最終的に選ばなかった上位5つの食材。
- 注意（Attention）: 次の決定を下すために、シェフが以前のどの単語を振り返って見ているか。これは、ルールを思い出すために、カウンターにある特定の食材にシェフの目が走る様子を見ているようなものです。
2. 「選択型アドベンチャー・ブック」
最も素晴らしい機能の一つは、**インタラクティブな分岐（Interactive Branching）**です。
ヒーローが悪を選択する物語を読んでいると想像してください。TokenScopeを使えば、そこで物語を止めて、「待って、もしヒーローが盾ではなく剣を選んでいたらどうなっていただろう？」と言い、その新しい地点から物語を続けさせることができます。
論文において、これは以下のことを意味します：
- AIが今書いたばかりのコードの断片を取得する。
- 特定の単語（トークン）を別のものに置き換える。
- 「続行（continue）」を押すと、AIはあなたの変更に基づいて残りのコードを生成する。
- これにより、一つの小さなミス（あるいは小さな修正）が、どのように全体の結末を変えるのかを確認できます。
3. 「レゴブロック」による混沌の整理
コードは単なる文字のランダムな羅列ではありません。それは構造（ループ、関数、ステートメントなど）を持っています。TokenScopeは、Tree-Sitterというツールを使用して、スマートな整理役として機能します。
これは、AIが吐き出している単語のストリームを、レゴブロック（AST、または抽象構文木）へとカチッとはめ込みます。
- トークンモード（Token Mode）: 個々のレンガを見ている状態。
- 式モード（Expression Mode）: 小さなレンガの塊（数学の式など）を見ている状態。
- ステートメントモード（Statement Mode）: レンガの一列（完全な文章のようなもの）を見ている状態。
- ブロックモード（Block Mode）: 壁全体（関数やループのようなもの）を見ている状態。
これにより、AIが具体的に「関数」の中で混乱しているのか、それとも単なる「一行」で混乱しているのかを判別できます。コードの構造的な整合性がどこで弱まっているのかを特定するのに役立ちます。
4. 指標の「ダッシュボード」
このダッシュボードには、いくつかの具体的なゲージが記載されています：
- 驚き（Surprisal）: AIが自身の選択に対してどれほど驚いているか。AIが予想外の単語を選んだ場合、この数値は上がります。
- エントロピー（Entropy）: AIの思考がいかに乱れているか。高いエントロピーは、AIが多くの選択肢の間で揺れ動いていることを意味し、低いエントロピーは、AIが非常に決断力があることを意味します。
- アテンション・マス（Attention Mass）: 特定の単語が、残りのコードに対してどれほどの「精神的重み」を持っているか。例えば、「return」という単語が次の50行に影響を与えたでしょうか？TokenScopeはその繋がりを示すことができます。
TokenScopeが「できないこと」（論文による）
著者らは、その限界についても明確に述べています：
- 魔法の修正ツールではない: これは「研究」や「デバッグ」のためのツールであり、実際のプロダクション環境のウェブサイトを運用するためのものではありません。膨大な追加分析を行うため、リアルタイムでの使用には向きません。
- あらゆるAIのためのものではない: 内部の仕組み（トークンの確率やアテンションの重み）が見えるモデルでのみ機能します。内部構造が隠されているクローズドなAIシステムでは使用できません。
- 現在は主にPython向けである: 「レゴブロック」の整理機能は、現在Pythonコードを高度に理解するように設計されています。
まとめ
TokenScopeは、ソフトウェアエンジニアや研究者のための新しい顕微鏡です。AIがなぜ悪いコードを書いたのかを推測する代わりに、AIが考える様子を観察させ、途中で考えを変えさせることができ、どのコード構造が混乱の原因となっているのかを正確に特定させてくれます。これは、AI生成という「ブラックボックス」を、透明でインタラクティブなワークショップへと変貌させるものです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。