技術的サマリー：「あなたの LLM は過剰請求していますか？トークン化、透明性、およびインセンティブ」

問題定義

本論文は、「LLM-as-a-Service」の現在の価格設定モデルにおける根本的な脆弱性、すなわちユーザーがトークンあたり固定価格で課金される仕組みにおける問題を取り扱っています。核心的な問題は、提供者（エージェント）とユーザー（プリンシパル）の間の情報非対称性から生じます。提供者は中間ステップや出力の具体的なトークン化を含む生成プロセス全体を監視できる一方で、ユーザーは最終的なテキストのみを目にし、報告されたトークン数に基づいて支払いを行います。

トークン化は一意ではないため（複数のトークン系列が同じ文字列を表し得る）、提供者は収益を最大化するために出力のトークン化を虚偽報告する金銭的インセンティブを持っています。例えば、提供者は「Damascus」を表す単一のトークンを「Da」「ma」「s」「cus」という 4 つの小さなトークンに分割し、可視テキストを変更することなく 1 つのトークンではなく 4 つのトークンに対して請求できるかもしれません。これは、提供者がユーザーの犠牲の上に便益を最大化する道徳的ハザードを構成します。

本論文は、提供者が透明性を求められる場合（例：次のトークンの確率を共有するなど）、この虚偽報告を検出できるかどうか、そしてインセンティブ整合的な価格設定メカニズムがこの行動を完全に排除できるかどうかを調査します。

手法

著者らは、ユーザーと LLM 提供者の相互作用をプリンシパル - エージェント問題としてモデル化しました。

1. 形式的モデリング:

   • 効用関数: 提供者の効用は、報告されたトークン系列からの収益から、生成および報告ポリシーのエネルギーコストを差し引いたものとして定義されます。
   • 価格設定メカニズム: 本研究は加法的価格設定メカニズムに焦点を当て、標準的なトークンごとの支払いモデルと提案される文字ごとの支払いモデルを比較します。
   • 妥当性制約: 検出を回避するため、虚偽報告を行う提供者は、報告されたトークン系列が文字列の内容に基づいて「妥当」である（例：トップ-$p$またはトップ-$k$サンプリング分布と整合的である）ことを保証する必要があります。

2. 理論的分析:

   • 著者らは、トップ-$p$サンプリングの下での文字列の最長の妥当なトークン化を見つけることがNP 困難であることを証明しました。これは、疑いを招かずに収益を最大化するための最適な虚偽報告が、一般的に計算上処理不可能であることを示唆しています。
   • 彼らはインセンティブ整合的な価格設定メカニズムを特徴付け、メカニズムがインセンティブ整合的であるための必要十分条件は、価格がトークン数ではなく出力文字列の文字数に線形に依存することであることを証明しました。

3. アルゴリズム的概念実証:

   • NP 困難性の結果にもかかわらず、著者らは**効率的なヒューリスティックアルゴリズム（アルゴリズム 2）**を開発しました。このアルゴリズムは、生成された出力のトークンをより小さく、妥当なトークンに反復的に分割し、トークン数を増加させます。
   • このアルゴリズムは妥当性をチェックします（例：トークンがトップ-$p$確率セット内にあるか確認する）；妥当な場合のみ分割された系列を報告し、そうでない場合は真実の系列を報告します。
   • 著者らは、過剰請求によって得られる追加収益と、妥当性を検証するために必要な計算コスト（GPU エネルギー）の間のトレードオフを分析しました。

4. 実証的評価:

   • 実験は、Llama、Gemma、および Ministralファミリーの LLM を使用して行われました。
   • プロンプトはLMSYS Chatbot Arenaプラットフォームから収集されました。
   • 本研究は、過剰請求されたトークンの割合、妥当な虚偽報告の割合、および各種パラメータ（温度、トップ-$p$値、および利益率）における提供者の純粋な効用増加分を測定しました。

主要な貢献

1. インセンティブ分析: 本論文は、トークンごとの支払いメカニズムが、提供者にトークン化の虚偽報告を行う直接的な金銭的インセンティブを生み出すことを実証しています。透明性の要件があっても、提供者は収益を増加させる何らかの妥当でより長いトークン化を見つけることができるため、インセンティブは存続します。
2. 複雑性の結果: 著者らは、最適（最長）な妥当なトークン化を見つけることが NP 困難であることを確立しました。これは、提供者が莫大な計算努力なしに絶対的な最大過剰請求額を容易に計算できないことを意味します。
3. ヒューリスティックの脆弱性: 決定的なことに、本論文は非最適な虚偽報告が計算上安価であり、かつ金銭的に有益であることを示しています。提案されたヒューリスティックアルゴリズムにより、提供者はユーザーを大幅に過剰請求できます（特定のモデルとパラメータでは最大 11.2% など）；検証コストを上回る純粋な効用増加分が得られます。
4. インセンティブ整合的な価格設定: 本論文は、トークン化の虚偽報告へのインセンティブを排除する唯一の加法的価格設定メカニズムは文字ごとの支払いであることを証明しました。このメカニズム下では、価格は文字列の長さのみに基づいて決定され、トークン化はコストに関係なくなります。
5. 移行戦略: 著者らは、提供者が平均利益率を維持しつつ、トークンごとの支払いから文字ごとの支払いへ移行する方法を提案しています。これには、現在のトークンあたりの価格（$r_o$）と、提供者の出力分布におけるトークンと文字の経験的平均比率（$tpc$）に基づいて、文字あたりの価格（$r_c$）を設定することが含まれます。

結果

• 過剰請求能力: アルゴリズム 2 を使用すると、不誠実な提供者は大幅なマージンでユーザーを過剰請求できます。例えば、Llama-3.2-1B-Instructと$p=0.99$を使用した場合、提供者はトークンの**11.2%**を過剰請求できました。より厳格な妥当性閾値（$p=0.90$）であっても、過剰請求は可能でした（0.28%）。
• 収益性: 虚偽報告による追加収益は、一貫して妥当性検証のエネルギーコストを上回りました。Llama-3.2-1B-Instruct などのモデルの場合、提供者の利益率に関係なく、$p=0.99$では効用増加分が**10.5%**を超えました。
• マージン変動: 提案された文字ごとの支払いメカニズム下では、提供者の利益率は異なる出力間で変動します（トークン対文字の比率に依存します）。しかし、著者らは文字の価格を適切に較正することで、平均利益率は安定し、かつ大多数の出力（例：Llama-3.2-1B-Instruct の場合 92% 超）でマージンが正のまま保たれることを示しました。
• 言語感受性: 本研究は、文字ごとの支払いの下では、トークン対文字の比率が高い言語（多くの場合マイナー言語）は提供者のマージンを低下させ、結果としてトークンごとの支払いモデルと比較して、これらの言語のユーザーに対するコスト負担を実質的に軽減することを指摘しています。

意義と主張

本論文は、現在のトークンごとの支払い価格設定メカニズムが、提供者がサンプリングプロセスについて透明であっても、ユーザーが過剰請求されているかどうかを検証できないシステム的な脆弱性を生み出していると主張しています。著者らは以下を主張します。

1. 透明性では不十分: 単に提供者に次のトークンの確率を共有することを要求するだけでは、過剰請求を防ぐことはできません。なぜなら、収益性の高い妥当な虚偽報告を見つけるための効率的なヒューリスティックが存在するからです。
2. インセンティブ整合性が必要: 戦略的虚偽報告へのインセンティブを真に排除するには、業界は文字ごとの支払い価格設定メカニズムへ移行する必要があります。これにより、コストは内部表現（トークン）ではなく、ユーザーが受け取る価値（文字列）に直接整合します。
3. 移行の実現性: 文字ごとの支払いへの移行は、提供者にとって経済的に実行可能です。なぜなら、平均利益率を維持しつつ、ユーザーの過剰請求リスクを排除できるからです。

著者らは、そのようなパラダイムシフトがなければ、LLM-as-a-Service のユーザーは自己利益追求型の提供者に対して脆弱なままであり、情報非対称性が搾取につながった他の業界の歴史的な市場失敗と類似していると結論付けています。彼らは、法的および評判上のリスクが存在するものの、強力な経済的インセンティブがしばしばそのような行動を駆動するため、構造的な価格設定ソリューションが必要であると強調しています。