技術的概要：TextSeal

問題定義

大規模言語モデル（LLM）の生産システムへの急速な導入は、コンテンツの真正性（プロベナンス）を確保する信頼性の高いメカニズムを必要としています。透かし技術は、生成されたテキストに知覚不可能かつアルゴリズム的に検出可能なシグナルを埋め込むことを目的としており、AI 由来の特定、新興規制（例：EU AI 法）への準拠、およびモデル蒸留や合成データを用いた自己学習といった不正利用の防止を図ります。

既存の最先端手法は、検出性と多様性の間に決定的なトレードオフに直面しています。Gumbel-max サンプリングのような歪みなしの手法は、モデルの元の出力分布を保持し（品質劣化の保証なし）、完全に決定論的であるため、固定されたプロンプトと秘密鍵は常に同一の出力を生み出します。これにより生成の多様性が失われ、反復的なループやユーザー体験の低下を招きます。一方、多様性を回復させるためにランダム性を導入する手法は、多くの場合、透かしの統計的強度を損なうか、歪み（出力分布の偏り）を導入してしまいます。さらに、既存の検出器は希釈に弱く、大量の人間によるテキストと混合された場合や、文書内で断片化された場合に、透かしが施されたコンテンツを特定できずにいます。

手法：TextSeal

TextSeal は、Gumbel-max フレームワークに基づいた、歪みなしかつ非決定論的な透かし方式です。先行研究の限界を克服するために、3 つの中核的な技術的革新を導入しています。

1. 多様性のための二重鍵生成

標準的な Gumbel-max の決定論的性質を克服するため、TextSeal は二重鍵ルーティングを採用します。

• メカニズム: 各生成ステップにおいて、システムは確率 $1-\alpha$ および $\alpha$ で、2 つの秘密鍵 $k^{(1)}$ または $k^{(2)}$ のいずれかをランダムに選択します。トークンは、選択された鍵から導出された PRF（疑似乱数関数）値を用いた Gumbel-max 法によって選択されます。
• 影響: これにより、決定論的ループを破り出力の多様性を回復しつつ、歪みなしの性質を維持します。
• 最適化: ルーティング確率 $\alpha$ は、スペキュレイティブデコーディングの受入率（例：マルチトークン予測シナリオなど）と動的に整合させることができ、推論レイテンシを追加することなく、サービング最適化との互換性を確保します。

2. エントロピー重み付き検出

標準的な検出スコアはすべてのトークンを同様に扱いますが、透かしシグナルは低エントロピー領域（モデルが非常に確信しており、PRF に関わらずトップトークンが支配する領域）では本質的に弱くなります。

• メカニズム: TextSeal は、軽量なプロキシモデルによって推定される局所エントロピーを用いて、各トークンの検出スコアに重みを付けます。透かしがより大きな影響を持つ高エントロピー位置は、最終統計量により多く寄与します。
• 統計的較正: 重み付きスコアの合計は、仮定指数分布に従います。較正された p 値を効率的に計算するため、TextSeal は重みの不均一性と二重鍵ルーティングの分散を処理するモーメントマッチング・ガンマ近似を使用します。

3. 局所的多領域検出

グローバルな検出器は、透かしが施されたテキストが長い文書の小部分である場合（希釈）や、非連続なセグメントに散在している場合（断片化）には機能しません。

• メカニズム: TextSeal は、透かしが施されたセグメントを特定するために幾何学的カバサーチを採用します。すべての可能な区間（$O(n^2)$）を検査するのではなく、ウィンドウ長さの二進グリッド（$L, 2L, 4L, \dots$）を検索します。
• 抽出: 貪欲アルゴリズムが最も低い p 値を持つ非重複区間を抽出し、家族全体誤り率を制御するために厳格なボンフェローニ補正を適用しながらそれらを集約します。
• 適応的アンサンブル: システムは、グローバルな全文テスト、単一の最良ウィンドウ、または多領域集約の 3 つの戦略の中から、最も有意な結果を適応的に選択します。これにより、テキストが純粋に透かしが施されている場合でも、大幅に混合されている場合でも、堅牢性が確保されます。

主要な貢献

1. 最先端のトレードオフ: TextSeal は、多様性 - 検出性のパレートフロンティアを厳密に支配し、SynthID-text や標準的な Gumbel-max を凌駕します。高い検出性を達成しつつ、透かしなしの生成と同等の多様性を回復します。
2. 希釈への堅牢性: 局所検出を通じて、TextSeal は透かしが施されたコンテンツが 10 倍に希釈された場合や、長い文書内で複数の小さな領域に断片化された場合でも、グローバルなベースラインが失敗する状況においてさえ、確実な検出を維持します。
3. ゼロの推論オーバーヘッド: この方式は、無視できるサンプリングオーバーヘッド（$\le 0.3\%$）を追加するのみで、モデルパラメータの変更や KV キャッシュの修正を必要とせず、スペキュレイティブデコーディングおよびマルチトークン予測（MTP）と完全に互換性があります。
4. 蒸留による放射能: TextSeal は、その透かしシグナルが「放射能的」であることを実証しています。透かしが施された教師出力から学生モデルが蒸留された場合、学生モデルは検出可能なトークンバイアスを継承し、元の生成コンテキストへのアクセスなしでも不正な蒸留を検出可能にします。
5. 能力の保持: 数学、コード、推論、知識の 12 のベンチマークおよび多言語人間評価にわたる広範な評価により、TextSeal がダウンストリームモデルの性能を保持し、知覚可能な品質劣化を導入しないことが確認されました。

実験結果

• 検出性対多様性: ELI5 データセットでの評価において、TextSeal（$\alpha=0.1$）は、同等の Self-BLEU 多様性スコアにおいて、SynthID や Gumbel-max よりも有意に低い p 値（高い検出性）を達成しました。
• 希釈耐性: TextSeal の適応的アンサンブルは、12,000 トークンの透かしなしテキストに 400 トークンの透かしテキストが埋め込まれた場合（透かし割合 3.3%）でも、強い検出（$-\log_{10} p > 4$）を維持します。グローバルなベースラインは、はるかに低い希釈レベルで有意性閾値を下回ります。
• 性能保持: AIME、MATH、GSM8K、HumanEval を含むベンチマークにおいて、TextSeal はバニラ生成と比較して統計的に有意な性能低下を示していません。コードベンチマークで観察されたわずかな変動は、推論の劣化ではなくフォーマットノイズに起因すると考えられました。
• 人間の知覚: 5 言語にわたる 6,000 件の A/B 比較による多言語人間評価では、知覚可能な品質差は見られませんでした。同等性テスト（TOST）により、透かしありと透かしなしの出力間の選好差は $\pm 5\%$ の範囲内に制限されていることが確認されました。
• 蒸留転移: 蒸留実験（DeepSeek-R1 から Qwen2.5-3B へ）において、透かし痕跡は学生モデルにシグナルを正常に転移しました。TextSeal は、より高いデータ保持率により元の設定で最も強い検出シグナルを達成した一方、Gumbel-max は制御されたデータ量の下でトークンごとのシグナルがより強かったです。

意義と主張

本論文は、TextSeal を LLM 透かしの実用的かつ生産環境対応のソリューションとして位置づけています。その主な意義は、歪みなしを犠牲にすることなく、長年続いていた多様性と検出性の間の緊張関係を解決することにあります。

著者らは、TextSeal が、オープンウェイトモデルが合成データで訓練されることが増える中、不正なモデル蒸留に対する「放射能的」な防衛策を提供すると主張しています。学生モデルにおける透かし痕跡の検出を可能にすることで、TextSeal はモデル利用の監視と知的財産の保護を可能にするメカニズムを提供します。

本論文は限界について控えめに述べています：透かしは単一の生成に対しては歪みなしであるものの、多様性の低下（二重鍵メカニズムによる）は、多様な出力に依存するワークフロー（例：ベストオブ N リランキング）に影響を与える可能性があることを認めています。ただし、現代の推論モデルは本質的にエントロピーが縮小する傾向があり、このわずかな損失を緩和する可能性があるとも指摘しています。この研究は、理論的に堅牢で、実証的に堅牢であり、現代の推論インフラと互換性のある、新しい透かし基準を確立しています。