技術要約：形態統語的連鎖に基づくチベット語単語レベル敵対的サンプルの生成に関する研究

問題提起

大規模言語モデル（DEEPZANG、YangGuang QingYanなど）の出現により、チベット語のインテリジェント情報処理は著しく進歩しているが、これらのモデルのセキュリティと堅牢性は、英語や中国語と比較して研究が進んでいない。既存のチベット語に対する敵対的攻撃手法は、主に文字レベルまたは音節レベルの摂動（例：音節の置換、挿入、削除）に依存している。これらのアプローチの決定的な限界は、チベット語の文法規範、特に機能語（格、所有、場所を示す助詞など）を規定する規則を軽視している点にある。

既存の手法が形態統語的連鎖に従わずに単語レベルの置換を行うと、生成された敵対的サンプルはしばしば文章の論理が崩壊し、文法規則が無効になる。例えば、チベット語において内容語を置換する場合、文法的な正当性を維持するために、後続の機能語（属格、具格、あるいは地格などの助詞）も対応して変更する必要がある。これらの機能語を更新しないことは、敵対的サンプルを言語学的に無効にし、その有効性と品質を低下させる。

手法：TWLAS-BMSL

本論文では、高品質で文法的に正しい敵対的例を生成するために設計された手法であるTWLAS-BMSL（形態統語的連鎖に基づくチベット語単語レベル敵対的サンプル生成）を提案している。このフレームワークはホワイトボックス攻撃パラダイムの下で動作し、以下の4つのコアステップで構成される：

1. ランダムな単語摂動:

   • 構築されたチベット語意味素知識ベース（32,745のエントリを含む）を利用して、原文内の内容語を特定する。
   • これらの単語を知識ベース内の意味的に類似した代替語とランダムにマッチングさせる。
   • 単一単語の置換を行い、元の意味を可能な限り保持したまま、摂動を加えたテキストを作成する。

2. 機能語の検出と修正:

   • チベット語の深い意味関係は機能語を通じて組織されていることを認識し、本手法は機能語付着検出および修正アルゴリズムを採用する。
   • キーワードを置換すると、アルゴリズムは新しい単語の文法的カテゴリー（例：それが動作主となる主語として機能するか、あるいは特定の格標示を必要とするか）を動的に分析する。
   • チベット語の文法規則（特に接尾辞の文字に関する「三十頌」の規則）に従い、後続の機能語（属格、具格、地格、および人称名詞接尾辞）を自動的に更新する。

3. 再構成:

   • システムは、意味的に類似したキーワードと文法的に修正された機能語を統合することで、文章を再構成する。

4. 攻撃の実行:

   • 最終的に再構成された敵対的サンプルをターゲットモデルに入力し、誤分類を誘発させる。

主な貢献

著者らは、主に3つの貢献を強調している：

• 形態統語的連鎖手法: 形態統語的連鎖を明示的に組み込み、機能語が置換された内容語に合わせて自動的に適応することを保証する、単語レベルの敵対的生成手法の提案。これにより、ホワイトボックス摂動攻撃に対するチベット語言語モデルの堅牢性が向上する。
• 自動適応アルゴリズム: 摂動中のチベット語機能語の自動適応および更新のための基準とアルゴリズムの確立。これは、既存の中・英中心の攻撃戦略における空白を埋めるものである。
• チベット語意味素知識ベース: チベット語の単語レベルの敵対的実験を促進するために特別に設計された、32,745のエントリを持つ専門的なチベット語意味素知識ベースの構築。

実験結果

本研究では、テキスト分類および感情分析タスクをカバーする4つのデータセット（TNCC, TU_SA, QHNUTSA, MZUCTSA）を用いてTWLAS-BMSL手法を評価した。ターゲットモデルには、TiBERT、CINO-base-v2、およびCINO-largeが含まれる。

• 攻撃の有効性:

  • 本手法は、モデル全体で平均**2.69%の精度低下（ADV）**を引き起こした。
  • 平均**攻撃成功率（ASR）は28.83%**に達した。
  • 平均**レーベンシュタイン距離（LD）は6.80%**であり、これは攻撃が効果を発揮するために比較的小さな摂動を必要としたことを示している。
  • CINO-base-v2モデルが攻撃に対して最も高い感受性を示し、CINO-largeが最も強い堅牢性を示した。

• 文法修正性能:

  • 機能語の自動適応およびエラー修正のタスクにおいて、本手法は以下の3つの主要指標で**100%**を達成した：
    • 機能語のエラー検出率。
    • 全体的な正確性。
    • 完全なエラー文章の修正成功率。

• 定性的分析:

  • 形態統語的連鎖がない場合、生成されたサンプルはしばしば文章の論理を壊す文法エラーを含んでいた。提案手法を用いることで、敵対的サンプルは文法的な厳密さを維持しながら、ターゲットモデルを効果的に欺くことに成功した。

意義と主張

本論文は、提案されたTWLAS-BMSL手法が、既存のチベット語に対する敵対的攻撃における「不正確な構文論理」の問題を効果的に解決すると主張している。機能語が内容語の置換と同期して更新されることを保証することで、本手法は生成されたサンプルの文法的な論理的厳密さを保証する。

著者らは、このアプローチがモデルを誤った分類決定へと誘導することに成功するだけでなく、敵対的サンプルのテキスト品質をも保証し、文法的な正しさにおいて自然なテキストと区別がつかないものにすると断言している。これは、チベット語大規模言語モデルのセキュリティと堅牢性を向上させるための重要なステップとして提示されている。

論文は、構築された意味素知識ベース（32,745エントリ）の有限なサイズや、テスト用のチベット語特有の大規模モデルの不足といった限界を認めつつ、控えめに結論づけている。今後の課題として、チベット語の大規模モデルにこの手法を適用し、それらの干渉防止能力をさらに強化することが示唆されている。