技術概要：KOTOX – 脱隠蔽化および解毒のための韓国語毒性データセット

問題提起

大規模言語モデル（LLM）がオンライン環境でますます展開される中、有毒コンテンツの検出と除去（解毒）が極めて重要となっています。しかし、既存の研究やデータセットは主に非隠蔽化されたテキストに焦点を当てており、この制限により、ユーザーが自動モデレーションを回避するために意図的に有毒表現を隠蔽した場合、モデルの堅牢性が低下します。

この課題は、膠着語的な形態論とハングル文字体系の固有の性質を持つ韓国語において特に深刻です。これらの言語的特徴は、元の有毒意図を保持しつつテキストの外観を変化させる多様な表面レベルの変異を可能にします。具体的には、音韻的シフト、視覚的置換、間隔の摂動などが挙げられます。現在の隠蔽化アプローチは、しばしば同音異義語の置換や絵文字の挿入などの単純な技術に依存しており、韓国語に固有の言語学的根拠に基づく分類体系が欠けています。さらに、既存のリソースは、対応する隠蔽化バリアントを伴う中立および有毒コンテンツを共同で整列させておらず、脱隠蔽化と解毒の両方に対する統合的な実験を妨げています。

手法

1. 隠蔽化規則の構築

著者らは、Agoda や Google マップなどのオンラインプラットフォームから収集された実世界の事例に基づき、韓国語の隠蔽化パターンの言語学的根拠を持つ分類体系を構築しました。変換規則を以下の 5 つのカテゴリーに定義しました。

• 音韻的: 発音を保持しながらテキストを修正します（例：子音や母音を音韻的に類似した単位に置換、再音節化、連音）。
• 象徴的: 視覚的類似性を通じて隠蔽化を生成し、文字を視覚的に類似した記号、数字、または文字体系に置換します（例：ハングルから CJK またはラテン文字への置換、グリフの回転）。
• 翻字: 発音または意味を保持するクロススクリプト変換です。これには、韓国語表現を音韻的に同等な外国語スクリプト（ラテン/CJK）に置換すること、または単語を外国語に翻訳してからハングルに再転記することが含まれます。
• 統語的: 文字形式ではなく文構造を摂動させます。具体的には、間隔の変異や音節レベルの並べ替え（アナグラム）を通じて行われます。
• 語用論的: 意味内容を改变することなく、知覚されるトーンを変化させ、自動的な解釈をそらすために記号や絵文字を挿入します。

2. データセット構築（KOTOX）

著者らは、韓国語の隠蔽化された有毒テキストのための最初の高品質な対データセットであるKOTOXを導入しました。構築パイプラインは以下の通りです。

• ソースデータ: 韓国語の中立 - 有毒ペアである K/DA データセットを基盤として使用。
• フィルタリング: 韓国語言語学の専門家による厳格な手動フィルタリングプロセスにより、誤ラベル付け、意味的な非構文性、個人識別情報（PII）などの問題に対処し、7,555 組から 2,294 組の高品質なペアに絞り込みました。
• 変換: 定義された変換規則を適用して隠蔽化された対応物を生成します。各ソースペア $(x_n, x_t)$ に対して、データセットは 4 方向に整列されたタプル $(x_n, x_t, \tilde{x}_n, \tilde{x}_t)$ を提供します。ここで、$\tilde{x}$ は隠蔽化されたバージョンを表します。
• 拡張: 各ソースに対して $k \in \{2, 3, 4\}$ の変換カテゴリーを適用することで、3 つの拡張ペアを生成し、「易」「普通」「難」の難易度レベルを作成します。
• 検証: 生成されたテキストが可読性と意味的一貫性を維持していることを確認する健全性チェックメカニズムにより、無効な変換を破棄します。

最終的なデータセットには、中立 - 有毒ペアとその隠蔽化バリアントに分割された 6,882 サンプル（トレーニング 5,505、検証 687、テスト 690）が含まれています。

3. 評価タスク

モデルの堅牢性をテストするために、以下の 3 つの評価タスクが定義されています。

1. 隠蔽化有毒テキスト分類: 隠蔽化されたテキストが有毒かどうかを分類する。
2. 中立テキスト脱隠蔽化: 隠蔽化された中立入力から元の中立テキストを回復する。
3. 隠蔽化有毒テキスト浄化: 隠蔽化された有毒入力から、脱隠蔽化され非有毒なバージョンを生成する（脱隠蔽化と解毒の組み合わせ）。

実験は、ゼロショット、フューショット、および教師あり微調整（SFT）の設定下で、複数の毒性分類器（HateBERT、offensiveRoBERTa、toxicity-xlmr-v2）とインストラクションチューニングされた LLM（Qwen2.5、EXAONE 3.5、Bllossom、GPT-4.1）を用いて行われました。

主要な結果

分類の堅牢性

• ベースラインの脆弱性: 元（非隠蔽化）データでトレーニングされたモデルは、隠蔽化されたテキストで評価された際に、著しい性能低下を示しました。例えば、XLM-R モデルの F1 スコアは、元データでは 95.06 でしたが、隠蔽化データでは 53.66 に低下しました。
• KOTOX の有効性: KOTOX で微調整されたモデルは、一貫した改善を示しました。KOTOX での SFT は、隠蔽化設定において HateBERT（F1 71.65）および XLM-R（F1 89.57）で最高性能を達成しました。
• 汎化: KOTOX でのトレーニングは、非隠蔽化入力における性能も向上させ、隠蔽化パターンの学習が一般的な堅牢性を高めることを示唆しています。KOTOX で微調整された小型エンコーダーベースのモデルは、ゼロショット設定において GPT-4.1 の性能に迫るか、それを上回りました。

脱隠蔽化と浄化

• ゼロ/フューショットの限界: 事前学習済み LLM は、ゼロショットおよび 5 フューショット設定において、隠蔽化されたテキストの脱隠蔽化や浄化に限定された能力しか示しませんでした。5 フューショットのプロンプティングは指標をわずかに改善しましたが、モデルはテキスト形式を回復する際に有毒コンテンツを軽減することにしばしば失敗しました。
• 微調整の成功: KOTOX での教師あり微調整は、脱隠蔽化と浄化の両方で最良の結果をもたらしました。微調整されたモデルは、意味的再構成（BERTScore）と表面レベルの回復（chrF）において著しい向上を示しました。
• 浄化の課題: 浄化タスクは最も困難であることが証明されました。モデルは脱隠蔽化には成功することが多かったものの、フューショット設定では有毒な意味を保持していました。非有毒な出力を生成するには SFT が不可欠でした。

規則分析

• エラー率: 音韻的変換はモデルにとって最も扱いやすかった（エラー率最低：0.27）。統語的および語用論的変換は最も高いエラー率（それぞれ 0.35 および 0.36）を示し、構造的摂動や談話レベルの信号の混乱が、表面レベルの変異よりも現在のモデルにとってより困難であることを示しています。
• 人間対モデル: 人間の評価者は、微調整済み Qwen2.5（77.90）と比較して、著しく高い脱隠蔽化スコア（BERTScore 約 95.64）を達成しました。これは、規則が人間の解釈可能性を保持している一方で、現在の LLM にとっては依然として困難であることを確認しました。

意義と主張

著者らは、KOTOX は韓国語の脱隠蔽化と解毒を同時にサポートする最初のデータセットであり、中立、有毒、およびそれらの隠蔽化された対応物をペアで提供すると主張しています。

• 言語学的根拠: 単純な摂動に依存する以前の研究とは異なり、KOTOX は韓国語およびハングルの特定の膠着語的および正書法的性質に由来する分類体系に基づいて構築されています。
• 堅牢性: このデータセットは、クリーンな入力での性能を犠牲にすることなく、隠蔽化された有毒コンテンツに対して堅牢なモデルのトレーニングを可能にします。
• リソースの可用性: 著者らは、将来の研究のための再現可能な隠蔽化テキスト生成を容易にするオープンソースツールとして、隠蔽化変換パッケージを提供しています。
• 限界: この研究は明示的に韓国語とハングルに限定されています。著者らは、特定の規則が他の言語的文脈に直接汎化しない可能性を認めていますが、フレームワークは拡張可能であると述べています。

結論として、本論文は、現在の LLM が韓国語固有の隠蔽化パターンに対して極めて脆弱であることを示しており、韓国語のオンライン環境向けに安全で堅牢な言語技術構築のためには、言語学的根拠を持つ対隠蔽化データセットでのトレーニングが不可欠であることを実証しています。