STEMTOX: From Social Tags to Fine-Grained Toxic Meme Detection via Entropy-Guided Multi-Task Learning

技術的概要：STEMTOX – エントロピー誘導型マルチタスク学習による社会的タグから微細な毒性ミーム検出へ

1. 問題定義

ミームは、軽妙なユーモアから、ヘイトスピーチ、誤情報、有害なイデオロギーを含む有害なコンテンツを広める強力な手段へと進化しました。ミームの検出は、文化的参照、皮肉、コード化された言語に依存することが多く、微妙で文脈依存性が高い性質のため、特に困難です。ビジョン・ランゲージモデル（VLM）はコンテンツモデレーションのための強力なツールとして登場しましたが、最近の研究では、深い文脈理解が欠如している場合、特にヘイトミームを正確に検出する際に苦労することが示されています。

この分野の進展における重要なボトルネックは、データの不足です。既存のデータセットは、手動でキュレーションされ、範囲が限定されている（特定の出来事や対象に焦点を当てている）、二値分類を超えた微細な毒性ラベルが欠如している、そして重要な文脈を提供する補助的なメタデータ（社会的タグなど）が頻繁に欠落しているという特徴があります。さらに、現在の手法は、分類を導くために社会的タグの意味的豊かさを活用することに失敗しており、堅牢な毒性検出において性能の格差を生んでいます。

2. 手法

A. TOXICTAGS データセット
データ制限に対処するため、著者らは Imgflip から収集された 6,300 件のミームベースの投稿を含む、新規で多様かつ実世界のデータセット「TOXICTAGS」を導入しました。従来のデータセットとは異なり、TOXICTAGS はイベントに依存せず、タイトルや社会的に関連するタグなどの補助的メタデータで強化されています。

このデータセットは、厳格な2 段階の人間によるアノテーションパイプラインを通じて構築されました：

• 段階 I（二値分類）： ミームを「毒性あり」または「正常」のいずれかに分類します。
• 段階 II（微細分類）： 毒性のあるミームをさらに 3 つの微妙なクラス、「ヘイト的（hateful）」、「危険（dangerous）」、「侮辱的（offensive）」に分類します。
• タグ付け： 各投稿は、ミームを文脈的に裏付ける一連の社会的タグで注釈付けられます。ノイズをフィルタリングした後、データセットには 7,209 個の一意のタグが含まれています。
• 品質管理： このプロセスには 25 人のアノテーターが関与し、バイアスを最小化するためにサンプルあたり 3 つの独立した注釈が行われました。最終的なアノテーター間一致スコアは、Fleiss の $\kappa$ により測定され、段階 I で 0.753、段階 II で 0.793 でした。

B. STEMTOX フレームワーク
著者らは、毒性ミームの分類と社会的に裏付けられたタグ生成を同時に行うように設計された、新規のエントロピー誘導型マルチタスク学習フレームワーク「STEMTOX」を提案しました。

• アーキテクチャ： STEMTOX は、画像とテキスト入力を処理するマルチモーダル VLM バックボーン（PALIGEMMA と LLAVA でテスト済み）を利用します。
• エントロピー誘導型レイヤー選択： 最終隠れ層にのみ依存するのではなく、STEMTOX は中間レイヤー全体で最も自信のあるトークン埋め込みを動的に選択します。各レイヤー $l$ におけるトークン表現のシャノンエントロピーを計算します。最小エントロピー（最高信頼度）を持つレイヤーが選択され、有効なシーケンス表現（$h_{eff}$）を形成します。このメカニズムにより、モデルは最も確実な内部表現から特徴を抽出し、終端層でよく見られる表現のドリフトを軽減できます。
• マルチタスク目的関数： このフレームワークは、結合された損失関数でトレーニングされます：
  $$L_{total} = L_{gen} + L_{cls}$$
  ここで、$L_{gen}$ は社会的タグの予測のための生成損失、$L_{cls}$ は毒性検出のための分類損失です。生成タスクは意味的正則化子として機能し、毒性分類に対してより識別力のある共有表現空間を形成します。
• トレーニング戦略： モデルは効率的な微調整のために LoRA アダプターを採用し、クラス不均衡に対処するために重み付き交差エントロピーを使用します。

3. 主要な貢献

1. TOXICTAGS データセット： 微細な毒性ラベル（ヘイト的、危険、侮辱的、正常）と、豊かで人間が注釈した社会的タグを備えた、初の実世界のミームデータセットです。従来の二値の毒性/正常パラダイムを超えています。
2. 2 段階アノテーションパイプライン： アノテーションエラーを削減し、ミームの毒性のニュアンスを捉える検証済みのプロセスであり、4 クラス分類体系がモデレーションに有効であることを示しています。
3. STEMTOX フレームワーク： タグ生成と毒性分類を統合した新規のマルチタスクアーキテクチャです。最適なレイヤー表現を選択するためのエントロピー誘導メカニズムを導入し、タグ生成の意味的監督を活用することで分類性能を大幅に向上させます。
4. 実証的検証： 文脈的タグの組み込みとエントロピー誘導型選択の使用が、最先端の VLM パフォーマンスを大幅に向上させることを示す包括的な評価。

4. 実験結果

TOXICTAGS 上でのパフォーマンス：

• 毒性検出： マルチタスク学習を用いた STEMTOX は、一タスクのベースラインを一貫して上回りました。PALIGEMMA バックボーンを使用した場合、STEMTOX は段階 I で Macro-F1 スコア 72.55、段階 II で 64.66 を達成しました。これは、一タスクトレーニング（それぞれ 60.85 および 42.78）に対する大幅な改善です。
• ベースラインとの比較： STEMTOX は、タグの類似性に基づいて例が選択された強力な Few-shot GPT-4O 設定や、最終隠れ層（LHL）特徴に依存するモデルを上回りました。
• タグ生成： タグ生成の品質（chrF、METEOR、意味的類似性で測定）において、STEMTOX（PALIGEMMA）はそれぞれ 0.4872、0.265、0.626 のスコアを達成しました。これは、暗黙の社会的文脈やミーム固有の語彙を捉えるのに苦労していた RAM++ や TAG2TEXT などの最先端タグジェネレーターを大幅に上回りました。

汎用性：

• このフレームワークは、ネイティブなタグを持たない 2 つの外部ベンチマークデータセット、FHM（Hateful Memes）とMAMI（Misogynistic Memes）でテストされました。タグは、TOXICTAGS で微調整されたモデルを使用して推測されました。
• STEMTOX は、5 つの競合ベースライン（PromptHate、ProCap、ModHate、Few-Shot、M2KE）と比較して、これらのベンチマークで優れた結果を達成し、FHM で Macro-F1 78.11、MAMI で 79.67 に達しました。

誤り分析：

• 分析により、モデルは「侮辱的」カテゴリ（最も不確実性が高い）と、特定のタグ（PALIGEMMA の場合はユーモア/スラング、LLAVA の場合は死/宗教）に対して最も苦労することが明らかになりました。
• エントロピー誘導型選択が決定的であることが判明しました。最終層（LHL）に依存するモデルは、より低いパフォーマンスを示しました。

5. 意義と主張

この論文は、STEMTOX がマルチモーダルオンライン環境における改善されたコンテンツモデレーションのための新規かつスケーラブルな基盤を提供すると主張しています。社会的タグで強化されたデータセットを導入し、マルチタスク学習を通じてこれらのタグを活用するフレームワークを提示することで、著者らは以下を実証しています：

• 文脈が鍵である： 補助的メタデータ（タグ）は単なる補足ではなく、堅牢な毒性検出には不可欠である。
• 生成的監督： 分類（discriminative task）を監督するために生成タスク（タグ付け）を使用すると、より豊かで意味のある内部表現が得られる。
• エントロピー誘導： 複雑なマルチモーダルタスクにおいて、固定された終端層に依存するよりも、信頼度（最小エントロピー）に基づいて表現を動的に選択する方が効果的な戦略である。

著者らは、この作業を、現在の VLM の能力とオンラインヘイトスピーチの微妙な現実の間のギャップを埋める、より正確で文脈を認識し、社会的に責任あるモデレーションシステムの構築に向けた一歩として位置づけています。

6. 限界

著者らはいくつかの限界を認めています：

• モダリティ： データセットとフレームワークは現在、画像ベースのミームに限定されており、動画や音声形式は含まれていません。
• 心理的影響： この研究は、ヘイトミームが視聴者に与える心理的または感情的な影響を調査していません。
• 現実世界への影響： オンラインの毒性とオフラインの暴力または犯罪行為との間の関連性は調査されていません。