🤖 machine learning

Unsupervised Anomaly Detection of Information Operations Users via Behavioral and Language Patterns

本論文は、時間的ポイントプロセスを通じて協調的な時間的行動をモデル化し、さらに大規模言語モデルによるテキスト内容の分析から得られる定量的スコアを用いてそれらの信号を精緻化することで、情報工作ユーザーを検出する新しい教師なしフレームワークであるTENSORを紹介し、実世界のデータセットにおいて既存の手法を凌駕するものである。

原著者： Sishun Liu, Sajal Halder, Ke Deng, Yan Wang, Xiuzhen Zhang

公開日 2026-07-08

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Sishun Liu, Sajal Halder, Ke Deng, Yan Wang, Xiuzhen Zhang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

インターネットを、何百万人もの人々がチャットをし、ニュースを共有し、政治について議論している、巨大で賑やかな町の広場だと想像してみてください。通常、ほとんどの人々は、ただ自分の生活を送っている「普通の市民（コントロール・ユーザー）」です。しかし時折、少数の秘密主義的なグループ（「情報工作（IO）ユーザー」と呼ばれる）が、その広場に姿を現します。彼らはチャットをしに来たのではありません。彼らは会話を操作し、嘘を広め、混乱を巻き起こすためにやってきたのです。しかも、彼らはしばに、よく練習された合唱団のように連携して動きます。

問題は、これらの操作者たちが非常に巧妙に隠れることです。彼らは普通の人間のように見せかけようとしますが、彼らには特有の「リズム」と「話し方」があり、それが彼らを見破る手がかりとなります。

旧来の手法（そしてなぜ失敗したのか）

以前、探偵たちはこれら操作者を見つけ出すために、2つの方法を試みました。

「リストを探す」方法（教師あり学習）： 彼らは既知の悪質なアクターのリストを用いてコンピュータを訓練しました。しかし、悪質なアクターが戦術を変えると（彼らは非常に素早く変えます）、コンピュータは混乱し、新しい手口を見抜くことができなくなりました。
「共に動く」方法（教師なしクラスタリング）： 彼らは、悪質なアクターは常にマーチングバンドのように完璧な調和の中で行動すると仮定しました。もし2人が全く同じ内容を、全く同じタイミングで投稿した場合、フラグが立てられました。しかし実際には、悪質なアクターはもっと賢く、常に足並みを揃って行進するわけではないため、この方法では多くの彼らを見逃してしまいました。

新しい解決策：TENSOR

論文の著者たちは、TENSORと呼ばれる新しい探偵ツールを構築しました。TENSORは、**「いつ」人が投稿するかと、「何を」**話しているかという2つの要素を同時に監視する、2部構成のセキュリティシステムだと考えてください。

パート1：リズムの監視員（時間的点過程）

人々の動きの「タイミング」に執着している、町の広場の警備員を想像してください。

普通の市民は、ランダムなタイミングで投稿します。例えば、午前中だったり、ランチタイムだったり、深夜だったりします。彼らのリズムは乱雑で自然です。
悪質なアクターは、しばしば奇妙で、調整されたリズムを持っています。彼らは投稿が速すぎたり、あるいはスクリプトに従っているために、全員が全く同じ瞬間に投稿したりすることがあります。

TENSORは、**時間的点過程（Temporal Point Process）**と呼ばれる数学的ツールを使用して、広場の「鼓動」を学習します。それは、正常なリズムがどのようなものであるかを学習します。もし、あまりにも完璧すぎる、あるいは奇妙すぎるリズムが見られた場合、アラームが鳴ります。

落とし穴： この警備員には問題があります。訓練データ（警備員が研究した人々のリスト）が「汚染」されているのです。これは、警備員に「正常」とは何かを教えようとしているのに、そのクラスの中に、普通のふりをしている悪質なアクターが混じっているようなものです。警備員は、誤って悪質なアクターの奇妙なリズムを「正常」として学習してしまう可能性があります。

パート2：言語の探偵（LLM）

この警備員のミスを修正するために、TENSORは第二の専門家、**大規模言語モデル（LLM）**を投入します。これは、何百万冊もの本を読み、人間の真の言葉とロボットのような台本の違いを知り尽くした、超スマートな文芸批評家のようなものです。

LLMは、人々が投稿する実際の「言葉」を読みます。単にタイミングを見るだけでなく、スタイル（様式）を見ます。

この人は、猫や仕事、政治について話していますか？（おそらくコントロール・ユーザーです）。
この人は、特定の政治的トピックについてのみ話し、奇妙で反復的なフレーズを使い、それ以外のすべてを無視していますか？（おそらくIOユーザーです）。

統合：「エビデンス関数」

これが魔法のレシピです。TENSORは単に2人の専門家に投票させるのではなく、**「エビデンス関数（Evidence Function）」**と呼ばれる特別な数式を使用して、彼らの意見を組み合わせます。

リズムの監視員は、「この人のタイミングは怪しい」と言います。
言語の探偵は、「この人の言葉は台本のようだ」と言います。
エビデンス関数は、言語の探偵の意見を取り入れ、リズムの監視員を「修正」します。

もし、訓練データの中に悪質なアクターが含まれていたためにリズムの監視員が混乱していたとしても、言語の探偵が介入してこう言います。「待ってください、言葉を見てください。これは間違いなく悪質なアクターです。たとえタイミングが少し正常に見えたとしてもです」。これにより、訓練データが「汚れて」いたとしても、TENSORは悪質なアクターを特定できるのです。

研究結果

研究者たちは、5つの異なる国（エジプト、中国、イラン、ロシア、UAE）の実世界のデータを用いてTENSORをテストしました。彼らはTENSORを他の手法と比較し、以下のことを発見しました。

TENSORが最強であった： TENSORは、従来の手法よりも多くの悪質なアクターを捕らえ、ミスも少なく抑えました。
両方の要素が必要である： もし「言語の探偵（LLM）」または「リズムの監視員（タイミング分析）」のどちらかを取り除くと、システムは大幅に性能が低下しました。機能するためには、タイミング（いつ）と内容（何を）の両方が必要なのです。
異なる「脳」でも機能する： 彼らはTENSORを異なるAIモデル（異なるタイプの「言語の探偵」）でテストしましたが、ほとんどのモデルで良好に動作しました。

結論

TENSORは、あらかじめ用意された「誰が悪いか」のリストを必要とせずに、インターネット上の操作者を見つけ出す新しい方法です。それは、悪質なアクターが奇妙な「ダンス（タイミング）」と偽りの「声（言語）」を持っていることに気づくことで機能します。AIを使って「声」を確認し、「ダンス」の分析を修正することで、たとえ彼らが群衆の中に紛れ込もうとしても、操作者を見つけ出すことができるのです。

技術要約：非監視型IOユーザー検出のためのTENSOR

問題定義

本論文は、ソーシャルネットワーク（SN）における情報操作（IO）ユーザーの検出という課題に取り組んでいる。IOとは、少数の調整されたユーザーグループによって開始される、偽情報やヘイトスピーチを通じた世論操作の組織的な試みである。主な困難は、既存の検出手法の汎化能力にある：

教師ありおよび半教師ありのアプローチは、ラベル付きデータセットに依存しているが、これらは急速に進化するIOキャンペーンの性質に対して遅れをとっており、未知のIOに対しては効果的ではない。
既存の非監視型アプローチは、多くの場合、調整に関する単純化された仮定（例：類似性に基づくクラスタリング）に依存しており、それが実態に即していなかったり、複雑な時間的ダイナミクスを捉えられなかったりすることがある。
データの汚染（Data Contamination）： 異常検知のための訓練データには「汚染」が含まれているという重要な問題がある。つまり、「正常（コントロール）」ユーザーを表すはずのデータセットには、必然的に少数のIOユーザーが含まれてしまう。このようなデータでモデルを訓練すると、モデルが異常を「正常」として学習してしまい、性能が低下する可能性がある。

著者らは、IOユーザー検出を非監視型異常検知問題として定式化し、投稿タイムライン（タイムスタンプ $t$ とコンテンツ $c$ で構成される）のみを使用して、IOユーザー（ラベル 0）をコントロールユーザー（ラベル 1）から識別することを目指している。

手法：TENSOR

提案されるソリューションは、**TENSOR（Temporal-bEhavior-laNguage Signals for information Operation Recognition）**である。これは、行動パターン（時間的）と言語パターン（テキスト的）を組み合わせた、マルチモーダルな非監視型フレームワークである。そのアーキテクチャは、調整フレームワークを介して統合された2つのコアコンポーネントで構成されている。

1. 行動パターンのための時間的点過程（TPP）

機能: TPPは、ユーザーの投稿タイムラインを確率過程としてモデル化する。これは、履歴を条件とした時刻 $t$ におけるイベント発生確率を表す条件付き強度関数 $\lambda^*(t)$ を捉える。
訓練: TPPモデル（具体的には自己注意型ホークス過程、SAHP）は、汚染されたデータセット $T$ （コントロールユーザーとIOユーザーの両方を含む）で訓練される。
メカニズム: IOユーザーは、有機的なユーザーとは異なる調整された行動（例：特定の間隔での投稿やコンテンツの大量投入）を示すことが多い。TPPは、観測されたタイムスタンプの負の対数尤度に基づいてスコアを算出する： $f(x_i) = \exp(-\frac{1}{M_i} \log p(t_i))$ 。
限界: 訓練データが汚染されているため、TPPモデルはIOのパターンを「正常」な分布の一部として学習してしまう可能性があり、異常を区別する能力を低下させる。

2. 言語パターンのための大規模言語モデル（LLM）

機能: LLMは、ユーザー投稿のテキストコンテンツ ( $c_i$ ) をタイムラインと共に分析し、「証拠（evidence）」スコアを生成するために使用される。
プロンプティング: LLMには、ソーシャルメディアアナリストとして振る舞い、「IOアカウント」（調整された、国家主導の）と「コントロールアカウント」（有機的な）を区別するように、ゼロショットのシステム指示が与えられる。
証拠関数: LLMの生のテキスト出力は、意味的類似性マッピング戦略を用いて定量的なスコア $T(t_i, c_i)$ に変換される。この出力は、参照テキスト（「IOアカウント」対「コントロールアカウント」）と比較され、確率分布を生成する。LLMの非決定性に対する堅牢性を確保するため、 $N$ 個のサンプルが抽出され、平均化されて $\bar{T}_N(t_i, c_i)$ が生成される。

3. 証拠に基づく事後調整（EPHAD）

訓練セットの汚染問題に対処するため、TENSORは**証拠に基づく事後調整フレームワーク（EPHAD）**を用いて、TPPとLLMのコンポーネントを統合する。

TPPを再訓練するのではなく、このフレームワークは、テスト時にLLM由来の証拠を用いてTPPの出力を調整する。
最終的な決定スコアは、LLMの証拠を用いてTPPのスコアを指数関数的に傾斜させることで計算される：
$\hat{f}(x) = f(x) \exp(\bar{T}_N(t_i, c_i) / \beta)$
ここで、 $\beta$ は温度パラメータである。
これにより、システムは、汚染された訓練データによってTPPに導入されたバイアスを修正するために、LLMの言語パターンに関する理解を活用することができる。

主な貢献

斬新な定式化: 本論文は、ラベル付きデータの遅延という制限から脱却し、IOユーザー検出を非監視型の異常検知問題として定式化した。
マルチモーダルな統合: TENSORは、非監視型のIO検出のために、時間的な行動パターン（TPP経由）と言語パターン（LLM経由）を共同で活用する初めてのアプローチである。
データ汚染の緩和: 本論文は、IO検出という特定の領域に対してEPHADフレームワークの新しい応用を導入した。LLMベースの証拠関数を使用してTPPの推論を調整することにより、訓練セットにIOユーザーが存在する場合（汚染されたデータセット）に発生する性能低下を効果的に緩和する。
ゼロショット能力: この手法は、LLMの訓練にラベル付きのIOデータを必要とせず、代わりにゼロショットプロンプティングと意味的類似性に依存している。

実験結果

著者らは、15カ国・26のラベル付きIOをカバーする5つの実世界のIOデータセット（Egypt, China_1, Iran_1, Russia_1, UAE）を用いてTENSORを評価した。これらのデータセットは極めて不均衡である（IOユーザーは少なく、コントロールユーザーが多い）。

性能: TENSORは、ほとんどの指標（Precision, Recall, F1, AUC, AUPRC）において、3つのベースライン（User Embedding Clustering, BLOC, および純粋なLLMベースのゼロショット検出器）を上回った。
アブレーション研究:
- LLMの証拠関数を除去すると性能が大幅に低下し、言語パターンの必要性が確認された。
- TPPを除去すると（LLMのみを使用）、性能が悪化し、時間的ダイナミクスが極めて重要であることが確認された。
- ランダムな証拠関数を使用した場合は標準的なTPPよりも性能が悪く、LLMが真のシグナルを提供していることが証明された。
感度分析:
- LLMの選択: TENSORは、異なるLLM（gpt-oss-120Bのような推論モデルからllama3.3-70Bのような非推論モデルまで）に対して安定かつ効果的であったが、より大きな推論モデルの方が一般的にわずかに良い結果を示した。
- 温度 ( $\beta$ ): 性能は温度パラメータ $\beta$ に対して敏感であった。デフォルトの $\beta=0.5$ は効果的であったが、著者らは最適な値がデータセットによって異なる（多くの場合0.3付近）と述べており、このハイパーパラメータの非監視的な最適化の可能性を示唆している。

意義と主張

本論文は、TENSORが、調整されたIOキャンペーンと有機的なユーザー行動の間の固有の摩擦に焦点を当てることで、従来の教師ありモデルに代わるレジリエントな選択肢を提供すると主張している。その主な意義は以下の通りである：

汎化ギャップの克服: 非監視型であるため、新しいラベル付きデータセットの再訓練を必要とせずに、新しい未知のIOを検出できる。
汚染問題の解決: リアルワールドのデータ（必然的に汚染されている）で異常検知器を訓練する際に、モデルが異常を正常として学習してしまうことなく、実用的なメカニズムを提供する。
実用性: このアプローチは、LLMに関しては「訓練フリー」（凍結された重みを使用）であり、単一のTPP訓練ステップに依存しているため、様々な既存のTPPおよびLLMアーキテクチャに適応可能である。

著者らは、温度パラメータ $\beta$ の非監視的な最適化が今後の課題として残っているものの、TENSORは現在、実世界の不均衡なシナリオにおける非監視型IOユーザー検出の新しい最先端（SOTA）の基準を確立していると結論付けている。