Warning Message Content Increases Help Seeking in a Large-Scale Dark Web CSAM Intervention

技術要約：警告メッセージの内容が大規模なダークウェブにおけるCSAM介入への助けを求める行動を促進する

問題提起
デジタルネットワークの拡大により、児童性的虐待コンテンツ（CSAM）へのアクセスの容易性が増大しており、毎年数百万人もの子供たちが搾取されるという公衆衛生上の危機が生じている。オフラインの犯罪防止策は、リスクが発生する瞬間の個人に働きかけることが困難であるが、デジタル介入はCSAM探索行動を中断させるためのスケーラブルなメカニズムを提供する。しかし、高リスクなオンライン活動と、治療的リソースへの活用（アップテイク）の間には大きな乖離が存在する。検索エンジンやソーシャルメディアでは、ユーザーをサポートサービスへと誘導するために警告メッセージが広く展開されているが、特定のメッセージ内容（特に匿名性の高いダークウェブ環境におけるもの）が、助けを求める行動の有効性にどのように影響するかに関する大規模なフィールド調査によるエビデンスは、依然として限定的である。既存の研究は自己申告や小規模な実験に依存することが多く、実際の運用環境において、メッセージのフレーミングや主題的な内容が、実際の助けを求める行動にどのように影響するかについての経験的なデータが不足している。

方法論
本研究では、Tor検索エンジンであるAhmia.fiにおいて、140日間（2025年6月から2025年11月まで）にわたり、大規模なフィールド実験を実施した。本研究は、ランダム化フィールド実験とキャンペーン全体の評価を組み合わせた準実験デザインを採用した。

• データ範囲： 研究者は総計19,611,744件の検索を観察した。このうち、3,105,800件（15.84%）の検索には禁止されたCSAM関連用語が含まれており、警告介入がトリガーされた。
• 介入設計： 70日間の介入期間中、警告をトリガーしたユーザーに対して、9種類のメッセージ・バリアント（変種）または中立的なコントロール・メッセージのいずれかを提示した。メッセージは毎日ローテーションされ、メッセージ条件のランダム割り当てを行うために、10日ごとに特定の「ランダム化警告日」を設けた。
• メッセージ・バリアント： アクティブなメッセージは4つの主題領域に分類され、それぞれにネガティブ・フレーミング版とポジティブ・フレーミング版が存在した。
  1. 合法性／結果： 逮捕のリスクや個人的な代償を強調する。
  2. 危害（Harm）： 行動が被害者に与える影響を強調する。
  3. コントロール／自己効力感： 個人の変化の能力やサポートへのアクセスを強調する。
  4. 苦悩／心理的ニーズ： 感情的な動機やその結果についての内省を促す。
  • 中立条件： 特定の説得的なフレーミングを持たない、ReDirectionセルフヘルプ・プログラムに関する標準的な情報提供メッセージ。
• アウトカム指標： 主要なアウトカムは、ReDirection匿名セルフヘルプ・プログラムへのクリック率（CTR）とした。副次的なアウトカムは、警告をトリガーする検索率（抑止）とした。
• 分析戦略： 集計された日次カウントを用いて、二項ロジスティック回帰モデルを用いた分析を行った。研究では以下の3つの分析アプローチを用いた。
  1. ランダム化日分析： 日次固定効果を制御しつつ、メッセージがランダムに割り当てられた日におけるメッセージ条件を比較する。
  2. キャンペーン期間分析：： 週次および線形タイムトレンドを考慮し、Newey–Westヘテロスケダスティシティおよび自己相関に頑健な（HAC）標準誤差を用いて、全キャンペーン期間におけるCTRを検討する。
  3. 中断時系列分析（ITS）： キャンペーン前（70日間）とキャンペーン中（70日間）のデータを比較し、CTRおよび警告トリガー率における即時的なレベルの変化および傾きの変化を評価する。

主な結果

• 助けを求める行動への影響（CTR）： メッセージの内容が、リソースへのエンゲージメントに一貫して影響を与えることが示された。
  • 全体的な増加： プラットフォーム全体のCTRは、キャンペーン前のベースラインである**8.73%から、キャンペーン期間中に15.67%**へと上昇した。
  • メッセージの有効性： すべてのアクティブなメッセージ・バリアントは、中立的なメッセージよりも有意に高いパフォーマンスを示した。ランダム化日分析において、中立条件に対するクリックスルーのオッズ比は1.12から1.76の範囲であった。
  • 主題別のパフォーマンス： ネガティブにフレーミングされた危害焦点型メッセージが、CTRにおいて最も強い効果を示した。これに続いて、ポジティブにフレーミングされた危害メッセージ、次いで合法性とコントロールのメッセージとなった。苦悩焦点型のメッセージは、効果は小さいものの、依然として信頼できる効果を示した。
  • フレーミング： ネガティブにフレーミングされた危害メッセージが最も優れた性能を示したが、同一テーマ内でのポジティブ・フレーミングとネガティブ・フレーミングの差はわずかであり、信頼区間は重複していた。
• 抑止への影響（警告トリガー率）： CTRの結果とは対照的に、メッセージの内容が警告トリガー検索率に影響を与えるという証拠は見られなかった。キャンペーンは、中立的な条件やキャンペーン前と比較して、警告をトリガーする検索のボリュームを有意に変化させなかった。これは、本介入が、集団レベルでの検索行動そのものを抑止するのではなく、主にユーザーをヘルプへと転換させていることを示唆している。
• 頑健性： 知見は、ランダム化日比較、全キャンペーン期間、および中断時系列モデルのすべてにおいて一貫しており、効果が時間的な混乱要因や季節変動ではなく、メッセージの内容によって駆動されていることを示している。

意義および主張
著者らは、本研究が、高匿名性のダークウェブ環境において、警告メッセージの内容が助けを求めるエンゲージメントに与える影響を体系的に検証した、初のات大規模なフィールド・エビデンスを提供すると主張している。

• 生態学的妥当性： 本研究の主要な貢献は、その生態学的妥当性であり、仮説的なシナリオや自己申告に頼るのではなく、リスク発生時の現場（in situ）における行動反応を捉えている点にある。
• メッセージ内容の重要性： 本研究の結果は、伝統的な抑止キュー（例：IP追跡）の信頼性が低い匿名環境であっても、警告メッセージの具体的な内容とフレーミングがユーザーの行動を大きく左右することを実証している。
• 適応型介入： 結果は、「唯一最善のメッセージ」というアプローチに対して異議を唱えるものである。この特定の文脈では危害焦点型メッセージが最も効果的であったが、すべてのアクティブなメッセージが中立的なベースラインよりもエンゲージメントを向上させた。著者らは、警告メッセージを、ユーザーの行動や文脈に基づいてコンテンツを反復的に洗練させていく、適応型介入システムの一部として捉えるべきであると示唆している。
• 作用メカニズム： 本研究は、高リスクなデジタル環境において、成功する警告の主要なメカニズムは、検索そのものを抑止することではなく、目的指向の検索を中断させ、即座にサポートへの経路を提供することにあることを示している。
• 限界と一般化： 著者らは、個々のユーザーを追跡できないことが、人口統計学的または心理学的サブグループの分析を制限していることを謙虚に述べている。さらに、Ahmia.fi（Tor検索エンジン）におけるこれらのメッセージの特有の有効性が、クリアウェブのプラットフォームや他のデジタルサービスに直接一般化できるわけではないと注意を促しているが、中断とリダイレクトという根本的なメカニズムは共通している。

結論として、警告メッセージの内容を最適化することは、助けを求める行動を増やすための実用的かつスケーラブルな手段であり、高リスクなオンライン活動と治療的リソースへのエンゲージメントとの間のギャップを埋めることに貢献する。