インターネットは、人間の表現が交錯する広大で騒々しい市場であり、そこでは一つの文章が、ある人にとっては無害なジョークであっても、別の人にとっては排除のための武器となり得る。長年、コンピュータはこの空間を監視しようと試みてきたが、多くの場合、言葉が置かれている複雑な社会的文脈を理解するのではなく、単に「悪い言葉」を探すだけの、不器用なものに留まっていた。コンピュータは、友人同士の親しみを込めた侮辱と、個人のアイデンティティに対する真の攻撃とを区別することに苦慮している。特に、その攻撃がローカルなスラングや文化的参照、あるいは微妙なステレオタイプに隠されている場合にはなおさらである。これがヘイトスピーチ検出の核心的な課題である。それは単に攻撃的な言葉を見つけることではなく、誰が標的にされているのか、どのような論理展開が行われているのか、そしてなぜそれが害をもたらすのかを理解することなのである。言語が英語ではない場合や、特定の文化の人々にしか理解できないようなコード化されたヘイトが存在する場合、この困難はさらに増大する。

研究者チームは、単一のコンピュータプログラムが素早い判断を下そうとする手法から脱却し、この問題を解決するための新しい方法を提案した。彼らは、異なる「エージェント」が同じテキストを異なる角度から検討し、最終的な結論に至るという、人間の専門家パネルを模倣したシステムを構築した。中国語と英語の両方のテキストでテストされた彼らの研究は、長い投稿を小さな断片に分割し、複数の視点を持たせて議論させることで、起きている事象に対する理解が大幅に向上することを示唆している。このシステムは単に推測するのではない。コンピュータに対して、自らの推論を説明し、証拠を確認し、テキストをヘイトとしてラベル付けする前に相違を解決することを強制するのである。

Yifan Lyu氏らを中心とする研究者たちは、「SPAR-Hate」と呼ばれるフレームワークを導入した。その名称は、長い文書を扱いやすい小さな文章や節へと切り分けることから始まる構造化されたプロセスを表している。これは極めて重要である。なぜなら、一つの投稿の中に、三つの異なるグループに対して三つの異なる方法で攻撃が含まれている可能性があるからであり、全体を一気に読もうとするコンピュータは、誰が攻撃されているのかと、何が言われているのかを混同してしまうことが多い。テキストを小さな単位に分割することで、システムは一度に一つの特定の主張に集中することができる。テキストが小さな単位に孤立させられた後、システムは単一のAIにそれがヘイトスピーチかどうかを判断させるのではなく、それぞれが特定の役割を果たす三つの仮想エージェントにそれを読ませる。

第一のエージェントは「被害者（Victim）」である。この視点は、危害、排除、そして標的にされているという感覚に対して非常に敏感に設計されている。それはマイクロアグレッション（微細な攻撃）、ステレオタイプ、そして特定のグループに不安を感じさせるような言語を探し出す。第二のエージェントは「モデレーター（Moderator）」であり、ソーシャルメディア・プラットフォームのルールブックのような役割を果たす。このエージェントは、明らかな暴言、暴力の脅迫、直接的な嫌がらせといった安全ポリシーへの明確な違反を探す一方で、虐待の域に達しない主観的な意見の相違は無視する。第三のエージェントは「文化的傍観者（Cultural Bystander）」であり、ローカルな文脈の専門家である。このエージェントは、部外者には無害に見えても、特定のコミュニティ内では極めて不快とされるコード化された言語、同音異義語を用いた洒落、あるいは地域的なスラングを認識するように訓練されている。中国語版のシステムでは、このエージェントは隠れた侮辱を見つけ出すために、現地のヘイト用語の専門辞書さえ与えられている。

これら三つのエージェントが同じ小さなテキストを読んだ後、彼らはしばしば意見を異にする。ある者はそれが無害であると言い、別の者は明確な攻撃であると見る。ここで、システムの最も重要な革新が登場する。「監査官（Auditor）」である。この第四のエージェントは、単に票を集計するのではない。代わりに、彼は裁判官として機能し、三名のエージェントが提供した証拠を精査する。彼は、彼らの主張が実際のテキストに基づいているか、ルールと一致しているか、そして文化的文脈において妥当であるかを確認する。もし「モデレーター」が「傍観者」が捉えた微妙な文化的侮辱を見逃していた場合、監査官はそのモデレーターの見解を覆すことができる。「被害者」が中立的な記述に対して過敏すぎる場合は、監査官がそれを修正できる。システムは、エージェントに対して自らの主張を裏付けるための具体的な引用を提示することを強制し、最終決定が漠然とした感覚ではなく、証拠に基づいていることを保証する。

研究者たちは、英語と中国語の二つの主要なベンチマーク（コンピュータがヘイトスピーチを理解する能力を測定するために使用される標準的なデータセット）を用いて、このアプローチをテストした。英語のベンチマークについては、公開データセットにはテストセットのみが含まれていたため、研究者たちは彼らの研究のために、決定論的な方法でシャッフルを行い、トレーニング用とテスト用のサブセットを再分割した。彼らは、単一のAIに作業を行わせる単純なプロンプトや、他の複雑な推論フレームワークを含む他の手法と比較した。結果として、SPAR-Hateシステムは、特に最も困難なタスクにおいて、他を圧倒して一貫して優れた性能を示した。このシステムは、攻撃の具体的な対象、議論として用いられている正確な言葉、そして害の正しいラベルを特定することにおいて、はるかに優れていた。改善は、ターゲット、議論、およびラベルのすべてを同時に正しく特定することを要求する厳格な評価において、最も顕著であった。これは、システムが単に的中率を高めているのではなく、実際にヘイトスピーチの構造をより良く理解していることを示唆している。

最も驚くべき発見の一つは、このシステムが特定のデータに対して特別に訓練されることなく、うまく機能したことである。研究者たちは、この特定のタスクのためにファインチューニングされていない大規模言語モデルを使用しており、代わりに、彼らのマルチエージェント・フレームワークの構造と、彼らが作成したプロンプトの質に依存した。これは、問題の解決方法――すなわち、問題を分解し、多様な視点を用いること――が、単にモデルを大きくしたり特化させたりすることよりも重要であることを示唆しており、非常に意義深い。また、このシステムは、より小さく高速なモデルへと「蒸留」できることも示した。より大きなチームのステップ・バイ・ステップの推論プロセスを、より小さなコンピュータに模倣させるよう教えることで、研究者たちは、精度はほぼ同等でありながら、はるかに効率的なバージョンを作り出し、この論理がより単純なテクノロジーにも転移可能であることを証明した。

本研究は、現在のテクノロジーの限界についても強調している。この高度なフレームワークを用いても、システムは時として議論の境界線に苦しみ、攻撃の定義の中に含まれるテキストが多すぎる場合があった。しかし、研究者たちは、このシステムが他のモデルを躓かせるような文化的ニュ Nuance（ニュアンス）を扱うことに特に長けていることを見出した。例えば、中国語のテキストにおいて、システムは「文化的傍観者」エージェントの専門知識を用いることで、言葉の響きは無害だが書き方を変えて攻撃的な意味を持たせる「同音異義語のスラング」を特定することに成功した。英語においては、コミュニティ内で再利用（reclaimed）されたスラングと、それらが外部の人間によって武器として使われる場合との区別において、より優れた能力を発揮した。

この研究は、ヘイトスピーチ検出の問題を完全に解決したと主張しているわけではない。研究者たちは、現在のシステムが中国語と英語に限定されていること、そしてあらゆる言語や文化的設定に対してテストされているわけではないことを認めている。また、有害なコンテンツをフラグ立てするように設計されたあらゆるシステムは、検閲や監視に悪用されるリスクを孕んでいることも指摘している。論文は、彼らの手法が意思決定プロセスをより透明かつ追跡可能にするものである一方で、現実世界での運用においては、特定のグループを不当に標的にしないために、人間の監視、異議申し立てプロセス、および継続的なモニタリングが必要であることを強調している。

結局のところ、この論文は、コンピュータに人間の衝突を理解させる方法についてのパラダイムシフトを提示している。単一の、すべてを知っている完璧なアルゴリズムを構築しようとするのではなく、研究者たちは、異なる専門的な視点を比較検討し、バランスを取るという協調的なアプローチの方が効果的であることを示唆している。人間のような討論と仲裁のプロセスをシミュレートすることで、システムはヘイトスピーチの混沌とした、主観的で、文化に依存する性質を、従来のメソッドが欠いていたレベルの精密さでナビゲートすることができるのである。この知見は、コンテンツ・モデレーションの未来が、より大きなモデルにあるのではなく、私たちがすでに持っているモデルをよりスマートかつ構造化された方法で活用することにあることを示唆している。