ValueGraph: Value-Signal Guided Graph Pre-training for Contextualized User Representation
本論文は、推論された道徳的価値信号をソフト制約として活用することで文脈化されたユーザー表現を強化するグラフ事前学習フレームワークであるValueGraphを提案しており、スタンス検出およびボット検出のタスクにおいて、既存のテキストベース、グラフベース、およびLLMベースのベースラインに対する一貫した性能向上を実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
広大で騒々しいソーシャルメディアの風景の中で、人々がなぜそのように行動するのかを理解することは、オンライン生活を解明しようとする者にとって中心的な課題である。長年、コンピュータ科学者は、ユーザーが何を言い、誰と話しているかを見ることで、デジタルプロフィールを構築しようと試みてきた。もし二人の人物が似たような言葉を投稿したり、同じスレッドに返信したりしていれば、従来のシステムは彼らが似ていると仮定する。しかし、このアプローチは、人間の行動の極めて重要な層、すなわち、それらの相互作用を駆動する根底にある道徳的価値観を見落としがちである。人々は、全く異なる理由から、ある論争的なニュース記事に関与することがある。一人は純粋な懸念から、もう一人は怒りから、そして三人目は混乱を広めるという目的からである。これらの隠れた動機はユーザーの振る舞いを形作るものであるが、標準的なコンピュータモデルは、これらを不可視のものとして扱うことが多い。ユーザーを真に理解するためには、研究者は単に活動の表面を捉えるだけでなく、それを導く「道徳的なコンパス」を捉える方法を必要としている。
シンガポール経営大学とA*STARの研究チームは、この問題を解決するために「ValueGraph」と呼ばれる新しい手法を開発した。個人の真の内的信念を推測しようとする（それは確実に知ることは不可能である）代わりに、このシステムは、公開された投稿から「価値信号（value signal）」を推論するツールを使用する。この信号は、「ケア」「公正」「忠誠」「権威」といった10の明確な次元に道徳的推論を分解する、モラル・ファンデーション理論（道徳基盤理論）と呼ばれる有名な心理学的枠組みに基づいている。研究者たちは、コンピュータプログラムに数千件のソーシャルメディアの投稿を読ませ、それぞれの投稿にこれら10の道徳的テーマに基づいたスコアを割り当てるよう訓練した。一人のユーザーが書いたすべての投稿にわたってこれらのスコアを平均化することで、システムはそのユーザーの道徳的なフレーミングに関する、おおまかな10項目のプロフィールを作成する。研究者たちは、これが完璧な心理学的診断ではなく、ユーザーの道徳的な言語の全体的な「風味」を捉えた、ノイズを含んだ集約的な信号であることを慎重に注記している。
ValueGraphの核心的な革新は、これらの推論された信号をどのように用いて、コンピュータに異なるタイプのユーザーを認識させるかという点にある。システムは主に二つのステップで動作する。第一に、あらゆる投稿や返信を巨大なウェブにおける一つの接続として扱い、人々がどのように相互作用するかというマップを構築する。システムは、これらの会話の構造と、その中のテキストの意味を理解することを学習し、すべてのユーザーに対して基本的なデジタル指紋を作成する。第二のステップでは、道徳的価値信号を導入する。システムは、異なるユーザーの推論された道徳的プロフィールを調べ、類似した価値信号を持つ人々をグループ化する一方で、非常に異なる信号を持つ人々を互いに遠ざける。これは、道徳的信号を絶対的な事実としてではなく、学習プロセスにおける一連の「ソフトなルール」または「穏やかな促し」として扱うことで行われる。これにより、コンピュータは、彼らが何を言い、誰と話し、そして表現の道徳的なトーンがどのようなものであるかを組み合わせた、ユーザーの表現形式を学習することができる。
研究者たちは、この新しいアプローチを二つの困難なタスク、すなわち、ユーザーの政治的な立場を判断することと、ユーザーが人間であるか、あるいは人間を模倣するように設計された自動化されたアカウント（ボット）であるかを検出することを用いてテストした。最初のテストでは、システムはユーザーが特定のトピックに対して支持、反対、あるいは中立のいずれであるかを判断しなければならなかった。二番目のタスクでは、人間と自動化されたボットを区別しなければならなかった。結果は、ValueGraphが一貫して既存の手法を上回っていることを示した。スタンス検出タスクにおいて、システムはあるデータセットで63パーセント、別のデータセットで77パーセントの精度を達成し、テキストのみ、あるいはネットワーク構造のみに依存する強力な競合モデルを打ち破った。ボット検出タスクでは、他のデータと組み合わせた際に、自動化されたアカウントを特定する能力が向上した。一つの特定の構成において、システムのボットを正しく識別する能力、すなわち「再現率（ボットが存在する場合に見つけ出す能力）」は、新しい手法を用いることで62.5パーセントから81.0パーセントへと大幅に上昇した。
これらの結果を特に興味深くさせているのは、システムが初期の学習段階において、どのユーザーがボットであるか、あるいはどのスタンスが正しいかを教えられる必要がないことである。システムは、道徳的信号と会話の構造を観察することによって、自律的にこれらのパターンを学習する。研究者たちは、構造的な学習と道徳的価値によるガイダンスを組み合わせたときに、システムが最も高い性能を発揮することを発見した。もし道徳的信号を取り除けば、システムの性能は低下した。また、会話の構造なしに道徳的信号のみを使用したとしても、同じレベルの精度には達しなかった。これは、道徳的価値信号が有用なガイドとして機能し、テキストや接続だけを見ている時には見えないパターンをコンピュータに見せる助けとなっていることを示唆している。例えば、データを可視化すると、研究者たちは、この新しい手法が以前の手法よりも人間とボットの間により明確な分離を生み出していることを確認した。ボットは反復的で極端な道徳的言語を伴ってクラスター化する傾向がある一方で、人間はより多様で文脈に依存した表現を示していた。
チームは、彼らの手法がユーザーの真の心理的価値を知ることを主張しているわけではないと強調している。道徳的スコアはテキストから導き出されたものであり、不完全でノイズの多いデータとして扱われている。システムは、これらの不完全さを学習ツールとして利用し、絶対的な真実を突き止めようとするのではなく、ユーザー間の相対的な差異を見出すのである。このアプローチは、決定的な心理学的プロフィールで人々をラベル付けしようとする、倫理的に問題があり技術的に信頼性の低い陥穽を回避している。代わりに、公的な言説における道徳的なフレーミングを、より優れた、より微細なデジタル表現を構築するための実用的なツールとして利用しているのである。ValueGraphの成功は、理論に基づいた価値信号を組み込むことが、コンピュータが人間の行動を理解する方法を改善するための強力な手段となり、コンテンツ・モデレーションからパーソナライズされた推奨に至るまでの幅広いタスクに対して、より強固な基盤を提供することを示唆している。ユーザーは、何を言うかだけでなく、どのような道徳的なレンズを通してそれを言うかによって形作られるということを認めることで、研究者たちはインターネットの複雑な社会を理解するための新しい道を切り開いたのである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。