From form to function: an ontology of communicative influence beyond truth and intent
本論文は、真偽や意図に依存しないオントロジーを提案し、メッセージを4つの直交する次元（手法、ナラティブ、極性、および対象物）へと構造化することで、従来のディスインフォメーションの枠組みを超えた戦略的コミュニケーションの精読と大規模な計算量的分析の両方を支援し、観察可能な手がかりに基づいたコミュニケーション上の影響力の解析を大規模に実現するものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代のコミュニケーションという広大で騒々しい風景の中で、たった一枚の画像や短い動画クリップが、嘘を一切つかずに、何百万人もの人々を行動へと駆り立てることがあります。例えば、混雑した国境検問所の写真を考えてみてください。その画像自体は現実のものです。人々はそこにいて、フェンスもそこにあり、空も見たままの通りです。しかし、その写真が特定のキャプションと共に共有されたり、特定のヘッドラインの隣に配置されたりすると、それは単なる場面の写真であることをやめ、「道具」となります。それは危険を知らせ、誰が属し誰が属さないのかを定義し、特定の政治的反応を促すことができます。これは「コミュニケーションによる影響力（communicative influence）」の領域であり、メッセージの力が、その事実が真実か偽りかではなく、私たちの考え方、感じ方、そして行動を形作るために、いかにメッセージが構築されているかに依存する分野です。何十年もの間、研究者たちは嘘を見抜き、悪意ある主体を特定することに重きを置いてきましたが、新しい波のインフルエンス・キャンペーンは、目的を達成するために、真実の事実、感情的なフレーミング、そして巧みなストーリーテリングを活用しています。人工知能が、人間のチームでは到底追いつけない速度と量でこれらのメッセージを生成し始める中、古い分析手法ではもはや不十分です。私たちは、この地形を理解するための新しい地図を必要としています。
ある研究チームが、その地図を描き出しました。彼らは、メッセージが真実を伝えていようと欺こうとしていようと、そのメッセージがどのように機能しているかを正確に分解するための詳細なシステムを作り上げました。彼らの新しいシステムは、「これは偽物か？」あるいは「誰がこれを作ったのか？」と問う代わりに、メッセージそのものについて4つの具体的な問いを投げかけます。「それはどのように私たちに影響を与えようとしているのか？」「その物語はどのように構成されているのか？」「それは異なるグループの人々をどのように対立させ、あるいは共に位置づけているのか？」「そして、どのような広範な結果を目指しているのか？」という問いです。これらの問いに答えることで、研究者はメッセージの内部構造を記述し、説得の手法と語られている物語を、集団のダイナミクスと最終的な目標を切り離して理解することができます。このアプローチは、メッセージを一つの独立したオブジェクトとして扱い、作者の隠れた意図や主張の真偽を推測するのではなく、メッセージ内の目に見える手がかりを分析します。
研究者たちは、2つのシンプルかつ強力な概念に基づいてこのシステムを構築しました。第一に、誰かが聴衆に影響を与えようとする際、そのメッセージの言葉、画像、構造の中に観察可能な痕跡を残すという仮定です。大工が木屑や工具の跡を残すように、伝達者はその戦略を明らかにする特定のパターンを残します。第二に、影響力を行使するのに嘘をつく必要はないという認識です。メッセージが事実として完全に正確であっても、特定の事実を選択的に強調したり、特定の形でフレーミングしたり、あるいは根深い集団アイデンティティを活性化させたりすることで、強力な操作の道具となり得ます。これは、嘘つきを捕まえるために設計されたシステムでは、真実の範囲内で活動する膨大な量のインフルエンス・ワークを見逃してしまうことを意味します。新しいフレームワークは、事実の正確さや作成者の隠れた動機ではなく、メッセージの「形式」に焦点を当てることで、その両方を捉えるように設計されています。
これを大規模に実行するために、研究者たちは分析を、互いに独立して機能する4つの明確な次元に分割しました。第一の次元、彼らが「メソッド（手法）」と呼ぶものは、聴衆を揺さぶるために用いられる具体的なテクニックを見ます。これには、感情的な言葉の使用、複雑な原因の単純化、あるいは恐怖への訴えなどが含まれます。第二の次元である「ナラティブ（物語）」は、メッセージがどのように物語を構成しているかを検証します。誰がヒーローやヴィラン（悪役）として配役されているのか、時間はどのように時系列化されているのか、そしてどのような道徳的利害が懸けられているのかを見ます。第三の次元である「ポラリゼーション（極性化）」は、メッセージが人々のグループをどのように位置づけているかに焦点を当てます。メッセージが人々を「我々対彼ら」に分断しようとしているのか、一つのグループを結束させようとしているのか、あるいは異なる側同士の架け橋を作ろうとしているのかを特定します。最後の次元である「インフルエンス・オブジェクト（影響の対象）」は、政策の変更、投票率の向上、あるいは制度への信頼の失墜など、メッセージが目指しているより広範な成果を特定します。決定的なのは、これら4つの次元は独立しているということです。あるメッセージは、全く異なる物語を伝えるために同じ手法を用いることができ、また、全く異なる結果を目指しながら同じ物語を語ることもできるのです。
チームはこのシステムを、英国の有名な政治キャンペーンの画像（難民が国境にいる様子を示したもの）を含む、現実世界の事例に適用しました。その画像には虚偽の記述は含まれていませんでしたが、システムはそれがどのように機能しているかを明らかにしました。使用されたメソッドは「脅威のフレーム」であり、その場面を国家への危険として位置づけていました。ナラティブは欧州連合を外部の敵とし、地元の人々を包囲された集団として描いていました。ポラリゼーションの次元は、メッセージがいかに世界を脆弱な「我々」と脅威となる「彼ら」に分断しているかを示しました。そして最後に、インフルエンス・オブジェクトは、特定の政治的投票への後押しであることが明確に特定されました。これらの要素を分離することで、研究者は、真実の画像がいかにして特定の政治的結果を導くために利用されているかを正確に把握することができました。これは、分析が嘘を探すことや作者の意図を推測することだけに終始していれば、見落とされてしまうニュアンスです。
システムの堅牢性を確保するため、研究者たちは各次元が本当に必要であり、他の次元で代替できないことを検証しました。彼らは、用いられたメソッドを知ることは、語られている物語を知ることにはならないし、トピックを知ることは、目標を知ることにはならないことを示しました。例えば、移民に関する2つのメッセージは、全く同じ感情的な戦術を用いているかもしれませんが、一方は投票率を高めることを目的とし、もう一方は政府機関への信頼を破壊することを目的としているかもしれません。物語や集団のポジショニング、そして目標のための独立した次元がなければ、これらの決定的な違いは見えなくなってしまいます。また、研究者たちは、彼らのシステムの論理が整合していることを確認するために、形式的なコンピュータ・チェックも行い、基本的な証拠から高次のラベルを導き出すためのルールが一貫しており、破綻がないことを確認しました。
この新しいフレームワークは、メッセージが真実か偽りかを判断するためのツールでもなければ、誰がそれを作成したか、あるいは実際に誰かの心を変えたかを証明する方法でもありません。これは測定ツールであり、影響力のアーキテクチャを記述し、研究、比較、理解できるようにするためのものです。研究者たちは、このシステムを毎日生成される何百万ものメッセージに適用するには、人間がプロセスを導き、結果をチェックしながら、コンピュータに重労働をさせる必要があることを認めています。また、このシステムは主に英語の政治的事例を用いて開発されたものであり、他の文化に適応させるには、現地の合図や規範を理解するための慎重な作業が必要であるとも述べています。しかし、核心となる洞察は変わりません。人工知能の時代において、私たちがどのように影響を受けているかを理解するためには、真実という問いを超えて、メッセージの「構造」そのものを検証しなければならないということです。影響力の「形式」をマッピングすることで、私たちはカーテンの背後にある仕組みを把握し、単なる事実の表明と、私たちを動かすために精巧に構築された道具としてのメッセージを区別することができるようになるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。