Testing Hypotheses from the Social Approval Theory of Online Hate: An Analysis of 110 Million Messages from Parler
本研究は、1億1000万件のParlerにおけるメッセージを分析することで、社会的承認（アップボート）が、短期的には負の行動を抑制する一方で長期的にはそれを増大させるという、複雑かつ時間依存的な方法でオンライン上のヘイトや有害性を予測すること、そして社会的非難（ダウンボート）がこれらの影響を緩和し、長期的な有害性を減少させることを実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
インターネットを、誰もが叫んだり、ささやいたり、看板を掲げたりしている、巨大で混沌とした遊び場だと想像してみてください。このデジタル世界には、「オンライン・ヘイト（ネット上の憎悪）」と呼ばれる現象があります。これは、人々がその人の属性に基づいて、他人に対して意地悪で傷つくようなことを言う現象です。長い間、科学者たちは、こうした憎悪を投稿する人々は単なる「悪意ある行為者」であり、ただ楽しむために他人を傷つけたいと考えている、怒りっぽい性格の持ち主であると考えてきました。しかし、「社会的承認理論（Social Approval Theory）」と呼ばれる新しい考え方は、異なる可能性を示唆しています。つまり、人々は単に誰かを傷つけるために意地悪をしているのではなく、反応を得るために意地悪をしているのではないか、というものです。学校の校庭で、誰かを嫌っているからではなく、友達に笑ったり歓声を上げさせたりするために噂を流す子供のようなものです。この理論において、「歓声」とは、アップボート（高評価）や「いいね」といったデジタルの信号を指します。ここで大きな疑問が生じます。 「歓声」をもらうことは、次にさらにひどいことを言いたいという欲求をかき立てるのでしょうか？ これは非常に重要な問いです。なぜなら、もし人々がなぜ憎悪を広めるのかという理由を知ることができれば、それを止めるためのより良い方法を設計できるかもしれないからです。
この論文は、その問いに答えるために膨大なデータを探求する、壮大な探偵物語です。研究者のデビッド・マルコウィッツとサミュエル・ハードマン・テイラーは、2018年から2021年にかけて人気があった「Parler」という特定のソーシャルメディア・サイトに注目しました。彼らは、発言に対するルールがほとんどなかったことで知られるこのプラットフォームから、驚愕の1億1,000万件ものメッセージを分析しました。彼らは、憎悪に満ちたメッセージに対してアップボートを得ることが、実際にその後の憎悪の投稿を増やすのか、それとも減らすのかを調べたかったのです。
以下に彼らの発見を記しますが、それは単純な「イエス」か「ノー」では済まない、より複雑なものです。
まず、タイミングについて見てみました。憎悪に満ちた投稿に対してアップボートを得た場合、その人はすぐにまた憎悪を投稿するのでしょうか？ 驚くべきことに、答えは「ノー」でした。実際、アップボートを得た直後は、人々は次のターンで再び憎悪に満ちたメッセージを投稿する可能性がむしろ低くなっていました。まるで「歓声」が彼らを一時的に満足させ、一休みさせたかのようです。しかし、少し時間が経過すると話は変わります。研究者が「1週間」というスパンで調査したところ、アップボートは磁石のように作用し始めました。憎悪に満ちた投稿に対してアップボートを得た人々は、続く1週間のうちに、より多くの憎悪を投稿する傾向がありました。アップボートという「報酬」は即座に効いてくるのではなく、心の中に蓄積されるまでに少し時間がかかり、それが再びやりたいという衝動を引き起こすようです。
ただし、メッセージの種類によって大きく異なります。研究者たちはデータを、「投稿（全員のフィードに放送される、看板のようなメッセージ）」と「コメント（会話のスレッド内に書かれるメッセージ）」の2つのカテゴリーに分けました。
- 投稿の場合： アップボートは、次の1週間にわたって憎悪の投稿を増やさせましたが、その効果は1ヶ月後には消えてしまいました。
- コメントの場合： パターンはさらに奇妙でした。憎悪に満ちたコメントへのアップボートは、その直後のコメントでは憎悪を減らす方向に働きましたが、その後1週間では憎悪を増やしました。しかし、長期的な視点（3〜6ヶ月）で見ると、即時的な効果は逆転し、憎悪を減らす予測因子となりました。しかし決定的なのは、全ユーザーを通じた全体像を見たとき、憎悪に満ちたコメントに対してより多くのアップボートを受け取った人々は、時間の間隔に関わらず、長期的にはより多くの憎悪を生み出す傾向があったことです。それは、アップボートが憎悪への短いエネルギーの爆発を与える一方で、一貫して最も多くの承認を得ている人々こそが、時間をかけて最も多く憎悪を投稿し続けている人々であった、ということです。
また、研究者たちは「トキシシティ（毒性）」についても調べました。これは、単なる憎悪だけでなく、単に失礼であったり無礼であったりする度合いを測る指標です。彼らは、コメントにおいて、アップボートが短期的（次の1週間）には人々をより毒性のあるものにさせるものの、投稿についてはそうではないことを発見しました。
最後に、彼らはこう問いかけました。「もし『歓声（アップボート）』と『ブーイング（ダウンボート）』の両方を受け取ったらどうなるのか？」 社会的承認理論は、たとえブーイングされても、もし仲間があなたを応援してくれれば、あなたはやり続けるだろうと示唆しています。しかし、データは別のものを示していました。アップボートと共にダウンボートも受け取った場合、「歓声」の効果はそれほど高くありませんでした。ダウンボートは、意地悪をしたいという動機を打ち消すように見えたのです。それは、もしあなたがジョークを言い、部屋の半分が笑い、もう半分がうなり声を上げたとしたら、あなたはすぐには次のジョークを言わないだろう、という状況に似ています。研究は、アップボートは短期的には憎悪を煽ることができる一方で、ダウンボートは実際にその火を抑え、承認を得ることと憎悪を投稿することの結びつきを弱めることができる、ということを示唆しています。
では、まとめるとどうなるでしょうか？ 「人々は単に他人を傷つけるために意地悪をしているだけだ」という考えは、物語のすべてではありません。この研究は、社会的承認はオンラインの憎悪を駆動するが、それは即座に爆発するものではなく、ゆっくりと燃え広がる火であることを示唆しています。「歓声」が積み重なり、誰かにまた嫌なことを言わせたいと思わせるまでには、時間がかかるのです。そして興味深いことに、歓声とブーイングの両方を得ることは、少なくともしばらくの間は、そのサイクルを止める助けになるかもしれません。研究者たちは、これはあくまでこの特定のデータセットで「測定された」ものであると慎重に述べており、これらの感情が正確にどのように時間の経過とともに蓄積していくのかを理解するためには、さらなる研究が必要であるとしています。しかし、一つ明らかなことは、インターネット上では、私たちが互いにどう反応するか――それが親指を立てる合図であれ、親指を下に向ける合図であれ――が、次に何を語るかを形作っている、ということです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。