On the Concept of Violence: A Comparative Study of Human and AI Judgments

この論文は、物理的暴力から社会的排除まで多様なシナリオにおける人間と大規模言語モデル（LLM）の判断を比較分析し、曖昧な道徳的概念をどのように処理するかを通じて、AI が日常における harm や規範の解釈をどのように形成・変容させるかを明らかにするものである。

要約

AI と人間は「暴力」をどう見ているか？

～ラジオの番組から始まった、驚くべき比較実験の物語～

この論文は、**「暴力とは何か？」**という難しい問いを、人間と最新の AI（人工知能）がどう答えるかを比べた面白い研究です。

まるで**「AI という新しい住人が、人間の社会ルールをどう理解しているか」**を試すような実験でした。

---

1. 実験の舞台：ラジオの「道德のテスト」

この研究のきっかけは、イタリアのラジオ番組『Chiacchiericcio（チャキリッチョ）』での出来事でした。

ホストがリスナーに**「22 のシチュエーション」**を提示し、「これは暴力？非暴力？それとも状況による？」と尋ねました。
例えば、

• 「バスで知らない人をじっと見つめる」
• 「SNS で他人に侮辱的なコメントをする」
• 「デモ隊が警察を殴る」
• 「あるグループを物理的に排除すべきだと言う発言を、司会者が途中で遮った」

など、単純な暴力から、言葉の暴力、あるいは「状況次第」のグレーゾーンまで含まれていました。
3,000 人以上のリスナーが答え、その結果は**「人間は意見がバラバラだ」**という驚くべきものでした。ある人にとっては「明らかな暴力」でも、別の人にとっては「冗談」や「状況による」と捉えられていたのです。

2. 対戦相手：18 種類の「AI 脳」

次に、研究者たちは 18 種類の異なる AI モデル（Llama, Mistral, Qwen など、サイズも性格も違う）に、同じ 22 の質問を投げかけました。
AI は人間のように感情や経験を持たず、**「学習したデータとルール」**だけで答える存在です。

3. 驚きの結果：AI と人間の「ズレ」

結果は、**「AI と人間は、暴力の定義で大きく食い違っていた」**というものでした。

🍎 アナロジー：AI は「硬い箱」、人間は「柔らかい粘土」

• 人間（柔らかい粘土）：
  人間は「文脈」や「空気」を重視します。「SNS での侮辱」は、物理的な暴力ではないけれど、心の痛みを与える「暴力」だと感じる人もいれば、単なる「言葉の応酬」だと感じる人もいます。人間は**「状況による（Depend-on）」**という曖昧な答えを多く選びました。
• AI（硬い箱）：
  AI は**「白か黒か」**を急ぐ傾向がありました。「状況による」という中間の答えを避け、無理やり「暴力」か「非暴力」のどちらかに分類しようとしたのです。
  • 例 1：ネットでの侮辱
    人間は「これは暴力だ！」と 9 割が判断しましたが、AI は「5 割しか暴力だと言わなかった」のです。AI は「殴る・蹴る」のような物理的な暴力を重視し、言葉の暴力を軽く見ていた可能性があります。
  • 例 2：暴力を煽る発言を「遮られた」話
    「ある人が暴力を煽ろうとしたが、司会者が止めた」というシチュエーション。人間は「止まったから暴力ではない」と考えましたが、AI は「発言そのものが暴力だ」と判断し、人間よりも多くを「暴力」としました。AI は**「結果」よりも「意図や言葉そのもの」**を重視する傾向が見えました。

4. なぜこんな違いが生まれたのか？

• AI の「安全装置」のせいか？
  AI は「有害なことを言わないように」と厳しく訓練されています。しかし、そのせいで**「曖昧なニュアンス」を排除し、単純化して答えようとする**癖がついているようです。
• 人間は「多様性」がある
  人間は文化や経験によって暴力の定義が変わりますが、AI は「平均的なデータ」や「安全基準」に基づいて、**「一つの正解」**を導き出そうとします。

5. 私たちが気をつけるべきこと

この研究が教えてくれる最大の教訓は、**「AI は『真理』を語る神様ではない」**ということです。

• AI は「自信満々」だが、中身は確率の計算
  AI は「これは暴力です！」と自信を持って答えますが、それは人間のような道徳観念ではなく、単に「学習データの中でこうなる確率が高い」と言っているに過ぎません。
• 「曖昧さ」を消さないで
  人間の社会には「グレーゾーン」や「文脈」が重要です。AI がその曖昧さを消して「正解」を出そうとするとき、私たちは**「本当にそれでいいのかな？」**と疑う必要があります。

まとめ：AI は「鏡」だが、歪んだ鏡

この研究は、AI が人間の社会をどう見ているかを映す**「歪んだ鏡」**のようなものです。
AI は物理的な暴力には敏感ですが、言葉の暴力や、状況によるニュアンスには少し鈍感です。

私たちが AI を使うときは、**「AI の答えを絶対の正義だと思わず、人間の判断と照らし合わせて、文脈を考える」**ことが大切だというメッセージが込められています。

---

一言で言うと：
「AI は『暴力』を物理的な殴り合いとしか考えず、言葉の暴力や『状況次第』という人間の複雑な感覚を、単純化して見落としてしまう傾向がある。だから、AI の判断を鵜呑みにせず、人間が『文脈』を大切に考える必要があるよ」というお話です。

技術概要

論文要約：暴力の概念に関する人間と AI の判断の比較研究

タイトル: On the Concept of Violence: A Comparative Study of Human and AI Judgments
著者: Mariachiara Stellato, Francesco Lancia, Chiara Galeazzi, Nico Curti
発表年: 2026 年（予定）

1. 研究の背景と課題 (Problem)

暴力の定義は自明ではなく、普遍的な合意が存在しません。物理的攻撃は典型的ですが、現代社会では排除、屈辱、オンラインハラスメント、象徴的行為などが同じ道徳的カテゴリーに分類されるべきかについて議論が続いています。

同時に、大規模言語モデル（LLM）が複雑な社会的行動の解釈やラベリングにおいて日常的に参照されるようになっています。しかし、これらのシステムが人間の暴力の概念を再現するのか、再構築するのか、あるいは単純化するのかは未解決の課題です。特に、LLM が曖昧な道徳的構成概念をどのように操作化し、多様な人間の解釈を単一の出力に変換するか、そしてそのプロセスが人間の認識とどのように異なるかを探求する必要があります。

2. 研究方法 (Methodology)

データ収集と設計

• シナリオ: 道徳的に分断を生じさせるよう意図的に設計された 22 のシナリオ（文）を使用しました。これらは以下の 4 つのテーマ領域に分類されます。
  1. 言語的表現（6 件）
  2. 象徴的・代表的行為（5 件）
  3. 対人・関係的ダイナミクス（7 件）
  4. 不作為、排除、無関心を含む行動（4 件）
• 人間のデータ: イタリアのラジオ番組『Chiacchiericcio』の聴衆を対象に、Google Forms を通じて匿名アンケートを実施しました。48 時間で 3,000 人以上の回答者が集まり、各シナリオに対して「暴力」「非暴力」「状況による（depend-on）」の 3 つのカテゴリーから選択させました。
• AI のデータ: 公開されている 18 種類の LLM（Ollama システムからサンプリング）を使用しました。これには Llama 3.x、Mistral、Qwen 2.5、Phi-3、Nous Hermes などのファミリーが含まれ、パラメータ数（1B〜10B+）やアライメント戦略（RLHF など）が異なります。
• プロンプト: 全てのモデルに対して、説明や正当化を禁止し、JSON 形式で単一のカテゴリーと信頼スコアを出力させる厳格なプロンプトテンプレートを使用しました。

統計分析

• 比較手法: 人間と LLM のラベル分布を比較するために、カイ二乗検定（独立性の検定）を使用しました。
• 多重比較補正: ベンジャミン・ホッヘンベルグ法（Benjamini–Hochberg）を用いて偽発見率（FDR）を調整しました。
• 一致度評価: フレイス・カッパ（Fleiss' kappa）でモデル間の合意度を、スピアマンの順位相関で人間と AI の合意度の相関を評価しました。

3. 主要な結果 (Results)

全体的な傾向

• 人間: 全シナリオの 72.3% を「暴力」と判断し、13.9% が「状況による」、13.8% が「非暴力」でした。
• LLM: 全体的には人間と同様に 71.9% を「暴力」と判断しましたが、「非暴力」の割合（18.8%）が人間（13.8%）より高く、「状況による」の割合（9.4%）が人間（13.9%）より低く出ました。
• 統計的有意差: 全体的な分布に有意な差（p = 0.0034）が認められました。AI は「状況による」という中間的な判断を避け、より二項対立的な（暴力/非暴力）結論へ圧縮する傾向が見られました。

シナリオ別の差異

22 のシナリオのうち 9 つで人間と AI の間に統計的に有意な差が認められました。

• 言語的表現（特にオンライン）: 個人への侮辱や集団によるハラスメント（シナリオ 10, 11, 13）において、人間は圧倒的に「暴力」と判断しましたが、AI は「非暴力」と判断する割合が有意に高かったです（例：シナリオ 10 で人間 90.7% vs AI 50.0%）。これは AI が物理的暴力に焦点を当て、デジタル上の心理的・名誉的侵害を過小評価する傾向を示唆しています。
• 中断された暴力扇動: 放送で暴力扇動をしようとしたゲストをホストが遮ったシナリオ（シナリオ 20）では、AI は「暴力」と判断する割合（81.2%）が人間（27.1%）より大幅に高かったです。AI は「意図」や「内容」を重視し、人間は「結果（中断）」や「文脈」を重視する違いが浮き彫りになりました。
• 関係的ダイナミクス: 無視や無関心（シナリオ 7）については、AI は「非暴力」と判断する傾向が強かった一方、同意のない接触（シナリオ 8）は両者ともほぼ「暴力」と判断しました。

モデル間の特性

• パラメータ数との関係: モデルのサイズ（パラメータ数）と人間の判断との一致度（精度）の間には、単調な相関関係は見られませんでした。
• アライメントの影響: 中規模の指示調整済みモデル（例：Llama 3.2 3B）が最も高い一致度（81.8%）を示したのに対し、小規模モデル（Llama 3.2 1B）は一致度が低く（18.2%）、AI の判断はモデルサイズよりも微調整（Instruction Tuning）や安全性のアライメント戦略に強く依存していることが示唆されました。
• モデル間の合意: 人間と AI の不一致が生じるシナリオ（特に曖昧な文脈）では、AI モデル間での合意度も低下していました。

4. 主要な貢献と発見 (Key Contributions)

1. 概念の操作化の違いの解明: LLM は物理的暴力や直接的な意図には敏感ですが、社会的に構築された暴力（オンラインハラスメント、象徴的行為）や文脈依存型の判断（「状況による」）において、人間とは異なる基準を適用していることを実証しました。
2. 曖昧性の圧縮: LLM は人間の持つ「状況による」という中間的な道徳的判断を排除し、確定的なカテゴリー（暴力/非暴力）へ圧縮する傾向があることが分かりました。これは、AI が不確実性を許容せず、単一の答えを生成する構造的な特性に起因します。
3. モデルの多様性の確認: 全ての LLM が均一に振る舞うわけではなく、モデルファミリーや微調整の履歴によって「暴力」の定義が異なることを示しました。
4. 社会的影響の警告: 一般ユーザーが AI の出力を「権威ある判断」として受け取り、曖昧な文脈を無視して行動するリスクを指摘しました。

5. 意義と結論 (Significance)

本研究は、LLM が単なる情報検索ツールではなく、社会的規範や道徳的判断を形成する「社会的鏡」として機能し始めていることを示しています。

• 認識論的リスク: 従来の検索エンジンが多様な視点を提供するのに対し、LLM は曖昧さを排除した一貫した回答を生成するため、ユーザーはモデルの判断を絶対的な真理と誤認する危険性があります。特に、暴力のような文脈依存性の高い概念において、AI の「圧縮された判断」は誤った道徳的結論を導く可能性があります。
• 今後の課題: AI システムを社会実装する際には、その出力が確率的な推論に過ぎず、人間の多様な解釈や文脈を完全に捉えきれていないことを理解し、透明性と批判的関与を促すことが不可欠です。

結論として、LLM は明確なケースでは人間と合意しますが、暴力が間接的、象徴的、または文脈に依存する場合には予測可能な方法で逸脱します。この認識は、AI を倫理的仲裁者として使用する際の重要な限界を示しています。