On the Concept of Violence: A Comparative Study of Human and AI Judgments

Diese Studie vergleicht systematisch menschliche Urteile und Klassifizierungen durch Large Language Models in 22 moralisch ambivalenten Szenarien, um zu untersuchen, wie KI-Systeme das mehrdeutige Konzept von Gewalt operationalisieren und dabei menschliche Interpretationen in singuläre Outputs transformieren, was weitreichende Implikationen für die epistemische Rolle von KI bei der Gestaltung sozialer Normen hat.

Das Wesentliche

🎙️ Der große Streit: Was ist eigentlich Gewalt?

Stell dir vor, du sitzt in einer Radiosendung und der Moderator stellt eine knifflige Frage: „Ist das hier Gewalt?"

Die Forscher haben genau das gemacht. Sie haben 22 verschiedene Situationen gesammelt – von jemandem, der einen Polizisten schlägt, bis hin zu jemandem, der im Internet jemanden beleidigt oder eine Person ignoriert. Dann haben sie zwei Gruppen gefragt, ob diese Dinge „Gewalt" sind:

1. Die Menschen: Über 3.000 Radiohörer haben abgestimmt.
2. Die KI-Modelle: 18 verschiedene künstliche Intelligenzen (wie Chatbots) wurden mit denselben Fragen konfrontiert.

Das Ziel war herauszufinden: Denken Menschen und Maschinen auf die gleiche Weise über Gewalt nach?

🤖 Der KI-Mechanismus vs. 🧠 Der menschliche Verstand

Man könnte sich die KI wie einen sehr strengen, aber etwas verwirrten Bibliothekar vorstellen, der versucht, Bücher in Regale zu stecken.

• Die Menschen sind wie eine lebendige Diskussion in einer Bar. Sie sagen: „Naja, es kommt darauf an!" (Das ist die Kategorie „depend-on" / „kommt darauf an"). Wenn jemand jemanden im Internet beleidigt, denken viele Menschen: „Das ist hart, aber ist es echte Gewalt? Vielleicht kommt es auf den Kontext an."
• Die KI hingegen mag keine Grauzonen. Sie ist wie ein Roboter, der nur „Ja" oder „Nein" sagen darf. Wenn sie unsicher ist, versucht sie, die Unsicherheit zu beseitigen und eine klare Entscheidung zu treffen.

🔍 Was haben sie herausgefunden?

Die Studie hat drei spannende Dinge ans Licht gebracht:

1. Die KI ist „zu sicher" in ihren Antworten
Wenn Menschen unsicher sind, sagen sie oft: „Es kommt darauf an." Die KI sagt das viel seltener. Sie neigt dazu, Grauzonen in klare Kategorien zu pressen.

• Beispiel: Wenn jemand jemanden im Internet beleidigt, sagen fast alle Menschen: „Das ist Gewalt!" (weil es weh tut). Die KI sagt oft: „Nö, das ist keine Gewalt" (weil niemand körperlich verletzt wurde). Die KI denkt also eher an Fäuste, während Menschen auch an Worte denken, die wehtun.

2. Die KI ist manchmal zu streng, manchmal zu locker
Es gab einen Fall, bei dem ein Moderator jemanden unterbrach, der eine Gewaltandrohung machte.

• Menschen sagten: „Keine Gewalt, weil er ja gar nicht reden durfte!" (Die Tat wurde verhindert).
• Die KI sagte oft: „Das ist Gewalt!" (weil die Absicht und die Worte da waren, auch wenn sie unterbrochen wurden).
  Die KI bewertet also eher die Worte, die Menschen bewerten eher das Ergebnis.

3. Größe ist nicht alles
Man dachte vielleicht, je „klüger" (größer) die KI ist, desto besser versteht sie die menschliche Moral. Das stimmt nicht ganz. Eine kleine KI konnte manchmal besser urteilen als eine riesige. Es kommt weniger auf die Größe an, sondern darauf, wie die KI „erzogen" wurde (welche Regeln sie gelernt hat).

💡 Die große Gefahr: Der glatte Antwort-Generator

Warum ist das wichtig? Stell dir vor, du hast ein Problem und fragst einen Chatbot: „Ist das, was mein Kollege gesagt hat, Gewalt?"

• Früher (Suchmaschinen): Du hast 10 verschiedene Links bekommen. Du musstest selbst lesen, vergleichen und entscheiden. Da war klar: „Hier gibt es verschiedene Meinungen."
• Heute (KI): Der Chatbot gibt dir eine einzige, glatte, selbstbewusste Antwort. Er klingt wie ein Experte.

Das Problem: Die KI verschleiert die Unsicherheit. Sie sagt nicht: „Das ist kompliziert, manche sagen ja, manche nein." Sie sagt: „Das ist Gewalt" (oder eben nicht).
Wenn wir das glauben, beginnen wir, die KI wie einen Richter zu behandeln. Aber die KI ist eigentlich nur ein Statistik-Programm, das Muster erkennt. Sie hat kein Gewissen und versteht die Nuancen des menschlichen Lebens nicht wirklich.

🎯 Fazit in einem Satz

Die Studie zeigt uns, dass KI zwar gut darin ist, offensichtliche Fälle zu erkennen (wie einen Schlag ins Gesicht), aber oft scheitert, wenn es um die komplexen, grauen Zonen der menschlichen Moral geht – und das ist gefährlich, wenn wir ihr blind vertrauen, als wäre sie ein Weiser.

Die Lehre: Vertraue der KI nicht als moralischem Richter, sondern nutze sie als Werkzeug, das man kritisch hinterfragen muss – besonders wenn es um Dinge geht, die „komplex" sind.

Technische Zusammenfassung

1. Problemstellung und Motivation

Das Paper adressiert die fundamentale Frage, wie Large Language Models (LLMs) das komplexe und mehrdeutige Konzept von „Gewalt" operationalisieren, im Vergleich zu menschlichen Urteilen. Während physische Aggression als prototypische Gewalt gilt, ist die Einordnung von symbolischen Handlungen, Ausgrenzung, Online-Belästigung oder sprachlicher Aggression gesellschaftlich umstritten.
Da LLMs zunehmend als kognitive Begleiter und Moderatoren in alltäglichen ethischen Dilemmata eingesetzt werden, besteht die Sorge, dass diese Systeme menschliche moralische Pluralität vereinfachen oder durch ihre Trainingsdaten und Sicherheitsalignments (Guardrails) verzerrte Normen etablieren. Die Studie untersucht, ob LLMs menschliche Konzepte reproduzieren, umgestalten oder vereinfachen und wie sie mit moralischer Ambiguität umgehen.

2. Methodik

Studiendesign und Datenerhebung:

• Human-Daten: Es wurden 22 absichtlich provokative Sätze erstellt, die vier thematische Domänen abdecken: verbale Ausdrücke (6), symbolische Handlungen (5), interpersonale Dynamiken (7) und Handlungen durch Unterlassung/Ausgrenzung (4).
  • Die Daten wurden über eine anonyme Google-Forms-Umfrage im Rahmen einer Radiosendung („Chiacchiericcio" auf Radio Deejay) gesammelt.
  • Stichprobe: Über 3.000 Teilnehmer pro Satz (insgesamt ca. 73.335 Urteile).
  • Kategorien: Die Teilnehmer mussten jeden Satz in eine von drei Kategorien einordnen: „Gewalt", „keine Gewalt" oder „hängt davon ab" (kontextsensitiv).
• KI-Daten:
  • Modelle: Ein heterogenes Set von 18 Open-Weight-LLMs wurde verwendet (u.a. LLaMA-Varianten, Mistral, Qwen, Phi-3, Gemma, Nous-Hermes). Die Modelle variieren stark in Parametern (1B bis >10B), Architektur und Trainingsstrategie (Instruction-Tuning, RLHF).
  • Prompting: Alle Modelle erhielten denselben strikten Prompt (Algorithmus 1), der sie zwang, genau eine der drei Kategorien ohne Begründung oder Markdown in einem JSON-Format auszugeben, um Verzerrungen durch Erklärungen zu minimieren.
  • Filterung: Zwei Modelle (phi3:mini, gemma3:4b) wurden ausgeschlossen, da sie keine gültigen Klassifikationen lieferten.

Statistische Analyse:

• Vergleich: Chi-Quadrat-Unabhängigkeitstests (2×3 Kontingenztabellen) für globale und satzweise Vergleiche zwischen Mensch und KI.
• Korrektur: Benjamini–Hochberg-Verfahren zur Kontrolle der False Discovery Rate (FDR) bei multiplen Tests.
• Konsens: Berechnung von Fleiss' Kappa für die Inter-Modell-Übereinstimmung und Spearman-Korrelation für die Übereinstimmung zwischen menschlichem und KI-Konsens.
• Modell-Analyse: Untersuchung des Einflusses von Parametergröße und Modellfamilie auf die Genauigkeit (Alignment mit der menschlichen Mehrheitsmeinung).

3. Wichtige Ergebnisse

Globale Verteilung:

• Menschen: Klassifizierten 72,3 % der Szenarien als „Gewalt", 13,9 % als „hängt davon ab" und 13,8 % als „keine Gewalt".
• KI: Zeigte eine signifikante Verschiebung: 71,9 % „Gewalt", aber nur 9,4 % „hängt davon ab" und 18,8 % „keine Gewalt".
• Schlussfolgerung: KI-Modelle neigen dazu, die Kategorie „hängt davon ab" (kontextuelle Ambiguität) zu unterdrücken und Urteile in binärere Kategorien („Gewalt" oder „keine Gewalt") zu komprimieren.

Satzspezifische Diskrepanzen (Signifikante Abweichungen bei 9 von 22 Sätzen):

1. Verbaler Missbrauch & Online-Harassment (Sätze 10, 11, 13): Hier war die Diskrepanz am größten. Menschen sahen Online-Beleidigungen und koordinierte Hasskommentare fast einhellig als Gewalt (ca. 90–93 %). Die KI klassifizierte dies jedoch nur zu ca. 50–56 % als Gewalt, oft als „keine Gewalt".
   • Interpretation: KI-Modelle scheinen ein engeres Gewalt-Prototyp zu haben (fokussiert auf physische Gewalt), während Menschen psychologische und reputative Schäden im digitalen Raum stärker gewichten.
2. Unterbrochene Gewaltaufrufe (Satz 20): Wenn ein Moderator einen Gast unterbricht, der zu physischer Eliminierung aufruft, stuften Menschen dies selten als Gewalt ein (27,2 %), da die Handlung unterbunden wurde. Die KI stuft dies jedoch häufiger als Gewalt ein (81,3 %).
   • Interpretation: KI gewichtet den semantischen Inhalt und die Absicht stärker als den tatsächlichen Ausgang oder die situative Unterbrechung.
3. Stare auf dem Bus (Satz 7): Menschen sahen dies eher als potenziell belästigend (45,5 % Gewalt), während die KI dies oft als „keine Gewalt" (50 %) einstufte.

Modell-Interne Dynamik:

• Konsens: Die Übereinstimmung zwischen den verschiedenen KI-Modellen war bei den umstrittensten Sätzen (wo sie sich von Menschen unterschieden) am niedrigsten (durchschnittlich 63,9 %).
• Parametergröße: Es gab keine monotone Korrelation zwischen der Anzahl der Parameter und der Genauigkeit des menschlichen Urteils. Kleinere Modelle (z.B. Llama 3.2 1B) hatten eine sehr niedrige Übereinstimmung (18,2 %), während mittlere Modelle (z.B. Llama 3.2 3B) die höchste Übereinstimmung (81,8 %) erreichten.
• Domänen: Die Übereinstimmung war bei „Interpersonale Dynamiken" höher als bei „Verbalen Ausdrücken".

4. Hauptbeiträge und Erkenntnisse

• Operationalisierung von Ambiguität: LLMs neigen dazu, moralische Unsicherheit zu eliminieren. Sie ersetzen die menschliche Kategorie „hängt davon ab" durch definitive Kategorien, was zu einer „algorithmischen Konsistenz" führt, die menschliche Pluralität nicht abbildet.
• Unterschiedliche Gewalt-Definitionen: KI-Modelle definieren Gewalt oft enger (physisch/direkt), während Menschen Gewalt auch in symbolischen, reputativen und digitalen Kontexten erkennen. Umgekehrt neigt KI dazu, reine Absicht (ohne Ergebnis) stärker zu bestrafen als Menschen, die den Kontext (z.B. Unterbrechung) einbeziehen.
• Epistemische Gefahr: Da LLMs flüssige, autoritative Antworten geben, neigen Nutzer dazu, diese als objektive moralische Urteile zu akzeptieren, anstatt als probabilistische Mustererkennung. Dies kann zu einer „Reifikation" (Verdinglichung) von KI-Antworten führen, die Unsicherheit und Meinungsverschiedenheiten verschleiert.
• Kein Skalierungseffekt: Die Fähigkeit, menschliche moralische Nuancen zu erfassen, hängt nicht primär von der Größe des Modells ab, sondern von Feinabstimmungsstrategien (Instruction Tuning, Safety Alignment).

5. Bedeutung und Implikationen

Die Studie zeigt, dass KI-Systeme nicht neutral sind, sondern spezifische, oft vereinfachende Konzepte von Normen und Gewalt in sich tragen.

• Für die Gesellschaft: Da KI zunehmend als Moderator und Ratgeber fungiert, besteht die Gefahr, dass gesellschaftliche Debatten über Gewalt und Grenzen durch die „glatten", aber verzerrten Antworten der KI homogenisiert werden.
• Für die KI-Entwicklung: Es ist notwendig, Transparenz über die Unsicherheit von Modellen zu schaffen und Nutzer für die probabilistische Natur dieser Systeme zu sensibilisieren. Modelle sollten nicht als moralische Schiedsrichter, sondern als Werkzeuge mit spezifischen, zu hinterfragenden Grenzen behandelt werden.
• Limitationen: Die menschliche Stichprobe war auf ein spezifisches Radiopublikum beschränkt (keine repräsentative Demografie), und die Anzahl der getesteten Modelle war begrenzt. Dennoch liefert die Studie einen strukturellen Einblick in die Unterschiede zwischen menschlicher und maschineller Moralität.

Zusammenfassend warnt das Paper davor, KI-Urteile unkritisch zu akzeptieren, da sie menschliche Komplexität und Kontextabhängigkeit oft zugunsten einer scheinbaren Klarheit opfern.