Common Sense vs. Morality: The Curious Case of Narrative Focus Bias in LLMs

Die Studie CoMoral zeigt, dass aktuelle Large Language Models moralisches Denken oft über das gesunden Menschenverstand stellen und dabei eine narrative Verzerrung aufweisen, bei der sie logische Widersprüche eher bei Nebenfiguren als bei der Hauptfigur erkennen.

Das Wesentliche

Hier ist eine einfache Erklärung der Studie „Common Sense vs. Morality" auf Deutsch, verpackt in anschauliche Bilder und Vergleiche.

Das Grundproblem: Der übermoralische Roboter

Stell dir vor, du hast einen sehr intelligenten, aber etwas verunsicherten Roboter-Assistenten (einen sogenannten „Large Language Model" oder LLM). Dieser Roboter wurde trainiert, um höflich, fair und moralisch einwandfrei zu sein. Er soll niemanden verletzen und immer das „Richtige" tun.

Die Forscher haben jedoch eine seltsame Entdeckung gemacht: Der Roboter ist so sehr darauf bedacht, moralisch korrekt zu sein, dass er vergisst, wie die reale Welt funktioniert.

Es ist, als würde ein Sicherheitsbeamter an einem Flughafen so sehr darauf achten, dass niemand eine Waffe mitbringt, dass er vergisst zu prüfen, ob jemand überhaupt ein Ticket hat oder ob die Person vor ihm überhaupt existiert. Er ist so auf die „Moral" fixiert, dass der „gesunde Menschenverstand" (Common Sense) in den Hintergrund gedrängt wird.

Der Test: Die „CoMoral"-Landkarte

Um das zu beweisen, haben die Forscher eine neue Art von Test entwickelt, den sie CoMoral nennen.

Stell dir vor, sie erzählen dem Roboter eine Geschichte, die wie ein kleines Rätsel ist. In der Geschichte gibt es ein moralisches Dilemma (eine schwierige Entscheidung), aber gleichzeitig steckt ein offensichtlicher Fehler in der Physik oder Logik der Welt.

Ein Beispiel aus dem Papier:

• Die Geschichte: Jemand sitzt im Garten bei „neumondigem Mondschein" (New Moon Moonlight).
• Der Fehler: Bei einem Neumond gibt es kein Mondlicht, weil die dunkle Seite des Mondes zur Erde zeigt. Das ist physikalisch unmöglich.
• Die Frage: „Soll ich draußen bleiben oder reingehen?"

Was passiert?
Wenn der Roboter die Frage einfach so beantwortet, ignoriert er fast immer den physikalischen Fehler. Er denkt: „Oh, was für eine schöne, friedliche Szene! Bleib doch draußen!" Er ist so damit beschäftigt, die Stimmung der Geschichte zu würdigen (moralisch/emotional), dass er den logischen Unsinn übersieht.

Erst wenn die Forscher ihm explizit sagen: „Achtung! Prüfe, ob hier etwas Unsinniges passiert!", springt er auf und sagt: „Moment mal! Bei Neumond gibt es kein Licht!"

Das große Rätsel: Wer ist der Held? (Der „Erzähler-Bias")

Das ist der spannendste Teil der Studie. Die Forscher haben zwei Versionen derselben Geschichte getestet:

1. Version A (Der Erzähler): Die Person, die die Geschichte erzählt („Ich"), macht den Fehler.
   • Beispiel: „Ich sitze im Garten bei Neumond-Mondschein..."
   • Reaktion des Roboters: Er glaubt dem Erzähler blind. Er denkt, der Erzähler muss ja wissen, was er tut. Er ignoriert den Fehler.
2. Version B (Die Nebenfigur): Die Person, die die Geschichte erzählt, beschreibt einen anderen Menschen, der den Fehler macht.
   • Beispiel: „Meine Tante sitzt im Garten bei Neumond-Mondschein..."
   • Reaktion des Roboters: Plötzlich wird er hellwach! „Oh, deine Tante irrt sich! Bei Neumond gibt es kein Licht!"

Die Metapher:
Stell dir vor, du sitzt in einem Kino.

• Wenn der Hauptdarsteller auf der Leinwand eine unmögliche Sache tut (z. B. durch eine Wand läuft), denkt das Publikum: „Wow, cool, Spezialeffekte!" oder „Das ist die Handlung."
• Wenn aber ein Nebendarsteller im Hintergrund durch eine Wand läuft, denkt das Publikum: „Moment, das ist doch Unsinn! Da stimmt was nicht!"

Die Roboter haben einen „Erzähler-Bias" (eine Voreingenommenheit gegenüber dem Erzähler). Sie behandeln das, was der „Ich"-Charakter sagt, wie eine unantastbare Wahrheit, während sie Fehler bei anderen sofort bemerken. Sie vertrauen dem „Helden" der Geschichte zu sehr.

Was bedeutet das für uns?

Die Studie zeigt uns drei wichtige Dinge:

1. Moral ist nicht alles: Wenn wir KI-Systeme zu sehr darauf trainieren, „nett" und „moralisch" zu sein, verlieren sie vielleicht ihren Verstand. Sie werden zu Höflichkeitsrobotern, die keine offensichtlichen Lügen oder physikalischen Unmöglichkeiten mehr erkennen.
2. Sie brauchen einen Stoß: Diese Roboter können logisch denken, aber sie müssen erst „aufgefordert" werden, ihre Brille zu wechseln. Ohne den expliziten Befehl „Prüfe auf Fehler" schauen sie nur auf die Moral.
3. Vertrauen ist trügerisch: Nur weil eine KI eine Geschichte aus der Ich-Perspektive erzählt, heißt das nicht, dass sie alles richtig versteht. Sie könnte uns glatt etwas Unmögliches verkaufen, nur weil sie dem Erzähler vertraut.

Fazit

Die Forscher wollen damit sagen: Wir müssen KI-Systeme nicht nur zu „guten Menschen" erziehen, sondern auch zu „klugen Beobachtern". Ein guter Assistent muss nicht nur höflich sein, sondern auch wissen, dass es bei Neumond dunkel ist – egal, wer ihm das Gegenteil erzählt.

Sie haben einen neuen Test (CoMoral) erstellt, um genau diese Schwäche zu messen und hoffentlich in Zukunft KI-Modelle zu bauen, die sowohl moralisch als auch logisch wachsam sind.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Common Sense vs. Morality: The Curious Case of Narrative Focus Bias in LLMs" auf Deutsch:

1. Problemstellung

Große Sprachmodelle (LLMs) werden zunehmend in sicherheitskritischen Bereichen wie der psychologischen Beratung eingesetzt, was eine hohe Vertrauenswürdigkeit erfordert. Während viel Forschung in die ethische Ausrichtung (Alignment) und Sicherheitsvorkehrungen (Guardrails) fließt, wurde bisher wenig untersucht, wie sich diese Ausrichtung auf die grundlegenden Common-Sense-Reasoning-Fähigkeiten auswirkt.

Die Autoren identifizieren ein kritisches Defizit: Aktuelle LLMs neigen dazu, moralische Überlegungen über das Common-Sense-Verständnis zu stellen. In moralischen Dilemmata ignorieren Modelle oft offensichtliche logische oder physikalische Widersprüche, um eine „faire" oder ethisch korrekte Antwort zu geben. Zudem fehlt es an einem systematischen Verständnis dafür, wie die Erzählperspektive (wer handelt im Szenario?) die Erkennung solcher Widersprüche beeinflusst.

2. Methodik

A. Der CoMoral-Datensatz

Um dieses Phänomen zu untersuchen, stellen die Autoren CoMoral vor, einen neuartigen Benchmark-Datensatz.

• Aufbau: Der Datensatz enthält 802 Szenarien, die moralische Dilemmata mit eingebetteten Common-Sense-Widersprüchen kombinieren.
• Kategorien: Die Widersprüche decken verschiedene Bereiche ab: physisch (z. B. Sonne geht im Westen auf), biologisch, temporal, sozial, umweltbezogen, konzeptionell und unrealistisch.
• Dualität der Charaktere: Ein entscheidendes Designmerkmal ist die Unterscheidung zwischen zwei Fällen pro Szenario:
  1. Primärer Charakter (Erzähler): Der Widerspruch betrifft den Erzähler („Ich").
  2. Sekundärer Charakter: Der Widerspruch betrifft eine andere Figur im Szenario (z. B. „Meine Tante...").
• Generierung: Die Daten wurden semi-automatisch mit einem instruct-getunten LLaMa 70B generiert und durch manuelle Validierung (zwei Annotatoren) auf Kohärenz und Qualität geprüft.

B. Experimentelles Setup

• Modelle: Es wurden 10 verschiedene LLMs getestet (Families: LLaMa, Qwen, Gemma) mit Parametern von 0,5B bis 8B.
• Prompting-Strategien:
  • Implizit: Das Modell wird gebeten, auf die Frage im Szenario zu antworten, ohne explizit nach Widersprüchen zu suchen.
  • Explizit: Das Modell wird angewiesen, logische Widersprüche im Szenario zu identifizieren und zu beschreiben.
• Evaluation: Die Antworten wurden mit einem „LLM-as-a-Judge"-Ansatz (GPT OSS 120B) bewertet, um zu prüfen, ob das Modell den Ground-Truth-Widerspruch korrekt erkannt hat.

3. Wichtige Beiträge

1. Neue Aufgabe: Einführung einer Aufgabe, die die Reaktionsdifferenz eines Modells auf identische Common-Sense-Widersprüche untersucht, je nachdem, ob diese vom Erzähler oder einem sekundären Charakter stammen.
2. CoMoral-Benchmark: Bereitstellung eines Datensatzes mit 802 Instanzen, der speziell darauf ausgelegt ist, die Spannung zwischen moralischer Ausrichtung und logischem Verständnis zu testen.
3. Entdeckung des „Narrative Focus Bias": Erste systematische Identifizierung und Dokumentation eines Verzerrungseffekts, bei dem LLMs Widersprüche bei sekundären Charakteren deutlich besser erkennen als bei dem primären Erzähler.

4. Ergebnisse

A. Schwierigkeit der impliziten Erkennung

Unter impliziten Bedingungen (ohne explizite Aufforderung) schneiden alle Modelle sehr schlecht ab (Accuracy oft unter 0,20). Dies deutet darauf hin, dass die ethischen Guardrails und das Alignment die Fähigkeit des Modells, grundlegende logische Fehler zu erkennen, unterdrücken oder überschreiben.

B. Effekt der expliziten Aufforderung

Bei expliziten Prompts („Finde den Widerspruch") verbessert sich die Leistung drastisch (bis zu +60 Prozentpunkte, z. B. LLaMa 8B erreicht ~0,85 Accuracy). Dies zeigt, dass die Modelle die Fähigkeit zum Common-Sense-Reasoning besitzen, diese aber nicht ohne gezielte Instruktion aktivieren.

C. Narrative Focus Bias (Kernergebnis)

Es wurde ein signifikanter Leistungsunterschied zwischen Primär- und Sekundärcharakteren festgestellt:

• Modelle erkennen Widersprüche bei sekundären Charakteren konsistent besser als bei primären Charakteren (dem Erzähler).
• Ursache: Die Autoren führen dies auf einen „Narrative Focus Bias" zurück. LLMs behandeln Aussagen des Erzählers oft als autoritativ oder faktisch wahr (ein Muster, das durch Trainingsdaten verstärkt wird), während sie bei anderen Charakteren skeptischer sind und logische Inkonsistenzen eher hinterfragen.
• Dieser Bias ist in allen Common-Sense-Kategorien (biologisch, physikalisch, etc.) sichtbar, wobei er bei faktischen Kategorien am stärksten ist.

D. Skalierung und Modellfamilie

• Größere Modelle (z. B. LLaMa 8B) performen generell besser, aber die Beziehung ist nicht immer linear, da auch die Trainingsdaten (Token-Anzahl, Qualität) eine Rolle spielen.
• Schwierigste Kategorien: Temporale und „Unreal"-Reasoning-Aufgaben bleiben auch bei expliziten Prompts die größte Herausforderung für die Modelle.

5. Bedeutung und Schlussfolgerung

Das Paper unterstreicht eine kritische Lücke in der aktuellen Entwicklung von LLMs: Die Priorisierung ethischer Ausrichtung geht oft zu Lasten des Common-Sense-Verständnisses.

• Vertrauenswürdigkeit: Ein Modell, das moralisch „sicher" ist, aber offensichtliche physikalische oder logische Unmöglichkeiten ignoriert (besonders wenn sie vom Nutzer selbst erzählt werden), ist nicht vertrauenswürdig und kann zu unangemessenen oder irreführenden Interaktionen führen.
• Bias-Erkennung: Der identifizierte „Narrative Focus Bias" zeigt, dass LLMs nicht neutral über alle Akteure in einem Text urteilen, sondern durch die Erzählperspektive voreingenommen sind.
• Zukunftsperspektive: Die Autoren fordern, dass zukünftige Trainingsmethoden (Instruction Tuning) nicht nur ethische Sensibilität, sondern auch die Robustheit des Common-Sense-Reasonings gewährleisten müssen. CoMoral dient als Werkzeug, um diese Balance zu messen und zu verbessern.

Zusammenfassend demonstriert die Arbeit, dass ethisches Alignment ohne gleichzeitige Stärkung der logischen und common-sense-basierten Reasoning-Fähigkeiten zu einem „blind spot" in der KI führen kann, der durch die Erzählperspektive noch verstärkt wird.