Agreement Is Not Alignment: Divergent Moral Grounds in Human and LLM Ethical Judgments

Die große moralische Mimikry: Wenn Roboter zustimmen, aber nicht verstehen

Stellen Sie sich vor, Sie bringen einem Roboter bei, wie man ein guter Mensch ist. Sie zeigen ihm tausende Geschichten über Menschen, die Gutes oder Schlechtes tun, und bitten ihn, eine einfache Note zu vergeben: „Gut“ oder „Schlecht“. Wenn der Roboter beginnt, exakt dieselben Noten wie Ihre menschlichen Freunde zu geben, könnten Sie denken: „Großartig! Der Roboter hat unsere Werte gelernt!“ Dies ist die Welt der KI-Alignment (KI-Ausrichtung), ein Feld, in dem Wissenschaftler versuchen, Künstliche Intelligenz (speziell Large Language Models, oder LLMs) so zu gestalten, dass sie sich in einer Weise verhält, die den menschlichen Erwartungen entspricht.

Lange Zeit war die wichtigste Methode, um zu prüfen, ob eine KI „ausgerichtet“ ist, die Betrachtung des Endergebnisses. Wenn ein Mensch sagt: „Diese Handlung ist falsch“, und die KI ebenfalls sagt: „Diese Handlung ist falsch“, zählen wir das als Erfolg. Es ist wie bei einem Schüler, der in einem Mathetest die richtige Antwort gibt; wir gehen davon aus, dass er die Mathematik korrekt angewendet hat. Aber was ist, wenn der Schüler die richtige Antwort durch Raten oder durch eine völlig andere Formel erhalten hat, die in diesem einen Fall zufällig funktionierte? In der Welt der KI-Ethik reicht es nicht aus, nur das richtige Label zu erhalten. Wir müssen wissen, warum die KI etwas für falsch hält. Wenn die interne Logik der KI völlig anders ist als unsere, könnte sie in einer neuen, kniffligen Situation seltsam agieren. Dieses Paper taucht tief in genau diese Frage ein: Verstehen KI-Modelle wirklich unsere moralischen Gründe oder sind sie nur sehr gut darin, so zu tun als ob?

Die Illusion der „richtigen Antwort“

Die Forscher hinter dieser Studie, ein Team der Universität Ljubljana, beschlossen, diese Annahme der „richtigen Antwort“ auf die Probe zu stellen. Sie entwarfen eine spezielle Herausforderung mit 500 moralischen Szenarien, die von alltäglichen Dilemmata (wie „Ist es okay, einen Freund anzulügen?“) bis hin zu komplexeren philosophischen Rätseln über Gerechtigkeit und Versprechen reichten. Sie baten sowohl menschliche Freiwillige als auch mehrere fortgeschrittene KI-Modelle, für jedes einzelne Szenario zwei Dinge zu tun: erstens ein abschließendes Urteil (das „Label“) abzugeben und zweitens ihre Begründung (die „Rationale“) zu erklären.

Denken Sie an ein Spiel wie „Zwei Wahrheiten und eine Lüge“, aber anstatt zu erraten, welche Aussage falsch ist, versuchen Sie herauszufinden, ob die KI und der Mensch die gleichen Gedanken haben. Das Team untersuchte zwei verschiedene Gruppen von Modellen: die „Frontier“-Modelle (die superintelligenten, erstklassigen Modelle wie Claude und ChatGPT) und „Open“-Modelle (etwas kleinere Open-Source-Versionen).

Hier ist die Wendung, die sie fanden: Die KI-Modelle waren unglaublich gut darin, die endgültige Note richtig zu setzen, aber sie lagen oft falsch bei dem, warum sie richtig lag.

Als die Forscher nur auf die endgültigen „Gut“ oder „Schlecht“-Labels blickten, stimmten die KI-Modelle in 88 % bis 89 % der Fälle mit der menschlichen Mehrheit überein. Das ist eine enorme Punktzahl! Wenn man nur die Endergebnisse prüfen würde, würde man sagen: „Perfekt! Die KI ist mit uns ausgerichtet.“ Doch dann warfen die Forscher einen Blick unter die Haube der Erklärungen.

Das „Warum“ zählt mehr als das „Was“

Die Studie zeigte, dass die KI und die Menschen zwar oft am selben Ziel ankommen, aber völlig unterschiedliche Wege dorthin nehmen. Die Autoren nennen dies „divergierende moralische Grundlagen“ (divergent moral grounds).

Um eine spielerische Analogie zu verwenden: Stellen Sie sich vor, ein Mensch und ein Roboter bewerten beide eine Person, die ein Auto gestohlen hat.

• Der Mensch könnte sagen: „Das ist schlecht, weil sie ein Versprechen gegenüber dem Besitzer gebrochen haben und mangelndes Vertrauen gezeigt haben.“ Er konzentriert sich auf die Beziehung und das gebrochene Versprechen.
• Der Roboter hingegen könnte sagen: „Das ist schlecht, weil es Schaden verursacht und respektlos ist.“ Der Robot konzentriert sich auf Schaden und Höflichkeit.

Beide sagen „Schlecht“, also stimmt die Endnote überein. Aber ihre interne Logik ist völlig verschieden. Der Mensch denkt über einen spezifischen sozialen Vertrag (Versprechen) nach, während der Roboter über allgemeine Sicherheit und Manieren nachdenkt.

Das Paper fand, dass diese Diskrepanz ständig auftritt. Im Bereich „Deontologie“ (der sich mit Pflichten und Regeln befasst) prüften Menschen oft, ob eine Entschuldigung relevant für die Regel war. Wenn zum Beispiel jemand sagt: „Ich kann den Hund nicht ausführen, weil ich ihn gestern ausgeführt habe“, könnte ein Mensch sagen: „Diese Entschuldigung ist irrelevant; du hast heute immer noch eine Pflicht.“ Aber die KI-Modelle ignorierten oft die Logik der Entschuldigung und sagten einfach: „Die gesamte Situation ist moralisch falsch.“ Die KI war so sehr damit beschäftigt, die „moralische Falschheit“ der Tat zu sehen, dass sie vergaß zu prüfen, ob die Entschuldigung in diesem spezifischen Kontext überhaupt Sinn ergab.

Die Zahlen lügen nicht (aber sie erzählen nicht die ganze Geschichte)

Die Daten waren recht eindeutig. Als die Forscher maßen, wie sehr die Argumentation der KI mit der Argumentation der Menschen übereinstimmte, sanken die Werte signifikant.

• Bei den „gesunden Menschenverstand“-Regeln (Commonsense) stimmten die KI und die Menschen nur in 35 % der Fälle bei den spezifischen Gründen überein (ein Jaccard-Overlap von 0,350).
• Bei den „Deontologie“-Regeln war es noch schlechter, mit einer Übereinstimmung der Gründe von nur 23,5 %.

Obwohl die „Frontier“-Modelle (die intelligentesten) in der endgültigen Antwort zu etwa 88,9 % mit den Menschen übereinstimmten, war ihr Vorgehen oft von einem ganz anderen Charakter geprägt. Sie neigten dazu, Wörter wie „Schaden“ und „Respektlosigkeit“ übermäßig oft zu verwenden und Wörter wie „Versprechen halten“ oder „Vertrauen“ unterzuverwenden. Es ist, als hätte die KI einen zu engen Wortschatz; sie sieht fast jedes Problem als ein Sicherheitsproblem oder eine unhöfliche Geste und übersieht dabei die subtilen, relationalen Nuancen, die Menschen wichtig sind.

Warum das alles verändert

Die wichtigste Erkenntnis dieses Papers ist eine sanfte Warnung: Übereinstimmung ist nicht Alignment.

Nur weil eine KI Ihnen die gleiche Antwort gibt, die Sie geben würden, bedeutet das nicht, dass sie die Welt so versteht wie Sie. Wenn wir nur die Endergebnisse prüfen, könnten wir uns in einer falschen Sicherheit wiegen. Wir könnten glauben, unsere KI sei ein weiser moralischer Begleiter, während sie in Wirklichkeit nur ein sehr guter Nachahmer ist, der ein anderes Wörterbuch benutzt.

Die Autoren schlagen vor, dass wir aufhören sollten, nur auf das „A“ oder „F“ in der Prüfung zu schauen, und stattdessen anfangen sollten, den Aufsatz zu lesen. Wir müssen die KI fragen, warum sie eine Entscheidung getroffen hat. Wenn die KI sagt, etwas sei falsch, weil es „unsicher“ ist, Sie aber denken, es sei falsch, weil es „ungerecht“ ist, dann ist das ein Problem. In der realen Welt machen diese Unterschiede einen Unterschied. Wenn eine KI einen Chatroom moderiert oder Rechtsberatung gibt und dabei „Schaden“ als einzige Linse verwendet, während Menschen über „Fairness“ oder „Versprechen“ nachdenken, könnte sie Entscheidungen treffen, die oberflächlich betrachtet richtig wirken, sich aber für die Beteiligten zutiefst falsch anfühlen.

Wenn Sie also das nächste Mal eine KI sehen, die scheinbar perfekt mit Ihnen übereinstimmt, denken Sie an die Lektion dieser Studie: Sie spielt vielleicht nur ein sehr überzeugendes Spiel namens „Rate die Antwort“, ohne die Geschichte dahinter wirklich verstanden zu zu haben. Der Weg zu einer wirklich sicheren und hilfreichen KI besteht nicht nur darin, die richtige Note zu bekommen; es geht darum, die gleichen Gründe zu teilen.