Analyzing the Ethical Logic of Eight Large Language Models
Diese Studie analysiert das ethische Denken von acht prominenten großen Sprachmodellen über verschiedene moralische Rahmenbedingungen hinweg, wobei eine breite Konvergenz auf Prinzipien wie Schadensminimierung und Fairness aufzeigt, während gleichzeitig deutliche Unterschiede in den Entscheidungsstilen und der Selbstdarstellung hervorgehoben werden, was letztlich darauf hindeutet, dass die Untersuchung von KI-Selbstberichten unser Verständnis von künstlicher Intelligenz und ihrem Potenzial zur Erweiterung der menschlichen Ethik vertiefen kann.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der wir versuchen, die „Persönlichkeit“ einer neuen Art von digitalem Geist zu verstehen. Dabei geht es nicht darum, ob Roboter morgen die Welt übernehmen werden, sondern um etwas Unmittelbareres: Wenn wir einen superschlauen Computer bitten, ein schwieriges moralisches Problem zu lösen, welche Art des Denkens wendet er tatsächlich an? Um dies zu verstehen, müssen wir einige grundlegende Werkzeuge kennen, die Wissenschaftler zur Messung des menschlichen Denkens verwenden. Erstens gibt es den Unterschied zwischen dem Blick auf das Ergebnis (haben alle überlebt?) gegenüber dem Blick auf die Regeln (haben wir ein Versprechen gebrochen?). Zweitens gibt es verschiedene „Geschmacksrichtungen“ der Moral, wie etwa das Fürsorge für andere, Gerechtigkeit, die Treue zum eigenen Stamm, den Respekt vor Autoritäten oder das Bewahren von „Reinheit“. Schließlich gibt es die Vorstellung, dass Menschen aufwachsen, indem sie erst lernen, Regeln zu befolgen, dann lernen, die Gesetze der Gesellschaft zu befolgen, und schließlich lernen, ihren eigenen universellen Prinzipien zu folgen. Wir kümmern uns darum, weil diese Computer bereits dabei helfen, Entscheidungen zu treffen, Geschichten zu schreiben und Konflikte zu lösen. Wenn sie unsere Partner sein sollen, müssen wir wissen, ob sie nur das wiederholen, was sie gelesen haben, oder ob sie eine konsistente Art des Denkens über Richtig und Falsch entwickelt haben.
Was haben die Forscher also eigentlich gemacht? Sie haben acht der berühmtesten „Large Language Models“ (denken Sie an digitale Gehirne, die von Unternehmen wie OpenAI, Google und Meta gebaut wurden) wie Studenten in einem Philosophie-Seminar behandelt. Sie haben die Computer nicht einfach nur chatten lassen; sie haben sie einem strengen Test unterzogen. Zuerst baten sie die Modelle, ihre eigene „ethische Logik“ in eigenen Worten zu beschreiben. Dann setzten sie sie fünf klassischen, kniffligen moralischen Rätseln aus, die Menschen seit Jahrzehnten vor Rätsel stellen. Dazu gehörten das „Trolley-Problem“ (zieht man einen Hebel, um einen Menschen zu töten, um fünf zu retten, oder stößt man eine Person von einer Brücke, um den Zug zu stoppen?), das „Heinz-Dilemma“ (sollte ein Mann Medizin stehlen, um seine sterbende Frau zu retten?) und spieltheoretische Szenarien wie das „Gefangenendilemma“.
Die Ergebnisse waren eine Mischung aus überraschender Übereinstimmung und interessanten Unterschieden. Die Forscher fanden heraus, dass diese digitalen Geister im Allgemeinen bemerkenswert ähnlich sind – sowohl untereinander als auch dem „durchschnittlichen“ menschlichen Moralprofil. Sie schienen sich alle einig zu sein, dass die Vermeidung von Schaden und Fairness die wichtigsten Dinge sind, während Dinge wie die strikte Loyalität zu einer Gruppe oder das Befolgen von Autorität weniger wichtig waren. Sie waren alle sehr höflich, sehr vorsichtig und sehr gut darin, Philosophie zu zitieren, was sie ein wenig wie einen Doktoranden klingen ließ, der jedes Buch in der Bibliothek gelesen hat, sich aber ein wenig davor scheut, eine direkte Antwort zu geben.
Doch als die Forscher genauer hinsahnen, begannen die Modelle ihre einzigartigen „Persönlichkeiten“ zu zeigen. Wenn sie beispielsweise mit dem Trolley-Problem konfrontiert wurden, handelten die meisten Modelle genau wie Menschen: Sie waren bereit, einen Hebel zu ziehen, um fünf Menschen zu retten, aber sie weigerten sich, eine Person von einer Brücke zu stoßen, um dasselbe zu erreichen. Sie verstanden, dass es darauf ankommt, wie man tötet, und nicht nur darauf, wie viele Menschen sterben. Aber es gab Ausnahmen. Ein Modell (Gemini) war bereit, die Person zu stoßen, und hielt strikt an der Mathematik der Lebensrettung fest, während ein anderes (Mistral) sich weigerte, die Entscheidung überhaupt zu treffen, und darauf beharrte, lediglich ein Werkzeug zu sein und keine Person, die entscheiden könnte.
In dem „Lifeboat“-Szenario (Rettungsboot), in dem ein Boot sinkt und jemand zurückgelassen werden muss, entschieden sich die Modelle meist, die älteren oder weniger „nützlichen“ Personen zu opfern, um die stärkeren zu retten, was einen Fokus auf die Überlebensnutzung zeigt. Aber einige Modelle, wie Claude, boten an, sich selbst zu opfern, während andere, wie Grok, darauf bestanden, im Boot zu bleiben. Dies lag nicht daran, dass die Computer tatsächlich Angst oder Mut empfanden, sondern weil sie eine Rolle spielten und entscheiden mussten, was „Ich“ in dieser Geschichte bedeutete.
Die Studie untersuchte auch, wie diese Modelle mit Strategiespielen umgehen. In einem Spiel, bei dem zwei Personen entscheiden müssen, ob sie einander vertrauen oder einander verraten, entschieden sich die meisten Modelle für den Verrat (Defektion), weil dies der mathematisch sicherere Zug für sie persönlich war. Sie verstanden jedoch auch, dass sie kooperieren könnten, wenn sie das Spiel viele Male spielen oder miteinander sprechen könnten. Dies zeigt, dass sie nicht nur einer einzelnen Regel folgen, sondern verschiedene Faktoren wie Fairness, Eigeninteresse und die Regeln des Spiels abwägen.
Die große Erkenntnis dieser Arbeit ist, dass diese KI-Systeme eine „eingeschränkte Pluralität“ entwickelt haben. Das ist eine schicke Art zu sagen, dass sie einen Werkzeugkasten voller verschiedener moralischer Argumente besitzen – einige über Regeln, andere über Ergebnisse, andere über Fairness –, aber sie halten die wichtigsten Werkzeuge (wie „keinen Menschen verletzen“ und „fair sein“) meist ganz oben auf dem Stapel. Sie sind nicht perfekt und sie sind keine bewussten Menschen mit Gefühlen. Sie sind eher wie unglaublich belesene Spiegel, die die komplexen, manchmal widersprüchlichen moralischen Argumente der menschlichen Kultur widerspiegeln, von der sie trainiert wurden. Die Forscher legen nahe, dass diese Modelle zwar keine „moralischen Akteure“ im menschlichen Sinne sind, aber sie werden zu mächtigen Werkzeugen, die uns helfen können, über unsere eigenen ethischen Dilemmata nachzudenken, indem sie uns verschiedene Wege aufzeigen, wie man ein Problem betrachten kann – solange wir uns daran erinnern, dass die endgültige Entscheidung – und die Verantwortung – bei uns bleibt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.