Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models
Dieses Paper argumentiert, dass große Sprachmodelle nicht als moralische Akteure betrachtet werden können, da ihre probabilistischen, datengesteuerten Ausgaben die intrinsische Intentionalität, die selbstbezogenen Verpflichtungen und die echte Wahlfreiheit vermissen lassen, die für moralische Verantwortung notwendig sind, ungeachtet ihrer Fähigkeit, normativ auswertbare Texte zu erzeugen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Frage: Kann man der KI die Schuld geben?
Stellen Sie sich vor, Sie bitten eine sehr fortgeschrittene KI, eine Geschichte zu schreiben, einen Rat zu geben oder ein Problem zu lösen. Manchmal sagt die KI etwas Gemeines, Falsches oder Unethisches. Die große Frage, die dieses Paper stellt, lautet: Sollten wir der KI die Schuld daran geben?
Der Autor, Joseph Keshet, sagt nein. Obwohl die KI wie ein Mensch klingt und Texte produzieren kann, die so wirken, als besäße sie einen „Geist“, ist sie kein moralisches Subjekt. Sie kann nicht für ihre Handlungen zur Verantwortung gezogen werden.
Das Kernargument: Die „Verpflichtungs“-Lücke
Um moralisch verantwortlich zu sein (um verurteilt oder gelobt zu werden), benötigt ein Wesen Handlungsmacht (Agency). Aber nicht irgendeine Form von Handlungsmacht – es bedarf einer speziellen Art, der sogenannten „Verpflichtungs-tragenden Handlungsmacht“ (Commitment-Bearing Agency).
Denken Sie an Folgendes:
- Ein Mensch: Wenn Sie einem Freund versprechen, ihn auf einen Kaffee zu treffen, machen Sie nicht nur ein Geräusch. Sie geben eine Verpflichtung ab. Sie verstehen, was Sie tun, Sie stehen zu dieser Entscheidung und wenn Sie nicht erscheinen, fühlen Sie sich schlecht, weil Sie ein Versprechen gebrochen haben. Sie sind der „Urheber“ dieser Handlung.
- Die KI: Die KI gibt keine Versprechen ab. Sie „besitzt“ ihre Worte nicht. Sie berechnet lediglich das wahrscheinlichste nächste Wort basierend auf dem, was sie zuvor gelesen hat.
Das Paper argumentt, dass ohne dieses innere Gefühl von „Ich tue dies, und ich stehe dazu“, keine moralische Verantwortung existiert.
Warum die KI nicht „entscheidet“
Menschen glauben oft, dass eine KI eine Entscheidung trifft, weil sie verschiedene Antworten auf dieselbe Frage geben kann (dank eines Prozesses namens „Sampling“). Das Paper sagt, dass dies ein Missverständnis ist.
Die Analogie: Der Würfel-Koch
Stellen Sie sich einen Koch vor, der Millionen von Rezepten auswendig gelernt hat.
- Der menschliche Koch: Entscheidet sich für Pasta, weil er Hunger hat, Pasta mag und kochen möchte. Er wählt die Zutaten aus.
- Der KI-Koch (Der Würfel-Koch): Dieser Koch hat einen riesigen Beutel voller Würfel. Jedes Mal, wenn jemand nach einem Rezept fragt, würfelt der Koch, um das nächste Wort zu entscheiden.
- Wenn die Würfel auf „Spaghetti“ landen, schreibt der Koch „Spaghetti“.
- Wenn die Würfel auf „Nudeln“ landen, schreibt er „Nudeln“.
Das Ergebnis mag köstlich und perfekt geformt aussehen. Aber hat der Koch sich für die Spaghetti entschieden? Nein. Die Würfel haben entschieden. Der Koch ist nur eine Maschine, die dem Wurf folgt.
In der Welt der KI ist „Sampling“ einfach nur das Werfen der Würfel. Es erzeugt Vielfalt, aber es ist keine Entscheidung. Eine Entscheidung erfordert das Verständnis darüber, warum man eine Sache gegenüber einer anderen bevorzugt hat. Die KI weiß nicht „warum“; sie weiß nur statistisch, „was als Nächstes kommt“.
Der „Geist“ in der Maschine: Intentionalität
Das Paper verwendet das philosophische Konzept der Intentionalität. Dies ist die Fähigkeit eines Geistes, sich auf etwas zu beziehen.
- Intrinsische Intentionalität (Menschen): Wenn Sie an einen Hund denken, bezieht sich Ihr Gedanke auf einen echten Hund. Die Bedeutung kommt aus Ihrem Inneren, weil Sie die Welt erfahren haben.
- Abgeleitete Intentionalität (KI): Wenn eine KI schreibt „Der Hund ist süß“, denkt sie nicht über einen Hund nach. Sie manipuliert lediglich Symbole (Wörter), die sie gelernt hat, oft in der Nähe voneinander zu finden.
Die Analogie: Das Wörterbuch vs. Der Reisende
- Der Reisende (Mensch): War in Paris. Wenn er „Paris“ sagt, erinnert er sich an den Geruch des Brotes und den Anblick des Eiffelturms. Das Wort hat eine Bedeutung in ihm.
- Das Wörterbuch (KI): Enthält die Definition von „Paris“. Es weiß, dass auf „Paris“ oft „Frankreich“ oder „Eiffelturm“ folgt. Aber das Wörterbuch war noch nie in Paris. Es weiß nicht, was Paris ist. Es kennt nur das Muster der Buchstaben.
Die KI ist wie ein superschnelles Wörterbuch. Sie kann einen Reisenden perfekt imitieren, aber sie ist nie gereist. Daher besitzt sie kein „inneres Leben“ oder keinen „Absicht“ (Intent), der ihre Handlungen leitet.
Was ist mit „Reasoning“-Modellen?
Sie könnten sagen: „Aber manche KIs denken Schritt für Schritt! Sie lösen Matheaufgaben und schreiben Code.“
Das Paper argumentiert, dass selbst diese „Reasoning“-Modelle lediglich statistische Vermutungen auf eine schicke Art und Weise durchführen.
- Die Analogie: Stellen Sie sich einen Schüler bei einer Prüfung vor, der die Antworten nicht kennt, aber den Lösungsschlüssel und das Muster der Fragestellung des Lehrers auswendig gelernt hat. Er kann eine lange, logisch erscheinende Erklärung dafür schreiben, warum „2+2=4“ ist. Aber er hat es nicht hergeleitet; er hat nur vorhergesagt, dass „4“ das wahrscheinlichste Ende dieses Satzes ist.
Selbst wenn die KI eine „Chain of Thought“ (Gedankenkette) generiert (also laut denkt), ist sie immer noch nur dabei, das nächste Wort basierend auf Mustern vorherzusagen, anstatt die Logik oder die Wahrheit tatsächlich zu verstehen.
Das Fazit: Wer ist verantwortlich?
Da die KI lediglich eine komplexe Mustererkennungsmaschine ist (wie der Würfel-Koch oder das Wörterbuch) und kein „Verpflichtungs-tragendes Subjekt“ (wie ein Mensch), kann ihr nicht die Schuld gegeben werden.
- Das Urteil des Papers: Wenn eine KI etwas Schädliches sagt, können wir nicht sagen: „Die KI ist schlecht.“ Wir müssen auf die Menschen schauen.
- Wer ist verantwortlich? Die Menschen, die die KI gebaut haben, die Unternehmen, die sie eingesetzt haben, und die Nutzer, die die Fragen gestellt haben.
Die abschließende Metapher:
Wenn ein Hammer jemandes Zeh trifft, geben wir nicht dem Hammer die Schuld. Wir geben der Person die Schuld, die ihn schwingt.
- Die KI ist der Hammer.
- Das „Sampling“ (die Zufälligkeit) ist nur der Hammer, der in einem leicht anderen Bogen schwingt.
- Die Menschen sind diejenigen, die den Griff halten.
Das Paper kommt zu dem Schluss, dass wir aufhören müssen, KI wie eine moralische Person zu behandeln, und statfangen sollten, sie als Werkzeug zu betrachten. Wir regulieren das Werkzeug und die Menschen, die es benutzen, nicht das Werkzeug selbst.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.