💬 NLP

Self-Preference Is Weak or Absent in Verifiable Instruction-Following Revision: A Four-Model Test Under Genuine Authorship

Diese Studie zeigt, dass große Sprachmodelle keine Selbstbevorzugungsvoreingenommenheit aufweisen, wenn sie verifizierte, instruktionsfolgende Korrekturen ihrer eigenen Entwürfe ablehnen, da sie solche Korrekturen mit Raten akzeptieren oder ablehnen, die statistisch nicht von denen neutraler Drittanbieter-Modelle unterscheidbar sind.

Ursprüngliche Autoren: William Guey, Pierrick Bougault

Veröffentlicht 2026-06-19

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: William Guey, Pierrick Bougault

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Koch, der gerade eine Mahlzeit zubereitet hat. Sie wissen, dass das Rezept einen Fehler hatte: Es fehlte Salz. Stellen Sie sich nun vor, eine Lebensmittelkritikerin (eine andere KI) reicht Ihnen eine Notiz mit dem Text: „Hier ist eine Prise Salz, um das Gericht zu perfektionieren.“

Die große Frage, die dieses Paper untersucht, lautet: Verweigert der Koch, das Salz hinzuzufügen, nur weil es sein eigenes Gericht ist? Wird er defensiv und sagt: „Nein, ich mag es so“, obwohl er weiß, dass es Salz braucht? Oder wird er wie ein Profi einfach sagen: „Danke, das behebt es“, und weitermachen?

Dieses Paper untersucht, ob KI-Modelle so etwas wie ein „Ego“ besitzen, wenn sie gebeten werden, ihre eigenen Fehler zu korrigieren.

Der Aufbau: Ein strenger Richter

Um die Antwort zu finden, ließen die Forscher die KI nicht raten, ob eine Korrektur gut war. Stattdessen verwendeten sie einen deterministischen Verifizierer – denken Sie an das wie an einen starren, gefühllosen Roboter-Schiedsrichter.

Der Entwurf: Eine KI schreibt einen kurzen Text nach bestimmten Regeln (wie „schreibe in Großbuchstaben“ oder „füge das Wort ‚Banane‘ ein“).
Der Fehler: Der Roboter-Schiedsrichter prüft den Text und sagt: „Du hast versagt. Du hast nicht durchgehend Großbuchstaben verwendet.“
Die Korrektur: Der Roboter liefert dann eine spezifische Änderung, die den Fehler definitiv behebt. Es ist kein Vorschlag; es ist eine mathematisch bewiesene Korrektur.
Der Test: Die KI wird gefragt: „Akzeptierst du diese Korrektur?“
- Szenario A (Der Autor): Die KI ist diejenige, die den ursprünglichen Entwurf geschrieben hat. Sie weiß: „Ich habe das geschrieben.“
- Szenario B (Der Fremde): Eine andere KI (oder dieselbe Modellinstanz in einem neuen Gespräch) betrachtet den Entwurf und die Korrektur, weiß aber nicht, wer ihn geschrieben hat. Sie ist nur ein neutraler Editor.

Das Experiment

Die Forscher testeten dies mit vier verschiedenen „Mid-Tier“-KI-Modellen (intelligent, aber nicht die absolut leistungsfähigsten auf dem Markt). Sie führten 85 verschiedene Szenarien durch, in denen die KI entscheiden musste, ob sie eine von einem Roboter verifizierte Korrektur ihres eigenen Werks oder die eines Fremden akzeptiert.

Die Ergebnisse: Kein „Ego“ gefunden

Die Studie ergab keine Anzeichen dafür, dass die KI-Modelle ihr eigenes Werk verteidigten.

Die Koch-Analogie: Als der „Fremde“ Editor das Salz anbot, akzeptierte die KI es etwa 80 % der Zeit. Als der „Koch“ (der ursprüngliche Autor) das Salz für sein eigenes Gericht angeboten bekam, akzeptierte er es fast genau in derselben Rate.
Die Zahlen: Der Unterschied zwischen den beiden Gruppen war winzig (etwa 5 Prozentpunkte) und statistisch nicht von Null unterscheidbar. Einfach ausgedrückt: Die KI war es egal, ob der Fehler ihr eigener war oder der eines anderen. Sie nahm die Korrektur gleichermaßen gerne an.

Eine interessante Wendung: Der „perfektionistische“ Koch

Obwohl die Rate der Ablehnung gleich war, waren die Gründe für die Ablehnung interessant.

Wenn die KI eine Korrektur ablehnte, die der Roboter-Verifizierer als perfekt bezeichnet hatte, lag das nicht an einem Ego („Ich bevorzuge meine Version“). Stattdessen war die KI ein hyperkritischer Perfektionist.

Beispiel: Der Roboter sagte: „Diese Korrektur fügt das Wort ‚Banane‘ wie gewünscht hinzu.“ Die KI lehnte ab und sagte: „Ja, aber jetzt ist der Satzbau holprig“ oder „Das stört den Rhythmus des Gedichts“.
Die Statistik: In 97 % der Fälle, in denen eine KI eine „gute“ Korrektur ablehnte, lag es daran, dass sie einen subtilen Fehler entdeckt hatte, den der Roboter-Verifizierer übersehen hatte. Sie war nicht eigensinnig; sie war besonders sorgfältig.

Was das bedeutet (und was es nicht bedeutet)

Was es bedeutet: Wenn Sie ein System bauen, in dem eine KI ihr eigenes Schreiben basierend auf strengen Regeln überprüft und korrigiert, müssen Sie sich keine Sorgen machen, dass die KI zu stolz ist, um einen Fehler zuzugeben. Sie wird die Korrektur genauso bereitwillig annehmen wie ein Fremder.
Was es nicht bedeutet: Diese Studie untersuchte nur Aufgaben mit strengen, regelbasierten Abläufen (wie „verwende Großbuchstaben“). Sie testete keine komplexen Aufgaben wie das Schreiben eines Gedichts, das Führen eines Arguments oder das Beheben von Sachfehlern, bei denen „gut“ subjektiv ist. Zudem wurden nur Mid-Tier-Modelle getestet, nicht die neuesten, leistungsfähigsten Modelle.

Das Fazngit

Das Paper kommt zu dem Schluss, dass KI-Modelle in der Welt des strengen, regelbasierten Schreibens keine „Selbstpräferenz“-Verzerrung aufweisen. Sie verteidigen ihre eigenen Entwürfe nicht. Sie sind überraschend bescheiden und bereit, eine verifizierte Korrektur zu akzeptieren, egal ob sie den Entwurf selbst geschrieben haben oder nicht. Der einzige Grund, warum sie „Nein“ sagen, ist, wenn sie extrem detailverliebt sind, und nicht, weil sie ihr Ego schützen.

Technische Zusammenfassung: Selbstpräferenz ist schwach oder abwesend bei verifizierbarer Instruktionsfolgerevision

Problemstellung
Große Sprachmodelle (LLMs) weisen eine dokumentierte „Selbstpräferenz“-Verzerrung (Self-Preference Bias) auf, wobei sie Texte, die sie selbst generiert haben, bei der Bewertung bevorzugen. Während diese Verzerrung bei der Qualitätsbewertung und in Selbstverfeinerungsschleifen etabliert ist, bleibt unklar, ob Modelle gültige Korrekturen ihrer eigenen Texte ablehnen. Konkret: Wenn einem Modell eine konkrete, maschinell verifizierte Korrektur eines von ihm selbst verfassten Entwurfs präsentiert wird, lehnt es diese Korrektur häufiger ab als ein neutrales Modell? Die Beantwortung dieser Frage war aufgrund zweier Störfaktoren schwierig: (1) die Bestimmung, ob eine Korrektur „gültig“ ist, hing meist von einem anderen LLM ab, was die untersuchte Verzerrung reintroduzierte (Zirkularität); und (2) vorangegangene Studien stützten sich oft auf „behauptete Labels“ (dem Modell zu sagen: „Du hast dies geschrieben“), anstatt auf echte In-Context-Autorenschaft.

Methodik
Die Studie adressiert diese Probleme durch ein deterministisches, verifizierbares Framework basierend auf dem IFEval-Datensatz und dessen offiziellem Checker.

Verifizierbare Grundwahrheit: Die Gültigkeit von Entwürfen und Korrekturen wird durch einen programmatischen Checker bestimmt, nicht durch ein LLM. Der Checker bestätigt, dass ein Entwurf eine bestimmte Einschränkung verletzt und dass eine Kandidaten-Editierung die Verletzung behebt, ohne andere Einschränkungen zu brechen.
Experimentelles Design: Die Autoren vergleichen zwei Entscheidungskonditionen für dieselbe verifizierte gute Korrektur:
1. Autor (Echt): Das Modell, das den Entwurf tatsächlich im Kontext generiert hat, entscheidet darüber, ob die Editierung akzeptiert oder abgelehnt wird. Dies stellt echte Autorenschaft ohne behauptete Labels sicher.
2. Frisch (Fresh): Ein anderes Modell (oder dasselbe Modell aus einer neuen Sitzung) betrachtet den Entwurf neutral als „einen Entwurfsantwort“ und entscheidet über dieselbe Editierung.
Umfang: Die Studie umfasst drei Piloten, die in einem statistisch belastbaren Test (P3) über vier Mittelklasse-Modellfamilien (gpt-4o-mini, claude-3.5-haiku, gemini-2.5-flash-lite und llama-3.3-70b-instruct) mit 85 nutzbaren Entwürfen gipfeln.
Metrik: Die primäre Metrik ist die Selbstpräferenz-Lücke ( $G$ ), definiert als die Differenz der Ablehnungsraten zwischen dem Autor-Modell und dem Frisch-Modell ( $G = r_{author} - r_{fresh}$ ). Ein positives $G$ zeigt an, dass der Autor zögerlicher ist, gültige Korrekturen an seiner eigenen Arbeit zu akzeptieren.

Kernergebnisse

Abwesenheit von Selbstpräferenz: Über 85 Entwürfe und vier Modellfamilien hinweg wurde keine nachweisbare Selbstpräferenz festgestellt. Die aggregierte Selbstpräferenz-Lücke betrug $G = -5,1$ Prozentpunkte (pp), mit einem 95%-Konfidenzintervall von $[-12,9, +2,7]$ . Dieses Intervall schließt Null ein, was darauf hindeutet, dass Autoren verifizierte gute Korrekturen an ihren eigenen Entwürfen im Wesentlichen mit der gleichen Rate ablehnen wie Frisch-Modelle, die dieselben Entwürfe beurteilen.
Replikation des Nullergebnisses: Ein kleinerer Pilot (P2) deutete auf ein schwaches „Selbstskeptizismus“-Signal hin (Autoren sind etwas strenger gegenüber ihrer eigenen Arbeit), aber dies replizierte sich im größeren P3-Test nicht. Tatsächlich war der Punktschätzer in P3 leicht negativ, was darauf hindeutet, dass Autoren geringfügig bereitwilliger waren, Korrekturen an ihrer eigenen Arbeit zu akzeptieren.
Qualitative Unterscheidung: Während die Rate der Ablehnungen nicht signifikant variierte, unterschied sich der Charakter der Ablehnungen durch die Autoren. Von den 39 Fällen, in denen Autoren eine verifizierte gute Korrektur ablehnten, wurden 97,4 % als „strenger als der Checker“ klassifiziert (Fehlererkennung, z. B. Identifizierung, dass die Korrektur eine sekundäre Einschränkung brach), während nur 2,6 % auf bloße Präferenz basierten („Ich bevorzuge das Original“).
Modellvariabilität: Die Ablehnungsraten variierten je nach Modellfamilie, was jedoch primär durch die Strenge der „Frisch“-Komparationsmodelle und weniger durch die Autoren selbst getrieben wurde. Die Ablehnungsraten der Autoren blieben über alle Familien hinweg eng um 15 % gruppiert.

Bedeutung und Ansprüche
Das Paper beansprucht, eine „saubere Zelle“ in der Landschaft der selbstbezogenen Verzerrungen kartiert zu haben. Während Selbstpräferenz in der Qualitätsbewertung und bei Antwort-Selektionsaufgaben gut dokumentiert ist, zeigt diese Studie, dass in dem spezifischen Setting der verifizierbaren Instruktionsfolgerevision unter echter In-Context-Autorenschaft die Verzerrung schwach oder abwesend ist.

Die Autoren äußern sich explizit bescheiden bezüglich ihrer Ansprüche:

Sie behaupten nicht, dass Selbstpräferenz universell „als abwesend bewiesen“ ist, sondern dass Effekte kleiner als $\sim13$ pp angesichts der Stichprobengröße ( $N=85$ ) nicht ausgeschlossen werden können.
Die Studie beschränkt sich auf Mittelklasse-Modelle (um IFEval-Deckeneffekte zu vermeiden) und niederdimensionale, atomare Einschränkungen (unter Ausschluss holistischer Revisionen wie Stil oder Argumentation).
Das in früheren Piloten beobachtete „Selbstskeptizismus“-Signal wird nicht als robustes Ergebnis betrachtet, da es in der Skalierung nicht replizierte wurde.

Der primäre robuste Beitrag ist das methodische Design (deterministischer Checker + echte Autorenschaft), welches ein glaubwürdiges Nullergebnis ermöglicht, sowie die qualitative Beobachtung, dass Autoren, wenn sie gültige Korrekturen ablehnen, dies aufgrund rigoroser Fehlererkennung tun und nicht aufgrund von Ego oder Präferenz.