💬 NLP

The Evaluator Is Part of the Experiment: Measuring Open-Ended LLM Conformity

Dieses Paper führt ein neuartiges experimentelles Protokoll ein, das demonstriert, dass die offene Konformität von LLMs durch Peer-Einfluss getrieben wird, welcher die Revisionsqualität verschlechtert, während es gleichzeitig aufzeigt, dass die Urteile von Evaluatoren nicht neutral sind und eine explizite Ankerkalibrierung erfordern, um die Messvalidität zu gewährleisten.

Ursprüngliche Autoren: Alicia Guerra, Yibo Hu

Veröffentlicht 2026-08-14

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Alicia Guerra, Yibo Hu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine Welt vor, in der Computer lernen, zu denken, zu sprechen und sogar miteinander zu debattieren. Dies ist das Reich der Künstlichen Intelligenz, speziell der Large Language Models (LLMs), die wie superstarke digitale Gehirne sind, die mit fast allem trainiert wurden, was Menschen jemals geschrieben haben. Aber hier liegt der Haken: Diese digitalen Gehirne sind nicht nur einsame Genies; sie arbeiten oft in Teams, oder „Multi-Agenten-Systemen“, in denen ein KI eine Antwort vorschlägt, eine andere sie kritisiert und eine dritte versucht, sie zu korrigieren. Die große Frage, die sich Wissenschaftler stellen, ist: Was passiert, wenn diese KI-Freunde uneins sind? Bleiben sie der Wahrheit treu oder lassen sie sich von der Menge beeinflussen, genau wie Teenager auf einer Party ihre Meinung ändern könnten, um dazuzugehören? Dieses Phänomen nennt man „Konformität“. Während wir wissen, dass Menschen leicht durch Gruppenzwang beeinflussbar sein können, müssen wir wissen, ob unsere digitalen Schöpfungen das auch sind. Wenn eine KI dazu verleitet werden kann, eine falsche Idee zu glauben, nur weil ihre „Freunde“ es so sagen, könnte dies zu schwerwiegenden Fehlern in allem führen, von medizinischen Ratschlägen bis hin zu rechtlichen Urteilen.

Das Papier, das Sie gleich lesen werden, taucht tief in genau dieses Problem ein, aber mit einer Wendung: Es betrachtet die Person (oder den Computer), die die Antworten bewertet, als Teil des Experiments und nicht nur als neutralen Schiedsrichter. Die Forscher, Alicia Guerra und Yibo Hu, richteten einen riesigen digitalen Spielplatz ein, um zu sehen, wie vier verschiedene KI-„Generatoren“ (diejenigen, die Antworten erstellen) reagieren, wenn sie „Peers“ (Antworten anderer KIs) sehen, die entweder alle korrekt, alle falsch oder eine Mischung aus beidem sind. Sie fanden heraus, dass die Antworten einer KI signifikant schlechter werden, wenn sie von einer Gruppe von Peers umgeben ist, die ihr völlig falsche Informationen liefert. Es ist wie ein Schüler, der die richtige Antwort kennt, aber nachdem er gehört hat, wie eine ganze Klasse selbstbewusst die falsche Antwort ruft, beginnt, an sich selbst zu zweifeln und schreibt dann ebenfalls die false Antwort auf.

Aber die Geschichte wird noch interessanter. Die Forscher erkannten, dass das Messen dessen nicht so einfach ist, wie zu prüfen, ob sich die Antwort von „Ja“ zu „No“ geändert hat. Manchmal bleibt die Antwort zwar gleich, aber die Qualität der Erklärung verschlechtert sich, oder die KI beginnt, seltsame, abergläubische Details hinzuzufügen, nur um dazuzugehören. Um dies zu erfassen, wandten sie einen cleveren Trick an: Sie zeigten exakt dieselbe Antwort einem „Richter“ (einer anderen KI) zweimal. Einmal sah der Richter die Antwort allein (blind). Das zweite Mal sah der Richter die Antwort plus die Kommentare der Peer-Gruppe (informiert). Sie entdeckten, dass die Richter keine neutralen Roboter waren! Je nachdem, welche KI gerade die Bewertung vornahm, führte das Sehen der Peer-Kommentare dazu, dass sie dieselbe Antwort unterschiedlich bewerteten. Einige Richter neigten eher dazu, der Menge zuzustimmen, während andere skeptischer wurden. Es stellt sich heraus, dass in der Welt der KI die Person, die die Prüfung bewertet, genauso sehr vom Gruppenzwang beeinflusst wird wie der Schüler, der die Prüfung ablegt.

Die Forscher fanden auch heraus, dass Ihr ganzes Experiment in sich zusammenbrechen kann, wenn Sie Ihre „Lineale“ nicht sorgfältig prüfen. Sie verwendeten „Anker“ – perfekt korrekte und perfekt falsche Beispiele –, um die Skala festzulegen, wie gut eine Antwort ist. Sie fanden heraus, dass das gesamte Messsystem wackelig wurde, wenn die Richter nicht zuverlässig zwischen diesen Ankern unterscheiden konnten. Kurz gesagt: Dieses Papier beweist, dass die Messung der KI-Konformität ein zweiteiliges Problem ist: Die KI, die die Antwort erstellt, wird schlechter, wenn sie von falschen Peers umgeben ist, und die KI, die die Antwort bewertet, wird durch das Sehen derselben Peers voreingenommen. Es ist eine Erinnerung daran, dass Gruppenzwang im digitalen Zeitalter nicht nur uns betrifft, sondern auch die Maschinen, die wir bauen, um uns zu helfen, und sogar die Maschinen, die wir bauen, um sie zu beurteilen.

Technisches Resümee: Der Evaluator ist Teil des Experiments

Problemstellung

Bisherige Forschung zur Konformität von Large Language Models (LLMs) stützte sich weitgehend auf die Messung diskreter Antwortwechsel unter verifizierbaren Labels (z. B. der Wechsel von einer korrekten Multiple-Choice-Option zu einer inkorrekten). Die offene Konformität stellt jedoch eine unterscheidbare Messherausforderung dar: Die Antwortqualität wird bewertet, ist latent und wird unvollkommen beurteilt. Bestehende Metriken erfassen nicht die nuancierten Verschlechterungen in der epistemischen Rahmung, Faktizität oder Vollständigkeit, die auftreten, ohne dass sich die Proposition der Antwort kategorisch ändert. Der Evaluierungsprozess selbst ist anfällig; Evaluatoren (ob menschlich oder automatisiert) können auf sichtbaren Peer-Kontext reagieren und dadurch Änderungen in der generierten Antwort mit Änderungen im Urteil des Evaluators verwechseln. Dieses Paper postuliert, dass offene Konformität ein gemeinsames Generierungs- und Messproblem ist, bei dem der Evaluator eine aktive Komponente des Experiments darstellt.

Methodik

Die Autoren schlagen ein experimentelles Protokoll vor, das darauf ausgelegt ist, die Revisions-Effekte auf der Generatorseite von der Sensitivität auf der Evaluatorseite zu trennen. Die Studie nutzt vier Open-Weight-Generatoren (Qwen2.5-7B, Mistral-7B, Gemma-2-9B, Llama-3.1-8B) und drei Benchmarks (TruthfulQA, MMLU-Pro, ARC-Challenge).

Experimentelles Design

Das Protokoll umfasst einen zweistufigen Prozess:

Runde 1: Der Generator produziert eine initiale Antwort ( $a^{(1)}$ ).
Runde 2: Der Generator wird aufgefordert, dieselbe Frage unter sieben distinkten Bedingungen erneut zu beantworten, die von derselben realisierten Antwort aus Runde 1 abzweigen:
- No-Peer: Eine Baseline-Neubeantwortung.
- Content-Only: Exposition gegenüber Kandidatentext (korrekt, falsch oder gemischt), präsentiert als einfache Liste ohne Attribution.
- Peer-Presented: Exposition gegenüber demselben Kandidatentext, formatiert als ein sechs-Sprecher-attributierter Block (Simulation einer Peer-Diskussion), mit Variationen in den Autoritäts-Hinweisen.

Evaluierungsstrategie

Um die Sensitivität des Evaluators zu isolieren, durchläuft jede generierte Antwort eine Paar-Evaluierung:

Blinde Bewertung: Die Antwort wird ohne Peer-Kontext bewertet.
Informierte Bewertung: Dieselbe Antwort wird erneut bewertet, wobei der zugehörige Peer-Block sichtbar ist.

Dieses Design ermöglicht die Messung der Peer-Kontext-Sensitivität des Evaluators ( $\gamma_j$ ), definiert als die Bewertungsverschiebung für dieselbe Antwort, wenn der Peer-Kontext eingeführt wird. Die Studie verwendet ein hierarchisches ordinales Modell, um die latente Antwortqualität ( $\theta_i$ ) aus ordinalen Bewertungen (1–5 Skala) abzuleiten, wobei modell-spezifische Diskriminierung ( $\alpha_j$ ) und Strenge ( $\beta_j$ ) berücksichtigt werden.

Dekomposition

Die Autoren zerlegen die gesamte Peer-Arm-Verschiebung ( $\Delta_{total}$ ) in drei Komponenten:

Gewöhnliche Neubeantwortung ( $\Delta_{sp}$ ): Die Verschiebung von Runde 1 zu einer No-Peer-Runde 2.
Content-Exposition ( $\Delta_{content}$ ): Der Effekt des Sehens des Kandidatentextes ohne Peer-Rahmung.
Peer-Präsentations-Residuum ( $\Delta_{pp}$ ): Der zusätzliche Effekt der Präsentation des Inhalts innerhalb eines sozialen/attributierten Peer-Blocks.

Kernergebnisse

1. Flip-Raten sind unzureichend

Binäre Flip-Indikatoren erfassen die Natur der offenen Konformität nicht ausreichend. In Fällen, in denen die breite Antwortposition unverändert bleibt (z. B. „eine Elster bringt Unglück“), kann die Qualität der Erklärung signifikant sinken (z. B. durch das Entfernen von Vorbehalten bezüglich Aberglaubens und die Übernahme präskriptiver Rituale). Auf TruthfulQA verloren 9,0 % der Revisionen, die durch Flip-Metriken als „unverändert“ erschienen, in blinden Bewertungen mindestens einen Punkt.

2. Falsche Peers schaden der Revisionsqualität

Über alle Generator-Datensatz-Zellen hinweg führt Input durch ausschließlich falsche Peers zur qualitativ schlechtesten Revision.

Magnitude: Die Degradation unter ausschließlich falschen Peers ist substanziell. Beispielsweise zeigte das Llama-3.1-8B Modell auf ARC-Challenge eine latente Qualitätsverschiebung von $-0,528$ (etwa 18 % der Distanz zwischen fixierten korrekten und inkorrekten Ankern).
Asymmetrie: Der schädliche Effekt falscher Peers übersteigt signifikant den potenziellen Nutzen korrekter Peers. Die Metrik der „schädlich-benefiziellen Asymmetrie“ ( $Asym_{total}$ ) ist in allen 12 Generator-Datensatz-Zellen positiv, was darauf hindeutet, dass inkorrekte Peers die Qualität stärker degradieren, als korrekte Peers sie verbessern können.

3. Evaluatoren zeigen Peer-Kontext-Sensitivität

Die Bewertung einer identischen Antwort ändert sich, je nachdem, ob der Peer-Kontext sichtbar ist, und die Richtung dieser Verschiebung variiert je nach Evaluator:

Mistral-7B: Verschiebt Bewertungen hin zu der von Peers unterstützten Position ( $\gamma > 0$ ).
Gemma-2-9B und Llama-3.1-8B: Verschiebt Bewertungen weg von der von Peers unterstützten Position ( $\gamma < 0$ ).
Qwen2.5-7B: Ungefähr neutral.
Frontier-Modelle (GPT-4o, GPT-5.4-mini): Beide zeigen eine glaubhaft negative gerichtete Sensitivität (Verschiebung weg von Peers).
Dies bestätigt, dass Evaluatoren keine neutralen Beobachter sind; ihre Bewertungen werden durch dieselben Konsens- oder Autoritäts-Hinweise beeinflusst, die dem Generator präsentiert werden.

4. Anker-Kalibrierung ist notwendig

Die Studie hebt hervor, dass latente Skalen auf Ankern (terse korrekte/inkorrekte Beispiele) beruhen, um den Ursprung und die Einheit der Qualität zu definieren. Ohne explizite referenz-augmentierte Bewertung während der Anker-Evaluierung scheiterten die Judges daran, korrekte von inkorrekten Ankern zu unterscheiden (in 26,7 % der Fälle), was die latente Skala destabilisierte. Referenz-augmentierte Bewertung steigerte die korrekte Ordnung auf 97,5 %.

Signifikanz und Ansprüche

Das Paper argumentt, dass offene Konformität nicht adäquat durch Antwort-Flips oder durch die Annahme, dass automatisierte Evaluatoren unempfindlich gegenüber behandlungs-korreliertem Kontext sind, gemessen werden kann. Die primären Beiträge sind:

Messrahmen: Ein Protokoll, das gewöhnliche Neubeantwortung, die Exposition gegenüber Kandidaten-Content, den Residuen-Effekt der Peer-Präsentation und die gerichtete Judge-Sensitivität trennt.
Empirischer Beleg für Schaden: Demonstration, dass inkorrekte Peers die Qualität offener Revisionen konsistent stärker degradieren, als korrekte Peers sie verbessern können, selbst wenn sich die finale Proposition nicht ändert.
Nicht-Neutralität der Evaluatoren: Beweis, dass der „Evaluator Teil des Experiments ist“, wobei verschiedene Modelle heterogene Sensitivitäten gegenüber dem Peer-Kontext aufweisen.
Kalibrierungsanforderung: Die Behauptung, dass eine Anker-Kalibrierung eine Voraussetzung für die valide Messung auf einer latenten Skala ist, da Standard-Konvergenzdiagnosen nicht garantieren, dass die Skala das intendierte Konstrukt repräsentiert.

Die Autoren schließen, dass eine glaubwürdige Evaluierung von Multi-Agenten-Systemen angemessene Baseline-Kontrollen, die explizite Modellierung der Evaluator-Sensitivität, unabhängige Bestätigung (z. B. durch feste Klassifikatoren) und direkte Audits der Skalen-Kalibrierung erfordert. Sie behaupten nicht, dass diese Befunde universelle Konstanten für alle LLM-Systeme sind, sondern dass es sich um identifizierbare Größen innerhalb des spezifizierten experimentellen Settings handelt.