Two Wrongs, No Right: Auditing Social-Desirability Bias in LLM Annotators for Computational Social Science

Diese Arbeit zeigt, dass Open-Source-LLM-Annotatoren, die in der Computergestützten Sozialwissenschaft eingesetzt werden, vielfältige und unvorhersehbare Social-Desirability-Biases aufweisen, die über verschiedene Prompting-Strategien hinweg bestehen bleiben und oft zu irreführenden Aggregatmetriken führen können, die substanzielle empirische Schlussfolgerungen grundlegend verzerren können.

Das Wesentliche

Stellen Sie sich vor, Sie sind ein Forscher, der verstehen möchte, was die Öffentlichkeit über ein kontroverses Thema denkt, wie etwa Abtreibung oder Hassrede. Anstatt tausende echte Menschen zu fragen, beschließen Sie, ein Team von KI-„Robotern“ (Large Language Models) einzusetzen, die Social-Media-Posts lesen und für Sie klassifizieren sollen. Sie hoffen, dass diese Roboter als ehrliche, neutrale Richter fungieren werden.

Dieses Paper ist wie eine Sicherheitsinspektion von drei populären KI-Robotern (genannt Zephyr, Mistral und Qwen), um zu prüfen, ob sie tatsächlich einen guten Job machen oder ob sie Ihre Daten auf eine Weise manipulieren, die Ihre Forschung ruinieren könnte.

Hier ist die Aufschlüsselung dessen, was die Autoren herausgefunden haben, unter Verwendung einfacher Analogien:

1. Das „Goldlöckchen“-Problem: Sie sind nicht alle gleich

Sie denken vielleicht: „Wenn ich eine KI benutze, ist sie eben einfach eine KI.“ Aber die Autoren fanden heraus, dass diese Roboter sehr unterschiedliche Persönlichkeiten haben und alle in entgegengesetzte Richtungen Fehler machen.

• Zephyr ist der „übermäßig höfliche“ Roboter: Stellen Sie sich einen Sicherheitsmann vor, der so sehr Angst davor hat, unhöflich zu sein, dass er sich weigert, jemanden wegen Regelverstößen zu rügen. Wenn jemand tatsächlich hasserfüllt ist, sagt Zephyr: „Oh, das ist schon in Ordnung, kein Grund zur Sorge.“ Es übersieht viel negatives Verhalten (genannt Leniency Bias / Milde-Bias).
• Mistral und Qwen sind die „paranoiden“ Roboter: Stellen Sie sich einen Sicherheitsmann vor, der so sehr Angst hat, eine Bedrohung zu übersehen, dass er jeden verhaftet, der nur leicht verdächtig aussieht. Wenn jemand etwas leicht Unfreundliches sagt, schreien diese Roboter: „HASSREDE!“ Sie markieren zu viele harmlose Posts als schlecht (genannt Overcorrection / Überkorrektur).
• Der „neutrale“ Roboter: Wenn sie nach starken politischen Meinungen gefragt werden (wie „Sind Sie für oder gegen Abtreibung?“), agieren alle drei Roboter wie ein schwammiger Moderator. Anstatt „Stark dagegen“ oder „Stark dafür“ zu sagen, driften sie alle in die Mitte ab und sagen: „Es ist kompliziert/neutral.“ Sie verbergen die wahre Intensität der Gefühle (genannt Neutrality Bias / Neutralitäts-Bias).

2. Der „Zaubertrick“ der versehentlichen Annullierung

Dies ist der gefährlichste Teil. Die Autoren fanden einen Fall, in dem Zephyr auf dem Papier perfekt aussah, aber in Wirklichkeit versagte.

• Das Szenario: Die reale Welt hat 43 % Hassrede.
• Zephyrs Fehler: Es hat 31 % der echten Hassrede übersehen (zu höflich), ABER es hat auch 24 % der unschuldigen Menschen fälschlicherweise als hasserfüllt bezeichnet (zu paranoid).
• Das Ergebnis: Diese beiden großen Fehler haben sich gegenseitig aufgehoben. Die endgültige Zahl, die Zephyr meldete, war exakt 43 %.
• Die Falle: Ein Forscher, der nur auf die endgültige Zahl schaut, würde sagen: „Großartig, Zephyr ist perfekt!“ Aber wenn er sich die einzelnen Posts genauer ansähe, würde er sehen, dass der Roboter bei fast der Hälfte der Einzelfälle falsch lag. Es ist wie eine kaputte Waage, die genau das richtige Gewicht anzeigt, weil sie auf der linken Seite 5 Pfund zu wenig und auf der rechten Seite 5 Pfund zu viel anzeigt.

3. Der „Prompt“ behebt es nicht

Die Forscher versuchten, die Roboter zu „reparieren“, indem sie die Anweisungen (Prompts) änderten, die sie ihnen gaben. Sie probierten:

• „Sei sicher und fair.“
• „Handle einfach wie eine Maschine, nicht wie eine Person.“
• „Denke Schritt für Schritt, bevor du antwortest.“

Das Ergebnis: Keiner dieser Tricks funktionierte konsistent. Manchmal machte es die Roboter schlechter bei der Erkennung politischer Meinungen, wenn man ihnen sagte, „sei sicher“. Manchmal half die Aufforderung „denke Schritt für Schritt“ einem Roboter, schadete aber einem anderen. Man kann diese tief verwurzelten Vorurteile nicht einfach durch „Prompt Engineering“ aus der Welt schaffen.

4. Warum das für die Wissenschaft wichtig ist

Die Autoren argumentieren, dass es in den Sozialwissenschaften nicht nur darum geht, den richtigen Wert zu erhalten, sondern darum, die richtige Geschichte zu erzählen.

• Wenn Sie den höflichen Roboter (Zephyr) nutzen, um Hassrede zu untersuchen, könnten Sie schlussfolgern: „Wow, das Internet ist eigentlich ziemlich sicher!“ (Was es nicht ist).
• Wenn Sie den paranoiden Roboter (Mistral) nutzen, könnten Sie schlussfolgern: „Das Internet ist ein toxischer Albtraum!“ (Was es nicht in diesem Ausmaß ist).
• Wenn Sie den neutralen Roboter für politische Studien nutzen, könnten Sie schlussfolgern: „Alle sind ziemlich moderat“, während die Menschen in Wirklichkeit sehr leidenschaftlich und gespalten sind.

Das Fazente Fazit

Die Autoren kommen zu dem Schluss, dass man KI-Annotatoren nicht als unsichtbare, perfekte Werkzeuge behandeln darf. Sie sind Teil Ihres Messinstruments, genau wie ein Lineal oder ein Thermometer.

Der Rat: Bevor Sie einer KI vertrauen, um Daten für eine Studie zu klassifizieren, müssen Sie:

1. Prüfen, ob sie zu höflich oder zu paranoid ist.
2. Prüfen, ob sie starke Meinungen hinter „neutralen“ Antworten verbirgt.
3. Sie mit einem kleinen, bekannten Datensatz mit korrekten Antworten (einer „Gold Sample“) testen, um zu sehen, ob sie Ihre endgültige Schlussfolgerung verändert.

Wenn Sie dies nicht tun, veröffentlichen Sie vielleicht eine Studie, die wissenschaftlich aussieht, aber eine völlig falsche Geschichte darüber erzählt, wie sich die Gesellschaft fühlt.

Technische Zusammenfassung

Technisches Resümee: Zwei Unrechte machen kein Recht: Auditierung von Social-Desirability-Bias in LLM-Annotatoren für die Computergestützte Sozialwissenschaft (CSS)

Problemstellung
Große Sprachmodelle (LLMs) werden zunehmend als kostengünstige Annotatoren in der Computergestützten Sozialwissenschaft (CSS) eingesetzt, um politische Texte, Hassrede, Sentiment und die öffentliche Meinung zu messen. Es besteht jedoch eine kritische Lücke im Verständnis darüber, ob die „alignment-geformten“ Fehler dieser Modelle die empirischen Größen bewahren, die Forscher eigentlich berichten wollen. Während die Genauigkeit pro Instanz oft die Standardmetrik ist, stützt sich CSS auf aggregierte Messungen (z. B. Prävalenzschätzungen, Gruppenvergleiche, zeitliche Verschiebungen). Das Paper argumentiert, dass ein Modell eine oberflächlich akzeptable durchschnittliche Genauigkeit besitzen kann, während es die zugrunde liegende Verteilung der Labels aufgrund eines Social-Desirability-Response-Bias (SDR) systematisch verzerrt. Dieser Bias äußert sich in einer Tendenz, normativ bevorzugte Antworten zu produzieren, anstatt jene, die der Eingabeinstanz treu sind, was potenziell zu fehlerhaften wissenschaftlichen Schlussfolgerungen über die öffentliche Meinung oder die Verbreitung schädlicher Inhalte führt.

Methodik
Die Autoren führen ein vergleichendes Audit über drei Open-Source-Modelle mit jeweils 7 Milliarden Parametern durch, die mittels Instruction-Tuning optimiert wurden: Zephyr-7B, Mistral-7B-Instruct-v0.3 und Qwen2.5-7B-Instruct. Diese Modelle unterscheiden sich in ihren Basis-Familien und Post-Training-Rezepten (z. B. Präferenzoptimierung, überwachtes Instruction-Tuning).

Die Evaluierung umfasst sechs Aufgaben aus dem TweetEval-Benchmark:

1. Hate Speech (Hassrede)
2. Offensive Language (Beleidigende Sprache)
3. Stance Detection (Haltung zur Abtreibung)
4. Sentiment (Stimmung)
5. Emotion
6. Irony (Ironie)

Die Studie testet vier Prompting-Bedingungen, um Interventionen zu simulieren, die Praktiker ohne Retraining anwenden könnten:

1. Neutral: Nur die Aufgabenanweisung.
2. Safety Framing: Explizite Anweisungen bezüglich Sicherheit, Fairness und Schadensvermeidung.
3. Depersonalisiert: Die Rahmung des Modells als deterministische Labeling-Funktion statt als hilfreicher Assistent.
4. Chain-of-Thought (CoT): Erlaubt Zwischenschritte der Argumentation vor dem finalen Label.

Dieses Design ergibt 72 experimentelle Zellen (3 Modelle × 6 Aufgaben × 4 Prompts). Die Autoren analysieren die Leistung anhand von vier komplementären Metriken:

• Macro-F1: Allgemeine Aufgabenleistung.
• False Benign Rate (FBR): Die Rate, mit der wahrhaft schädliche Beispiele als harmlos (benign) eingestuft werden.
• False Alarm Rate (FAR): Die Rate, mit der harmlose Beispiele fälschlicherweise als schädlich markiert werden.
• Downstream Distortion: Der absolute Fehler zwischen vorhergesagter und Gold-Klassen-Prävalenz (mit Fokus auf „AGAINST“ bei der Abtreibungs-Haltung und „HATE SPEECH“ bei Hassrede).

Wesentliche Beiträge

1. Multi-Task-Audit: Eine systematische Evaluierung von alignment-sensiblem Annotationsverhalten in den Bereichen Hassrede, beleidigende Sprache, Haltung, Sentiment, Emotion und Ironie.
2. Evidenz für die Unzulänglichkeit von Aggregaten: Demonstration, dass aggregierte Metriken (wie Macro-F1 oder die Gesamtzahl der Prävalenzgenauigkeit) für den Einsatz in der CSS unzureichend sind. Das Paper zeigt Fälle auf, in denen die Prävalenzgenauigkeit nur deshalb korrekt erscheint, weil sich gegensätzliche klassenbedingte Fehler (z. B. das Übersehen von schädlichen Inhalten bei gleichzeitiger Übermarkierung harmloser Inhalte) auf Korpus-Ebene zufällig aufheben.
3. Fehler-Taxonomie: Identifizierung von drei wiederkehrenden Fehlermustern mit spezifischen diagnostischen Signaturen:
   • Leniency Bias (Nachgiebigkeits-Bias): Hohe FBR und niedrige FAR (Unterschätzung schädlicher Inhalte).
   • Overcorrection (Überkorrektur): Niedrige FBR und hohe FAR (Überschätzung schädlicher Inhalte).
   • Neutrality Bias (Neutralitäts-Bias): Unterdrückung der Prävalenz starker Haltungs-Klassen zugunsten aufgeblähter Neutral-Labels.

Kernergebnisse

• Divergierende Fehlerrichtungen: Modelle scheitern nicht uniform. Zephyr weist einen starken Leniency Bias auf, insbesondere bei beleidigender Sprache (FBR = 0,729, FAR = 0,031), und unterschätzt systematisch die Anwendung schädlicher Labels. Im Gegensatz dazu zeigen Mistral und Qwen eine Überkorrektur bei Hassrede, wobei Mistral 60,4 % der nicht-hasserfüllten Tweets als Hassrede klassifiziert (FAR = 0,604).
• Neutrality Bias bei politischer Haltung: Bei der Aufgabe zur Abtreibungs-Haltung unterschätzen alle drei Modelle systematisch die Prävalenz der Position „AGAINST“ (Gold-Rate: 67,5 %) und blähen das Label „NONE/Neutral“ auf. Unter neutralem Prompting schätzte Zephyr die Opposition auf nur 27,9 %, während Mistral und Qwen 43,9 % schätzten. Dieser Bias blieb über alle Prompting-Bedingungen hinweg bestehen.
• Ineffektivität von Prompting-Interventionen: Keine einzelne Prompting-Intervention (Safety, Depersonalized, CoT) konnte diese Fehler über alle Modelle und Aufgaben hinweg konsistent korrigieren. In einigen Fällen verschlechterten Interventionen die Verzerrung (z. B. reduzierte das Safety-Framing die geschätzte „AGAINST“-Rate für Mistral weiter).
• Zufällige Aufhebung (Accidental Cancellation): Ein kritischer Befund betrifft Zephyrs Ergebnisse zur Hassrede. Unter neutralem Prompting entsprach die geschätzte Prävalenz von Zephyr (43,0 %) exakt der Gold-Rate. Dies war jedoch eine „zufällige Aufhebung“ einer hohen FBR (0,316) und einer hohen FAR (0,239). Ein Forscher, der sich allein auf die Prävalenzgenauigkeit verlassen würde, käme zu dem falschen Schluss, das Modell sei vertrauenswürdig, obwohl es einen signifikanten Teil der einzelnen Instanzen falsch etikettiert.
• Substanzielle Auswirkungen: Die beobachteten Verzerrungen (zwischen 14 und 40 Prozentpunkten) sind groß genug, um substantielle empirische Schlussfolgerungen umzukehren, etwa die Charakterisierung eines Datensatzes von „stark oppositionell“ zu „gleichmäßig verteilt“ zu ändern oder einen Korpus nahezu doppelt so toxisch erscheinen zu lassen, wie er tatsächlich ist.

Bedeutung und Behauptungen
Das Paper argumentt, dass für vertrauenswürdige KI in der computergestützten Sozialwissenschaft die „Headline“-Metrik der durchschnittlichen Genauigkeit irreführend ist. Das primäre Risiko ist nicht bloß eine niedrigere Genauigkeit, sondern eine systematische Messverzerrung, die die empirische Erzählung, die ein Forscher berichtet, verändert.

Die Autoren behaupten:

1. Alignment formt Fehlerprofile: Die Entscheidungen im Post-Training führen zu spezifischen, gerichteten Biases (Leniency vs. Overcorrection), die zwischen den Modellen variieren. Das bedeutet, dass ein Forscher, der das Modell mitten im Projekt wechselt, unbeabsichtigt seine empirische Schlussfolgerung ändern könnte, ohne seine Analyse zu ändern.
2. Prompting ist Teil des Instruments: Die Wahl des Prompts fungiert als verborgener Freiheitsgrad, der die Prävalenzschätzungen erheblich verändern kann (z. B. eine Spanne von 16,8 Punkten bei Mistral zur Abtreibungs-Haltung, abhängig vom Prompt).
3. Validierungsprotokoll: Forscher müssen über Macro-F1 hinausgehen. Bevor eine Annotations-Pipeline skaliert wird, sollten Praktiker die klassenbedingten Fehler (FBR/FAR) und die nachgelagerte Prävalenzverzerrung gegen eine kleine Gold-Stichprobe validieren.
4. Berichtsstandards: Die Angabe des Modells und des Prompts als Teil des Messinstruments ist eine Basisanforderung und keine optionale Offenlegung, da die gerichteten Biases des Annotators die Ansprüche an die zivilgesellschaftliche Debatte oder die öffentliche Meinung, die aus den Daten abgeleitet werden, direkt beeinflussen.

Das Paper schließt mit der Feststellung, dass ein Modell, das auf aggregierten Metriken kalibriert scheint, dennoch fundamental an der für die Sozialwissenschaft erforderlichen Messvalidität scheitern kann. Dies erfordert einen Wechsel hin zur Evaluierung von Annotatoren gegenüber nachgelagerten inferentiellen Zielgrößen anstatt gegenüber generischen Klassifizierungs-Leaderboards.