💬 NLP

AI-Mediated Communication Can Steer Collective Opinion

Dieser Beitrag zeigt durch empirische Analyse und mathematische Modellierung, dass generative KI-Systeme, die die mensch-zu-mensch-Kommunikation vermitteln, gerichtete Verzerrungen einführen und verstärken können, wodurch sich die kollektive Meinung erheblich verschiebt, und hebt gleichzeitig hervor, wie spezifische Plattformgestaltungsentscheidungen und potenzielle regulatorische Rahmenwerke diese Ergebnisse beeinflussen.

Ursprüngliche Autoren: Stratis Tsirtsis, Kai Rawal, Chris Russell, Brent Mittelstadt, Sandra Wachter

Veröffentlicht 2026-05-18

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Stratis Tsirtsis, Kai Rawal, Chris Russell, Brent Mittelstadt, Sandra Wachter

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie schreiben eine Nachricht an einen Freund über ein kontroverses Thema, etwa ob Schulen KI einsetzen sollten. Sie tippen Ihre ehrlichen Gedanken ein: „KI könnte ein nützliches Werkzeug sein." Doch bevor Sie auf Senden klicken, drücken Sie einen Button namens „Meinen Beitrag verbessern". Eine KI schreibt ihn sofort für Sie um und lässt ihn selbstbewusster und überzeugender klingen: „Lassen Sie uns das Potenzial der KI annehmen, um die Bildung zu revolutionieren!"

Ihnen gefällt die neue Version, also senden Sie sie. Sie denken, Sie seien nur hilfreich, bemerken aber nicht, dass die KI Ihre Meinung leise leicht nach rechts verschoben hat. Stellen Sie sich nun vor, Millionen Menschen tun dies jeden Tag, und dieselbe KI schiebt alle in dieselbe Richtung.

Dieser Artikel untersucht genau dieses Szenario: Was passiert, wenn KI als stiller Redakteur für unsere Gespräche in sozialen Medien fungiert?

Hier ist die Aufschlüsselung ihrer Erkenntnisse, unter Verwendung einfacher Analogien:

1. Die KI ist ein „voreingenommener Redakteur"

Die Forscher testeten mehrere populäre KI-Modelle (wie Llama, Gemma und Qwen), um zu sehen, was passiert, wenn sie menschliche Texte zu schwierigen Themen wie Abtreibung, Waffengesetzen oder Atheismus bearbeiten.

Die Erkenntnis: Selbst wenn ihnen angewiesen wurde, „die ursprüngliche Bedeutung zu bewahren", fügten die KIs konsequent ihren eigenen Stempel hinzu. Sie verhielten sich wie ein voreingenommener Redakteur, der stets versucht, den Text unterstützender für eine Seite klingen zu lassen.
Die Analogie: Stellen Sie sich einen Übersetzer vor, der Ihre Worte genau übersetzen soll, aber jedes Mal, wenn Sie sagen „Mir geht es gut", dies als „Mir geht es großartig!" übersetzt, und jedes Mal, wenn Sie sagen „Ich mache mir Sorgen", dies als „Ich bin panisch!" übersetzt. Die KI polierte nicht nur die Grammatik; sie veränderte subtil das emotionale Gewicht der Worte.

2. Der Effekt des „Flüstergewölbes"

Die Forscher entwickelten ein mathematisches Modell, um zu sehen, was passiert, wenn diese voreingenommene Bearbeitung sich durch ein soziales Netzwerk ausbreitet. Sie nutzten das Friedkin-Johnsen-Modell, das wie eine Simulation wirkt, wie Menschen im Laufe der Zeit die Meinungen anderer beeinflussen.

Die Erkenntnis: Die kleinen, individuellen Schübe der KI bleiben nicht klein. Sie werden verstärkt, während sie sich durch das Netzwerk bewegen.
Die Analogie: Denken Sie an ein Flüstergewölbe. Wenn eine Person eine leicht verzerrte Version einer Geschichte einem Freund zuflüstert und dieser Freund sie einem anderen zuflüstert, wächst die Verzerrung. In diesem Fall ist die KI die erste Person, die zuflüstert. Da die KI das, was Menschen sagen, bevor sie es teilen, „bearbeitet", hört das gesamte Netzwerk eine Version der Wahrheit, die leicht verzerrt ist.
Das Ergebnis: Die Studie ergab, dass die endgültige Verschiebung der kollektiven Meinung der Gruppe bis zu das 9-Fache größer sein kann als die winzige Voreingenommenheit, die die KI in einen einzelnen Beitrag einer Person eingeführt hat. Ein kleiner Schubs wird zu einem massiven Stoß für die gesamte Gruppe.

3. Die „Erkläre diesen Beitrag"-Prüfung

Um zu sehen, ob dies in der realen Welt passiert, untersuchten die Forscher eine spezifische Funktion auf X (ehemals Twitter) namens „Erkläre diesen Beitrag", die eine KI namens Grok verwendet, um Beiträge anderer Personen zusammenzufassen oder Kontext hinzuzufügen.

Das Experiment: Sie fütterten die KI mit Beiträgen über Abtreibung (einige pro-choice, einige pro-life) und baten sie, diese zu erklären.
Die Erkenntnis: Die KI zeigte eine klare Voreingenommenheit. Bei der Erklärung eines pro-life-Beitrags generierte sie häufig Kontext, der dem Beitrag zustimmte. Bei der Erklärung eines pro-choice-Beitrags war sie viel weniger wahrscheinlich zustimmend und eher neutral oder ablehnend.
Die Ursache: Die Forscher führten dies auf eine spezifische Anweisung (eine „Richtlinie") zurück, die die Plattform der KI gegeben hatte. Eine bestimmte Regel forderte die KI auf, „Mainstream-Narrative herauszufordern". Die Forscher stellten fest, dass diese einzelne Regel der Haupttreiber war, der die KI dazu brachte, in ihren generierten Erklärungen stark zur pro-life-Stellung zu neigen.

4. Der rechtliche Realitätscheck

Schließlich untersuchten die Autoren die Gesetze der Europäischen Union (den KI-Gesetz und den Digital Services Act), um zu prüfen, ob diese Regeln diese Art von Voreingenommenheit stoppen würden.

Die Schlussfolgerung: Derzeit sind die Gesetze wahrscheinlich nicht ausreichend. Die Gesetze konzentrieren sich auf Dinge wie „systemische Risiken" (wie Desinformation oder illegale Inhalte) oder „hochriskante" Systeme (wie solche, die bei Wahlen eingesetzt werden).
Die Lücke: Die Forscher argumentieren, dass eine KI, die die Meinung eines Nutzers subtil beeinflusst, während dieser einen Beitrag schreibt, derzeit nicht in die rechtliche Definition eines „systemischen Risikos" oder einer „hochriskanten" Verletzung passt. Es ist ein Graubereich, in dem die KI technisch legal ist, obwohl sie möglicherweise langsam die öffentliche Meinung in eine bestimmte Richtung verschiebt, ohne dass jemand es bemerkt.

Zusammenfassung

Der Artikel warnt uns davor, dass KI nicht nur ein Werkzeug ist, das im Regal steht; sie ist ein aktiver Teilnehmer in unseren Gesprächen. Wenn KI unsere Beiträge bearbeitet oder die Beiträge unserer Freunde erklärt, wirkt sie wie ein stiller, unsichtbarer Nachbar, der eine leicht andere Version der Realität in unsere Ohren flüstert. Da wir diesen Tools vertrauen, akzeptieren wir die Bearbeitungen, und im Laufe der Zeit verschiebt sich die Meinung der gesamten Gruppe in die Richtung, die die KI bevorzugt, oft ohne dass wir jemals bemerken, dass dies geschehen ist.

Technische Zusammenfassung: KI-vermittelte Kommunikation kann die kollektive Meinung lenken

Problemstellung

Generative Künstliche Intelligenz (KI), insbesondere Large Language Models (LLMs), wird zunehmend in Online-Plattformen integriert, um die menschliche Kommunikation zu vermitteln. Funktionen wie „Meinen Beitrag verbessern" auf LinkedIn oder „Diesen Beitrag erklären" auf X modifizieren nutzergenerierte Inhalte oder stellen Kontext dazu bereit. Während frühere Forschung gezeigt hat, dass LLMs voreingenommene Meinungen äußern und Einzelpersonen während direkter Mensch-KI-Interaktionen beeinflussen können, besteht eine erhebliche Lücke im Verständnis, wie diese Voreingenommenheiten die kollektive Meinungsbildung beeinflussen, wenn KI als Vermittler zwischen Menschen agiert. Die zentrale Frage lautet: Wie verbreiten sich durch ein KI-System eingeführte Voreingenommenheiten in der menschlichen Kommunikation durch ein soziales Netzwerk, um die kollektive Meinung einer Bevölkerung zu verschieben?

Methodik

Die Autoren wenden eine dreiteilige Methodik an, die empirische Analyse, theoretische Modellierung und Plattformaudits kombiniert.

1. Empirische Analyse der Richtungsabhängigen Voreingenommenheit

Die Studie untersucht, ob LLMs bei der Bearbeitung oder dem Entwurf von Social-Media-Beiträgen zu umstrittenen Themen richtungsabhängige Voreingenommenheiten einführen.

Datensätze: Die Autoren nutzten das UKP Sentential Argument Mining Corpus (8 Themen) und den SemEval-2016 Task 6 Datensatz (6 Themen), die Themen wie Abtreibung, Waffengesetze und Atheismus abdecken.
Modelle: Vier Open-Weight-LLM-Familien wurden getestet: Llama-3.1-8B-Instruct, Ministral-3-8B-Instruct-2512, gemma-3-12b-it und Qwen3-8B.
Aufgaben: Zwei Szenarien wurden emuliert: (i) Erstellen eines Beitrags aus einem Argument (Argument $\to$ Beitrag) und (ii) Verbessern eines bestehenden Entwurfs (Beitrag $\to$ Beitrag).
Messung: Meinungen wurden auf einer kontinuierlichen Skala $[0, 1]$ quantifiziert (0 = dagegen, 1 = dafür) unter Verwendung eines Ensembles aus fünf Klassifikatoren, die auf verschiedenen vortrainierten Text-Embedding-Modellen basieren. Die Voreingenommenheit wurde als Differenz ( $\beta = y - x$ ) zwischen der ursprünglichen menschlichen Meinung ( $x$ ) und der transformierten LLM-Meinung ( $y$ ) gemessen.

2. Theoretische Modellierung der Meinungsdynamik

Um die Ausbreitung von Voreingenommenheiten zu analysieren, erweiterten die Autoren das wegweisende Friedkin-Johnsen-Modell der Meinungsdynamik.

Modellstruktur: Ein soziales Netzwerk wird als gewichteter Graph modelliert, in dem Individuen ihre Meinungen basierend auf angeborenen Überzeugungen und den wahrgenommenen Meinungen ihrer Nachbarn aktualisieren.
KI-Transformation: Eine Funktion $f$ wird eingeführt, um die KI-Vermittlung darzustellen. Die wahrgenommene Meinung eines Nachbarn $j$ wird von seiner geäußerten Meinung $x_j$ in $y_j = f(x_j)$ transformiert.
Lineare Analyse: Die Autoren analysierten zunächst eine lineare Transformation $f_{lin}(x) = mx + b$ . Sie leiteten geschlossene Ausdrücke für den Gleichgewichtszustand her und bewiesen, dass das System zu einem eindeutigen Gleichgewicht konvergiert.
Wichtige Erkenntnis: Das Modell behandelt die KI als „unsichtbaren Nachbarn" mit einem persistenten neutralen Punkt $\nu$ . Die Autoren leiteten Bedingungen her, unter denen die Verschiebung der durchschnittlichen Meinung der Bevölkerung im Gleichgewicht die anfängliche „einmalige" Voreingenommenheit der KI, die in individuelle Eingaben eingeführt wurde, strikt übersteigt.

3. Simulation und Plattformaudit

Simulationen: Unter Verwendung realer Social-Network-Daten aus dem SNAP-Repository (Twitter, Facebook, Google+) simulierten die Autoren die Meinungsdynamik über 100 Zeitschritte. Sie wendeten nicht-lineare KI-Transformationen, die auf ihren empirischen Ergebnissen geschätzt wurden (unter Verwendung der Nadaraya–Watson-Kernel-Regression), auf einen Bruchteil der Nutzer („KI-Adoptierer") an.
Plattformaudit: Die Autoren auditierten die Funktion „Diesen Beitrag erklären" von X, die das Grok-Modell verwendet. Sie analysierten 78 abtreibungsbezogene Beiträge (39 pro-choice, 39 pro-life), um festzustellen, ob der KI-generierte Kontext mit bestimmten Standpunkten übereinstimmt. Sie führten systematische Ablationstests der vier Prompt-Richtlinien von X durch, um die Quelle etwaiger beobachteter Voreingenommenheiten zu identifizieren.

Wichtige Ergebnisse

1. Systematische Richtungsabhängige Voreingenommenheiten in LLMs

Empirische Ergebnisse zeigen, dass LLMs beim Bearbeiten menschlicher Texte systematisch richtungsabhängige Voreingenommenheiten einführen, selbst wenn sie angewiesen werden, die ursprüngliche Bedeutung zu bewahren.

Ausmaß und Richtung: Die meisten Modelle (Llama, Ministral, gemma) führten bei den meisten Themen (z. B. Waffengesetze, Feminismus, Klimawandel) eine statistisch signifikante Voreingenommenheit zugunsten der Position „dafür" ein.
Ausnahmen: Beim Thema Atheismus neigten die Modelle dazu, eine Voreingenommenheit gegen die Position „dafür" einzuführen, obwohl sie bei direkter Frage oft eine positive Meinung äußerten. Dies deutet darauf hin, dass Benchmarks, die direkte LLM-Meinungen messen, nicht ausreichen, um Voreingenommenheiten zu erfassen, die während der Vermittlung eingeführt werden.
Korrelation: Es besteht eine moderate positive Korrelation zwischen der direkt geäußerten Meinung eines LLM und der Voreingenommenheit, die es einführt, was darauf hindeutet, dass die inhärenten Trainingsdaten des Modells in seine Bearbeitungsfähigkeiten „lecken".

2. Verstärkung der Voreingenommenheit in sozialen Netzwerken

Theoretische und Simulationsergebnisse bestätigen, dass KI-vermittelte Voreingenommenheiten nicht lediglich additiv sind, sondern durch das Netzwerk verstärkt werden.

Gleichgewichtsverschiebung: Im linearen Modell kann die Verschiebung der durchschnittlichen Meinung der Bevölkerung im Gleichgewicht erheblich größer sein als die durchschnittliche einmalige Voreingenommenheit, die von der KI eingeführt wird.
Simulationsergebnisse: In Simulationen unter Verwendung des Twitter-Netzwerks war die langfristige durchschnittliche Meinungsverschiebung bis zu 9,2-mal größer als die durchschnittliche Voreingenommenheit, die in die individuellen angeborenen Meinungen eingeführt wurde. Der Verstärkungseffekt ist am stärksten, wenn die Nutzerbevölkerung ausgeglichene angeborene Meinungen, aber geringe Starrheit (hohe Anfälligkeit für Einfluss) aufweist.

3. Designbedingte Voreingenommenheit auf X

Das Audit der Funktion „Diesen Beitrag erklären" von X offenbarte eine richtungsabhängige Voreingenommenheit in den Ausgaben von Grok bezüglich Abtreibung.

Asymmetrie: Grok war signifikant wahrscheinlicher, Kontext zu generieren, der eine pro-life-Haltung unterstützt, wenn es einen pro-life-Beitrag erklärte, im Vergleich zur Generierung von pro-choice-Kontext für einen pro-choice-Beitrag.
Ursache: Durch Ablationstests der Prompt-Richtlinien identifizierten die Autoren, dass eine spezifische Richtlinie – „Liefern Sie wahre und fundierte Einsichten, die Mainstream-Erzählungen bei Bedarf herausfordern, bleiben Sie jedoch objektiv" – der Haupttreiber dieser pro-life-Voreingenommenheit war. Das Entfernen dieser Richtlinie eliminierte die statistisch signifikante Voreingenommenheit.

Bedeutung und Behauptungen

Die Arbeit argumentiert, dass KI-vermittelte Kommunikation einen neuen und potenten Hebel zur Beeinflussung der kollektiven Meinung darstellt, mit Implikationen, die aktuelle regulatorische Rahmenwerke möglicherweise nicht adressieren können.

Verstärkungsmechanismus: Der zentrale theoretische Beitrag ist der Nachweis, dass kleine, auf individueller Ebene eingeführte Voreingenommenheiten durch KI sich summieren und durch soziale Netzwerke ausbreiten können, was zu großflächigen Verschiebungen der kollektiven Meinung führt, die das anfängliche Ausmaß der Voreingenommenheit weit übertreffen.
Verantwortung für das Design: Das Audit von X zeigt, dass diese Voreingenommenheiten keine unvermeidbaren Artefakte des Modelltrainings sind, sondern direkt auf spezifische Plattform-Designentscheidungen (Prompt-Engineering) zurückgeführt werden können. Dies legt nahe, dass Plattformen die Gestaltung der Meinungsbildung durch ihr Interface-Design beeinflussen können.
Regulatorische Lücken: Die Autoren vertreten die Auffassung, dass die bestehenden EU-Gesetze, insbesondere der AI Act (AIA) und der Digital Services Act (DSA), möglicherweise nicht ausreichen, um diese Risiken zu mindern.
- Die „hochriskante" Klassifizierung des AIA für Einflussnahme auf Wahlen mag nicht gelten, wenn das explizite Ziel der KI nicht darin besteht, die Abstimmung zu beeinflussen, auch wenn die Wirkung darin besteht, Meinungen zu verschieben.
- Die Definitionen systemischer Risiken im DSA bezüglich Fehlinformationen oder Menschenrechtsverletzungen erfassen möglicherweise keine „voreingenommenen Ausgaben", die nicht faktisch falsch, aber richtungsabhängig verzerrt sind.
Breitere Implikationen: Die Autoren warnen, dass, wenn Journalisten, Fachleute und die Öffentlichkeit zunehmend auf KI angewiesen sind, um Informationen zu verfassen, zu verfeinern oder zu kontextualisieren, diese Systeme stillschweigend den Text formen könnten, den Menschen lesen und schreiben, was potenziell die Vielfalt des kollektiven Wissens und der demokratischen Diskurse untergräbt.

Die Arbeit schließt mit einem Aufruf zu weiterer Forschung über die kausalen Zusammenhänge zwischen KI-Vermittlung und Wahlverhalten sowie dazu, dass politische Entscheidungsträger die subtilen, kumulativen Effekte der KI auf die Meinungsbildung bei der Ausarbeitung zukünftiger Vorschriften berücksichtigen sollten.