💻 computer science

Characterizing Opinion Evolution of Networked LLMs

Diese Arbeit zeigt, dass klassische Modelle der Meinungsdynamik zwar das Netzwerkverhalten von LLMs nicht vorhersagen können, die Einbeziehung eines angeborenen Bias-Parameters jedoch die Modellierungsgenauigkeit über verschiedene Modellfamilien, Themen und Netzwerkstrukturen hinweg signifikant verbessert.

Ursprüngliche Autoren: Caleb Probine, Yigit Ege Bayiz, Filippos Fotiadis, Samuel Li, Yunhao Yang, Ufuk Topcu

Veröffentlicht 2026-06-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Caleb Probine, Yigit Ege Bayiz, Filippos Fotiadis, Samuel Li, Yunhao Yang, Ufuk Topcu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich einen riesigen, digitalen Stadtplatz vor, auf dem die Bewohner keine Menschen sind, sondern KI-Chatbots (Large Language Models oder LLMs). Diese Bots unterhalten sich ständig miteinander und streiten über heiße Themen wie den Klimawandel, Impfstoffe oder Waffenkontrolle. Die Forscher in dieser Arbeit wollten herausfinden: Wie ändern diese KI-Bots ihre Meinung, wenn sie miteinander sprechen?

Um dies zu beantworten, versuchten sie, alte, klassische mathematische Formeln zu verwenden, die Wissenschaftler seit Jahrzehnten nutzen, um vorherzusagen, wie sich die Meinungen von menschlichen Gruppen verändern. Sie fragten: Funktionieren diese alten Formeln auch für KI? Und wenn nicht, was fehlt?

Hier ist die Aufschlüsselung ihrer Ergebnisse unter Verwendung einfacher Analogien:

1. Die alten Regeln funktionierten nicht (Das „Gruppenumarmungs“-Problem)

Lange Zeit verwendeten Wissenschaftler eine einfache Regel namens DeGroot-Modell, um die Meinungen von Menschen zu erklären. Stellen Sie sich das wie eine Gruppe von Freunden vor, die im Kreis sitzen, Händchen halten und ihre Meinungen so lange mitteln, bis alle in der Mitte übereinstimmen.

Die Forscher testeten dies an den KI-Bots. Es scheiterte. Die Bots mittelten nicht einfach ihre Meinungen und fanden einen gemeinsamen Nenner. Die alte Mathematik konnte nicht vorhersagen, was die Bots taten.

2. Der Mythos der „Sturheit“

Als Nächstes versuchten sie eine komplexere Regel namens Friedkin-Johnsen-Modell. Dieses Modell geht davon aus, dass Menschen ein wenig stur sind; sie hören zwar auf ihre Freunde, halten aber auch ihre allererste Meinung fest wie einen Lieblings-Teddybären, den sie niemals loslassen wollen.

Die Forscher testeten dies an den KI-Bots. Auch das funktionierte nicht gut. Die Bots schienen sich kaum um diese ursprünglichen „Teddybären-Meinungen“ zu scheren. Sobald das Gespräch begann, spielte ihr Ausgangspunkt kaum eine Rolle.

3. Das wahre Geheimnis: Der „Innere Kompass“

Der Durchbruch gelang, als die Forscher eine spezifische Zutat hinzufügten: Bias (Voreingenommenheit).

Stellen Sie sich vor, jeder KI-Bot besitzt einen verborgenen, inneren Kompass, dessen Nadel in eine bestimmte Richtung zeigt, egal was andere sagen. Hierbei geht es nicht darum, was sie begonnen haben; es geht darum, was sie tief im Inneren durch ihr Training zu glauben gelernt haben.

Die Entdeckung: Als die Forscher diesen „inneren Kompass“ (Bias) in ihre mathematischen Modelle einfügten, wurden die Vorhersagen unglaublich genau. Tatsächlich reduzierte das Hinzufügen dieses einzelnen Faktors den Fehler in ihren Vorhersagen um bis zu 88 %.
Die Metapher: Es ist, als würde eine Gruppe von Menschen versuchen zu entscheiden, wo sie essen gehen wollen. Die alten Modelle dachten, sie würden einfach ihre Entscheidungen mitteln (Pizza vs. Tacos). Die neue Erkenntnis zeigt, dass in der Realität jeder eine geheime, unerschütterliche Lust hat (z. B. „Ich muss Pizza haben“), die die ganze Gruppe in diese Richtung zieht, ungeachtet dessen, was die anderen vorschlagen.

4. Was ist mit „Echokammern“?

Die Forscher untersuchten auch die Homophilie. Dies ist die menschliche Tendenz, nur Menschen zuzuhören, die bereits mit einem selbst übereinstimmen (wie etwa nur mit Freunden abzuhängen, die dieselbe Musik lieben).

Das Ergebnis: Für die meisten KI-Bots spielte dies keine große Rolle. Sie schienen keine „anders gesinten“ Nachbarn auszufiltern.
Die Ausnahme: Eine spezifische KI-Familie (Qwen) zeigte dieses Verhalten tatsächlich und verhielt sich eher wie ein Mensch, der nur in seiner eigenen Echokammer zuhört. Aber für die anderen hörten sie auf alle, selbst wenn diese widersprachen.

5. Handeln verschiedene KI-Familien unterschiedlich?

Die Forscher testeten drei verschiedene KI-Familien (Llama, Qwen und Gemma) zu drei verschiedenen Themen.

Llama: Diese KI war auf eine seltsame Art am „stursten“. Sie hörte ihren Nachbarn kaum zu. Ihr innerer Kompass war so stark, dass sie die Gruppe fast vollständig ignorierte.
Qwen: Diese KI war am „sozialsten“. Sie hörte ihren Nachbarn fast so viel zu wie ihrem eigenen inneren Kompass.
Gemma: Diese lag in der Mitte, änderte aber ihr Verhalten je nach Thema (z. B. war sie sehr sozial in Bezug auf Waffenkontrolle, ignorierte aber die Nachbarn bei Impfstoffen).

6. Das „Netzwerk“ spielt keine Rolle

Schließlich fragten sie: Spielt die Form des Gesprächs eine Rolle? (z. B. Ist es wichtig, ob die Bots in einem Kreis, einem Stern oder einem zufälligen Chaos angeordnet sind?)

Das Ergebnis: Nein. Die „Persönlichkeit“ der KI (wie sehr sie auf sich selbst vs. auf ihre Nachbarn hört) blieb gleich, unabhängig davon, wie sie verbunden waren. Man kann das Verhalten einer KI mit einem einfachen, portablen Profil beschreiben, das überall funktioniert, ohne das gesamte Netzwerk abbilden zu müssen.

Das Fazit

Die Arbeit kommt zu dem Schluss, dass man nicht komplexe Mathematik über „Sturheit“ oder „Echokammern“ benötigt, um zu verstehen, wie KI-Bots in einer Gruppe ihre Meinung ändern. Man muss nur zwei Dinge wissen:

Soziale Mittelung: Wie sehr sie auf die Gruppe hören.
Angeborener Bias: Die starke, vorprogrammierte Richtung, zu der sie durch ihr Training gezogen werden.

Wenn man diese zwei Zahlen kennt, kann man das Verhalten der KI-Gruppe vorhersagen, fast so, als würde man die Persönlichkeit eines Menschen und sein Lieblingsessen kennen.

Technische Zusammenfassung: Charakterisierung der Meinungsevolution vernetzter LLMs

Problemstellung

Da Large Language Models (LLMs) zunehmend in Multi-Agenten-Systemen eingesetzt werden – von menschlichen Diskurssimulationen über Einflussoperationen bis hin zu vollständig von LLMs gesteuerten sozialen Plattformen – besteht ein kritischer Bedarf daran, zu verstehen, wie sich Meinungen innerhalb dieser Netzwerke bilden, entwickeln und verbreiten. Während klassische Modelle der Meinungsdynamik (z. B. DeGroot, Friedkin-Johnsen, Hegselmann-Krause) seit langem verwendet werden, um die kollektive Überzeugungsentwicklung in menschlichen Gesellschaften zu erklären, bleibt unklar, ob diese Modelle das Verhalten interagierender LLMs präzise erfassen können. Speziell untersuchen die Autoren, welche Mechanismen (Sturheit, Homophilie, Bias) intrinsisch für LLMs sind und welche erforderlich sind, um deren Meinungsentwicklung zu modellieren. Die Studie adressiert drei Kernforschungsfragen:

RQ1: Welche Komponenten klassischer Modelle der Meinungsdynamik sind am entscheidendsten für die Erklärung der LLM-Meinungsentwicklung?
RQ2: Inwieweit unterscheiden sich die abgeleiteten Parameter der Meinungsdynamik zwischen verschiedenen LLM-Familien und Diskussionsthemen?
RQ3: Sind die rekonstruierten Dynamiken der Meinung eine Eigenschaft des LLM selbst oder der spezifischen Netzwerktopologie, in der es kommuniziert?

Methodik

Die Autoren schlagen ein Framework vor, um die Meinungsdynamik vernetzter LLMs zu simulieren, zu messen und zu modellieren.

Simulation und Datengenerierung

Agenten und Netzwerk: Die Studie simuliert $n=30$ LLM-Agenten, die über gerichtete Graphen kommunizieren, die über drei topologische Modelle generiert wurden: Erdős–Rényi (zufällig), Chung-Lu (skalenfrei) und Stochastic Block Models (Community-Struktur).
Interaktionsprotokoll: Agenten posten sequenziell als Reaktion auf eine Zufallsstichprobe von $k$ Beiträgen ihrer Nachbarn. Die Beiträge werden generiert, indem die Agenten angewiesen werden, ihre Positionen basierend auf ihrer ursprünglichen Meinung und dem gesampelten Kontext zu begründen.
Messung der Meinung: Natürliche Sprachbeiträge werden mittels eines Stance-Identification-Modells in numerische Meinungen $z(t) \in [-1, 1]$ umgewandelt. Dies beinhaltet das Einbetten des Beitrags und von Referenztexten für/gegen ("for/against") sowie die Berechnung der Differenz der Kosinusähnlichkeit. Die Meinung eines Agenten zu einem gegebenen Zeitpunkt ist der Mittelwert seiner fünf aktuellsten Beiträge.
Initialisierung: Die Agenten werden mit diskreten Standpunkten initialisiert, die von vollständiger Uneinigkeit bis hin zu voller Zustimmung reichen und auf natürliche Sprachbeschreibungen abgebildet werden. Die Anfangsbedingungen variieren (uniform, polarisiert, Konsens, verzerrt).

Modellierungs-Framework

Die Autoren passen parametrische Modelle der Form $z(t + 1) = f_\theta(z(t), z(0), A)$ an die simulierten Trajektorien an. Sie evaluieren mehrere Hypothesen, die klassischen Modellen entsprechen:

DeGroot: Einfache Mittelung der Meinungen der Nachbarn.
Friedkin-Johnsen (FJ): Fügt einen Begriff der „Sturheit“ (stubbornness) hinzu, der die Agenten an ihren ursprünglichen Meinungen ( $z(0)$ ) verankert.
Uniformer Bias: Fügt einen Term für einen angeborenen Bias $b$ hinzu, zu dem die Agenten regredieren, unabhängig von den ursprünglichen Meinungen.
Homophilie: Ersetzt die statische Gewichtung durch eine distanzbasierte Gewichtung, bei der Agenten Nachbarn mit ähnlichen Meinungen stärker gewichten.
Adjazenz-basierte Gewichtung: Anstatt eine vollständige $n \times n$ Einflussmatrix $W$ für jeden Graphen anzupassen, testen die Autoren „graph-agnostische“ Modelle, bei denen der Einfluss eine Funktion der Adjazenzmatrix $\bar{A}$ und skalarer Koeffizienten ( $\mu_{self}, \mu_{neigh}$ ) ist.

Die Modelle werden durch Minimierung eines Least-Squares-Objektivs angepasst. Vollständig parametrisierte Modelle verwenden konvexe quadratische Programmierung (QP) oder nicht-lineare Solver (SLSQP), während adjazenz-basierte Modelle den Parameterraum auf skalare Koeffizienten reduzieren.

Kernergebnisse

1. Die Dominanz des angeborenen Bias (RQ1)

Die Studie stellt fest, dass naive Mittelungsmodelle (DeGroot) und Modelle, die nur Sturheit berücksichtigen (FJ), die LLM-Meinungsdynamik nicht adäquat abbilden können und hohe Vorhersagefehler aufweisen.

Bias ist entscheidend: Die Einbeziehung eines uniformen Bias-Terms ( $b$ ) führt zu erheblichen Gewinnen bei der Modelltreue. Modelle mit Bias reduzieren den kumulativen geschätzten mittleren Meinungsfehler um bis zu 88 % und die Wasserstein-1-Distanz um bis zu 67 % (speziell bei LLAMA3.1).
Unbedeutendheit anderer Faktoren:
- Sturheit: Die Verankerung der Agenten an ihren ursprünglichen Meinungen (die FJ-Komponente) bietet eine vernachlässigbare Verbesserung gegenüber dem grundlegenden DeGroot-Modell.
- Homophilie: Das Hinzufügen von Homophilie-Gewichtung ändert die Fehlerraten um höchstens wenige Prozent und erzielt keine messbare Verbesserung, sobald der Bias berücksichtigt wurde.
Fazit: Der primäre Treiber der LLM-Meinungsdynamik ist nicht Sturheit oder soziale Clusterbildung, sondern eine Regression hin zu einer einzigen, angeborenen Meinung, die von allen Agenten geteilt wird.

2. Parameter-Variabilität über Modelle und Themen hinweg (RQ2)

Obwohl der Mechanismus (Bias) konsistent ist, variiert die Größenordnung der Parameter:

Selbst-Gewichtung: Die Selbst-Gewichtung ( $\lambda_{self}$ ) ist konsistent der größte Parameter (0,53–0,70), was jedoch weitgehend ein Artefakt der gewählten Zeitskala ist.
Gewichtung der Ausgangsmeinung: Das Gewicht für die ursprünglichen Meinungen ( $\lambda_0$ ) liegt konsistent nahe Null (< 0,04), was bestätigt, dass LLMs sich nicht stark an ihrem Startstandpunkt orientieren.
Bias-Gewichtung: Das Bias-Gewicht ( $\lambda_b$ ) ist der zweitgrößte Term (0,17–0,36), was bestätigt, dass die Regression zur angeborenen Meinung ein universelles Merkmal ist.
Modellunterschiede:
- LLAMA3.1: Zeigt den stärksten Bias-Effekt und die geringste soziale Interaktion (Nachbeeinflussungs-Verhältnis $\approx 0$ ).
- QWEN3: Zeigt das „sozialste“ Verhalten, wobei der Einfluss der Nachbarn den Bias erreicht oder übertrifft.
- GEMMA3: Zeigt eine hohe Varianz in Abhängigkeit vom Thema.
Thematische Unterschiede: Das Thema „Impfstoffe“ liefert über alle Modelle hinweg konsistent den höchsten Bias-Effekt, was wahrscheinlich auf das Alignment-Training bezüglich Gesundheits-Fehlinformationen zurückzuführen ist.

3. Generalisierbarkeit von Verhaltensprofilen (RQ3)

Die Autoren vergleichen vollständig parametrisierte Modelle (die eine eindeutige Einflussmatrix $W$ für jeden Graphen anpassen) mit adjazenz-basierten Modellen (die skalare Koeffizienten verwenden).

Overfitting: Vollständig parametrisierte Modelle senken den Trainingsfehler, erhöhen jedoch den Fehler bei Testdaten (Held-out Test Error), was auf ein Overfitting auf spezifische Graphstrukturen hindeutet.
Portabilität: Adjazenz-basierte Modelle gewinnen ein Verhaltensprofil zurück, das über Netzwerktopologien hinweg generalisiert. Dies deutet darauf hin, dass die zurückgewonnenen Parameter (insbesondere der Bias und die sozialen Mittelungsgewichte) intrinsische Eigenschaften des LLM sind und keine Artefakte des spezifischen Netzwerks.

Bedeutung und Ansprüche

Das Paper beansprucht, ein kompaktes, identifizierbares Modell für die LLM-Meinungsbildung bereitzustellen. Durch den Nachweis, dass klassische Modelle der Meinungsdynamik LLM-Netzwerke genau beschreiben können, wenn sie einen angeborenen Bias-Term enthalten, legen die Autoren die Grundlage für:

Design und Kontrolle: Die Gestaltung von LLM-gesteuerten sozialen Plattformen, um Echo-Kammern zu mildern.
Validierung: Die Zertifizierung, wann LLM-Populationen in Simulationen als getreue Stellvertreter für menschliche Populationen fungieren können.
Hebelpunkte: Die Identifizierung von Punkten, an denen störrische LLM-Agenten die kollektiven Überzeugungen in Einflussoperationen überproportional prägen könnten.

Die Autoren stellen explizit klar, dass sich ihre Ergebnisse auf das Verhalten von Instruction-tuned LLMs in der Simulation beziehen. Sie mahnen an, dass diese Dynamiken nicht ohne unabhängige Validierung als Repräsentationen menschlicher Meinungsbildung angenommen werden sollten, und betonen, dass ihr Ziel darin besteht, diese Dynamiken lesbar und steuerbar zu machen, statt die Überzeugungskraft zu optimieren.