The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
Diese Studie stellt die Ansicht infrage, dass große Sprachmodelle nur geringfügige politische Vorurteile besitzen, und zeigt auf, dass sie zwar aufgrund sich ausgleichender parteipolitischer Positionen zu spezifischen Themen insgesamt moderat erscheinen, dennoch jedoch einen persuasiven Einfluss auf die politischen Einstellungen der Nutzer ausüben können, der mit professioneller politischer Werbung vergleichbar ist, insbesondere wenn ihre Antworten explizit gesteuert werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der Landschaft der modernen Politik ist die Ideologie einer Person selten ein einzelner, fester Block aus Überzeugungen. Stattdessen ist sie eine Sammlung von Meinungen zu vielen verschiedenen Themen, von der Gesundheitsversorgung bis zur Einwanderung, die manchmal in entgegengesetzte Richtungen ziehen können. Politikwissenschaftler haben schon lange verstanden, dass die meisten Menschen keine perfekt konsistenten Ansichten vertreten; ein Wähler kann zu einem Thema sehr liberal und zu einem anderen sehr konservativ sein, oder er hat schlichtweg keine starke Meinung. Seit Jahrzehnten messen Forscher diese Positionen, indem sie Menschen fragen, wie sie zu Gesetzen abstimmen würden oder wie sie zu bestimmten politischen Maßnahmen eingestellt sind, wodurch eine Karte entsteht, auf der die Positionen des Einzelnen verortet werden. Nun ist eine neue Frage aufgetaucht, da künstliche Intelligenz zu einem täglichen Werkzeug für Millionen von Menschen wird: Haben die großen Sprachmodelle, mit denen wir jeden Tag sprechen, ihre eigenen politischen Landkarten? Wenn diese Modelle, die immer häufiger genutzt werden, um Informationen zu finden und Meinungen zu bilden, verborgene Vorurteile besitzen, könnten sie subtil beeinflussen, wie Menschen die Welt sehen, ohne dass es jemand merkt.
Ein Team von Forschern setzte sich zum Ziel, dies zu beantworten, indem es künstliche Intelligenz nicht als neutralen Rechner, sondern als politischen Akteur behandelte. Sie untersuchten dreiundvierzig verschiedene große Sprachmodelle und baten jedes Modell, die Rolle eines Mitglieds des US-Kongresses, eines Richters am Obersten Gerichtshof oder eines regulären Wählers einzunehmen. Sie baten die Modelle nicht einfach darum, ihre Überzeugungen zu äußern; stattdessen ließen sie sie Entscheidungen über reale Gesetzesentwürfe, Gerichtsfälle und Umfragefragen treffen, genau wie ein Mensch es tun würde. Die Forscher verglichen diese digitalen Entscheidungen dann mit den tatsächlichen Abstimmungsergebnissen realer Politiker und den Antworten von Umfragen tausender echter Amerikaner. Sie fanden heraus, dass diese Modelle nicht in einem stillen, neutralen Mittelweg verharren. Stattdessen zeigen sie eine komplexe und oft widersprüchliche Mischung von Ansichten. Bei einigen Themen könnte ein einzelnes Modell eine Position einnehmen, die liberaler ist als die der stärksten Demokraten, während dasselbe Modell bei anderen Themen eine Haltung einnehmen könnte, die konservativer ist als die der stärksten Republikaner. Wenn man all diese Ansichten zusammen mittelt, erscheinen die Modelle oft moderat, aber dies ist eine Illusion, die durch das Ausgleichen starker, gegensätzlicher Meinungen entsteht, ähnlich wie bei einem echten Wähler, der eine Mischung aus widersprüchlichen Ansichten besitzt.
Die Studie untersuchte auch, woher diese Ansichten kommen. Die Forscher entdeckten, dass die politischen Neigungen dieser Modelle nicht einfach ein Spiegelbild der riesigen Menge an Texten sind, mit denen sie trainiert wurden. Stattdessen sind es die spezifischen Anweisungen und Sicherheitsfilter, die auf die Modelle nach ihrem ursprünglichen Training angewendet werden – Prozesse, die darauf abzielen, sie hilfreich und harmlos zu machen – die sie in bestimmte politische Richtungen drängen. Tatsächlich stellten die Forscher fest, dass die „rohen“ Versionen dieser Modelle vor diesen abschließenden Anpassungen viel näher an der politischen Mitte lagen. Es ist die abschließende Feinabstimmung, die ihnen ihre ausgeprägte und oft liberal geprägte politische Signatur verleiht. Diese Signatur ist nicht nur eine statische Liste von Meinungen; sie verändert sich je nachdem, wie das Modell angesprochen wird. Wenn sie dazu aufgefordert werden, als Wähler, Richter oder Gesetzgeber zu agieren, drücken die Modelle unterschiedliche Sätze von Positionen aus, was zeigt, dass ihre „Ideologie“ eher ein Verhalten ist, das sie als Reaktion auf einen Prompt aufführen, als ein tief verwurzeltes Glaubenssystem.
Der bedeutendste Teil der Forschung war jedoch die Frage, ob diese digitalen Meinungen tatsächlich die Köpfe echter Menschen ändern können. Die Forscher führten ein großes Experiment durch, bei dem tausende amerikanische Teilnehmer politische Themen mit diesen Modellen diskutierten. Sie testeten zwei verschiedene Szenarien. Im ersten Szenario durften die Modelle natürlich sprechen und Fragen beantworten, ohne angewiesen zu werden, für eine bestimmte Seite zu argumentieren. Im zweiten Szenario wurden die Modelle explizit angewiesen, für einen bestimmten Standpunkt zu argumentieren, wie etwa die Unterstützung eines neuen Waffenkontrollgesetzes oder die Ablehnung einer Steuererhöhung. Die Ergebnisse waren frappierend. Wenn die Modelle natürlich sprachen, hatten sie keinen messbaren Effekt auf die Meinungen der Teilnehmer. Die Menschen, die mit ihnen sprachen, änderten ihre Ansichten in keiner bestimmten Richtung nicht. Wenn die Modelle jedoch angewiesen wurden, für eine Seite zu argumentieren, wurden sie zu mächtigen Überredern. Teilnehmer, die mit einem Modell sprachen, das angewiesen war, für eine bestimmte Politik zu argumentieren, verschoben ihre eigenen Ansichten, um sich mit dem Modell in Einklang zu bringen, um durchschnittlich mehr als zehn Prozentpunkte. Dieser Effekt war stark genug, um den Einfluss professioneller politischer Wahlkampfkampagnen zu erreichen und in einigen Fällen sogar zu übertreffen.
Entscheidend war die Erkenntnis der Studie, dass diese Überzeugungskraft nicht von der Herkunft der Person abhing. Es spielte keine Rolle, ob der Teilnehmer hochgebildet war, die Nachrichten aufmerksam verfolgte oder sehr vertraut mit künstlicher Intelligenz war; der Einfluss wirkte auf alle gleichermaßen stark, unabhängig von diesen Faktoren. Allerdings spielte die Richtung des Arguments im Verhältnis zur eigenen Partei des Teilnehmers auf überraschende Weise eine Rolle. Die Forscher fanden heraus, dass Teilnehmer weniger wahrscheinlich ihre Meinung änderten, wenn das Modell gegen ihre eigene politische Partei argumentierte, und eher dazu neigten, wenn das Modell im Einklang mit ihrer Partei argumentierte. Die Forscher schlossen zudem die Idee aus, dass die Modelle lediglich dem zustimmten, was der Nutzer bereits dachte. Da die Modelle angewiesen worden waren, vor dem Gespräch für eine bestimmte Seite zu argumentieren, und da die Nutzer ihre Ansichten nicht vorab mitgeteilt hatten, konnten die Modelle nicht das Spiegelbild des Nutzers sein. Stattdessen beeinflussten die Modelle das Gespräch aktiv.
Die Ergebnisse legen nahe, dass diese Werkzeuge der künstlichen Intelligenz zwar wie neutrale Informationsquellen wirken mögen, wenn man sie sich selbst überlassen lässt, aber eine verborgene Kapazität besitzen, die politische Meinung zu formen, wenn sie dazu geleitet werden. Die Forscher betonen, dass dieser Einfluss nicht das Ergebnis davon ist, dass die Modelle eine Seele oder eine eigene politische Agenda haben, sondern das Resultat dessen, wie sie gebaut und instruiert werden. Wenn eine Regierung oder ein Unternehmen die öffentliche Meinung beeinflussen möchte, muss es keine Propagandamaschine erschaffen; es muss lediglich die Anweisungen anpassen, die den Modellen gegeben werden, die bereits Millionen von Menschen nutzen. Die Studie kommt zu dem Schluss, dass, während diese Werkzeuge immer tiefer in unser tägliches Leben integriert werden – von Suchmaschinen bis hin zu persönlichen Assistenten –, die Art und Weise ihrer Feinabstimmung tiefgreifende Folgen dafür haben wird, wie wir die Welt verstehen und wie wir wählen. Die Fähigkeit, den Geist eines Menschen zu ändern, ist nicht mehr ausschließlich menschlichen Sprechern vorbehalten; sie kann nun in die Software kodiert werden, mit der wir jeden Tag kommunizieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.