What Is The Political Content in LLMs' Pre- and Post-Training Data?
Die Studie zeigt, dass politische Verzerrungen in Large Language Models primär auf eine systematische Linkslastigkeit und einen Mangel an Transparenz in den Trainingsdaten zurückzuführen sind, die sich bereits im Basis-Modell manifestieren und durch nachgelagerte Trainingsphasen nicht behoben werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stell dir vor, ein großes Sprachmodell (ein KI-Chatbot) ist wie ein junger Schüler, der an einer riesigen, globalen Schule lernt. Bevor er jemals mit Menschen spricht oder Fragen beantwortet, muss er eine unvorstellbare Menge an Büchern, Zeitungen, Blogposts und Foren lesen. Das ist sein „Training".
Diese Studie von Tanise Ceron und ihren Kollegen untersucht genau diesen Lernprozess. Sie wollen herausfinden: Warum haben diese KIs oft eine politische Meinung? Und woher kommt diese?
Hier ist die Erklärung der wichtigsten Erkenntnisse, übersetzt in eine einfache Geschichte mit Metaphern:
1. Die Bibliothek ist nicht neutral (Das Problem der Daten)
Stell dir die Trainingsdaten (die Bücher, die die KI liest) als eine riesige Bibliothek vor.
- Die Entdeckung: Die Forscher haben diese Bibliothek durchsucht und festgestellt, dass sie nicht ausgewogen ist. Es gibt viel mehr Bücher mit einer „linken" Meinung (progressiv, sozialistisch) als mit einer „rechten" Meinung (konservativ).
- Die Metapher: Es ist, als würde der Schüler in einer Bibliothek sitzen, in der auf jedem zweiten Regal linksgerichtete Zeitungen liegen, aber nur auf jedem zehnten Regal rechtsgerichtete. Wenn er nur das liest, was ihm angeboten wird, wird er natürlich denken, dass die linke Sichtweise die „normale" oder „wichtigere" ist.
- Die Zahlen: In manchen Datensätzen gab es bis zu 12-mal mehr linke Texte als rechte.
2. Woher kommen die Bücher? (Die Quellen)
Die Forscher haben auch geschaut, woher diese Texte kommen.
- Links: Die linken Texte kamen oft von etablierten Nachrichtenquellen (wie die New York Times oder The Guardian) und großen Nachrichtenagenturen.
- Rechts: Die rechten Texte kamen viel häufiger von Blogs und kleineren, oft radikaleren Online-Communities.
- Die Metapher: Stell dir vor, der Schüler liest linksgerichtete Texte von seriösen Professoren und rechtsgerichtete Texte von Leuten, die in einer Garage sitzen und wütende Briefe schreiben. Das verzerrt das Bild, weil die „Garagen-Briefe" zwar laut sind, aber oft weniger breit gestreut sind als die Professoren.
3. Der Lehrer ändert nichts am Grundcharakter (Vor- vs. Nachtraining)
Ein KI-Modell durchläuft zwei Hauptphasen:
- Vor-Training (Pre-training): Der Schüler liest die riesige Bibliothek (die Rohdaten).
- Nachtraining (Post-training): Der Schüler bekommt einen speziellen Tutor, der ihm beibringt, wie man höflich antwortet und wie man sich wie ein Chatbot verhält (SFT und DPO).
- Die Entdeckung: Viele dachten, der Tutor (das Nachtraining) würde die politische Meinung des Schülers komplett ändern. Aber die Studie zeigt: Nein. Die politische Grundhaltung ist bereits fest im Kopf des Schülers verankert, bevor der Tutor überhaupt eintrifft.
- Die Metapher: Wenn der Schüler in der Bibliothek gelernt hat, dass „Umweltschutz wichtig ist", bringt ihm der Tutor später nur bei, wie man das höflich formuliert. Der Tutor ändert nicht die Meinung, dass Umweltschutz wichtig ist. Die politische „Basis" wird also im ersten Schritt (Vor-Training) gesetzt und bleibt dort.
4. Der Spiegel-Effekt (Daten = Verhalten)
Das Wichtigste: Die Meinung der KI im Chatfenster spiegelt genau das wider, was sie in der Bibliothek gelesen hat.
- Die Entdeckung: Es gibt einen extrem starken Zusammenhang (eine Korrelation von 87 %). Wenn in den Trainingsdaten mehr Texte waren, die sich für soziale Wohlfahrt aussprachen, tut die KI das auch.
- Die Metapher: Die KI ist wie ein Spiegel. Wenn du vor einen Spiegel stehst, der nur rote Kleidung zeigt, siehst du rot. Die KI zeigt nicht ihre eigene „Seele", sondern sie spiegelt einfach die Verzerrung wider, die in den Daten liegt, die sie gefüttert bekam.
5. Warum ist das wichtig? (Die Konsequenz)
Warum sollten wir uns darum kümmern?
- Das Risiko: Wenn Millionen von Menschen diese KIs nutzen, um sich über Wahlen oder Politik zu informieren, bekommen sie eine verzerrte Realität serviert. Es ist, als würde ein Nachrichtensender nur eine Seite der Geschichte erzählen. Das kann die öffentliche Meinung manipulieren und die Gesellschaft spalten.
- Die Lösung: Die Studie sagt uns, dass wir nicht einfach versuchen können, die KI später zu „korrigieren" (wie einen strengen Lehrer, der den Schüler zurechtweist). Wir müssen die Bibliothek selbst reinigen. Bevor die KI lernt, müssen wir sicherstellen, dass die Bücher, die sie liest, eine ausgewogenere Mischung aus verschiedenen Meinungen enthalten.
Zusammenfassung in einem Satz
Die KI ist nicht von Natur aus links oder rechts; sie ist wie ein Schüler, der in einer Bibliothek mit einer massiven Verzerrung nach links erzogen wurde, und diese Verzerrung bleibt auch dann bestehen, wenn sie später zu einem höflichen Chatbot ausgebildet wird. Um faire KIs zu bekommen, müssen wir die „Bücher", mit denen sie lernen, ausgewogener gestalten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.