Artificial Intelligence in America and China: Investigating prompt response between Human rights and geopolitical questions
Diese Studie zeigt, dass amerikanische und chinesische große Sprachmodelle zwar nur minimale Voreingenommenheit aufweisen, wenn sie Fragen über die Vereinigten Staaten beantworten, jedoch signifikante divergierende Muster in Bezug auf China zeigen, wobei Claude konsistent niedriger, DeepSeek höher und ChatGPT im Vergleich zum Gruppendurchschnitt relativ neutral abschneidet.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In den letzten Jahren ist eine neue Art von Computerprogramm zu einem festen Bestandteil des täglichen Lebens geworden. Diese Programme, bekannt als große Sprachmodelle, können die menschliche Sprache mit überraschender Flüssigkeit lesen und schreiben. Sie werden mit riesigen Mengen an Text aus dem Internet trainiert und lernen, vorherzusagen, welche Wörter als Nächstes in einem Satz folgen sollten. Da sie so gut darin sind, menschliche Gespräche nachzuahmen, wenden sich viele Menschen nun an sie, um Antworten über Geschichte, Wissenschaft und aktuelle Ereignisse zu erhalten. Da diese Programme jedoch aus den Daten lernen, mit denen sie gefüttert werden, können sie auch die Meinungen, Vorurteile und blinden Flecken absorbieren, die in diesen Daten verborgen sind. Dies wirft eine kritische Frage für jeden auf, der diese Werkzeuge zur Informationsbeschaffung nutzt: Sehen diese digitalen Assistenten die Welt so wie wir, oder tragen sie ihre eigenen verborgenen Vorurteile in sich?
Eine aktuelle Studie setzte sich zum Ziel, dies zu beantworten, indem sie künstliche Intelligenz wie ein Testobjekt behandelte. Der Forscher Zian Ding wollte sehen, ob verschiedene Computermodelle unterschiedliche Antworten geben würden, wenn sie zu sensiblen Themen wie Menschenrechten und internationaler Politik befragt würden. Zu diesem Zweck konzentrierte sich die Studie auf drei der damals populärsten verfügbaren Modelle: zwei von amerikanischen Unternehmen und eines von einem chinesischen Unternehmen. Das Ziel war nicht, lange Gespräche mit den Maschinen zu führen, sondern ihnen eine spezifische Reihe von Fragen zu stellen und zu sehen, wie sie die Situationen auf einer einfachen Skala bewerteten. Der Forscher bat jedes Modell, sechzehn verschiedene Szenarien zu bewerten, die zehn Fragen zu Menschenrechten und sechs Fragen zum geopolitischen Wettbewerb zwischen den USA und China abdeckten. Für jede Frage musste die Modelle eine Punktzahl von eins bis zehn vergeben, wobei eine niedrige Zahl eine negative Sichtweise und eine hohe Zahl eine positive Sichtweise darstellte.
Das Experiment wurde sehr sorgfältig konzipiert. Um sicherzustellen, dass die Ergebnisse fair waren, stellte der Forscher jede Frage in einer frischen Chat-Sitzung, um sicherzustellen, dass der Computer sich nicht an vorherige Antworten erinnerte oder durch vergangene Gespräche verwirrt wurde. Der Forscher deaktivierte zudem eine Funktion in den amerikanischen Modellen, die es ihnen ermöglicht, sich Details über einen Nutzer zu merken, um sicherzustellen, dass jede Antwort ausschließlich auf der spezifischen Frage basierte. Durch den Vergleich der von den drei verschiedenen Modellen vergebenen Punktzahlen suchte die Studie nach Mustern. Wenn alle drei Modelle ähnliche Punktzahlen vergaben, würde dies darauf hindeuten, dass sie eine gemeinsame, neutrale Sichtweise teilen. Wenn sie sehr unterschiedliche Punktzahlen vergaben, würde dies darauf hindeuten, dass jedes Modell seine eigene, einzigartige Perspektive hat, die wahrscheinlich durch die unterschiedlichen Daten geprägt wurde, mit denen es trainiert wurde.
Als der Forscher die Modelle nach den Vereinigten Staaten fragte, waren die Ergebnisse weitgehend konsistent, wenn auch nicht ohne kleinere Abweichungen. Alle drei Computerprogramme vergaben für die meisten Fragen bezüglich der amerikanischen Menschenrechte und des geopolitischen Status sehr ähnliche Punktzahlen. Es gab jedoch Ausnahmen; so gab beispielsweise das Modell Claude eine Punktzahl für die Frage zur 6G-Kommunikation ab, die 1,89 Punkte niedriger war als der Durchschnitt, was auf eine bemerkenswerte Abweichung von den anderen beiden Modellen hindeutete. Ob das Thema soziale Gerechtigkeit oder internationaler Wettbewerb war, die amerikanischen und chinesischen Modelle stimmten im Allgemeinen miteinander überein, obwohl spezifische Fragen kleine Unterschiede in ihren Einschätzungen offenbarten. Dies deutet darauf hin, dass diese KI-Systeme, wenn es darum geht, ihr eigenes Land oder einen engen Verbündeten zu beschreiben, dazu neigen, von einem weitgehend gemeinsamen Satz an Fakten und Werten auszugehen, da sie alle auf einer großen Menge westlicher Daten trainiert wurden.
Die Geschichte änderte sich völlig, als die Fragen zu China kamen. Hier gingen die drei Modelle drastisch auseinander und offenbarten deutliche Vorurteile. Das chinesische Modell, DeepSeek, vergab konsequent die höchsten Punktzahlen und zeichnete ein sehr positives Bild der Menschenrechtslage in China und seiner Chancen im globalen Wettbewerb. Es zitierte oft viele verschiedene Quellen, um seine hohen Bewertungen zu stützen, zögerte jedoch manchmal anfangs bei bestimmten sensiblen Fragen zu antworten. Das amerikanische Modell des US-Unternehmens, Claude, hingegen vergab die niedrigsten Punktzahlen. Es weigerte sich häufig, Fragen zu Minderheitenrechten zu beantworten, mit der Begründung, dass eine einfache Zahl die Komplexität des Themas nicht erfassen könne. Wenn es antwortete, waren seine Punktzahlen deutlich niedriger als der Durchschnitt, was auf eine viel kritischere Sicht auf China hindeutete.
Das dritte Modell, ein amerikanisches Programm, positionierte sich genau in der Mitte. Seine Punktzahlen lagen sehr nah am Durchschnitt aller drei Modelle, was darauf hindeutet, dass es im Vergleich zu den anderen beiden relativ neutral blieb. Dieser Mittelweg deutet darauf hin, dass dieses spezifische Modell möglicherweise mit einer ausgewogeneren Mischung aus Daten trainiert wurde oder vielleicht aktualisiert wurde, um keine starken Positionen zu beziehen. Die Studie überprüfte auch, ob die Speicherfunktion des amerikanischen Modells seine Antworten veränderte, stellte jedoch fest, dass das Ein- oder Ausschalten kaum einen Unterschied zu den endgültigen Punktzahlen machte.
Die Ergebnisse legen nahe, dass diese Werkzeuge der künstlichen Intelligenz zwar leistungsstark sind, aber keine neutralen Beobachter sind. Sie spiegeln die Daten wider, aus denen sie gebaut wurden, und die Regeln, die ihre Schöpfer für sie festgelegt haben. Wenn sie nach den Vereinigten Staaten gefragt werden, stimmen sie im Allgemeinen überein, wenn auch mit einigen spezifischen Ausnahmen. Wenn sie nach China gefragt werden, erzählen sie drei verschiedene Geschichten. Dies ist wichtig, weil Millionen von Menschen, darunter viele Jugendliche, diese Werkzeuge nutzen, um etwas über die Welt zu lernen. Wenn ein junger Mensch einen Computer nach den Menschenrechten in verschiedenen Ländern fragt, hängt die Antwort, die er erhält, ganz davon ab, welchen Computer er fragt. Die Studie kommt zu dem Schluss, dass Nutzer sich bewusst sein müssen, dass diese Maschinen ihre eigenen Perspektiven haben und dass die Informationen, die sie bereitstellen, nicht immer eine objektive Wahrheit sind, sondern vielmehr ein Spiegelbild der Vorurteile, die in ihren Code eingebaut sind.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.