Small edits, large models: How Wikipedia advocacy shapes LLM values
Diese Arbeit zeigt, dass eine kleine, koordinierte Gruppe von Wikipedia-Freiwilligen die Werte und Reaktionen großer Sprachmodelle zu spezifischen Themen wie dem Tierschutz erheblich prägen kann, da ihre gezielten Bearbeitungen im Vergleich zu unbezogenen Inhalten einen unverhältnismäßig großen Einfluss auf das Modelltraining und das Verhalten ausüben.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als eine riesige, endlose Bibliothek vor, in der jedes jemals geschriebene Buch in Regalen gestapelt ist. Stellen Sie sich nun vor, Künstliche Intelligenz (KI) sei ein superintelligenter Student, der alles über die Welt lernen möchte. Um dies zu tun, liest der Student nicht nur ein Buch; er liest jedes Buch in der Bibliothek.
Dieser Student ist jedoch sehr wählerisch. Er liest nicht alle Bücher gleicherweise. Er schenkt dem „Enzyklopädie“-Abschnitt (Wikipedia) besondere Aufmerksamkeit, weil dieser von Experten geschrieben wurde und sehr zuverlässig ist. Tatsächlich liest der Student die Enzyklopädie-Seiten drei- bis fünfmal häufiger als die wahllosen Zeitungsartikel oder Blogbeiträge, die im Rest der Bibliothek verstreut sind.
In diesem Papier geht es um eine kleine Gruppe von Freiwilligen namens Pro-Animal Wikipedians (PAW). Sie beschlossen, die Lerngewohnheiten dieses „superintelligenten Studenten“ zu ihrem Vorteil zu nutzen. Hier ist die einfache Aufschlüsselung dessen, was sie getan haben und was sie herausgefunden haben:
1. Die Strategie: Die Enzyklopädie bearbeiten
Die PAW-Gruppe versuchte nicht, die KI zu hacken oder einen neuen Computer zu bauen. Stattdessen taten sie etwas sehr Einfaches: Sie bearbeiteten Wikipedia.
Sie besuchten 115 verschiedene Wikipedia-Seiten (hauptsächlich über große Fast-Food-Ketten, Politiker und Tierschutzgesetze) und fügten 125 spezifische, faktengeprüfte Absätze über Tierwohl hinzu.
- Beispiel: Auf einer Seite über eine Fast-Food-Kette fügten sie einen Abschnitt hinzu, der genau beschreibt, wie dieses Unternehmen mit seinen Hühnern umgeht.
- Das Ziel: Sie wollten sehen, ob die Änderung der „Enzyklopädie“ das Lernen des „superintelligenten Studenten“ (der KI) über diese Unternehmen verändern würde.
2. Das Experiment: Hat der Student es bemerkt?
Die Forscher wollten wissen: Hat die KI tatsächlich von diesen spezifischen Bearbeitungen gelernt, oder hat sie sie einfach ignoriert?
Um dies herauszufinden, verwendeten sie drei verschiedene „Lupen“ (wissenschaftliche Werkzeuge), um zu untersuchen, wie die KI (speziell Modelle wie Llama) über das Tierwohl dachte.
- Lupe #1 (Der „Gedächtnistest“): Sie stellten der KI Fragen wie: „Was ist die Richtlinie dieses Unternehmens zum Tierwohl?“ Die KI suchte in ihren Trainingsdaten nach der Antwort. Die Forscher fanden heraus, dass in 68 % der Fälle die Antwort der KI direkt aus den spezifischen Absätzen stammte, die die PAW-Gruppe geschrieben hatte. Ohne diese Bearbeitungen hätte die KI diese Fakten nicht gekannt.
- Lupe #2 (Der „Was wäre wenn“-Test): Sie führten eine Simulation durch mit der Frage: „Wenn wir die PAW-Bearbeitungen aus dem Gedächtnis der KI löschen würden, würde die KI bei Fragen zum Tierwohl schlechter abschneiden?“ Die Antwort war ein deutliches Ja. Tatsächlich waren in jedem einzelnen Testlauf die zehn wichtigsten Informationsstücke, die die KI zur Beantwortung von Fragen zum Tierwohl nutzte, alle die Bearbeitungen der PAW-Gruppe.
- Lupe #3 (Der „Spezialisten“-Test): Sie trainierten zwei winzige KI-Modelle von Grund auf neu. Eines las nur die PAW-Bearbeitungen; das andere las nur zufällige Wikipedia-Texte.
- Das „PAW-Modell“ wurde zu einem Experten für das Tierwohl, wusste aber nichts über die allgemeine Firmengeschichte.
- Das „Zufalls-Modell“ wurde zu einem Experten für allgemeine Geschichte, wusste aber nichts über das Tierwohl.
- Die Lektion: Die KI hat nicht nur die Wörter auswendig gelernt; sie hat die Ideen und Assoziationen speziell aus dem Text gelernt, der ihr gefüttert wurde.
3. Die entscheidende Entdeckung: Es ist spezifisch, nicht allgemein
Die wichtigste Erkenntnis ist, dass die KI nicht verwirrt wurde.
- Wenn sie nach Tierwohl gefragt wurde, verließ sich die KI stark auf die PAW-Bearbeitungen.
- Wenn sie nach unbeteiligten Dingen gefragt wurde (wie „Wie viele Filialen hat dieses Unternehmen?“), ignorierte die KI die PAW-Bearbeitungen und griff auf ihr Allgemeinwissen zurück.
Die Analogie: Stellen Sie sich vor, Sie lehren ein Kind etwas über einen bestimmten Baum. Sie fügen in einem Bilderbuch ein neues, leuchtend rotes Blatt an den Baum hinzu.
- Wenn Sie fragen: „Welche Farbe hat das Blatt?“, zeigt das Kind auf Ihr rotes Blatt.
- Wenn Sie fragen: „Wie hoch ist der Baum?“, ignoriert das Kind das Blatt und schaut auf den Stamm.
Das Kind hat gelernt, dass das rote Blatt nur für Fragen über Blätter wichtig ist, nicht für Fragen über den ganzen Baum. Die KI tat genau dasselbe.
4. Warum dies wichtig ist (laut dem Papier)
Das Papier kommt zu dem Schluss, dass man keine Millionen von Dollar oder ein Team von Ingenieuren braucht, um die KI zu beeinflussen. Man braucht nur eine kleine, koordinierte Gruppe von Freiwilligen, die Wikipedia bearbeiten.
Da KI-Modelle auf Wikipedia trainiert werden und da sie Wikipedia sehr stark gewichten, ist das Ändern der Wikipedia-Seite wie das Ändern des Quellcodes des Wissens der KI.
- Die Skalierung: Das Papier stellt fest, dass die von ihnen getesteten KI-Modelle zwar kleiner sind als die, die Sie heute vielleicht auf Ihrem Telefon nutzen, der Effekt bei den größeren Modellen jedoch wahrscheinlich noch stärker ist. Dies liegt daran, dass die größeren Modelle mehr „Gedächtnis“ haben, um diese spezifischen Fakten festzuhalten, und weil die Wikipedia-Fakten durch andere Nachrichtenquellen, die die KI ebenfalls liest, verstärkt werden.
- Das Fazit: Eine kleine Gruppe von Menschen kann, indem sie einfach faktische, gut belegte Artikel auf Wikipedia schreibt, die Art und Weise messbar verändern, wie KI-Systeme über das Tierwohl sprechen. Es ist ein kostengünstiger, wirkungsvoller Weg, das „Gewissen“ der künstlichen Intelligenz zu gestalten.
Kurz gesagt: Das Papier beweist, dass man nicht die KI programmieren muss, wenn man möchte, dass eine KI sich für ein bestimmtes Thema interessiert. Man muss nur den Enzyklopädie-Eintrag schreiben, den die KI liest.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.