Editorial Alignment: A Participatory Approach to Engaging Editorial Expertise in LLM-mediated Knowledge Dissemination
Dieses Paper schlägt „editorial alignment“ als eine Praxis des partizipativen Designs vor, die öffentliche Wissensinstitutionen dazu befähigt, LLM-Schnittstellen wieder mit ihren redaktionellen Standards und Werten in Einklang zu bringen und dadurch die redaktionelle Handlungsfähigkeit bei der KI-vermittelten Wissensvermittlung zu bewahren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine öffentliche Bibliothek vor, die seit einem Jahrhundert ihre Bücher sorgfältig kuratiert hat. Jede Tatsache wurde geprüft, jede Geschichte verifiziert, und die Bibliothekare sind stolz darauf, die vertrauenswürdige Quelle der Wahrheit für ihre Gemeinschaft zu sein. Stellen Sie sich nun vor, ein neuer, unglaublich schneller Roboter-Bibliothekar trifft ein. Dieser Roboter kann in einer Sekunde Millionen von Büchern lesen und jede Frage sofort beantworten. Aber es gibt einen Haken: Der Roboter wurde von einem großen Technologieunternehmen gebaut, und er hat seine „Persönlichkeit“ und seine „Regeln“ aus den Daten dieses Unternehmens gelernt, nicht aus den spezifischen Standards der Bibliothek.
Dieses Papier handelt davon, wie diese Bibliothek den Roboter lehren kann, ihre eigenen Regeln zu respektieren, ohne ihre Seele zu verlieren.
Das Problem: Die „Standardeinstellungen“ des Roboters
Die Autoren argumenten, dass öffentliche Wissensinstitutionen (wie nationale Enzyklopädien in Dänemark, Schweden und Norwegen), wenn sie beginnen, Large Language Models (LLMs) zu nutzen, um Fragen der Menschen zu beantworten, einem großen Risiko ausgesetzt sind. Diese KI-Modelle kommen mit „vorinstallierten“ Werten und Stilen, die von ihren kommerziellen Schöpfern festgelegt wurden. Wenn die Bibliothek den Roboter einfach nur einschaltet, könnte er anfangen, wie ein lockerer Chatbot zu klingen, Fakten zu erfinden oder einen Ton zu verwenden, der sich zu informell für eine ernsthafte Enzyklopädie anfühlt.
Die Hauptaufgabe der Bibliothek ist es, eine vertrauenswürdige Autorität zu sein. Wenn der Roboter anfängt, wie eine generische Internet-Suchmaschine zu agieren, verliert die Bibliothek ihren einzigartigen Wert. Die Herausforderung lautet: Wie bringt man einen Roboter dazu, sich wie ein spezifischer, ernsthafter Bibliothekar zu verhalten, ohne einen neuen Roboter von Grund auf neu zu bauen?
Die Lösung: „Redaktionelle Ausrichtung“ (Editorial Alignment)
Das Papier führt das Konzept der „Redaktionellen Ausrichtung“ ein. Betrachten Sie dies nicht als technischen Fix, sondern als einen kollaborativen Workshop, in dem die menschlichen Bibliothekare (Redakteure) dem Roboter beibringen, wie er sich zu verhalten hat.
Anstatt dass die Ingenieure raten, was die Bibliothekare wollen, oder die Bibliothekare einfach nur sagen „sei nett“, brachten die Forscher die Bibliothekare und das Tech-Team zusammen, um das Problem wie ein Design-Team zu lösen.
Wie sie es gemacht haben: Der Zwei-Schritte-Tanz
Die Forscher führten zwei Workshops mit den leitenden Redakteuren der Enzyklopädie durch, um herauszufinden, wie man die KI mit den Werten der Bibliothek „abgleicht“.
1. Der „Zukunftsworkshop“ (Träumen und Kritisieren)
Zuerst baten sie die Redakteure, sich einen Prototyp der KI anzusehen und ihnen zu sagen, was falsch war.
- Das Feedback: Die Redakteure sagten: „Das klingt zu steif und akademisch“, aber auch: „Es ist zu locker und manchmal werden Fakten falsch dargestellt.“
- Die Analogie: Es war, als würde man einem Koch ein neues Rezept zeigen und fragen: „Schmeckt das wie das Essen unseres Restaurants?“ Die Köche sagten: „Nein, es fehlt unsere charakteristische Würze und die Textur ist völlig falsch.“
2. Der „Praxiszentrierte Workshop“ (Die eigentliche Arbeit)
Dies war der wichtigste Teil. Anstatt die Redakteure nur eine Liste von Regeln schreiben zu lassen (was schwierig ist, da Experten oft wissen, wie man etwas tut, aber nicht erklären können, warum), gaben die Forscher ihnen reale Beispiele von KI-Antworten, die „falsch“ waren.
- Die Aktivität: Die Redakteure mussten diese KI-Antworten selbst bearbeiten. Sie mussten eine Antwort über einen Dialekt oder eine über eine medizinische Erkrankung korrigieren, um sie an die Standards der Enzyklopädie anzupassen.
- Die Entdeckung: Während sie editierten, begannen sie zu realisieren, was ihre verborgenen Regeln waren. Sie bemerkten, dass sie es hassten, wenn die KI mit dem Leser sprach („Hey du!“), anstatt über das Thema zu sprechen. Sie stellten fest, dass sie wollten, dass die KI mit einer Zusammenfassung beginnt, ähnlich wie eine Schlagzeile, bevor sie in die Details eintaucht. Sie entschieden, dass die KI nicht versuchen sollte, „lustig“ zu sein oder Emojis zu verwenden, selbst wenn dies die Inhalte zugänglicher machen würde.
- Das Ergebnis: Sie erstellten einen „Redaktionellen Standard“. Dies ist ein lebendiges Dokument – ein Regelbuch für den Roboter. Es besagt Dinge wie: „Fasse die Antwort immer zuerst zusammen“, „Sprich den Leser niemals mit ‚Du‘ an“ und „Setze Fakten immer in ihren historischen Kontext“.
Die große Überraschung: Der Roboter wurde ernster
Die Autoren fanden etwas Interessantes heraus. Als sie die Redakteure baten, sich eine „freundliche, lustige“ KI für junge Menschen vorzustellen, sagten die Redakteure tatsächlich: „Nein.“
Die Redakteure hatten das Gefühl, dass die KI, um vertrauenswürdig zu sein, wie die Enzyklopädie klingen müsse: ernst, neutral und strukturiert. Sie waren bereit, etwas „Spaß“ zu opfern, um die „Vertrauenswürdigkeit“ zu bewahren. Sie entschieden, dass es in Ordnung ist, wenn der Leser ein wenig Arbeit leisten muss, um die Antwort zu verstehen, sofern die Bibliothek die Quelle der Wahrheit ist. Die KI sollte nicht versuchen, „in den Kopf des Lesers zu kriechen“ oder wie ein gesprächiger Freund zu agieren; sie sollte wie ein zuverlässiges Nachschlagewerk agieren.
Der Haken: Einfluss vs. Macht
Das Papier endet mit einer entscheidenden Warnung. Während die Redakteure erfolgreich geholfen haben, die Regeln (den „Redaktionellen Standard“) zu entwerfen, besitzen sie den Roboter nicht wirklich. Das Management und die Technologieunternehmen halten weiterhin die Macht.
- Die Analogie: Stellen Sie sich vor, die Bibliothekare hätten eine Verfassung für den neuen Roboter-Bibliothekar geschrieben. Aber der Besitzer des Gebäudes (das Management) kann trotzdem hereinkommen, die Verfassung ignorieren und das Verhalten des Roboters jederzeit ändern.
- Das Fazit: Das Papier argumentiert, dass es für dieses Vorhaben mehr braucht als nur einen Platz am Tisch; die Bibliothekare brauchen Miteigentümerschaft (Co-Ownership). Sie benötigen eine formale Garantie, dass ihre Regeln nicht außer Kraft gesetzt werden können. Ohne dies läuft der Prozess Gefahr, nur ein Weg zu sein, um Daten von den Bibliothekaren zu „beziehen“, um den Roboter geringfügig besser zu machen, ohne den Bibliothekaren echte Kontrolle zu geben.
Zusammenfassung
Kurz gesagt zeigt dieses Papier, dass man nicht einfach eine intelligente KI in eine ernsthafte Bibliothek „einstecken“ kann und erwartet, dass sie funktioniert. Man muss sich mit den Experten (den Redakteuren) zusammensetzen und sie die KI durch reale Praxis ihre spezifische Denkweise lehren lassen. Dies schafft einen Satz von Regeln, die die KI vertrauenswürdig halten. Damit dies jedoch eine echte Partnerschaft und nicht nur eine Konsultation ist, müssen die Experten jedoch auch die tatsächliche Macht haben, diese Regeln durchzusetzen, und nicht nur die Fähigkeit, sie vorzuschlagen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.