Prompts for Public-Sector LLMs Should Be Governed as Commons
Dieses Paper argumentiert, dass Prompts für Large Language Models im öffentlichen Sektor als verwaltete Allmende statt als private Eingaben behandelt werden sollten, und schlägt ein „Prompt Commons“-Framework mit versionierten Repositorien und Mechanismen zur Verhandlung zwischen Stakeholdern vor, um die Transparenz, Anfechtbarkeit und Auditierbarkeit beim Einsatz von KI zu verbessern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie leiten eine Stadtratssitzung, bei der ein sehr intelligenter, aber leicht eigenwilliger Roboter-Assistent Ihnen hilft, Entscheidungen zu entwerfen. Sie könnten denken, dass die Persönlichkeit des Roboters feststeht, weil er von einem großen Tech-Unternehmen gebaut wurde. Aber dieses Papier argumentiert, dass die Art und Weise, wie Sie mit dem Roboter sprechen (der „Prompt“), eigentlich der wichtigste Teil des Gesprächs ist.
Hier ist eine einfache Aufschlüsselung der Hauptideen des Papers, unter Verwendung alltäglicher Analogien.
1. Das Problem: Das „verborgene Rezept“
Betrachten Sie das Large Language Model (LLM) als eine riesige, leistungsstarke Küche. Die Zutaten (Daten) und das Training des Küchenchefs (der Code des Modells) stehen bereits fest.
Das Papier argumentiert jedoch, dass das Rezept, das Sie dem Koch geben, tatsächlich bestimmt, was serviert wird.
- Wenn Sie dem Koch sagen: „Bereite ein scharfes Gericht für eine Budget-Party zu“, erhalten Sie ein Ergebnis.
- Wenn Sie ihm sagen: „Bereite ein gesundes, teures Gericht für einen VIP zu“, erhalten Sie ein völlig anderes Ergebnis.
In öffentlichen Regierungsaufgaben werden diese „Rezepte“ (Prompts) oft von einer Person geschrieben, informell weitergereicht oder geheim gehalten. Wenn ein Rezept eine verborgene Voreingenommenheit hat (wie die Annahme, dass jeder ein Auto fährt), wird der Roboter Entscheidungen treffen, die Menschen benachteiligen, die den Bus nutzen. Da das Rezept verborgen ist, kann niemand die Voreingenommenheit sehen, sie kritisieren oder korrigieren.
2. Die Lösung: Das „Gemeinschafts-Kochbuch“ (Prompt Commons)
Der Autor schlägt ein neues System namens Prompt Commons vor. Stellen Sie sich eine öffentliche, gemeinschaftlich verwaltete Rezeptbibliothek vor, anstatt eines geheimen Notizbuches in der Tasche eines einzelnen Kochs.
Diese Bibliothek hat drei besondere Regeln:
- Versionskontrolle: Jedes Rezept hat eine Versionsnummer und ein Protokoll. Wenn jemand eine Zutat ändert, weiß jeder genau, wann und warum.
- Provenienz (Das „Wer“): Jedes Rezept muss angeben, wer es geschrieben hat. Wurde es von einem Senior geschrieben? Von einem Behindertenbeauftragten? Von einer Nachbarschaftsgruppe? Dies stellt sicher, dass wir wissen, wessen Stimme im Rezept enthalten ist.
- Der „Veto“-Knopf: Wenn eine bestimmte Gruppe (wie ein lokaler Seniorenrat) ein Rezept sieht, das ihrer Gemeinschaft schadet, können sie einen „Pause“-Knopf drücken. Das Rezept wird in eine Quarantänezone gesperrt, bis das Problem besprochen und behoben wurde.
3. Die praktische Anwendung: Der „Stadt-Pilot“
Die Forscher testeten diese Idee in einer großen nordamerikanischen Stadt. Sie versammelten 443 verschiedene Menschen aus verschiedenen Gemeinschaftsgruppen (Senioren, Einwanderer, LGBTQ+-Gruppen usw.), um ihre eigenen „Rezepte“ dafür zu schreiben, wie der Stadt-Roboter über Straßen und Parks sprechen soll.
Diese wurden in einen Datensatz von über 3.000 Variationen umgewandelt und auf drei verschiedene Arten der Verwaltung der Bibliothek getestet:
- Offen: Jeder kann ein Rezept hinzufügen (wie ein öffentliches schwarzes Brett).
- Kuratiert: Ein Team prüft, ob jedes Rezept die richtigen Tags hat und verschiedene Gruppen abdeckt (wie ein strenger Herausgeber).
- Veto-aktiviert: Das kuratierte System, jedoch mit der zusätzlichen Macht für spezifische Gruppen, schlechte Rezepte zu blockieren.
Die Ergebnisse:
- Wenn sie das Rezept einer einzelnen Person verwendeten, war der Roboter sehr „verpflichtet“ auf eine Seite eines Arguments (z. B. priorisierte er immer Autos).
- Wenn sie das Gemeinschafts-Kochbuch verwendeten (insbesondere die Veto-Version), wurden die Antworten des Roboters ausgewogener. Er war eher bereit, „Kompromisse“ vorzuschlagen (z. B. „Lassen Sie uns eine Fahrradspur und einen Parkplatz haben“), anstatt einen Gewinner zu wählen.
- Am wichtigsten war: Wenn eine „schlechte“ Antwort auftrat, korrigierte das Team mit dem Veto-System dies viel schneller (in etwa 5 Stunden) als das offene System (was über 30 Stunden dauerte).
4. Warum das für die Regierung wichtig ist
Das Papier legt nahe, dass Regierungen aufhören sollten, diese Prompts als temporäre Notizen zu behandeln. Stattdessen sollten sie sie als offizielle Grundsatzdokumente behandeln.
- Transparenz: So wie eine Stadt ihren Haushalt veröffentlichen muss, sollte sie auch die „Rezepte“ veröffentlichen, die sie für Entscheidungen verwendet.
- Rechenschaftspflicht: Wenn eine Entscheidung schiefgeht, kann man sie auf die spezifische Version des Rezeptes zurückführen, die sie verursacht hat.
- Verhandlung: Anstatt dass eine Person die Persönlichkeit des Roboters entscheidet, können verschiedene Gruppen ihre eigenen Versionen einreichen, und das System kann so gestaltet werden, dass es einen Mittelweg findet.
5. Was das Papier nicht sagt
Es ist wichtig, sich an das zu halten, was das Papier tatsächlich behauptet:
- Es sagt nicht, dass dieses System perfekt ist oder alle KI-Probleme löst.
- Es behauptet nicht, dass die „Kompromiss“-Antworten immer die moralisch beste Wahl sind; es sagt nur, dass sie sichtbarer und leichter zu debattieren sind.
- Es schlägt nicht vor, das Gehirn (das Modell) des Roboters zu ändern; die Änderung liegt ausschließlich darin, wie wir mit ihm sprechen.
Das Fazofit
Das Papier argumentiert, dass die Art und Weise, wie wir die Frage stellen, genauso wichtig ist wie die Antwort. Indem wir die „Frage“ (den Prompt) als eine öffentliche, geteilte und regulierte Ressource behandeln, können wir KI in der Regierung fairer, transparenter und reaktionsschneller gegenüber den Menschen machen, denen sie dient. Es verwandelt eine geheime, einpersonale Anweisung in ein öffentliches Gespräch.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.