Prompts for Public-Sector LLMs Should Be Governed as Commons
Dit artikel betoogt dat prompts voor grote taalmodellen in de publieke sector behandeld moeten worden als een beheerde gemeenschap (governed commons) in plaats van als private input, en stelt een "Prompt Commons"-framework voor met versieversieerde repositories en mechanismen voor onderhandeling tussen belanghebbenden om transparantie, betwistbaarheid en controleerbaarheid bij AI-implementatie te verbeteren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een vergadering van de gemeenteraad leidt waarbij een zeer slimme, maar lichtelijk eigenwijze robotassistent je helpt bij het opstellen van besluiten. Je zou kunnen denken dat de persoonlijkheid van de robot vaststaat omdat hij is gebouwd door een groot technologiebedrijf. Maar dit artikel betoogt dat hoe je met de robot praat (de "prompt") eigenlijk het belangrijkste deel van het gesprek is.
Hier is een eenvoudige uiteenzetting van de belangrijkste ideeën uit het artikel, gebruikmakend van alledaagense analogieën.
1. Het Probleem: Het "Verborgen Recept"
Beschouw de Large Language Model (LLM) als een enorme, krachtige keuken. De ingrediënten (data) en de training van de chef (de code van het model) staan al vast.
Het artikel stelt echter dat het recept dat je aan de chef geeft, bepaalt wat de maaltijd wordt.
- Als je tegen de chef zegt: "Maak een pittig gerecht voor een budgetfeestje," krijg je één resultaat.
- Als je tegen hem zegt: "Maak een gezond, duur gerecht voor een VIP," krijg je een totaal ander resultaat.
In publieke overheidsfuncties worden deze "recepten" (prompts) vaak geschreven door één persoon, informeel rondgestuurd of geheim gehouden. Als een recept een verborgen vooroordeel heeft (zoals de aanname dat iedereen een auto rijdt), zal de robot beslissingen nemen die mensen die de bus nemen benadelen. Omdat het recept verborgen is, kan niemand het vooroordeel zien, erover discussiëren of het corrigeren.
2. De Oplossing: Het "Gemeenschappelijke Kookboek" (Prompt Commons)
De auteur stelt een nieuw systeem voor genaamd Prompt Commons. Stel je een openbare, door de gemeenschap beheerde bibliotheek van recepten voor, in plaats van een geheim notitieblok in de zak van een enkele chef.
Deze bibliotheek heeft drie speciale regels:
- Versiebeheer: Elk recept heeft een versienummer en een geschiedenislogboek. Als iemand een ingrediënt verandert, weet iedereen precies wanneer en waarom.
- Herkomst (De "Wie"): Elk recept moet vermelden wie het geschreven heeft. Is het geschreven door een senior? Een belangenbehartiger voor mensen met een beperking? Een buurtgroep? Dit zorgt ervoor dat we weten wiens stem in het recept zit.
- De "Veto"-knop: Als een specifieke groep (zoals een lokale raad voor mensen met een beperking) een recept ziet dat hun gemeenschap schaadt, kunnen ze op een "pauze"-knop drukken. Het recept wordt dan in een quarantainezone geplaatst totdat het probleem is besproken en opgelost.
3. Hoe het in de praktijk werkt: De "Stedelijke Pilot"
De onderzoekers testten dit idee in een grote Noord-Amerikaanse stad. Ze brachten 443 verschillende mensen uit diverse gemeenschapsgroepen samen (senioren, immigranten, LGBTQ+-groepen, etc.) om hun eigen "recepten" te schrijven over hoe de stadsrobot over straten en parken zou praten.
Zij verwerkten dit tot een dataset van meer dan 3.000 variaties en testten drie verschillende manieren om de bibliotheek te beheren:
- Open: Iedereen kan een recept toevoegen (zoals een openbaar prikbord).
- Gecureerd: Een team controleert of elk recept de juiste labels heeft en of verschillende groepen worden gedekt (zoals een strenge redacteur).
- Veto-geactiveerd: Het gecureerde systeem, maar dan met de extra macht voor specifieke groepen om slechte recepten te blokkeren.
De Resultaten:
- Wanneer ze het recept van één persoon gebruikten, was de robot erg "gecommitteerd" aan één kant van een argument (bijv. altijd prioriteit geven aan auto's).
- Wanneer ze het Gemeenschappelijke Kookboek gebruikten (vooral de Veto-versie), werden de antwoorden van de robot meer gebalanceerd. De robot was eerder geneigd om "compromissen" voor te stellen (bijv. "laten we zowel een fietspad als een parkeerplaats hebben") in plaats van een winnaar te kiezen.
- Belangrijker nog: wanneer er een "slecht" antwoord uitkwam, loste het team met het Veto-systeem dit veel sneller op (in ongeveer 5 uur) vergeleken met het open systeem (dat meer dan 30 uur duurde).
4. Waarom dit belangrijk is voor de overheid
Het artikel suggereert dat overheden moeten stoppen met deze prompts te behandelen als tijdelijke aantekeningen. In plaats daarvan moeten ze ze behandelen als officiële beleidsdocumenten.
- Transparantie: Net zoals een stad haar begroting moet publiceren, moet zij ook de "recepten" publiceren die zij gebruikt om beslissingen te nemen.
- Verantwoording: Als een beslissing fout gaat, kun je dit herleiden naar de specifieke versie van het recept die de oorzaak was.
- Onderhandeling: In plaats van dat één persoon de persoonlijkheid van de robot bepaalt, kunnen verschillende groepen hun eigen versies indienen, en kan het systeem worden ontworpen om een middenweg te vinden.
5. Wat het artikel niet zegt
Het is belangrijk om vast te houden aan wat het artikel daadwerkelijk beweert:
- Het zegt niet dat dit systeem perfect is of dat het alle AI-problemen oplost.
- Het beweert niet dat de "compromis"-antwoorden altijd de beste morele keuze zijn; het zegt alleen dat ze zichtbaarder en makkelijker te debatteren zijn.
- Het suggereert niet dat de hersenen van de robot (het model) veranderd moeten worden; de verandering zit volledig in hoe we ertegen praten.
De Kernboodschap
Het artikel betoogt dat hoe we de vraag stellen net zo belangrijk is als het antwoord. Door "de vraag" (de prompt) te behandelen als een publieke, gedeelde en gereguleerde bron, kunnen we AI in de overheid eerlijker, transparanter en responsiever maken voor de mensen die zij dient. Het verandert een geheime instructie van één persoon in een publiek gesprek.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.