Beyond Value Elicitation: Towards Moral Profiles in Early Requirements Engineering via Role-Playing Games and Anthropologist LLMs
Deze studie stelt een nieuwe aanpak in Requirements Engineering voor die immersieve rollenspellen combineert met antropologisch onderbouwde grote taalmodellen om de impliciete morele profielen van gebruikers te eliciteren en te reconstrueren als dynamische narratieve representaties, waarmee de beperkingen van traditionele methoden voor het eliciteren van waarden worden overwonnen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je probeert te begrijpen waar een mens echt om geeft. Je zou hen rechtstreeks kunnen vragen: "Wat is je belangrijkste waarde?" Maar vaak weten mensen het antwoord niet, of kunnen ze het niet uitleggen. Hun waarden zijn als tacit knowledge – verborgen gewoontes en ingewanden die alleen naar boven komen wanneer ze daadwerkelijk iets doen, niet alleen wanneer ze erover praten.
Dit artikel stelt een nieuwe manier voor om deze verborgen waarden bloot te leggen voor softwareontwerpers. In plaats van een saai enquêteformulier in te vullen, gebruikten de onderzoekers een Rollenspel (RPG) en een speciale AI-"Antropoloog" om een "Moreel Profiel" voor elke gebruiker op te stellen.
Zo werkt het, opgesplitst in eenvoudige stappen:
1. Het Spel: Een Digitale "Sim City" voor Ethiek
De onderzoekers creëerden een tabletop-rollenspel (zoals Dungeons & Dragons) gesitueerd in de reële wereld van digitale privacy.
- De Opzet: Tien echte mensen speelden het spel. Ze deden niet alsof ze fantasiewijzen waren; ze deden alsof ze zichzelf waren.
- Het Verhaal: De spelers ontvingen nep-e-mails, vonden een verdachte computer, ontmoetten een verwarde oudere buurman die hulp nodig had met een smartphone, en moesten beslissen of ze een twijfelachtige website zouden vertrouwen of de politie zouden bellen.
- De Twist: Er waren geen "winnende" of "verliezende" voorwaarden. Het doel was niet om punten te scoren; het was om keuzes te maken.
- De Magie: Omdat het een spel was, voelden de spelers zich veilig om te experimenteren. Ze voerden ruzie met elkaar, vroegen een AI-"orakel" om advies, en schreven in een dagboek waarom ze bepaalde keuzes maakten. Dit creëerde een rijke tapestry van verhalen in plaats van slechts een lijst met antwoorden.
De Analogie: Denk hierbij aan een vliegsimulator. Je leert niet hoe een piloot met een storm omgaat door hen te vragen: "Hoe ga je om met stormen?" Je kijkt hoe ze vliegen wanneer het virtuele weer slecht wordt. Het spel dwong de spelers om door ethische dilemma's te "vliegen", waardoor bleek hoe ze zich echt gedragen onder druk.
2. De AI: De "Antropoloog"-Detective
Zodra het spel voorbij was, hadden de onderzoekers een berg rommelige data: audio-opnames, dagboeknotities, chatlogs met de AI en notities gemaakt door de menselijke onderzoeker.
- Het Probleem: Een mens die dit alles probeert te lezen, zou weken nodig hebben.
- De Oplossing: Ze gebruikten een Large Language Model (LLM), maar ze vroegen het niet zomaar om de tekst te samenvatten. Ze gaven de AI een specifieke "functieomschrijving": "Acteer als een Antropoloog."
- De Training: Ze voerden de AI een "handboek" aan over hoe antropologen mensen bestuderen. Dit handboek leerde de AI om te zoeken naar:
- Verhalen: Hoe legde de speler zijn keuze uit?
- Context: Gedroeg hij zich anders vanwege zijn vrienden?
- Tegenstrijdigheden: Zeiden ze dat ze voorzichtig waren, maar namen ze toen een risico? (De AI werd verteld deze tegenstrijdigheden niet te negeren, maar ze als onderdeel van het verhaal te behandelen).
- De Output: In plaats van een checklist met "Waarden: Privacy, Eerlijkheid, Veiligheid", schreef de AI een narratief profiel. Het beschreef de "morele wereld" van de speler als een dynamisch verhaal. Bijvoorbeeld: "Deze speler kent de regels, maar raakt vaak meegesleept door de urgentie van het moment, en vertrouwt op zijn vrienden om de moeilijke beslissingen te nemen."
De Analogie: Stel je een detective voor die niet alleen kijkt naar het identiteitsbewijs van een verdachte (waarop naam en leeftijd staan). In plaats daarvan observeert de detective hoe de verdachte met vrienden omgaat, hoe hij reageert op een crisis, en luistert naar hoe hij zijn eigen verhaal vertelt. De detective schrijft vervolgens een biografie die uitlegt wie de persoon is, in plaats van alleen zijn statistieken op te sommen.
3. De Test: Werkte het "Profiel"?
Om te zien of deze methode echt werkte, speelden de onderzoekers een raadselspel.
- Ze toonden de spelers een nieuwe reeks privacydilemma's (vragen die ze nog niet eerder hadden gezien).
- Ze vroegen de AI om te voorspellen hoe elke speler zou antwoorden, uitsluitend gebaseerd op het "Morele Profiel" dat het na het spel had geschreven.
- Het Resultaat: De AI had 81% van de keren gelijk.
- Een standaard AI (zonder de "Antropoloog"-training) had slechts ongeveer 51% goed.
- Dit bewijst dat het "Morele Profiel" (het verhaal) iets echts over de spelers vastlegde dat een simpele lijst met waarden miste.
Waarom Dit Belangrijk Is voor Software
Momenteel gebruiken softwarebedrijven vaak rigide categorieën (zoals "Ik hecht waarde aan veiligheid") om te weten wat gebruikers willen. Maar mensen zijn rommelig en complex.
- Oude Manier: Proberen een persoon te passen in een doosje met het label "Privacy-First".
- Nieuwe Manier: Begrijpen dat een persoon privacy kan waarderen tenzij ze haast hebben, of tenzij hun vriend hen vraagt om te delen.
Dit artikel suggereert dat we door spellen te gebruiken om verhalen te genereren en AI om die verhalen te analyseren, software kunnen bouwen die de echte, rommelige, dynamische aard van menselijke waarden respecteert, in plaats van slechts een vereenvoudigde versie daarvan.
Samenvatting
Het artikel beweert dat:
- Spellen beter zijn dan enquêtes om uit te vinden wat mensen daadwerkelijk doen, niet alleen wat ze zeggen dat ze doen.
- AI, wanneer het wordt geleerd om te denken als een antropoloog, rommelige speldata kan omzetten in een coherent "Moreel Profiel" (een verhaal over iemands waarden).
- Deze Profielen nauwkeurig genoeg zijn om te voorspellen hoe mensen zich in nieuwe situaties zullen gedragen, waardoor softwareontwerper systemen kunnen bouwen die beter aansluiten bij de menselijke natuur.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.