Creating and Evaluating Personas Using Generative AI: A Scoping Review of 81 Articles
Deze scoping review van 81 artikelen analyseert het gebruik van generatieve AI voor het creëren en evalueren van persona's, waarbij het onderzoek belangrijke bevindingen presenteert over reproduceerbaarheid, evaluatiekwaliteit en risico's zoals circulariteit, en vervolgens richtlijnen voor verantwoord gebruik formuleert.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een nieuwe app of een auto gaat ontwerpen. Om te weten wat mensen willen, maken ontwerpers vaak personages (in het Engels: personas). Dit zijn fictieve karakters, zoals "Jan de fietsende student" of "Mevrouw De Vries, de zorgzame oma", die staan voor echte gebruikersgroepen. Vroeger moesten onderzoekers urenlang interviews voeren en handmatig deze verhalen schrijven. Dat was veel werk.
Nu komt er een nieuwe kracht in het spel: Generatieve AI (zoals ChatGPT). Deze technologie kan die personages in een handomdraai schrijven. Maar werkt dat wel goed? Is het eerlijk? En is het veilig?
Dit onderzoek van acht wetenschappers kijkt naar 81 recente artikelen over dit onderwerp. Ze hebben de "goede, de slechte en de lelijke" kant van AI-personages onderzocht. Hier is de samenvatting in begrijpelijke taal:
1. Wat doen ze precies? (De "Goede" kant)
Stel je voor dat je een kok hebt die in een seconde een compleet menu kan bedenken. Zo werkt AI bij het maken van personages.
- Snelheid en creativiteit: AI kan duizenden verhalen, foto's en zelfs chatbots maken die lijken op echte mensen.
- Delen: De onderzoekers vonden dat wetenschappers nu veel vaker hun "recepten" (code, data en prompts) delen. Dat is een verbetering ten opzichte van vroeger, waar iedereen zijn geheimen voor zich hield.
- Interactie: In plaats van een statisch profiel te lezen, kun je nu met een AI-personage praten. Je kunt vragen stellen aan "Jan de student" en hij antwoordt alsof hij echt is.
2. Wat gaat er mis? (De "Slechte" kant)
Hoewel het snel gaat, is het niet altijd betrouwbaar.
- De "Spiegel-effect" (Cirkelredenering): Vaak gebruikt dezelfde AI het personage te maken én om te controleren of het goed is. Dat is alsof je een spiegel vraagt of je er goed uitziet; de spiegel zegt altijd "ja", omdat hij alleen zijn eigen reflectie ziet. Je hebt een mens nodig om te oordelen.
- Eén grote speler: Bijna 86% van de onderzoeken gebruikt alleen modellen van één bedrijf (OpenAI/GPT). Dat is alsof je alleen maar kookt met één specifiek merk kruiden. Je mist de diversiteit van andere smaken en de vooroordelen van dat ene bedrijf komen terug in je personages.
- Geen controle: Bijna de helft van de artikelen heeft geen enkele manier om te checken of het personage wel klopt. Ze maken het, maar testen het niet.
3. Wat is het gevaarlijkste? (De "Lelijke" kant)
Dit is het deel waar de onderzoekers zich zorgen over maken.
- De mens verdwijnt: Het grootste risico is dat we de mens uit het proces halen. Stel je een fabriek voor waar robots alleen maar robots maken, die weer robots controleren, en die beslissingen nemen over echte mensen.
- De AI maakt een personage op basis van nep-data.
- De AI controleert dat personage.
- De AI gebruikt dat personage om een product te ontwerpen.
- Geen echte mensen zijn ooit betrokken geraakt.
- Het "Potemkin-dorp" effect: Dit is een historisch verhaal over dorpen die alleen werden opgetrokken om de tsaar te imponeren, maar achteraf bleken ze leeg te zijn. Zo kunnen AI-personages er prachtig uitzien, maar zijn ze leeg van echte emotie en ervaring. Ze lijken op mensen, maar zijn in feite lege schelpen.
- Vooroordelen versterken: Als de AI leert van internet, leert hij ook de vooroordelen van internet. Als je vraagt om een "dokter", maakt de AI misschien altijd een man, en voor een "verpleegster" een vrouw. Dit versterkt stereotypen in plaats van ze op te lossen.
De conclusie: Hoe nu verder?
De onderzoekers zeggen niet: "Gebruik AI niet." Ze zeggen: "Gebruik het slim."
Stel je voor dat AI een superkrachtige assistent is, maar geen baas.
- Gebruik meerdere assistenten: Laat verschillende AI-modellen het werk doen en vergelijk hun antwoorden.
- Houd de mens in de loop: Een mens moet altijd controleren of het personage eerlijk en accuraat is, vooral voor kwetsbare groepen.
- Wees transparant: Schrijf op hoe je het personage hebt gemaakt, zodat anderen het kunnen controleren.
Kortom: AI kan ons helpen om sneller en creatiever te denken over wie onze gebruikers zijn, maar we mogen niet vergeten dat het uiteindelijk om echte mensen gaat. Als we de mens uit het proces halen, maken we misschien mooie personages, maar vergeten we wie ze eigenlijk voor moeten staan.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.