Extending the UXR Point of View Pyramid: A Generative AI-Augmented Methodology for Human-Centred AI Systems
Dit artikel stelt een door AI versterkte uitbreiding van de UXR Points of View-piramide voor, met een gestructureerde promptarchitectuur en een door AI mogelijk gemaakt Playbook Card-systeem, om mensgericht ontwerp, ethisch toezicht en naleving van regelgeving in Britse door AI gedreven schuldenbeheertechnologieën te verbeteren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een zeer moeilijke puzzel probeert op te lossen, maar de stukjes zijn gemaakt van glas en sommige ervan zijn onzichtbaar. Dit is wat er gebeurt wanneer banken en financiële instellingen kunstmatige intelligentie (AI) gebruiken om mensen te helpen die met schulden kampen. De AI neemt beslissingen over wie de capaciteit heeft om leningen terug te betalen, maar omdat de AI een "black box" is, is het moeilijk te zien waarom het die keuzes heeft gemaakt.
Dit artikel gaat over een nieuwe manier voor onderzoekers (UXR-onderzoekers) om een speciaal soort AI (Generatieve AI) te gebruiken om dit puzzelprobleem op te lossen, zonder de controle over de stukjes te verliezen.
Hier is de uitsplitsing met eenvoudige analogieën:
1. Het Probleem: De "Black Box" en de Gestreste Klant
In het VK staan veel mensen onder financiële druk. Banken gebruiken AI om te beslissen hoeveel schuld een persoon kan dragen.
- Het Probleem: Soms zijn deze AI-systemen oneerlijk of verwarrend. Ze begrijpen misschien niet dat het inkomen van een persoon van maand tot maand verandert (zoals bij een zzp'er), of ze maken misschien een beslissing die voor een computer logisch lijkt, maar voor een mens wreed aanvoelt.
- Het Risico: Als onderzoekers de AI simpelweg vragen: "Wat moeten we doen?" en het antwoord overnemen zonder het te controleren, kunnen ze onbedoeld de situatie verergeren. Het is alsof je een GPS vraagt om een auto te besturen terwijl je slaapt; als de GPS in de war raakt, rijd je een ongeluk.
2. De Oplossing: De "AI-Versterkte Piramide"
De auteurs namen een bestaand hulpmiddel genaamd de UXR Point of View (PoV) Piramide. Denk aan deze piramide als een recept om rommelige onderzoeksnotities om te zetten in een helder, strategisch plan voor een bedrijf.
- De Oude Manier: Onderzoekers lazen interviews en data, en schreven vervolgens een rapport.
- De Nieuwe Manier: Ze voegden Generatieve AI toe als een superkrachtige assistent om te helpen bij het organiseren van de notities, maar ze hanteerden een strikte set regels zodat de assistent niet de overhand neemt.
Ze bouwden een 4-stappen kookproces om ervoor te zorgen dat het uiteindelijke gerecht veilig is om te eten:
Stap 1: De "Patroonvinder" (Hypothesegeneratie)
In plaats van te gokken, vragen de onderzoekers de AI om naar de gegevens uit het verleden te kijken en te zeggen: "Hé, ik zie hier een patroon."
- De Analogie: Stel je een sous-chef voor die een saus proeft en zegt: "Deze smaakt te zout omdat we oude tomaten hebben gebruikt."
- De Regel: De AI stelt ideeën voor (hypothesen), maar een menselijke chef moet de smaak testen en goedkeuren voordat men verdergaat. De AI is niet de baas; het is slechts de helper.
Stap 2: De "Stakeholder Map" (Governance)
Voordat er beslissingen worden genomen, brengen de onderzoekers in kaart wie er allemaal bij betrokken zijn.
- De Analogie: Voordat je een huis bouwt, moet je weten wie er woont, wie het land bezit en wat de bouwinspecteur vereist.
- Het Doel: Ze identificeerden dat de AI moet voldoen aan de eisen van de Klant (die rechtvaardigheid nodig heeft), de Risk Officer (die de wet moet volgen) en de Data Scientist (die nodig heeft dat het model werkt). De AI helpt bij het tekenen van deze kaart, maar mensen bepalen waar de lijnen lopen.
Stap 3: De "Playbook Cards" (De Toolkit)
Dit is het meest creatieve deel. Het team creëerde een set "Play Cards" (zoals een deck kaarten voor een bordspel).
- De Analogie: Stel je een kaart voor die zegt: "Als de AI zegt dat een persoon $500 kan betalen, maar zij hebben een variabel inkomen, speel dan deze kaart: 'Voer een stresstest uit met een tegenfeitelijk scenario.'"
- Hoe het werkt: Elke kaart heeft een specifieke prompt (een vraag aan de AI) en een menselijke controle.
- Voorbeeld van een kaart: "Hardship Narrative Compression." Als de AI een droevig verhaal te snel samenvat en de pijn mist, vertelt deze kaart de mens om te stoppen en het bewijs te labelen, zodat het verhaal niet verloren gaat.
- Voorbeeld van een kaart: "Bias Interrogation." Deze kaart dwingt de AI om zichzelf af te vragen: "Heb ik deze beslissing alleen genomen vanwege oude, oneerlijke data?"
Stap 4: De "Storyteller" (Final Narrative)
Ten slotte verandert het team al deze gecontroleerde feiten in een verhaal voor de leiders van het bedrijf.
- De Analogie: De AI helpt bij het schrijven van een eerste concept van een toespraak, maar de menselijke onderzoeker bewerkt het om er zeker van te zijn dat het eerlijk, rechtvaardig en juridisch veilig klinkt.
- Het Resultaat: Een heldere boodschap die zegt: "We hebben dit systeem gebouwd om eerlijk te zijn, dit is het bewijs, en dit is hoe we op fouten hebben gecontroleerd."
3. De Gouden Regel: "De Piloot, Niet de Automaat"
Het paper benadrukt één hoofdbegrip: Generatieve AI is een hulpmiddel, geen autoriteit.
- De Metafoor: Denk aan de AI als een zeer snelle, zeer deskundige navigator in een auto. De navigator kan je de snelste route vertellen en waarschuwen voor files. Maar de menselijke onderzoeker is de chauffeur. De chauffeur moet de handen aan het stuur houden, uit het raam kijken en de uiteindelijke beslissing nemen om linksaf of rechtsaf te slaan.
- Als de navigator zegt "Sla linksaf in een meer", moet de chauffeur zeggen: "Nee, dat is fout," en corrigeren.
4. Wat Hebben Ze Eigenlijk Bewezen?
Het paper beweert niet dat dit systeem perfect is of dat het alle schuldenproblemen in het VK al heeft opgelost. In plaats daarvan beweert het:
- Ze hebben succesvol een methodologie (een stapsgewijze handleiding) gebouwd voor het veilig gebruiken van AI in dit specifieke, hoogwaardige gebied.
- Ze hebben 10 specifieke "Play Cards" gemaakt die onderzoekers kunnen gebruiken om fouten zoals bias, oneerlijkheid of gebrek aan duidelijkheid te ontdekken.
- Ze hebben aangetoond dat onderzoekers door deze methode te gebruiken, plannen kunnen maken die verdedigbaar zijn (ze kunnen aan toezichthouders bewijzen waarom ze een beslissing hebben genomen) en traceerbaar (je kunt precies zien waar de AI de informatie vandaan heeft).
Samenvatting
Dit paper is een handleiding voor financiële onderzoekers over hoe ze een krachtig nieuw hulpmiddel (Generatieve AI) kunnen gebruiken om mensen met schulden te helpen, zonder het hulpmiddel de leiding te laten nemen. Het verandert de AI in een behulpzame assistent die gedachten organiseert en controleert op fouten, terwijl het ervoor zorgt dat een mens altijd de uiteindelijke, ethische beslissingen neemt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.