Ethics in Online Software Experimentation: A Body of Knowledge and the Cactus Model

In de digitale wereld passen bedrijven hun software voortdurend aan om het beter, sneller of aantrekkelijker te maken. Ze kunnen de kleur van een knop veranderen, een menu herindelen of een nieuwe manier testen om prijzen weer te geven. Om te zien of deze wijzigingen werken, voeren ze vaak zogenaamde online experimenten uit. In deze tests gebruiken echte mensen de software zonder dat ze altijd weten dat ze deel uitmaken van een studie. Een veelvoorkomende methode is om één groep gebruikers versie A van een functie te tonen en een andere groep versie B, en vervolgens te kijken hoe zij zich gedragen. Deze aanpak helpt bedrijven te leren wat mensen willen, maar het plaatst gewone gebruikers ook in een situatie waarin hun keuzes en gegevens worden gemanipuleerd om een hypothese te testen. Hoewel deze praktijk innovatie stimuleert, roept het een stille maar serieuze vraag op: alleen omdat een bedrijf deze tests kan uitvoeren, moeten ze dat dan ook doen? En als ze dat doen, hoe kunnen ze ervoor zorgen dat ze de mensen die de software mogelijk maken niet schaden?

Twee onderzoekers uit Brazilië gingen op zoek naar antwoorden op deze vragen door te kijken naar de ethische kant van dit digitale testen. Ze merkten op dat hoewel veel bedrijven deze experimenten uitvoeren, de regels over het eerlijk behandelen van mensen vaak vaag, versnipperd of volledig genegeerd worden. De onderzoekers wilden een duidelijke gids opstellen die softwareteams daadwerkelijk kunnen gebruiken. Ze stelden niet alleen abstracte ideeën over goed en kwaad op; in plaats daarvan verzamelden ze specifieke problemen die optreden tijdens deze tests en koppelden deze aan praktische manieren om ze op te lossen. Hun doel was om een model te creëren (het Cactus-model) dat experts helpt na te denken over de morele gevolgen van hun experimenten voordat ze zelfs maar een enkele test lanceren.

Om deze gids op te bouwen, bekeken de onderzoekers een breed scala aan bestaande informatie. Ze begonnen met het zoeken naar studies die specifiek over ethiek in continu en online experimenteren gingen, maar ze vonden heel weinig geschreven over dit onderwerp. Omdat ze beseften dat het probleem te groot was om met slechts die paar artikelen op te lossen, breidden ze hun zoektocht uit. Ze keken naar ethische regels uit gerelateerde velden zoals kunstmatige intelligentie, algemene informatica en zelfs medisch onderzoek. Ze lazen gedragscodes, technische richtlijnen en academische papers om gemeenschappelijke thema's te vinden. Uit deze enorme collectie bronnen identificeerden ze zestien belangrijke ethische principes, zoals eerlijkheid, rechtvaardigheid en respect voor iemands vermogen om voor zichzelf te kiezen. Vervolgens gingen ze dieper in op veertigentachtig specifieke manieren waarop deze principes in de echte wereld worden geschonden. Een schending kan bijvoorbeeld het verbergen van het werkelijke doel van een test voor een gebruiker zijn, of het ontwerpen van een systeem dat mensen misleidt om beslissingen te nemen die slecht voor hen zijn.

Zodra ze de problemen in kaart hadden gebracht, vonden de onderzoekers drieënvijftig manieren om ze op te lossen. Ze lieten deze niet als een willekeurige lijst achter; ze verbonden ze allemaal met elkaar. Ze lieten zien welke specifieke oplossing welk specifiek probleem oplost, en hoe die oplossing het onderliggende ethische principe ondersteunt. Dit creëerde een gestructureerde kenniskaart. Het is een instrument dat zegt: "Als je dit probleem ziet, is dit de specifieke actie die je moet ondernemen, en dit is de waarde die je daarmee beschermt." Deze kaart is de basis voor hun belangrijkste bijdrage, een nieuwe manier van denken over deze experimenten genaamd het Cactus-model.

Het Cactus-model is ontworpen om de mensen die verantwoordelijk zijn voor deze experimenten te helpen betere beslissingen te nemen. De naam komt van het idee van een cactus, een taai plant die overleeft in barre omstandigheden door een beschermende buitenlaag te hebben. Op dezelfde manier biedt het model een beschermende structuur voor ethische besluitvorming in de snelle, hoge druk van de wereld van softwareontwikkeling. Het vertelt een team niet precies wat ze moeten doen, maar het geeft hen een stapsgewijze manier om na te denken over de gevolgen van hun keuzes. Het model is gebouwd op vier lagen die samenwerken.

De eerste laag gaat over het nauwkeurig bekijken van het experiment om potentiële problemen te vinden. Het team vraagt: "Wat kan er misgaan?" Ze gebruiken de kaart van ethische problemen om hun ontwerp te controleren. Ze kunnen zich afvragen of de test transparant is, of hij alle gebruikers eerlijk behandelt, of dat hij het respect voor de vrijheid van de gebruiker om "nee" te zeggen waarborgt. Ze beoordelen hoe waarschijnlijk een probleem is en hoeveel mensen het zou kunnen treffen. Deze stap verandert vage zorgen in specifieke, identificeerbare kwesties.

De tweede laag gaat over het afwegen van de gevolgen. Hier bekijkt het team de gevonden problemen en vraagt zich af: "Waarom zouden we ze willen negeren?" Vaak is er een zakelijke reden, zoals het besparen van tijd of het verdienen van meer geld, die een team verleidt om ethische waarborgen over te slaan. Het model dwingt hen om die verleiding op te schrijven en deze vervolgens direct af te wegen tegen de schade die het kan veroorzaken. Ze kijken naar de impact op het vertrouwen van de gebruiker, hun privacy en hun welzijn. Deze stap zorgt ervoor dat de beslissing om door te gaan geen onderbuikgevoel is, maar een weloverwogen keuze waarbij de afwegingen duidelijk zijn.

De derde laag gaat over actie ondernemen. Zodra het team de risico's en de voordelen heeft afgewogen, beslissen ze wat ze gaan doen. Ze kunnen ervoor kiezen om het experiment zoals gepland uit te voeren, het ontwerp aanpassen om de problemen op te lossen, of het experiment geheel annuleren. Als ze besluiten door te gaan, begeleidt het model hen bij het kiezen van specifieke oplossingen uit hun kaart om de gebruikers te beschermen. Als ze bijvoorbeeld een risico op onrechtvaardige behandeling vinden, kunnen ze een regel toevoegen om ervoor te zorgen dat alle gebruikersgroepen gelijk worden behandeld. Deze stap zet hun ethische redenering om in concrete wijzigingen in de software of het testproces.

De laatste laag gaat over leren van de ervaring. Nadat het experiment is voltooid, kijkt het team terug op wat er is gebeurd. Ze beoordelen de keuzes die ze hebben gemaakt en kijken of hun voorspellingen juist waren. Ze schrijven op wat ze hebben geleerd, zodat ze de volgende keer dat ze een test uitvoeren, dit beter kunnen doen. Deze stap is cruciaal omdat het een enkel experiment verandert in een les voor de hele organisatie, waardoor ze toekomstige fouten kunnen voorkomen.

De onderzoekers testten dit model met een praktijkvoorbeeld waarbij een bezorg-app wilde testen met verschillende prijsstrategieën. Ze lieten zien hoe een team het model kon gebruiken om te ontdekken dat het veranderen van prijzen voor verschillende gebruikers oneerlijk of verwarrend zou kunnen aanvoelen. Door de lagen te volgen, realiseerde het team zich dat ze transparanter moesten zijn over hoe prijzen werden vastgesteld en ervoor moesten zorgen dat kwetsbare gebruikers niet onrechtvaardig werden gericht. Vervolgens gebruikten ze de specifieke oplossingen uit hun kaart om hun plan aan te passen, door heldere uitleg voor gebruikers toe te voegen en limieten te stellen aan wie deel kon nemen aan de test. Dit voorbeeld toonde aan dat het model niet alleen werkt voor individuele tests, maar ook voor groepen tests die tegelijkertijd plaatsvinden, waardoor teams dezelfde ethische standaarden kunnen toepassen op veel verschillende projecten zonder telkens opnieuw te beginnen.

De studie concludeert dat hoewel de instrumenten om deze experimenten uit te voeren krachtig zijn, de instrumenten om deze ethisch te begeleiden ontbraken. De onderzoekers hebben een kennisbasis en een denkmodel geleverd om dat gat te vullen. Ze benadrukken dat dit geen definitieve oplossing is die elk ethisch dilemma voor altijd oplost. In plaats daarvan is het een startpunt dat het onzichtbare zichtbaar maakt. Het geeft softwareteams een manier om over ethiek te praten in dezelfde taal die ze gebruiken voor code en data. Door het ethische redeneerproces helder en gestructureerd te maken, helpt het model ervoor te zorgen dat de drang naar innovatie niet ten koste gaat van de mensen die de technologie gebruiken. Het werk suggereert dat bedrijven met het juiste kader kunnen blijven leren van hun gebruikers, terwijl ze hen toch de waardigheid en het respect bieden die zij verdienen.