Beyond Explanation: Evidentiary Rights for Algorithmic Accountability
Dit paper betoogt dat de huidige focus op uitlegbaarheid ontoereikend is voor algoritmische verantwoording en pleit voor het invoeren van bewijsrechten en contrafactuele ondervragingsrechten om effectieve betwisting mogelijk te maken, aangezien toegang tot bewijsmateriaal cruciaal is voor succesvolle juridische uitdagingen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een sollicitatiebrief hebt gestuurd en een afwijzing krijgt van een computerprogramma. De computer zegt: "Je bent afgewezen omdat je ervaring niet genoeg is."
Dat is een uitleg. Je begrijpt waarom je bent afgewezen. Maar stel je nu voor dat je wilt weten: "Was die uitleg wel waar? Had ik misschien wel genoeg ervaring, maar heeft de computer dat verkeerd gelezen? En als ik mijn naam verander, of mijn ervaring iets anders omschrijf, krijg ik dan wel een 'ja'?"
Dat is betwisting (of het recht om te protesteren). En daar schort het in de huidige wereld aan.
Dit artikel van Matthew Stewart zegt: "Uitleggen is niet genoeg. Je moet ook kunnen bewijzen."
Hier is de kern van het verhaal, vertaald naar simpele taal met een paar creatieve voorbeelden:
1. Het probleem: De "Blinde Doos"
Stel je voor dat je een cadeau krijgt in een gesloten doos. Iemand zegt: "Binnenin zit een blauwe bal." Dat is de uitleg.
- Huidige situatie: Je mag de doos niet openmaken. Je mag de bal niet vasthouden. Je mag niet vragen: "Is het echt blauw? Is het misschien een groene bal die blauw is verkleurd?"
- Het gevolg: Je kunt de uitleg begrijpen, maar je kunt er niets aan doen. Als de bal eigenlijk groen is, weet je dat nooit. Je kunt het niet bewijzen.
De auteur zegt dat we nu te veel focussen op het zeggen wat er in de doos zit (uitleg), maar te weinig op het openen van de doos om het te controleren (bewijsrecht).
2. De oplossing: De "Test-Doos" (Counterfactual Interrogation)
In plaats van de geheime formule van de computer (de "recept" van de bakker) te laten zien, stelt de auteur voor om een test-omgeving te geven.
Stel je voor dat je mag spelen met de doos:
- Je mag zeggen: "Wat als ik mijn naam verander van 'Jan' naar 'John'?"
- Je mag zeggen: "Wat als ik mijn diploma van 1991 verandert in 2011?"
- De computer moet dan zeggen: "Ah, bij 'Jan' was je score 40, maar bij 'John' is je score 80."
Als de score verandert door iets wat er niet toe zou moeten doen (zoals je naam of een kleine tekstverandering), dan is er iets mis. Je hebt nu bewijs dat het systeem oneerlijk werkt, zonder dat je ooit het geheime recept van de computer hebt gezien.
Dit noemt de auteur Counterfactual Interrogation: het recht om te vragen "Wat als...?" en het antwoord te zien.
3. Waarom is dit zo belangrijk? (De twee poorten)
De auteur heeft 168 rechtszaken onderzocht en ontdekte een patroon, alsof er twee poorten zijn die je moet passeren om gelijk te krijgen:
Poort 1: De Bewijs-Poort (De sleutel)
Kun je de doos openmaken en testen?- Zonder sleutel: Je wordt bijna altijd afgewezen (9% kans op succes). Je kunt je mond niet openen omdat je geen bewijs hebt.
- Met sleutel: Je hebt een enorme kans om gelijk te krijgen (97% succes), mits de wet het toelaat.
Poort 2: De Wet-Poort (De rechter)
Zelfs als je de doos open hebt en bewijs hebt, kan de rechter zeggen: "Jammer, maar volgens de wet mag dit bedrijf niet aangesproken worden."- Voorbeeld: Bij sociale media (zoals Facebook of X) geldt vaak een speciale wet (Section 230 in de VS) die hen beschermt, zelfs als je kunt bewijzen dat hun algoritme kwaad doet. Hier faalt je zelfs met bewijs.
De les: Als je geen toegang hebt tot de doos (Poort 1), kom je nooit eens bij de rechter (Poort 2). De meeste mensen steken vast bij Poort 1.
4. Waarom is dit niet gewoon "uitleg"?
Veel mensen denken: "Als de computer zegt 'je score is 0,73', dan is dat wel eerlijk."
Maar de auteur zegt: "Dat is als een leraar die zegt: 'Je hebt een 4, want je was te laat.'
- Uitleg: Je weet waarom je een 4 hebt.
- Betwisting: Je wilt weten: "Was ik echt te laat? Of heeft de klok een fout? En als ik 2 minuten eerder was gekomen, was ik dan een 5?"
Zonder de mogelijkheid om die vragen te testen, is de uitleg slechts een praatje.
5. Wat moet er nu gebeuren?
De auteur stelt voor dat wetten (zoals de AVG in Europa of regels voor krediet in de VS) moeten veranderen. Niet om de geheime code van bedrijven te openen (dat is te duur en gevaarlijk voor hun geheimen), maar om een test-knop te geven.
- Voor jou: Als je een afwijzing krijgt, krijg je toegang tot een simpele tool. Je kunt daar je gegevens een beetje aanpassen en kijken of het resultaat verandert.
- Voor bedrijven: Ze hoeven hun geheime recept niet te delen, maar ze moeten wel eerlijk zijn als hun systeem reageert op iets dat er niet toe doet (zoals je naam of etniciteit).
Samenvatting in één zin
We moeten stoppen met alleen te vragen "Waarom heb je dit gedaan?" en beginnen met het geven van het recht om te vragen: "Kun je bewijzen dat dit eerlijk was door het te testen?"
Het gaat niet meer om het begrijpen van de machine, maar om het hebben van de sleutel om de machine te controleren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.