Beyond Abstract Compliance: Operationalising trust in AI as a moral relationship
Dit artikel betoogt dat vertrouwen in AI geherconceptualiseerd moet worden als een dynamisch, relationeel proces geworteld in de Afrikaanse communautaire ethiek in plaats van een statische technische eigenschap, waarbij voorgesteld wordt dat inclusieve, participatieve betrokkenheid gedurende de gehele ontwikkelingscyclus leidt tot meer rechtvaardige en contextgevoelige systemen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een huis bouwt. De meeste huidige regels voor het bouwen van "betrouwbare" AI zijn als een strenge bouwinspecteur die alleen controleert of een huis een solide fundering heeft, het juiste aantal ramen en een geldige vergunning. Als het huis de checklist doorstaat, zegt de inspecteur: "Dit huis is betrouwbaar."
Maar de auteurs van dit artikel betogen dat vertrouwen niet alleen gaat over het behalen van een checklist. Vertrouwen is meer als een relatie met een buurman. Je vertrouwt een buurman niet alleen omdat hij een mooi hek heeft (technische naleving); je vertrouwt hem omdat jullie samen maaltijden hebben gedeeld, elkaar hebben geholpen met het verhuizen van meubels en een geschiedenis van eerlijkheid hebben opgebouwd over de tijd.
Dit artikel suggereert dat we moeten stoppen met het behandelen van AI-vertrouwen als een "productkenmerk" dat we kunnen installeren, en het moeten gaan behandelen als een levende relatie die we moeten koesteren.
Hier is de uiteenzetting van hun ideeën met behulp van eenvoudige analogieën:
1. Het Probleem: De "Checklist"-valstrik
Momenteel proberen grote organisaties (zoals de EU) AI betrouwbaar te maken door regels op te stellen: "Wees transparant," "Wees eerlijk," "Wees veilig." Ze gebruiken instrumenten zoals checklists en audits om te bewijzen dat de AI deze regels volgt.
- De Analogie: Het is als een restaurant dat een "Gecontroleerd door de Inspectie"-sticker in het raam plakt. Het vertelt je dat de keuken schoon is, maar het vertelt je niet of de chef echt om geeft bij jouw maaltijd of of het eten wel goed smaakt bij jouw familie.
- Het Probleem: Deze aanpak gaat ervan uit dat vertrouwen iets statisch is dat je kunt "engineeren". De auteurs zeggen dat vertrouwen eigenlijk een dynamische dans is tussen mensen en technologie. Als je alleen de regels volgt maar de mensen die het systeem gebruiken negeert, heb je misschien een "conforme" AI, maar zal niemand het echt vertrouwen.
2. De Oplossing: De "Ubuntu"-filosofie
Om dit op te lossen, kijken de auteurs naar een Afrikaanse filosofie genaamd Ubuntu. Een veelgehoorde uitspraak binnen Ubuntu is: "Ik ben omdat wij zijn." Dit betekent dat je niet slechts een geïsoleerd individu bent; je wordt gedefinieerd door je relaties met je gemeenschap.
- De Analogie: In plaats van een huis te bouwen waarin één persoon alleen leeft (Westers individualisme), stel je voor dat je een gemeenschapstuin aanlegt. Iedereen onderhoudt deze samen. Het succes van de tuin hangt af van hoe goed de buren met elkaar praten, gereedschap delen en op elkaar letten.
- Het Doel: Het artikel stelt voor dat we AI bouwen als een gemeenschapstuin, niet als een eenzame vesting. We moeten de mensen die de AI zullen gebruiken vanaf het allereerste begin betrekken, en niet pas aan het einde.
3. De Vier Zuilen van "Trust-by-Design"
De auteurs stellen vier hoofdregels voor om deze filosofie in actie om te zetten. Beschouw deze als de vier poten van een stevige tafel:
Communitarianisme (De "Wij"-benadering):
- Wat het betekent: Vraag niet alleen: "Helpt dit de gebruiker?", maar vraag: "Helpt dit de hele gemeenschap?"
- De Analogie: Bij het plannen van een weg moet je niet alleen aan de bestuurder vragen of de weg snel is. Vraag ook aan de voetgangers, de lokale winkeliers en de schoolbuschauffeurs of de weg veilig is voor iedereen.
- In AI: Ontwikkelaars moeten samenwerken met gemeenschappen om te beslissen wat de AI moet doen, om ervoor te zorgen dat het de groep helpt, en niet alleen het individu.
Respect voor anderen (De "Menselijke Waardigheid"-benadering):
- Wat het betekent: Behandel elk persoon als een heel mens met een geschiedenis en een gemeenschap, niet alleen als een datapunt.
- De Analogie: Stel je een bibliothecaris voor die je naam kent, je favoriete boeken en je familie, in plaats van een robot die alleen je barcode scant en je een boek overhandigt.
- In AI: Vraag niet alleen om een "vinkje" voor toestemming bij een gebruiker. Vraag de gemeenschap: "Is het oké om deze gegevens te gebruiken?" en respecteer hun waardigheid, zelfs als ze de complexe technologie niet volledig begrijpen.
Integriteit (De "Doen wat je zegt"-benadering):
- Wat het betekent: Eerlijk en consistent zijn, zelfs wanneer er niemand kijkt.
- De Analogie: Het is het verschil tussen een vriend die belooft te helpen met verhuizen en daadwerkelijk op komt dagen met een vrachtwagen, versus een vriend die zegt te komen helpen maar dan verdwijnt.
- In AI: Als de AI een fout maakt, zouden de ontwikkelaars dit niet moeten verbergen. Ze moeten het toegeven, het oplossen en uitleggen waarom het gebeurde. Vertrouwen groeit wanneer mensen zien dat je je fouten herstelt.
Design Publicity (De "Open Keuken"-benadering):
- Wat het betekent: Leg niet alleen uit hoe de AI werkt nadat deze is gebouwd. Leg uit waarom je het op die manier hebt gebouwd.
- De Analogie: In plaats van een chef die in de keuken verborgen blijft en je alleen het eindgerecht laat zien, stel je een chef voor die je de keuken in nodigt om de ingrediënten te zien, uit te leggen waarom hij voor die specifieke kruiden heeft gekozen, en je de saus te laten proeven voordat deze wordt geserveerd.
- In AI: Ontwikkelaars moeten hun doelen, hun waarden en hun keuzes wat betreft data openlijk delen voordat de AI wordt gelanceerd, zodat de gemeenschap kan zeggen: "Ja, dat is logisch voor ons," of "Nee, dat past niet bij onze waarden."
4. In de Praktijk Brengen: Twee Real-World Voorbeelden
Het artikel laat zien hoe dit werkt in twee specifieke gebieden:
A. Gezondheidszorg (Het Antibiotica-voorbeeld)
- Het Scenario: Een AI die artsen helpt beslissen welke antibiotica ze aan patiënten geven.
- De Oude Manier: De AI wordt gebouwd door tech-experts, getest op nauwkeurigheid en vervolgens aan artsen overhandigd.
- De Nieuwe Manier (Trust-by-Design):
- Communitarianisme: Artsen, patiënten en apothekers zitten samen om te beslissen wat de AI prioriteit moet geven (bijv. het stoppen van medicijnresistentie versus het snel genezen van de patiënt).
- Respect: De AI kijkt niet alleen naar de gegevens van de patiënt; het respecteert de geschiedenis van de patiënt en het oordeel van de arts.
- Integriteit: Als de AI een slecht antibioticum voorstelt, geeft het systeem toe en leert het ervan, in plaats van te doen alsof het perfect is.
- Publicity: De artsen en patiënten weten precies waarom de AI bepaalde suggesties doet, zodat ze het kunnen vertrouwen als een partner, en niet als een "black box".
B. Onderwijs (Het AI-Tutor Voorbeeld)
- Het Scenario: Een AI-tutor die studenten helpt leren.
- De Oude Manier: De AI vervangt de leraar of levert simpelweg feiten.
- De Nieuwe Manier (Trust-by-Design):
- Communitarianisme: Het doel is niet om leraren te vervangen (die het "dorp" vormen dat het kind opvoedt), maar om hen te ondersteunen. De AI is ontworpen om de gemeenschap samen te brengen, niet om de student te isoleren.
- Respect: De AI spreekt de lokale taal van de student en begrijpt hun culturele achtergrond. Het straft de student niet voor fouten, maar moedigt groei aan.
- Integriteit: Als de AI een fout maakt, vertelt het de student en de leraar: "Ik heb een fout gemaakt," en herstelt het dit.
- Publicity: De gemeenschap helpt mee te beslissen wat de AI onderwijst, om ervoor te zorgen dat het niet alleen westerse ideeën onderwijst, maar ook lokale kennis respecteert.
De Kernboodschap
Het artikel betoogt dat we vertrouwen niet in een machine kunnen "coderen" zoals we een functie coderen. Vertrouwen is een morele relatie. Om AI te bouwen waar mensen echt vertrouwen in hebben, moeten we stoppen met gemeenschappen te behanden als passieve gebruikers en ze te gaan behanden als mede-makers. We moeten AI bouwen die transparant, eerlijk en diep respectvol is voor de mensen en gemeenschappen die het dient, net zoals een goede buurman dat zou zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.