Sector-Specific Ethics in Artificial Intelligence: Clinical Applications, Military Automation, AutonomousVehicles, and Educational Technology

Stel je een wereld voor waarin computers niet alleen rekenmachines of spelcomputers zijn, maar besluitvormers. Dit is het domein van Kunstmatige Intelligentie, of AI. Denk aan AI als een superintelligente leerling die leert door miljoenen boeken te lezen en ontelbare video's te bekijken. Maar hier zit de adder onder het gras: alleen omdat een leerling snel is en veel weet, betekent dat niet dat hij het ook altijd goed heeft. Soms kan hij slechte gewoontes aanleren van de boeken die hij leest, of kan hij een keuze maken die één persoon helpt maar een ander schaadt. Hier komt "ethiek" om de hoek kijken. Ethiek is simpelweg het regelboek voor het juiste doen. Wanneer we deze superintelligente leerlingen verantwoordelijk maken voor serieuze taken — zoals het genezen van zieke mensen, het besturen van auto's of zelfs het vechten in oorlogen — kunnen we niet zomaar één algemeen regelboek gebruiken. Een regel die werkt voor een videogame, kan een ramp zijn voor een ziekenhuis. Daarom vragen wetenschappers en denkers zich af: hoe zorgen we ervoor dat onze AI-leerlingen zich goed gedragen in elke specifieke buurt die ze bezoeken?

Dit artikel, geschreven door Connor Nitchals, duikt in vier zeer verschillende buurten waar AI al aan het werk is: ziekenhuizen, slagvelden, de wegen en scholen. De auteur suggereert dat we AI niet op dezelfde manier kunnen behandelen. In plaats daarvan hebben we voor elke baan een op maat gemaakt harnas nodig. Het artikel beweert niet elk probleem te hebben opgelost of een magische knop te hebben gevonden om alles te repareren. In plaats daarvan fungeert het als een kaart die de unieke vallen en gevaren in elke sector aanwijst, terwijl het ook enkele gedeelde veiligheidsregels belicht die overal van toepassing zijn. Het suggereert dat we, om zaken veilig en eerlijk te houden, heel voorzichtig moeten zijn met hoe we deze systemen ontwerpen, waarbij we ervoor zorgen dat ze transparant zijn (we weten hoe ze denken), veilig (ze crashen niet of kwetsen mensen) en beschermd tegen misbruik.

Laten we beginnen bij het Ziekenhuis, of Klinische AI. Stel je een assistent van een arts voor die elk medisch tijdschrift uit de geschiedenis heeft gelezen. Het kan helpen bij het opsporen van ziekten of het plannen van behandelingen ongelooflijk snel. Maar het artikel waarschuwt: als deze assistent heeft geleerd van oude medische dossiers die onrechtvaardig waren tegenover bepaalde groepen mensen, kan het die onrechtvaardigheid blijven voortzetten. Het is als een student die alleen heeft gestudeerd uit een tekstboek dat in de jaren 50 is geschreven; die student zou kunnen denken dat de wereld niet veranderd is, zelfs als dat wel zo is. Het artikel suggereert dat voor AI om in ziekenhuizen te werken, we constant het "huiswerk" ervan moeten controleren om te zien of het niet bevooroordeeld is. We moeten ook weten hoe het tot een conclusie kwam. Als de AI een "black box" is die een antwoord geeft zonder uit te leggen waarom, kunnen artsen het niet met een mensenleven toevertrouwen. De auteur benadrukt dat we menselijke artsen in de loop moeten houden om het werk van de AI te controleren en te garanderen dat de privacy van patiënten nooit wordt geschonden.

Vervolgens zoomen we in op het Slagveld, of Militaire Automatisering. Dit is de meest serieuze buurt van allemaal. Hier kan AI worden gebruikt om tanks aan te sturen, de vijand te bespioneren of zelfs te beslissen wanneer er een wapen wordt afgevuurd. Het artikel belicht een enorme ethische zorg: mag een machine ooit de definitieve beslissing nemen over leven en dood? De auteur suggereert dat we "betekenende menselijke controle" moeten behouden over deze beslissingen. Het is alsof je zegt dat een robot de tank kan besturen, maar een mens degene moet zijn die op de knop drukt. Het artikel betoogt dat als een robot een fout maakt en schade veroorzaakt, het erg moeilijk is om te weten wie de schuldige is — de programmeur, de soldaat of de machine zelf. Vanwege hiervan suggereert het artikel dat we strikte regels nodig hebben om te voorkomen dat deze systemen worden gehackt of op manieren worden gebruikt die internationale wetten breken. Hoewel geheimhouding nodig is voor de nationale veiligheid, merkt de auteur op dat te veel geheimhouding kan leiden tot een verlies van publiek vertrouwen, dus is een balans nodig.

Daarna springen we in de Bestuurdersstoel met Autonome Voertuigen (AV's). Dit zijn zelfrijdende auto's die camera's en sensoren gebruiken om zich door de wereld te navigeren. De belofte is minder auto-ongelukken en gemakkelijker reizen. Echter, het artikel wijst erop dat deze auto's te maken krijgen met lastige situaties, zoals wat te doen als een botsing onvermijdelijk is. Moet de auto uitwijken om een voetganger te redden, maar daarmee de passagier schaden? Het artikel suggereert dat, hoewel we niet elk "wat als"-scenario perfect kunnen oplossen, ingenieurs deze auto's moeten ontwerpen om menselijk leven te prioriteren en schade te minimaliseren. Het merkt ook op dat we nieuwe wetten nodig hebben om te bepalen wie verantwoordelijk is als een zelfrijdende auto een ongeluk krijgt. Is het de autobezitter, de softwaremaker of het bedrijf dat de auto heeft gebouwd? De auteur benadrukt dat voor mensen het vertrouwen in deze auto's te winnen, bedrijven open moeten zijn over hoe de auto's werken en wat hun beperkingen zijn.

Ten slotte lopen we de Klas binnen met Educatieve Technologie. Hier helpt AI leraren bij het nakijken van opdrachten, het personaliseren van lessen en het bijhouden van hoe leerlingen leren. Het artikel waarschuwt dat dit een tweesnijdend zwaard is. Aan de ene kant kan het helpen dat elke leerling op zijn eigen tempo leert. Aan de andere kant verzamelt het veel privédata over de gewoontes en hersenen van leerlingen. De auteur suggereert dat we heel voorzichtig moeten zijn dat we deze data niet gebruiken om kinderen te bespioneren of hen onrechtvaardig te straffen. Als de AI getraind is op data die bevoordelend is voor rijke leerlingen, kan het slecht advies geven aan arme leerlingen, waardoor de kloof tussen hen alleen maar groter wordt. Het artikel betoogt dat scholen transparant moeten zijn over hoe ze deze data gebruiken en moeten garanderen dat de AI het leren ondersteunt in plaats van leerlingen alleen maar te observeren als een strenge conciërge.

Dus, wat is de grote les van dit alles? Het artikel concludeert dat hoewel ziekenhuizen, slagvelden, wegen en scholen erg verschillend zijn, ze allemaal een paar gemeenschappelijke veiligheidsregels delen. Of het nu een robotarts of een zelfrijdende bus is, we hebben Transparantie nodig (weten hoe het werkt), Veiligheid (erop letten dat het niet kapot gaat), Misbruikpreventie (stoppen dat slechte mensen het hacken) en Privacy (persoonlijke gegevens veilig houden). De auteur suggereert dat we niet één groot regelboek voor alle AI kunnen hebben. In plaats daarvan hebben we een flexibel kader nodig dat de unieke regels van elke sector respecteert, terwijl het zich aan deze kernwaarden houdt. Het artikel claimt niet het definitieve antwoord te hebben, maar biedt een solide startpunt voor overheden en wetenschappers om betere, veiligere en eerlijkere AI-systemen voor de toekomst te bouwen.