From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

In de moderne wereld van gezondheidsonderzoek vertrouwen wetenschappers vaak op computerprogramma's die leren van enorme hoeveelheden informatie om patronen te vinden, ziekten te voorspellen of behandelingen voor te stellen. Deze programma's, bekend als kunstmatige intelligentie, zijn krachtige instrumenten, maar ze werken anders dan de traditionele experimenten die onderzoekers al decennia lang gebruiken. In een standaardstudie vraagt een wetenschapper bijvoorbeeld aan een groep mensen om toestemming om hun medische gegevens te gebruiken voor een specifieke vraag, voert de analyse uit en publiceert de resultaten. Zodra de studie voltooid is, wordt het werk meestal als afgerond beschouwd. Kunstmatige intelligentie verandert echter deze tijdlijn. Deze systemen kunnen worden getraind op gegevens, en vervolgens worden bijgewerkt, verbeterd en opnieuw ingezet voor geheel nieuwe taken, lang nadat het oorspronkelijke onderzoek is goedgekeurd. Ze kunnen ook nieuwe informatie creëren uit oude dossiers, of worden gebruikt door bedrijven buiten het onderzoeksteam, wat vragen oproept over wie verantwoordelijk is als er iets misgaat. Canada heeft een hoog aangeschreven reeks regels genaamd de Tri-Council Policy Statement die richtlijnen biedt voor hoe onderzoekers menselijke deelnemers behandelen. Deze regels zijn gebouwd op drie solide ideeën: het respecteren van mensen, het zorgen voor hun welzijn en het waarborgen van rechtvaardigheid. Hoewel deze principes sterk zijn, werden ze geschreven voordat kunstmatige intelligentie een gangbaar onderdeel werd van gezondheidsonderzoek. De grote vraag waar de Canadese onderzoekscommunity voor staat, is of deze oude regels voldoende zijn om de nieuwe, verschuivende aard van deze slimme computersystemen aan te kunnen.

Een onderzoeker genaamd Abdolreza Babamahmoodi zette zich af om deze vraag te beantwoorden door nauwgezet te kijken naar hoe de huidige Canadese regels van toepassing zijn op kunstmatige intelligentie in de gezondheidszorg. Dit was geen studie die nieuwe medicijnen testte of patiënten ondervroeg; het was een zorgvuldige examinatie van bestaande beleidsregels, wetten en richtlijnen uit Canada en de rest van de wereld. De onderzoeker verzamelde achtentwintig verschillende documenten, waaronder Canada's belangrijkste ethische beleid voor onderzoek, internationale richtsnoeren van de Wereldgezondheidsorganisatie en regels uit Australië en de Europese Unie. Het doel was om te zien of de huidige Canadese regels duidelijke instructies bieden aan onderzoekers en ethische commissies over wat te doen wanneer kunstmatige intelligentie betrokken is. De analyse richtte zich op zes kerngebieden: het beslissen wat als onderzoek wordt beschouwd, waar de gegevens vandaan komen, of het computermodel eerlijk werkt, hoe mensen de controle behouden, hoe om te gaan met wijzigingen aan het systeem later, en hoe de rechten van inheemse gemeenschappen te respecteren.

De studie concludeerde dat hoewel de bestaande regels van Canada goed zijn in het zetten van de morele toon, ze niet gedetailleerd genoeg zijn om de dagelijkende beslissingen te begeleiden die onderzoekers en ethische raden moeten nemen. Het huidige beleid stelt dat onderzoekers mensen moeten respecteren en rechtvaardigheid moeten waarborgen, maar het specificeert niet welk bewijs een onderzoeker moet leveren om aan te tonen dat een computermodel eerlijk is. Het zegt niet wat er gebeurt wanneer een model zes maanden na goedkeuring wordt bijgewerkt, of wie verantwoordelijk is als een derde partij de gegevens gebruikt op een manier die de onderzoeker niet had verwacht. De onderzoeker merkte op dat zonder deze specifieke instructies, ethische commissies aan het gissen zijn overlegd. Sommigen zouden misschien te veel informatie vragen, wat belangrijk werk vertraagt, terwijl anderen kritieke risico's zouden kunnen missen omdat ze niet weten waarnaar ze moeten kijken. Het artikel betoogt dat de principes voldoende zijn om goed van kwaad te oordelen, maar dat ze niet operationeel adequaat zijn om mensen precies te vertellen wat ze moeten doen.

Om dit op te lossen, stelde de onderzoeker een nieuwe manier van kijken naar het proces voor, genaamd een "lifecycle review" (levenscyclusbeoordeling). In plaats van onderzoek te behandelen als een eenmalige gebeurtenis die eindigt wanneer de studie is gepubliceerd, beschouwt deze benadering het als een continue reis met zes duidelijke controlepunten. Het eerste controlepunt is het doel: precies definiëren wat de kunstmatige intelligentie zal doen en wie het zal helpen. Het tweede is de data: in kaart brengen waar de informatie vandaan komt en wie het recht heeft om deze te gebruiken. Het derde is de ontwikkeling: controleren hoe het computermodel is gebouwd en getest. Het vierde is validatie: ervoor zorgen dat het model goed werkt voor verschillende groepen mensen en niet alleen voor het gemiddelde. Het vijfde is implementatie: ervoor zorgen dat een mens de suggesties van de computer kan begrijpen en deze kan stoppen als het een fout maakt. Het laatste controlepunt is verandering en uitfasering: plannen voor wat er gebeurt wanneer het model wordt bijgewerkt, naar een nieuwe plek wordt verplaatst of wordt uitgeschakeld.

Dit nieuwe kader suggereert dat onderzoekers in elke van deze zes fasen een specifieke set informatie moeten indienen. Bijvoorbeeld, wanneer een model voor het eerst wordt voorgesteld, moet de onderzoeker de beoogde toepassing uitleggen. Later, als het model wordt bijgewerkt of als de gegevensbronnen veranderen, moet de onderzoeker dit melden aan de ethische commissie om te zien of de verandering aanzienlijk genoeg is om een nieuwe beoordeling te vereisen. Het artikel benadrukt dat dit niet gaat over het creëren van een berg papierwerk, maar over het waarborgen dat de juiste mensen op het juiste moment de juiste beslissingen nemen. Het suggereert dat een studie met een laag risico slechts enkele details nodig heeft, terwijl een studie met een hoog risico die de patiëntenzorg beïnvloedt, een veel grondiger plan nodig heeft.

Een cruciaal deel van het artikel behandelt de rechten van inheemse volkeren in Canada. De huidige regels erkennen al dat inheemse gemeenschappen collectieve rechten hebben over hun gegevens, niet alleen individuele rechten. De onderzoeker stelde vast dat hoewel het bestaande beleid dit erkent, het niet uitlegt hoe deze rechten van toepassing zijn op kunstmatige intelligentie. Bijvoorbeeld, als een computermodel wordt getraind op gegevens van een inheemse gemeenschap, heeft die gemeenschap dan een stem als dat model later aan een bedrijf wordt verkocht of voor een ander doel wordt gebruikt? Het artikel betoogt dat deze vragen niet beantwoord kunnen worden door een algemeen beleid dat door buitenstaanders is geschreven. In plaats daarvan stelt de onderzoeker expliciet dat deze specifieke governance-vragen geleid moeten worden door de inheemse gemeenschappen zelf. Het voorgestelde kader laat ruimte voor deze gemeenschappen om hun eigen regels te definiëren voor hoe hun gegevens en de resulterende computermodellen worden behandeld, zodat hun autoriteit wordt gerespecteerd zonder dat deze wordt overschreven door een eenheidsoplossing.

De onderzoeker keek ook naar hoe andere landen deze kwesties aanpakken. De Wereldgezondheidsorganisatie en Australië zijn begonnen met het opstellen van specifieke gidsen voor kunstmatige intelligentie, en de Europese Unie heeft wetten die strikte monitoring van hoog-risicosystemen vereisen. Het artikel suggereert dat Canada deze wetten niet exact hoeft te kopiëren, maar kan leren van hun structuur. Door een soortgelijke "levende" gids te adopteren die kan worden bijgewerkt naarmate de technologie verandert, kan Canada zijn kernethische principes stabiel houden terwijl het de noodzakelijke details toevoegt om nieuwe uitdagingen aan te pakken. De studie concludeert dat het huidige systeem niet kapot is, maar incompleet is. Er is een brug nodig tussen de sterke morele principes en de praktische realiteiten van hoe kunstmatige intelligentie werkt.

De voorgestelde oplossing is een werkend model dat getest en verbeterd kan worden. De onderzoeker beweert niet dat dit kader perfect is of dat het alle problemen onmiddellijk oplost. In plaats daarvan wordt het gepresenteerd als een instrument voor discussie en toekomstige validatie. Het artikel suggereert dat, voordat dit model een standaardregel wordt, het getest moet worden met echte onderzoekers en ethische commissies om te zien of het hen daadwerkelijk helpt betere beslissingen te nemen zonder onnodige vertragingen te veroorzaken. Het uiteindelijke doel is om een systeem te creëren waarin kunstmatige intelligentie kan worden gebruikt om de gezondheidszorg te verbeteren, maar waarbij de betrokken mensen beschermd worden, de gegevens verantwoord worden gebruikt en de getroffen gemeenschappen een echte stem hebben in hoe de technologie wordt bestuurd. Door het proces op te splitsen in duidelijke, beheersbare stappen, beoogt het kader de complexe wereld van kunstmatief intelligentieonderzoek transparanter en verantwoordelijker te maken voor iedereen die erbij betrokken is.