Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

Elke jaar worden nationale gezondheidsinstanties geconfronteerd met een berg papierwerk. Wanneer een bedrijf een nieuw medicijn wil verkopen, moet het een enorme dossier indienen met duizenden pagina's aan gegevens over hoe het medicijn is gemaakt, hoe het in het lichaam werkt en of het veilig is. In veel landen, vooral in landen met beperkte personeelscapaciteit, duurt het beoordelen van deze documenten lang, wat de toegang tot levensreddende behandelingen vertraagt. Om dit te versnellen zonder concessies te doen aan de kwaliteit, hebben toezichthouders een strategie aangenomen die "reliance" (vertrouwen op andere instanties) wordt genoemd. In plaats van vanaf nul te beginnen, kan een lokale instantie kijken naar het werk dat al door een vertrouwde autoriteit in een ander land is gedaan. Als die vertrouwde autoriteit het medicijn al heeft goedgekeurd, kan het lokale team die beoordeling als basis gebruiken. Dit proces is echter nog steeds uiterst moeilijk. Het lokale team moet nog steeds de originele documenten doorlezen, controleren of het product exact hetzelfde is, kleine verschillen vinden en een nieuw rapport schrijven dat hun beslissing onderbouwt. Dit vereist het navigeren door complexe structuren, het opsporen van minuscule fouten die verborgen zitten in de tekst, en het waarborgen dat elke conclusie wordt ondersteund door specifieke bewijslast. Als er een fout wordt gemaakt, of als de redenering niet herleidbaar is naar een bron-document, kan de hele beslissing worden aangevochten, wat de volksgezondheid in gevaar brengt.

Onderzoekers aan de University of the Western Cape in Zuid-Afrika hebben dit probleem aangepakt door een nieuw soort computertool te ontwerpen, niet om menselijke experts te vervangen, maar om als een zeer georganiseerde assistent te fungeren. Ze noemen deze tool RAiA. Het team heeft niet simpelweg een programma gebouwd om tekst samen te vatten, omdat een samenvatting de minuscule details die in de geneeskunde van belang zijn, zou kunnen missen. In plaats daarvan gebruikten ze een methode genaamd design science research, die zich richt op het bouwen van een specifieke oplossing voor een reëel probleem en het precies definiëren van hoe het moet werken voordat het ooit op echte gegevens wordt getest. Hun doel was om een systeem te creëren dat het zware werk van het lezen en organiseren van de documenten kon afhandelen, terwijl de menselijke expert de volledige controle over de uiteindelijke beslissing behield. Het resultaat is een prototype systeem dat fungeert als een brug tussen de chaotische stapel documenten en het heldere, verdedigbare rapport dat een toezichthouder moet schrijven.

De kern van dit ontwerp is een reeks strikte regels die het gedrag van de computer beheersen. De onderzoekers realiseerden zich dat voor een tool om nuttig te zijn in een omgeving met hoge inzet zoals de geneeskunde, deze "governance-bound" (gebonden aan bestuurlijke kaders) moet zijn. Dit betekent dat het systeem is gebouwd met veiligheidsrails die voorkomen dat het eigen beslissingen neemt of zijn werk verbergt. Het systeem is bijvoorbeeld zo ontworpen dat het niet op eigen kracht een medicijn kan goedkeuren of afwijzen; het kan alleen potentiële problemen signaleren en verbanden tussen verschillende delen van de papierwinkel suggereren. Elke keer dat de computer een feit aanwijst, moet het ook precies laten zien waar dat feit vandaan komt, door de bevinding te koppelen aan een specifieke zin in het originele document. Dit zorgt ervoor dat als een menselijke beoordelaar het werk van de computer in twijfel trekt, hij de bron onmiddellijk kan inzien en verifiëren. Het systeem houdt ook een gedetailleerd logboek bij van elke stap die het neemt, waardoor een papier spoor ontstaat dat bewijst dat het werk correct en veilig is uitgevoerd.

Om dit te bouwen, heeft het team de enorme taak van het beoordelen van een medicijnendossier opgedeeld in kleinere, beheersbare stukken. Ze ontwierpen het systeem zo dat het verschillende soorten informatie apart behandelt. Eén deel van het systeem kijkt alleen naar de chemische en productiegegevens, een ander richt zich op klinische testresultaten, en een derde controleert de etikettering en instructies. Dit is vergelijkbaar met hoe een team van specialisten zou werken, waarbij één persoon de motor van een auto controleert terwijl een ander de remmen controleert, in plaats van dat één persoon alles tegelijk probeert te doen. Het systeem verzamelt informatie uit deze verschillende gebieden en brengt ze samen, waarbij het zoekt naar tegenstrijdigheden of ontbrekende onderdelen. Als het productieverslag zegt dat het medicijn in één fabriek is gemaakt, maar het klinische testverslag suggereert dat het in een andere fabriek is gemaakt, signaleert het systeem deze discrepantie voor de mens om te onderzoeken. Cruciaal is dat het systeem geprogrammeerd is om conservatief te zijn; het is beter om een potentieel probleem te melden dat achteraf niets blijkt te zijn, dan een echt gevaar te missen.

De onderzoekers besteedden ook veel aandacht aan de interactie tussen de menselijke expert en de machine. De interface is zo ontworpen dat de mens de suggesties van de computer gemakkelijk kan accepteren, bewerken of verwerpen. Als de computer een fout maakt, kan de mens dit corrigeren, en het systeem legt vast waarom de correctie is doorgevoerd. Deze feedback wordt niet gebruikt om de "hersenen" van de computer direct te veranderen, wat tot onvoorspelbaar gedrag zou kunnen leiden, maar wordt in plaats daarvan bewaard voor een latere, zorgvuldige controle door het team. Deze scheiding zorgt ervoor dat het hulpmiddel stabiel en betrouwbaar blijft. Het systeem beschermt ook gevoelige informatie, zoals bedrijfsgeheimen of privégegevens, door deze te versleutelen en ervoor te zorgen dat alleen geautoriseerde personen deze kunnen inzien. De computer mag deze privégegevens niet gebruiken om zichzelf te trainen, wat het risico voorkomt dat die informatie later uitlekt.

Het team heeft een werkende versie van dit systeem gebouwd, een prototype, om te laten zien hoe het proces van begin tot eind zou verlopen. Ze hebben het getest met fictieve documenten die leken op echte medicijnapplicaties, maar ze hebben geen enkele werkelijke vertrouwelijke gegevens van echte bedrijven gebruikt. De demonstratie toonde aan dat het systeem een groot bestand kan nemen, het in de juiste secties kan sorteren, relevante bewijzen kan vinden en een rapport kan opstellen dat de menselijke expert vervolgens kan beoordelen en kan ondertekenen. De menselijke expert bleef bij elke stap de uiteindelijke autoriteit, waarbij hij besliste wat de bewijslast betekende en of het medicijn veilig was. Het prototype bewees dat het ontwerp mogelijk was en dat de workflow logisch was, maar de onderzoekers benadrukken voorzichtig dat dit nog geen afgewerkt product is dat klaar is voor echt wereldgebruik. Ze hebben nog niet gemeten hoeveel sneller het het proces maakt of hoe nauwkeurig het fouten in echte documenten vindt.

De belangrijkste bijdrage van dit werk is niet een nieuw type computeralgoritme, maar een blauwdruk voor hoe betrouwbare tools voor medicijnregulering te bouwen. De onderzoekers hebben aangetoond dat het mogelijk is om een kunstmatige intelligentie-systeem te ontwerpen dat de regels van governance respecteert, privégegevens beschermt en de mens de controle laat houden. Ze hebben een set van tien leidende principes verstrekt die andere ontwikkelaars kunnen volgen als zij soortgelijke tools willen bouwen. Deze principes benadrukken dat de tool zijn bevindingen altijd moet koppelen aan bewijs, nooit zelfstandig een beslissing mag nemen en zo ontworpen moet zijn dat het werk geaudit en gecontroleerd kan worden. Door vanaf het begin op deze regels te focussen, heeft het team een model gecreëerd dat toezichthouders in Afrika en over de hele wereld kan helpen de groeiende complexiteit van medicijngoedkeuringen te beheren zonder de veiligheid in gevaar te brengen.

Deze studie vertegenwoordigt een belangrijke stap voorwaarts in het denken over hoe technologie menselijke experts kan ondersteunen in kritieke velden. Het beweegt weg van het idee dat kunstmatige intelligentie de menselijke oordeelsvorming moet vervangen en richt zich in plaats daarvan op hoe het de menselijke oordeelsvorming geïnformeerder en efficiënter kan maken. De onderzoekers hebben aangetoond dat met het juiste ontwerp een computer de tijdrovende taken van het sorteren en controleren van documenten kan afhandelen, waardoor menselijke experts vrijkomen voor de complexe redeneringen en de uiteindelijke beslissingen die de volksgezondheid beschermen. Hoewel de tool zich nog in de prototypefase bevindt en verdere tests nodig heeft, biedt het ontwerp zelf een duidelijke weg naar het creëren van veilige, betrouwbare en verantwoorde systemen voor de toekomst van de medicijnregulering.