Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

In de spoedeisende hulp van ziekenhuizen over de hele wereld staan artsen elke dag voor een moeilijke en urgente vraag: wanneer een patiënt arriveert met een falend hart, kunnen ze dan veilig naar huis, of moeten ze blijven? Deze beslissing is van groot belang. Een zieke persoon te vroeg naar huis sturen kan leiden tot een herhaalbezoek of erger, terwijl het houden van een stabiel persoon in het ziekenhuis middelen verspilt en zorg voor anderen vertraagt. Om deze keuzes te helpen maken, bouwen wetenschappers computerprogramma's die kunstmatige intelligentie gebruiken om het risico van een patiënt te voorspellen. Deze hulpmiddelen kijken naar medische gegevens om te raden wie er zieker zou kunnen worden. Echter, voor een lange tijd zijn deze hulpmiddelen ontworpen door artsen en ingenieurs die bepalen welke informatie belangrijk is en hoe de resultaten eruit moeten zien. De mensen die daadwerkelijk met de hartconditie leven, en die moeten leven met de gevolgen van deze beslissingen, zijn zelden gevraagd om zelf een vorm te geven aan de hulpmiddelen.

Een nieuwe pilotstudie van een team onderzoekers uit Spanje en Nederland vraagt wat er gebeurt als je dat scenario omdraait. In plaats van patiënten simpelweg te vragen naar een afgerond product te kijken en te zeggen of ze het leuk vinden, nodigden de onderzoekers mensen met hartfalen uit om het hulpmiddel vanaf de grond af aan te ontwerpen. Het doel was om te zien of patiënten, wanneer zij de werkelijke macht krijgen om te beslissen hoe de technologie werkt, iets anders zouden creëren dan wat experts zich hadden voorgesteld. De studie vond dat wanneer patiënten werden behandeld als strategische partners in plaats van slechts testers, ze het hulpmiddel volledig herverbeelden. Ze transformeerden het van een rekenmachine voor artsen naar een ondersteunende gids voor patiënten, een gids die in begrijpelijke taal spreet, hun emotionele behoeften respecteert en weigert een antwoord te geven wanneer het niet zeker is.

De onderzoekers brachten elf mensen met praktijkervaring met hartfalen samen voor een tweedaagse workshop in Barcelona. Voordat ze elkaar persoonlijk ontmoetten, volgden de deelnemers een online cursus om de basisprincipes van hoe kunstmatige intelligentie werkt te leren, zodat iedereen op hetzelfde niveau begon. Eenmaal aangekomen werden ze niet gevraagd om een prototype te bekritiseren. In plaats daarvan kregen ze de vrijheid om te beslissen wat het hulpmiddel moest zijn, wie het moest dienen en hoe het zich moest gedragen. De workshop was gestructureerd rond principes van betrouwbare technologie, waarbij de groep werd begeleid bij activiteiten zoals het in kaart brengen van de reis van een patiënt, het creëren van persona's voor verschillende typen mensen en het rollenspel over hoe het hulpmiddel in een echt medisch bezoek zou passen. De deelnemers werkten in twee aparte groepen en opmerkelijk genoeg kwamen beide groepen tot bijna hetzelfde ontwerp zonder met elkaar te hebben gesproken.

De meest opvallende verandering die de deelnemers aanbrachten, betrof het doel van het hulpmiddel zelf. Het project was begonnen met het idee van een scherm voor artsen in de spoedeisende hulp om hen te helpen bij de beslissing over ontslag. De patiënten wezen onmiddellijk op een fout in dit denken: als het hulpmiddel alleen voor artsen is, zien de patiënten het zelf nooit, en begrijpen zij het risico of het plan ook niet. Ze stelden vol hardnekkigheid dat het hulpmiddel een mobiele applicatie voor de patiënt moest zijn. Ze wilden degene zijn die hun eigen informatie invoert, in plaats van dat hun gegevens enkel door een machine worden verzameld. Ze argumenteerden dat het hulpmiddel niet alleen naar een momentopname van hun hartfunctie tijdens een crisis moet kijken, maar hen als complete mensen moet begrijpen. Dit betekende het opnemen van details over hun leven, zoals hun dieet, hun religieuze praktijken, hun woonsituatie en hun vermogen om te reizen, omdat al deze factoren bepalen hoe een risicovoorspelling op hen van toepassing is.

Wat betreft de manier waarop het hulpmiddel de resultaten zou tonen, verwierpen de deelnemers de koude, harde cijfers die gebruikelijk zijn in medische statistieken. Ze legden uit dat het zien van een specifiek percentage kans op overlijden, zoals "6,4 procent", angstaanjagend en onbehulpzaam was. In plaats daarvan wilden ze dat het risico in brede, begrijpelijke categorieën werd weergegeven, zoals laag, gemiddeld of hoog. Belangrijker nog, ze wilden dat het hulpmiddel hen vertelde wat ze nu moesten doen. Een risicoscore alleen is slechts een getal; een risicoscore gekoppeld aan een duidelijke, actiegerichte stap, zoals "bel vandaag nog uw arts" of "monitor uw gewicht", is iets waar een persoon iets aan heeft. Ze wilden ook dat het hulpmiddel eerlijk zou zijn over zijn eigen grenzen. Als de computer niet genoeg gegevens heeft om een betrouwbare schatting te maken voor een specifiek persoon, vonden de deelnemers dat het hulpmiddel simpelweg moet zeggen: "Ik kan u op dit moment niets vertellen", in plaats van een vals of misleidend getal te geven. Zij zagen deze stilte als een vorm van eerlijkheid en een manier om vertrouwen op te bouwen, in plaats van een falen van de technologie.

Het ontwerp bevatte ook een manier voor patiënten om controle te hebben over hoeveel ze wilden weten. De deelnemers erkenden dat ze op een moment van acute ziekte misschien niet de energie hebben om een complexe uitleg te lezen. Ze ontwierpen een systeem waarbij ze kunnen kiezen welk detailniveau ze willen. Ze kunnen een eenvoudige samenvatting zien, of als ze dat willen, kunnen ze klikken om meer technische informatie te zien over hoe de voorspelling tot stand is gekomen. Dit gaf hen de macht om te beslissen hoeveel informatie zij op elk gegeven moment aankunnen. Ze benadrukten ook dat het hulpmiddel een brug tussen hen en hun artsen moest vormen, waardoor ze hun persoonlijke gegevens met hun zorgteam kunnen delen en in ruil daarvoor updates ontvangen, wat zorgt voor een partnerschap in plaats van een eenrichtingsverkeer van informatie.

Ondanks het succes van de workshop waren de deelnemers realistisch over de uitdagingen die resteren. Ze wezen erop dat het omzetten van deze ideeën in een echt, werkend product moeilijk is. Ze merkten op dat wetten over gegevensprivacy, de kosten voor het bouwen en onderhouden van de software en de manier waarop ziekenhuizen worden gefinancierd vaak barrières vormen die goede ideeën ervan weerhouden de eindproductfase te bereiken. Eén deelnemer merkte op dat een enkele workshop niet genoeg is om deze diepe structurele problemen op te lossen, en dat het proces van het betrekken van patiënten gestandaardiseerd en ondersteund moet worden met passende financiering en tijd. De onderzoekers stemden hiermee in en merkten op dat hoewel de patiënten een duidelijke en samenhangende visie produceerden, de weg van die visie naar een hulpmiddel in de hand van een arts nog onzeker is.

Deze studie suggereert dat wanneer mensen met praktijkervaring de ruimte krijgen om de technologie te ontwerpen die hun leven beïnvloedt, zij niet alleen de interface aanpassen, maar het probleem herdefiniëren. Ze verlegden de focus van een hulpmiddel dat een arts helpt om een ziekenhuisbed te beheren naar een hulpmiddel dat een persoon helpt om zijn leven te beheren. Ze lieten zien dat voor technologie met hoge inzet, vooral wanneer het gaat over het risico op de dood, de emotionele en praktische behoeften van de gebruiker even belangrijk zijn als de wiskundige nauwkeurigheid van het algoritme. Het werk demonstreert dat patiënten in staat zijn tot strategisch denken over complexe systemen, mits zij als partners worden behandeld in plaats van als proefpersonen. Hoewel het hulpmiddel beschreven in deze studie nog niet in gebruik is, bieden de door de groep opgestelde ontwerp-specificaties een nieuw blauwdruk voor hoe medische kunstmatige intelligentie gebouwd kan worden om de mensen te dienen die het bedoeld is te helpen, in plaats van alleen de systemen die hen gebruiken.