Mastery Without a Master: Clinical Deskilling and the Post-Hegelian Paradox of Artificial Intelligence

In het moderne ziekenhuis is het werk van een arts altijd een gesprek geweest tussen menselijk oordeelsvermogen en geaccumuleerde kennis. Eeuwenlang werd dit oordeelsvermogen opgebouwd door te doen: een arts leert diagnosticeren door veel patiënten te zien, onzekere aanwijzingen af te wegen en de mentale stappen te oefenen van het formuleren van een probleem, het overwegen van alternatieven en het uitleggen van een keuze. Dit proces gaat niet alleen over het vinden van het juiste antwoord vandaag; het gaat erom de geest scherp genoeg te houden om het juiste antwoord morgen te vinden. We weten uit ervaring dat vaardigheden, of het nu gaat om chirurgie of redeneren, regelmatige oefening vereisen om sterk te blijven. Als iemand stopt met het beoefenen van een complexe taak, zelfs als diegene nog steeds de titel van expert draagt, kan het vermogen om die taak zonder hulp uit te voeren stilletjes vervagen. Dit is de achtergrond waartegen een nieuwe vraag is ontstaan: wat gebeurt er wanneer de instrumenten die bedoeld zijn om artsen te helpen denken, ook de manier waarop zij denken veranderen?

Een recent artikel van Andrea Mangiameli onderzoekt deze vraag door te kijken naar hoe kunstmatige intelligentie de klinische geneeskunde hervormt. De auteur betoogt dat hoewel AI veel taken efficiënt kan afhandelen, het te zwaar leunen op de machine voor de kern van het redeneren een verborgen gevaar creëert. Dit gevaar is niet dat de machine een fout zal maken, maar dat de menselijke arts langzaam het vermogen verliest om op eigen kracht over een probleem na te denken. Het artikel suggereert dat wanneer een arts herhaaldelijk een AI-systeem een casus laat kaderen, een lijst met mogelijkheden laat genereren of een uitleg laat opstellen, de arts stopt met het trainen van die specifieke mentale spieren. Dit leidt op den duur tot een staat die de auteur "geabdiceerd meesterschap" noemt. In deze staat draagt de arts nog steeds de officiële titel en de uiteindelijke verantwoordelijkheid voor de zorg van de patiënt, maar het werkelijke vermogen om dat oordeelsvermogen onafhankelijk uit te oefenen, is uitgehold. Het systeem blijft in naam onder menselijke controle, maar de menselijke capaciteit die nodig is om het werkelijk te beheersen, is afgenomen.

Het artikel bouwt dit argument op door te onderzoeken hoe vaardigheden worden gevormd en behouden. Het put uit het idee dat professionele expertise geen statisch bezit is, maar een levende vaardigheid die afhangt van voortdurende beoefening. Wanneer een arts AI gebruikt om de medische geschiedenis van een patiënt samen te vatten of een diagnose voor te stellen, is hij vaak bezig met een proces van evaluatie in plaats van creatie. Men is een vinkje aan het zetten in plaats van de doos te bouwen. De auteur wijst erop dat deze verschuiving op het moment zelf onschadelijk lijkt, omdat de ondersteunde zorg er goed uitziet. De AI biedt een correct klinkend antwoord, het papierwerk is compleet en de patiënt wordt behandeld. Echter, het artikel merkt op dat deze soepele uitvoering een langetermijnkost verbergt. De arts is niet langer bezig met het moeilijke werk van het vanaf nul beginnen, van het worstelen met onzekerheid, of van het construeren van een frisse verklaring vanuit de basis.

Dit proces wordt beschreven als een "post-Hegeliaans paradox", een verwijzing naar een oude filosofische gedachte over meesters en dienaren, maar hier toegepast op artsen en machines. In het oorspronkelijke idee verliest een meester die volledig vertrouwt op een dienaar om met de wereld te interageren, uiteindelijk zijn eigen verbinding met die wereld. In de medische versie is de arts de meester en de AI de dienaar. De paradox is dat de arts de formele autoriteit kan behouden terwijl de AI het zware werk van het redeneren doet, maar het vermogen van de arts om onafhankelijk te redeneren langzaam verdwijnt. Het artikel suggereert dat dit geen plotseling falen is, maar een geleidelijke drift. Een arts gebruikt de AI misschien voor een probleemanalyse, dan voor een differentiële diagnose, en vervolgens voor een behandelplan. Elke stap lijkt een kleine, verstandige afkorting. Maar na maanden of jaren van deze kleine afkortingen, kan de arts merken dat hij zonder de machine geen probleemanalyse of behandelplan meer kan genereren. De autoriteit blijft, maar de substantie van de vaardigheid is uitgehold.

Het onderzoek benadrukt dat dit probleem anders is voor ervaren artsen en voor hen die nog in opleiding zijn. Voor een ervaren arts is het risico "de-skilling" (ontscholing), waarbij een capaciteit die men ooit had verloren is omdat men deze niet langer gebruikt. Voor een trainee is het risico "foreclosed mastery" (voorbehouden meesterschap), waarbij men nooit de kans krijgt om de vaardigheid überhaupt op te bouwen. Als een student-arts altijd begint met een door AI gegenereerde samenvatting, leert hij misschien nooit hoe hij een vaag patiëntverhaal kan omzetten in een gestructureerd medisch probleem. Hij bereikt misschien de juiste conclusie, maar hij heeft de mentale strijd overgeslagen die de diepe kennis opbouwt die nodig is om ongewone of complexe gevallen aan te pakken. Het artikel betoogt dat dit een gevaarlijke kloof creëert: de arts kan het pad van de AI volgen, maar als het pad verdwijnt of doodloopt, beschikt de arts mogelijk niet over de middelen om een nieuwe weg te vinden.

De auteur benadrukt dat dit niet gaat over het de schuld geven van artsen voor het gebruik van technologie. Het artikel erkent dat artsen vaak AI gebruiken omdat ze druk zijn, omdat het ziekenhuis dit verwacht, of omdat het hen helpt zich te concentreren op andere delen van de patiëntenzorg. Het probleem is systemisch. De manier waarop ziekenhuizen zijn georganiseerd, de manier waarop elektronische dossiers zijn ontworpen en de manier waarop training wordt uitgevoerd, moedigen al deze vormen van delegatie aan. Het artikel merkt op dat huidige maatstaven voor succes in de geneeskunde alleen kijken naar het directe resultaat: is de patiënt beter geworden? Heeft de AI geholpen? Deze metrieken missen de langetermijnverandering in het vermogen van de arts. Een arts kan jarenlang goed presteren met AI-ondersteuning, om vervolgens voor een situatie te komen te staan waarin de AI faalt of de casus te uniek is voor het systeem, en de arts merkt dat hij niet de onafhankelijke vaardigheid heeft om in te grijpen.

Het concept van "betekenisvolle menselijke controle" staat centraal in de conclusie van het artikel. De auteur stelt dat voor een arts om werkelijk in controle te zijn, hij daadwerkelijk in staat moet zijn om de suggestie van de AI in twijfel te trekken, te veranderen of te verwerpen. Dit vermogen is niet alleen een juridisch recht om een formulier te ondertekenen; het is een praktische vaardigheid die levend gehouden moet worden door oefening. Als een arts alleen kan herhalen wat de AI zegt, oefent hij geen betekenisvolle controle uit. Hij is slechts een boodschap aan het doorgeven. Ware controle vereist het vermogen om te begrijpen waarom een aanbeveling bij een specifieke patiënt past, te herkennen wanneer dat niet zo is, en een ander plan op te stellen wanneer het standaardplan faalt. Het artikel suggereert dat dit vermogen fragiel is. Het kan behouden blijven, maar alleen als het medische systeem bewust ruimte creëert voor artsen om deze moeilijke, onondersteunde taken te oefenen.

Het artikel beweert niet dat AI slecht is of dat het verboden moet worden. In plaats daarvan waarschuwt het dat het pad van totale afhankelijkheid een valstrik is. Het suggereert dat de toekomst van het medisch oordeelsvermogen afhangt van hoe we vandaag de balans tussen assistentie en onafhankelijkheid beheren. Als we de AI al het denkwerk laten doen, riskeren we een generatie artsen te creëren die formeel de leiding hebben, maar substantieel niet in staat zijn om voor zichzelf te denken. De oplossing die wordt voorgesteld, is niet om te stoppen met het gebruik van de instrumenten, maar om ervoor te zorgen dat de instrumenten de praktijk niet vervangen die de menselijke geest scherp houdt. Artsen moeten casussen blijven kaderen, alternatieven blijven genereren en hun keuzes blijven rechtvaardigen, zelfs wanneer de AI aanbiedt dit voor hen te doen. Dit is de enige manier om te garanderen dat wanneer de machine zwijgt, de arts nog steeds met autoriteit kan spreken.

Uiteindelijk presenteert het artikel een stille maar dringende waarschuwing over de aard van expertise in het tijdperk van kunstmatige intelligentie. Het suggereert dat het meest waardevolle wat een arts heeft, niet de toegang tot informatie is, maar het vermogen om die informatie te synthetiseren tot een oordeel dat past bij een uniek menselijk leven. Dit vermogen wordt opgebouwd door het langzame, vaak moeilijke werk van beoefening. Als dat werk wordt gedelegeerd, vervaagt het vermogen. Het artikel concludeert dat het behoud van de menselijke capaciteit om te oordelen niet alleen een technische kwestie is; het is een ethische noodzaak. Een systeem kan lijken onder menselijke controle te staan, met artsen die elke beslissing goedkeuren, maar als de artsen het vermogen hebben verloren om die beslissingen onafhankelijk te nemen, dan is de controle een illusie. De toekomst van de geneeskunde, suggereert de auteur, hangt af van het besef dat de manier waarop we onze instrumenten vandaag gebruiken, de vorm zal bepalen van de artsen die we morgen hebben.