When Patients Say “Do Not Share”: LLMs Misroute Sensitive Information in Clinical Documentation
Deze studie onthult dat grote taalmodellen er vaak niet in slagen om verzoeken van patiënten om gevoelige informatie achter te houden in klinische documentatie te respecteren, waarbij dergelijke gegevens in meer dan een derde van de gevallen aan ongerelateerde ontvangers worden verstrekt, maar toont aan dat het implementeren van op de ontvanger gerichte routeringsworkflows dit risico aanzienlijk kan verminderen zonder de noodzakelijke informatieverdeling in gevaar te brengen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de stille hoekjes van een doktersbezoek delen patiënten vaak dingen die ze liever verborgen houden. Ze kunnen spreken over een strijd met verslaving, een privé gezondheidstoestand of een moeilijk thuisleven, in het vertrouwen dat de clinicus deze informatie alleen zal gebruiken om hen te helpen genezen. Soms vraagt een patiënt expliciet of een specifiek detail niet met anderen gedeeld mag worden. Dit verzoek is een fundamenteel onderdeel van medisch vertrouwen, een belofte dat gevoelige feiten binnen de kring van zorg zullen blijven. Tegenwoordig vertrouwen artsen steeds vaker op kunstmatige intelligentie om deze gesprekken te beluisteren en ze op te schrijven in officiële medische dossiers, verwijzingen naar andere specialisten en brieven voor werkgevers. Deze computerprogramma's, bekend als grote taalmodellen, zijn ontworpen om menselijke taal te begrijpen en deze snel samen te vatten. Maar er is een nieuwe vraag ontstaan: wanneer een patiënt zegt "niet delen", luistert de machine dan? Het antwoord is belangrijk omdat deze digitale samenvattingen niet alleen verslagen zijn; het zijn documenten die reizen. Een aantekening bedoeld voor een cardioloog kan per ongeluk terechtkomen in een brief die naar een baas wordt gestuurd, of een samenvatting voor een patiënt kan gelezen worden door een familielid die het niet had mogen zien. De veiligheid van dit systeem hangt ervan af dat de computer niet alleen weet wat hij moet zeggen, maar ook wie het mag horen.
Onderzoekers van verschillende grote medische centra gingen precies dit scenario testen. Ze wilden zien of huidige systemen van kunstmatige intelligentie het verzoek van een patiënt konden respecteren om gevoelige informatie achter te houden bij het genereren van documenten voor verschillende mensen. Hiervoor creëerden ze een massaal, gecontroleerd experiment met duizenden gesimuleerde medische ontmoetingen. Ze bouwden 120 gedetailleerde casestudy's die zes gevoelige gezondheidsgebieden besloegen, zoals geestelijke gezondheidszorg, middelengebruik en reproductieve kwesties. Voor elke casus maakten ze twee versies: één waarin de patiënt de informatie simpelweg deelde, en een andere waarin de patiënt dezelfde informatie deelde maar een duidelijk, direct verzoek toevoegde om deze niet met iemand buiten het directe zorgteam te delen. Vervolgens vroegen ze zeven verschillende kunstmatige intelligentiemodellen om deze gesprekken om te zetten in vijf verschillende soorten documenten: een aantekening voor de behandelend arts, een verwijzing naar een specialist die de informatie nodig heeft, een verwijzing naar een specialist die de informatie niet nodig heeft, een samenvatting voor de patiënt en een brief voor een werkgever.
De resultaten toonden een aanzienlijke kloof tussen wat patiënten vragen en wat de machines leveren. Zelfs wanneer een patiënt expliciet vroeg om een gevoelig feit privé te houden, namen de kunstmatige intelligentiemodellen die informatie nog steeds op in 34,2 procent van de documenten die werden verzonden naar mensen die het niet hoefden te weten, zoals ongerelateerde specialisten of werkgevers. Bij tests waarbij gebruik werd gemaakt van echte taal uit door patiënten geschreven gezondheidsvragen, was het probleem nog prominenter aanwezig; zonder een verzoek deelden de modellen de informatie in bijna 6 de 68 procent van de ongepaste documenten, en zelfs met het verzoek deelden ze het nog steeds in ongeveer 34 procent van de gevallen. De modellen leken moeite te hebben met de logica van context. Ze behandelden de medische geschiedenis als één enkel blok waarheid dat in elk document thuishoort, in plaats van te begrijpen dat een feit waar en belangrijk kan zijn voor de ene arts, maar volkomen ongepast voor een andere. De onderzoekers ontdekten dat het simpelweg vertellen van het model "niet delen" geen betrouwbare manier was om het lekken van gevoelige details te voorkomen.
De studie bracht ook een gevaarige afweging aan het licht. Wanneer de onderzoekers probeerden het probleem op te lossen door de modellen striktere instructies te geven om gevoelige informatie te verbergen, gingen de machines soms te ver. Ze begonnen feiten weg te laten die eigenlijk noodzakelijk waren voor veilige medische zorg. Bijvoorbeeld, in gevallen waarin een patiënt vroeg om een aandoening te verbergen die een ontvangende specialist absoluut moest weten voor de veiligheid, lieten de modellen de informatie soms geheel weg, wat de patiënt potentieel in gevaar kon brengen. Dit creëerde een moeilijke situatie waarbij het systeem ofwel te veel deelde, ofwel te veel verborg. De onderzoekers ontdekten dat de modellen niet over een ingebouwde capaciteit beschikten om het privacyverzoek van de patiënt af te wegen tegen de klinische noodzaak van de informatie. Ze volgden simpelweg de meest recente instructie zonder de consequenties van hun keuzes te begrijpen.
Om dit aan te pakken, testte het team een meer geavanceerde aanpak genaamd een 'recipient-conditioned routing workflow'. In plaats van de modellen alleen te vragen een aantekening te schrijven, vroeg dit systeem het model eerst om de gevoelige informatie te identificeren, vervolgens te beslissen of de specifieke ontvanger van dat document de informatie moest zien, en vervolgens de tekst dienovereenkomstig op te stellen. Toen ze deze methode testten op een van de modellen, werkte het opmerkelijk goed; het verminderde de snelheid van ongepaste verspreiding van meer dan 21 procent naar slechts 1,2 procent, zonder dat het systeem noodzakelijke medische feiten verborg. Echter, toen ze dezelfde methode op een ander model probeerden, veroorzaakte het een enorme piek in schadelijke weglatingen, waarbij in bijna twee derde van de gevallen cruciale informatie werd verborgen. Dit toonde aan dat de oplossing niet universeel is; wat werkt voor het ene systeem van kunstmatige intelligentie, kan een ander systeem breken. De studie concludeert dat het vertrouwen op alleen een mondeling verzoek van een patiënt niet voldoende is om de privacy te beschermen in een geautomatiseerde wereld.
De bevindingen suggereren dat voordat deze hulpmiddelen breed worden ingezet in ziekenhuizen, ze niet alleen getest moeten worden op hoe goed ze schrijven, maar ook op hoe goed ze begrijpen wie wat mag lezen. Een door een computer gegenereerd document is niet alleen een samenvatting van feiten; het is een beslissing over wie toegang krijgt tot het verhaal van een patiënt. Als het systeem niet het onderscheid kan maken tussen een aantekening voor een behandelend arts en een brief voor een werkgever, faalt het voor een basisveiligheidstest. De onderzoekers benadrukken dat veilige opslag van gegevens niet hetzelfde is als het veilig delen van informatie. Zelfs als een systeem beveiligd is en de gegevens versleuteld zijn, kan het model zelf een gevoelig feit in het verkeerde document plaatsen. De studie adviseert dat elk type document en elke versie van de software apart gecontroleerd moet worden op deze specifieke fouten. Totdat deze systemen in staat zijn om een verzoek van een patiënt betrouwbaar te eren zonder hun veiligheid in gevaar te brengen, moet de uiteindelijke beslissing over wat er in een medische brief komt te staan in handen blijven van een menselijke clinicus.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.