Protecting patient privacy in clinical foundation models: Technical and legal perspectives
Dit artikel stelt een praktisch, contextbewust kader voor om privacyrisico's in klinische fundamentele modellen te beoordelen en te mitigeren door model-gemedieerde datalekken aan te pakken via complementaire technische en juridische strategieën, aangezien bestaande regelgeving zoals HIPAA en GDPR beperkte richtlijnen biedt voor deze indirecte dreigingen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een superintelligënte robotkok hebt gebouwd. Je hebt de robot miljoenen recepten en kookvideo's van over de hele wereld gevoerd, zodat hij alles kan leren maken, van soep tot soufflé. Nu wil je dat mensen deze robot kunnen gebruiken om hen te helpen bij het koken. Maar hier komt de addertjes onder het gras: omdat de robot zo diep heeft geleerd, kan hij per ongeluk een specifiek, geheim familierecept onthouden van een vreemde op wie hij is getraind, of zelfs onthullen dat het lievelingsgerecht van een specifiek persoon in zijn trainingsboek stond. Dit gaat niet alleen over de robot die een bestand steelt; dit gaat over de robot die handelt op een manier die geheimen lekt die hij niet had mogen weten. Dit is de wereld van "foundation models" in de gezondheidszorg. Dit zijn gigantische AI-systemen die getraind zijn op enorme hoeveelheden patiëntgegevens—zoals medische aantekeningen, röntgenfoto's en laboratoriumresultaten—om artsen te helpen bij het diagnosticeren van ziekten, het voorspellen van gezondheidsrisico's en het plannen van behandelingen. Hoewel deze tools de geneeskunde revolutionair kunnen veranderen, brengen ze een sluipend nieuw privacyrisico met zich mee. Het is niet alleen een kwestie van hackers die in een database inbreken; het gaat erom dat de AI zelf gevoelige details "lekt" via zijn antwoorden, zelfs als de oorspronkelijke gegevens zijn ontdaan van namen en adressen. De grote vraag is: hoe houden we deze krachtige instrumenten veilig zonder ze op slot te zetten?
Dit artikel, geschreven door een team van onderzoekers van plekken zoals MIT, Stanford en Harvard, pakt precies dat probleem aan. Zij betogen dat huidige privacyregels, zoals die in de VS (HIPAA) en Europa (GDPR), lijken op oude verkeerswetten geschreven voor auto's, terwijl we nu zelfrijdende raketten besturen. Deze wetten richten zich op het beschermen van de gegevens voordat ze in de AI gaan, maar ze weten niet echt hoe ze om moeten gaan met de vreemde manieren waarop een AI per ongeluk een klok kan laten luiden nadat deze is getraind.
Om dit op te lossen, stellen de auteurs een nieuwe manier voor om naar privacyrisico's te kijken met behulp van een eenvoudige tweeledige kaart. Stel je een grafiek voor waarbij de ene kant vraagt: "Hoeveel weet de persoon die de vraag stelt al?" en de andere kant vraagt: "Hoeveel gevoelige informatie geeft de AI weg?"
- De as van de "Voorkennis": Soms heb je niets nodig om de AI te misleiden om geheimen prijs te geven (zoals vragen om een "verhaal te verzinnen" en de AI vertelt per ongeluk een echt patiëntenverhaal). Andere keren moet je de AI een klein aanwijzing geven, zoals een specifieke medicatienaam of een zeldzaam symptoom, om meer details over een specif kind of persoon te onthullen.
- De as van de "Gelekte Informatie": Aan de andere kant kan de AI je simpelweg een stuk informatie geven dat aan iemand gekoppeld zou kunnen worden (zoals een zeldzaam ziektepatroon), of het kan je informatie geven die iemand direct identificeert (zoals een naam of een specififiek telefoonnummer).
De auteurs gebruiken deze kaart om naar zes verschillende "lekkagescenario's" te kijken om te laten zien waar het mis kan gaan. Bijvoorbeeld:
- Het "Copycat"-scenario: Een AI die getraind is op hersenscans wordt gevraagd een generieke afbeelding te genereren, maar spuugt per ongeluk een bijna perfecte kopie uit van een echte patiëntenscan, inclusief unieke eigenschappen die die persoon kunnen identificeren.
- Het "Memory Lane"-scenario: Een gebruiker vraagt een AI om een medische notitie te schrijven voor een specifiek type patiënt, en de AI, die een echte notitie van een patiënt heeft onthouden, schrijft bijna exact hetzelfde verhaal, waardoor privédetails worden onthuld die de patiënt nooit publiekelijk heeft gedeeld.
- De "Autocomplete Trap": Een arts is een notitie aan het typen voor Patiënt A, en de AI suggereert een vervolgplan dat de naam en het telefoonnummer van Patiënt B bevat omdat de AI in de war is geraakt en informatie uit de verkeerde herinnering heeft opgehaald.
- De "Membership Leak": Een onderzoeker stelt een vraag aan de AI en merkt dat het gedrag van de AI op een vreemde manier consistent is met een specifieke groep patiënten, wat bewijst dat de gegevens van die specifieke mensen zijn gebruikt om het model te trainen, zelfs als er geen namen worden onthuld.
Het artikel suggereert dat deze risico's echt zijn en voorkomen in zowel "lokale" omgevingen (waar een ziekenhuis de AI op zijn eigen beveiligde servers houdt) als "publieke" omgevingen (waar iedereen de AI online kan gebruiken). Ze stellen vast dat huidige wetten een beetje vaag zijn. In de VS bijvoorbeeld, als een ziekenhuis namen verwijdert uit gegevens voordat ze de AI trainen, kunnen ze denken dat ze veilig zijn onder HIPAA. Maar de auteurs wijzen erop dat als de AI nog steeds in staat is om die specifieke persoon te verraden, het ziekenhuis daadwerkelijk "feitelijke kennis" kan hebben dat de gegevens niet echt anoniem zijn, wat een juridisch probleem kan zijn dat ze niet hadden verwacht. Vergelijkbaar daarmee, in Europa, zeggen de regels dat gegevens "identificeerbaar" moeten zijn om beschermd te worden, maar de auteurs betogen dat zelfs als je iemand niet direct kunt benoemen, als de AI een zeldzame combinatie van symptomen onthult die tot identificatie zou kunnen leiden, het nog steeds een privacyinbreuk is.
Dus, wat is de oplossing? De auteurs beweren niet dat ze een toverstaf hebben die alles direct oplost. In plaats daarvan stellen ze een mix van technische en juridische oplossingen voor. Aan de technische kant bevelen ze beter testen aan (zoals "red teaming", waarbij hackers proberen de AI te breken om lekken te vinden), het gebruik van wiskunde om te beperken hoeveel de AI onthoudt (genaamd "differential privacy"), en het constant controleren van de AI nadat deze is uitgebracht om te controleren of hij niet is begonnen met het lekken van geheimen. Aan de juridische kant betogen ze dat we onze regels moeten bijwerken om te kijken naar de context van hoe de AI wordt gebruikt, en niet alleen naar de gegevens zelf. Ze suggereren dat bedrijven en ziekenhuizen voorzichtiger moeten zijn met wie ze gegevens delen en hoe ze deze modellen trainen, waarbij misschien nieuwe soorten contracten of toezicht vereist zijn.
Uiteindelijk suggereert het artikel dat we niet alleen kunnen vertrouwen op het oude idee van "namen verbergen" om patiënten veilig te houden. Naarmate AI slimmer wordt en meer geïntegreerd raakt in ons leven, hebben we een slimmere, flexibelere manier nodig om risico's te meten. Het is alsoك realiseren dat het vergrendelen van je voordeur goed is, maar dat je ook je ramen en je kelder moet controleren en moet ervoor zorgen dat je buren niet per ongeluk je geheimen naar buiten schreeuwen. De auteurs hopen dat we door middel van hun nieuwe "risicokaart" de geweldige voordelen van medische AI kunnen behouden terwijl we ervoor zorgen dat het privéleven van patiënten privé blijft. Ze geven toe dat het juridische landschap nog steeds in beweging is, met nieuwe wetten zoals de AI Act van de EU die probeert bij te blijven, maar de kernboodschap is duidelijk: we moeten proactief zijn, niet alleen reactief, als het gaat om AI-privacy.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.