Technische Samenvatting: ProtoMedAgent

Probleemstelling

Hoewel interpreteerbare prototypenetwerken casusgebaseerd redeneren voor klinische diagnostiek bieden door trainingsvoorbeelden op te halen ("dit lijkt op dat"), missen hun ruwe outputs—continue kenmerkkaarten en scalair gelijkeniscores—de semantische structuur die vereist is voor medische documentatie. Het overbruggen van deze kloof met standaard Retrieval-Augmented Generation (RAG) en Large Language Models (LLM's) faalt frequent. Wanneer LLM's de taak krijgen om onbeperkte visuele kenmerken en klinische a priori's te interpreteren, vertonen ze "retrieval-sycofantie": ze hallucineren post-hoc rationalisaties om zich aan te passen aan de voorspellingen van het netwerk, in plaats van het bewijs trouw te rapporteren. Bovendien creëert het direct blootstellen van ruwe trainingsvoorbeelden aan LLM's ernstige privacykwetsbaarheden, waaronder leden-inferentie- en attribuut-inferentie-aanvallen, terwijl standaard Differentiële Privacy vaak de klinische fideliteit degradeert die vereist is voor dichte medische beelden.

Methodologie

ProtoMedAgent adresseert deze uitdagingen door multimodale klinische rapportage te formaliseren als een iteratief, zero-gradient optimalisatieprobleem tijdens de testfase, dat opereert via een strikte neuro-symbolische bottleneck. Het raamwerk ontkoppelt de diagnostische forward pass van de documentatie van bewijs, met gebruik van een bevroren prototypenruggengraat (ProtoMedX) en een suite van toegewijde agenten.

1. Offline Geheugen-distillatie en Privacy

Ruwe trainingsafbeeldingen en tabulaire data worden gedistilleerd tot een discrete semantische geheugenbank van "ProtoCards" ($C_j$), in plaats van ruwe voorbeelden bloot te stellen.

• Abstractie: Een Perceptie-agent (Vision-Language Model) haalt visuele beweringen uit, terwijl een Tabulaire-agent patiëntvariabelen kwantiseert.
• Semantische Privacypoort: Een niet-differentieerbare regularisator dwingt $k$-anonymiteit en $\ell$-diversiteit af op de release-ondertekening van deze kaarten. Als een prototype niet voldoet aan de privacydrempels (bijv. onvoldoende diversiteit in de equivalentieklasse), wordt het geredigeerd uit de context van de LLM, hoewel het nog steeds kan bijdragen aan de diagnostische forward pass.

2. Online Reflectieve Test-fase Optimalisatie

Tijdens inferentie wordt een nieuwe patiëntvraag geabstraheerd tot een "CaseCard". Het raamwerk hanteert vervolgens een Scribe-Critic-lus om het rapport te genereren:

• Deterministische Differentiëlen: Een Supervisor-agent berekent exacte verzamelingstheoretische differentiëlen ($\Delta_j$) tussen de beweringen van de vraag en de opgehaalde ProtoCards. Dit definieert een absolute toelaatbare ruimtelijke staat, waardoor wordt voorkomen dat de LLM correlaties hallucineert die niet in de data aanwezig zijn.
• Visuele Uitstel: Als de uitlijning tussen de vraag en opgehaalde prototypen onder een drempelwaarde valt, onderdrukt het systeem op beelden gebaseerde gelijkenissen om te voorkomen dat rationalisatie van tegenstrijdigheden wordt afgedwongen.
• Iteratieve Optimalisatie: De rapportgeneratie wordt geformuleerd als een zero-gradient zoektocht. Een Scribe-agent stelt rapporten in natuurlijke taal voor, terwijl een Critic-agent deze evalueert tegen een energie-functie ($E_{critic}$) die schema-onvalideheid, citatiehallucinaties, type-inconsistenties en falen in logische implicatie straft. De lus herhaalt zich totdat het rapport perfecte neuro-symbolische uitlijning met het bewijs bereikt.

Belangrijkste Bijdragen

1. Agente LLM-in-the-Loop Test-fase Optimalisatie: De auteurs formaliseren klinische rapportage als een zero-gradient optimalisatieproces. Door gebruik te maken van een offline privacy-gedekte geheugenbank en een online reflectieve redeneerlus, ontcijfert het raamwerk veilig een bevroren prototypen-classificator zonder gradient-updates voor het generatieve model te vereisen.
2. Neuro-symbolische Verificatie: Het werk vervangt heuristische LLM-vergelijkingen door deterministische verzamelingstheoretische differentiëlen. Een iteratieve Scribe-Critic-lus garandeert citatie-nauwkeurigheid en consistentie van getypeerde waarden, wat retrieval-sycofantie fundamenteel mitigeert.
3. Bewezen Privacy-Utility Grenzen: Er wordt een nieuwe semantische release-poort geïntroduceerd voor continue prototypen-geheugen, gebruikmakend van $k$-anonymiteit en $\ell$-diversiteit. Deze benadering begrenst wiskundig het openbaarmakingsrisico terwijl ze de empirische trouw verbetert, en vermijdt het verlies aan fideliteit dat geassocieerd is met methoden voor ruisinjectie.

Resultaten

Geëvalueerd op een klinische cohort van 4.160 patiënten voor screening van botgezondheid (DEXA-scans en tabulaire risicofactoren), toont ProtoMedAgent significante verbeteringen ten opzichte van baselines:

• Trouw: Het systeem bereikt 91,2% Comparison Set Faithfulness (CSF-Precision), wat aanzienlijk beter presteert dan standaard RAG (46,2%) en domein-geadapteerde LoRA-modellen (63,1%). Dit bevestigt dat de neuro-symbolische bottleneck effectief niet-ondersteunde narratieve claims beperkt.
• Privacy: Het raamwerk maakt gebruik van een bindende $\ell$-diversiteit fase-overgang. Op het geselecteerde operationele punt ($k=5, \ell=2$) verlaagt het systeem de risico's op leden-inferentie op artefactniveau met een absolute 9,8% en de risico's op attribuut-inferentie met 8,4% ten opzichte van standaard RAG, zonder de onderliggende gewichten van het generatieve model te wijzigen.
• Kwalitatieve Prestaties: De gegenereerde rapporten behouden klinische vloeiendheid terwijl ze bewijs-gekalibreerd redeneren vertonen. Het systeem past zich aan geredigeerd bewijs aan door conservatievere taal te produceren in plaats van ontbrekende details te hallucineren.

Betekenis en Beweringen

Het artikel stelt dat ProtoMedAgent de semantische kloof tussen continue visuele redenering en discrete klinische documentatie succesvol overbrugt. Door de LLM te herpositioneren als een verifieerbare interpreteerbaarheidslaag in plaats van een onbeperkte fabulant, bereikt het raamwerk state-of-the-art rapportage-fideliteit zonder kostbare modelhertraining.

De auteurs beweren dat het formuleren van privacybewuste rapportage als een expliciete optimalisatie van het operationele punt een structurele eigenschap onthult waarbij $\ell$-diversiteit fungeert als een bindende beperking, wat effectief toelaatbare equivalentieklassen verzadigt en de informatiestroom beperkt. Dit ontwerp sluit aan bij opkomende EU-regelgeving (EU AI Act en EU Data Act) door auditabele, door mensen toezichtbare en robuuste klinische AI te bieden die expliciete menselijke uitstel ondersteunt.

Het artikel erkent bescheiden beperkingen: het raamwerk is begrensd door de potentiële visuele blinde vlekken van de upstream Perceptie-agent, en hoewel de neuro-symbolische bottleneck gehallucineerde structurele claims voorkomt, garandeert het niet de absolute waarheid van de perceptie van de onderliggende ruggengraat. Bovendien zijn de privacygaranties afhankelijk van $k$-anonymiteit en $\ell$-diversiteit, die de theoretische worst-case garanties van Differentiële Privacy tegen adversaries met hulpkennis buiten het schema missen.