Hierarchical temporal transformer for cancer grade prediction and cross cancer transfer learning from pathology reports
Dit artikel introduceert de Hierarchical Temporal Transformer (HTT), een tweelaagse architectuur die longitudinale pathologierapporten en kanker-type embeddings benut om een state-of-the-art voorspelling van kankergraad te bereiken en effectieve zero-shot transfer learning naar onbekende kankertypes te demonstreren zonder prestatieverlies.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer
Ziekenhuizen genereren een constante stroom van schriftelijke verslagen. Wanneer een patiënt een arts bezoekt, noteert de arts wat hij ziet, wat hij vermoedt en hoe de toestand van de patiënt is veranderd sinds het vorige bezoek. Al decennia lang worstelen computers om deze aantekeningen te lezen op een manier die artsen helpt bij het nemen van beslissingen. De meeste computerprogramma's die medische teksten analyseren, behandelen elke aantekening als een afzonderlijke, geïsoleerde gebeurtenis. Ze lezen één rapport, doen een gok en gaan dan door naar het volgende, waarbij ze het verhaal dat eraan voorafging volledig vergeten. Deze aanpak mist een cruciaal onderdeel van de menselijke ervaring: tijd. De gezondheid van een patiënt is een reis, geen momentopname. Een scan die vandaag een kleine verandering laat zien, kan iets heel anders betekenen als de patiënt twee jaar geleden een stabiele scan had versus een scan die vorige week nog een snelle groei liet zien. Bovendien zijn de meeste computermodellen getraind om slechts één specif demikian type kanker te begrijpen. Een programma dat gebouwd is om longkankerrapporten te lezen, faalt vaak wanneer het een rapport over schildklierkanker krijgt, waardoor ziekenhuizen gedwongen worden om tientallen aparte, dure systemen te bouwen en te onderhouden.
Een team van onderzoekers zette zich af om beide problemen tegelijk op te lossen. Ze ontwikkelden een nieuw computersysteem dat ontworpen is om de volledige geschiedenis van de bezoeken van een patiënt te lezen, waarbij er nauwlettend wordt gelet op de werkelijke dagen en maanden tussen de afspraken. Ze wilden ook zien of dit systeem de algemene taal van kanker Ernst zo goed kon leren dat het typen kanker kon begrijpen die het nog nooit eerder had gezien. Om dit te testen, creëerden ze een experiment uit twee delen. Eerst bouwden ze een gesimuleerde wereld van medische rapporten waarin ze het verhaal exact konden controleren, zodat de computer de tijdlijn moest gebruiken om het juiste antwoord te krijgen. Ten tweede voerden ze het systeem duizenden echte pathologierapporten uit een publieke database, waarbij ze het systeem vroegen de ernst van tumoren te beoordelen in kankertypes die volledig verborgen waren voor de training.
Het systeem dat ze bouwden werkt in twee duidelijke fasen, net zoals een mens een dossier leest. De eerste fase leest elk individueel rapport en zet de woorden om in een compacte samenvatting van wat dat specifieke bezoek betekende. De tweede fase bekijkt de opeenvolging van deze samenvattingen voor een enkele patiënt. Het kijkt niet alleen naar de volgorde van de rapporten; het meet de werkelijke tijd die tussen hen is verstreken. Als een patiënt drie weken na een operatie een scan heeft en een andere zes maanden later, begrijpt het systeem dat het tweede evenement veel afstandelijker en significanter is dan wanneer de scans slechts een week uit elkaar lagen. Dit stelt de computer in staat om de geschiedenis van de ziekte te wegen, en niet alleen de meest recente aantekening. Om verschillende soorten kanker te kunnen verwerken, gebruikt het systeem een speciale marker voor elke ziektefamilie, waardoor het leert dat hoewel de woorden kunnen veranderen, het onderliggende concept van "agressief" of "mild" vergelijkbaar blijft over verschillende organen heen.
Toen de onderzoekers dit systeem testten op hun gesimuleerde gegevens, waren de resultaten duidelijk. De computer die de volledige tijdlijn en de tijdsintervallen tussen bezoeken kon lezen, was aanzienlijk beter in het voorspellen van de progressie van de ziekte dan een computer die alleen naar het laatste rapport keek. In een specifieke test waarbij het systeem de uitkomst voor een type kanker moest voorspellen dat het nog nooit eerder had gezien, was het tijdlijnbewuste systeem veel nauwkeuriger. Het slaagde erin om het groeipatroon dat het van andere kankers had geleerd, te gebruiken om de nieuwe kanker te begrijpen. Dit suggereerde dat het vermogen om tijd en geschiedenis te volgen een werkelijk voordeel was, en niet slechts een kenmerk van de data.
Het tweede deel van de studie bewoog van simulatie naar de realiteit, waarbij duizenden echte pathologierapporten van patiënten met veertien verschillende soorten kanker werden gebruikt. De onderzoekers trainden het systeem op elf van deze soorten en sloot vervolgens de rapporten voor de overige drie volledig op, waaronder schildklierkanker, sarcoom en een specifiek type longkanker. Ze vroegen het systeem om de tumorgradatie te voorspellen, wat een maatstaf is voor hoe agressief de kanker is, voor deze onbekende types. De resultaten waren opmerkelijk. Het systeem presteerde even goed op de onbekende kankers als op de soorten waarop het getraind was. Het behaalde een perfecte score op schildklierkanker en zeer hoge scores op de anderen. Dit bewees dat het systeem niet simpelweg specifieke woorden voor specifieke kankers had gememoriseerd. In plaats daarvan had het een diepere, universele taal van kanker Ernst geleerd die van toepassing is op verschillende families van ziekten.
De onderzoekers onderzochten vervolgens precies hoe deze kennisoverdracht plaatsvond. Ze ontdekten dat het vermogen om nieuwe kankertypes te begrijpen primair voortkwam uit de initiële training van het systeem op enorme hoeveelheden medische teksten, wat het de algemene betekenis van woorden als "agressief" of "slecht gedifferentieerd" leerde. Het deel van het systeem dat ontworpen is om tijd en geschiedenis te volgen, hoewel krachtig voor het begrijpen van patiënttrajecten, was niet de belangrijkste drijfveer achter dit succes over verschillende kankers heen. In de realiteitstest, waar elke patiënt slechts één rapport had, had het tijd-trackende component geen geschiedenis om te analyseren, en toch slaagde het systeem. Dit geeft aan dat de kernintelligentie voor het herkennen van kanker Ernst al aanwezig was in het fundamentele taalmodel, wachtend om op nieuwe situaties te worden toegepast.
Deze bevindingen wijzen op een nieuw pad voor medische kunstmatige intelligentie. In plaats van een apart, gespecialiseerd computerprogramma voor elk type kanker te bouwen, zouden ziekenhuizen uiteindelijk een enig verenigd systeem kunnen gebruiken. Dit enkele systeem zou kunnen leren van veelvoorkomende kankers en die kennis onmiddellijk kunnen toepassen op zeldzame of moeilijke kankers, mits het concept van ziekte Ernst in de tekst wordt uitgedrukt. Hoewel het systeem nog steeds zorgvuldige afstemming nodig heeft om valse alarmen te voorkomen, demonstreert de studie dat computers kunnen leren het verhaal van een ziekte te lezen over verschillende lichamen en verschillende tijdskaders heen, waarmee ze dichter bij een toekomst komen waarin één enkel instrument artsen kan helpen het volledige complex van kanker te begrijpen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.