Hierarchical temporal transformer for cancer grade prediction and cross cancer transfer learning from pathology reports
Dieses Paper stellt den Hierarchical Temporal Transformer (HTT) vor, eine zweistufige Architektur, die longitudinale Pathologieberichte und Krebsart-Embeddings nutzt, um eine erstklassige Vorhersage des Krebsgrades zu erreichen und ein effektives Zero-Shot-Transferlernen auf bisher ungesehene Krebsarten ohne Leistungseinbußen zu demonstrieren.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
Krankenhäuser generieren einen stetigen Strom an schriftlichen Aufzeichnungen. Wenn ein Patient einen Arzt aufsucht, schreibt der Arzt auf, was er sieht, was er vermutet und wie sich der Zustand des Patienten seit dem letzten Besuch verändert hat. Seit Jahrzehnten haben Computer Schwierigkeiten, diese Notizen so zu lesen, dass sie Ärzten bei der Entscheidungsfindung helfen. Die meisten Computerprogramme, die medizinische Texte analysieren, behandeln jede Notiz als ein einzelnes, isoliertes Ereignis. Sie lesen einen Bericht, treffen eine Vermutung und fahren dann mit dem nächsten fort, wobei sie die Geschichte, die zuvor geschah, völlig vergessen. Dieser Ansatz übersieht einen entscheidenden Teil der menschlichen Erfahrung: die Zeit. Die Gesundheit eines Patienten ist eine Reise, kein Schnappschuss. Ein Scan, der heute eine kleine Veränderung zeigt, kann etwas ganz anderes bedeuten, wenn der Patient vor zwei Jahren einen stabilen Scan hatte im Vergleich zu einem, der letzte Woche ein schnelles Wachstum zeigte. Darüber hinaus sind die meisten Computermodelle darauf trainiert, nur eine spezifische Art von Krebs zu verstehen. Ein Programm, das darauf ausgelegt ist, Lungenkrebsberichte zu lesen, scheitert oft, wenn ihm ein Bericht über Schilddrüsenkrebs vorgelegt wird, was Krankenhäuser dazu zwingt, Dutzende von separaten, teuren Systemen aufzubauen und zu warten.
Ein Forschungsteam setzte sich zum Ziel, beide Probleme gleichzeitig zu lösen. Sie entwickelten ein neues Computersystem, das darauf ausgelegt ist, die gesamte Krankengeschichte der Besuche eines Patienten zu lesen, wobei es besonders auf die tatsächlichen Tage und Monate zwischen den Terminen achtet. Sie wollten auch sehen, ob dieses System die allgemeine Sprache der Krebsintensität so gut lernen konnte, dass es auch Krebsarten verstehen kann, die es noch nie gesehen hat. Um dies zu testen, entwarfen sie ein zweiteiliges Experiment. Zuerst bauten sie eine simulierte Welt medizinischer Berichte auf, in der sie die Geschichte exakt kontrollieren konnten, um sicherzustellen, dass der Computer die Zeitlinie nutzen musste, um die richtige Antwort zu erhalten. Zweitens fütterten sie das System mit tausenden echten Pathologieberichten aus einer öffentlichen Datenbank und baten es, die Schwere von Tumoren in Krebsarten zu beurteilen, die dem System während des Trainings völlig verborgen geblieben waren.
Das von ihnen gebaute System arbeitet in zwei deutlichen Phasen, ganz ähnlich wie ein Mensch beim Lesen einer Akte. Die erste Phase liest jeden einzelnen Bericht und wandelt die Wörter in eine dichte Zusammenfassung dessen um, was dieser spezifische Besuch bedeutete. Die zweite Phase betrachtet die Sequenz dieser Zusammenfassungen für einen einzelnen Patienten. Dabei betrachtet sie nicht nur die Reihenfolge der Berichte, sondern misst auch die tatsächliche Zeit, die zwischen ihnen vergangen ist. Wenn ein Patient drei Wochen nach einer Operation einen Scan hat und einen weiteren sechs Monate später, versteht das System, dass das zweite Ereignis viel ferner und bedeutsamer ist, als wenn die Scans nur eine Woche auseinander lägen. Dies ermöglicht es dem Computer, die Geschichte der Krankheit zu gewichten, nicht nur die jüngste Notiz. Um verschiedene Arten von Krebs zu handhaben, verwendet das System ein spezielles Merkmal für jede Krebsfamilie, was es lehrt, dass sich zwar die Wörter ändern mögen, das zugrunde liegende Konzept von „aggressiv“ oder „mild“ jedoch über verschiedene Organe hinweg ähnlich bleibt.
Als die Forscher dieses System mit ihren simulierten Daten testeten, waren die Ergebnisse eindeutig. Der Computer, der die vollständige Zeitlinie und die Zeitabstände zwischen den Besuchen lesen konnte, war signifikant besser darin, den Krankheitsverlauf vorherzusagen, als ein Computer, der nur den neuesten Bericht betrachtete. In einem spezifischen Test, bei dem das System die Prognose für eine Krebsart vorhersagen musste, die es zuvor noch nie gesehen hatte, war das zeitlinienbewusste System weitaus genauer. Es konnte erfolgreich das Wachstumsmuster, das es von anderen Krebsarten gelernt hatte, nutzen, um die neue Art zu verstehen. Dies deutete darauf sich hin, dass die Fähigkeit, Zeit und Geschichte zu verfolgen, ein echter Vorteil war und nicht nur ein Merkelfunktion der Daten.
Der zweite Teil der Studie verlagerte sich von der Simulation zur Realität und nutzte tausende echte Pathologieberichte von Patienten mit vierzehn verschiedenen Krebsarten. Die Forscher trainierten das System auf elf dieser Arten und sperrten die Berichte für die anderen drei, darunter Schilddrüsenkrebs, Sarkom und eine spezifische Art von Lungenkrebs, vollständig weg. Sie baten das System, den Tumorgrad vorherzusagen – ein Maß dafür, wie aggressiv der Krebs ist – für diese ungesehenen Arten. Die Ergebnisse waren beeindruckend. Das System schnitt bei den ungesehenen Krebsarten genauso gut ab wie bei den Arten, für die es trainiert worden war. Es erreichte eine perfekte Punktzahl bei Schilddrüsenkrebs und sehr hohe Werte bei den anderen. Dies bewies, dass das System nicht einfach nur spezifische Wörter für spezifische Krebsarten auswendig gelernt hatte. Stattdessen hatte es eine tiefere, universelle Sprache der Krebsintensität gelernt, die für verschiedene Familien von Krankheiten gilt.
Die Forscher untersuchten daraufhin genau, wie dieser Wissenstransfer stattfand. Sie fanden heraus, dass die Fähigkeit, neue Krebsarten zu verstehen, primlich aus dem anfänglichen Training des Systems auf riesigen Mengen medizinischer Texte resultierte, welches die allgemeine Bedeutung von Wörtern wie „aggressiv“ oder „schlecht differenziert“ vermittelte. Der Teil des Systems, der darauf ausgelegt war, Zeit und Geschichte zu verfolgen, war zwar leistungsstark für das Verständnis von Patientenreisen, aber nicht der Haupttreiber dieses krebsübergreifenden Erfolgs. Im realen Test, bei dem jeder Patient nur einen Bericht hatte, verfügte der zeitverfolgende Bestandteil über keine Historie, die er analysieren konnte, und dennoch war das System erfolgreich. Dies deutet darauf hin, dass die Kernintelligenz zur Erkennung der Krebsintensität bereits im grundlegenden Sprachmodell vorhanden war und darauf wartete, auf neue Situationen angewendet zu werden.
Diese Erkenntnisse eröffnen einen neuen Weg für die medizinische künstliche Intelligenz. Anstatt für jede einzelne Krebsart ein separates, spezialisiertes Computersystem zu bauen, könnten Krankenhäuser schließlich in der Lage sein, ein einziges, einheitliches System zu verwenden. Dieses eine System könnte von häufigen Krebsarten lernen und dieses Wissen sofort auf seltene oder schwierige Arten anwenden, sofern das Konzept der Krankheitsschwere im Text ausgedrückt wird. Während das System immer noch eine sorgfältige Abstimmung benötigt, um Fehlalarme zu vermeiden, zeigt die Studie, dass Computer lernen können, die Geschichte einer Krankheit in verschiedenen Körpern und über verschiedene Zeitrahmen hinweg zu lesen, was uns einem Morgen näher bringt, an dem ein einziges Werkzeug Ärzten helfen kann, die volle Komplexität von Krebs zu verstehen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.