Distilling CT Foundation Models into Editable Concept Bottlenecks for Lung Nodule Malignancy Prediction
Diese Arbeit führt editierbare Concept-Bottleneck-Modelle ein, die Repräsentationen eines eingefrorenen CT-Foundation-Modells in von Radiologen definierte Attribute destillieren, um transparente Vorhersagen der Malignität von Lungenknoten mit einer Diskriminationsleistung zu liefern, die vergleichbar mit der alleinigen Knotengröße ist, während gleichzeitig aufgezeigt wird, dass die Treue der Konzeptwiederherstellung von der zugrunde liegenden Architektur des Foundation-Modells abhängt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem superintelligenten Roboter beizubringen, einen gefährlichen Dieb in einer überfüllten Stadt aufzuspüren. Sie geben dem Roboter eine Brille mit magischen Gläsern, die alles in der Stadt auf einmal sehen kann, aber der Roboter sieht nur ein riesiges, verwirrendes Verschwimmen von Farben und Formen. Er kann Ihnen sagen: „Diese Person ist verdächtig!“, aber er kann nicht sagen, warum. Trägt die Person eine Maske? Rennt sie? Wirkt sie nervös? In der Welt der medizinischen Wissenschaft, speziell bei der Betrachtung von Lungen-CT-Scans, stehen Ärzte genau vor diesem Problem. Sie verfügen über leistungsstarke KI-„Foundation-Modelle“, die Lungenbilder betrachten und erkennen können, ob ein kleiner Klumpen (ein Knoten) Krebs ist, aber diese Modelle agieren wie eine Black Box: Sie liefern eine Antwort, ohne ihren Rechenweg aufzuzeigen. Dies ist riskant, da Ärzte die Begründung verstehen müssen, um der Diagnose zu vertrauen. Um dies zu lösen, versuchen Wissenschaftler, „Concept Bottleneck“-Modelle zu entwickeln. Denken Sie daran, den Roboter dazu zu zwingen, die Merkmale des Diebes in einfachem Englisch zu beschreiben – wie etwa „trägt einen Hut“, „hält eine Tasche“ oder „hinkt“. Wenn der Roboter seine Argumentation mithilfe dieser menschenfreundlichen Hinweise erklären kann, können Ärzte ihm mehr vertrauen und sie können sogar die Hinweise anpassen, um zu sehen, wie sich die Antwort dadurch verändert.
Diese Arbeit wendet diese Idee auf das Lungenkrebs-Screening an. Die Forscher wollten untersuchen, ob sie zwei verschiedene Arten von „magischen Brillen“ (KI-Foundation-Modelle), die bereits darauf trainiert wurden, CT-Scans der Lunge zu betrachten, nehmen und diese dazu zwingen können, Lungenknoten anhand von acht spezifischen Merkmalen zu beschreiben, die auch echte Radiologen verwenden, wie etwa wie „stachelig“ die Ränder sind oder wie „rund“ der Klumpen ist. Sie nutzten diese Beschreibungen anschließend zusammen mit der Größe des Knotens, um vorherzusagen, ob der Knoten bösartig (krebserregend) war.
Hier ist, was sie herausfanden:
Zuerst versuchten sie, die KI darauf zu trainieren, die Lungenknoten zu beschreiben. Sie verwendeten zwei verschiedene KI-Modelle: eines, das die gesamte Brustaufnahme betrachtete (CT-FM), und eines, das eng auf den Knoten selbst zoomte (FMCIB). Sie baten die KI, acht Merkmale vorherzusagen, wie etwa „Spikulation“ (stachelige Ränder) und „Subtilität“ (wie schwer er zu sehen ist). Die Ergebnisse waren etwas gemischt. Das zoomende Modell (FMCIB) war besser darin, die Merkmale zu beschreiben als das Modell der gesamten Brust (CT-FM). Zum Beispiel erreichte das zoomende Modell beim Erraten, wie „stachelig“ ein Knoten war, einen Wert von 0,17, während das Modell der gesamten Brust nur 0,08 erreichte. Dennoch war selbst das bessere Modell nicht perfekt; es hatte immer noch Schwierigkeiten, Merkmale wie „Kalzifizierung“ (harte Stellen) oder „Sphärizität“ (wie rund er ist) präzise zu beschreiben. Dies deutet darauf hin, dass die KI zwar lernen kann, bestimmte Merkmale zu beschreiben, dies aber stark davon abhängt, wie die KI ursprünglich trainiert wurde.
Als Nächstes testeten sie, ob diese „Beschreibungen“ tatsächlich halfen, Krebs vorherzusagen. Sie bauten ein System auf, das die Beschreibungen der KI zusammen mit der tatsächlichen Größe des Knotens nahm, um eine Vorhersage zu treffen. Die Ergebnisse waren überraschend. Das System, das die Beschreibungen der KI verwendete, schnitt genauso gut ab wie ein System, das nur nach der Größe des Knotens betrachtete. In ihrem internen Test erhielten beide Systeme einen Wert von 0,86 (ein Maß dafür, wie gut die Vorhersage ist). In einem externen Test mit anderen Patienten lagen beide bei etwa 0,72 bis 0,73. Interessanterweise schnitten die KI-Modelle, die versuchten, Krebs vorherzusagen, ohne die Beschreibungen zu nutzen (indem sie nur die Rohdaten betrachteten), tatsächlich schlechter ab und erreichten nur 0,60 bis 0,67.
Was bedeutet das also? Die Hauptbotschaft ist, dass die „Beschreibungen“ der KI die Vorhersage nicht genauer machten als die bloße Messung der Größe des Klumpens. Tatsächlich war die Größe des Knotens der stärkste Prädiktor überhaupt. Die „Beschreibungen“ taten jedoch etwas sehr Wertvolles: Sie machten die KI transparent. Da das Modell gezwungen war, menschendefinierte Konzepte zu verwenden, konnten die Ärzte genau sehen, welche Merkmale zum Krebsrisiko beitrugen. Sie konnten sogar ein „Was wäre wenn“-Spiel spielen: Sie konnten der KI sagen: „Stell dir vor, dieser Knoten ist weniger stachelig“, und beobachten, wie das vorhergesagte Risiko sinkt. Dies beweist, dass die KI zwar nicht zu einem besseren Vorhersagemodell wurde, indem sie diese Konzepte nutzte, sie aber zu einem viel besseren Erklärer wurde. Die Studie legt nahe, dass wir zwar komplexe KI in verständliche Konzepte destillieren können, die Qualität dieser Konzepte jedoch von der zugrunde liegenden KI abhängt, und dass für den Moment die Größe des Klumpens der wichtigste Hinweis bleibt, um Lungenkrebs aufzuspüren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.