Generalization of Self-Supervised Vision Transformers for Protein Localization Across Microscopy Domains
Diese Studie zeigt, dass selbstüberwachte Vision Transformer, die auf großskaligen Mikroskopie-Datensätzen, insbesondere dem Human Protein Atlas, vortrainiert wurden, effektiv auf Aufgaben der Proteinlokalisierung über verschiedene Mikroskopie-Domänen hinweg generalisieren und dabei selbst bei begrenzten aufgabenspezifischen gelabelten Daten eine überlegene Leistung erbringen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, wo bestimmte Proteine innerhalb einer menschlichen Zelle leben. Es ist, als würde man versuchen, einem Kind beizubringen, seine Spielzeuge in einem unordentlichen Kinderzimmer zu finden, aber die „Spielzeuge“ sind mikroskopisch klein und das „Kinderzimmer“ ist eine komplexe, leuchtende biologische Landschaft.
Normalerweise muss man einen Roboter (oder ein Computermodell) sehr gut trainieren, indem man ihm tausende von Beispielen zeigt, bei denen ein Mensch bereits genau markiert hat, wo sich jedes Protein befindet. Aber in der Biologie ist es teuer, langsam und schwierig, solche beschrifteten Beispiele zu erhalten. Es ist, als würde man versuchen, für jedes einzelne Zimmer in einem riesigen, unerforschten Museum einen Reiseleiter einzustellen.
Die große Idee: Lernen ohne Lehrer
Diese Arbeit untersucht einen klügeren Weg: Selbstüberwachtes Lernen (Self-Supervised Learning). Anstatt für jeden Raum einen Reiseleiter einzustellen, lässt man den Roboter zuerst auf eigene Faust das Museum erkunden. Er betrachtet Millionen von Bildern, lernt, wie „Wände“, „Böden“ und „Ecken“ aussehen, und baut so ein allgemeines Verständnis für den Raum auf. Dies wird als DINO bezeichnet (eine Art von KI-Modell).
Die Forscher stellten eine entscheidende Frage: Wenn wir einen Roboter mit Bildern natürlicher Dinge (wie Katzen und Autos) oder mit Bildern eines ganz bestimmten Zelltyps trainieren, kann er dann immer noch eine gute Arbeit leisten, wenn wir ihn bitten, in einem völlig anderen Zelltyp zu navigieren, den er noch nie zuvor gesehen hat?
Die drei „Lehrer“ (vorab trainierte Modelle)
Um dies zu testen, verwendeten die Forscher drei verschiedene „Lehrer“ (KI-Modelle, die bereits etwas gelernt hatten), um ein neues Rätsel zu lösen (die Proteinlokalisierung im OpenCell-Datensatz):
- Der Generalist (ImageNet): Dieses Modell wurde mit 1,2 Millionen Fotos von Alltagsgegenständen (Hunden, Autos, Landschaften) trainiert. Es weiß, wie Formen und Texturen in der realen Welt aussehen, hat aber noch nie eine Zelle gesehen.
- Der Spezialist (HPA): Dieses Modell wurde mit einem massiven Datensatz menschlicher Zellen (dem Human Protein Atlas) trainiert. Es kennt die spezifische „Sprache“ der Zellbiologie, einschließlich der Art und Weise, wie verschiedene Teile einer Zelle unter einem Mikroskop leuchten.
- Der lokale Experte (OpenCell): Dieses Modell wurde von Grund auf speziell für den Datensatz trainiert, den die Forscher untersuchen wollten. Es ist wie ein Schüler, der nur für genau die Prüfung gelernt hat, die er gleich ablegen muss.
Das Übersetzungsproblem (Kanäle)
Es gab einen Haken. Die „Generalisten“- und „Spezialisten“-Modelle erwarteten Eingaben in einem bestimmten Format (als ob sie ein 3-farbiges Gemälde erwarten würden), aber die neuen Daten hatten nur 2 Farben (Kanäle).
- Kanal-Replikation: Die Forscher versuchten, dasselbe Bild in mehrere Steckplätze zu kopieren, um die Lücke zu füllen. Es war, als würde man versuchen, ein quadratisches Loch in eine runde Öffnung zu passen, indem man den Stift einfach nur größer macht.
- Kanal-Mapping: Sie passten die spezifischen Teile des neuen Bildes sorgfältig den Teilen an, die das Modell verstand (z. B. das „Zellkern“-Signal mit dem „grünen“ Kanal abzugleichen, den das Modell kannte). Dies war, als würde man einen Übersetzer benutzen, um die Sprache des Modells zu sprechen.
Die Ergebnisse: Wer hat gewonnen?
Als sie diese Modelle bei der neuen Aufgabe der Proteinlokalisierung testeten:
- Der Spezialist (HPA) gewann. Obwohl er mit einem anderen Satz von Zellen trainiert wurde als der Testdatensatz, schnitt er am besten ab. Er erreichte einen Wert von 0,822.
- Warum? Er hatte bereits die „Vokabeln“ der Zellbiologie gelernt. Er wusste, wie Zellen aussehen, wie sie strukturiert sind und wie Licht mit ihnen interagiert. Es war wie ein Koch, der weiß, wie man italienisch kocht, und dann gebeten wird, französisch zu kochen; er beherrscht dennoch die Grundlagen des Kochens besser als jemand, der noch nie gekocht hat.
- Der Generalist (ImageNet) kam an zweiter Stelle. Er erreichte 0,805.
- Warum? Obwohl er noch nie eine Zelle gesehen hatte, lehrte ihn sein massives Training an 1,2 Millionen natürlichen Bildern so starke Muster von Formen und Texturen, dass er die Zellstruktur überraschend gut erfassen konnte.
- Der lokale Experte (OpenCell) kam überraschenderweise an dritter Stelle. Das Modell, das direkt mit den spezifischen Testdaten trainiert wurde, erzielte ein etwas niedrigeres Ergebnis (0,791) als der Spezialist.
- Warum? Der OpenCell-Datensatz ist viel kleiner (etwa 38 Mal kleiner als der HPA-Datensatz). Das Modell hatte nicht genug Daten, um so tiefgreifend zu lernen wie der Spezialist. Es ist wie ein Schüler, der nur ein Kapitel eines Lehrbuchs gelernt hat, gegenüber einem Schüler, der die ganze Bibliothek studiert hat; derjenige, der die Bibliothek studiert hat, hatte ein besseres Verständnis des Fachs, selbst wenn der Test nur ein spezifisches Kapitel betraf.
Das Fazit
Die Arbeit kommt zu dem Schluss, dass man nicht immer einen riesigen, perfekt beschrifteten Datensatz für jede neue Aufgabe benötigt. Wenn man ein Modell verwendet, das bereits aus einem großen, verwandten Datensatz (wie dem HPA) gelernt hat, kann es dieses Wissen auf einen neuen, kleineren Datensatz „übertragen“ und besser abschneiden als ein Modell, das nur mit diesem kleinen Datensatz trainiert wurde.
Darüber hinaus spielt es eine Rolle, wie man die Daten in das Modell einspeist. Das „Mapping“ der Kanäle (das Übersetzen der Daten) funktionierte besser als das bloße Kopieren der Kanäle.
Kurz gesagt: Ein Modell, das an einer riesigen, verwandten Bibliothek von Zellbildern trainiert wurde, ist ein besserer „Reiseführer“ für einen neuen, kleineren Satz von Zellen als ein Modell, das nur diesen spezifischen kleinen Satz studiert hat. Dies spart Wissenschaftlern Zeit und Geld, da sie nicht für jedes neue Experiment tausende neuer beschrifteter Beispiele erstellen müssen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.