BioMod: Biological Module Tokenization for Single-Cell Foundation Modeling

Zellen sind die grundlegenden Einheiten des Lebens, von denen jede eine einzigartige Bedienungsanleitung trägt, die in der Sprache der Gene geschrieben ist. Wenn Wissenschaftler verstehen wollen, wie ein Körper funktioniert oder warum eine Krankheit Fuß fasst, betrachten sie oft diese Anweisungen in einzelnen Zellen. Dieses Feld, bekannt als Einzelzellbiologie, ermöglicht es Forschern, die unverwechselbare Identität jeder Zelle in einem Gewebe zu sehen, vom schlagenden Herzmuskel bis hin zur kämpfenden Immunzelle. Die schiere Menge an Daten ist jedoch überwältigend. Eine einzige Zelle enthält tausende aktive Gene, und moderne Experimente können Millionen von Zellen gleichzeitig erfassen. Um aus diesem Ozean an Informationen Sinn zu gewinnen, haben sich Forscher der künstlichen Intelligenz zugewandt, speziell den sogenannten „Foundation Models“. Dies sind leistungsstarke Computerprogramme, die auf massiven Datensätzen trainiert wurden, um die zugrunde liegenden Regeln der Biologie zu erlernen, ganz ähnlich wie ein Sprachmodell die Regeln der Grammatik lernt, indem es riesige Bibliotheken von Texten liest. Das Ziel ist es, ein System zu schaffen, das die Art einer Zelle erkennen, vorhersagen kann, wie sie auf ein Medikament reagieren wird, oder verstehen kann, wie sie sich verändert, wenn ein Gen modifiziert wird – und das alles, ohne für jede neue Frage neu trainiert werden zu müssen.

Die Herausforderung bestand darin, wie man diese Informationen in den Computer einspeist. Die meisten bestehenden Modelle behandeln jedes einzelne Gen in einer Zelle wie ein separates Wort in einem Satz. Wenn eine Zelle 20.000 aktive Gene besitzt, muss der Computer eine Sequenz von 20.000 Elementen verarbeiten. Dies ist rechenintensiv und zwingt die KI dazu, komplexe Beziehungen zwischen Genen von Grund auf neu zu ergründen, wobei sie oft damit zu kämpfen hat, dass viele Gene in einer gegebenen Zelle stumm oder kaum aktiv sind. Ein Team von Forschern des Shenzhen Loop Area Institute und der Chinese University of Hong Kong, Shenzhen, schlug einen anderen Ansatz vor. Sie fragten sich, ob Zellen effizienter verstanden werden könnten, indem man Gene bereits vor Beginn der Analyse des Computers in funktionale Teams gruppiert. In der Natur arbeiten Gene selten allein; sie agieren in koordinierten Gruppen, die Pfade oder Module genannt werden, um spezifische Aufgaben zu erfüllen, wie etwa die Bekämpfung einer Infektion oder die Reparatur der DNA. Die Forscher stellten die Hypothese auf, dass der Computer schneller lernen, weniger Energie verbrauchen und vielleicht die Biologie tiefergehend verstehen könnte, wenn man diese biologischen Teams als einzelne Einheiten darstellen würde.

Um diese Idee zu testen, entwickelte das Team ein neues Modell namens BioMod. Anstatt dem Computer eine Liste von tausenden einzelnen Genen einzuspeisen, organisierten sie die Gene zuerst in 660 überlappenden biologischen Modulen. Diese Module wurden aus einer Mischung bekannter biologischer Pfade, die in wissenschaftlichen Datenbanken zu finden sind, und neuer Gen-Gruppen zusammengesgestellt, die durch die Analyse von Mustern in Einzelzelldaten entdeckt wurden. Ein einzelnes Gen kann mehreren Modulen angehören, was die Realität widerspiegelt, dass ein Gen an mehreren verschiedenen biologischen Prozessen gleichzeitig beteiligt sein kann. Für jede Zelle erstellten die Forscher eine kompakte Repräsentation, die aus nur 660 Token besteht – eines für jedes Modul, statt tausender Token für einzelne Gene. Dieser Prozess ähnelt der Art und Weise, wie ein Mensch eine lange Geschichte zusammenfasst, indem er nicht jedes Wort auflistet, sondern die Hauptthemen und Charaktere identifiziert. Das Modell wurde anschließend auf einem massiven Datensatz von etwa 73 Millionen menschlichen Zellen trainiert, der 25 verschiedene Organe und Gewebe abdeckt, darunter das Gehirn, das Blut und die Lunge. Während des Trainings wurde dem Computer der Großteil dieser Modul-Zusammenfassungen gezeigt, und er musste die fehlenden Teile erraten, was ihn zwang, die tiefen Verbindungen zwischen verschiedenen biologischen Programmen zu erlernen.

Die Ergebnisse zeigten, dass diese Methode der Gruppierung von Genen bemerkenswert gut funktionierte. BioMod, das etwa 50 Millionen Parameter – ein Maß für seine Komplexität – enthält, war in der Lage, ebenso gut wie oder oft sogar besser als viel größere Modelle zu performen, die Milliarden von Parametern verwenden und einzelne Gene verarbeiten. In Tests zur Identifizierung von Zelltypen klassifizierte das Modell Zellen über verschiedene Gewebe hinweg mit hoher Genauigkeit und übertraf damit oft bisherige State-of-the-Art-Systeme. Es zeichnete sich auch dadurch aus, vorherzusagen, wie Zellen auf genetische Veränderungen reagieren würden, etwa wenn ein spezifisches Gen ausgeschaltet wird, sowie wie Krebszellen auf verschiedene Medikamente reagieren würden. Einer der bedeutendsten Funde war die Effizienz des Modells. Da es eine Sequenz von nur 660 Elementen anstelle von Tausenden verarbeitet, läuft es auf Computerhardware signifikant schneller. Auf einer Standard-Hochleistungs-Grafikkarte konnte BioMod hunderte von Zellen pro Sekunde verarbeiten, während andere Modelle Schwierigkeiten hatten, selbst einige Dutzend zu handhaben, ohne den Speicher zu überlasten. Diese Geschwindigkeit macht es möglich, massive Datensätze auf einer einzigen Maschine zu analysieren – eine Aufgabe, die zuvor teure, groß angelegte Rechencluster erforderte.

Die Forscher wollten auch wissen, ob die spezifische Art und Weise, wie sie die Gene gruppierten, tatsächlich entscheidend war oder ob der Erfolg lediglich auf der Architektur des Modells beruhte. Um dies herauszufinden, erstellten sie eine Kontrollversion des Modells, bei der die Gene zufällig in die Module gemischt wurden, wodurch die natürlichen biologischen Beziehungen zerstört wurden, während die Anzahl der Module und die Struktur des Modells exakt gleich blieben. Als sie diese gemischte Version testeten, sank deren Leistung signifikant. Sie wurde schlechter darin, Zelltypen zu identifizieren, Daten aus verschiedenen Experimenten zu integrieren und auf Medikamentenreaktionen zu reagieren. Dies bestätigte, dass die biologische Organisation der Gene nicht nur eine praktische Abkürzung war; die spezifischen, bedeutungsvollen Verbindungen zwischen den Genen in den Modulen waren essenziell für den Erfolg des Modells. Die Analyse zeigte weiter, dass das Modell gelernt hatte, auf die richtigen Dinge zu achten. Als die Forscher untersuchten, welche Module am wichtigsten für die Identifizierung eines bestimmten Zelltyps waren, fanden sie heraus, dass das Modell stark auf Module vertraute, die bekannte Marker-Gene für diese Zelle enthielten. Wenn sie diese Schlüsselmodule verbargen, brach die Fähigkeit des Modells, die Zelle zu identifizieren, zusammen, was bewies, dass es die korrekte biologische Logik erlernt hatte und nicht bloß Muster auswendig gelernt hatte.

Diese Arbeit legt nahe, dass die Zukunft der biologischen KI möglicherweise nicht darin liegt, immer größere Modelle zu bauen, die versuchen, jedes einzelne Detail einer Zelle zu verarbeiten, sondern in der Entwicklung von Systemen, die die natürliche Organisation der Biologie respektieren. Durch die Übersetzung der komplexen Sprache der Gene in die funktionale Sprache biologischer Module demonstriert BioMod, dass ein kleineres, effizienteres Modell überlegene Ergebnisse erzielen kann. Es bietet einen neuen Weg, die gewaltigen Informationen der Zelle in eine Form zu komprimieren, die Computer mit Leichtigkeit handhaben können, und öffnet so die Tür zu schnelleren und präziseren Analysen der menschlichen Gesundheit und Krankheiten. Die Studie behauptet nicht, alle Probleme der Einzelzellbiologie gelöst zu haben, aber sie liefert starke Beweise dafür, dass die direkte Integration biologischen Wissens in die Struktur von KI-Modellen zu leistungsfähigeren und effizienteren Werkzeugen für das Verständnis des Lebens auf seiner fundamentalsten Ebene führen kann.